חברת אנת'רופיק, מהחברות המובילות בעולם בפיתוח בינה מלאכותית, הודיעה שחסמה גישה למודלים שלה עבור גורמים שניסו להשתמש בהם לצורך פיתוח נשק ביולוגי. כן, קראתם נכון. זה לא סרט מדע בדיוני, זו הודעה רשמית של החברה.
בהודעה שפרסמה החברה נכתב כי מדובר ב"אחד האיומים הבולטים והחדשניים ביותר שזיהינו עד היום". ניסוח שמעורר לא מעט שאלות, אבל גם מרגיע קצת: מישהו בכל זאת שם לב לפני שקרה אסון.
אנת'רופיק, שעומדת מאחורי מודל השפה קלוד (Claude), נחשבת לאחת החברות שמרבות להצהיר על חשיבות הבטיחות בפיתוח בינה מלאכותית. לא פעם היא מציגה את עצמה כחלופה ה"אחראית" יותר בשוק, בניגוד לחברות מתחרות שרצות קדימה בלי להסתכל אחורה.
הפעם, לפי ההודעה, מדובר במקרה שבו גורמים ניסו לרתום את יכולות המודל כדי לקבל סיוע בתהליכי פיתוח של נשק ביולוגי. החברה לא נכנסה לפרטים מלאים על זהות המשתמשים או האופן המדויק שבו ניסו לעקוף את מנגנוני ההגנה, אבל הבהירה שהצליחה לזהות את הניסיון ולחסום אותו בזמן.
זה בדיוק התרחיש שממנו חוששים כל מי שעוסק בוויסות בינה מלאכותית בשנים האחרונות. מודלים חכמים שיודעים לענות כמעט על הכל, כולל שאלות שבעבר דרשו ידע מדעי מעמיק, יכולים תיאורטית לקצר תהליכים שהיו אמורים לקחת שנים למי שמנסה לפתח נשק מסוכן.
זו לא הפעם הראשונה שחברות בינה מלאכותית נאלצות להתמודד עם ניסיונות שימוש לרעה במודלים שלהן. אבל ההודעה של אנת'רופיק בולטת בכך שהיא מתייחסת ספציפית לנשק ביולוגי, קטגוריה שנחשבת לאחת המסוכנות ביותר מבין תרחישי הסיכון שמלווים את התפתחות הטכנולוגיה.
בתעשיית הבינה המלאכותית כבר תקופה מדברים על הצורך במנגנוני בקרה חזקים יותר, בדיוק בשביל מקרים כאלה. חברות כמו אנת'רופיק, אופן איי איי וגוגל משקיעות משאבים לא מבוטלים בצוותי בטיחות שתפקידם לזהות ניסיונות שימוש לרעה במודלים, לפני שהם הופכים לבעיה אמיתית.
עדיין לא ברור אם המקרה הספציפי הזה יוביל לשינויים רגולטוריים או להחמרה נוספת במדיניות השימוש של אנת'רופיק. מה שברור הוא שהאירוע הזה מזכיר לכולנו שהבינה המלאכותית, לצד כל היתרונות שהיא מביאה, נושאת גם סיכונים אמיתיים שדורשים ערנות מתמדת.
**סיכום**: אנת'רופיק חסמה ניסיון להשתמש במודלי הבינה המלאכותית שלה לפיתוח נשק ביולוגי, ותיארה זאת כאחד האיומים המשמעותיים שזיהתה עד כה.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה