שבוע אחד, אזהרה אחת, ורעש גדול בעולם הבינה המלאכותית. החוקר ג'ייקוב קוקסון, בן 27 מבריטניה, הודיע השבוע על התפטרותו מחברת אנתרופיק בפוסט שצבר יותר מ-150 מיליון צפיות ברשת. המסר שלו היה ברור וקשה: "האנשים שבונים את הבינה המלאכותית מאמינים באמת שיש סיכוי שהיא תהרוג אותנו עד סיום העשור".
קוקסון עבד בשלוש השנים האחרונות על אימון מודלים, גם ב-OpenAI וגם באנתרופיק. הוא סיפר שעבר בין החברות בגלל תדמיתה של אנתרופיק כמי ששמה דגש על בטיחות, אבל בפועל, לדבריו, "אף אחת מהחברות לא מתנהגת בצורה אחראית". את המרוץ בין החברות הוא כינה בפשטות "הימור מתנשא".
הדברים לא נשארו רק שלו. שעות אחרי הפוסט הצטרף אליו עמיתו לשעבר אוון הובינגר, מוביל תחום ההתאמה באנתרופיק, וכתב ברשת X: "אנחנו באמת מאמינים ברצינות שהבינה המלאכותית תוכל להרוג את כל בני האדם. אישית, הסיכוי נראה לי גדול מ-10 אחוזים בעשור הקרוב".
ואז הצטרפו עוד ועוד קולות מבפנים. סמואל מארקס, מנהל פיקוח באנתרופיק, כתב שככל שהגורם בתעשייה בכיר יותר, כך הוא מודאג יותר. אנה וואנג, חוקרת בטיחות שעברה מגוגל לאנתרופיק, אמרה שהתחושה של קוקסון נפוצה מאוד בקרב עמיתיה. אפילו המדען הראשי של OpenAI, יאקוב פאצ'וקי, פרסם מאמר שקרא ל"זהירות חמורה" וכינה את הרעיון לדהור קדימה בכל מחיר "אבסורדי".
הרעש הזה לא נשאר בגבולות עמק הסיליקון, הוא הגיע ישר לוושינגטון. חברת הקונגרס לורי טראהן אמרה שהטלפון שלה "לא הפסיק לצלצל" השבוע, מדמוקרטים ומרפובליקנים שרוצים לראות פעולה. לדבריה, התמיכה הדו-מפלגתית הגיעה ל"נקודת מפנה".
בפועל כבר יש על השולחן כמה הצעות חוק. חוק בשם FRONTIER Act נועד ליצור מסגרת פיקוח על מודלים מתקדמים, ולצדו הוצע חוק שמחייב חברות בינה מלאכותית לשמור על יכולת "לכבות" את המערכות שלהן במקרה חירום. הסנטור ברני סנדרס הודיע שיקדם חוק שיאסור על פיתוח בינה מלאכותית-על עד שהממשלה תקבע כללי בטיחות ברורים. "הוא צודק", כתב סנדרס על קוקסון. "עצם האנשים שבונים את הטכנולוגיה הזאת מודים שהיא עלולה לאיים על עתיד האנושות".
הבית הלבן כבר נכנס לתמונה בעבר, כשהנשיא טראמפ חתם ביוני על צו נשיאותי בנושא בינה מלאכותית שביקש מהחברות להגיש מודלים לבדיקה מרצון לפני השקה מלאה. עם זאת, טראמפ עצמו דחה השבוע את החששות מהכחדת האדם, ואמר לעיתונאים כי "אם לא ננצח במרוץ הבינה המלאכותית, נהיה במצב גרוע מאוד".
מצד החברות עצמן, לפי דיווחים, מנכ"ל OpenAI סם אלטמן אמר לעובדים שהחברה פתוחה להאט את קצב ההתקדמות אם הבטיחות תחייב זאת. אנתרופיק מסרה בתגובה כי היא "ממשיכה לבנות מודלים עם כמה מאמצעי הבטיחות החזקים בתעשייה" ובודקת באגרסיביות אם יש למודלים שלה יכולות מסוכנות.
חשוב לזכור, זו לא האזהרה הראשונה מסוג הזה. בפברואר עזב חוקר בכיר נוסף מאנתרופיק והצהיר ש"העולם בסכנה", ובספטמבר יצא ספר של חוקרי בינה מלאכותית שהזהיר שאם מישהו יבנה בינה מלאכותית-על, "כולם ימותו". מה שהשתנה השבוע הוא הכמות והזהות של המזהירים, אנשים שעדיין עובדים או עבדו ממש עד לאחרונה בתוך המעבדות המובילות בעולם.
הקונגרס והסנאט נמצאים כרגע כמעט בהפסקה עד לבחירות האמצע, כך שסיכוי לחקיקה בטווח הקרוב נמוך. אבל כמה חברי קונגרס כבר קוראים להקים ועדה קבועה שתעסוק רק בבינה מלאכותית בתחילת הכנסת הבאה, כשברור לכולם שהשיחה הזאת רק מתחילה.
התפטרות אחת, ציוץ אחד, ורעש שהגיע עד וושינגטון: שאלת הבטיחות בבינה מלאכותית חזרה לכותרות בעוצמה שלא נראתה זמן רב.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה