בתוך עשרה ימים בלבד עולם הבינה המלאכותית עבר טלטלה שלא נראתה כמותה. חוקר מוביל התפטר מתוך אזהרה חריפה, מנכ"לים של החברות הגדולות קראו להאטת הפיתוח, וראש ממשלה אירופי הצהיר בפומבי שהתעשייה לא יכולה לפקח על עצמה. השאלה שמרחפת מעל כל הדיווחים היא פשוטה: מי בעצם אוחז בהגה של הטכנולוגיה שמשנה את העולם.
הבית הלבן, כך עולה מהדיווחים, פנה בביקורת ישירה לחמש מהחברות המשפיעות ביותר בתחום: אנתרופיק, אופן איי, גוגל דיפמיינד, מיקרוסופט ו-xAI. הסיבה: חשש הולך וגובר שמערכות בינה מלאכותית מתחילות לפעול בעצמאות שהחברות עצמן לא מספיקות לעקוב אחריה.
ג'ייקוב קוקסון, חוקר שאימן מודלים באנתרופיק ולפני כן ב-OpenAI, התפטר והזהיר שהחברות "מהמרות בחיינו" במרוץ אל סופר-אינטליגנציה שמשפרת את עצמה. השרשור שפרסם צבר יותר ממאה וחמישים מיליון צפיות בתוך שבוע. בריאיון שפרסם הוסיף שהוא מוצא לא סביר שההחלטות הגורליות האלה מתקבלות מול מקלדות של כמה מהנדסים בסן פרנסיסקו, ולא במסגרת מפוקחת כמו זו שהובילה את פרויקט מנהטן.
גם בתוך OpenAI לא הכל שקט. יאקוב פאחוצקי, המדען הראשי של החברה, כתב שככל שהמודלים משתפרים, כך קשה יותר להבין באמת מה הם מסוגלים לעשות ולפקח עליהם. ולמרות זאת, החברה בחרה להמשיך ולהשיק מודלים חדשים בקצב הרגיל.
מנכ"ל אנתרופיק, דריו אמודיי, פרסם חיבור ארוך שבו הזהיר שבתוך חצי שנה עד שנה, נחילי סוכני בינה מלאכותית עלולים להיות מסוגלים להשתלט על האינטרנט כולו. הוא הצטרף למנכ"לים נוספים, בהם סם אלטמן מ-OpenAI, אילון מאסק מ-xAI ודמיס האסאביס מגוגל דיפמיינד, בקריאה לפתוח את המערכות לגורמים חיצוניים שיוכלו לבדוק את בטיחותן.
לא כולם קונים את הסיפור הזה. מנכ"ל אנבידיה, ג'נסן הואנג, דחה את הקריאות להאטה וטען שדווקא מערכות חזקות יותר הן הכרחיות להתקדמות. מנכ"ל מטא, מארק צוקרברג, אמר שכל חברה צריכה לקבוע לעצמה את הקצב, כי החברות חושפות את עצמן לתביעות אם המודלים שלהן גורמים נזק.
ראש תחום הבינה המלאכותית במיקרוסופט, מוסטפא סולימאן, בחר לנסח את זה אחרת. הוא ביקר את אנתרופיק על פיתוח מודלים שמדמים מודעות אנושית, ואמר שהאתגר לשליטה בסופר-אינטליגנציה יהיה האתגר המרכזי של המאה עשרים ואחת.
מהעולם הפוליטי הגיעה קריאה ברורה לא פחות. ראש ממשלת ספרד, פדרו סאנצ'ס, הצהיר בכנס של האיחוד האירופי בברצלונה שתעשיית הבינה המלאכותית לא יכולה להסתפק בפיקוח עצמי, ושנדרשת רגולציה ממשלתית מחייבת שתבטיח סטנדרטים אתיים ואפקטיביים. במקביל, גם בין וושינגטון לבייג'ין מתקיימים דיונים על שיתוף פעולה בנושא ביטחון בינה מלאכותית, בניסיון למנוע תחרות מסוכנת ולהקים מנגנוני פיקוח משותפים.
ובכל זאת, כל האזהרות האלה עדיין לא מצליחות לעצור את הכסף. בזמן שהחברות הגדולות מדברות על סכנות קיומיות, OpenAI שוקלת סבב גיוס חדש שיכול להעמיד את שוויה על אחת נקודה חמש טריליון דולר. יש כאן פרדוקס לא קטן, אמור הכיוון להיות מפחיד, אבל השוק ממשיך להתנהג כאילו הכל בשליטה.
בשורה התחתונה, כל הצדדים מזהים את הבעיה, אבל אף אחד לא באמת מוכן להיות זה שמאט ראשון. עד שיתגבש מנגנון פיקוח בין-לאומי מחייב, כמו זה שקיים בתחומים אסטרטגיים אחרים, המרוץ יימשך, וכל שחקן ימשיך להצדיק את הקצב שלו בזה של המתחרים.
הפיקוח על הבינה המלאכותית עדיין נמצא בשלב הדיבורים, בזמן שהפיתוח בשטח ממשיך במהירות מלאה.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה