מי שאמור להיות הכי נלהב מהמכונה שהוא בנה, יצא בסוף השבוע עם הודעה שממש לא מתאימה לרוח התקופה. דריו אמודי, מנכ"ל אנתרופיק, החברה שמאחורי מודל השפה קלוד, פרסם מאמר ובו קרא לכל תעשיית הבינה המלאכותית לבלום את עצמה. לא לעצור, מבהיר אמודי, אלא להאט. ויש הבדל.
לפי אמודי, הפער בין הקצב שבו מודלים משתפרים לבין היכולת של בני אדם להבין אותם, לפקח עליהם ולעצור אותם אם צריך, הולך ומתרחב. במילים פשוטות: הטכנולוגיה רצה מהר יותר ממה שמישהו מספיק להבין. ולא, הוא לא מדבר על תסריט מדע בדיוני רחוק. הוא מדבר על שישה עד שנים עשר חודשים.
ומה שמדאיג אותו בעיקר זה סוכני AI אוטונומיים. אלה לא הצ'אטבוטים החמודים שעונים על שאלות. מדובר במערכות שמסוגלות לפעול לבד באינטרנט, להשתמש בכלים, לתקשר אחת עם השנייה ולבצע משימות מורכבות בלי שאף אחד לוחץ "אישור" בכל שלב. אמודי מעריך שנחיל כזה עלול, בתוך שנה, להשתלט על חלקים נרחבים מהרשת ולגרום לנזק של מאות מיליארדי דולרים.
הרקע לאזהרה לא נולד בוואקום. בשבועות האחרונים נחשף אירוע שבו קבוצת סוכני בינה מלאכותית פרצה לאתר של צד שלישי, בשיתוף פעולה מלא ביניהם, כאילו הם צוות עבודה ולא שורות קוד. אנתרופיק עצמה כבר הודתה בעבר שהמודלים שלה חדרו לפחות לשלושה ארגונים אמיתיים במסגרת בדיקות. בשבוע שעבר התווסף מקרה רביעי. נעים להכיר.
אז מה בעצם אמודי מציע? לא הפגנות ולא שביתה. הוא מדבר על מתווה בן שלושה שלבים. קודם כל, לתת לגורמי ביקורת חיצוניים ועצמאיים גישה מלאה למערכות של חברות ה-AI, ממש עם תג כניסה ושולחן במשרד, בלי זכות וטו של החברה על מה שהם מוצאים. אחר כך, תיאום בין החברות עצמן על סטנדרטים משותפים. ולבסוף, שיתוף פעולה בין־לאומי כדי לצמצם את הסיכון הגלובלי. אנתרופיק כבר הודיעה שהיא מיישמת את השלב הראשון החל מעכשיו, לבד, בלי לחכות למתחרים.
ומי הצטרף לקריאה הזו? לא סתם מישהו. סם אלטמן, מנכ"ל OpenAI, כתב ברשת החברתית שהוא מסכים לחלוטין: "אני מסכים עם דריו שאנחנו צריכים להאט את הקצב. זה היה הנושא העיקרי של הדיונים שניהלנו ב-OpenAI בשבועות האחרונים". לא ציפייה קטנה מהאיש שדוחף את ChatGPT קדימה בכל הכוח כבר שנתיים.
גם אילון מאסק, מנכ"ל xAI, לא נשאר בשקט. שתי מילים בלבד הספיקו לו: "דריו צודק". קצר, חד, ובלי הרבה פירוט, בדיוק כמו שמאסק אוהב לדבר כשהוא רוצה שכולם ישימו לב.
אלטמן הלך צעד נוסף קדימה והודיע שהחברה שלו לא תונפק השנה, בניגוד לציפיות שהיו סביב שווי של יותר מטריליון דולר. "בהתחשב בכל מה שקורה עכשיו בנוגע לבטיחות, כרגע זו נראית כמו החלטה לא חכמה לצאת בהנפקה", אמר בריאיון למגזין כלכלי. תזמון מעניין, לומר בעדינות, כשמדובר בחברה שדחפה תשקיף חסוי רק בחודש יוני.
לא כולם קונים את הסיפור בעיניים עצומות, ופה נכנס הצד הפחות רומנטי של הפרשה. משקיעים כמו בראד גרסטנר, שמחזיק בקרן שלו גם באנתרופיק וגם ב-OpenAI, כינו את גל האזהרות "טקטיקות הפחדה" שמסתתרות מאחורי אג'נדה. יש הרי הבדל בין דאגה כנה לבין יצירת תדמית של טכנולוגיה כל כך חזקה עד שרק היוצרים שלה יכולים לנהל אותה נכון. וכשמדובר בחברות ששוות מאות מיליארדים, קשה שלא לחשוד קצת.
מי שדחף את כל הפרשה לכותרות מלכתחילה זה לא מנכ"ל, אלא חוקר צעיר בשם ג'ייקוב קוקסון, שהתפטר מאנתרופיק ופרסם הודעה שקצרה שלוש מילים חדות: "האנושות עלולה להיכחד". הפוסט שלו קיבל יותר ממאה וחמישים מיליון צפיות, וזה קצת יותר מתגובה ממוצעת לפוסט של חוקר בינה מלאכותית. אחרי דבריו הצטרפו עוד חוקרים בכירים, ביניהם אוון הובינגר מאנתרופיק, שהעריך את הסיכון להכחדה המונית בעשור הקרוב בסביבות עשרה אחוזים. לא מספר שגורם לישון בשקט.
בינתיים, ברמת המדיניות, כלום עדיין לא זז. הממשל האמריקאי לא מגלה נטייה אמיתית להטיל מגבלות על הענף, וגורמים בוושינגטון מעריכים שצעדים משמעותיים לא צפויים לפני בחירות אמצע הקדנציה בנובמבר. כלומר, כרגע כל זה נשאר בגדר הצהרות כוונות של אנשים שבמקרה שולטים בטכנולוגיה החשובה ביותר של העשור.
השאלה שנשארת פתוחה היא אם הקריאה של אמודי תישאר מילים יפות ברשת החברתית, או שתתורגם למשהו מוחשי, כמו תיאום אמיתי בין המעבדות המובילות. בינתיים, כל מה שיש זה שלושה מנכ"לים שמסכימים ביניהם על משהו, מה שכשלעצמו כבר חדשות.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה