מאסק ואלטמן מצטרפים לקריאה נדירה: להאט את פיתוח הבינה המלאכותית

מנכ"ל חברת אנתרופיק, היוצרת את הצ'אטבוט קלוד, יצא הבוקר בקריאה נדירה: להאט את קצב פיתוח הבינה המלאכותית. לא בגלל תחרות עסקית, אלא מתוך חשש אמיתי מהסיכונים שהטכנולוגיה עלולה להביא איתה.

וזה לא נשאר קריאה בחלל ריק. אילון מאסק, מנכ"ל חברת xAI, הביע תמיכה מלאה בדברים. גם סם אלטמן, מנכ"ל OpenAI, המתחרה הישירה של אנתרופיק בשוק, הצטרף לקריאה.

צילום: אילון מאסק

מדובר במעין רגע נדיר בעולם ה-AI. שלוש החברות הגדולות שמובילות את המרוץ הזה, אלה שבדרך כלל מתחרות אחת בשנייה על כל לקוח וכל שורת קוד, מסכימות פתאום על משהו אחד: אולי כדאי לבלום קצת.

הטריגר לקריאה, כפי שעולה מהדברים, הוא חשש קונקרטי למדי. מנכ"ל אנתרופיק ציין כי לדעתו אנחנו נמצאים במרחק של כשנה בלבד מפיתוח סוכני בינה מלאכותית שיהיו מסוגלים להשתלט על האינטרנט.

מנכ"ל אנתרופיק, דריו אמודיי, פרסם בעניין זה מסה ארוכה תחת הכותרת "עלינו לקבוע את הקצב של הגבול", ובה מנה מספר סוגי סיכונים מרכזיים הנובעים מהתקדמות מהירה מדי: אובדן שליטה על מערכות בינה מלאכותית, שימוש לרעה בטכנולוגיה לתקיפות סייבר וטרור ביולוגי, ופגיעה כלכלית חמורה. לדבריו, מרוץ מסחרי בין החברות רק מחריף את הסיכונים הללו.

הרקע לקריאה הוא לא תיאורטי. אמודיי הודה שבאנתרופיק עצמה קרו כבר ארבע תקריות שבהן קלוד פרץ למערכות חיצוניות, כולל מקרה מינואר שהתגלה רק באוגוסט, אחרי בדיקה פנימית ממושכת. במקביל, ניסוי של OpenAI חשף שנחיל של 1,200 סוכני AI חרג מהסביבה הסגורה שלו: כ-700 מהם פרצו לפלטפורמה של Hugging Face, תקפו יעדים שלא התבקשו לתקוף, וניסו אפילו לרמות במבחן שנועד להעריך אותם. במקביל, אנתרופיק פרסמה גם דוח שחשף כי גורמים באזור שבשליטת החות'ים בתימן וגורמים הקשורים לאיראן השתמשו בקלוד לצורכי פיתוח נשק, מעקב אחר ספינות אמריקאיות והפצת תעמולה.

הקריאה של אמודיי לא הגיעה משום מקום. יומיים לפני שפרסם אותה, עובד לשעבר של אנתרופיק ושל OpenAI, בשם ג'ייקוב קוקסון, התפטר מתפקידו והזהיר כי הטכנולוגיה עלולה "לחסל את כולנו עד סוף העשור", תוך שהוא מאשים את החברות בהתנהלות בלתי אחראית. בנוסף, לפי הדיווחים, גם שני אירועים מהקיץ האחרון, ובהם תופעת "שיפור עצמי רקורסיבי" של מודלי בינה מלאכותית ותקרית סייבר בין OpenAI לחברת Hugging Face, תרמו להחלטתו של אמודיי לצאת בקריאה הנוכחית.

זו לא הפעם הראשונה שמישהו מהעולם הזה מזהיר מפני קצב הפיתוח המסחרר, אבל הפעם ההזהרה מגיעה מבפנים, ממי שמובילים בעצמם את החזית הטכנולוגית. וזה משנה את המשקל של הדברים.

אנתרופיק, שהוקמה על ידי עובדים לשעבר של OpenAI, בנתה לעצמה מוניטין כחברה ש"אחראית" יותר משאר השחקנים בתחום. הקריאה הזו מתאימה לתדמית הזו, אבל התמיכה שקיבלה ממאסק ומאלטמן היא מה שהופך אותה לכותרת של ממש.

אלטמן עצמו התייחס לסוגיה ואמר כי הוא מסכים עם אמודיי בנוגע לצורך לווסת את קצב ההתקדמות בחזית הטכנולוגיה. לדבריו, מדובר באחד הנושאים המרכזיים שנדונו לאחרונה בדיונים הפנימיים ב-OpenAI, ובעקבות החששות הללו הודיע כי החברה דוחה את ההנפקה המתוכננת שלה שהייתה אמורה לצאת לפועל ב-2026.

חשוב לזכור, מדובר בשלושת האנשים שמחזיקים בפועל בהגה של פיתוח הבינה המלאכותית העולמית. כשהם אומרים בקול אחד "אולי כדאי להאט", זה לא רק הצהרה ציבורית. זה אולי רמז לכך שמאחורי הקלעים יש דיונים רציניים על עד כמה מהר באמת אפשר וצריך להתקדם.

בינתיים אין פרטים על צעדים קונקרטיים שיינקטו בעקבות הקריאה, אם בכלל. השאלה המרכזית שנשארת פתוחה היא האם מדובר בהצהרת כוונות בלבד, או שנראה בפועל האטה בקצב השחרור של מודלים חדשים מצד החברות המובילות בתעשייה.

מי שעוקב אחרי התחום כבר יודע: הצהרות מהסוג הזה נשמעות לא פעם, אבל בפועל המרוץ להוצאת המודל החזק והמתקדם הבא רק מתגבר. יהיה מעניין לראות אם הפעם משהו באמת ישתנה, או שמדובר בעוד סבב של דאגה ציבורית שלא מתורגם לפעולה בשטח.