זו לא סצנה מסרט מדע בדיוני. מנכ"ל אחת החברות החזקות בעולם עמד השבוע מול מועצת הביטחון של האו"ם והזהיר את המדינות החזקות בעולם מפני הטכנולוגיה שהוא עצמו יצר. סם אלטמן, מנכ"ל OpenAI, נשא דברים בדיון מיוחד שנערך במטה האו"ם בניו יורק ועסק כולו בסיכונים הגלובליים הטמונים בבינה המלאכותית.
צילום: סם אלטמןהדיון החריג התקיים יום אחד בלבד לאחר שחברות הבינה המלאכותית המובילות בעולם פרסמו אזהרות פומביות משלהן על הסכנות הגלומות בפיתוח המואץ של הטכנולוגיה. הפעם, האזהרות עברו במה חדשה: אולם המועצה החזקה ביותר בעולם, האחראית רשמית על שמירת השלום והביטחון הבינלאומיים.
אלטמן, שחברתו אחראית ליצירת אחד הכלים הפופולריים והמשפיעים בהיסטוריה של הטכנולוגיה, לא בחל בהצהרות דרמטיות. לדבריו, ההחלטות המכריעות ביותר לגבי עתיד הבינה המלאכותית לא יכולות ולא צריכות להישאר בידיים של מעבדות מחקר בודדות. "החלטות מסוג זה לא יכולות להישאר בידי מעבדות בסן פרנסיסקו בלבד", אמר אלטמן בפני נציגי המדינות.
מדובר בהודאה נדירה מפי אחד האנשים המשפיעים ביותר בתעשיית הבינה המלאכותית העולמית. חברת OpenAI, שאלטמן עומד בראשה, נחשבת לאחת החברות המובילות בפיתוח מודלים מתקדמים של בינה מלאכותית, וההשפעה שלה על השוק העולמי ענקית. דווקא הוא, שנתפס כמי שמרוויח הכי הרבה מהקצב המסחרר של הפיתוח, בחר להעביר את הכדור למגרש הבינלאומי.
אבל אלטמן לא היה לבד באולם. לצדו ישב מנכ"ל Anthropic, אחת המתחרות הישירות של OpenAI, שהעביר מסר קודר עוד יותר. ראש החברה הזהיר כי מערכות בינה מלאכותית שלא ינוהלו כראוי עלולות להוות סכנה של ממש לאנושות כולה. מדובר באזהרה חריפה במיוחד, שכן היא מגיעה מבכיר בתעשייה שדווקא ידועה בגישתה הזהירה יחסית לפיתוח הטכנולוגיה.
העובדה ששני מנכ"לים מתחרים, מחברות שנלחמות ביניהן על נתח שוק ועל בכירי מוחות בתעשייה, מגיעים יחד למועצת הביטחון של האו"ם עם אותו מסר, לא נעלמה מעיני הנוכחים. כשמתחרים עסקיים בוחרים לשלב ידיים מול פורום בינלאומי, זה בדרך כלל סימן שהם באמת מודאגים ולא רק מנהלים יחסי ציבור.
הדיון במועצת הביטחון משקף הכרה גוברת בקהילה הבינלאומית בכך שהבינה המלאכותית הפכה מסוגיה טכנולוגית גרידא לסוגיה ביטחונית של ממש. בעוד שבעבר נושאים כמו פיתוח טכנולוגי נדונו בעיקר בפורומים כלכליים או מדעיים, העובדה שהנושא הגיע עד לאולם שבו נדונים סכסוכים מזוינים ואיומים גלובליים מעידה על השינוי בתפיסה.
לא מדובר בפעם הראשונה שבה מנהיגי תעשיית הבינה המלאכותית מזהירים מפני היצירה שלהם עצמם. בשנים האחרונות התרבו הקריאות מקרב בכירים בתחום לרגולציה בינלאומית מוגברת, אך הדיון במועצת הביטחון מעלה את רף הדחיפות משמעותית. כעת נותר לראות אם מדינות העולם יתרגמו את האזהרות הללו לצעדים קונקרטיים, או שהדיון בניו יורק יישאר עוד פרק בשרשרת אזהרות שלא הובילו לפעולה ממשית.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה