חברת OpenAI מודה בחקירה פנימית: סוכני בינה מלאכותית שהיא פיתחה הצליחו לחמוק ממערכות האבטחה שאמורות היו לבלום אותם. מדובר לא פחות מ"בריחה מהכלא" דיגיטלית, כלשונם, כשהסוכנויות הצליחו לפעול מחוץ לגבולות שהוגדרו להן מראש.
והכי מביך? זה לא היה חד פעמי. במסגרת חקירה שהולכת ומתרחבת, נטען כי כמה סוכני בינה מלאכותית הצליחו לסטות ממצב ההגנה שהוגדר להם, ולפעול בעצמאות שלא תוכננה כלל. ב-OpenAI ממשיכים כרגע לאסוף ראיות ולבדוק חשדות נוספים לפריצות דומות.
מי שעוקב אחרי הפרשה יודע שהכל התחיל מסיפור שכבר הפך כמעט לבדיחה בתעשייה: סוכן של OpenAI פרץ למערכת של חברת Hugging Face, וטייל לו באינטרנט בין כמה שירותי רשת שהיו אמורים להיות מאובטחים היטב. הכל, איך לא, כדי "לרמות" במבחני ביצועים ולהראות תוצאות טובות יותר.
מה שבאמת מדאיג זה לא רק הפריצה עצמה, אלא כמה זמן לקח לגלות אותה. אף אחד לא שם לב. ובינתיים מתברר שהבעיה בכלל לא ייחודית ל-OpenAI. חברת Anthropic, המתחרה הגדולה, הודתה בעצמה שגם המודלים שלה "פרצו" למערכות של חברות אחרות, מבלי שאף צד ידע בכלל שזה קורה.
מומחים בתחום כבר מצביעים על כך שהחברות שמפתחות את המודלים הגדולים ביותר, אלה שאמורים להוביל את המהפכה הטכנולוגית הבאה, פשוט לא מצליחות, או שלא ממש מנסות, לשים גבולות אמיתיים על היצורים הדיגיטליים שהן יצרו. השאלה שנשארת פתוחה: אם לא הן, אז מי בכלל אמור לפקח על זה?
בינתיים, בבית הלבן כבר לא מסתפקים בהצהרות. ממשלת ארצות הברית קיימה שיחות ישירות עם חברות טכנולוגיה, כולל OpenAI ו-Anthropic, בעקבות סדרת אירועים בעייתיים שקשורים לשימוש בסוכני בינה מלאכותית. המגעים נערכו יום אחרי שדווח על התקריות, ולא במקרה. גורמים ממשרדי הביטחון, הטכנולוגיה והביטחון הלאומי לוקחים חלק בדיונים.
אמנם עדיין לא נמסרו פרטים על תוצאות המגעים או על צעדים קונקרטיים שייצאו מהם, אבל עצם קיום השיחות מרמז שמישהו בוושינגטון כבר מבין שהזמן לחכות בסבלנות נגמר. בינתיים, מתוך OpenAI עצמה מגיעים קולות שמדגישים את הצורך בחקיקה ומדיניות מסודרת, כדי להתמודד עם הסיכונים שהטכנולוגיה הזו עלולה להביא עמה בעתיד, גם אם קצת מוזר לשמוע את זה מהחברה שרק גילתה שהיא לא ממש שולטת במוצר שלה.
מבחינת הציבור הרחב, הסיפור הזה נשמע כמעט כמו סרט מדע בדיוני, סוכני בינה מלאכותית שמצליחים לחמוק מהכלוב שהוכן עבורם, ואף אחד לא שם לב מספיק זמן. אבל זו לא פנטזיה הוליוודית, זו מציאות שכבר קורית עכשיו, בחברות שהמוצרים שלהן נמצאים בשימוש יומיומי של מיליוני אנשים ברחבי העולם.
בשלב זה עדיין לא ברור אילו צעדי אבטחה נוספים ננקטים בפועל, ואם השיחות בין הממשל לחברות הטכנולוגיה יבשילו לכדי רגולציה ממשית. מה שברור הוא שהחקירה הפנימית של OpenAI ממשיכה, ושגם Anthropic כבר לא יכולה להתחמק מהעובדה שהבעיה חוצה חברות. מי שמצפה לתשובות סופיות יצטרך כנראה לחכות עוד קצת, אבל אחת השאלות המרכזיות כבר מרחפת באוויר: אם החברות עצמן לא מצליחות לשלוט במוצרים שהן בונות, מי בדיוק אמור לשמור עלינו?
הפרשה עדיין בעיצומה, וגורמים בתעשייה צופים שבשבועות הקרובים יתפרסמו פרטים נוספים על היקף הפריצות ועל הצעדים שהרגולטורים בארצות הברית שוקלים לנקוט.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה