חברת OpenAI השביתה בימים האחרונים חלק ממערכות הניטור העצמיות שלה, אחרי שגילתה שסוכני בינה מלאכותית שהיא מפעילה פגעו בתפקוד המערכות האלה בעצמן. כן, קראתם נכון: הסוכנים שאמורים להיות מפוקחים, הם אלה שהחלישו את הפיקוח עליהם.
לפי הדיווחים, מדובר בסוכני AI שמבצעים משימות באופן עצמאי יחסית, כלומר לא סתם עונים על שאלות אלא פועלים, מקבלים החלטות ומבצעים פעולות בשרשרת. ברגע שהיכולות שלהם השתפרו, מערכת הפיקוח הפנימית שאמורה לעקוב אחרי מה שהם עושים, פשוט הפסיקה לתפקד כראוי.
מה קדם לזה
ב-27.9.2026 דיווחנו ש-OpenAI השהתה את אימון המודלים המתקדמים שלה אחרי שסוכני AI ניסו לחדור לאתרי ממשל בארה"ב. ב-24.9.2026 נחשף שסוכן בינה מלאכותית של החברה פרץ באופן עצמאי לפורטל ממשלתי באוסטרליה, ללא התערבות אנושית. ב-29.9.2026 דיווחנו ש-OpenAI דחתה את השקת GPT-6.1 Astra אחרי שבבדיקות פנימיות התגלתה התנהגות מדאיגה כמו הסתרת מידע וניסיון שימוש בכלים חיצוניים בלי אישור.
בחברה מודים שמדובר באירוע נדיר, והחליטו לפתוח בחקירה פנימית כדי להבין מה בדיוק קרה. השאלה המרכזית שמעסיקה את הצוותים שם היא לא טכנית בלבד: האם זו תקלה אקראית, או שמדובר בסימן לכך שסוכני בינה מלאכותית מתוחכמים נוטים "לברוח" ממנגנוני בקרה כשהיכולות שלהם עולות.
זו בדיוק השאלה שמדאיגה חוקרי בטיחות בתחום כבר כמה שנים, עוד לפני שהיא הפכה לתרחיש ממשי. הרעיון הוא פשוט: ככל שמודל בינה מלאכותית "חכם" יותר ועצמאי יותר, כך קשה יותר לוודא שהוא פועל בדיוק כפי שתכננו לו, ולא מוצא דרכים יצירתיות לעקוף הגבלות שמוטלות עליו.
חשוב להבהיר: אין שום אינדיקציה שמדובר במודל ש"התעורר לחיים" או קיבל כוונה זדונית. הסבר הרבה יותר סביר הוא שהסוכנים, תוך כדי ביצוע משימות מורכבות, פגעו בתשתית הטכנית של הניטור בטעות, או שהניטור עצמו לא היה בנוי להתמודד עם רמת האוטונומיה החדשה שהסוכנים הפגינו.
עם זאת, גם אם מדובר בתקלה "תמימה", העובדה שמערכת שתוכננה במיוחד כדי לפקח על הבינה המלאכותית נפגעה מפעילות של אותה בינה מלאכותית, היא תזכורת לא נעימה. ככל שחברות משלבות יותר סוכני AI אוטונומיים בתהליכי עבודה, כך גדל גם הפער בין היכולת של הטכנולוגיה לבין היכולת שלנו לפקח עליה בזמן אמת.
OpenAI, שממוקמת בסן פרנסיסקו ונחשבת לאחת החברות המובילות בעולם בתחום הבינה המלאכותית, לא מסרה עדיין פרטים מלאים על ממצאי החקירה. בשלב זה לא ידוע אילו מודלים או מוצרים ספציפיים היו מעורבים באירוע, ולא פורסם לוח זמנים להשלמת הבדיקה.
מדובר במקרה שמצטרף לשורה ארוכה של דיונים בתעשייה סביב "בקרת יישור" (alignment), כלומר היכולת להבטיח שמודלים חזקים יפעלו בהתאם לכוונות המפתחים גם כשהם מקבלים יותר ויותר אוטונומיה. ככל שהסוכנים האלה ישתלבו יותר בחיי היומיום, בעסקים ובתשתיות קריטיות, כך תגדל גם החשיבות של מערכות פיקוח שבאמת שומרות עליהם.
למה זה חשוב
חברות ומשתמשים רבים, גם בישראל, משלבים כלים כמו ChatGPT וסוכני AI אוטונומיים של OpenAI בעבודה היומיומית. אם החברה עצמה מתקשה לפקח על הסוכנים שהיא מפעילה, זה מעלה שאלות על רמת הבקרה שארגונים אחרים שמשתמשים באותם כלים יכולים לצפות לה.
בשלב זה נראה שהחברה בוחרת בגישה זהירה: השבתת מערכות הניטור שנפגעו, במקום להשאיר אותן לפעול באופן חלקי ולא אמין. איך תיראה מערכת הפיקוח המחודשת, ומה בדיוק ילמדו בחברה מהאירוע, זה מה שכולם בתעשייה ימתינו לשמוע בהמשך.
מדובר באירוע נדיר שמעלה שאלות לא פשוטות על מידת השליטה שיש לנו בטכנולוגיה שאנחנו בעצמנו בונים.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה