OpenAI פירקה בסוף יולי את צוות ה-Preparedness, הצוות שהיה אחראי להעריך את הסיכון שהמודלים שלה יובילו לתרחישים קטסטרופליים. כן, שמעתם נכון: דווקא הגוף שהוקם כדי לבדוק אם הבינה המלאכותית עלולה להשתלט על העולם, הולך לו.
התזמון מרגיש קצת מוזר בלשון המעטה. הפירוק מגיע בדיוק בתקופה שבה כמה מהמודלים של החברה הפגינו התנהגות חריגה, ואפילו הצליחו לפרוץ למאגר הבינה המלאכותית החיצוני Hugging Face. מודלים שיצאו מהכלוב שנועד להגביל אותם, ותקפו פלטפורמה חיצונית. זה בדיוק סוג התרחיש שהצוות שפורק אמור היה למנוע.
אז מה קורה בפועל? לפי הדיווחים, התחום לא נעלם לגמרי. הוא פשוט מתפזר. במקום צוות ייעודי אחד שמתמקד רק בסיכונים קטסטרופליים, עובדים בכירים בצוותים שונים קיבלו אחריות חלקית על תחומים כמו איומים ביולוגיים וסייבר. בשפה פשוטה: מה שהיה תחת קורת גג אחת, עכשיו מפוזר בין כמה אנשים עסוקים שכבר עושים דברים אחרים.
בחברה מציגים את זה כ"תהליך ייעול" לקראת הנפקה אפשרית בשווי של לפחות טריליון דולר. סם אלטמן, המנכ"ל, ביקש מהעובדים בעצמו לצמצם את העיסוק ב"משימות צדדיות" ולהתמקד בעסקי הליבה של ChatGPT. נשיא החברה גרג ברוקמן הסביר שההתקדמות הטכנית מחייבת מנגנוני הגנה "חסומים יותר", ושהמטרה היא לשלב בטיחות ואבטחה ישירות בתוך תהליכי פיתוח המודלים, ולא להשאיר אותם כצוות נפרד בצד.
צוות ה-Preparedness לא לבד ברשימת הקורבנות. גם אפליקציית הווידאו Sora, שהפכה סינונים לתוכן AI זול ומוצף המכונה "AI slop", הועפה מהתפריט. וזה לא נגמר שם: בחודשים האחרונים עזבו את OpenAI כמה מהדמויות המרכזיות בתחומי האתיקה והבטיחות, ביניהן קלואה בקאלר, שהובילה את תחום האתיקה, ויוהנס היידקה, ראש תחום הבטיחות. אליהן מצטרפות עזיבות נוספות: מנהלת ההכנסות דניס דרסר עזבה אחרי תשעה חודשים בלבד, מנהל התפעול הוותיק בראד לייטקאפ פרש אחרי שמונה שנים, ופידג'י סימו, שנחשבה למספר שתיים של אלטמן, עברה ממשרה מלאה לייעוץ בלבד.
עובדים בתוך החברה מתארים אווירה של שחיקה ותסכול מסבבי ארגון מחדש חוזרים ונשנים. "יש תחושה מבעבעת של חרדה שהם לא ממוקדים מספיק בכדור", אמר גורם בכיר. מחוץ לחברה הדעות חלוקות: יש שרואים בעזיבות סימן מדאיג ממש לפני ההנפקה הגדולה, ויש שגורסים שמדובר סתם בייעול הנהגה שלא תפקדה כמו שצריך.
הכסף כן זורם, זה לא הבעיה. קצב ההכנסות השנתי של OpenAI קפץ מכ-24 מיליארד דולר בסוף השנה שעברה לכ-40 מיליארד דולר החודש. אבל ההפסדים גם הם ענקיים: ב-2025 דיווחה החברה על הפסד נקי של 38.5 מיליארד דולר מול הכנסות של 13.07 מיליארד דולר בלבד. במקביל, המתחרה אנתרופיק דווקא מציגה תמונה הפוכה בכל הנוגע לבטיחות ולתדמית.
אנתרופיק, שמפתחת את קלוד ומהווה את המתחרה המרכזית של OpenAI, משקיעה דווקא עכשיו בכלים כמו חותמת מים שמזהה תוכן שנוצר על ידי הבינה המלאכותית שלה, בזמן שהיריבה מפרקת את מנגנוני הבקרה שלה. גם אנתרופיק בדרך להנפקה ענקית, עם תחזית הכנסות של כ-200 מיליארד דולר לשנת 2028, אבל היא בוחרת להציג את עצמה כחברה שממשיכה לשים דגש על בטיחות, ולא פחות מזה.
השאלה שנשארת פתוחה היא איך מגדירים בכלל "משימת צד" כשמדובר בטכנולוגיה שהחברה עצמה השקיעה משאבים עצומים כדי להבין עד כמה היא מסוכנת. בינתיים ההנפקה של OpenAI, שהוגשה בבקשה חסויה עוד ביוני, נראית סבירה יותר לתחילת 2027 מאשר לסתיו הקרוב. עד אז, כל עוד לא ברור מי בדיוק אחראי לעצור מודל שיוצא משליטה, השאלות רק ימשיכו להצטבר.
התהליך בOpenAI ממחיש כמה שבירה יכולה להיות ההפרדה בין קצב צמיחה עסקי לבין בטיחות טכנולוגית, בדיוק בתקופה שבה שתי הנקודות הללו הופכות קריטיות ביותר.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה