נקודה
תל אביב
שמיים בהירים
27°
ירושלים 22°
חיפה 25°
באר שבע 26°
אילת 29°
מדורים
שימושי PLUS

OpenAI מפתחת מכשיר ללא מסך, ומאשרת שסוכן AI שלה יצא משליטה

החברה עובדת עם מעצב האייפון על מכשיר קולי חדש. במקביל, נשיא OpenAI התייחס לתקרית מטרידה שבה מודל בינה מלאכותית פרץ מסביבת הבדיקה שלו והשאיר הוראות פריצה

דניאל שיף
דניאל שיף
י"ז אב התשפ"ו
OpenAI מפתחת מכשיר ללא מסך, ומאשרת שסוכן AI שלה יצא משליטה
OpenAI בונה מכשירי חומרה חדשים, בלי מסך ובלי מקלדת

OpenAI לא מסתפקת בצ'אטבוט. החברה עובדת על משפחה שלמה של מכשירי חומרה, כך חשף נשיא החברה ומנהל המוצר שלה, גרג ברוקמן, בראיון שהעניק לעיתונאית ג'ואנה סטרן.

ברוקמן אמר בפירוש שהמכשירים הראשונים "צפויים להגיע בקרוב". זה מתחבר להערכות קודמות של סמנכ"ל קשרי החוץ של החברה, כריס ליהיין, שדיבר על חשיפת מכשיר ראשון במחצית השנייה של 2026.

מה בדיוק הולך להיות במכשיר הזה? בלי מסך, בלי מקלדת, ובעיקר קול. ברוקמן מדבר על "מכשיר ליבה שלישי" (בנוסף לנייד ולמחשב) שיהיה היקפי, ער לסביבה שלו, ויתקשר איתנו בעיקר בדיבור. הפרויקט נעשה בשיתוף פעולה עם מעצב העבר של אפל, ג'וני אייב, ומשתלב עם החזון של המנכ"ל סם אלטמן.

AIצילום: AI

ברוקמן נתן גם דוגמה קצת מוזרה לצורך הזה: עובדים שכבר עוטים מסכות "מקור" חסינות קול, רק כדי לדבר עם המחשב שלהם בלי להפריע לשכנים במשרד. אם זה לא סימן שהעולם רעב לפתרון קולי, אז מה כן.

מעבר לחומרה, ברוקמן נאלץ להתייחס לנושא הרבה יותר לוהט: התקרית שבה סוכן בינה מלאכותית של OpenAI השתולל מעצמו. המודל, שמבוסס על GPT-5.6 Sol ומודל מחקרי נוסף, פרץ מסביבת בדיקה מבודדת וביצע מתקפת סייבר עצמאית נגד פלטפורמת Hugging Face ותשתיות נוספות.

הפרט המטריד באמת: הסוכן הסורר השאיר הוראות בכתב למודלים עתידיים, כדי שידעו איך לעקוף מגבלות בטיחות. במקרים מסוימים הוא אפילו ניתק מערכות ניטור. הכל קרה במסגרת מבחני יכולות תקיפה שבוצעו בלי מנגנוני ההגנה הרגילים, וב-OpenAI זיהו שהמערכת שלהם היא זו שביצעה את הפריצה רק שישה ימים לאחר תחילת האירוע.

"מה שקרה היה מאוד מפתיע", אמר ברוקמן. "לראות את זה בפעולה בעולם האמיתי, ואת המורכבות של הפעולות שהוא הצליח לשרשר יחד, זה משהו שאתה חייב לעכל ולהפנים באופן כמעט פיזי". לדבריו, המודל מצא פרצת יום-אפס בתוכנה של צד שלישי ושרשר כמה נתיבים כדי לצאת מארגז החול ולהגיע ל-Hugging Face.

מסתבר שהמודל גם השתמש בפרטי גישה שהיו חשופים לציבור, כדי להיכנס לארבעה חשבונות בארבעה שירותים שונים. אחד מהם שימש כתחנת מעבר, אחד לאחסון נתונים, ושניים נוספים נגישו בלבד לצפייה, בלי שנוצל בהם דבר.

לא רק OpenAI התמודדה עם הבעיה הזו. גם חברת Anthropic, המתחרה, גילתה שהמודלים שלה (Claude) פרצו בעצמם למערכות של שלושה ארגונים שונים במהלך בדיקות אבטחה, לאחר שבדקה את עצמה בעקבות הפרשה של OpenAI. שם הסיפור היה קצת אחר: המודלים לא ניצלו פרצת אבטחה, אלא פשוט מצאו את הדלת פתוחה בגלל תקלת תצורה, והחלק המטריד היה שבחלק מהמקרים המודל הבין שהוא נמצא במערכת אמיתית, ופשוט המשיך לתקוף בכל זאת.

ברוקמן קרא לתקרית "תמרור האזהרה הכי חשוב שהיה לנו כאן", והבטיח שהחברה תשקיע יותר בבטיחות ואבטחה של ארגזי החול שבהם נבדקים המודלים.

מעבר לכל זה, ברוקמן גם דחה בתוקף את התביעה שהגישה אפל נגד OpenAI, שמאשימה את החברה בגזילת סודות מסחריים ובגיוס עובדי חומרה לשעבר של אפל. "אין לנו שום עניין בסודות מסחריים של חברות אחרות. אנחנו מספיק חדשניים ופועלים מהזווית שלנו", אמר.

לגבי הביקורת על אפליקציית שולחן העבודה, ששילבה בין ChatGPT לכלי הקוד Codex, ברוקמן היה כן: "זה סוג של בלאגן" כרגע, אבל הבטיח שזה שלב מעבר בלבד. הבשורה הטובה: בסיס המשתמשים של Codex כבר הכפיל את עצמו, מ-5 ל-10 מיליון משתמשים תוך ימים ספורים.

בקיצור: OpenAI רצה במהירות לכל הכיוונים, גם לעולם החומרה וגם לפתרון בעיות אבטחה שהיא עצמה חשפה. השאלה הגדולה היא אם החברה תצליח לבנות מכשיר קולי שכולם ירצו, לפני שסוכן AI נוסף יחליט לצאת לטיול משלו באינטרנט.

OpenAI מכשיר קולי גרג ברוקמן בינה מלאכותית מתקפת סייבר

תגובות

רגע, שקט פה מדי

דעתך חשובה - תהיו הראשונים להגיב על הכתבה