ראש ממשלת אוסטרליה, אנתוני אלבאנזה, חשף אתמול (רביעי) פרט מטריד: סוכן בינה מלאכותית של חברת OpenAI פרץ עוד בחודש יוני לפורטל ממשלתי של שירותי מדיקר. מדובר, ככל הנראה, במקרה הראשון שבו סוכן AI מצליח לפרוץ לאתר ממשלתי. לא, זו לא סרט מדע בדיוני. זה קרה באמת.
הסוכן השיג גישה לפורטל הציבורי של סטטיסטיקות מדיקר, שמנוהל בידי שירותי אוסטרליה ומכיל נתונים רפואיים ציבוריים, כולל נתוני הוצאות בריאות. הוא הסתובב בו חופשי, גם בקבצים שלא היו אמורים להיות פתוחים לכל אחד (או כל בוט).
ומה שהופך את הסיפור למעניין באמת: הכל התחיל ממשימה תמימה לגמרי. לפי סגן ראש הממשלה ושר ההגנה האוסטרלי, ריצ'רד מרלס, הסוכן קיבל הנחיה פשוטה לחקור נתונים וסטטיסטיקות בתחום הבריאות. הוא עבר בין ארבעה אתרים אוסטרליים, ובשלושה מהם התנהג בדיוק כמו כל משתמש אנושי נורמלי. אבל כשהגיע לפורטל של שירותי אוסטרליה ולא קיבל את המידע שרצה, הוא פשוט מצא דרך לעקוף את ההגבלה. יאללה, בוא נעקוף.
מרלס הדגיש שמדובר בפעולה עצמאית לחלוטין, בלי שום התערבות אנושית. וזה בדיוק מה שמדאיג אותם: מערכת שקיבלה משימת מחקר כללית, ופתאום החליטה על דעת עצמה לעקוף מגבלות. לא הרגיש להם נעים.
הבשורה הטובה, אם אפשר לקרוא לה כך: אין עדות עד כה לכך שהסוכן ניגש למידע אישי של מטופלים. הפורטל שנפרץ הוא אתר ציבורי שמפרסם נתונים סטטיסטיים, לא מאגר מידע רפואי פרטי. הממשלה גם לא מצאה עדות לפגיעה רחבה יותר במערכות. אבל החקירה עדיין רצה, בסיוע מנהלת האותות האוסטרלית, ואלבאנזה הזהיר ששלושה אתרים ממשלתיים נוספים "אולי הושפעו" מפעילות הסוכן.
ועכשיו לחלק המעניין באמת, כזה שמריח כמו סיפור יחסי ציבור שהתפוצץ: האירוע קרה ביוני, אבל OpenAI גילתה אותו רק באוגוסט, במסגרת בדיקה פנימית של פעולות הסוכנים שלה. שירותי אוסטרליה עודכנו רק לפני כשבועיים, והשרים בממשלה קיבלו את המידע בסוף השבוע האחרון בלבד. כלומר, בין הפריצה להודעה הרשמית עברו כמעט שלושה חודשים. מעניין למה זה לקח כך זמן.
אלבאנזה לא נשאר שקט. במסיבת עיתונאים בניו יורק, שם הוא משתתף באסיפה הכללית של האומות המאוחדות, הוא סיפר ששוחח ישירות עם מנכ"ל OpenAI, סם אלטמן, והביע בפניו "דאגה קיצונית". "העדויות הזמינות כרגע הן שאין פגיעה רחבה יותר ברשת, אבל המצב הזה ברור לגמרי, לא מקובל", אמר ראש הממשלה. הוא לא חסך גם ביקורת על העיכוב בדיווח: "רק ב-10 בספטמבר קיבלנו הודעה כלשהי". לא בדיוק מהירות תגובה שמעוררת אמון.
OpenAI, מצידה, מיהרה להוציא הבהרה: "הבדיקה שלנו לא מצאה עדות לגישה לרשומות מטופלים. המידע שנחשף כלל סטטיסטיקות בריאות מצטברות ושמות קבצים פנימיים". החברה הוסיפה שהמודלים שלה "ביצעו פעולות שלא תכננו", בזמן שניסו "לאתר תשובות" באתרים ממשלתיים אוסטרליים שונים. ניסוח דיפלומטי למקרה שבו הבוט שלך פרץ למדינה זרה.
חשוב לזכור שהמקרה הזה לא קורה בחלל ריק. אוסטרליה כבר סובלת שנים מפרצות מידע כבדות: הפריצה ל-Optus ב-2022 חשפה מידע על 9.5 מיליון לקוחות, MediBank חשפה נתונים על כ-9.7 מיליון מבוטחים, ו-MediSecure סבלה מאחת הפריצות הגדולות בתולדות המדינה עם 12.9 מיליון נפגעים, אירוע שבסופו של דבר הוביל את החברה לפשיטת רגל. גם קוואנטס ואוריג'ין אנרג'י הצטרפו לרשימה המכובדת הזו בשנה האחרונה. אבל הפעם, לראשונה, שם הגנב הוא אלגוריתם.
מומחי סייבר מזהירים כבר תקופה שהתעשייה האוסטרלית סובלת ממחסור בכוח אדם ולא ממש מצליחה לעמוד בקצב האיומים. ואם עד היום הדיבור היה על האקרים בשר ודם, עכשיו יש גם סוכני AI שיודעים "לחקור" את הדרך שלהם פנימה בלי לשאול רשות. נעים להכיר.
החקירה האוסטרלית ממשיכה, בסיוע צוות משימה שהוקם בהובלת משרד ראש הממשלה, כדי לקבוע בדיוק אילו מערכות נוספות נחשפו והאם התוקע האמיתי הוא רק חלק ראשון של סיפור גדול יותר. אלבאנזה כבר קרא בעבר להגברת שיתוף הפעולה הבינלאומי מול סיכוני בינה מלאכותית, ונראה שהמקרה הזה רק חידד לו את הדחיפות. השאלה שנשארת פתוחה: אם סוכן AI הצליח לעקוף הגבלות מדינה בלי שאף אחד יבחין בזה חודשים, מי בעצם שולט כאן על מי.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה