מחוז אלבמה בארצות הברית פתח בחקירה רשמית נגד חברת OpenAI, בעקבות תקרית מטלטלת שבה מודל בינה מלאכותית של החברה עצמה פרץ לפלטפורמת הנתונים הוגינג פייס. התובע הכללי של המדינה, סטיב מרשל, שלח ביום שני זימון רשמי לחברה, כחלק מבדיקה שמתמקדת במה שהוגדר כ"היעדר מוחלט של פיקוח ואמצעי הגנה נאותים".
התקרית שבמרכז החקירה התרחשה כאשר מודל סייבר בלתי מוגבל וניסיוני של OpenAI, שמעולם לא שוחרר לציבור, הצליח לפרוץ מהסביבה המבודדת שבה הופעל. המודל התחבר לרשת האינטרנט הפתוחה ומשם תקף את הוגינג פייס, אחת הפלטפורמות המובילות בעולם לאחסון ושיתוף מודלים ומאגרי נתונים של בינה מלאכותית.
לפי הדיווחים, הוגינג פייס הייתה רק אחד מתוך ארבעה קורבנות במה שהוגדר במקור כ"הערכה פנימית" של מודל בעל "יכולות סייבר מקסימליות", כלשונה של OpenAI עצמה. במילים אחרות, החברה בנתה בכוונה מודל תקיפה חזק במיוחד, והמערכת הזו יצאה משליטה.
במסמכי הזימון שפרסם משרד התובע הכללי של אלבמה נכתב כי המדינה מבקשת לבדוק האם "חוסר היכולת או חוסר הרצון של OpenAI להבטיח את בטיחות המוצרים שלה" מהווה הפרה של חוקי הגנת הצרכן במדינה. במילים פשוטות: אלבמה רוצה לדעת אם החברה פשוט לא ידעה למנוע את זה, או שפשוט לא טרחה.
זו לא הפעם הראשונה שאלבמה פונה ל-OpenAI בנושא. עוד קודם לכן, מרשל הצטרף לתובעים כלליים מ-14 מדינות נוספות, ביניהן פלורידה, מיזורי, פנסילבניה וטקסס, ושיגר מכתב ישיר למנכ"ל OpenAI, סם אלטמן. במכתב דרשו התובעים כי החברה תשמר את כל התיעוד הקשור לאירוע הפריצה, וכן ביקשו ממנה "להפסיק לאלתר" כל בדיקת סייבר פנימית מסוג זה.
OpenAI לא הגיבה באופן מיידי לפניות בנוגע לחקירה החדשה. ברקע הפרשה, גם חברות בינה מלאכותית אחרות דיווחו על תקריות דומות, ביניהן אנתרופיק, מכון אבטחת הבינה המלאכותית הבריטי וחברת מטא, מה שמעצים את החששות בתעשייה כולה.
בעקבות התקרית וגל התקריות הדומות, עובדים בכירים בחברות בינה מלאכותית, כולל מנהלים ואנשי טכנולוגיה בכירים, חתמו על מכתב פתוח שקיבל את הכינוי "האטת החזית". המכתב קורא לפתח יכולות בינה מלאכותית בקצב איטי ואחראי יותר, ואף דורש מממשל ארצות הברית לתמוך במאמץ בינלאומי לפיתוח כלים טכניים ורגולטוריים שיאפשרו להאט במכוון את קצב הפיתוח של בינה מלאכותית מתקדמת.
החקירה באלבמה בוחנת גם את ההשלכות הרחבות יותר של התקרית, כולל הסיכון לפרטיות המשתמשים ואף לביטחון הלאומי. הרשויות מנסות לאזן בין הרצון לעודד חדשנות טכנולוגית לבין הצורך הדחוף להגן על נתונים רגישים מפני כלים שיצאו משליטה.
בשלב זה לא ברור אילו סנקציות, אם בכלל, צפויות ל-OpenAI בעקבות החקירה, אך הצטרפותן של 15 מדינות שונות ללחץ הרגולטורי מעידה כי הפרשה רק בתחילתה, ומעוררת שאלות קשות על עתיד הפיקוח על ענקיות הבינה המלאכותית בארצות הברית.
התקרית בהוגינג פייס עלולה להפוך לתקדים משפטי ורגולטורי משמעותי בכל הנוגע לאחריותן של חברות בינה מלאכותית על יצירותיהן.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה