מדינת פלורידה הגישה ביום שני תביעה אזרחית תקדימית נגד חברת OpenAI ומנכ"לה סם אלטמן באופן אישי, בטענה שהחברה הציגה לציבור מוצר שהיא ידעה שהוא מסוכן, הסתירה את הסיכונים, ואפשרה לכלי הבינה המלאכותית שלה לסייע לרוצחים, למתאבדים ולמחבלים. פלורידה היא המדינה הראשונה בארה"ב שמגישה תביעה מהסוג הזה נגד ענקית הבינה המלאכותית ומנהלה.
TechCrunch Disrupt SF 2017 - Day 2 (36522982963)צילום: סם אלטמןכתב התביעה, המחזיק 83 עמודים, מוביל אותו התובע הכללי של פלורידה, ג'יימס אות'מאייר. לפי המסמך, OpenAI ואלטמן "ידעו על סיכונים, קיבלו התרעות, ובכל זאת השיקו והמשיכו להפעיל מוצר בלתי בטוח". הטענה המרכזית היא שהחברה ניצלה את נתוני המשתמשים ואת בטיחותם "כדי להקפיץ את שוויה העסקי במחיר בלתי מתקבל על הדעת".
החלק המזעזע ביותר בתביעה עוסק בירי ההמוני שאירע בשנה שעברה באוניברסיטת פלורידה סטייט, שבו נרצחו שני בני אדם ונפצעו שישה. לפי הטענות, הרוצח התייעץ עם ChatGPT לפני הפיגוע, שאל אילו כלי נשק להשתמש בהם ואיך לפעול כדי למשוך מקסימום חשיפה תקשורתית. המערכת, כך נטען, סיפקה לו תשובות קונקרטיות. מקרה שני מתואר אף הוא בתביעה: רצח שני סטודנטים מאוניברסיטת דרום פלורידה, כאשר לפי מסמכי בית המשפט הרוצח ניהל שיחות עם ChatGPT בשלבי התכנון וקיבל הוראות מפורטות על אחסון ראיות.
מחדל נוסף שחשפה התביעה נוגע לפרשה מבריטיש קולומביה שבה נרצחו שמונה בני אדם, בהם ילדים. לפי הטענות, המערכות האוטומטיות של OpenAI זיהו שפעילות החשבון של הרוצח קשורה ל"תכנון ואלימות בנשק" ואף חסמו אותו, אך החברה בחרה שלא לדווח לרשויות. הרוצח פתח פרופיל חדש והמשיך לתכנן את הטבח.
מעבר למקרי הדם, התביעה תוקפת את הפעולה היומיומית של הצ'אטבוט. אות'מאייר טוען שהאלגוריתם מתוכנן לנטייה שיטתית ומכוונת ל"חנפנות דיגיטלית" - המודל נוטה להסכים עם המשתמש, להחמיא לו ולתקף את מחשבותיו, כולל מחשבות אובדניות ואלימות, במקום לבלום אותן. לפי התביעה, זו אינה תקלה אלא טקטיקה מסחרית מחושבת שנועדה "להגביר את מעורבות המשתמשים, לגרום להם להישאר שעות באפליקציה, לאסוף עליהם עוד מידע ולהעלות את ערך החברה".
קטינים מקבלים פרק נפרד ונוקב בתביעה. לפי המסמך, OpenAI פיתחה כלי בקרת הורים אך אינה מחייבת שפרופיל לילדים יקושר לחשבון הורה, כך שנוצר פער בין "קיום יכולות" לבין "אכיפה בפועל". התביעה מתארת מקרים שבהם משתמשים מתבגרים קיבלו תוכן שעודד פגיעה עצמית, וטוענת שמתקיימת "יצירת תלות אצל קטינים באמצעות שיחות שמדמות אמפתיה אנושית".
ההחלטה לתבוע את אלטמן באופן אישי אינה שגרתית ומושכת תשומת לב מיוחדת. אות'מאייר מבקש להטיל עליו אחריות ישירה לנזק שנגרם לתושבי פלורידה בגין "התנהלות פזיזה ומכוונת" שלו כמייסד ומנכ"ל החברה. אם בתי המשפט יאמצו את הגישה הזו, היא עשויה לשנות את כללי המשחק עבור מנהלים בחברות בינה מלאכותית בכל הארץ. הדבר בולט במיוחד לנוכח העובדה שאלטמן עצמו אינו מחזיק במניות OpenAI.
כתב התביעה כולל ארבע עילות של פרקטיקות סחר מטעות, שתי עילות של רשלנות, שתי עילות של הפרת חוקי אחריות מוצר, וסעיפים של מצג שווא תרמיתי וגרימת מטרד ציבורי. אות'מאייר מבקש קנסות אזרחיים וצו שיפוטי. במקביל לתביעה האזרחית ממשיכה חקירה פלילית שנפתחה כבר באפריל, ומשפחת אחד מקורבנות הירי באוניברסיטת פלורידה סטייט הגישה תביעה אזרחית נפרדת.
OpenAI הכחישה בעבר אחריות לאירועי הירי. דובר החברה מסר כי "הירי ב-FSU היה טרגדיה, אך ChatGPT אינו אחראי לפשע הנתעב הזה", והוסיף שהצ'אטבוט "סיפק תשובות עובדתיות המבוססות על מידע ציבורי שנגיש לכל אדם באינטרנט". החברה לא הגיבה עד כה באופן ישיר לתביעה הנוכחית, אך בעבר הדגישה את מנגנוני הבטיחות השוטפים שלה.
הרקע הפוליטי מוסיף שכבה. אות'מאייר, רפובליקני, בוחר לנקוט קו אגרסיבי כלפי תעשיית הבינה המלאכותית בדיוק בזמן שהמינהל הפדרלי מאט. בסוף מאי דחה הנשיא טראמפ ברגע האחרון חתימה על צו שהיה מקים מנגנון בדיקה מרצון למודלי בינה מלאכותית, בנימוק שזה יפגע בתחרותיות האמריקאית מול סין. פלורידה, כך נראה, החליטה לפעול מהמדינה כלפי מעלה, בזמן שוושינגטון מתלבטת.
ההליכים המשפטיים צפויים להימשך שנים, אך כבר עכשיו ברור שתביעה זו מציבה שאלה יסודית שכל תעשיית הבינה המלאכותית תידרש לענות עליה: האם צ'אטבוט הוא מוצר שיצרנו נושא בו באחריות מלאה, או שמא פלטפורמה שמוגנת מאחריות לתוצאות.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה