אזרח בדרום קוריאה נעצר והועמד לדין לאחר שהפיץ תמונה מזויפת של זאב שנמלט לכאורה מגן חיות. התמונה, שנוצרה בבינה מלאכותית, לא ייצגה שום זאב אמיתי - אבל זה לא מנע מהרשויות לפתוח בחיפוש רחב היקף, ומאות תושבים נעלו את עצמם בבתיהם מפחד.
ההודעה התפשטה במהירות. תושבים ראו את התמונה, קיבלו את ההתרעות הרשמיות שבאו בעקבותיה, והגיבו בדיוק כפי שמישהו שמפיץ פייק כזה מצפה: פאניקה. חלקים מהעיר נכנסו למעין סגר עצמי, אנשים הימנעו מלצאת לרחוב, ההיסטריה הייתה אמיתית לגמרי גם אם הזאב לא.
הרשויות לא בדקו לעומק לפני שפעלו. הן פרסמו התרעה רשמית לתושבים על זאב שנצפה ברחובות, ומשם הדברים התדרדרו במהירות. המשטרה פרסה מחסומים, צוותים גדולים יצאו לחיפושים בשטח, ומשאבים ציבוריים כבדים הוקדשו למרדף אחרי חיה שמעולם לא הייתה שם.
כשהתברר שמדובר בתמונה מבוימת שנוצרה בכלי AI, עלה שאלה אחת מיד: מי עומד מאחורי זה. המשטרה איתרה את האזרח שהפיץ את התמונה, עצרה אותו, ופתחה נגדו בהליך פלילי. הוא מואשם בהפצת מידע כוזב שגרם לבהלה ציבורית ולפגיעה בתפקוד הרשויות.
המקרה הזה הוא לא רק סיפור מוזר מקוריאה. הוא ממחיש בדיוק כמה פשוט הפך להפעיל מכונת חיפוש ממשלתית שלמה עם תמונה אחת שנוצרה תוך שניות. הפער בין היכולת לייצר תוכן מזויף לבין היכולת של הרשויות לאמת אותו בזמן אמת - זה הפער שמישהו ניצל כאן, בין אם מתוך כוונה זדונית ובין אם מתוך טיפשות.
בדרום קוריאה, כמו במדינות נוספות, הרגולציה על הפצת מידע כוזב הולכת ומתהדקת. פרסום תוכן שגורם לבהלה ציבורית עלול לגרור ענישה פלילית, ולא רק קנס או אזהרה. המשפט שיתנהל נגד האזרח עשוי לשמש תקדים משמעותי לגבי אחריות על שימוש לרעה בכלי AI.
השאלה שנשארת פתוחה היא כיצד מערכות הרשויות עצמן לא סיננו את המידע לפני שפעלו עליו. פרסום התרעה רשמית על בסיס תמונה בודדת ממקור לא מאומת הוא כשל מערכתי לא פחות מהפצת הפייק עצמה. מי שכתב את ההתרעה לא שאל שאלות מספיק קשות, וכתוצאה מכך עיר שלמה שילמה את המחיר.
כרגע האזרח נמצא בהליך משפטי, והתיק שלו צפוי לבחינה ציבורית רחבה בקוריאה. הסיפור ממשיך לעורר דיון נוקב על גבולות השימוש בכלי יצירת תמונות מבוססי AI ועל האחריות הפלילית שאמורה לנבוע ממנו.
תמונה שנוצרה תוך שניות על ידי AI שיתקה עיר שלמה - ועכשיו מישהו עומד לשלם על כך בבית משפט.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה