הצבא האמריקני היה קרוב מאוד לתקיפת כלי שיט סיני במזרח התיכון, על בסיס דוח מודיעיני שהתגלה כשקרי לחלוטין. הדוח, שנכתב באביב האחרון בעיצומה של המלחמה בין ארצות הברית לאיראן, קבע כי הספינה נושאת רכיבים הקשורים לתוכנית נשק גרעיני. מה שלא ידעו הגורמים שקיבלו את ההחלטות: הדוח כולו הופק בסיוע בינה מלאכותית, וזה שגה.
לפי ארבעה גורמים המכירים את פרטי האירוע, הצבא האמריקני החל לפעול במטרה ליירט את הספינה. שניים מהם מסרו כי חיילים חמושים כבר נערכו לעלות על הכלי, ומטוסים קרביים היו באוויר, מוכנים לפעולה. המבצע כולו נבנה סביב מסקנה אחת: שהספינה הסינית מובילה מטען מסוכן ואסור.
רק זמן קצר לפני שהמבצע יצא לפועל, גורמים אמריקנים החליטו להעמיק את הבדיקה של הדוח. או אז התגלה כי הוא נכתב על ידי אנליסט בפיקוד המבצעים המיוחדים, בעזרת צ'אטבוט בינה מלאכותית שזיהה באופן שגוי את החומרים שהספינה נשאה בפועל. מהו החומר שזוהה בטעות, לא התברר.
"הדוח היה שקרי לחלוטין", מסר אחד המקורות. "זה כמעט התחיל מלחמה", הוסיף. כל פעולה אמריקנית נגד ספינה סינית באזור המזרח התיכון הייתה עלולה להסלים באופן מיידי לעימות צבאי בין שתי המעצמות, אחת מהתרחישים המסוכנים ביותר בזירה הבינלאומית כיום.
מבדיקת האירוע עולה כי האנליסט הזין לצ'אטבוט מידע מודיעיני שמקורו בפיקוד המבצעים המיוחדים של ארה"ב באוקיינוס השקט, ובסיסו בהוואי. הצ'אטבוט שילב בין מידע ממקורות פתוחים לבין מודיעין סודי שנמצא במאגרי הממשלה, והגיע למסקנה שגויה. לאחר מכן השתמש האנליסט בבינה מלאכותית פעם נוספת כדי לנסח את הממצאים כדוח מודיעיני סטנדרטי, מהסוג שגורמים בכירים בצבא נותנים בו אמון ללא עוררין, והפיץ אותו ברחבי המערכת.
גורם בכיר לשעבר שמכיר את מערכות הבינה המלאכותית שבהן משתמשים אנליסטים בצבא ובקהילת המודיעין תיאר את הבעיה: "הכלים הפנימיים הם ברובם פשוט עותקים של המוצרים המסחריים, עם קצת איפור". לא ברור אם הכלי שגרם לטעות היה מוצר מסחרי או מערכת פנימית של ממשלת ארה"ב, ופיקוד המבצעים המיוחדים באוקיינוס השקט ומשרד ההגנה האמריקני סירבו להגיב לפרשה.
הצבא והקהילה המודיעינית בארצות הברית ממהרים לשלב בינה מלאכותית כמעט בכל תחום, מניתוח כמויות עצומות של מידע גולמי ועד בחירת מטרות לתקיפה. בחודש ינואר הכריז שר ההגנה האמריקני על אסטרטגיה להאצת השימוש הצבאי בטכנולוגיה, במטרה להנגיש אותה לשלושה מיליון עובדים אזרחיים וצבאיים בכל רמות הסיווג. אלא שלפי גורמים המכירים את הפרטים, מדובר במאמץ מבוזר לחלוטין, כשגופים שונים משתמשים בכלים שונים תחת תקני בטיחות שונים, ללא מערכת אחידה שמאמתת את המידע.
גורם נוסף המעורה במדיניות הנוכחית של הצבא הזהיר כי הסיכון רק הולך וגדל: "בינה מלאכותית בקביעת מטרות היא בהחלט משהו שהולך ומתרחב, ואין הנחיות ברורות לגבי האופן שבו נוכחות של אדם בתהליך תמנע נפגעים אזרחיים או ירי בשוגג על כוחותינו". לפי אחד המקורות, מדובר בהזיה של בינה מלאכותית, ולא באירוע חריג. תקלות דומות התרחשו בעבר בקהילת המודיעין, מאז שהכלים הללו החלו להתפשט בממשל.
אנליסטים ותיקים שתומכים באופן עקרוני בשימוש בבינה מלאכותית בצבא מודים כי הטכנולוגיה מפעילה לחץ על אנליסטים צעירים לייצר ולהפיץ מודיעין במהירות רבה, ובכך פותחת פתח לטעויות חמורות. "בינה מלאכותית מאפשרת לך להגיע לרעיון גרוע מהר יותר", סיכם אחד המקורות. לא ידוע אם בעקבות הפרשה ננקטו צעדים לשינוי נהלי האימות של דוחות מודיעין שנכתבים בסיוע בינה מלאכותית בצבא האמריקני.
האירוע חושף את הסיכון המיידי שבשימוש בבינה מלאכותית לצרכים צבאיים רגישים, כאשר החלטה שגויה כמעט הובילה לעימות בין שתי המעצמות הגדולות בעולם.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה