מייסד מיקרוסופט, ביל גייטס, הזהיר כי בינה מלאכותית מהווה כלי חזק מספיק כדי לחסל חלק ניכר מהאנושות. ההצהרה החריגה, שפורסמה בסוכנות הידיעות בלומברג, מצטרפת לגל אזהרות שמגיע מבכירים בעמק הסיליקון, ומגיעה בדיוק בתקופה שבה מדינות ומערכות ביטחוניות מתחילות לשלב בינה מלאכותית בתשתיות הרגישות ביותר שקיימות, כולל מערכות נשק גרעיני.
עד לאחרונה גייטס נשמע אופטימי בנוגע למהפכה הדיגיטלית והתמקד ביתרונותיה הכלכליים והמדעיים. עכשיו הוא מיישר קו עם התחזיות הקודרות ביותר בתעשייה. מומחים ומדענים מזהירים כי המערכות המתקדמות עלולות לפעול בניגוד לאינטרס האנושי וליצור איום ברמה המקבילה לנשק גרעיני או למגפה עולמית. עובדים בכירים בחברות הטכנולוגיה הגדולות מעלים הילוך באזהרותיהם, מתוך חשש ממשי לאובדן שליטה על האלגוריתמים שהם עצמם מפתחים.
במקביל לאזהרות מעמק הסיליקון, נחשפה סוגיה מדאיגה יותר. עדויות שנמסרו בפני בית הנבחרים האמריקאי מעלות חשש כי שילוב בינה מלאכותית ביירוט ובזיהוי מטרות צבאיות מנטרל בפועל את יכולת השיקול הדעת של הגורם האנושי. מומחים ומובילי מדיניות שהעידו בפני ועדת זכויות האדם של בית הנבחרים הסבירו כי הלחץ להגיב במהירות הופך את האישור האנושי לפורמלי בלבד, בלי שלמפקד בשטח יש זמן, מידע או יכולת ממשית להטיל ספק בהמלצת המערכת.
הפנטגון, מצדו, ממשיך לקדם אסטרטגיה שמטרתה לסגור מעגלי אש מהירים ומדויקים ולהפוך לכוח לוחם מבוסס בינה מלאכותית. אבל חוקרים שהעידו בקונגרס הבהירו כי לחיצה על כפתור אישור אינה מהווה הוכחה לשליטה אפקטיבית. בלחימה באוקראינה, למשל, טכנולוגיות מתקדמות כבר קיצרו את זמן קבלת ההחלטות ממוקד תקיפה משעות ספורות לדקות בודדות בלבד, מצב שמאלץ מפעילים אנושיים לפקח על מספר מערכות אוטונומיות במקביל, ללא יכולת אמיתית לזהות כשלים בזמן אמת.
מקרה שהוצג בדיון בקונגרס חשף את מלוא חומרת הבעיה. בתקיפה האמריקאית ביומה הראשון של המערכה מול איראן נפגע בית ספר יסודי בעיר מינאב, ובאירוע מתו למעלה ממאה ילדים. חברי קונגרס דרשו מהפנטגון להבהיר האם מערכת אוטונומית היא שהגדירה את מבנה בית הספר כמטרה צבאית לגיטימית, בשל קרבתו למתקן של משמרות המהפכה. הפרשה חשפה פער דיווח מדאיג: הצבא האמריקאי אינו מחויב כיום לגלות נתונים על מעורבות אלגוריתמית באירועי פגיעה באזרחים.
מעבר לזירת שדה הקרב הקונבנציונלי, הבינה המלאכותית כבר מתחילה לחדור לחלקים במערך הגרעיני עצמו. מדינות בעלות נשק גרעיני הפגינו לאורך ההיסטוריה ביטחון ביכולתן למנוע תאונות באמצעות נהלי בטיחות ואבטחה קפדניים, אולם דוח שפרסמה חברת אנתרופיק הציג ראיות לניסיונות של גורמים מדינתיים ושאינם מדינתיים להשתמש בבינה מלאכותית מתקדמת לפעילות סייבר, השפעה ומבצעים צבאיים.
בשונה מטכנולוגיות עבר, הבינה המלאכותית מתקדמת במהירות מחוץ לשליטה ממשלתית ישירה, ומובלת בעיקר על ידי חברות מסחריות פרטיות. מי שמפתחים את המודלים המתקדמים בדרך כלל אינם מבינים במבצעים גרעיניים, בעוד מפעילי המערכות וקובעי המדיניות אינם מבינים לעומק את הטכנולוגיה עצמה. הפער הזה יוצר, לפי אזהרות מומחים, נקודות תורפה חדשות שאיש עדיין לא מיפה במלואן.
הדיון הציבורי נוטה להתמקד בשאלה אם יש לשלב בינה מלאכותית במערכות פיקוד ושליטה, ובצורך לשמר סמכות אנושית על החלטות קריטיות. אולם לפי אזהרות שהועלו, השאלה כבר אינה רלוונטית באותה מידה, שכן הטכנולוגיה חדרה בפועל לניתוח מודיעין, מבצעי סייבר, איתור מטרות ותמיכה בקבלת החלטות ברחבי המערך הגרעיני. יישומים דומים כבר נצפו בעימותים באוקראינה ובאיראן, ולפי המומחים מדובר במציאות מתהווה ולא באיום עתידי רחוק.
גורמים בתעשייה ומומחים לאתיקה צבאית קוראים כעת להתערבות ממשלתית מהירה ולרגולציה בינלאומית נוקשה, לצד עריכת סקירות בטיחות גרעיניות מקיפות ועצמאיות בכל תשע המדינות המחזיקות בנשק גרעיני. הדרישה המרכזית היא לוודא שהפיתוח הטכנולוגי יישאר תחת בקרה אנושית הדוקה, שכן ההרתעה הגרעינית פעלה עשרות שנים בזכות יכולת אנושית לשלוט בסיכון, יכולת שהמומחים חוששים שהולכת ומתערערת עם כניסת המכונות למעגל ההחלטות הקריטי ביותר שקיים.
בין אזהרות מייסד מיקרוסופט לעדויות בקונגרס האמריקאי, מסתמן קונצנזוס גובר בקרב מומחים כי הפיקוח האנושי על נשק גרעיני ומערכות תקיפה מתכווץ מהר יותר משהרגולציה מצליחה להדביק את הפער.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה