חברת אנתרופיק, המפתחת את מודל הבינה המלאכותית קלוד, חשפה דוח מטריד המראה כיצד גורמים עוינים במזרח התיכון ניצלו את המערכת שלה למטרות צבאיות ומודיעיניות. הדוח, שמסכם פעילויות חריגות שסוכלו מסוף 2025 ועד אוגוסט 2026, מגלה כי חוליית מהנדסים שפעלה בצפון תימן, באזור הנשלט ברובו בידי החות'ים, השתמשה בקלוד כתחליף מלא לצוות מהנדסי תוכנה אנושי.
לפי הממצאים, אנשי החוליה עבדו במקביל על כמה תוכניות נשק: רקטה מונחית, טיל בליסטי רב-שלבי לטווח של יותר מ-2,000 קילומטרים, ודגם נוסף שכלל גם כלי גלישה היפרסוני. המערכת שימשה אותם לכתיבת תוכנות הנחיה וניווט, לביצוע סימולציות, לכיול מערכות ולבדיקת קוד. באנתרופיק ציינו כי בחלק מהמקרים המפעילים הריצו כמה מופעים של קלוד במקביל, כשכל מופע ביצע משימה אחרת, בדומה לצוות מהנדסים שעובד ללא הפסקה.
הדוח חושף פרט מרתק במיוחד: החוליה בתימן ביצעה ניסוי שטח ממשי ברקטה מונחית, וזה ככל הנראה נכשל. בתוך שעות ספורות חזרו המפעילים למודל וניסו להבין מה השתבש. בחברה הבהירו כי אין בידיהם ראיות לכך שהמערכות הללו הפכו למבצעיות, אך הדגישו שהמקרה מוכיח כיצד בינה מלאכותית יכולה לקצר משמעותית תהליכים הנדסיים שבעבר דרשו חודשים ושנים של עבודה.
לצד הזירה הצבאית בתימן, הדוח מתאר גם פעילות מודיעינית נרחבת שמקושרת לאיראן. גורם בעל זיקה למשטר בטהרן השתמש בקלוד כדי לבנות כלי אוטומטי שאסף וניתח מידע גלוי על מאות אישים בישראל ובתפוצות היהודיות. מטרת הכלי היתה להעשיר רשימות מטרות קיימות וליצור פרופילים מפורטים על אנשי ממשל ופעילי ארגונים לא-ממשלתיים.
גורם איראני נוסף נעזר במודל כדי לגבש המלצות אופרטיביות לפגיעה בכוחות הצי האמריקני באזור. המערכת סייעה לו במעקב אחר מיקומי ספינות אמריקניות, בזיהוי חיילים ובחיפוש נקודות תורפה בתקשורת של כלי השיט. לפי דוח שפרטיו הובאו בוול סטריט ג'ורנל, הקבוצה שילבה מידע ממשדרי זיהוי ומעקב של ספינות ומטוסים, תצלומים צבאיים ותמונות לוויין מסחריות. באנתרופיק אמרו כי הצליחו לסכל את המזימה.
בתוך איראן עצמה, הטכנולוגיה נוצלה לצרכי דיכוי פנימי. שתי יחידות ביטחון הפעילו 16 חשבונות שונים כדי לנתח ציוצים וליצור פרופילים של אלפי אזרחים לצורך מעקב אחר מתנגדי משטר. אחת היחידות פיתחה תוסף זדוני לדפדפן שהתחזה ליישומון תמים של זמני תפילה, במטרה לשאוב בחשאי זהויות של משתמשים ברשתות החברתיות. מנגנוני התעמולה של המשטר השתמשו בקלוד גם ליצירת זהויות בדויות וגיבוש מערכי הפצה במסגרת מה שהוגדר "לוחמה קוגניטיבית", כולל ייחוס טענות כוזבות למכוני מחקר מערביים מוכרים.
הדוח, שמונה 154 עמודים, מתייחס גם לפעילות של ארגון האופוזיציה האיראני מוג'אהדין ח'לק, שהריץ פעיל בדוי באמצעות המערכת, וכן לגורמים ממשלתיים באיחוד האמירויות שניסחו עדויות מזויפות עבור מוסדות באו"ם. בנוסף, אנתרופיק איתרה חשבון של חברה שתוארה כישראלית-סינגפורית שניסתה לבנות פלטפורמה למיפוי משתמשים באיראן ובמפרץ הפרסי ולייצור מאות זהויות מזויפות, אך הפרויקט אותר בשלב ניסויי בלבד והגישה למערכת נחסמה בטרם הופעלה נגד מטרות אמיתיות.
בחברה הזהירו כי המקרים ממחישים סיכונים מתהווים לביטחון הלאומי הנובעים משימוש בכלי בינה מלאכותית מתקדמים לצרכים צבאיים ומודיעיניים. באנתרופיק הוסיפו כי מערכות ההגנה שלהם חסמו חלק מהבקשות החשודות, ולאחר שהפעילות זוהתה נסגרו החשבונות והמידע הועבר לגורמים רלוונטיים. עם זאת, בחברה מודים כי קשה במיוחד לזהות בקשות שמפוצלות לחלקים קטנים שכל אחד מהם נראה כמו תכנות או הנדסה רגילה, בלי שהמודל יודע שהוא מסייע בפועל לפיתוח נשק.
הדוח פורסם ימים ספורים לאחר שחוקר בכיר באנתרופיק, ג'ייקוב קוקסון, הודיע על התפטרותו מהחברה ויצא נגדה בפומבי, בטענה שחברות הבינה המלאכותית "דוהרות לעבר מערכת שמסוגלת לשפר את עצמה, ומהמרות על החיים של כולנו". בחברה מציינים כי הדוח מתאר גם מקרים נוספים במדינות כמו סין ורוסיה, וכי הסכנה המרכזית אינה בכך שהמודל מחזיק ידע סודי, אלא ביכולתו לחבר ידע קיים ולקצר משמעותית את הדרך למי שמנסה לפתח נשק או לביצע פעולות מודיעיניות.
חברת אנתרופיק מבהירה כי היא ממשיכה לשפר את מנגנוני ההגנה שלה, אך הדוח מותיר שאלה פתוחה לגבי היכולת של חברות הבינה המלאכותית לעמוד בקצב ההתפתחות הטכנולוגית ולזהות בזמן שימוש זדוני במערכות המתקדמות ביותר שלהן.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה