ממשל טראמפ הורה ביום שישי לחברת הבינה המלאכותית אנתרופיק לחסום לאלתר את הגישה לשניים מהמודלים המתקדמים ביותר שלה - Fable 5 ו-Mythos 5 - בשל חששות לביטחון לאומי. בתגובה, החברה הודיעה כי היא נאלצת להשבית את שני המודלים עבור כל לקוחותיה ברחבי העולם, כדי לעמוד בדרישות הממשל.
ההוראה הגיעה לאנתרופיק ביום שישי בשעה 17:21 לפי שעון המזרח. לפי מה שנמסר, שר המסחר האמריקני הווארד לאטניק שלח מכתב אישי למנכ"ל החברה, דאריו אמודיי, ובו הודיע כי שני המודלים יוכפפו למשטר פיקוח יצוא. המשמעות המעשית היא שכל ייצוא, ייצוא מחדש או העברה של המודלים - אל מחוץ לארה"ב או לגורמים זרים בתוך ארה"ב - יחייבו רישיון מיוחד. ההגבלה חלה גם על עובדים זרים של החברה עצמה שמועסקים בתוך ארה"ב.
אנתרופיק מיהרה לציין שכל שאר המודלים שלה נותרים פעילים וזמינים כרגיל. רק Fable 5 ו-Mythos 5 הושבתו, וזאת כדי להבטיח עמידה מלאה בדרישות. "המשמעות המעשית של ההוראה היא שעלינו להשבית באופן מיידי את Fable 5 ו-Mythos 5 עבור כל הלקוחות שלנו", מסרה החברה. היא גם התנצלה בפני לקוחותיה על ההפרעה הפתאומית.
מה עומד מאחורי ההחלטה? לפי גורם בממשל, חברה אחרת טענה כי הצליחה לעקוף את מנגנוני ההגנה של אחד המודלים - כלומר לגרום לו לחשוף מידע או לבצע פעולות שאמורות להיות חסומות. אנתרופיק דוחה את הטענה וטוענת כי מדובר לכל היותר בחולשה צרה ונקודתית, ולא בפריצה גורפת. "אף בודק לא הצליח עד כה למצוא דרך כללית ויציבה לעקוף את מנגנוני ההגנה בכל מצב", ציינה החברה.
מיתוס 5 הוא המודל המתקדם ביותר שאנתרופיק פיתחה. החברה עצמה סיפרה כבר באפריל שהמודל מסוגל לאתר חולשות אבטחה בכל מערכת הפעלה ובדפדפן מרכזי שנבדק, ולכן בחרה שלא להפיצו באופן חופשי. במקום זאת, היא הגבילה את הגישה אליו לכחמישים ארגונים מאושרים בלבד - בהם אמזון, אפל, גוגל, מיקרוסופט ו-CrowdStrike - במסגרת יוזמה פנימית שנקראת "פרויקט גלאסווינג", שנועדה לשימוש הגנתי בלבד. Fable 5, שהושק שלושה ימים לפני ההשבתה, היה הניסיון של אנתרופיק להציע גרסה מסחרית בטוחה יותר - עם מחסומים שחוסמים תגובות בתחומים בסיכון גבוה כמו סייבר וביולוגיה.
אנתרופיק לא מסתירה את אי-שביעות הרצון שלה. "אנו מתנגדים לכך שממצא של פריצה פוטנציאלית צרה יהווה עילה לביטול מודל מסחרי שפרוס עבור מאות מיליוני אנשים", כתבה החברה. עוד הוסיפה אנתרופיק כי אם הסטנדרט הזה יחול על כל ענף הבינה המלאכותית, זה עלול להקפיא את פריסת המודלים המתקדמים בתעשייה כולה. במקביל, החברה הבהירה שהיא תומכת בעקרון שלפיו לממשלה צריכה להיות סמכות לחסום פריסות לא בטוחות - אך בתהליך שקוף, הוגן ומבוסס עובדות טכניות. "הפעולה הזאת לא עומדת בקריטריונים האלה", ציינה החברה.
המהלך הזה מסמן שינוי ביחס של וושינגטון למודלי בינה מלאכותית מתקדמים. עד כה טופלו כמוצרים טכנולוגיים מסחריים. עכשיו, לפחות בעיני הממשל, הם נכס אסטרטגי רגיש - בדיוק כמו טכנולוגיות ביטחוניות. גורם בממשל ציין כי המודלים יידרשו להישאר חסומים עד שמערך הביטחון הלאומי של ארה"ב יהיה מוכן טוב יותר להתמודד עם הסיכונים שהם מציבים. לדבריו, זה עשוי לקרות כבר בשבועות הקרובים. הפרת ההוראה, כך נכתב במכתב משרד המסחר, עלולה לגרור קנסות ועיצומים אזרחיים.
יש כאן גם אירוניה מסוימת. אנתרופיק בנתה את המוניטין שלה בדיוק על כך שהיא החברה "הזהירה" בתעשייה - זו שמדברת על סכנות ה-AI ביתר כנות. אבל ייתכן שהאזהרות הציבוריות שלה על כמה Mythos מסוכן הן שמשכו את תשומת הלב הממשלתית מלכתחילה. מנכ"ל אוייפן-AI, סם אלטמן, אפילו ציין באפריל כי השיווק של אנתרופיק סביב Mythos הוא "שיווק מבוסס פחד".
כרגע, אנתרופיק פועלת להשיב את הגישה למודלים בהקדם האפשרי ואמורה להמשיך בשיח מול הממשל. לפי הדיווחים, אם ייבנה מנגנון ביטחון לאומי מתאים, ייתכן שהחסימה תוסר בתוך שבועות - אם כי אין לכך כל ערובה בשלב זה.
ממשל טראמפ בחר לטפל במודלי AI כנכס ביטחוני לכל דבר, וכדור השלג הזה עשוי להתגלגל גם לעבר חברות טכנולוגיה אחרות בתעשייה.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה