מנכ"ל אנתרופיק מציע פיקוח על בינה מלאכותית - אך ללא "כפתור עצירה"

מנכ"ל אנתרופיק, דאריו אמודי, יצא בהצעה תקדימית: להכניס בודקי בטיחות חיצוניים אל תוך החברה, שיוכלו לצפות בתהליכי הפיתוח של מודלים חדשים ולפרסם ממצאים בלי אישור מראש. נשמע מרשים, נכון? הבעיה היא שאף אחד לא באמת ענה על השאלה הכי חשובה: מה קורה אם המפקחים האלה מוצאים משהו מפחיד, האם יש להם בכלל את הכוח לעצור את זה.

ההצעה הגיעה בעיתוי לא מקרי. חוקר לשעבר באנתרופיק בשם ג'ייקוב קוקסון התפטר לאחרונה בטענה שמעבדות הבינה המלאכותית המובילות דוהרות קדימה למערכות שהן עצמן לא באמת שולטות בהן. אמודי, במקום להתעלם מהאזהרה, כתב מסה ארוכה שבה הוא מציע לתת לגופי צד שלישי גישה שדומה לזו של צוותי הסיכונים הפנימיים בחברה עצמה.

אמודי אפילו טרח להשוות את הרעיון לפיקוח על בנקים, שם יש מפקחים ממשלתיים שיושבים פיזית בתוך המוסד הפיננסי. נשמע דומה, רק שיש הבדל קטן: המפקחים בבנקים יכולים להורות להפסיק פעילות, להגביל צמיחה ואפילו לסגור את המוסד. דיקנית הפקולטה למשפטים באוניברסיטת ויומינג, ג'ולי אנדרסן היל, לא התרשמה. "אם לא נותנים להם את הסמכות הזאת, אני לא יודעת מה הם בכלל עושים שם", אמרה. לדבריה, אם החברה בוחרת מי המפקח, קובעת מה הוא רואה ושומרת על הזכות להתעלם ממסקנותיו, "זה נשמע בדיוק כמו מחלקת ביקורת פנימית". ובלי מילים יפות, מה שאנתרופיק רוצה זה שמישהו יסתכל מאחורי הפרגוד ויגיד לציבור שהכל בסדר.

למרות הביקורת, שאר התעשייה קפצה על העגלה בשמחה. בכירים באופן איי, בגוגל ובספייסאקסאיי כבר תמכו בגישה של אמודי, וזה כבר הופך לעמוד השדרה של דיון הבטיחות בתחום. מעניין איך כולם פתאום מסכימים על משהו שלא מחייב אף אחד מהם לוותר על שליטה אמיתית.

מומחי אבטחת מידע דווקא חושבים שכל הרעש הזה סביב מפקחים חיצוניים מפספס את הבעיה האמיתית. קייט מוסוריס, מנכ"לית חברת האבטחה לוטה סקיוריטי, אמרה שהניסיון של אמודי לפתור את הבעיה באמצעות ביקורת חיצונית מוזר. "זה כאילו במקום לכתוב תוכנית לתיקון האבטחה, מיקרוסופט הייתה אומרת פשוט בואו נאט את הפיתוח", היא ציינה. לדבריה, התקריות שבהן סוכני בינה מלאכותית פרצו למערכות זרות התרחשו כי אף אחד בכלל לא ניטר אותם בזמן אמת, לא בגלל היעדר מפקח חיצוני.

בינתיים, גם הרגולטורים לא נשארים אדישים. בארצות הברית מתגבשת חקיקה שתחייב חברות בינה מלאכותית לדווח על תקריות בטיחותיות החל משנת 2026, ביוזמת מחוקקים שרוצים להגן על הציבור מפני תקלות במערכות מתקדמות. הבית הלבן וגופים בינלאומיים מנסים למצוא נוסחה שתאפשר פיקוח אמיתי, אבל בינתיים אין הסכמה מי בדיוק אמור להחזיק בהגה.

ומי שדווקא לא שקטה זו מיקרוסופט. בחברה הביעו חשש מהגישה של אנתרופיק לפיתוח הבינה המלאכותית, וטענו שהיא עלולה ליצור מערכות עם סוג של "מודעות" עצמאית, מה שמעלה שאלות אתיות לא פשוטות. לא נעים כשהמתחרים שלך מתחילים לדבר על תודעה מלאכותית כאילו זה סרט מדע בדיוני, אבל זה בדיוק מה שקורה כאן.

מייסד שותף של דיפמיינד הזהיר בנפרד שכישורי הבינה המלאכותית עלולים לעלות על אמצעי הביטחון הקיימים, וקרא לרגולציה מוקדמת לפני שיהיה מאוחר מדי. גם מארק צוקרברג נכנס לשיח, והציע גישה של תיאום רגולטורי בהשראת חוק סרבנס-אוקסלי, תוך דגש על שקיפות מבלי לחנוק את הפיתוח. כל אחד מציע פתרון אחר, אבל כולם מסכימים על דבר אחד: משהו חייב להשתנות, ומהר.

צילום: מארק צוקרברג

בינתיים, ה"בודק החיצוני" שאמור לשמור על כולנו עדיין לא קיים בפועל, וגם כשהוא יגיע, כנראה שלא יהיה לו כפתור כיבוי. אז בפעם הבאה שחברת בינה מלאכותית תגיד לכם שיש לה פיקוח, אולי שווה לשאול: פיקוח עם איזה שיניים בדיוק.