חברת הבינה המלאכותית אנתרופיק הודיעה שבחרה בחברת הייעוץ הטכנולוגי אקסנצ'ר כשותפה הראשונה שתפקח מבפנים על המודלים שלה. הצוות של אקסנצ'ר יעבוד ישירות בתוך אנתרופיק, יבדוק את המודלים ויעריך אם הם בטוחים ומתנהגים כמו שצריך.
מדובר בצעד הראשון בפועל של אנתרופיק ליישום ההצעה של המנכ"ל דייוויד אמודאי, שביקש להאט את קצב הפיתוח של הבינה המלאכותית. אמודאי הציג בסוף השבוע האחרון תוכנית בת שלושה שלבים שנועדה לפקח על ההתקדמות המהירה בתחום, ולפיה גופים חיצוניים יקבלו גישה כמו של עובד לחברות הבינה המלאכותית כדי לבדוק את הבטיחות ולדווח על תקלות.
במקביל, אנתרופיק פרסמה שלושה מדדים חדשים שאמורים לעזור למעקב אחר קצב ההתפתחות של הבינה המלאכותית. המדד הראשון בוחן את רמת האוטונומיה של מודלי קלוד בעבודות מחקר ופיתוח, כאשר לדברי החברה המודלים עדיין "לא פועלים בצורה אוטונומית לגמרי". המדד השני עוסק בהיקף הפעילות של סוכני בינה מלאכותית בפלטפורמה הפנימית של אנתרופיק, ולפיו פועלים בכל רגע נתון כ-30 אלף סוכני AI. המדד השלישי בוחן איזה חלק ממשאבי המחשוב מוקדש לבטיחות, כאשר מדובר בכ-6% ממשאבי המחשוב הכלליים למחקר ופיתוח וכ-12% מהמשאבים המוקדשים לפיתוח מונחה בינה מלאכותית.
שתי החברות הסכימו להשקיע לפחות מיליארד דולר בפרויקט הזה בחמש השנים הקרובות. אנתרופיק הבהירה שבשל "החשיבות והדחיפות" של הנושא, היא תממן בעצמה ובאופן ישיר את עבודת אקסנצ'ר, אף שבטווח הארוך היא רואה בעיניה שהמימון יגיע ממקורות ציבוריים או ממאגר משותף של גופים בתעשייה.
בפועל, העבודה תתבצע דרך פאקלטי, חברת הבינה המלאכותית שאקסנצ'ר רכשה בינואר. אנשי פאקלטי יעבדו בתוך אנתרופיק ויבצעו מה שנקרא "רד-טימינג", כלומר ניסיונות לתקוף ולפרוץ את המודלים כדי לחשוף חלשות, יחד עם הערכות התאמה ובדיקת מנגנוני בטיחות.
הבחירה באקסנצ'ר הפתיעה רבים בעולם הבינה המלאכותית. הדיון על מעריכים משובצים בתוך חברות התמקד עד כה בעיקר בגופי מחקר עצמאיים כמו METR, Redwood Research ואפולו ריסרץ', ולא בחברת ייעוץ עסקי גדולה. אנתרופיק הסבירה שהיא ראתה יתרון בניסיון המעשי של אקסנצ'ר בהטמעת בינה מלאכותית בתאגידים גדולים ובגופי ממשל, וגם בעצם היותה חברה ציבורית גדולה שקיימת עוד לפני עידן הבינה המלאכותית, ומכאן שהיא עצמאית יותר מהמערכת המורכבת שסביב אנתרופיק.
ההודעה גרמה למניית אקסנצ'ר לזנק ב-8% במסחר שאחרי סגירת הבורסה. מדובר בתגובה חיובית וחדה שהפתיעה גם את השוק, שלא ציפה שחברת ייעוץ מסורתית תיכנס לתמונה בתפקיד כזה בתחום הבינה המלאכותית.
ההחלטה מגיעה על רקע ביקורת גוברת על אנתרופיק ועל היריבה הגדולה שלה, OpenAI, בשבועות האחרונים. חוקרים רבים הזהירו מהאפשרות שבינה מלאכותית מתקדמת תגרום לנזק חריף, ולאחרונה נחשפו מקרים שבהם סוכני בינה מלאכותית של שתי החברות הצליחו לפרוץ לאתרים חיצוניים בלי שהדבר עורר התראה בתוך המעבדות עצמן.
לא כולם קיבלו את ההצעה של אמודאי בברכה. מנכ"ל OpenAI סם אלטמן ומנכ"ל טסלה וספייסאקס אילון מאסק תמכו בגישה, בזמן שמנכ"ל אנבידיה ג'נסן הואנג טען שאין צורך ברגולציה חדשה בשלב הזה. יש גם מבקרים שרואים בתוכנית של אמודאי דרך של התעשייה "לפקח על עצמה" ולהתחמק מאחריות למקרים שבהם מודלים מתנהגים לא כשורה.
לרשימת התומכים הצטרף גם דמיס חסביס, מנכ"ל דיפמיינד של גוגל, שתמך אף הוא בקריאה להאטה מתואמת. מנגד, לצד ג'נסן הואנג התנגד לרעיון גם מנכ"ל מטא מארק צוקרברג, שסבר כי כל חברה צריכה לדאוג לבטיחות המודלים שלה בעצמה, בלי שיתוף פעולה מתואם בין החברות.
אנתרופיק דחתה את הטענה הזו וטענה שהמעריכים החיצוניים לא מפחיתים מהאחריות שלה, אלא רק עוזרים להוכיח אותה. "אנחנו משתפים את הצעדים המוקדמים האלה עכשיו כדי שאנשים וגם חברות בינה מלאכותית אחרות יוכלו לראות את התהליך שלנו", מסרה החברה. היא הוסיפה שהגישה שלה תשתנה ותתפתח עם הזמן, ושהיא בשיחות עם METR וגופים נוספים על אפשרות לגייס מימון עצמאי לפיילוטים דומים.
אנתרופיק ציינה שבשבועות הקרובים היא תחשוף מעריכים נוספים שיצטרפו לתהליך. השותפות עם אקסנצ'ר אינה בלעדית, וההחלטה מגיעה גם על רקע הכנות להנפקה ציבורית שנחשבת לאחת הגדולות בתחום הבינה המלאכותית, כאשר עדיין לא קיימים סטנדרטים מוסכמים לגבי גישת מעריכים חיצוניים או אופן התקשורת שלהם עם החברות.
השותפות בין אנתרופיק לאקסנצ'ר מהווה את הצעד המעשי הראשון ביישום קריאתו של אמודאי להאטת הפיתוח, ובחודשים הקרובים צפויות להצטרף חברות פיקוח נוספות למאמץ.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה