מושל קליפורניה מקדם "מתג כיבוי" חירום לבינה מלאכותית

מושל קליפורניה גאווין ניוסום חתם על צו מנהלי דרמטי שמטרתו לרסן את תעשיית הבינה המלאכותית, לפני שיהיה מאוחר מדי. כך הוא עצמו ניסח את זה. הצו מורה על הקמת צוות מומחים שיגבש בתוך חודשיים המלצות להחמרת חוקי הבטיחות והאבטחה בתחום ה-AI במדינה.

בין הרעיונות שהצוות יתבקש לבחון: חובה על חברות AI מתקדמות להחזיק תוכניות בטיחות שייכתבו בידי גורמים עצמאיים, ואפילו פיתוח מנגנון "מתג כיבוי" שיאפשר להשבית מודלים שלמים במקרה חירום. חשוב להבהיר, בשלב הזה מדובר בהמלצות בלבד, לא בחוק מחייב. אבל ההשלכות עלולות להיות ענקיות.

קליפורניה היא לא מדינה רגילה כשמדובר בבינה מלאכותית. עמק הסיליקון נמצא בתחומה, ולפי נתוני המדינה עצמה, 33 מתוך 50 חברות ה-AI הפרטיות המובילות בעולם פועלות שם. כל כלל שייכנס לתוקף בקליפורניה עלול להשפיע בפועל על חלק ניכר מהתעשייה כולה, גם מחוץ לגבולות המדינה.

הצו מגיע על רקע פרשה שהסעירה את וושינגטון בשבועות האחרונים. חוקר בינה מלאכותית בשם ג'ייקוב קוקסון, שעבד בחברת אנתרופיק ולפני כן ב-OpenAI, התפטר מתפקידו והזהיר בפומבי כי חברות מובילות בתחום מתקדמות לעבר פיתוח "בינת-על" ללא מנגנוני בטיחות מספקים. הדברים שלו הציתו דיון סוער בקרב מחוקקים אמריקאים.

"הכישלון המוחלט של הממשל הפדרלי ליצור כל צורה של פיקוח משמעותי או אחריות בתחום הבינה המלאכותית צריך להדאיג כל אמריקאי, בעיקר כשמנכ"לי חברות Aי עצמם מתחננים לרגולציה", אמר ניוסום בהודעה רשמית. הוא הוסיף: "אנחנו לא מחכים לפעול, אנחנו נאיץ את העבודה על פיקוח משמעותי ואחראי, לפני שיהיה מאוחר מדי".

עמדתו של ניוסום מנוגדת בתכלית לעמדת הנשיא דונלד טראמפ, שדחה השבוע בתוקף כל קריאה להחמרת הרגולציה על בינה מלאכותית. טראמפ טען כי אין צורך ב"גדרות הגנה" נוספות בתחום, ואף כינה את החששות מסיכוני הבינה המלאכותית "תרגיל הונאה". בקונגרס האמריקאי, בינתיים, לא נראה שתתקבל כל פעולה חקיקתית משמעותית לפני הבחירות באמצע הקדנציה.

ניוסום לא נמצא לבד במאבק הזה. הוא נמנה על קבוצת פוליטיקאים דמוקרטים ששוקלים להתמודד בבחירות לנשיאות ב-2028, וכולם דוחפים לגישה תקיפה יותר כלפי הטכנולוגיה המתפתחת. מושל פנסילבניה ג'וש שפירו קרא באופן דומה לפיקוח חיצוני על המודלים המתקדמים ביותר. הסנטור מארק קלי מאריזונה מקדם חקיקה שתקים קרן, שתמומן על ידי חברות AI, לסיוע לעובדים שייפגעו מהטכנולוגיה. הסנטור קורי בוקר מניו ג'רזי אף קרא לטראמפ לכנס מושב מיוחד של הקונגרס שיוקדש כולו לסיכוני הבינה המלאכותית.

ניוסום, שכהונתו כמושל קליפורניה צפויה להסתיים ב-4 בינואר, לא הכריז רשמית על מועמדות לנשיאות, אך אמר בעבר שהוא שוקל את האפשרות. בהודעתו על הצו החדש הוא הדגיש כי קליפורניה כבר בנתה תשתית רגולטורית מתקדמת מאוד. מוקדם יותר החודש הוא חתם על חוק שיוצר מסגרת פורמלית למבקרים חיצוניים שיבחנו מערכות בינה מלאכותית לפני שהן יוצאות לשוק.

"בזמן שוושינגטון מתנערת מהאחריות שלה להגן על האמריקאים, קליפורניה בונה את מסגרת הרגולציה החזקה ביותר במדינה לתחום הבינה המלאכותית", אמר ניוסום. "קליפורניה כבר בנתה מודל לאומי, והמדיניות שלנו צריכה להיות קו הבסיס לכל הארץ".

הלחץ על ניוסום ועל מדינות נוספות לא מגיע רק מהפוליטיקה. גם בכירים בתעשיית הבינה המלאכותית עצמה מבקשים פיקוח הדוק יותר. מנכ"ל אנתרופיק, דריו אמודיי, קרא לאחרונה להאט את קצב הפיתוח של המודלים המתקדמים ביותר, והציע להרחיב את השימוש בצוותי בדיקה חיצוניים לצד סטנדרטים מחייבים לבטיחות. עכשיו נותר לראות אם צוות המומחים שיקים ניוסום יגבש המלצות שיהפכו בפועל לחוק מחייב, ואם מדינות אחרות בארה"ב ילכו בעקבות קליפורניה.

צוות המומחים אמור להגיש את מסקנותיו תוך כחודשיים, ובקליפורניה כבר מבטיחים שהמדיניות בנושא רק תלך ותתחזק.