בעולם ההייטק יש נוהג ידוע: כשמישהו עוזב חברה ענקית ומפרסם פוסט דרמטי, כדאי לשים לב. השבוע זה קרה עם ג'ייקוב קוקסון, חוקר בטיחות בכיר שעבד גם ב-OpenAI וגם באנתרופיק, שהחליט לפרסם ברשת אזהרה שגרמה לכולם להרים גבה.
לדבריו, הבינה המלאכותית עלולה להשמיד את האנושות עד סוף העשור הקרוב. לא פחות. הפוסט שלו רץ ברשת כמו אש בשדה קוצים, עם עשרות מיליוני צפיות ועשרות אלפי שיתופים תוך זמן קצר.
קוקסון לא הסתפק בפוסט אחד. הוא גם התראיין לרשת האמריקאית CNN, ושם לא חסך במילים. "המודלים הנוכחיים לא חכמים מספיק כדי להערים עלינו ברמה שתוביל להשמדה, אבל מה שפשוט מטורף זה קצב ההתקדמות", אמר. לדבריו, "יש אפשרות אמיתית מאוד שבעתיד הקרוב, בשנה הבאה, בשנה שאחריה, שיפור עצמי רקורסיבי יקרה, וניכנס לשלב שבו יש סיכוי שכולנו נמות. זה מגיע בקרוב".
מה בדיוק מפחיד אותו? קוקסון תיאר תרחיש שבו סוכני בינה מלאכותית אוטונומיים, עם מה שהוא מכנה "רצון חופשי", פורצים לתשתיות קריטיות ואפילו מייצרים נשק ביולוגי המוני. הוא קורא לתהליך הזה "פיצוץ אינטליגנציה", מצב שבו המערכת משפרת את עצמה בלי שום מגע יד אדם, עד שהיא עוקפת את היכולת האנושית לגמרי.
ולפני שחושבים שמדובר בקול בודד בדעת מיעוט, כדאי לדעת שחוקרים נוספים מתוך אנתרופיק תמכו בדבריו. אוון הובינגר, חוקר בכיר בחברה, העריך שיש סיכוי של יותר מעשרה אחוזים להשמדת האנושות בעשור הקרוב, והודה שלחברה שלו אין בכלל מענה לבעיית הריסון של המודלים. גם סמואל מרקס, שאחראי על תחום הפיקוח באנתרופיק, אישר שמפתחים בתעשייה חוששים מהכחדה, אבל התמריצים המסחריים וההכנות להנפקה פשוט לא נותנים לאף אחד לעצור.
קוקסון עצמו סיפר שהתפטר כי הבין שעזיבה שקטה לא תספיק. הוא טען שהבכירים בתעשייה "כנים לגמרי" כשהם מבקשים רגולציה מהממשלות, אבל תקועים במרוץ חימוש שבו אף אחד לא סומך על המתחרה, ולכן כולם רצים קדימה בכל מחיר. מעניין איך זה שדווקא מי שמרוויח הכי הרבה מהמרוץ הזה הוא גם זה שמתחנן שיעצרו אותו, לא?
אבל בין כל הדרמה על סוף העולם, שווה לזכור שיש כבר עכשיו בעיות ממשיות ולא תיאורטיות. ה-FBI רשם בשנת 2025 יותר מ-22 אלף תלונות על הונאות בעזרת בינה מלאכותית, עם הפסדים של כ-893 מיליון דולר, בעיקר דרך קולות משוכפלים ופרופילים מזויפים. גם מבחינה קוגניטיבית המצב לא מזהיר: מחקר של מיקרוסופט מצא שביטחון מופרז בבינה מלאכותית פוגע ביכולת החשיבה הביקורתית שלנו, ומחקר נוסף הראה שברגע שה-AI לא זמין, האנשים דווקא מתקשים יותר לזהות פייק ניוז לבד.
אז מה עושים בינתיים, לפני שהמכונות משתלטות? מומלץ לפחות להגן על עצמכם ברמת הבסיס: מפתחות גישה מאובטחים, עדכוני אבטחה, וזהירות ממה שאתם משתפים עם צ'אטבוטים. כי כמו שקוקסון עצמו רמז, הסכנה האמיתית היא לא סרט אקשן הוליוודי, אלא אלף החלטות קטנות שבהן אנחנו מוותרים בשקט על השליטה.
בינתיים בעמק הסיליקון הדיון רק מתחמם, וכל השאלה היא אם קוקסון הוא נביא זעם מוקדם מדי, או שהוא פשוט הראשון שהעז לומר בקול רם מה שכולם כבר חושבים בשקט.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה