גוגל למדה על בשרה מה קורה כשנותנים לציבור כלי בינה מלאכותית בלי לחשוב עד הסוף. החברה השיקה בגוגל ארת' פיצ'ר שאפשר למשתמשים ליצור גרסאות מדומות של תמונות לוויין אמיתיות, ותוך פחות מיממה נאלצה לבטל אותו לגמרי.
הכלי, שמבוסס על מנוע התמונות Nano Banana 2, הוצג בגאווה ב-30 ביולי 2026 על ידי בריאן הורוויץ, מנהל המוצר של גוגל ארת'. בפוסט רשמי בבלוג של החברה הוא כתב שמדובר בפעם הראשונה שבה אפשר ליצור תמונות מותאמות אישית תוך שילוב תצלומי הלוויין, האוויר והתלת מימד של גוגל ארת' עם יכולות הבינה המלאכותית של Nano Banana. נשמע מגניב על הנייר. במציאות, זה התפוצץ הרבה יותר מהר משציפו בגוגל.
מה שהתחיל כפיצ'ר שיווקי הפך תוך שעות לכלי הפצת דיסאינפורמציה. משתמשים גילו שאפשר לקחת תמונת לוויין אמיתית של כל מקום בעולם, ולהוסיף לה דברים שמעולם לא היו שם. לא סתם עצים או מכוניות, אלא דברים הרבה יותר בעייתיים.
דוגמה אחת שהסתובבה ברשת הראתה בור פיצוץ מזויף בלוס אנג'לס, כאילו מדובר בזירת פיגוע אמיתית. דוגמה נוספת הראתה הפגנות המוניות דווקא מחוץ לקמפוס של גוגל עצמה במונטיין וויו, קליפורניה. כן, גוגל הצליחה ליצור כלי שהפך את הקמפוס שלה עצמה לזירת מחאה מדומה. יש בזה משהו אירוני שלא ניתן להתעלם ממנו.
גוגל בהתחלה ניסתה להגן על הפיצ'ר. החברה טענה שכל תמונה שנוצרת באמצעות Nano Banana כוללת סימן מים דיגיטלי בשם SynthID, ושכל מי שמסופק לגבי אמינות תמונה יכול לבדוק אותה דרך אפליקציית Gemini או באמצעות Lens בחיפוש. במילים אחרות, הכלי מייצר תוכן מטעה, אבל אם באמת תרצו, יש לכם דרך לבדוק שהוא מזויף. מי בדיוק עוצר לבדוק תמונה שהוא רואה ברשת, זו שאלה אחרת לגמרי.
הביקורת לא איחרה להגיע. מדובר בין היתר בטענה חדה שהתפרסמה ברשת, לפיה ההסתמכות על סימן מים כדי לזהות תוכן מזויף פשוט לא מבינה איך דיסאינפורמציה עובדת בפועל. אנשים לא עוצרים לבדוק תמונות שהם רואים בגלילה. אם מישהו זוכר את הגל של תמונות בינה מלאכותית מזויפות של טווסי תינוקות שהציף את הרשת לפני כמה שנים, ואנשים באמת האמינו שהן אמיתיות, זה בדיוק הפוינט.
לבסוף, פחות מיממה אחרי ההשקה, גוגל הודיעה על נסיגה מלאה. בהודעה שפורסמה ברשת החברה כתבה כי היא מבינה שאנשים סומכים באופן ייחודי על גוגל ארת' כדי לקבל תמונה אמינה של העולם. לדבריה, נראו אנשי מקצוע בתחום הגיאו-מרחבי שמשתמשים בפיצ'ר לצרכים מועילים, אבל נראו גם משתמשים שמשתפים צילומי מסך של תמונות שנוצרו ונראות כמפרות את המדיניות של החברה.
גוגל הודיעה שהיא תוסיף אמצעי הגנה מחמירים יותר לפני שתחזיר את הפיצ'ר בעתיד. בינתיים הכלי נעלם לגמרי מגוגל ארת', וכל מי שהספיק ליצור יצירות מופת מדומות של פיצוצים והפגנות ייאלץ להסתפק בזיכרון.
הפרשה מצטרפת לשורה ארוכה של תקלות שקשורות לכלים ליצירת תמונות בבינה מלאכותית, ומעלה שוב את השאלה עד כמה חברות טכנולוגיה בודקות את הפוטנציאל להפצת מידע שגוי לפני שהן משיקות פיצ'רים חדשים לציבור הרחב. בגוגל כרגע לא מפרטים מתי בדיוק הפיצ'ר יחזור, אם בכלל, ובאיזו צורה.
גוגל למדה בדרך הקשה שכלי בינה מלאכותית שמאפשר לזייף מציאות, גם עם סימן מים, הוא מתכון בטוח לצרות.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה