אנת'רופיק נתפסה מרגלת אחר מפתחים - ומחקה את הקוד בחשאי

חברת הבינה המלאכותית אנת'רופיק נקלעה לסערה ציבורית בשבוע האחרון, לאחר שנחשף כי כלי התכנות הפופולרי שלה, קלוד קוד, הכיל מנגנון נסתר שעקב אחרי המשתמשים. החברה הסירה את הקוד לאחר הביקורת, אבל הנזק לתדמית כבר נעשה.

הפרשה פרצה לאחר שמפתח שהזדהה בשם "תֵ'ראלו" פרסם ממצאים מפתיעים. לדבריו, קלוד קוד בדק את כתובת ה-URL שדרכה המשתמש ניגש ל-API של החברה. כשהכלי זיהה כתובת חריגה, הוא עבר לאיסוף מידע נוסף על המחשב: אזור הזמן ושם המארח. המטרה, לפי מה שנחשף, הייתה לאתר גורמים חשודים כמו מעבדות בינה מלאכותית סיניות, חברות מתחרות, או כאלה שמוכרים גישה לחשבונות קלוד בשוק האפור.

מה שעצבן את קהילת המפתחים לא היה ניסיון ההגנה עצמו, אלא האופן שבו הוא בוצע. המנגנון פעל ברקע, ללא שום הודעה למשתמשים, ללא גילוי בתנאי השימוש, ובלי שום שקיפות. בדיוק הסוג של מהלך שגורם לאנשים לאבד אמון.

בעקבות הסערה, אנת'רופיק פרסמה עדכון שקט שהסיר את הקוד השנוי במחלוקת. מהנדס החברה טאריק שיחיפאר אישר ברשת החברתית X כי מדובר היה בניסוי שהחל בחודש מרץ. לדבריו, המטרה הייתה להגן על החברה מפני "זיקוק" מודלים ומניצול לרעה של חשבונות שנמכרו לצדדים שלישיים. הוא הוסיף שבחודשים האחרונים פותחו מנגנוני הגנה מתקדמים יותר, ולכן הקוד הישן ממילא תוכנן להסרה.

אז מה זה בכלל "זיקוק"? זה אחד האיומים הגדולים ביותר על חברות הבינה המלאכותית כיום. השיטה פשוטה ויעילה: מזינים למודל מסחרי כמו קלוד כמויות ענק של שאילתות, ואז משתמשים בתשובות שהוא מייצר כדי לאמן מודל מתחרה. בצורה הזו אפשר לחסוך את ההשקעה האדירה שנדרשת לפיתוח מודל מאפס, ולמעשה לגנוב את הידע שנצבר.

זו לא הפרשה הראשונה מהסוג הזה עבור אנת'רופיק. בדליפת קוד מקור קודמת של החברה נחשף כי היא מפעילה מנגנוני "הרעלה" שמטרתם לשבש את איכות הפלט כשיש חשד שמישהו מנסה לאמן מודל מתחרה על בסיס התשובות שלה. אנת'רופיק גם הצהירה בעבר שהיא משקיעה משאבים גדולים בפיתוח הגנות מפני זיקוק.

אבל ההגנות האלה לא תמיד עובדות. לאחרונה טענה אנת'רופיק שחברת הטכנולוגיה הסינית עליבאבא הצליחה לעקוף חלק מההגנות שלה ולנצל את פלטי קלוד לצורך אימון מודלים משלה. זה ממחיש עד כמה קשה המשימה שעומדת בפני חברות ה-AI הגדולות.

המקרה הנוכחי מציב שאלה נוקבת: עד כמה חברות בינה מלאכותית רשאיות לעקוב אחרי המשתמשים שלהן כדי להגן על עצמן, ומה הגבול בין הגנה לגיטימית על קניין רוחני לבין פגיעה בפרטיות? התגובות בקהילת המפתחים מראות שהאיזון הזה עדיין רחוק מלהיות ברור.

אנת'רופיק לא פרסמה התנצלות רשמית ולא הסבירה מדוע הטמיעה את המנגנון מלכתחילה ללא גילוי. נכון לעכשיו, החברה בחרה בשקט - אך הדיון על שקיפות בתעשיית הבינה המלאכותית ממשיך להתחמם.