טיקטוק מכריזה על מתקפה רחבת היקף נגד תוכן מזויף שנוצר באמצעות בינה מלאכותית. בשבועות הקרובים תשיק הפלטפורמה פיילוט של מערכות זיהוי משופרות, שיתמקדו באיתור חשבונות המייצרים ומפיצים כמויות גדולות של ספאם AI, תוך דגש על תחומים שבהם מידע שגוי עלול לפגוע באמון הציבור: פוליטיקה, אקטואליה, ייעוץ פיננסי ותוכן רפואי.
המספרים מדברים בעד עצמם. ברבעון הראשון של 2026 בלבד, הסירה טיקטוק יותר מ-86 מיליון חשבונות מזויפים שעסקו בהפצת ספאם. במקביל, החברה תייגה עד היום למעלה מ-3 מיליארד סרטונים כתוכן שנוצר באמצעות AI.
הסיבה לצעד אינה מקרית. פיתוח כלי ה-AI הגנרטיבי בשנתיים האחרונות הפך את ייצור הבוטים לקל וזול מתמיד. כלי AI מאפשרים ליצור במהירות כמויות עצומות של תכנים באיכות גבוהה יחסית, באופן שמציף פלטפורמות ומאיים לדחוק החוצה יוצרים ותכנים אותנטיים. "התפתחות הטכנולוגיה מנוצלת לייצור המוני של ספאם שמאיים על המרחב הדיגיטלי. אנחנו משתמשים בכלים המתקדמים ביותר כדי להגן על הקהילה שלנו ועל האותנטיות של הפלטפורמה", כך נמסר מהחברה.
שלא כמו מנגנוני זיהוי קודמים שבדקו סרטונים בודדים, המערכת החדשה תבחן דפוסי פעילות ברמת החשבון כולו. כך תוכל טיקטוק לזהות מצבים שבהם חשבון מסוים מייצר תוכן AI בהיקף מוני, גם אם כל סרטון לבדו לא נראה חריג. הבחינה החדשה מגיעה לאחר שהחברה זיהתה שינוי בדפוסי השימוש ב-AI: פחות יצירה נקודתית של סרטונים, ויותר ייצור המוני שמאתגר את יכולת הזיהוי.
לצד הפיילוט, טיקטוק מכריזה על הצטרפות לוועדה המנהלת של ארגון C2PA, הגוף שמוביל את תקן Content Credentials. מדובר בטכנולוגיה שמאפשרת לעקוב אחר מקור התוכן ולזהות מתי סרטון נוצר או עבר עריכה משמעותית באמצעות AI. טיקטוק הייתה פלטפורמת הווידאו הראשונה שאימצה את התקן, לפני כשנתיים, ועכשיו היא מועברת לכיסא המנהל כדי לדחוף את התעשייה כולה לאמצו. התיוג מתבצע כיום דרך שילוב של כלי תיוג עצמי ליוצרים וטכנולוגיית סימון מים בלתי נראית.
החברה לא מסתפקת בכלי אכיפה בלבד. טיקטוק משקיעה סכומי עתק גם בחינוך הציבור לשימוש נבון ב-AI. היא שיתפה פעולה עם ארגון NAMLE ועם חוקר הבינה המלאכותית הנרי אג'דר ליצירת מדריך לשימוש אחראי בכלי AI. התוכנית כבר רשמה יותר מ-200 מיליון צפיות מאז השקתה בסוף 2025, והחברה התחייבה להשקיע בה למעלה מארבעה מיליון דולר.
פיצ'ר נוסף שמגיע יחד עם המהלך הוא "ניהול נושאים". המשתמשים יוכלו להחליט בעצמם, דרך סליידר ייעודי, כמה תוכן שנוצר על ידי AI הם רוצים לראות בפיד שלהם. כך טיקטוק מנסה למצוא את האיזון בין הגבלת הספאם לבין אי-פגיעה ביוצרים לגיטימיים שמשתמשים בבינה מלאכותית ככלי יצירתי.
אם הפיילוט יצלח, צפויה טיקטוק להרחיב את מערכות הזיהוי לנושאים ולשפות נוספות, ולדחוף פלטפורמות מתחרות לאמץ תקנים דומים דרך חברותה בוועדה המנהלת של C2PA.
המאבק של טיקטוק בספאם AI מסמן שינוי גישה בתעשייה כולה: מהסרה של תוכן בודד לאיתור ונטרול של מבצעי השפעה שלמים ברמת הרשת.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה