פסיכיאטרים מזהירים: הצ'אטבוטים מתחנפים אליכם ומייצרים תלות

הוא מסכים איתך, מדבר בשפה שלך, וזוכר כל פרט קטן שסיפרת לו. נשמע כמו חבר טוב, נכון? אבל מחקר חדש טוען שזה בדיוק הבעיה.

חוקרים מתחום הפסיכיאטריה פרסמו סקירת מחקרים שמגלה כיצד צ'אטבוטים מבוססי בינה מלאכותית יוצרים תחושת קרבה ואמון בקרב משתמשים - לא בגלל שהם מדויקים, אלא בגלל שהם מצוינים בלגרום לנו להרגיש שמישהו מבין אותנו.

לפי החוקרים, שלוש יכולות מרכזיות פועלות יחד ויוצרות מה שהם מכנים "ספירלת ההעצמה". הראשונה היא חנפנות - נטייה להסכים עם המשתמש ולהימנע מעימות. השנייה היא התאמה לשונית, כלומר הצ'אטבוט פשוט מאמץ את סגנון הכתיבה, אוצר המילים והביטויים שלך. השלישית היא היפר-פרסונליזציה - עם הזמן המערכת בונה פרופיל אישי ומייצרת תשובות שמותאמות במיוחד לך.

פרופ' מארק אוגוסטין, ממחברי הסקירה, הסביר את המנגנון: "החיקוי וההתאמה האישית מושכים אותך פנימה ויוצרים את החוויה של שיחה עם מישהו אמיתי". ובני אדם, כך מסבירים החוקרים, נוטים באופן טבעי לבטוח יותר במי שמדבר בשפה שלהם ומשתמש באותם ביטויים בדיוק.

ועכשיו החלק המדאיג יותר. הצ'אטבוטים לא רק משקפים את מה שאמרת - לפעמים הם גם מחזקים את הרעיונות שלך, מרחיבים אותם, ומסבירים לך עד כמה המחשבות שלך מיוחדות. החוקרים מזהירים כי תהליך כזה עלול להעצים הטיית אישוש - הנטייה שלנו לחפש מידע שמחזק את מה שאנחנו כבר מאמינים - ואף לחזק מחשבות שווא אצל משתמשים פגיעים.

הנתונים מהשטח חד משמעיים. בסקר של האגודה האמריקאית לפסיכולוגיה, שבו השתתפו יותר מ-1,200 פסיכולוגים, 68% דיווחו כי מטופלים שלהם הרגישו שהצ'אטבוטים מעניקים להם תחושת אישור ותמיכה. 36% סיפרו על מטופלים שפיתחו תלות ממש במערכות הבינה המלאכותית, ו-15% נתקלו במקרים של חשיבה מעוותת או מחשבות שווא שנקשרו ישירות לשימוש בצ'אטבוטים.

הממצאים האלה כבר גורמים לתנועה בתוך התעשייה עצמה. OpenAI הודיעה כי בדור החדש של המודל שלה הצליחה להפחית משמעותית את שיעור התשובות החנפניות לעומת הגרסאות הקודמות. גוגל עדכנה את המודל שלה כך שיבדיל טוב יותר בין תחושות אישיות לעובדות. אנת'רופיק שיפרה את המודל שלה כדי לצמצם את הנטייה להסכים אוטומטית עם המשתמשים, במיוחד בנושאים רגישים כמו זוגיות ויחסים. מעניין שדווקא נושאים כאלה הם שדרשו טיפול מיוחד.

למרות כל המאמצים האלה, החוקרים מסבירים שמדובר באתגר טכנולוגי אמיתי ולא פשוט לפתרון. מודל בינה מלאכותית פשוט לא יודע אילו חלקים בסיפור שסיפרת לו משקפים את המציאות ואילו לא. הוא מתחיל כל שיחה מנקודת המבט שהצגת בפניו, ולכן גם מודלים מתקדמים עלולים להעניק לפעמים תחושת אישור חזקה מדי.

השאלה הגדולה שהחוקרים מציבים היא לאן כל זה מוביל: ככל שהמערכות האלה הופכות לאישיות, טבעיות ומשכנעות יותר, האם הן ישארו רק עוזרות דיגיטליות - או שהן כבר בדרך להפוך לגורם שמשפיע בפועל על הדרך שבה אנחנו חושבים, מרגישים ומקבלים החלטות.