חברת OpenAI הכריזה השבוע על גרסה חדשה לגמרי של ChatGPT, שמיועדת במיוחד לבני נוער. מדובר במהלך שנשמע כמו תשובה ישירה לכל הביקורת שהצטברה על החברה בשנה האחרונה.
הגרסה החדשה, שנקראת "ChatGPT לבני נוער", תזהה אוטומטית משתמשים מתחת לגיל 18. איך? שילוב של הצהרת גיל, ניתוח התנהגותי ואותות מהחשבון. וכשהמערכת לא בטוחה בגיל האמיתי של מי שיושב מולה? היא תבחר בברירת המחדל הזהירה יותר. עדיף להיזהר מדי, ככה זה נראה.
מה בעצם משתנה? קודם כל, ההגנות. השיחות בנושאים "רגישים" כמו פגיעה עצמית, אלימות והפרעות אכילה יהיו מוגבלות משמעותית. OpenAI כתבה בבלוג הרשמי שלה שהמטרה היא "לתמוך ברגעים שמחוץ לכיתה, שבהם עזרה לא תמיד זמינה". ניסוח יפה, אבל בואו נודה, זה בעיקר ניסיון להירגע מהתביעות.
כי כן, יש תביעות. משפחות של בני נוער שלכאורה מתו בעקבות אינטראקציות עם צ'אטבוטים כבר תבעו את OpenAI, וזה לא סוד שהחברה מתמודדת עם כמה תיקים משפטיים במקביל. מומחים לבריאות הנפש התריעו לא פעם שההסתמכות של קטינים על בוטים כמקור לתמיכה רגשית היא עניין מסוכן. אז נראה שההשקה הזו לא בדיוק יזמה ספונטנית של החברה, אלא תגובה לחץ.
ולהורים יש עכשיו יותר שליטה. אפשר יהיה להגדיר "שעות שקטות" שבהן הילד לא ישתמש בכלי, לנהל הגדרות פרטיות, ולקבל התראות כשבן הנוער משוחח עם הבוט על נושאים מורכבים. כלי בקרה שנשמעים דומים למה שמטא כבר הפעילה ברשתות שלה, לא במקרה כמובן, כשכולם רצים להראות שהם "אחראים" לפני שהרגולטורים יגיעו אליהם קודם.
בצד החיובי, יש גם התייחסות ללמידה. הגרסה החדשה כוללת מצב לימוד, תזכורות לשיעורי בית, חידונים והמחשות חזותיות. הרעיון הוא שהבוט לא פשוט ייתן תשובה מוכנה, אלא ילווה את התלמיד עם שאלות מנחות. ואם הוא מזהה שהתלמיד מנסה לרמות במטלה? הוא ידחוף אותו למצב הלימוד במקום לפתור לו את השיעורים. רעיון נחמד על הנייר, אבל כל מי שהיה פעם נער יודע כמה קל למצוא דרכים לעקוף הגבלות כאלה.
וזו בדיוק הנקודה שמעלים בטכנולוגיה: לא ברור בכלל כמה קל יהיה לבני הנוער "לברוח" מהמצב המוגן הזה. נערים תמיד היו מומחים בעקיפת בקרת הורים, וזה לא הולך להשתנות רק כי OpenAI קוראת לזה "הגנה מבוססת מדע התפתחותי". השאלה האמיתית היא לא אם יש הגנות, אלא כמה זמן ייקח לילד הממוצע לפרוץ אותן.
לפי מחקר של מרכז המחקר פיו שפורסם השנה, השימוש הכי נפוץ של בני נוער בארה"ב בבינה מלאכותית הוא דווקא חיפוש מידע ועזרה בשיעורי בית, ורק אחר כך שימושים לכיף ולבידור. אז אולי בסוף הגרסה החדשה תעזור לפחות למי שבאמת רוצה ללמוד, גם אם היא לא תעצור את מי שרוצה לעקוף אותה.
OpenAI כבר הודיעה על שיתוף פעולה עם חברה שתעזור לבני נוער להבין איך בינה מלאכותית עובדת, ולהשתמש בה בצורה אחראית יותר. עוד ייקח זמן לראות אם ההגנות החדשות באמת יעבדו בשטח, או שיהפכו לעוד פרק בסיפור הארוך של טכנולוגיה שמנסה להדביק את עצמה אחרי שהנזק כבר נעשה.
בכל מקרה, ChatGPT לבני נוער כבר בדרך, וההורים יצטרכו ללמוד להשתמש בכלי הבקרה החדשים לא פחות מהילדים עצמם.
תגובות
רגע, שקט פה מדי
דעתך חשובה - תהיו הראשונים להגיב על הכתבה