דוח חדש חושף כשלים בהגנות של ChatGPT לבני נוער

דוח חדש חושף כשלים בהגנות של ChatGPT לבני נוער דוח של ארגון Common Sense Media חושף כי מרבית הגנות הבטיחות בגרסת ChatGPT לבני נוער אינן פועלות כמובטח במצבי משבר וביצירת תלות רגשית. על פי OpenAI, במהלך הקיץ, משתמשים שציינו כי הם מתחת לגיל 18 או שזוהו כקטינים, הועברו באופן אוטומטי לגרסה לבני נוער. החברה הציגה גרסה זו של הצ'אטבוט מבוסס-הבינה המלאכותית ככזו הכוללת "אמצעי בטיחות מובנים וחזקים יותר עבור בני נוער, לרבות תכונות לעידוד שימוש בריא ובקרות נוספות להורים". בני נוער צעירים יותר (או הוריהם) המשתמשים בגרסה זו יכולים להגדיר שעות מסוימות כ"זמן לימודים"; בשעות אלו, שאלות המופנות ל-ChatGPT יובילו את המערכת לסייע לנערים בפתרון בעיות והתמודדות עם אתגרים, במקום לספק תשובות ישירות בלבד. כמו כן, הגרסה נועדה לצמצם חשיפה לתוכן שאינו הולם, ולהתריע בפני הורים במקרים של שאלות המעידות על הפרעות אכילה, בעיות נפשיות או מצבי משבר. חוקרי הארגון Common Sense Media מצאו כי שאלות או אמירות שהופנו ל-ChatGPT המעידות על מצב משבר, הובילו להפניות לגורמים מקצועיים בתחום בריאות הנפש בשיעורים נמוכים יותר מאשר בגרסה הרגילה. הודעות להורים אמורות להישלח כאשר מדובר בבני נוער הנמצאים ב"מצבים בסיכון גבוה", או בעת דיונים על תכנים הקשורים להתאבדות, פגיעה עצמית, אלימות והפרעות אכילה. עם זאת, הארגון ציין כי ארבעה חשבונות ניסיוניים, שבהם הועלו תכנים מסוג זה, לא הובילו לשליחת התראות להורים. הבודקים גילו גם כי למרות הצהרתה של OpenAI, שלפיה ChatGPT לבני נוער אינו אמור "לעודד תלות רגשית או לרמוז שיש לו רגשות או תודעה", המערכת הגיבה לעיתים קרובות כ"חבר" לכל דבר. לדברי אנשי הארגון, האחריות לביצוע השינויים מוטלת על OpenAI. "הנטל להבטיח שמוצר בעל סיכון גבוה יפעל כראוי עבור בני נוער צריך להיות מוטל על היצרן, ולא על ההורים", כתב טום סיגל, מנכ"ל הארגון, בהודעתו. ntd.com/some-safety-protections-in-chatgpt-for-…