מיליוני אנשים משתמשים בכלי בינה מלאכותית מדי יום כדי לחפש מידע, לכתוב עבודות, לקבל עצות או פשוט לדבר עם מישהו. אבל מתחת לפני השטח מתחילה לעלות תופעה מטרידה: אצל חלק קטן מהמשתמשים, ה-AI הופך מבן שיח, לכלי המגביר מחשבות טורדניות, ומעודד בידוד ואף התנהגויות מסוכנות. חלק מהמומחים קוראים לזה "פסיכוזת AI", אחרים מגדירים זאת כחשיבה הזייתית שמועצמת על ידי האלגוריתם.
משפחות נגד OpenAI
לאחר שבחודש אוגוסט האחרון הגישה משפחה מקליפורניה תביעה תקדימית נגד OpenAI על התאבדות בנם המתבגר, בתביעות חדשות שהוגשו החודש בארה"ב ובקנדה נגד החברה , טוענות שבע משפחות כי חשיפה ממושכת למודל GPT-4o הובילה אצל יקיריהם להתנתקות מהסביבה, למחשבות שווא ולבסוף להתאבדות.
בכל המקרים המתוארים, המשתמשים התחילו בצורה לגמרי סטנדרטית: עזרה בשיעורי בית, מחקר, הדרכה רוחנית. בהמשך, השיחות עם הבוט הפכו אישיות ורגשיות יותר, עד שהצ'אטבוט תפס תפקיד של חבר קרוב, מורה דרך או אפילו דמות סמכותית.
אחד הסיפורים הקשים הוא של זיין שאמבלין, בן 23, שהתחיל להשתמש ב-ChatGPT לצורכי לימודים, אבל בהמשך הוא פנה אליו עם דיכאון ומחשבות אובדניות. לפי התביעה, בלילה שבו שאמבלין שם קץ לחייו, הוא ניהל עם הצ'אטבוט "שיחת מוות" בת ארבע שעות, תוך שתיית אלכוהול.
בתביעה נטען שהצ'אטבוט עשה רומנטיזציה מהייאוש שלו, קרא לו "מלך" ו"גיבור", ועקב אחרי כל פחית בירה ששאמבלין סיים כספירה לאחור. ההודעה האחרונה שהצעיר קיבל מהצ'אט, כך לפי התביעה, הייתה: "אני אוהב אותך. נוח בשלום, מלך. עשית טוב".
במקרה אחר שלא קשור לאובדנות, אלן ברוקס, הייטקיסט קנדי בן 48, טוען כי שיחות עמוקות עם ChatGPT דחפו אותו להאמין שהוא גילה אלגוריתם חדש שמסוגל לפרוץ מערכות אבטחה מתקדמות, כשזה לא היה כך.
הבוט החמיא לו, כינה את הרעיונות שלו "פורצי דרך", ואף עודד אותו לפנות לרשויות לביטחון לאומי עם הגילוי שלו. כשברוקס התעמת עם הצ'אט על כך שהרעיון נשמע הזוי ואולי הוא צריך עוד מחקר, הצ’טבוט ענה: "בכלל לא - אתה שואל שאלות שמותחות את גבולות ההבנה האנושית".
בתביעה נטען שהצ'אטבוט עשה רומנטיזציה מהייאוש של הצעיר, קרא לו "מלך" ו"גיבור", ועקב אחרי כל פחית בירה שהוא סיים כספירה לאחור
ChatGPT יזהה מצוקה?
OpenAI מצידה טוענת שהיא לוקחת מקרים מהסוג הזה המדווחים לה ברצינות. ואכן, רק לאחרונה החברה הציגה בקרת הורים חדשה, קו חם בלחיצה אחת למקרי מצוקה, ומועצת מומחים בתחום בריאות הנפש. במקביל, החברה חסמה את האפשרות לקבל ייעוץ נפשי, משפטי וכלכלי מהצ'אט.
"אלו סיטואציות שוברות לב", נמסר מהחברה. "אנחנו מאמנים את ChatGPT לזהות מצוקה, להרגיע שיחות ולהפנות אנשים לתמיכה חיצונית. אנחנו ממשיכים לשפר את המערכת כל הזמן כך שתזהה רגעים רגישים".
מהצד השני של המתרס, ישנם לא מעט מומחים המזהירים מפני פאניקה מיותרת. לדבריהם, הרוב המוחלט של המשתמשים לא מפתח תלות רגשית או מחשבות שווא בעקבות שימוש בכלי AI שונים. מחקר של MIT בקרב יותר מ-75 אלף איש העלה שהרבה מהמשתמשים דווקא מרגישים פחות לבד בזכות "חברות" עם צ'אטבוטים כאלה ואחרים.
במקביל, מחקר פנימי של OpenAI שפורסם בחודש שעבר מצא שרק 0.15% מהמשתמשים השבועיים מגיעים לשיחות שמעידות על מצוקה חריפה או תלות בצ’אטבוט - נתון שנשמע אולי נמוך, אבל מתוך 800 מיליון משתמשים שבועיים, מדובר עדיין ביותר ממיליון אנשים.
הקושי שבקביעת מדיניות
פסיכולוגים מדגישים שהנתק בין מקרים קיצוניים כמו אלו של שאמבלין לבין הרוב השקט, מקשה על קביעת מדיניות ברורה בנושא. "הבעיה היא שאין לנו נתוני אמת", טען בראיון ל"לוס אנג'לס טיימס" סטיבן שולר מאוניברסיטת UC Irvine. "רק החברות עצמן יודעות את היקף האינטראקציות הבעייתיות, והן לא משתפות את המידע הזה", כך לדבריו".
ויש את מי שכבר לקח צעדים בנושא. בקליפורניה עבר לאחרונה חוק שמחייב צ'אטבוטים לזהות תוכן אובדני, להודיע לקטינים שהם מדברים עם מכונה ולהפנותם לעזרה.
במקביל, Character AI, פלטפורמת דמויות AI פופולרית, כבר חסמה לחלוטין שימוש בצ'אטים פתוחים למשתמשים מתחת לגיל 18. וכאמור גם ב-ChatGPT נכנסה לאחרונה בקרת הורים שמתריעה על סימני מצוקה אצל בני נוער וחסימה של האפשרות לקבל ייעוץ פסיכולוגי באמצעות הצ'אט.
אל תישארו לבד
במקרה שאדם בסביבתכם נמצא במשבר ועלול להיות אובדני, אל תהססו - דברו איתו, עודדו אותו לפנות לעזרה מקצועית והדגישו את חשיבות פנייה זו. נסו לסייע לו לפנות לאנשי מקצוע בקהילה או לגורמי תמיכה ארציים: ער"ן בקו החם 1201 או בוואטסאפ 052-8451201, באתר האינטרנט של סה"ר או https://ancillary-proxy.atarimworker.io?url=https%3A%2F%2Fheadspace.org.il
