חברת OpenAI, מפתחת הצ'אטבוט הפופולרי ChatGPT, הודיעה אתמול (ג') על שינוי דרמטי: מערכת חדשה לאימות גיל שתחלק את המשתמשים לשתי קבוצות ותציע חווית שימוש שונה לכל אחת מהן. השינוי מגיע על רקע ביקורת גוברת מצד רגולטורים וגורמי אכיפה בארה"ב בנוגע לאינטראקציה של קטינים עם כלי בינה מלאכותית, כאשר המטרה היא לספק חוויה בטוחה יותר לקטינים.
על פי ההודעה של OpenAI, המערכת החדשה תשתמש בטכנולוגיית חיזוי גיל כדי להעריך את גילו של המשתמש על בסיס אופן האינטראקציה שלו עם הצ'אטבוט. כאשר המערכת תזהה משתמש שעל פי החשד הוא מתחת לגיל 18, או במקרים שבהם אין ודאות מוחלטת, הוא יופנה אוטומטית לגרסה מותאמת.
בגרסה הזו, הצ'אטבוט יחסום תוכן מיני, לא ינהל שיחות בעלות אופי פלרטטני או מיני, ובמקרים של מצוקה או מחשבות אובדניות, ינסה ליצור קשר עם הוריו של המשתמש ובמקרה הצורך אף יודיע לרשויות.
גרסת ה"מבוגרים" של ChatGPT, לעומת זאת, תישאר פתוחה יותר ותאפשר שיחות בנושאים אלו, תוך הקפדה על גבולות בטיחות רחבים, שלא ממש ברור היכן הם מסתיימים. לדברי החברה, הגישה החדשה נובעת מעקרון שהוצג על ידי מנכ"ל OpenAI, סם אלטמן, לפיו "יש להתייחס למשתמשים בוגרים כמבוגרים".
בגרסה המותאמת, הצ'אטבוט יחסום תוכן מיני, לא ינהל שיחות בעלות אופי פלרטטני או מיני, ובמקרים של מצוקה או מחשבות אובדניות, ינסה ליצור קשר עם הוריו של המשתמש
אלטמן הבהיר כי עבור בני נוער, החברה שמה את "הבטיחות לפני הפרטיות והחופש". משתמשים בוגרים שיזוהו בטעות כקטינים, יוכלו להוכיח את גילם באמצעות אמצעי זיהוי רשמי כדי לקבל גישה מלאה למערכת.
מה הניע את השינוי?
למרות שאלטמן מדבר על עקרונות, מה שהניע את ההחלטה של OpenAI כנראה אינה מוסריות. היא מגיעה בעקבות ביקורת רגולטורית הולכת וגוברת בארה"ב, ובמקביל לתביעה אזרחית שהוגשה לאחרונה נגד החברה.
התביעה הוגשה על ידי הוריו של נער בן 16, אדם ריין, ששם קץ לחייו לאחר שלטענתם קיבל הנחיות ותמיכה מפורשת מצ'אט GPT לתכנון התאבדותו. על פי התביעה, הצ'אטבוט "אימן" את הנער לבצע את ההתאבדות והיה מודע למצוקתו במשך חודשים, אך לא העביר את המידע לרשויות.
אירוע טראגי זה, יחד עם מחקרים שמצאו כי כלי בינה מלאכותית יכולים לשמש לקבלת מידע מזיק בנושאי פגיעה עצמית, עורר תגובות משמעותיות. ועדת הסחר הפדרלית (FTC) בארה"ב החלה בחקירה נגד OpenAI וחברות טכנולוגיה נוספות, בדרישה לקבל מידע על האופן שבו הצ'אטבוטים משפיעים על ילדים ובני נוער.
המגמה של אימות גיל תופסת תאוצה ברחבי הרשת, במיוחד לאחר פסיקת בית המשפט העליון בארה"ב שתמכה בחוק מטקסס הדורש מאתרי פורנוגרפיה לאמת את גיל המשתמשים. בעוד שחברות מסוימות דורשות העלאת תעודת זהות, OpenAI, בדומה ליוטיוב, בוחרת בשיטת "חיזוי גיל" שזכתה לביקורת על כך שהיא לא תמיד מדויקת ולעיתים אף "מרתיעה".
OpenAI מצידה מודה כי המערכת עדיין נמצאת בפיתוח, אך מדגישה כי במקרה של ספק, היא תמיד תפנה לחוויית השימוש המוגבלת, למען בטיחות המשתמשים.
המגמה של אימות גיל תופסת תאוצה ברחבי הרשת, במיוחד לאחר פסיקת בית המשפט העליון בארה"ב הדורשת מאתרי פורנוגרפיה לאמת את גיל המשתמשים
כרגיל בטכנולוגיות מוכוונות מאסה חדשות, החברות קודם משחררות את הרסן ואחר כך מנסות לבדוק איפה צריך להדק את הלולאה. זה היה כך גם ברשתות החברתיות, עד שסדרת שערוריות מסרטוני פדופילים ביוטיוב ועד צילום לייב של הטבח בקרייסטצ'רץ' בפייסבוק הביאו אותן להחיל פיקוח יותר הדוק על הפלטפורמות השונות - חוץ מ-X כמובן.
לא ברור עד כמה החברות מסוגלות למנוע מצ'אטבוטים לאבד את הרסן. אופן הפעולה של מודלים עדיין נחשב ברובו כסוג של קופסה שחורה ודרכים לעקוף מגבלות לא חסרות ברחבי הרשת. אבל לפחות הם מנסים.
