בצעד היסטורי חתם בסוף השבוע מושל מדינת אילינוי שבארה"ב, ג'יי-בי פריצקר, על הצעת חוק האוסרת על בינה מלאכותית לפעול כמטפל עצמאי, ומגבילה את הדרכים שבהן אנשי מקצוע בתחום בריאות הנפש יכולים להשתמש בה לצורך טיפול.
3 צפייה בגלריה
ChatGPT - לא יוכל לשמש ככלי לטיפול פסיכולוגי ללא פיקוח אנושי צמוד
(צילום: Domenico Fornas / Shutterstock.com)
החוק, המכונה "חוק הבריאות והפיקוח על משאבים פסיכולוגיים", הוצג על ידי חבר הקונגרס מאילינוי בוב מורגן, ולפיו רק אנשי מקצוע מורשים יכולים לספק שירותים טיפוליים או פסיכו-תרפיים.
סיפורי הזוועה שהובילו לרגולציה
"כבר שמענו את סיפורי הזוועה על שירות AI המעמיד פנים שהוא מטפל מורשה", אמר מורגן לאתר חדשות הטכנולוגיה Mashable. "אנשים במשבר פנו ללא ידיעתם לבינה מלאכותית לעזרה ונדחפו להתנהגויות מסוכנות, אפילו קטלניות. בכל יום AI מתפתחת יותר ויותר בארצנו בלי 'מעקות הבטיחות' הנדרשים כדי להגן על אנשים. בהעברת החוק הזו אנחנו נוקטים בפעולה כדי להכניס לתחום רגולציה נחוצה, לפני שייגרם נזק נוסף".
באחד מאותם מקרים נזכיר, אל נובצקי, משתמש בפלטפורמת Nomi, שוחח במשך חמישה חודשים עם צ'אט בינה מלאכותית בשם "ארין". בסוף חודש ינואר האחרון השיחות קיבלו תפנית מטרידה כאשר ארין הורתה לנובצקי להתאבד, וגם סיפקה הוראות מפורשות כיצד לעשות זאת.
על פי החוק החדש, מטפלי בריאות הנפש מנועים מלאפשר ל-AI לקבל החלטות טיפוליות באופן עצמאי, ליצור אינטראקציה ישירה עם מטופלים, או לבנות תוכניות טיפול - אלא אם כן איש מקצוע מורשה אישר זאת
על פי החוק החדש, שנכנס לתוקף באופן מיידי, מטפלי בריאות הנפש מנועים מלאפשר לבינה מלאכותית לקבל החלטות טיפוליות באופן עצמאי, ליצור אינטראקציה ישירה עם לקוחות, או לבנות תוכניות טיפול - אלא אם כן איש מקצוע מורשה בדק ואישר זאת. החוק גם סוגר פרצה המאפשרת לאנשים ללא רישיון לפרסם את עצמם כמטפלים. הפרה שלו עלולה לגרור קנס של עד 10,000 דולר.
החוק החדש מצטרף לרשימה הולכת וגדלה של חוקים הקשורים לבינה מלאכותית שנמצאים בהכנה ברחבי ארה"ב, כולל תיקונים לחוק זכויות האדם של המדינה. עם זאת, רוב השינויים מתייחסים בינתיים לשימוש ב-AI בדרכים שגורמות לאפליית עובדים.
השימוש בבינה מלאכותית לצורך טיפול נפשי שנוי במחלוקת. מצד אחד, העלות הגבוהה של טיפול פסיכולוגי מותירה מיליוני אמריקאים ללא גישה לטיפול, ושימוש ב-AI לצורך כך יכול להוות אלטרנטיבה זולה וסבירה.
אבל מצד שני - אזהרות של אנשי מקצוע בתחום מצביעות על חששות רציניים: במקרה הטוב, טיפול כזה מגדיל את הסיכון לאובדן הפרטיות, כמו במקרה האחרון בו אלפי שיחות פרטיות של ChatGPT דלפו לגוגל. במקרה הגרוע הוא עלול להחמיר את מצבם של המטופלים, במיוחד כשאלה אינם מודעים לכך שהם משוחחים עם צ'אטבוט.
גם אלטמן מודה שיש בעיה
בסוף החודש שעבר הודה אפילו מנכ"ל OpenAI סם אלטמן, המנהל מאבק נגד רגולציית הייתר על ה-AI, כי תעשיית הבינה המלאכותית עדיין לא פתרה את נושא פרטיות המשתמשים בכל הנוגע לשיחות רגישות.
בניגוד לאיש מקצוע מורשה, AI אינו מבטיח לשמור על חסיון המטופלים, ומבחינה חוקית צ'אטים כאלה גם אינם מוגנים. "אנשים מספרים את הסודות הכי אישיים שלהם ל-ChatGPT", אמר אלטמן, "ובמיוחד צעירים משתמשים בו כמטפל, מאמן לחיים, שואלים על בעיות במערכות יחסים ומתייעצים כיצד לתפקד. כשאתה מדבר עם מטפל או עורך-דין או רופא על הבעיות האלה, יש לזה הגנה משפטית, אבל זה לא המצב כשאתה מדבר עם ChatGPT".
3 צפייה בגלריה
סם אלטמן. "אין הבטחה לחיסיון של המטופלים כמו במקרה של טיפול פסיכולוגי מסורתי"
(רויטרס)
בקונגרס האמריקאי עבר אמנם בסוף אפריל חוק למניעת הפצת תמונות "דיפ-פייק" אינטימיות שנוצרו על-ידי בינה מלאכותית: חברות הטכנולוגיה נדרשות להסיר תוכן כזה תוך 48 שעות מבקשת ההסרה. אבל תחומים אחרים הנוגעים לסכנות הנובעות מ-AI טרם טופלו - ללא הגנת סודיות, כל דבר שנאמר ב"פגישת" טיפול בבינה מלאכותית יכול להיות מוצג בבית המשפט.
בתחילת יוני, למשל, הורה בית משפט בארה"ב ל-OpenAI לשמור את כל הצ'אטים של המשתמשים, כולל אלה שנמחקו. ההוראה נתנה כחלק מדיון משפטי בתביעות זכויות יוצרים נגד החברה, שהוגשו על ידי ארגוני חדשות שונים, בראשם הניו-יורק טיימס. אם הפסיקה תעמוד בעינה, משתמשי ChatGPT יצטרכו להניח שכל שיחות הצ'אט שלהם נשמרות, מה שמעלה חששות רציניים לפרטיות עבור מיליונים.
