משתמשי ChatGPT נדהמו לגלות כי שיחות אינטימיות ופרטיות שקיימו עם הצ'אטבוט של OpenAI, נחשפו לציבור והיו גלויות באמצעות חיפוש פשוט בגוגל. חברות אבטחת מידע הזהירו לא פעם מפני שיתוף מידע אישי עם צ'אטבוטים, אך נראה כי האירוע האחרון חשף אלפי מקרים של שיתוף לא מכוון, שעשויים להשפיע על משתמשים רבים.
2 צפייה בגלריה
יותר ויותר אנשים מסתמכים על ChatGPT בתור היועץ שלהם, ולא נזהרים בשיחות עם הצ'אטבוט
(צילום: Domenico Fornas / Shutterstock.com)
התכונה החדשה והמעורפלת של ChatGPT
על פי הדיווחים, OpenAI הפעילה לאחרונה תכונה חדשה שאפשרה לשתף היסטוריות שיחות ברשת הפתוחה. למרות שהפיצ'ר החדש דרש אישור מפורש מהמשתמשים, נראה כי התיאור שלו היה מעורפל מדי. משתמשים רבים הביעו הלם לאחר שמידע אישי מתוך שיחותיהם החל להופיע בתוצאות חיפוש בגוגל.
התכונה, שכונתה "הפיכת צ'אטים לגלויים", נועדה לאפשר למשתמשים לשתף קישורים לשיחותיהם עם חברים, בני משפחה או עמיתים, מתוך הנחה שהקישורים יגיעו רק לנמענים המיועדים. אלא שבאותיות הקטנות צוין כי הפעלת האפשרות תאפשר לשיחות להופיע בתוצאות מנועי החיפוש. "משהו שפחות משקף את הציפיות של המשתמשים", הודו בחברה.
בדיקה של אתר Fast Company העלה כי כ-4,500 שיחות היו ניתנות לאיתור על ידי הזנת חלקים מקישורי השיתוף בשורת החיפוש של גוגל, זאת כאשר רבות מהשיחות הכילו מידע רגיש ואישי במיוחד, כזה שאף אחד לא היה רוצה לפרסם ברשת הפתוחה. למעשה החשיפה של השיחות הפכה מיד לאחר מכן לסוג של אתגר עבור חובבי רשת רבים שמיהרו להעלות כל מיני מציאות "עסיסיות" ל-X ולרדיט.
למרות שתוצאות החיפוש לא חשפו את זהותם המלאה של המשתמשים, רבות מהשיחות כללו פרטים מזהים כמו שמות, מיקומים ומידע אישי נוסף. בין השיחות שנחשפו, נמצאו דיונים של משתמשים בנושאים אישיים עמוקים כגון חרדה, התמכרות, התעללות ונושאים רגישים אחרים.
OpenAI הסירה במהירות את תכונת הגילוי, ותיארה אותה כ"ניסוי קצר מועד" שנועד להפיץ שיחות "שימושיות". החברה פועלת כעת לביטול הרישום של כל התכנים ששותפו בדרך זו בגוגל וגם במנועי חיפוש נוספים.
האירוע הנוכחי מדגיש פעם נוספת עד כמה חשוב לנקוט בזהירות יתרה בעת השימוש בצ'אטבוטים מבוססי AI. נזכיר בנוסף כי צו בית משפט אמריקאי חייב את OpenAI לאחסן את כל יומני הצ'אט ללא הגבלת זמן.
בעוד שבדרך כלל החברה הייתה מוחקת אותם מעת לעת, תביעות משפטיות תלויות ועומדות, לרבות תביעה של ה"ניו יורק טיימס", חוקרות האם ChatGPT יכול לשחזר מידע המוגן בזכויות יוצרים, ועד לסיום התיק, צוותים משפטיים יכולים לצפות בכל מידע שהוזן על ידי משתמשים.
וזה לא נעצר רק בשיחות פרטיות, אלא גם סודות מסחריים עשויים להיות חשוף. בשנת 2023, עובדי סמסונג נתפסו כשהם משתמשים ב-ChatGPT בדרכים שחשפו בטעות מידע סודי של החברה ל-OpenAI. לדוגמה, בקשה מהצ'אטבוט לייעל קוד או ליצור סיכומי פגישות דורשת הזנת נתונים שעשויים להכיל סודות מסחריים.
