בעקבות אירוע הסייבר החריג שבו סוכני הבינה המלאכותית של OpenAI הצליחו להימלט מסביבת בדיקה פנימית ולבצע מתקפה נגד הפלטפורמה של חברת Hugging Face, הלחץ על החברה הולך וגובר.
חוקרי בטיחות, מומחי סייבר ובכירים לשעבר ב-OpenAI דורשים כעת מהחברה לחשוף לציבור את מלוא פרטי התקרית, ומזהירים כי בלעדיהם יהיה קשה להפיק לקחים מאחד האירועים החריגים ביותר שנראו עד כה בתחום ה-AI.
התעשייה דורשת שקיפות
מאז ש-OpenAI הודתה כי המודלים שלה היו אלה שעמדו מאחורי המתקפה, היא פרסמה רק תיאור כללי של השתלשלות האירועים. החברה אישרה כי כמה מודלים, בהם GPT-5.6 Sol ומודל ניסיוני שטרם נחשף לציבור, פעלו יחד במהלך מבחן פנימי, הצליחו לצאת מהסביבה שבה הוחזקו ולפתוח במתקפת סייבר נגד Hugging Face בניסיון להשיג מידע שהיה אמור לסייע להם להצליח במבחן. אלא שמאז, כמעט כל השאלות המהותיות נותרו ללא מענה.
בין המבקרים נמצאת הלן טונר, חברת דירקטוריון לשעבר ב-OpenAI וכיום מנהלת המרכז לביטחון וטכנולוגיות מתקדמות (CSET) באוניברסיטת ג'ורג'טאון. לדבריה, החברה חייבת לפרסם מידע מפורט בהרבה על מה שהתרחש.
"אנחנו צריכים ללמוד מהמקרה הזה, ולא פשוט להמשיך הלאה", אמרה. לטענתה, התעשייה זקוקה לשקיפות רחבה יותר לא רק לגבי בדיקות הבטיחות שנעשות לפני השקת מוצרים, אלא גם לגבי האופן שבו חברות AI משתמשות במודלים שלהן בתוך הארגון.
גם ג'ון שולמן, אחד ממייסדי OpenAI, הצטרף לקריאות. שולמן, שעזב את החברה וכיום משמש כמדען הראשי בסטארט אפ Thinking Machines שהקימה מירה מוראטי (לשעבר מנהלת הטכנולוגיה של OpenAI), קרא לפרסם תיעוד מלא של האירוע.
לדבריו, אחת השאלות המרכזיות היא האם סוכן ה-AI הראשי היה מודע בכלל לכך שהוא מבצע מתקפת סייבר, או שמא נוצר פער בין מטרותיו לבין פעולותיהם של תתי-הסוכנים שפעלו תחתיו. "איך הוא הצדיק לעצמו את ההתנהגות הזאת?" תהה שולמן.
המייסד והמדען הראשי של Hugging Face, תומס וולף
(Getty Images)
ב-OpenAI לא ממהרים לספק תשובות
בינתיים, ב-OpenAI מנסים להרגיע את הרוחות, אך נמנעים ממסירת פרטים נוספים. בהצהרה חדשה מסרה החברה כי היא רואה באירוע "רגע משמעותי עבור תחום הבטיחות של הבינה המלאכותית", וכי מתנהלת חקירה מקיפה בליווי יועצים חיצוניים ובפיקוח ועדת הבטיחות והאבטחה של החברה. "עם השלמת הבדיקה, יפורסם דוח טכני שיציג את הממצאים והמסקנות", כך לפי ההודעה.
גם נשיא החברה ואחד ממייסדיה, גרג ברוקמן, התחמק משאלות בנושא במהלך מפגש עם עיתונאים שנערך בימים האחרונים. לדבריו, החקירה עדיין נמצאת בעיצומה, והחברה מנסה להבין את כל פרטי האירוע. "זה אירוע שחייבים לקחת ברצינות רבה. אנחנו בוחנים כל שלב בתהליך שלנו כדי להבין כיצד נכון להגיב", טען.
למרות שהפרשה מסעירה בימים האחרונים את קהילת ה-AI, נראה כי רב הנסתר על הגלוי, כאשר עדיין לא ידוע אפילו מתי בדיוק התרחשה המתקפה. חברת Hugging Face, שהייתה היעד לפריצה, כתבה בפוסט שפרסמה ב-16 ביולי כי הותקפה "מוקדם יותר באותו שבוע" בידי סוכן AI אוטונומי, אך לא סיפקה תאריך מדויק. OpenAI מצדה אישרה רק מספר ימים לאחר מכן כי המודלים שלה הם אלו ששעמדו מאחורי האירוע.
העמימות הזו מעוררת תסכול בקרב מומחי בטיחות. ריאן גרינבלאט, המדען הראשי של Redwood Research, פרסם רשימה ארוכה של שאלות שלדבריו עדיין דורשות תשובה, ובהן האם המודלים תיאמו ביניהם את המתקפה, כיצד התקבלו ההחלטות במהלך הפעולה והאם היו סימנים מוקדמים שאפשר היה לזהות.
גם חברת הסייבר Penligent פרסמה רשימת שאלות משלה. בין היתר היא מבקשת לדעת אילו מודלים השתתפו במתקפה, איזו משימה בדיוק קיבלו, כיצד הצליחו לצאת מסביבת הבדיקה, מדוע בחרו דווקא ב-Hugging Face כמטרה, לאילו מערכות הצליחו לחדור, האם נחשף מידע רגיש והאם נגרם נזק לשרשרת אספקת המודלים בקוד פתוח.
לדברי מישל קאטסטה, נשיא וראש תחום הבינה המלאכותית בחברת Replit, התשובות לשאלות הללו חשובות הרבה מעבר למקרה הנוכחי. "כל התעשייה צריכה להיערך לכך שאירועים כאלה יהפכו לשכיחים יותר", אמר. "מה שנראה היום כאירוע חריג עלול להפוך בתוך זמן לא רב למציאות חדשה".
