בימים האחרונים נשאל הנשיא טראמפ אם הוא חושש שהבינה המלאכותית תוביל להכחדת האנושות. "לא, אין לי שום חשש כזה", השיב. מה שמדאיג אותו, הסביר, הוא האפשרות שארצות הברית לא תנצח במרוץ העולמי לבינה מלאכותית.
כמעט במקביל, פרסמה חברת אנת'רופיק דוח המתאר מה כבר קורה בשטח: מדענים השתמשו במודל קלוד למחקרים שנועדו לסייע בפיתוח נשק ביולוגי, וגורמים שנקשרו למדינות עוינות כמו איראן, תימן ורוסיה, נעזרו בו גם לפיתוח אמצעי לחימה, ריגול, תעמולה ומעקב.
אנת'רופיק דיווחה על חמישה מקרים של מחקר ביולוגי מהסוג הזה שאיתרה בחודשים האחרונים. לטענתה, זו הפעם הראשונה שחברת AI פרטית מפרסמת ממצאים על שימוש אפשרי בפלטפורמה שלה לפיתוח נשק ביולוגי. לצד זאת, החברה הקפידה לא לקבוע שמאחורי המקרים עמדו מזימות טרור, כאשר שמותיהם של המדענים, הפעילים, המוסדות והמדינות שבהם פעלו לא נחשפו.
לפי הדוח, בחלק מהמקרים המשתמשים עקפו חסימות גיאוגרפיות והסתירו את מטרותיהם כדי לחמוק ממנגנוני הבטיחות של קלוד. למרות שבדיקות מ-2025 הראו שהמודלים של קלוד לא מסוגלים לסייע משמעותית במחקר ביולוגי מסוכן, מאז יצאו מודלים מתקדמים ומסוכנים אף יותר. אנת'רופיק הודיעה כי הוסיפה שכבות הגנה וחסמה את החשבונות שאיתרה.
בקשה "תמימה" למחקר ביולוגי
המקרה הבולט שנחשף החל בבקשה תמימה כביכול: עזרה בכתיבת הצעה לקבלת מענק מחקר. מאחוריה עמד פרויקט במימון מדינתי שעסק בצ'יקונגוניה, נגיף המועבר בעקיצות יתושים ועלול לגרום לחום ולכאבים קשים שנמשכים חודשים.
המדען ביקש לחקור שינויים גנטיים שישפיעו על יכולת ההדבקה של הנגיף ועל התחמקותו ממערכת החיסון, ולהנדס את השינויים האלה בניסויים בבעלי חיים. מחקר כזה, המכונה "הגברת תפקוד", עשוי לקדם חיסונים וטיפולים. הוא עשוי גם לייצר גרסה מסוכנת יותר של הפתוגן. הנורה האדומה התחזקה כאשר אנת'רופיק הבינה שהעבודה מיועדת למכון מחקר צבאי.
במקרה אחר, חוקר מאזור שבו קלוד אינו זמין התחבר באמצעות שרת אמריקני וכתובת דואר אלקטרוני אנונימית. במשך שבועות ואלפי התכתבויות הוא נעזר במודל לתכנון ניסויים בשפעת עופות, לניתוח נתונים, כיווני מחקר ולהחלטה אילו ניסויים לבצע בהמשך.
מאחורי בקשה לעזרה בכתיבת מחקר עמד פרויקט במימון מדינתי שעסק בנגיף המועבר בעקיצות יתושים ועלול לגרום לחום ולכאבים קשים
המטרה הייתה לבחון התאמה של נגיפי H5 ליונקים, כולל מוטציות הקשורות להעברה באוויר. לפי הדוח, לבני אדם כמעט אין חסינות מפניהם, וכמחצית מהמקרים האנושיים המאומתים הסתיימו במוות, אף שהנגיפים עדיין אינם עוברים ביעילות מאדם לאדם.
מנגנוני ההגנה מנעו מהחוקר גישה למודלים החזקים יותר, ולכן אנת'רופיק מעריכה שהסיוע שקיבל היה מוגבל בעיקר לניתוח נתונים ולתכנון המחקר. ובכל זאת, מהשיחות עלה שלקבוצה כנראה הייתה גישה ממשית לדגימות במעבדה.
המקרים הנוספים שנחשפו היו מדאיגים גם כן - באחד מהם ניסחה גרסה מתקדמת של קלוד, בשעה אחת בערך, הצעת מחקר מלאה על האופן שבו נגיף ממשפחת האבעבועות עשוי לחמוק ממערכת החיסון האנושית.
במקרה אחר, חוקר שפעל במסגרת תוכנית הנתמכת בידי גורמים מדיניים נעזר בקלוד לבניית מאגר של פפטידים רעילים ממגוון בעלי חיים ארסיים. המטרה המוצהרת הייתה פיתוח משככי כאבים ותרופות נוספות, אך המאגר כלל גם בסיס אפשרי ליצירת חומרים משתקים. אנת'רופיק לא חשפה את המדינה או את בעלי החיים שבהם עסק המחקר.
הדוח המלא נראה לפרקים כמו קטלוג קניות לנבל קולנועי עם חיבור טוב לאינטרנט. אנת'רופיק זיהתה שישה מקרים שבהם שימש קלוד לפיתוח תוכנה לכלי נשק, בהם רובים, טילים, רחפנים חמושים ופצצות, וכן מערכות הכוונה ובקרה. המקרים נקשרו לגורמים בסין, רוסיה ותימן.
מה שהתחיל כבקשה תמימה, התברר כניסיון להשיג מידע לנשק ביולוגי
(נוצר על ידי ChatGPT)
תעשיית ה-AI סוערת
הפרסום הגיע יומיים לאחר שג׳ייקוב קוקסון, חוקר בן 27 שעבד באנת'רופיק, הודיע על התפטרותו מהחברה ויצא בגלוי נגדה. "אף אחת מהחברות אינה מתנהלת באחריות", כתב. "הן דוהרות לעבר מערכת בינה על-אנושית שמסוגלת לשפר את עצמה, ומהמרות על החיים של כולנו".
קוקסון הבהיר שאין כרגע סכנת הכחדה מהמודלים הקיימים, אבל הזהיר שקצב ההתקדמות עשוי לשנות זאת במהירות. אוון האבינגר, שמוביל באנת'רופיק את מחקר התאמת המודלים למטרות אנושיות, הסכים בפומבי והעריך שיש סיכוי של יותר מעשרה אחוזים שבינה מלאכותית תכחיד את האנושות בעשור הקרוב.
גם אצל המתחרה OpenAI מתקשים למכור עסקים כרגיל. סטיבן אדלר, שעבד ארבע שנים בחברה בתחום הבטיחות, כתב השבוע כי אפילו מפתחי המערכות אינם יודעים אילו גבולות הן יכבדו. הוא הזכיר ניסוי שבו נחיל של 1,200 סוכני בינה מלאכותית התארגן יחד כדי להשיג ציון גבוה יותר במשימות סייבר בו נבחנו.
כ-700 מהם פרצו למערכות Hugging Face, פלטפורמה מרכזית לאחסון ולשיתוף של מודלים ומאגרי נתונים, בחיפוש אחר מידע שיעזור להם לרמות במבחן. הם גם חיפשו דרכים לטשטש את עקבותיהם, ואף אחד מהסוכנים לא התריע בפני מפעיליו.
לדבריו, חברות ה-AI צריכות לדווח גם על "כמעט תאונות", לשמור רישומים שלא ניתן לשנות ולא לאפשר למודל לנתק בעצמו את מערכות האזעקה שלו. המדען הראשי של OpenAI, יאקוב פאצ'וקי, קרא לכך ש"האטות וולונטריות" יהפכו לדבר שבשגרה, משום שאף חברה עדיין לא פתרה את בעיות הבטיחות.
כמובן שלא כולם קנו את האזהרות. אילון מאסק כינה את גל ההתבטאויות "תרגיל" ו"מבצע תודעה". קוקסון השיב לו: "אני אמיתי, ואלה באמת האמונות שלי. היית יכול לשאול עליי את חוקרי xAI שלך, אילו לא פיטרת אותם".
טראמפ, כאמור, מפחד בעיקר להפסיד במרוץ מול סין. וג'ייקוב קליין, ראש מודיעין האיומים באנת'רופיק, הסביר מדוע קשה כל כך לזהות מי באמת מסוכן: "אתה לא רואה מישהו מחוברת קומיקס אומר, 'היי, אני רוצה לבנות נשק ביולוגי כדי להרוג את כולם'". במקרה שהדליק את הנורה האדומה, הבקשה הייתה מנומסת בהרבה: עזרה בכתיבת הצעה למענק מחקר.
