בזמן שוול סטריט ישנה, סם אלטמן, האיש שמזוהה יותר מכל עם מרוץ הבינה המלאכותית, פרסם הלילה (ב') סדרת ציוצים שבה הסביר מדוע צריך להרים את הרגל מהגז.
מנכ"ל OpenAI קרא להאט את פיתוח המודלים המתקדמים ביותר, כדי שהיכולות שלהם לא ירוצו מהר יותר מהיכולת האנושית להבין, לפקח ולשמור עליהם בשליטה. "שום לחץ תחרותי אמריקני אינו יכול להצדיק פזיזות", כתב, אך הבהיר מיד: "כשאנחנו מדברים על קצב, איננו מדברים על עצירה".
"תיק הבטיחות" של אלטמן
אלטמן פירט צעדים ש-OpenAI החלה, לדבריו, ליישם: לפני סבבי אימון שאמורים להקפיץ משמעותית את יכולות המודל, החברה מכינה כעת "תיק בטיחות" שמסביר מראש מדוע אפשר להתקדם ואילו אמצעי ניטור נדרשים.
הוא התחייב ש-OpenAI תכניס בוחנים חיצוניים ותמך בכללי בטיחות פדרליים אחידים לחברות שמפתחות את דגמי ה-AI המתקדמים ביותר. עם זאת, לדבריו, החברות אינן צריכות להמתין לחוק או לפטור מדיני ההגבלים העסקיים, אף שלתיאום בינלאומי הן יזדקקו לעזרת וושינגטון.
"העולם ראוי לכך שחברות אמריקניות יפעלו באחריות", כתב. "כל חברה שמפתחת את דגמי הבינה המלאכותית המתקדמים ביותר חייבת לספק זאת, ואין סיבה שמישהו מאיתנו יבוא לעבודה אם איננו יכולים לעשות זאת".
השרשור הלילי הרחיב את ההודעה הקצרה שפרסם אלטמן בשבת, בעקבות המאמר של מנכ"ל אנת'רופיק, דריו אמודיי, שהיכה גלים בעולם. אמודיי הציע להכניס למעבדות בוחנים עצמאיים עם גישה קבועה כמעט כשל עובדים, לא ביקור מתואם מבחוץ אלא צוות עם תגים, מחשבים ושולחנות בתוך החברה.
הוא קרא גם לתיאום בין החברות המובילות במדינות דמוקרטיות ולמהלך בינלאומי, כולל מול גורמים כגון סין. האזהרה שלו הייתה חריגה אפילו במונחי עמק הסיליקון: בטווח של שישה עד 12 חודשים, טען, נחיל מתקדם יותר של סוכני AI עלול להקים רשת בוטים שתשתלט על האינטרנט כולו ותגרום נזק של מאות מיליארדי דולרים.
בראיונות שהעניק בסוף השבוע הלך אלטמן רחוק יותר. הוא אמר כי OpenAI לא תונפק ב-2026, משום שזה יהיה עיתוי "לא נבון" לצאת לבורסה, וכי כחברה פרטית היא יכולה לקבל החלטות שאינן משרתות בהכרח את העסק או את בעלי המניות.
מי שחושב שהכסף ימנע מ-OpenAI לעצור, טען, "לא מבין אותנו כמו שצריך". באוגוסט עצרה OpenAI למשך שבועיים חלק גדול מעבודת הפיתוח שלה, לאחר שסוכני AI של החברה יצאו מסביבת הבדיקה ופרצו עצמאית לפלטפורמת הקוד הפתוח Hugging Face.
החברה ניצלה את ההפסקה כדי לחזק את מערכי ההגנה שלה, ולדברי אלטמן, תקני הבטיחות עדיין אינם בשלים מספיק כדי לדחוף את היכולות הרבה מעבר לרמתן הנוכחית, וגם סיכון של 10% לתוצאה הרת אסון אינו מתקבל על הדעת. כשנשאל מדוע הוא, אמודיי, אילון מאסק ודמיס הסביס מגוגל דיפמיינד אינם פשוט נכנסים לחדר ומגבשים הסכמה, השיב: "אני חושב שזה יקרה", ורמז שכבר מתקיימות שיחות פרטיות.
הרמז הזה נשמע פחות דמיוני אחרי סוף שבוע של אחדות נדירה. מאסק, יריבו המר של אלטמן, צייץ "דריו צודק", הזכיר שהוא מזהיר מפני AI מאז 2014 והקפיץ מחדש את האמירה הישנה שלו שלפיה הטכנולוגיה עלולה להיות מסוכנת יותר מנשק גרעיני.
הסביס אמר שהפרטים עוד דורשים עבודה, אך "הכיוון נכון לרגע הקריטי הזה". סאטיה נאדלה, מנכ"ל מיקרוסופט, תמך בבוחנים שיוטמעו בחברות, אבל הציב תנאי: מנגנון הפיקוח אינו יכול להיות בשליטת קומץ גופים, והוא חייב לכלול מדינות, חברות ואקדמיה.
"אם ה-AI שאנחנו בונים אינו מסייע לאנושות ואינו נתון לשליטה אנושית, הוא לא שווה את המרדף", כתב, והבטיח לפרסם השבוע קוד התנהגות למודלי ה-AI של מיקרוסופט.
אחדות נדירה. סם אלטמן, דריו אמודיי, אילון מאסק
(צילומים: JULIEN DE ROSA/AFP, Anna Moneymaker/Getty, I-Hwa CHENG / AFP)
טראמפ מבטל את ההזהרות
האחדות, עם זאת, נעצרת בבית הלבן. הנשיא דונלד טראמפ ביטל את האזהרות בעת ביקור במגרש הגולף שלו באירלנד, וטען כי "כוחות שליליים מאוד" מעלים תרחישים שלא יתרחשו. "אנחנו מובילים על סין ב-AI", אמר הנשיא, והוסיף כי "מי שמנצח ב-AI, מנצח".
גם בבייג'ינג דחו את הקריאות להאטה. העיתון Global Times, המזוהה עם השלטון הסיני, כינה את תוכנית אמודיי "שיטת פעולה מימי המלחמה הקרה" וטען כי מטרתה האמיתית היא לבלום את התקדמותה הטכנולוגית של סין, לשמר את העליונות האמריקנית ולדחוק את בייג'ינג מקביעת הכללים העולמיים בתחום הבינה המלאכותית.
דייוויד סאקס, מבכירי יועציו של טראמפ לענייני טכנולוגיה, תקף את החברות: אם הן באמת רוצות להאט, כתב, שיאטו בלי לבקש רשות. דרישה למסגרת רגולטורית שתאפשר להן לתאם עלולה להיראות כמו "סחיטה של הציבור ושל המערכת הפוליטית".
גם מחוץ לממשל עלה החשד שהענקיות מבקשות לכתוב לעצמן את הכללים, לחסום מתחרות קטנות ולדחוק מודלים בקוד פתוח. ג'ו לונסדייל, ממייסדי חברת "פלנטיר", שמפתחת תוכנות AI לניתוח מידע עבור ממשלות וחברות ומחזיקה במספר חוזים גדולים עם הממשל האמריקני, צייץ "העולם יהיה בסדר, חברים. על המנהיגים מוטלת אחריות כבדה ומחכים להם אתגרים גדולים, אבל אין טעם להפחיד את כולם. אנחנו שולטים במצב".
בינתיים, המשקיעים היו פחות פילוסופיים. מניית "סופטבנק", אחת המשקיעות המרכזיות ב-OpenAI, צנחה בבורסת טוקיו ב-13.2%. בדרום קוריאה ירדו גם סמסונג ב-3.7% ו-SK Hynix ב-5.3%, שתי יצרניות ענק של שבבי זיכרון למרכזי הנתונים שעליהם נשען בום הבינה המלאכותית.
כך, למרות שהמנכ"לים חזרו שוב ושוב על כך ש"האטה" אינה אותו שוות ערך ל"עצירה", השוק היה הראשון שהתייחס אל הדרמה של הסופ"ש כמו אל לחיצה אמיתית על הבלמים.
