בזמן שבוושינגטון, בריסל ובייג'ינג מנסים לנסח רגולציה שתדביק את המציאות, מעבדות הבינה המלאכותית בעמק הסיליקון ממשיכות לדהור קדימה.
היממה האחרונה סיפקה תמונת מצב מדאיגה של התחום ובעיקר של התעשייה מאחוריו: חוקר בכיר שמתפטר בטריקת דלת ומזהיר מקריסה קיומית, פריצת דרך מתמטית מפוקפקת מוסרית של אלפי סוכנים אוטונומיים, וענקית רשתות חברתיות שמשחררת סוכן שירכוש עבורכם מוצרים ישירות בסיוע גישה לחשבון הבנק שלכם.
גלריה
מימין: מנכ"ל OpenAI סם אלטמן, מנכ"ל אנת'רופיק דריו אמודיי, מנכ"ל מטא מארק צוקרברג
(Getty Images, AP, AFP)
"הימור על עתיד האנושות"
הטלטלה הראשונה מגיעה דווקא ממי שהגדירה את עצמה כמעבדה הבטוחה והאחראית ביותר בתחום. ג'ייקוב קוקסון, חוקר בן 27 שעבד בשלוש השנים האחרונות הן ב-OpenAI והן באנת'רופיק, הודיע על התפטרותו מהאחרונה תוך השמעת אזהרה חריפה. לדבריו, שתי החברות אינן פועלות באחריות ודוהרות לעבר בינה על-אנושית בעלת יכולת שיפור עצמי, תוך "הימור ממשי על עתיד המין האנושי".
קוקסון טוען כי בכירי התעשייה מביעים בחדרי חדרים חרדה עמוקה מכך שהמערכות יביאו להשמדת האנושות עוד לפני תום העשור, לדבריו הסיכוי לכך עומד על לא פחות מכ-10%, אך כלפי חוץ מרגיעים את המשקיעים.
באנת'רופיק, לטענתו, מודעים היטב להשלכות העתידיות האפשריות, אך שבויים בפרדוקס המוכר: החשש שחברה אחרת, זהירה פחות, תגיע לשם קודם. תגובת בכירי הבטיחות בחברה, שאישרו חלקית את החששות אך הגנו על המשך המחקר, מדגישה את האירוניה המבנית של עמק הסיליקון, שבו כל מנגנון בלימה מוגדר כמכשול תחרותי.
זמן קצר לאחר מכן הדגימה OpenAI מדוע החוקרים מוטרדים כל כך. החברה דיווחה הלילה (ד') כי מודל פנימי הצליח לפצח היבט מרכזי של משוואות נאוויה-סטוקס בתלת-ממד, אחת משבע בעיות המילניום במתמטיקה שפרס של מיליון דולר בצדן.
המשוואות, שנוסחו במאה התשע-עשרה ומתארות תנועת נוזלים וגזים, מעסיקות מדענים עשרות שנים סביב השאלה האם פתרונות חלקים יכולים לקרוס בתוך זמן סופי. מדובר במשוואות חשובות מאוד שיוכלו לסייע לחישובים באווירונאוטיקה, במטאורולוגיה ולחישוב נזקים פוטנציאליים של שטפונות או צונאמי למשל.
אפליקציות בינה מלאכותית
(Getty Images)
כדי להגיע לתוצאה, OpenAI לא הסתמכה על הברקה אנושית יחידה, אלא הפעילה כעשרת אלפים סוכני בינה מלאכותית במקביל לאורך כשמונים ושמונה שעות, בעלות חישובית של מיליוני דולרים. המערכת הפיקה הוכחה בת מאה שישים וחמישה עמודים שאומתה בשפת התכנות הלוגית Lean.
אלא שמאחורי ההישג המדעי פרץ מיד קרב קרדיטים מכוער מול חוקרים מאוניברסיטת ניו יורק ומאנת'רופיק, שטענו כי הרעיון נשען על מחקר מקביל שלהם, ושאלת השימוש בנתוני המשתמשים לאימון נותרה ללא מענה חד-משמעי.
בעוד שמיזמים מתחרים כמו אלפא-פרוף של גוגל דיפמיינד התמקדו בפתרון בעיות באולימפיאדות מתמטיקה תחת פיקוח אקדמי הדוק, כאן הופעל כוח מחשוב ברוטלי וחסר תקדים כדי לקבוע עובדות בשטח לפני שהקהילה המדעית הספיקה למצמץ.
גם מטא לא מוותרת
בקצה השני של הספקטרום, במרחב הצרכני, מטא של מארק צוקרברג הודיעה על השקתו של "מיוז", סוכן בינה מלאכותית אישי שפותח תחת ניהולו של אלכסנדר וואנג. מיוז רחוק מצ'אטבוט סטנדרטי: הוא פועל במכונה וירטואלית ייעודית בענן של מטא, גולש ברשת בדפדפן עצמאי, פועל ברקע גם כשהמשתמש מנותק, וזוכר העדפות אישיות לאורך זמן.
מעבר לשיחות, מיוז מצויד בארנק דיגיטלי מבוסס לינק של סטרייפ, המייצר כרטיסי אשראי חד-פעמיים ומאפשר לסוכן לבצע רכישות פיננסיות עצמאיות. כדי להרגיע את החששות מפני פעולות זדוניות או טעויות קריטיות, מטא הצמידה למיוז מערכת בקרה מבודדת בשם "סנטינל", שתפקידה לאשר או לחסום גישה לרשת ולפעולות רגישות.
בהשוואה לסוכנים אישיים מקבילים, כמו "אופרייטור" של OpenAI, אסטרה של גוגל או מערכות הסוכנים שנבנות כעת בסין על ידי ביידו ועליבאבא, מטא מהמרת על שילוב עמוק של זיכרון אירועים, יכולת קנייה אוטונומית ושילוב עתידי במשקפיים החכמים שלה.
החיבור בין שלוש החדשות הללו חושף את הפרדוקס שבו שרוי הענף כולו. מצד אחד, האזהרות הקיומיות של החוקרים מבית הופכות קונקרטיות ככל שהמודלים פותרים בעיות פיזיקליות מורכבות באמצעות צבאות של סוכנים אוטונומיים.
מצד שני, המעבדות אינן מאיטות, אלא מעבירות את אותם סוכנים עצמם ישירות למכשירי הטלפון של המשתמשים, יחד עם גישה לחשבון הבנק. התוצאה היא אחת, אי אפשר לסמוך על התעשייה כדי שתפקח על הפיתוחים האלה וצריך כאן מהלך עולמי משולב של גורמי ממשל, מחקר ותעשייה שיפעלו באופן מתואם ובצעדים מדודים.
