תשכחו מ-AGI: האם השלב השלישי של הבינה המלאכותית, "בינת העל" (ASI) כבר עומד לפתחנו? מדענים ומומחי בינה מלאכותית בכל העולם עדיין חלוקים בשאלה איך ייראו מערכות AI סופר-אינטליגנטיות שישנו את האנושות, ומהן ההשלכות הצפויות לכך.
אחרי שמנכ"ל מטא, מארק צוקרברג, טען שחוקרי מטא כבר עשו את הצעד הראשון לקראת בינת-על, ופיתחו מערכות שמצליחות לשפר את עצמן ללא התערבות אנושית, מיהר דמיס הסאביס, חתן פרס נובל לכימיה, מנכ"ל DeepMind (חטיבת הבינה המלאכותית של גוגל), ומי שנחשב לאחד ממומחי ה-AI הבולטים ביותר בעולם, לעקוץ את הראשון ולהודיע: "הם בכלל מפגרים בתחום אחרי המתחרים".
על מה בעצם מדובר?
חוקרי בינה מלאכותית מעריכים את יכולות הבינה המלאכותית בשלושה רבדים. הראשון מתייחס למודלים קיימים של AI, שיכולים להציג הישגים על-אנושיים יוצאי דופן, כמו חיזוי מבני חלבון. מדובר ביכולות מוגבלות: המערכת יכולה לעלות על בני אדם בתחום ספציפי בלבד, אך חסרה לה אינטליגנציה כללית כדי שניתן יהיה ליישם את היכולת הזו בתחומים שונים, ובוודאי שהיא אינה יכולה לתקן את עצמה בלי התערבות חיצונית.
הרובד הבא, שנקרא "בינה מלאכותית כללית" (AGI), מתייחס למודלים שיכולים כבר להבין, ללמוד ולהסתגל באותו אופן כמו המוח האנושי. הרובד השלישי והמתקדם, שאליו מכוון צוקרברג, הוא "בינת-על מלאכותית" (ASI), ומתייחס למודלים שיכולים לחרוג בהרבה מהפוטנציאל האנושי ולשפר את עצמם בקצב אקספוננציאלי.
3 צפייה בגלריה
בינה מלאכותית. צ'אטבוטים זה נחמד, אבל המדענים שואפים למשהו גדול הרבה יותר
(Shutterstock)
המתמטיקאי הבריטי-יהודי אירווינג ג'ון גוד, כינה מצב כזה כבר ב-1965 כ"פיצוץ הבינה"; הוא טען שברגע שמכונות יהיו חכמות מספיק כדי לשפר את עצמן, הן יגיעו במהירות לרמות אינטליגנציה גבוהות בהרבה מאלו של בני האדם.
ג'ון גוד תיאר את המכונה האולטרה-אינטליגנטית הראשונה כ"ההמצאה האחרונה שהאדם צריך לייצר אי פעם". מעניין לציין אגב שהוא שימש כיועץ למחשבי-על לסטנלי קובריק, במאי הסרט הקלאסי "2001: אודיסיאה בחלל" משנת 1968.
לא כל כך מהר
אבל מי ששפך מים צוננים על התחזית של צוקרברג הוא כאמור הסאביס, אחד המוחות המבריקים בתחום. "מטא נמצאת בפיגור בתחום ה-AI והם כנראה צריכים לעשות משהו בנושא", טען לפני כיומיים בראיון בפודקאסט של לקס פרידמן, מדען מחשבים וחוקר בינה מלאכותית בעצמו.
3 צפייה בגלריה
מארק צוקרברג מדבר על חזון בינת-העל. יש מי שממהר להרגיע את הרוחות ולהזכיר למטא שהיא לא במצב טוב
(רשתות חברתיות)
הסאביס התייחס בכך למסע הגיוס הגרנדיוזי של מדעני בינה מלאכותית שמבצע צוקרברג בחודשים האחרונים, בהוצאה של מיליארדי דולרים. לדעתו, המהלך מלמד שהחברה נאבקת לעמוד בקצב במרוץ הבינה המלאכותית, ובטח שלא מובילה בו.
יתרה מכך, בראיון קודם ל"גארדיאן" הבריטי, פקפק הסאביס ביכולת להגיע ל-AGI מתישהו בזמן הקרוב. "יהיה לנו משהו שנוכל לקרוא לו AGI, שיציג את כל היכולות הקוגניטיביות שיש לבני אדם, אולי בחמש עד עשר השנים הבאות, אולי בקצה התחתון של זה", טען.
ומסתבר שהסאביס עוד אופטימי: סקר שנערך לאחרונה בקרב 2,778 חוקרי בינה מלאכותית ברחבי העולם מצא כי רובם מאמינים שיש סיכוי של 50% בלבד ש-ASI תופיע לפני 2047.
סקר שנערך לאחרונה בקרב 2,778 חוקרי בינה מלאכותית ברחבי העולם מצא כי רובם מאמינים שיש סיכוי של 50% בלבד ש-ASI תופיע לפני 2047
לפי טים רוקטאשל, פרופסור לבינה מלאכותית ב"יוניברסיטי קולג'" בלונדון ומדען ראשי ב-DeepMind, "ASI יכניס אותנו לעידן חדש של תגליות מדעיות אוטומטיות, צמיחה כלכלית מואצת מאוד, אריכות ימים וחוויות בידור חדשות; אני אישית מאמין שאם נוכל להגיע ל-AGI נגיע גם ל-ASI, אולי כמה שנים לאחר מכן". לצד זאת הוא מזהיר: "כמו בכל טכנולוגיה משמעותית בהיסטוריה, גם בה יש סיכון פוטנציאלי".
על יכולת שיפור עצמי של מודל דווח לראשונה באוקטובר 2024: חוקרים מאוניברסיטת סנטה ברברה פרסמו מאמר ב-arXiv (פלטפורמה להפצת מאמרים מדעיים לפני פרסומם הרשמי) שבו הגדירו, יצרו ובדקו "מכונת בינה מלאכותית" תיאורטית המסוגלת לשפר את עצמה על-ידי שכתוב של קוד והוראות משלה.
המכונה מיישמת שינוי רק אם היא יכולה לספק הוכחה רשמית לכך שהוא יועיל. צוות החוקרים הוכיח, לטענתו, כי המודל שפיתח יכול לשפר את ביצועיו במשימות שונות, כולל קידוד, מדע, מתמטיקה והנמקה.
לפי צוקרברג, ASI יכול להוביל ל"גילוי של דברים חדשים שלא ניתן לדמיין כיום... להתחיל עידן חדש של העצמה אישית, שבו לאנשים תהיה יכולת גדולה יותר לשפר את העולם בכיוונים שהם בוחרים". עם זאת הוא הוסיף, כי מטא תהיה מעתה זהירה בהרבה בבחירת המודלים שהיא מחליטה לשחרר לציבור במסגרת קוד פתוח.
