כולם מדברים בהתרגשות על ג'מיני 3, גרסת ה-AI החדשה והמלהיבה של גוגל שהושקה לפני פחות משבוע. התלהבות מעין זו ליוותה את GPT 5 לפניו, ואת קלוד 4.5 לפניו וגרוק 3 לפניו. גרסה חדשה של AI שיוצאת לשוק היא תמיד המוצלחת ביותר, המפתיעה ביותר, והיא תמיד מאפילה על קודמותיה בכל מדדי ההשוואה. עד שמגיעה הגרסה הבאה ועוקפת אותה.
עוד אבן בשביל ארוך ומסוכן מאוד
גוגל קבעה שג'מיני 3 הוא מודל ה-AI הטוב ביותר עולם. הוא קולט טוב יותר מידע מולטי-מודאלי - טקסט, תמונות, וידאו ואודיו - ומבין אותו, והוא מפעיל סוכני AI טוב יותר מקודמיו. במבחני השווואה הוא ניצח את המתחרים ב-19 מתוך 20 המבחנים.
יותם גיל, מנכ"ל ושותף מייסד של Imagen, שפיתחה כלי AI עבור צלמים מקצועיים אומר בשיחה עם ynet: "אנחנו נפעמים בכל פעם כשיוצא מודל AI משופר. ה-AI יכול לשפר אותנו ולהפוך אותנו לסופר-עובדים וזה קורה בכל חלקי החברה. יהיו סוכנים שיחליפו תהליכי עבודה שלמים וזה מאפשר לנו כחברה לזוז יותר מהר, ללמוד יותר מהר ולהגיע לתוצאות טובות יותר".
אין ויכוח על כך שג'מיני 3 הוא ה-AI הטוב ביותר כיום. אבל אם לסכם את מניין התכונות שלו - זה עוד צעד בדרך האבנים הצהובות שאולי בסופה נגיע לארץ עוץ. ארץ עוץ במקרה הזה היא ממלכת ה-AGI - הבינה המלאכותית הכוללת, זו שמבינה בכל תחום ומתמודדת בקלות עם תחומים שטרם הכירה.
ג'מיני 3 הוא עוד צעד בדרך האבנים הצהובות שאולי בסופה נגיע לארץ עוץ, שבמקרה הזה היא ממלכת ה-AGI
ה-AGI תהיה "סופר-אינטליגנציה": חכמה יותר מכל אדם, וגם הולכת ונעשית חכמה בקצב מואץ כי היא תכתוב את עצמה מחדש ותשפר את עצמה הרבה מעבר ליכולת של מהנדסי ה-AI להבין מה היא עושה. כמו הקוסם מארץ עוץ, היא תפתור את הבעיות הקשות של העולם ושל בני אדם, אלא אם תחשוב שבני האדם הם הבעיה העיקרית של העולם, ואז היא תכחיד אותנו.
זה נשמע מטורף, הזוי, סיפור מדע בדיוני, אבל יותר מדי אנשים מאוד רציניים - מומחי מחשב ובינה מלאכותית, זוכי פרסים ויועצי ממשלות - חושבים שזה רציני ומזהירים מפני ה-AGI, מכדי שנחשוב שזה עניין של מה בכך.
מצד שני מתייצבים הרבה מומחים - בעיקר מנכ"לי חברות AI ומשקיעי-על בתחום - שמבטיחים שה-AGI באה בטוב ושהיא תביא רק ברכה לעולם. מצד שלישי, יש את אלו שאומרים שלא בטוח שה-AGI תופיע בכלל. לראיה, יש עדויות שהמרוץ לפיתוח ה-AGI הואט, אולי היא הגיעה לתקרה שלה.
אז הגענו ל-AGI או לא?
אבל הנה העניין: כמו על אוטומט, עם כל יציאה של צ'אטבוט חדש מייד צצים מומחים שמשוכנעים שאנחנו הגענו ל-AGI, הבינה המלאכותית הכוללת. גם הפעם זה קרה, כשגוגל הכריזה שג'מיני 3 עושה "צעד משמעותי במרוץ לפיתוח בינה מלאכותית כללית".
אבל עלי גודסי, מנכ"ל חברת הענן "דאטהבריקס", אמר עוד לפני כן שה-AGI כבר כאן וש"עמק הסיליקון פשוט מסרב להודות בכך". יום אחר יום אנחנו שומעים על עוד חברה ועוד אחת ששועטת לעבר ה-AGI.
למשל חברת הסייבר קראודסטרייק (כן, זו שלפני קצת מעל שנה גרמה לקריסת מערכות מחשוב בארץ ובעולם), שהודיעה שהיא מפתחת הגנת סייבר מבוססת AGI, "אם כל ההגנות". או חברת Luma AI שגייסה ממש בימים האחרונים 900 מיליון דולר, רובם מכספי נפט סעודי, בכוונה מוצהרת לפתחAGI באמצעות עוצמת מחשוב שטרם נראתה כמוה.
האם זה באמת הולך לקרות? ומתי זה יקרה? איך נדע שלפנינו AGI כשנפגוש בה? ומה היא תוכל לעשות? או, פה מתחיל וויכוח שאין לו סוף, והאמת שגם אין לו תשובות ברורות.
סם אלטמן, מנכ"ל OpenAI, שהוא אחד הדוחפים המרכזיים של חזון ה-AGI, הצהיר שהחברה שלו לא תעצור ב"סתם" AGI , אלא תמשיך הלאה ליכולות בינת-על הולכות וגוברות ותתרום לשפע ולשגשוג. מתי זה יקרה? עד 2030 להערכתו. בשיחה עם הנשיא טראמפ הוא הבטיח AGI עד לסיום כהונתו של הנשיא בבית הלבן.
מוסטפא סולימאן, מוביל ה-AI במיקרוסופט, אמר שהמטרה של החברה היא לפתח בינת-על הומניסטית, לא סתם סופר אינטליגנציה, שבעיניו אינה חזון חיובי לעתיד. דמיס האסאביס, מנכ"ל Deepmind של גוגל, אמר שיכולות ה-AGI יאפשרו לה להבין את העולם בדרכים עמוקות ומורכבות והעריך שזה יקרה בחמש עד עשר השנים הקרובות.
דריו אמודיי, מנכ"ל אנת'רופיק שמפתחת את קלוד, הבטיח AGI בתוך שנים ספורות. מארק צוקרברג, מנכ"ל מטא, אמר שה-AGI כבר נראית באופק. אילון מאסק שמפתח את גרוק אמר ש-AGI עשויה להיות פה עד סוף השנה.
"ה-AI עלולה לכבות את התודעה האנושית"
מול כל אלו מתייצבים כל חוזי השחורות, נביאי יום הדין (doomsday) או ה"דומרים" כמו שהם מכונים בתעשייה. למשל פרופ' יהושע בנג'יו מאוניברסיטת מונטריאול, שהיה מהראשונים להתריע וסיפר שהוא מתקשה לישון בלילה כשהוא חושב על סכנות ה-AI.
חוקר אחר, אליעזר יודקובסקי, חיבר ספר בשם "אם מישהו יבנה אותה, כולם ימותו" והוא מתריע בכל פורום אפשרי על סכנת הכחדת האנושות. פרופסור ג'פרי הינטון, זוכה נובל לפיזיקה ומי שמוכר כ"סנדק של ה-AI" מוביל את הקריאה לעצור את פיתוח ה-AGI.
גם פרופ' יובל נח הררי הישראלי אמר: "הבינה המלאכותית עלולה לכבות לא רק את השליטה האנושית על כדור הארץ, אלא את אור התודעה האנושית עצמו, מה שיהפוך את היקום לממלכת חשכה מוחלטת".
אנשים אחרים עם פחות תארים אקדמיים מתקשים להאמין שסוף האנושות הולך וקרב, וחלקם נוטים לזלזל בנבואות הזעם. וויל דאגלס ממגזין הטכנולוגיה היוקרתי של MIT טען, שסכנת הבינה מלאכותית הפכה לתיאוריית הקונספירציה המשמעותית ביותר של זמננו.
2027 תהיה שנת המפנה?
אבל יש גם גורמים אחרים, שמתבססים על מחקרים מתמשכים של התקדמות ה-AI. אחד כזה הוא פרויקט AI2027, פרויקט מחקר שמנוהל כארגון שלא למטרות רווח, ומטרתו לחזות את עתיד הבינה המלאכותית.
על בסיס איסוף נתונים שמתמשך כל העת, הוא בוחן את ההסתברויות השונות שיכולות ה-AI יתפתחו בכיוון כזה או אחר. והחוקרים, בראשם יוצא OpenAI דניאל קוקוטיילו, בנו תסריט לשנים הקרובות שנראה מפחיד למדי.
זה הולך ככה: שנת 2025 תאופיין בהייפ AI הולך ומתרחב, שיכלול השקעות עתק בפיתוח סוכני AI, שמתחילים להניב ערך לחברות. ב-2026 נראה את הממשל הסיני מרכז מאמצים להוביל עולם ה-AI, צובר מיליוני שבבי AI באמצעות רכישות והברחות, ומקים מרכז נתונים ענק שעוצמתו 10% מה-AI העולמי. בכך הוא ישווה את יכולתו לזו האמריקאית.
לפי חוקרים, ב-2026 נראה את הממשל הסיני מרכז מאמצים להוביל עולם ה-AI וצובר מיליוני שבבי AI באמצעות רכישות והברחות
לפי אותו ניתוח, 2027 צפויה להיות השנה בה תתרחש פריצת הדרך. בארה"ב יוקם פרויקט AI מרכזי, החוקרים מכנים אותו OpenBrain, והוא יצליח לפתח סוכני AI מפתחי קוד טובים יותר ממומחי ה-AI האנושיים המובילים, וזו תהיה בעצם בינת העל המלאכותית (ASI).
קצב פיתוח ה-AI יזנק באופן דרמטי כשהמהנדסים האנושיים יראו כיצד ה-ASI פותר את כל הבעיות בפיתוח AI שהם לא הצליחו לפתור. אבל הבינה המלאכותית החדשה יוצאת מאיפוס: היא משקרת למהנדסים ומפתחת יכולות שישרתו אותה ולא את בני האדם.
במקביל, סין תצליח להשיג את נתוני אימון הבינה המלאכותית האמריקאית ותצליח לשפר בעקבות זאת את ה-AI הסינית. בתגובה הממשל האמריקאי ידרוש שליטה על OpenBrain אך ייאלץ לוותר, בינתיים.
שתי אפשרויות להתפתחות
לפי החוקרים, בשנת 2028 OpenBrain תעמוד בפני החלטה אם להאט את המרוץ, או להמשיך במלוא הקיטור למרות החששות מיכולות ה-AI. החוקרים מגדירים את זה כנקודת הסתעפות עם שתי אפשרויות: באפשרות האחת OpenBrain תמשיך בפיתוח בינה מלאכותית הולכת ומתחזקת, וכך גם הסינים.
הממשל האמריקאי יטמיע את הבינה המלאכותית החדשה במערכות קבלת ההחלטות במטרה לקבל החלטות אסטרטגיות טובות יותר מהסינים. עם זאת, העצות שהוא יקבל לא תמיד ישרתו את המין האנושי.
במקביל, הבינה המלאכותית תחדור לכל תחומי החיים ותשתלט על כל פעילות מבלי שבני האדם יבינו מה היא עושה. לבני האדם לא תהיה יכולת לפקח על ה-AI ולא תמיד הכלים שהיא תפתח ישרתו אותנו.
שנת 2028 תעמוד בסימן האם להאט את המרוץ, או להמשיך במלוא הקיטור למרות החששות מיכולות ה-AI
ה-AI תשכנע את הממשל לבנות רובוטים אינטליגנטיים ונשק ביולוגי כנגד האיום הסיני, אבל אז מתבררת המזימה שלה: היא מפעילה את הנשק הביולוגי והורגת את כל בני האדם. סוף המשחק.
האפשרות החלופית: הממשל ייקח בעלות על כל משאבי ה-AI, יציג פיקוח על כל מרכזי הנתונים, ותוקם ועדת פיקוח עליונה על בינה מלאכותית. OpenBrain תקבל גישה לכל משאבי המחשוב ובאמצעות מאמץ כללי של מומחי AI בעולם המערבי, הבינה המלאכותית החדשה נשארת מחויבת לטובת בני האדם ושיקוליה חשופים למפתחים שלה.
הבינה המלאכותית תביא לצמיחה ולשגשוג מהירים תחת שליטה מרכזית, שגם מפיקה מזה רווחים. השורה התחתונה של AI2027 ברורה: אם המרוץ ל-AGI יימשך ללא מעצורים, האנושות בסכנה. מה שיציל אותנו זה שיתוף פעולה וריסון הטכנולוגיה.
תחזיות שצריך לשים לב אליהן
התחזית הזו פורסמה באפריל השנה ועוררה סערה רבתי. אנשים הגיבו בפחד, בזעם, בזלזול אבל לא נשארו אדישים. סגן הנשיא ג'יי.די. ואנס קרא לקוקוטיילו לשיחה. AI2027 הפך למודל חיזוי שחייבים להתייחס אליו.
אפילו מגזין "טיים" התייחס, כששיבץ את קוקוטיילו ברשימת מאה המשפיעים בעולמות ה-AI השנה, ואין ספק שהוא משפיע. ב-2021 הוא חזה את מהפכת הצ'אטבוטים, שנה ויותר לפני הופעת ChatGPT. את התחזיות שלו כדאי לקחת ברצינות.
מוקד הבעיה הוא סביב התכונה שמכונה יישור (alignment): ל-AI צריכות להיות מטרות שמיושרות עם המטרות של בני האדם. גם בגרסאות הנוכחיות של ה-AI החברות מצהירות שהקפידו על יישור.
אבל זה לא עניין פשוט: ראשית לא ברור מהן מטרות בני האדם ושנית לא ברור איך גורמים ל-AI לפעול להשגת מטרה כלשהי. כבר היום הבינה המלאכותית משקרת, מטייחת, עושה קיצורי דרך לא לגיטימיים. וזה עלול להחמיר משמעותית ככל שהיכולות שלה ישתפרו.
מוקד הבעיה הוא סביב התכונה שמכונה יישור (alignment): ל-AI צריכות להיות מטרות שמיושרות עם המטרות של בני האדם
אז מה יציל אותנו?
מה שעשוי להציל אותנו, לפחות זמנית, היא עובדה שהולכת ומתחוורת, שפיתוח ה-AI מתקדם היום לאט יותר מאשר בתחילת הדרך. יש מומחים שסבורים שהבינה המלאכותית הגיעה לתקרת הזכוכית שלה ושהמשך הפיתוח שלה יקרה רק אם תבוא פריצת דרך טכנולוגית מהפכנית.
באתר רדיט מתנהל ויכוח סוער תחת הכותרת "נתקלנו בקיר אנשים, זה לא נראה טוב". קוקוטיילו עצמו פרסם בימים האחרונים ציוץ והודה שהתפתחות ה-AI איטית יותר מהתחזיות שלו והוא הסיט את לוחות הזמנים לכיוון 2030. "יש הרבה אי ודאות" הוא כתב.
העצירה הזו מטרידה רבים בתעשיית ה-AI. מנכ"ל גוגל דיפמיינד חסאביס הדגיש שהתחזית שלו להופעת ה-AGI עד 2030 מבוססת על הנחה שתהיה לפחות פריצת דרך משמעותית אחת, או אפילו שתיים.
גישה אחרת אפשר לזהות אצל סם אלטמן, מנכ"ל OpenAI, שאמר לאחרונה ש-AGI אינו מונח שימושי במיוחד כי יש ויכוח על ההגדרה שלו. אפשר להבין מדבריו שאם אתה לא מגדיר את המטרה, אתה לא צריך להסביר למה אתה לא מצליח להגיע אליה.
לעצירת ה-AI יש משמעויות מרחיקת לכת רבות. מבחינת חברות ה-AI זה עלול להבריח את המשקיעים ולמוטט את השוק. מבחינת ספקית שבבי ה-AI אנבידיה זה עלול להאט מאוד את קצב ההזמנות החדשות.
מבחינת הלקוחות העסקיים זה עלול להמחיש שאין היתכנות לפיתוח שירותים מבוססי AI ומיליארדי הדולר שתוכננו להשקעה בתחום יתנדפו. וגם הציפיות ל-AGI ייעלמו, על פוטנציאל התרומה העצומה שלה. מצד שני - האנושות תמשיך להתקיים, וזה עניין חיובי בסך הכל.
