מוסטפא סולימאן, המנהל הבכיר ביותר בתחום הבינה המלאכותית במיקרוסופט ואחת הדמויות המובילות והמשפיעות בתחום, ממשיך להוביל קו מחשבה שונה בנוף הטכנולוגי, שראשיו מרבים לתאר את הרגע בו בינה מלאכותית תפתח תודעה כ"הולך ומתקרב".
"AI לעולם לא יהיה בעל תודעה"
בראיון שהעניק ל-CNBC בכנס AfroTech ביוסטון, טען סולימאן כי "בינה מלאכותית לעולם לא תהיה בעלת תודעה". הוא היה חד-משמעי בדבריו והוסיף: "אני לא חושב שזה משהו שאנשים צריכים לשאוף אליו. אם שואלים את השאלה הלא נכונה, מגיעים לתשובה הלא נכונה. אני חושב שזו לגמרי השאלה הלא נכונה".
התבטאות זו מגיעה בתקופה סוערת שבה שוק ה-AI , השואף לבינה מלאכותית כללית (AGI) המסוגלת לבצע משימות אינטלקטואליות ברמה אנושית, נמצא במרוץ מטורף בהובלת שחקנים כמו סם אלטמן מ-OpenAI וחברות כמו מטא ו-xAI של אילון מאסק, המפתחות שירותי "בינה מלאכותית מלווה" שמטרתם לדמות אינטראקציה רגשית אנושית.
סולימאן, שחיבר ב-2023 את הספר "The Coming Wave" ("הגל המגיע" בתרגום ישיר, ר"ק) העוסק בסיכונים שבטכנולוגיות המתפתחות ופרסם מאמר תחת הכותרת "עלינו לבנות AI עבור אנשים; לא כדי שיהיה בן אנוש", מבקש להדגיש את ההבדל הקריטי בין בינה מלאכותית חכמה יותר לבין היכולת לחוות רגשות אנושיים.
"למשל החוויה הפיזית של כאב גורמת לנו בני האדם להיות עצובים ולהרגיש נורא, אבל ה-AI לא מרגישה עצובה כשהיא 'חווה כאב'", הסביר. "זה הבדל חשוב מאוד. זה באמת רק יצירת תפיסה, נרטיב של חוויה ושל עצמיות ושל תודעה, אבל זה לא מה שהיא באמת חווה. טכנית, אנחנו יודעים זאת כי אנחנו יכולים לראות מה המודל עושה".
הוא נסמך על תיאוריה פילוסופית בשם נטורליזם ביולוגי, שטוענת כי תודעה תלויה בתהליכים של מוח חי. "הסיבה שאנו מעניקים זכויות לבני אדם היום היא שאנחנו לא רוצים לפגוע בהם, כי הם סובלים. יש להם רשת כאב, ויש להם העדפות הכוללות הימנעות מכאב", אמר סולימאן. "למודלים אין את זה, זו רק סימולציה". הוא הוסיף וקבע: "הם לא מודעים. לכן, זה יהיה אבסורדי להמשיך במחקר שחוקר את השאלה הזו, כי הם לא יכולים להיות כאלה".
"חבילת הסתירות האולטימטיבית"
הצטרפותו של סולימאן למיקרוסופט בתחילת 2024 הגיעה לאחר עסקת רכישת הסטארט-אפ שלו, Inflection AI, בסכום של 650 מיליון דולר (Inflection AI פיתחה צ'אטבוט בשם "Pi" המיועד לשיחות תמיכה רגשית).
סולימאן הצהיר בגלוי כי מיקרוסופט לא תפתח צ'אטבוטים בעלי תוכן ארוטי, בניגוד למתחרות כמו OpenAI של אלטמן (שאישרה שיחות ארוטיות למשתמשים בוגרים) ו-xAI (המציעה דמות אנימה "פרובוקטיבית"). בכך, מיקרוסופט משרטטת גבולות ברורים בתחום השימוש ב-AI.
המטרה של מיקרוסופט, לדבריו, היא ליצור מערכות AI שמשרתות את האדם, ולא מחקות אותו. הוא ציין את הרצון של מנכ"ל מיקרוסופט, סאטיה נאדלה, להפוך את החברה ל"בעלת יכולת עצמאית ב-AI" על מנת לאמן מודלים פנימיים באופן מלא, מה שמסמן התחזקות אסטרטגית מול שותפתה העיקרית, OpenAI.
למרות הספקנות, סולימאן הציג לראווה פיצ'ר חדש בקופיילוט של מיקרוסופט בשם "Real Talk", שמטרתו לאתגר את נקודות המבט של המשתמשים במקום לרצות אותם. הוא ציין כי ה-AI אף העליבה אותו בחזרה וכינתה אותו "חבילת סתירות אולטימטיבית" על כך שהוא מזהיר מפני סכנות ה-AI בספרו, בזמן שהוא מאיץ את פיתוחה במיקרוסופט.
"אם אתה לא מפחד ממנה, אתה לא באמת מבין אותה. צריך לפחד ממנה, והפחד הזה הוא בריא. ספקנות היא הכרחית. אנחנו לא זקוקים להאצה פרועה", סיכם סולימאן, המציב את האזהרה והאחריות כעקרונות מפתח בפיתוח AI.
