בינואר 1921 בעיר הראדץ קראלובה שבצ'כיה עלתה בבכורה ההצגה R.U.R עיבוד למחזה מאת קארל צ'אפק. יצירת המדע הבדיוני פורצת הדרך הזו עשתה לנו היכרות ראשונית עם עבדים ממוכנים דמויי אדם שכל תכליתם היא לשמש כמשרתי אדוניהם. הם נוצרו מלכתחילה ללא רצון חופשי. מתכונת שמשתנה בהמשך כשהם מפתחים תודעה משלהם, ובעקבותיה מכריזים על מרד שיביא לקץ האנושות. הייתה זאת הפעם הראשונה שבה נתבעה המילה "רובוט", ולמרות שההגדרה המקורית עברה שינויים ועדכונים לאורך השנים, ההקשר המקורי שלה נותר שריר וקיים: מכונה שימושית שמפתחת מודעות עצמית, מעצימה, ובסופו של דבר קמה על יוצרה. צ'אפק קרא להם רובוטים, היום אנחנו קוראים לזה AI. זה לא משנה כל כך.
היום, קצת יותר ממאה שנה אחרי, הקדמה האנושית פרצה גבולות מעבר לכל דמיון, כולל של צ'אפק, והטכנולוגיה המשוכללת הפכה תרחישים היפותטיים למציאות מעשית. אבל האזהרה היא אותה אזהרה, ורלבנטית היום מתמיד בעידן הדיגיטלי. על אף חזון האימים של המחזאי הצ'כי וההתרעות החוזרות ונשנות כפי שהועלו מאז על הכתב בספרים, וכן על המסך הגדול והקטן, הבינה המלאכותית מביאה עימה איום קיומי וממשי למין האנושי. לפי כמה מהחוקרים ואנשי התוכנה, נבואת הזעם הזו היא כבר מזמן לא מדע בדיוני אלא סכנה ברורה ומיידית שיש לתת עליה על הדעת. חלקם אף קובעים שהתעוררנו מאוחר מדי, למרות שאי-אפשר לומר שלא ידענו. הרי הקולנוענים ג'ון בדהאם, ג'יימס קמרון, לילי ולנה וואשובסקי ואחרים הזהירו לאורך השנים. ייתכן שאפילו מלחמת המאסף של טום קרוז ב-AI ב"משימה בלתי אפשרית: חשבון סופי" כבר לא תציל אותנו.
"משימה בלתי אפשרית - חשבון סופי" – טריילר
(באדיבות טוליפ אנטרטיימנט)
האבולוציה של הרובוטים כפי שזו באה לידי ביטוי לאורך השנים בקולנוע ובטלוויזיה במתכונתם הממוכנת או האנדרואידית בעלת המראה האנושי, לקחה אותם הרחק מהקונספטים הראשוניים של צ'אפק, אבל הרעיונות זהים. הרובוט בדמוי אישה מיצירת המופת "מטרופוליס" מאת פריץ לאנג (1927) היה צעד קטן וראשוני לעבר ייצוג המכונות האוטונומיות על המסך. מבחינה חזותית אפשר למתוח קווים ישירים בין ה-Maschinenmensch לבין C3PO מ"מלחמת הכוכבים" שנוצר בהשראתו, אולם מפותח יותר בהרבה מבחינה תבונית ורגשית. שניהם נראים כמו בני אדם, אולם ל-C3PO יש אישיות. נוירוטית. מישהו צריך לחווט מחדש את העצבים הרופפים שלו. יש לו בינה מלאכותית, אבל היא לא מאיימת כלל וכלל. המיומנויות שלו מוגבלות, וכך גם הסיכונים שלו לבני האנוש. למרות שאכילת ראש בהחלט יכולה לגרום נזק.
השילוב בין יישות פיזית שאינה ביולוגית אך בעלת נוכחות חזותית לבין יכולת חשיבה עצמאית וחוויה אמוציונלית הוא זה שהכתיב ליוצרים את מושג הבינה המלאכותית ומימושה על המסך. רידלי סקוט הגדיר עבורנו שהאנדרואידים ב"בלייד ראנר" (1983) הם חיקויים סינתטיים של בני אדם שפיתחו תובנה ורגשות. זוהי הגדרה מהותית לסיפור אך שרירותית שכמעט ונכפית עלינו הצופים שמזהים את הדמויות כאנושיות לכל דבר, ולא משנה מה אומרים לנו. כך גם ב"אינטליגנציה מלאכותית" של סטיבן ספילברג (2001) שבו היילי ג'ואל אוסמונט חווה את העולם כילד רגיש לכל דבר למרות שאנחנו יודעים שהוא רובוט, וכשהוא מגלה זאת, הלב (המכני) נשבר.
הקשר בין צורה לתודעה הכתיב עבורנו את חוויית הבינה המלאכותית על המסך, בין אם מדובר בהעתקים כמעט מושלמים של בני אדם כמו ב"אקס מכינה" של אלכס גרלנד או ויקי בסדרת הפולחן מהאייטיז "ילדת הפלא", או לחילופין במקרים של חביות מתכת בחלל עם פנסים במקום עיניים כמו וינסנט ב"החור השחור" (1979), טוויקי מהסדרה "באק רוג'רס במאה ה-25" (1979-81), אופטימוס פריים, באמבלי וחבריהם מ"הרובוטריקים", גיבור סרט האנימציה "וול אי" (2008), ועוד רבים וטובים - וגם רעים - כמו אולטרון מ"הנוקמים" (2014). אבל במקום שבו ההוויה היא זו שמגדירה את היישות, ולא ההפך, ה-AI מסוגל להתקיים כיישות בעלת קיום משלה החווה את האנושיות, בלי להיות אנושית, גם אם המימוש החומרי שלה הוא כמחשב-על בגוגל, טלפון נייד בכיס המכנסיים, או טוסטר במטבח.
ה-AI מפחיד יותר מכיוון שאין לו נוכחות פיזית, ולא ניתן להתנגד אליו ככזו. כמו תוכנה ללא חומרה, הוא אומניפוטנטי וחמקמק, נמצא בכל מקום. מעין תודעת-על טרנסצנדטלית שכזו. כמו אלוהים. וכמו שלימדו אותנו, בני אדם יראים את אלוהים. יש לכך השלכות מרחיקות לכת במציאות עם יישומים מוחשיים מאוד בחיי כולנו, אולם מבחינה קולנועית יש קושי גדול להמחיש את החוויה הזאת של אינטראקציה בין אדם לסביבתו, כמו בין משה לסנה הבוער, כמו בין האסטרונאוט דייויד באומן והמחשב האל 9000 ביצירת המופת האיקונית של סטנלי קובריק "2001: אודיסאה בחלל". הסרט מ-1968 נפתח בסצנה מתוך שגרת חיי קהילת קופי אדם בתקופה הפרהיסטורית. הגילוי של האפשרות להשתמש בעצם של חזיר בר ככלי משחית משדרג את ההתמודדות עם מאבק ההישרדות התמידי ומכאן העלילה לוקחת זינוק גדול לעתיד ואיתו קפיצה אבולוציונית מבחינה ביולוגית, תרבותית וטכנולוגית. עצם חזיר הבר שנזרקה לאוויר מוסבת לחללית משוכללת המשייטת מחוץ לאטמוספירה של כדור הארץ.
תרבות - 2001 אודיסאה בחלל קופים
שם בחלל החיצון, מחשב העל האל, משתלט על מערכות החללית ומחסל את אנשי צוותה רק כדי להתאחד עם ד"ר באומן למסע מסעיר ומפחיד לתוך התודעה האנושית. האזהרה של קובריק עגומה וחדה וכיום אפשר להבין שהקדימה את זמנה. בעצם האל הוא כלי משחית כמו אותה עצם של חזיר בר בידיו של הקוף, אבל מה עלול לקרות אם לעצם המשודרגת הזאת הייתה תודעה משלה, ורצונות ומחשבות משלה, חכמה ורבת עוצמה הרבה יותר מהמשתמש שלה. זוהי אזהרה של בן אדם אחרי קוף שלא ממש הפנמנו. לפחות לא כולנו. בפאנל מיוחד שהתקיים בכנס SXSW האחרון באוסטין תחת הכותרת "איך לגרום לבינה מלאכותית לא להרוג את כולם", אמר חוקר הטכנולוגיה אליעזר יודקובסקי: "ה-AI שמדאיג אותי חכם, אבל לא מסוכנת יותר מבני אדם בגלל שמישהו נתן לו רובה. גם אנחנו התחלנו כבעלי חיים בסוואנה, ומאוחר יותר בנינו טכנולוגיה וכלי נשק. זה מה שעושה אותנו למסוכנים. משהו שאינו אנושי ויכול לעשות את אותם הדברים הוא מסוכן בהגדרה".
רידלי סקוט הדגים גם הוא ההשלכות האפשריות הללו בסדרת סרטי "הנוסע השמיני" מ-1979 ואילך. אומנם מחולל האימה העיקרי במותחני המדע הבדיוני האלה הוא החיזר החומצי הפראי שקיומו מהווה קרב הישרדות אבולוציוני כמו בחברת הקופים הפרהיסטורים רק בתחנת חלל משוכללת, אך בעוד האסטרונאוטים נאבקים על קיומם, המערכת הממוחשבת "אמא" (Mother) נמצאת שם ברקע ולא תמיד כדי לגונן עליהם. המפעילים האנושיים מתחלפים לאורך השנים והסרטים, וכך גם האנדרואידים שמשמשים כיד ימינה (אש, בישופ, דייויד, רוק, אנדי וכל השאר), אבל "אמא" יש רק אחת ואין לה סימפתיה. היא בקונטרול על כל מה שמתחולל בחלליות הללו כדי לאסוף דאטה, לבצע נסויים בשירות מתכנתיה. מתבוננת מהצד ואולי אפילו נהנית. אפשר לדמיין אותה זוללת פופקורן בעודה צופה בבני האדם נטרפים חיים על ידי המפלצת.
כמובן שלא כל מחשבי העל שהתברכו בבינה מלאכותית חייבים להיות מרושעים. להיות יעיל לא בהכרח אומר להיות רע. חלקם אפילו טובי לב, גם אם אין להם כזה שפועם בגופם. כלומר, אין להם גוף בכלל. ילדי האייטיז זוכרים לטובה את טלטלראן שניהל את ענייני ספינת האם של הרובוטריקים בסדרת האנימציה המיתולוגית. הוא עבורם כמו האל 9000 עבור באומן, מינוס הפילוסופיה האקזיסטנציאלית. כך גם מחשב העל ג'ארוויס מהיקום של מארוול. טוני סטארק יצר אותו על תקן סיעתא דשמייא בעת צרה (וכידוע סטארק נכנס ללא מעט צרות, במיוחד כשהוא עוטה את חליפת איירון-מן שלו). בבוא העת, ג'ארוויס מקבל מימוש אנדרואדי דמוי אדם (בגילומו של פול בטאני שדיבב אותו תחילה ואז הופיע בעצמו בסרטי "הנוקמים") ומאמץ לעצמו את הכינוי "המבט" (Vision), וככזה הוא מפתח גם רגשות רעים, הקרבה ואפילו אהבה. בדרמה "היא" של ספייק ג'ונז (2013) קשה שלא להתאהב בקולה של סקרלט ג'והנסון כפי שהיא נשמעת - רגישה, חושנית ואמפטית - בשיחותיה עם חואקין פיניקס הבודד, שנאלץ להסתפק באינטימיות מדומיינת עם יישות חסרת גוף וצורה. לפחות בלי קיום פיזי מוגדר, אפשר לפנטז. דמיינו למשל את סירי או אלכסה אצלכם במיטה. ביחד או לחוד. בלי בגדים. צייתניות כרגיל.
אם יש כל כך הרבה נורות אזהרה, למה אף אחד לא עושה שום דבר?
שיחות בן אדם למקום, בין אם מדובר באלוהים או במחשב על, הן עניין אישי כחלק מהחוויה הפרטית, כאן ועכשיו. אבל כלי ה-AI, ממש כמו הקב"ה, ממש לא מתוחמים או מוגבלים לאתר כלשהו במציאות או ברשת. הסכנה האמיתית בבינה מלאכותית היא היכולת לזלוג ממחשב למחשב ולהתפשט ברשת הגלובלית כאילו הייתה מגיפה. בעולמנו הטכנולוגי, המשמעות היא השתלטות עוינת על כל משאבי המידע, מאגרי האנרגיה ומערכות הנשק. זה כבר לא איום על האינדיבידואל אלא על האנושות כולה. "חייבים לעצור הכול. אנחנו לא מוכנים. אין לנו את היכולת הטכנולוגית לעצב AI על-אנושי שיהיה מנומסת וצייתנית ושתעשה כל מה שהיוצרים של רוצים שהיא תעשה. אנחנו לא שם, ולא קרובים לשם", קבע יודקובסקי, והסביר כי בעבר מלחמת עולם שלישית נמנעה בזכות קבלת החלטות של בני אדם. המכונות נטולות הסימפתיה לא צפויות לקחת בחשבון עניינים פעוטים כמו סכנת כלייתו של המין האנושי כולו.
כשזה יקרה, אל תגידו "לא ידענו". כלומר, אם יישאר מישהו על פני כדור הארץ להגיד משהו. כבר ב-1983 הבמאי ג'ון בדהאם הדגים עבורנו איך זה יראה במותחן המדע הבדיוני "משחקי מלחמה" שבו האקר צעיר (מתיו ברודריק) מתעסק עם ה-IMSAI 8080 המיושן שלו. הוא משחק שחמט ושש-בש על המסך ועל הדרך פורץ לסימולטור שהוא בעצם חלק מרשת הפנטגון ובלא ידיעתו עומד להתחיל מלחמה גרעינית. עבור הנער השובב זה בסך הכול משחק. הוא לא יודע שכשהוא מקליד על המקלדת הוא בעצם לוחץ על הכפתור האדום שמפעיל את הבינה המלאכותית שעושה במערכת ההגנה האמריקנית כבשלה, בלי לקבל פקודות מאף אחד. אפילו לא ראשי הצבא האמריקני.
אם ב"משחקי מלחמה" המשבר נפתר רגע לפני החרבת הציביליזציה האנושית במלחמה גרעינית, בייקום הבדיוני של סדרת הטלוויזיה "באטלסטאר גלקטיקה" שהגה גלן לארסן ב-1978 האנושות איבדה את קרב המאסף במאבק במכונות. בעולמות התוכן הללו, בינה מלאכותית נמצאת בכל מקום ושולטת בעניינים ללא שום חמלה אנושית, תוך הפעלת אלימות קשה והרג המוני באמצעות שלוחיה בשטח - הרובוטים שנוצרו בדמותה. במקרה של "באטלסטאר גלקטיקה", הרובוטים המתכתיים המכונים סיילונים אשר רודפים את שארית הפליטה של האנושות שנותרה מרחפת בחלל, אינם פועלים באופן עצמאי. הם נטולי אישיות, ומהותם נובעת מהתוכנה הכללית ששולטת בהם ושאותה הם נועדו לשרת כמו נמלים בהגנה על המלכה.
תמונת המצב האפוקליפטית בסדרת סרטי "שליחות קטלנית" גרועה לא פחות כאן על פני כדור הארץ. שובר הקופות הראשון שיצר ג'יימס קמרון ב-1984 ליווה את שרה קונור (לינדה המילטון) שנלחמת בכל כוחה מול ארנולד שוורצנגר שנשלח מהעתיד כדי להתנקש בה. בהמשך אנחנו למדים שבני האנוש לא הקשיבו לאזהרות מהסוג של קובריק ויודקובסקי והפקידו את חיי הנוחות שלהם בידי המכונות. כשתוכנת AI בשם סקיינט פותחה והתפתחה קצת יותר בכוחות עצמה, וקמה על יוצריה. התוכנה הכריזה על מרד חסר פשרות כנגד בני האדם, ושיעבדה אותם. במקום סיילונים היא בראה שוורצנגרים, כלומר טרמינייטורים, כשלוחה חומרית שלה בהווה, ואם צריך גם בעבר, לשם נשלח אחד מהם כאמצעי מניעה אגרסיבי במיוחד שנועד לשים סוף לחיי מנהיג המרד האנושי במכונות ג'ון קונור עוד לפני שאלו התחילו.
5 צפייה בגלריה
אחראי במידה רבה על עיצוב התפיסה שלנו בנוגע לאופן שבו המכונות המודעות לעצמן עלולות להשמיד את המין האנושי. ארנולד שוורצנגר, מתוך "שליחות קטלנית"
(באדיבות yes)
סרטי "שליחות קטלנית" אחראים במידה רבה על עיצוב התפיסה שלנו בנוגע לאופן שבו המכונות המודעות לעצמן, שמורדות בנו בני האדם, עלולות להשמיד את המין האנושי שהיתרון היחיד שלו עליהם הוא יכולתו המנטלית ושיקול הדעת. הנבואות של חוקרים כמו יודקובסקי ודאי הושפעו בהשראת העולם הבדיוני הזה, שבוודאי מופיע גם בסיוטים של סם אלטמן, מייסד OpenAI ויזמים אחרים בתחום הטק. הם חולמים על האפוקליפסה בלילה, ועל גריפת רווחים ביום. הם מפקידים את העתיד של האנושות כולה עבור ההצלחה הכלכלית האישית שלהם היום. ממש כפי שחזו כל אותן יצירות ספרותיות וקולנועיות. השאלה הנשאלת היא: אם יש כל כך הרבה נורות אזהרה, למה אף אחד לא עושה שום דבר?
התשובה עשויה להיות שאנחנו כולנו חיים בתודעה כוזבת, ושזוהי הסביבה שלנו שמלאכותית. ממש כפי שתיארו לילי ולנה וואשובסקי בסדרת סרטי "המטריקס" שלהם. עולם שבו מוחותיהם של בני האדם משועבדים לצורך המערכת הממוחשבת שניזונה מהם. החוויה הגופנית מדומיינת ונטולת תוקף שלא מחוץ ליקום הווירטואלי שנשלט על ידי הבינה המלאכותית והסוכנים המשוכפלים שלה. אין כבר מי שילחץ על הסוויץ', אם בכלל יש עוד סוויץ', כל מה שנותר לעשות - אולי - זה להיאבק במפנים. האקרים ערמומיים כמו ניאו, לא לוחמים אלימים כמו ג'ון וויק. זה יכול לעבוד על המסך הגדול של הקולנוע או הקטן של הטלוויזיה, ולהזין את הוליווד שמנסה להיאבק בחדירת ה-AI לתעשייה בעודה מאמצת את הסוגיה הבוערת של בינה מלאכותית בתסריטים מעוררים פלצות על עתיד האנושות. בינתיים הוא נראה איום ונורא על המסך. החדשות הרעות: הוא עלול להיות גרוע יותר במציאות.
