ספק אם מישהו במטה גוגל במאונטיין ויו שיער שעדכון תוכנה תמים למדי בשיא הקיץ יחולל סערה בינלאומית שתאיים לקעקע את אחד מכלי האימות האמינים בעולם.
החברה השיקה שירות מחולל תמונות בינה מלאכותית ששולב ישירות בגרסת הרשת של גוגל ארת' (Google Earth). התכונה החדשה, שנסמכת על המודל "ננו בננה 2" (Nano Banana 2), אפשרה לכל משתמש לרחף מעל כל נקודה גיאוגרפית על פני הגלובוס, להקליד הנחיה טקסטואלית קצרה, ולייצר בתוך שניות הדמיה המשתילה מבנים, הרס, או אירועים דרמטיים על גבי התצלום לווין האמיתי.
גוגל מפות
(Getty Images)
כור גרעיני, הפצצות ושלל המצאות
מהרגע שהכפתור הפך זמין, הרשת הוצפה בדוגמאות מבהילות. תחקירנים בגופי תקשורת כמו 404 Media וצוות BBC Verify בבריטניה הדגימו כיצד בשורה אחת ניתן להקים כור גרעיני בלב איראן, ליצור מכתש הפצצה והריסות בשכונת מגורים, להציב מחנה פליטים בגבול ארצות הברית ומקסיקו, או לשתול שרידי תאונה קטלנית ברחובות אמסטרדם.
תגובתה הראשונית של גוגל ניסתה למזער את הנזק: בחברה טענו כי כל תמונה המיוצרת באמצעות המודל כוללת חותמת מים דיגיטלית סמויה בשם SynthID, וכי משתמש שיפקפק באמינות צילום יוכל לאמת זאת בקלות באמצעות אפליקציית ג'מיני או סריקה בגוגל לנס. אלא שהטיעון הזה נתקל בביקורת נוקבת מצד מומחי טכנולוגיה ודיסאינפורמציה באירופה ובארה"ב.
עם זאת, חוקרים ומומחים בתעשייה הבהירו כי בסיטואציות של לחימה או משבר פוליטי, גולשים ברשתות החברתיות אינם טורחים לבצע בדיקות עובדתיות עמוקות לפני שהם משתפים תוכן סנסציוני. יתרה מזאת, חותמות מים דיגיטליות ניתנות לעקיפה, לחיתוך או לשיבוש בקלות יחסית.
כשהביקורת הלכה והחריפה, והרשתות התמלאו בצילומי מסך מזויפים של אזורי אסון ואזורי קרב, גוגל נאלצה לבצע צעד חריג במיוחד: פחות מ-24 שעות לאחר ההשקה, החברה הודיעה על הסרת הפיצ'ר לצורך בחינה מחודשת והידוק מנגנוני הבטיחות.
הפער שבין יצירה למציאות בשטח
הניסיון של גוגל לשלב בינה מלאכותית גנרטיבית לתוך נתונים גיאוגרפיים מראה את הפער הגדול בין כלים שנועדו לבידור ויצירה, לבין פלטפורמות המבוססות על עובדות בשטח. בשוק מחוללי התמונות, חברות כמו Midjourney, OpenAI עם מודל DALL-E מציעות יכולות יצירת תמונות מרהיבות מטקסט. אולם כלים אלה פועלים מחוץ להקשר גיאוגרפי מחייב, והמשתמשים מבינים מראש כי מדובר ביצירה סינתטית.
מנגד, בעולם המידע הגיאוגרפי והלווייני, חברות מסחריות כמו Maxar Technologies ו-Planet Labs מספקות צילומים ברזולוציה גבוהה לצורכי מדינות, מחקר ומודיעין, עיתונות או פעילות הומניטרית, תוך שמירה קפדנית על מטא-דאטה, שרשרת אמינות וזמני צילום מדויקים.
בעשור האחרון, ובמיוחד מאז פרוץ המלחמה באוקראינה והסלמת המצב במזרח התיכון, הפכו צילומי הלוויין הפתוחים לעמוד השדרה של חקירות מודיעין המבוסס על מקורות גלויים (OSINT). השילוב שביצעה גוגל בין הטכנולוגיה של מחולל תמונות לבין פלטפורמה שנתפסת בעולם כמקור המרכזי למפות ולוויינים, יצר הכלאה מסוכנת ששברה את חומות האמון שהציבור רוחש למידע הזה.
עיתונאים וחוקרים עצמאיים עושים בהם שימוש יומיומי כדי לאמת אירועים, לחשוף פשעי מלחמה ולסתור תעמולה ממשלתית. ההחלטה המהירה של גוגל לקפל את כלי ה-AI החדש מדגישה את ההבנה הדרמטית של החברה: בשפה הגיאוגרפית, האמינות של המפה יקרה בהרבה מכל חידוש טכנולוגי נוצץ.
