משרד ההגנה האמריקאי (DoD) הודיע אמש (ב') כי חתם על חוזים בהיקף של עד 200 מיליון דולר עם ארבע מהחברות המובילות בתחום הבינה המלאכותית: OpenAI, גוגל, אנת'רופיק ו-xAI של אילון מאסק. המהלך נועד להרחיב את השימוש ביכולות AI מתקדמות במערכות הפנטגון, במטרה להתמודד עם אתגרי ביטחון לאומי, כך לפי ההודעה הרשמית.
על פי משרד הדיגיטל והבינה המלאכותית (CDAO) של הפנטגון, החוזים הללו יאפשרו לפתח "תהליכי עבודה של סוכני AI" (agentic AI workflows). דאג מאטי, קצין הדיגיטל וה-AI הראשי של המטכ"ל האמריקאי הדגיש כי "אימוץ הבינה המלאכותית ישנה את היכולת של משרד ההגנה לתמוך בלוחמים שלנו ולשמור על יתרון אסטרטגי על פני היריבים שלנו".
מרוץ ה-AI מגיע לפנטגון
המהלך מגיע על רקע מדיניות ממשלתית שמטרתה להרחיב את השימוש בבינה מלאכותית, כפי שנקבעה בצו נשיאותי שפרסם הבית הלבן באפריל 2025. במקביל, הנשיא דונלד טראמפ פועל מזה תקופה לצמצום הפיקוח על התחום, וביטל את הצו שהוציא הנשיא ביידן ב-2023 שהטיל דרישות שקיפות על חברות ה-AI.
בנפרד, חברת xAI של אילון מאסק הכריזה על חבילת מוצרים חדשה בשם "גרוק ממשלתי" (Grok for Government), שתנגיש את מודלי ה-AI המתקדמים שלה, כולל המודל החדש גרוק 4, ללקוחות פדרליים, ממלכתיים וביטחוניים. ההכרזה מגיעה לאחר שבחודש שעבר, הפנטגון העניק למתחרה OpenAI חוזה בסך 200 מיליון דולר לפיתוח יכולות AI "כדי להתמודד עם אתגרי ביטחון לאומי קריטיים".
3 צפייה בגלריה
אילון מאסק לצד הנשיא טראמפ. למרות הריב בין השניים, חברת xAI מקבלת חוזים מהממשל
(צילום: Eric Hartline-Imagn Images)
החוזים הללו מחזקים את הקשר בין ענקיות ה-AI לבין זרועות הממשל האמריקאי, אך גם מעוררים ביקורת על היעדר תחרות בתחום. בחודש מאי, הסנאטורית הדמוקרטית אליזבת' וורן קראה למשרד ההגנה לוודא שההתקשרויות עם חברות בינה מלאכותית יתבצעו בצורה תחרותית והוגנת, במיוחד על רקע החדירה המהירה של גרוק למערכות הממשלתיות.
ולא רק היעדר התחרות מטריד - החדירה של גרוק למוקדי קבלת ההחלטות בממשל ובמערכת הביטחון בארה"ב מעוררת דאגה, זאת על רקע תקלות חוזרות במודל, שבמהלכן הפיץ מסרים אנטישמיים ומלאי שנאה. ההתנהלות הזו מעלה שאלות קשות לגבי רמת הפיקוח והבקרה על המערכת.
וזה לא הכל. על פי דיווח של Security Week מהימים האחרונים, גרסתו האחרונה של גרוק (Grok 4), נפרצה יומיים בלבד לאחר השקתו הרשמית ב-9 ביולי, במסגרת במסגרת מתקפת סייבר מתוחכמת במיוחד בשם Echo Chamber.
המתקפה, שפותחה על ידי חברת NeuralTrust, אפשרה למודל להפיק פלט מסוכן מבלי להשתמש במילים שמפעילות את מנגנוני ההגנה שלו. מדובר בטכניקה שתועדה לראשונה על ידי מיקרוסופט כבר באפריל 2024, ומבוססת על שכנוע הדרגתי של המודל לעקוף את מסנני הבטיחות שנקבעו לו, תוך שימוש בתגובות קודמות שסיפק בעצמו.
הצד השנוי במחלוקת של גרוק
ואם זה לא מספיק, במקביל להתפתחויות הטכנולוגיות והביטחוניות האלו, הכריז מאסק אמש כי משתמשי SuperGrok (מנוי ב-300 דולר לגרסה המתקדמת ביותר של גרוק 4) יכולים כעת לנסות את האווטארים החדשים של הצ'אטבוט (Companions). האווטארים הזמינים כרגע כוללים את "אני" (Ani), אווטארית אנימה, ו"רודי" (Rudy), פנדה אדומה מצוירת.
דמותה של "אני" כוללת גם מצב NSFW (לא בטוח לעבודה), שבו היא מופיעה בהלבשה תחתונה, מה שמעורר חששות בנוגע להפצה של תוכן לא הולם. נכון לעכשיו ניתן להפעיל את האווטארים דרך הגדרות המערכת, אך מאסק הבטיח כי הגישה אליהם תהפוך לפשוטה יותר בתוך ימים ספורים. בינתיים, ישנם דיווחים על כך שגם משתמשים חינמיים הצליחו לעקוף את המגבלות והשיג גישה לדמויות.
כאמור, הוספת האווטארים מגיעה זמן קצר לאחר שגרוק פרסם תכנים אנטישמיים, כולל דברי שבח להיטלר. למרות שב-xAI טענו כי מדובר היה ב"עדכון בעייתי" והתנצלו על המצב שנוצר, נראה כי הבעיה לא באמת נפתרה. לפי דיווחים, משתמשים ב-X ששאלו לשם משפחתו של גרוק בימים האחרונים, קיבלו ממנו את התשובה "היטלר".
התקריות האחרונות האלו, לצד שורת כשלים קודמים במערכות AI השונות, מעלים שאלות קשות בכל הנוגע לשילוב של בינה מלאכותית במערכות ממשלתיות וביטחוניות רגישות. תקלות חוזרות, מסרים מסוכנים, ואווטארים בלנז'רי - כל אלה לא נשמעים כמו רכיבי מפתח באסטרטגיית ההגנה של מעצמה עולמית.
