אפליקציית הווידאו מבוססת הבינה המלאכותית "סורה" (Sora) מבית OpenAI, הופכת לסיפור המדובר ביותר בעולם הטכנולוגיה בימים אלה, תוך שהיא מציבה אתגרים חדשים ומשמעותיים לרגולטורים ולמערכות הבטיחות ברחבי העולם.
יצירה של סורה 2 שמתבססת על אנימה יפנית
חצי מיליון הורדות ביממה
לפי נתוני חברת Appfigures שפורסמו באתר TechCrunch, השקת האפליקציה במערכת ההפעלה אנדרואיד רשמה ביומה הראשון כ-470,000 הורדות בשווקים בהן הושקה (ארה"ב, קנדה, יפן, דרום קוריאה, טייוואן, תאילנד ו-וייטנאם), נתון המהווה עלייה של 327% בהשוואה להשקת גרסת האייפון.
נתון ההורדות באנדרואיד עומד על למעלה מפי ארבעה מהיקף ההשקה הראשונית ב-iOS (כ-110,000 הורדות ביום הראשון, לפי הערכות מתוקנות), אם כי ההשוואה אינה זהה: בעוד השקת ה-iOS הייתה מוגבלת לארה"ב וקנדה ובאמצעות הזמנה בלבד, ההשקה באנדרואיד התבצעה בשווקים נוספים וללא צורך בהזמנה.
ובינתיים, האפליקציה, המאפשרת למשתמשים ליצור סרטוני וידאו ריאליסטיים מתוך הנחיות טקסטואליות פשוטות, ממשיכה לשמור על מעמדה בצמרת מצעדי האפליקציות החינמיות המובילות בארה"ב.
גם מטא בתמונה
ההצלחה המטאורית של סורה מגיעה במקביל להתרחבות משמעותית של המתחרה מטא, שהשיקה את יישום ה-AI שלה בארה"ב והרחיבה את אפליקציית Meta AI ואת פיד הווידאו הקצר והשיתופי שלה Vibes גם למשתמשים באירופה.
מטא, בדומה ל-OpenAI, מציעה כלים ליצירה ושיתוף של סרטוני וידאו מבוססי AI, וממקמת עצמה בחזית שוק יצירת התוכן הגנרטיבי. חברות נוספות, כולל גוגל עם המודל Veo, וכלים כמו Runway, מתחרות אף הן בשוק הזה, המונע על ידי ביקוש גובר לפתרונות יצירת וידאו מהירים וחסכוניים.
מעניין לציין שנכון לעכשיו שוק ה-AI הגנרטיבי מונהג באופן מובהק על ידי צפון אמריקה, כאשר חברות אמריקאיות מובילות הן בהשקעות והן בפיתוח המודלים הגדולים. חברות ישראליות כדוגמת לייטריקס ו-Hour One פעילות אף הן בשוק זה, דבר המעיד על חשיבות הטכנולוגיה ליצירת תוכן ברמה גלובלית.
דאגות לבטיחות ילדים
הריאליזם הבלתי נתפס של הסרטונים שיוצרת סורה, עליו מדווחים אנשי טכנולוגיה ברחבי העולם, הוא היתרון המרכזי שלה, אך גם מקור הדאגה החמור ביותר. מומחים ובכירים בתחום בטיחות הילדים ברחבי העולם מזהירים כי היכולת ליצור סרטונים "מציאותיים להחריד" בלחיצת כפתור מטשטשת את הגבול בין מציאות לדימיון באופן מסוכן שלא נראה קודם לכן.
ארגון Common Sense Media, העוקב אחר רווחתם הדיגיטלית של ילדים, העניק לסורה דירוג של "סיכון בלתי מתקבל על הדעת" עבור שימוש בקרב ילדים ובני נוער, בציינו את "היעדרם היחסי של מאפייני בטיחות" ואת הפוטנציאל לשימוש לרעה בפלטפורמה.
לדברי מומחים, האפליקציה עלולה לשמש בקלות להפצת מידע כוזב, בריונות ואף ליצירת תוכן פוגעני תוך שימוש בדמויותיהם של קטינים, בין היתר באמצעות תכונת ה"Cameos" המאפשרת להנפיש את פניהם של המשתמשים או חבריהם.
לדברי מומחים, האפליקציה עלולה לשמש בקלות להפצת מידע כוזב, בריונות ואף ליצירת תוכן פוגעני תוך שימוש בדמויותיהם של קטינים
OpenAI טוענת מצידה כי הטמיעה מנגנוני בטיחות מקיפים, כולל חסימת יצירת תוכן בוטה או אלים, דרישת גיל מינימלי (13), ושימוש בסימני מקור גלויים וסמויים (כגון חתימת C2PA דיגיטלית) לזיהוי תוכן שנוצר על ידי AI.
עם זאת, דיווחים ראשוניים על תוכן שהופץ עם הפרת זכויות יוצרים ותכנים בעייתיים שהופיעו כבר בימים הראשונים להשקה מעלים ספקות בנוגע לאכיפת ההגבלות האלו. הבעיה, כפי שמציינים המומחים, היא המהירות - סרטונים שמתפשטים ברשתות החברתיות לפני שהפלטפורמה מספיקה להתמודד איתם.
"לנוע מהר ולשבור דברים"
נכון לעכשיו, אין בארה"ב חוק פדרלי מקיף המסדיר תוכן וידאו שנוצר על ידי AI. זה בתורו מאפשר לחברות הטכנולוגיה לפעול תחת האתוס של "לנוע מהר ולשבור דברים" ולרוץ לשליטה בשוק טרם הטלת מגבלות.
מספר מדינות בארה"ב, כדוגמת קליפורניה, הציעו חוקים המחייבים סימון ברור של סרטוני AI, ואוסרים על יצירת "תמונות אינטימיות ללא הסכמה" (Non-Consensual Intimate Imagery) וניצול לרעה של קטינים. אולם, האכיפה משתנה ממדינה למדינה ולא מספקת מענה כולל.
veo3.mp4
(גוגל)
בנוסף, המודל של סורה אומן על מערכי נתונים עצומים של וידאו ותמונות, וייתכן כי חלק מהם כלל יצירות המוגנות בזכויות יוצרים. כבר בהשקה הראשונית דווח על יצירת דמויות מוגנות בזכויות יוצרים, כאשר רק לאחרונה דיווחנו כי ממשלת יפן שוקלת לפעול נגד OpenAI בגין שימוש לא חוקי ביצירות יפניות לטובת האימון של סורה.
בהתאם, אפשר לומר שהאתגר הגדול ביותר העומד בפני סורה אינו טכנולוגי אלא כלכלי ורגולטורי. מודל ה-AI המרשים חייב למצוא דרך להתמודד עם דרישה ציבורית ורגולטורית גוברת לשקיפות, בטיחות ואחריות, במיוחד בנוגע להגנה על קטינים ועל אמינות המידע.
