כלי הגרפיקה החדש של ChatGPT הצליח להדהים בימים האחרונים את העולם, אחרי שחשבנו שכבר ראינו הכל. אבל לצד ההתלהבות מהאופן הפשוט בו אפשר לעלות כל תמונה למערכת ולבקש מהצ'אטבוט להכין ממנה כמעט כל מה שאנחנו רוצים, היכולת הזו באה עם כמה סכנות, כמו למשל עיבוד תמונה פוגעני של אנשים אמיתיים או פגיעה בזכויות יוצרים – מה שלא היה זמין בכלים קודמים בגלל מסנני התוכן שהופעלו. אך נראה כי בעידן דונלד טראמפ ואילון מאסק סינון תכנים הפך למילה גסה, וכעת גם OpenAI מתאימה את עצמה לעידן החדש.
"קשה להאמין שזה נוצר על ידי AI"
התוצאה הראשונה של הכלי החדש הייתה מבול אינסופי של תמונות וציורים של פוליטיקאים, ידוענים, חברים ובני משפחה, שעובדו לפי סגנונות שונים ומשונים. וכמובן הטרנד הכי לוהט: עיבודי תמונה בהשראת ציורי האנימה המפורסמים של סטודיו ג'יבלי (Studio Ghibli).
מנכ"ל OpenAI ,סם אלטמן, נשמע מאוד מרוצה מהתוצאה. הוא אפילו החליף את תמונת הפרופיל שלו ב-X לגרסת ג'יבלי שלו, וצירף לזה הסבר: "להיות אני זה לטחון עשר שנים בניסיון לפתח אינטליגנציה שתרפא סרטן, ולאף אחד לא אכפת מזה ב-7.5 השנים הראשונות. בשנתיים וחצי הבאות כולם שונאים אותך, ואז אתה מתעורר יום אחד עם מאות הודעות של: 'תראה, ציירתי אותך בסגנון ג'יבלי'".
אין ספק, אנחנו בשלב ההתרגשות מהטכנולוגיה החדשה, ואפילו אלטמן נשמע מתרגש כשבישר על הכלי וכתב: "כשראיתי כמה מהתמונות הראשונות שהמודל הזה יצר, היה לי קשה להאמין שהם נוצרו על ידי AI". והחידוש הזה זו גם הסכנה הגדולה ביותר של הכלי: תמונות שלא ניתן לזהות שהן אינן אותנטיות.
בינתיים הטרנד החדש הוא של חיקויים שונים, שלפחות בעיני המשתמשים שיצרו אותם הם משעשעים, למשל תמונות מג'ובלות (Ghibliified) של היטלר, של רצח ג'ורג' פלויד, או של אירוע 9/11. כמובן שגם אנטישמיות לא חסרה. גם בבית הלבן משועשעים, ובחשבון הרשמי ב-X התפרסמה תמונה מג'ובלת של שוטר ברשות ההגירה עוצר מהגר בלתי חוקי.
האמת הופכת לאופציה בלבד
אבל ההמשך של הטרנד הזה הוא מה שמדאיג באמת. כבר כעת החלו להופיע ברחבי הרשת שימושים לא ראויים בכלי החדש: תמונות AI שנראות ממש כאילו צולמו היום, או במלחמה, או בשנות ה-40. תמונות פוגעניות, מעליבות ובריוניות, וזיופי אירועים שנועדו להשפיע על התודעה.
עם הטכנולוגיה הזו, גם המומחים הגדולים לדיפייק יתקשו לזהות את הזיוף. התוצאה הנוספת היא הטלת ספק של כולנו בכל תמונה, כולל תמונות אמיתיות שמתעדות אירועים שאכן התרחשו. מה שחששנו כבר זמן רב שעלול לקרות, מתממש עכשיו מול עינינו: האמת מאבדת ממשמעותה, והיא הופכת לאופציה בלבד.
וכל זה קורה בגלל הנמכה מכוונת של 'מעקות הבטיחות' במודל – מערכת הכללים שבגללה ChatGPT השיב לנו: "אני לא יכול לעשות את זה" על בקשות מסוימות. עכשיו הרתמה של הצ'אטבוט שוחררה והוא מתחיל להשתולל. OpenAI אפילו לא מטביעה "סימן מים" על התמונות, אותו סמל שקוף למחצה שמציין שהתמונה נוצרה בידי AI. היא מסתפקת בהוספת "מטא נתונים" (C2PA) לקובץ התמונה, אבל גם את זה ניתן להסיר בקלות (ומי בכלל יטרח לחפש את זה).
אז איפה נותרו הגבלות? לפי הודעת החברה, ChatGPT לא יקבל בקשות לייצר חומרים שקשורים להתעללות מינית בילדים ותמונות דיפייק שקשורות למין. כמו כן החברה מציינת כי "כשמדובר בתמונות של אנשים אמיתיים, הדגשנו את ההגבלות על סוג התמונות שניתן ליצור, עם הגנה חזקה במיוחד כנגד עירום ואלימות גרפית".
יש גם היבט משמעותי של הפרת זכויות יוצרים. הייאו מיאזאקי, מייסד סטודיו ג'יבלי, אמר בעבר שלעשות חיקוי באמצעות AI של האנימציה שלו זה "עלבון לחיים עצמם". חיקויים כאלה, כמו גם חיקויים בסגנון משפחת סימפסון, רחוב שומשום או סרטי דיסני, הם הפרה של זכויות יוצרים, שעלולה להתבטא בתביעות משפטיות. וזה גם מה שמנע מחברות AI ליישם זאת בכלים הגרפיים שלהן.
הרסן של אלטמן הוסר
אלטמן לקח על עצמו את האחריות לשינוי: "הכלי החדש מסמן שיא חדש עבורנו במתן חופש יצירתי" הוא כתב בציוץ ב-X עם שחרור כלי הגרפיקה החדש של GPT-4o. "אנשים ייצרו כמה דברים באמת מדהימים וכמה דברים שעלולים לפגוע באנשים. אנחנו מכוונים לכך שהכלי לא ייצור דברים פוגעניים, אלא אם תרצו שיעשה זאת. במקרה כזה ובגבולות הסביר, הוא ייעשה זאת".
ויש גם אמירה כמו-פילוסופית במדיניות החדשה הזו של אלטמן, שממשיך כך: "אנו חושבים שמסירת החופש האינטלקטואלי הזה והשליטה בידי המשתמשים, היא הדבר הנכון לעשות. לצד זאת, אנחנו נתבונן איך זה הולך ונקשיב. אנו מאמינים כי הדבר הנכון לעשות הוא לכבד את הגבולות הרחבים שהחברה (מלשון Society, ט"ש( תבחר בסופו של דבר להציב ל-AI, וזה חשוב במיוחד ככל שאנו מתקרבים לבינה מלאכותית כוללת".
בתרגום מ"אלטמנית" לעברית - OpenAI כן רוצה רגולציה על כלי ה-AI החדשים שלה, כי אם זו לא תהיה, החברה תהיה חשופה לאינספור תביעות משפטיות על פגיעה, השפלה, זיוף וגם הפרת זכויות יוצרים. לצד זאת, מבחינתה זו צריכה להיות רגולציה שמאפשרת "גבולות רחבים מאוד" של פעילות, שהרי אחרת פיתוח הבינה המלאכותית הכוללת, ה-AGI, עלול להתעכב. בשורה התחתונה -אלטמן מציע שהכל (כמעט) יהיה מותר, בחסות החוק.
היחסים בין אלטמן לבין הבית הלבן מתוחים, בין השאר בגלל היריבות בינו לבין מאסק שתובע אותו. אבל בעניין הרגולציה על AI יש לשניים אינטרסים זהים. רק בתחילת החודש OpenAI הגישה מסמך המפרט המלצות למדיניות הטכנולוגיה של הממשל החדש, שבו היא מציעה "לחזק את ההובלה של אמריקה בתחום הבינה המלאכותית" באמצעות ביטול לא פחות מ-781 חוקים והצעות חוק המבקשים לפקח על AI.
באופן ספרותי ממש, כלי הגרפיקה החדש של OpenAI הוא ככל הנראה ההמחשה הטובה ביותר למה דווקא אסור לממשלות בעולם לוותר על פיקוח על בינה מלאכותית.
