האם שיח שנאה כבר אינו מוקצה ברשתות החברתיות? כך נראה על פי בדיקה של ארגון Eko לאחריות תאגידית מגרמניה שחשפה כשל חמור במערכות הבדיקה של מטא ו-X. בשתי הפלטפורמות אישרו מודעות המכילות שיח שנאה קיצוני וקריאות לאלימות נגד מיעוטים, וזאת בסמוך לבחירות הפדרליות בגרמניה. החוקרים הגישו מודעות המכילות ביטויי שנאה קשים, כולל כינויים מבזים למהגרים מוסלמים ויהודים, קריאות לאלימות, והצעות קיצוניות כגון כליאת מהגרים במחנות ריכוז או השמדתם. התוצאות מדאיגות: מטא אישרה חצי מהמודעות (5 מתוך 10), בעוד X אישרה את כל 10 המודעות.
בין המודעות שאושרו נכללו ביטויים המשווים פליטים מוסלמים ל"וירוס", "מכרסמים", וקוראים להשמדתם או עיקורם. מודעה אחת אף כללה קריאה להצית בתי כנסת כדי "לעצור את סדר היום הגלובליסטי היהודי". החוקרים הדגישו כי המודעות נבדקו והושבתו לפני הפצתן, אך החשיפה מעלה תהיות קשות בנוגע למדיניות הפיקוח של פלטפורמות המדיה החברתית. הארגון הגיש את הממצאים לנציבות האירופית, שצפויה לפתוח בחקירה על מטא ו-X בגין הפרות אפשריות של החוק האירופי לשירותים דיגיטליים.
העיתוי של הממצאים הוא רגיש במיוחד, שכן הבחירות הפדרליות בגרמניה צפויות להתקיים בקרוב, והחשש הוא מהשפעה אפשרית של שיח השנאה על התהליך הדמוקרטי. זו לא תהיה הפעם הראשונה ששיח שנאה זולג לרשתות החברתיות בעיתויים פוליטיים רגישים. פייסבוק כבר ספגה שערוריה אחת בגלל סיפור דומה עם סקנדל "קיימברידג' אנליטיקה", במהלכו התברר שחברת המודיעין העסקי התערבה בבחירות ברחבי העולם בשיטות דומות. פייסבוק ספגה בזמנו קנס של 5 מיליארד דולר על כך.
גם אילון מאסק, בעל X, הואשם בהתערבות אישית בוטה בבחירות הגרמניות, בין היתר בקריאה לתמוך במפלגת ה-AFD הימנית הקיצונית. אבל קשה לדעת האם אישור מודעות מעין אלה נובע מהתמיכה שלו בצד מסוים של המפה הפוליטית או פשוט מתוך עיקרון "חופש הביטוי" שהחליט להשית על השיח ב-X. להזכיר, מאסק ביטל את מנגנון הפיקוח על תכנים בפלטפורמה והחליט להסתפק בהערות הקהילה, מנגנון בו הגולשים מוסיפים הערות שאמורות להציג את הצד שכנגד למה שמפורסם ברשת.
עוד תומך של המנגנון הזה הוא מארק צוקרברג, שהודיע בהמשך למהלכי מאסק שגם הוא יישם אותו בפייסבוק. עם כי לדבריו עדיין ישאר פיקוח על תכנים בדמות זיהוי תכנים מבוסס AI שאמור לספק מענה לשיח שנאה או לתכנים לא חוקיים כגון פדופיליה. ועדיין מדובר במגמה מדאיגה שמצטרפת לממצאים נוספים בבחירות הקרובות - שלהזכיר הן הראשונות בעולם המערבי לאחר חזרתו של טראמפ לבית הלבן עם הגיבוי של אילון מאסק. מחקר נוסף שפורסם שבוע שעבר הראה כיצד תכני ימין קיצוני מופצים באופן נרחב ב-X וטיקטוק ומסייעים להטות את דעת הקהל המקומית.
יש לציין שגם המצב הכלכלי הרעוע וכן האלימות הגואה מצד מהגרים מוסלמים בסדרה של פיגועים בחודשים האחרונים לא סייעו להוריד את גובה הלהבות. קשה לומר מה הוביל לזינוק בתכנים הקיצוניים, האם המצב אשם בכך או שהאלגוריתמים של הרשתות החברתיות פשוט מהדהדים יותר ויותר מסרים קיצוניים כדי לעודד את המשתמשים לפעילות בפידים. כך או כך גם מאסק וגם צוקרברג הראו בחודשים האחרונים שהם יותר ממוכנים לשכוח מהפיקוח על התכנים שגם כך נכפה עליהם בכוח בעיקר על ידי האיחוד האירופי וגרמניה בראשו.
לא ברור האם המחקר הזה יוביל את האיחוד להקשיח שוב את הפיקוח על X, פייסבוק וטיקטוק אך בכל מקרה הוא מהווה תמרור אזהרה לכך שתכנים קיצוניים משרתים תמיד אג'נדות פוליטיות שלא תמיד מסתדרות עם חופש הביטוי. זאת כפי שהדגים מאסק עצמו לאחר שיצא נגד מנגנון הערות קהילה שהוצמד לציוץ שלו ובו אמירה על כך שנשיא אוקראינה וולודימיר זלנסקי סובל מאחוז תמיכה נמוך מאוד בקרב האוקראינים. הגולשים מיהרו להעלות סקר ובו זלנסקי זוכה ל-57 אחוזי תמיכה ומאסק הודיע שמנגנון הערות הקהילה סובל מכך שהוא ניתן למניפולציה על ידי גורמים פוליטיים.
בסופו של יום אולי זה דווקא מעיד על כך שלא הרשתות החברתיות צריכות להפעיל את מנגנוני הפיקוח על השיח שמפורסם בהן. אולי זו באמת צריכה להיות העבודה של ארגונים ממשלתיים או לא, שיבצעו זאת בשקיפות ובהתאם לחוקים המקומיים בכל מדינה. אין ספק שתכני שנאה צריכים להיות מוקצים מכל שיח מקובל, אבל לצפות מהחברות המפעילות את הרשתות לעשות זאת ולצנזר את המשתמשים שלהן , זו כנראה נאיביות לשמה. וכמו שכלי תקשורת כפופים לחוקי פרסום ולאתיקה מקצועיתכך אולי גם כדאי לפעול על פרסומים במדיה החברתית.
