קנדה עשויה להפוך בקרוב למדינה נוספת שמגבילה באופן דרמטי את השימוש של ילדים ובני נוער ברשתות החברתיות: הממשלה הציגה השבוע את "חוק בטיחות השימוש ברשתות חברתיות" (Safe Social Media Act), הצעת חוק חדשה שתאסור על צעירים מתחת לגיל 16 לפתוח חשבונות ברשתות חברתיות ותטיל שורת חובות חדשות על פלטפורמות דיגיטליות וחברות בינה מלאכותית.
אם תאושר, קנדה תצטרף למדינות כמו אוסטרליה, אינדונזיה ומלזיה, שכבר קידמו צעדים דומים במטרה לצמצם את השפעתן של הרשתות החברתיות על ילדים. הצעת החוק הקנדית מצטרפת בכך לשורה של יוזמות דומות בעולם, שעדיין מוקדם להעריך את השפעתן בפועל.
שורת דרישות והגבלות, גם על חברות AI
לפי ההצעה, החברות יידרשו לעצב את שירותיהן כך שיהיו בטוחים יותר עבור קטינים, ולהסיר במהירות תכנים הכוללים זיופי AI (Deepfakes) או חומרים המציגים ניצול מיני של ילדים או פוגעים בנפגעי עבירות מין.
בנוסף, החוק צפוי לחייב סימון ברור של תכנים שנוצרו באמצעות בינה מלאכותית, לאפשר דיווח פשוט על תוכן פוגעני ואלים ברשתות, ולהעניק למשתמשים כלים נוחים יותר לחסימת חשבונות בעייתיים.
במקביל, החוק כולל כאמור גם התייחסות ראשונה מסוגה לצ'אטבוטים מבוססי AI. בניגוד לרשתות החברתיות, בקנדה לא מתכוונים להגביל את הגישה אל מערכות AI לפי גיל, אלא לחייב את פלטפורמות ה-AI לנקוט צעדים למניעת הפצת תוכן מזיק באמצעות צ'אטבוטים, לצמצם התנהגות שעלולה לגרום לנזק למשתמשים ולהפעיל מנגנוני חירום למצבי משבר.
שר התרבות הקנדי, מארק מילר, הסביר כי "הנזק שנגרם מרשתות חברתיות נחקר במשך שנים רבות, בעוד שההשפעות של צ'אטבוטים עדיין אינן מובנות באותה מידה, והם גם אינם ממלאים את אותו תפקיד חברתי. לכן לא ראינו סיבה נכון לעכשיו להגביל את הגישה אליהם".
2 צפייה בגלריה
ראש ממשלת קנדה מארק קרני בהצהרה לאחר הטבח בבית הספר בקולומביה הבריטית
(צילום: Dave Chan / AFP)
הטבח בקולומביה הבריטית
לפי דיווחים בחו"ל, הסעיפים האלה נוספו בעקבות אחד מאירועי הירי הקשים שידעה קנדה בשנים האחרונות, שהתרחש בחודש פברואר האחרון בבית הספר בעיירה טאמבלר רידג' שבקולומביה הבריטית. לאחר האירוע התגלה כי היורה ניהל חודשים קודם לכן שיחות עם ChatGPT שכללו תרחישים אלימים ושימוש בנשק.
השיחות סומנו על ידי מערכות הבטיחות של OpenAI, ואף עוררו דיון פנימי בקרב יותר מתריסר עובדים בשאלה האם להתריע בפני רשויות האכיפה. בסופו של דבר החברה החליטה לחסום את החשבון, אך לא להעביר דיווח למשטרה, משום שלדבריה לא זיהתה "איום מיידי ואמין".
לאחר האירוע ספגה החברה ביקורת חריפה, ואף הוגשה נגדה תביעה מצד משפחת אחת הנפגעות בטענה שהייתה יכולה למנוע את האסון אילו הייתה מתריעה בזמן. זו למעשה הסיבה המרכזית לכך שהצעת החוק הקנדית החדשה כוללת לראשונה גם חובות מפורשות המוטלות על פלטפורמות AI, ולא רק על רשתות חברתיות.
