ועדת המדע והטכנולוגיה של הכנסת, בשיתוף ועדת המשנה לבינה מלאכותית בראשות ח"כ אורית פרקש הכהן, קיימה היום (ד') דיון סוער בנושא "סכנת ההונאות הפיננסיות ברשתות החברתיות באמצעות AI".
הדיון, בו השתתפו בכירי הרגולטורים, המשטרה, הפרקליטות ונציגי ענקיות הטכנולוגיה (מטא, גוגל, טיקטוק), חשף את הפער הרגולטורי העצום שנוצר בעידן הבינה המלאכותית הגנרטיבית, אשר מקלה על גורמים עוינים לבצע הונאות התחזות (כדוגמת דיפ-פייק) והפצתן.
"מגפה של הונאות פיננסיות"
ח"כ פרקש הכהן הגדירה את התופעה כ"מגפה של הונאות פיננסיות ברשתות החברתיות". לדבריה, בעוד שיועץ השקעות פיזי נתון לפיקוח הרשות לניירות ערך (רשות ני"ע), הפלטפורמות הטכנולוגיות הפכו ל"אקס-טריטוריה" ללא פיקוח בישראל.
הנתונים שהוצגו בדיון, ואשר פורסמו לאחרונה על ידי גופי תקשורת ברחבי העולם, מטרידים במיוחד: הונאות פיננסיות ומוצרים אסורים מכניסים למטא, המפעילה את פייסבוק ואינסטגרם, רווח של כ-16 מיליארד דולר בשנת 2024 לבדה כפי שדווח ב-ynet, כ-10% מהכנסותיה השנתיות.
במקביל, מסמכים פנימיים של מטא שנחשפו על ידי סוכנות רויטרס בשבוע שעבר מראים כי החברה מציגה למשתמשיה מידי יום כ-15 מיליארד מודעות שמוגדרות על ידי המערכות שלה כ"בסיכון גבוה" להונאה.
"התחום הזה מכניס רווחי עתק לענקיות הטכנולוגיה", הדגישה פרקש הכהן, וקראה לפיקוח מיידי. הדברים עולים בקנה אחד עם ממצאים גלובליים, בהם דוחות מישראל (דוגמת "העוקץ האלגוריתמי" של איגוד האינטרנט) וממדינות אחרות, המצביעים על זינוק דרמטי בהיקף ההונאות המשתמשות בכלי AI ליצירת תוכן מתוחכם ומשכנע, כולל התחזות לידוענים ומוסדות פיננסיים.
פגיעה רוחבית באמון בשוק ההון
עו"ד ספי זינגר, יו"ר רשות ניירות ערך, הודה כי מדובר ב"תופעה שהולכת וגדלה" המשלבת גורמים שונים, חלק לא קטן מהם קשור ל-AI, ויוצרת פגיעה רוחבית באמון בשוק ההון. "אנחנו עומדים בפני אתגר שלא פתרנו אותו", אמר זינגר, וחשף כי פנייה של הרשות לחברת מטא בנושא לפני חודש וחצי (למעשה לפני כמה שבועות, ר"ק) לא זכתה למענה.
מממצאים גלובליים, בהם דוחות מישראל, מצביעים על זינוק דרמטי בהיקף ההונאות המשתמשות בכלי AI ליצירת תוכן מתוחכם ומשכנע
נציג מטא ישראל, יהודה בן יעקב, טען מנגד כי החברה אינה מעוניינת בקידום מודעות הונאה וכי הסירה למעלה מ-30 מיליון הונאות כאלו ואחרות מאז 2025. עוד אמר כי "לפני כמה שבועות מטא התחילה לעשות טסט אימות למפרסמים בישראל", שמטרתו להביא למוצר גמור במחצית השנייה של השנה הבאה.
דבריו אלו זכו לתגובה ספקנית מצד יו"ר הוועדה ויו"ר רשות ני"ע. "חבל שלא עניתם למכתב של הרשות לניירות ערך", הטיחה ח"כ פרקש הכהן, ואילו זינגר הביע "סימני שאלה" על העיתוי: "שלחנו לכם מכתב, לא קיבלנו שום מענה, והיום אתם באים עם פתרון ביום של הדיון".
הסיכוי להעביר חוק קטן מאוד
פרופ' חן קוגל, ראש המכון לרפואה משפטית, אשר דמותו שימשה להונאה רפואית שגרמה נזק בריאותי ופיננסי למאות אנשים, העיד על הקלות שבה פרסומות הונאה חזרו לפלטפורמה של מטא לאחר שהוסרו, והביע חשש אמיתי ל"סכנה לבריאות".
בסיכום הדיון הכריזה ח"כ פרקש הכהן כי הוועדה תכין הצעת חוק לתיקון חוק הסדרת העיסוק בייעוץ השקעות, בשיווק השקעות ובניהול תיקי השקעות, תשנ"ה-1995. מטרת החוק היא להסמיך את הרשות לניירות ערך לקבוע כללים מול חברות הטכנולוגיה, ובכך "לצמצם את פער הסמכות שנוצר בשל התפתחות כלי ה-AI ולא תהיה תלויה ברצון הטוב של הפלטפורמות". עם זאת יש לציין שבשלב הזה של פעילות הכנסת כאשר הבחירות בפתח, הסיכוי של חוק זה לעבור לא מאוד גבוה.
חשוב לציין שצעד זה משתלב במגמה רחבה יותר בעולם. באיחוד האירופי, חוק ה-AI (AI Act) העתידי נוקט בגישה מקיפה ומבוססת סיכונים לפיקוח על מערכות בינה מלאכותית, כולל ענישה משמעותית.
בארה"ב, הרגולציה עדיין סקטוריאלית יותר, אם כי נבחנות דרכים להגנת זכויות יוצרים וזכויות אישיות (כדוגמת דיפ-פייק). המהלך הישראלי, המכוון ספציפית לפיקוח על פלטפורמות בהקשר של ייעוץ ושיווק השקעות, מבקש לתת מענה ישיר ומהיר לכשל השוק שנוצר.
יש להזכיר שעד היום הממשלה או הכנסת לא טרחו לפעול בגזרת הפעילות הפלילית ברשת ושעד כה אין חוק סייבר רשמי שיסדיר את הנושא. טיוטה של חוק הוגשה כבר מספר פעמים בעשר השנים האחרונות, אך עד כה לא עברה אפילו בקריאה טרומית.
לשאלת ynet, במטא הסבירו שהחברה כן עמדה בקשר עם הרשות בנושאים טכניים ועבדו במשותף. לדברי החברה, בדיון בכנסת היום למשל עלה כל נושא הפתרונות השונים והפתרונות שמבוססי API שהוזכר מצד הרשות אך במטא הסבירו שלרשות אין את ההיערכות הטכנולוגית לכך למרות שהם הופעלו במספר מדינות.
