המלחמה בתוכן פוגעני: האם ה-AI של מטא באמת מצליח לעצור את הטורפים ברשת?
המאבק בניצול מיני של ילדים ברשת הפך לאחד האתגרים המורכבים ביותר עבור ענקיות הטכנולוגיה. מטא (Meta) הודיעה לאחרונה על פריסת כלי בינה מלאכותית חדשים שנועדו לזהות מודעות ממומנות שמובילות לתוכן פוגעני מחוץ לפלטפורמות שלה, כמו אינסטגרם ופייסבוק [4, 5, 9]. מדובר בצעד קריטי, שכן הבעיה המרכזית כיום היא לא רק התוכן שמופיע בתוך האפליקציה, אלא מודעות שנראות תמימות לחלוטין אך משמשות כ"גשר" לפעילות עבריינית מחוץ למערכות הניטור של החברה [7, 10].
למה הכלים החדשים חשובים?
עד היום, מודרטורים ומערכות אוטומטיות התמקדו בעיקר בתוכן גלוי. אולם, עברייני רשת משכללים את הטקטיקות שלהם ללא הרף. הם משתמשים במודעות שנראות לגיטימיות כדי להפנות משתמשים לערוצי טלגרם או לאתרים חיצוניים שבהם מתבצעת הפעילות האסורה [7]. הכלים החדשים של מטא משתמשים במודלי שפה מתקדמים כדי לנתח לא רק את התמונה או הטקסט במודעה, אלא גם את ה"הקשר" והיעד שאליו היא מובילה, ובכך הם מנסים לחסום את הגישה עוד לפני שהמשתמש לחץ על הקישור [9, 10].
האתגרים שמאחורי הקלעים
למרות ההכרזות על טכנולוגיה חדשה, המציאות בשטח מורכבת. נתונים מראים כי במחצית הראשונה של 2026, מטא נקטה פעולה נגד כ-33.2 מיליון פריטי תוכן הקשורים לניצול מיני של ילדים [9]. עם זאת, הביקורת על החברה נותרה חריפה:
- •עומס על רשויות האכיפה: גורמי אכיפת חוק, במיוחד בארה"ב, טוענים כי המערכות האוטומטיות של מטא מציפות אותם במיליוני דיווחים ("Junk tips"), מה שמאט את היכולת שלהם לטפל במקרים דחופים באמת [3].
- •טקטיקות עוקפות: למרות הניטור, מקרים של מודעות פוגעניות עדיין מצליחים לעבור את מערכות הסינון, כפי שדווח במקרים שונים בהודו, שם מודעות הובילו לערוצי טלגרם למרות מדיניות ה"אפס סובלנות" של החברה [1, 7].
- •החלפת אדם במכונה: מומחים מצביעים על כך שהסתמכות יתרה על AI במקום על מודרטורים אנושיים עלולה ליצור פערים בשיקול הדעת, במיוחד כשמדובר בתוכן מורכב או כזה שמשתמש בטכניקות הסוואה מתוחכמות [3].
סיכום ומסקנות
השימוש ב-AI לזיהוי מודעות פוגעניות הוא צעד הכרחי, אך הוא רחוק מלהיות פתרון קסם. בעוד שמטא משקיעה משאבים אדירים בשיפור מערכות האכיפה שלה [6, 8], הדינמיקה מול עברייני הרשת היא "משחק של חתול ועכבר". הטכנולוגיה אמנם משתפרת, אך היא חייבת להיות מלווה בשיתוף פעולה הדוק יותר עם רשויות האכיפה ובשיפור איכות הדיווחים, כדי שלא נגיע למצב שבו הטכנולוגיה יוצרת רעש לבן שמסתיר את הפשעים האמיתיים.
מקורות נוספים לעיון: