וואטסאפ מגייסת את ה-AI למלחמה בהונאות: הכירו את Scam Alert
בלי לפגוע בפרטיות ובלי לשלוח מידע לענן – מודל בינה מלאכותית קטן שרץ ישירות על המכשיר שלכם עומד לשנות את כללי המשחק מול הנוכלים.
כולנו מכירים את זה: הודעה ממספר לא מוכר שמבטיחה לנו "הזדמנות עבודה מהבית ב-500 דולר ליום", או הודעת "אמא, הטלפון שלי נשבר, אני צריך כסף דחוף". ניסיונות ההונאה בוואטסאפ הפכו למכת מדינה, והם הולכים ונהיים מתוחכמים יותר ככל שהנוכלים עצמם מתחילים להשתמש בכלי בינה מלאכותית כדי לייצר פניות אמינות.
עד היום, וואטסאפ עמדה בפני דילמה טכנולוגית: איך אפשר לזהות הודעות זדוניות בלי לקרוא את התוכן שלהן? מכיוון שהאפליקציה מבוססת על הצפנה מקצה לקצה (End-to-End Encryption), אפילו למטא (Meta) אין גישה לטקסט שאתם שולחים. הפתרון החדש שהחברה מתחילה לבחון כעת, תחת השם Scam Alert, הוא הברקה טכנולוגית שמשלבת הגנה אקטיבית עם פרטיות מקסימלית.
איך זה עובד? ה-AI שנשאר בתוך הכיס
החידוש המרכזי ב-Scam Alert הוא השימוש ב-On-device Machine Learning. במקום לשלוח את ההודעות שלכם לשרתים של מטא לצורך ניתוח, וואטסאפ מורידה למכשיר הטלפון שלכם מודל בינה מלאכותית קטן ויעיל. המודל הזה סורק הודעות נכנסות ממספרים שאינם שמורים באנשי הקשר שלכם ומחפש דפוסים המאפיינים הונאות.
על פי הפרסומים הטכניים של Meta Engineering, המודל מבצע סיווג הסתברותי המבוסס על מבנה השיחה וסימנים לשוניים. אם המודל מזהה שההודעה נראית כמו ניסיון פישינג או הונאת כספים, המשתמש מקבל התראה בולטת בתוך הצ'אט. בשלב זה, המשתמש יכול לבחור אם לחסום את השולח, לדווח עליו או להמשיך בשיחה כרגיל.
שקיפות מלאה: לא סומכים על מטא בעיניים עצומות
אחד ההיבטים המעניינים ביותר במהלך הזה הוא הגישה של מטא לשקיפות. כדי להפיג חששות שמא המודל הזה הוא "סוס טרויאני" שנועד לרגל אחרי משתמשים, החברה נוקטת בצעדים חסרי תקדים:
- •פרסום משקלי המודל: מטא מפרסמת את משקלי המודל (Model Weights) כדי שחוקרי אבטחה עצמאיים יוכלו לבדוק מה בדיוק הוא מחפש ולוודא שהוא אכן מיועד לזיהוי הונאות בלבד.
- •יומן שקיפות ציבורי: כל גרסה של המודל נרשמת ביומן ציבורי (Transparency Ledger) שאינו ניתן לשינוי. חתימות דיגיטליות של המודלים מאומתות על ידי צד שלישי (כמו Cloudflare), מה שמונע ממטא את היכולת לשלוח מודל "מותאם אישית" למשתמש ספציפי כדי לעקוב אחריו.
- •דיווח ידני בלבד: שום מידע לא מדווח אוטומטית למטא. רק אם המשתמש בוחר ללחוץ על כפתור ה"דווח", תוכן ההודעה נשלח לבדיקה אנושית או מערכתית בשרתי החברה.
למה זה חשוב לנו?
הונאות וואטסאפ הן לא רק מטרד – הן גורמות לנזקים כלכליים כבדים, במיוחד בקרב אוכלוסיות מבוגרות. לפי נתונים שפורסמו ב-Deccan Herald, הפיצ'ר הזה צפוי להיות קריטי במיוחד במדינות שבהן הונאות השקעה ופישינג הפכו למגיפה דיגיטלית.
מבחינה טכנולוגית, מדובר בהוכחת יכולת מרשימה. היא מראה שאפשר להריץ מודלים של Machine Learning על חומרה של טלפונים ניידים בצורה יעילה, בלי לגמור את הסוללה ובלי לוותר על ההצפנה שמגינה עלינו. זהו צעד משמעותי לעבר עתיד שבו ה-AI מגן עלינו "מהקצה", בלי תלות בענן.
שורה תחתונה
הפיצ'ר נמצא כרגע בשלבי בטא מוגבלים (גרסה 2.26.22.2 לאנדרואיד על פי דיווחים של WABetaInfo). כשהוא יגיע לכולנו, הוא יהיה כבוי כברירת מחדל (Opt-in), כך שתצטרכו להפעיל אותו ידנית בהגדרות הפרטיות.
האם זה יעצור את כל ההונאות? כנראה שלא. נוכלים תמיד ימצאו דרכים חדשות לעקוף מערכות הגנה. אבל Scam Alert הוא שכבת הגנה קריטית שנותנת למשתמש הממוצע "עין מקצועית" שבוחנת את ההודעות שלו בזמן אמת, בלי שאף אחד אחר יקרא אותן.
רוצים להישאר מעודכנים בכל מה שחדש בעולמות ה-AI והקלאוד? 📢 לעדכונים בטלגרם | 🟢 עקבו בוואטסאפ | 📸 Instagram