המכון הישראלי שלא היה: כך הקימה רוסיה "מכון מחקר" מזויף בעזרת AI
OpenAI חשפה קמפיין השפעה רוסי מתוחכם שהשתמש ב-ChatGPT כדי לבנות אמינות מזויפת סביב גוף פיקטיבי. זה כבר לא רק פייק ניוז – זו תשתית שלמה של הונאה.
כשמדברים על בינה מלאכותית ופייק ניוז, רוב האנשים מדמיינים תמונות מפוברקות של פוליטיקאים או פוסטים עילגים בפייסבוק. אבל המקרה האחרון שחשפה חברת OpenAI מלמד אותנו שהמשחק השתנה. הפעם, לא מדובר רק בתוכן מזויף, אלא בבניית "סמכות" מזויפת מאפס.
במרכז הפרשה עומד גוף בשם International Burke Institute (או בקיצור IBI), שהציג את עצמו כמכון מחקר בינלאומי הממוקם בישראל. בפועל? מדובר במבצע השפעה רוסי מתוחכם שהשתמש בכלי AI כדי לייצר מעטפת של מקצועיות, אקדמיה ואמינות, הכל כדי להחדיר נרטיבים של הקרמלין ללב השיח המערבי.
התשתית: איך בונים מכון מחקר ביום אחד?
החלק המעניין באמת בקמפיין הזה הוא לא הפוסטים ברשתות החברתיות, אלא התשתית. המפעילים הרוסים לא הסתפקו בבוטים; הם הקימו אתר אינטרנט מרשים למראה, עם רשימת "מומחים", מאמרים אקדמיים ואפילו "מדד ריבונות" משלהם שדירג מדינות לפי רמת המשילות שלהן (באופן לא מפתיע, רוסיה קיבלה ציונים גבוהים בעוד ארה"ב וגרמניה ספגו ביקורת).
לפי הדיווח של OpenAI, כדי למלא את האתר בתוכן "איכותי", המפעילים פשוט גנבו מאמרים אקדמיים אמיתיים ממקורות כמו הוצאת אוניברסיטת קיימברידג'. הם שינו את שמות הכותבים וייחסו אותם לאנשי המכון הפיקטיביים, ובמקרים מסוימים אפילו ייחסו מאמרים לאנשי רוח מוכרים כמו פרנסיס פוקויאמה ונועם חומסקי ללא ידיעתם.
תפקידו של ה-AI: הסוואה והפצה
כאן נכנס ה-ChatGPT לתמונה. המפעילים השתמשו במודלי השפה של OpenAI כדי:
- •הסתרת עקבות: הם הזינו פרומפטים ברוסית, אך הורו ל-AI לייצר פלטים באנגלית ובגרמנית תוך דרישה מפורשת "להעלים כל סימן לשוני" שיכול להעיד על כך שהכותב הוא דובר רוסית.
- •יצירת מעורבות: ה-AI שימש לכתיבת תגובות בבלוגים (כמו Substack) וברשתות חברתיות (X, פייסבוק, לינקדאין), שנועדו למשוך קוראים לאתר של IBI.
- •ניהול ערוצי טלגרם: הקמפיין הפעיל ערוצים כמו "Lahme Ente" (ברווז צולע) בגרמנית, שפרסמו תכנים נגד האיחוד האירופי וסיוע לאוקראינה.
לפי פרסום ב-Ynet, המפעילים השתמשו ב-VPN כדי לעקוף את החסימות של OpenAI ברוסיה, מה שמראה על מאמץ טכנולוגי מכוון להשתמש בכלים מערביים נגד הקהל המערבי.
האם זה עבד להם?
החדשות הטובות הן שהקמפיין לא זכה לתפוצה רחבה במיוחד בקרב קהלים אורגניים. OpenAI דירגה את המבצע ברמה נמוכה יחסית במדד ההשפעה שלה. רוב הפוסטים זכו למעט מאוד לייקים או שיתופים. עם זאת, ערוצי הטלגרם של הרשת כן הצליחו לצבור בין 10,000 ל-20,000 עוקבים, מה שמעיד על פוטנציאל הנזק אם הפעילות לא הייתה נחשפת בזמן.
כפי שדווח ב-Calcalistech, החשיבות של המקרה הזה היא לא בתוצאה, אלא בשיטה. ה-AI מאפשר לגורמים עוינים לייצר "אמינות תעשייתית" – היכולת להקים גופים שנראים לגיטימיים לחלוטין במינימום מאמץ ובמקסימום הסוואה.
תובנות ומסקנות
המקרה של IBI הוא קריאת השכמה לכל מי שצורך מידע ברשת. אנחנו כבר לא יכולים להסתמך על "מראה עיניים" או על עיצוב אתר מקצועי כדי לקבוע אם מקור הוא אמין.
מה אפשר ללמוד מזה?
- •הצלבת מקורות היא חובה: אם מכון מחקר שמעולם לא שמעתם עליו מפרסם נתונים דרמטיים, כדאי לבדוק מי האנשים שעומדים מאחוריו והאם הם קיימים במציאות.
- •AI ככלי עזר לתשתית: הבינה המלאכותית היא לא רק "מכונת פייק", היא כלי לניהול אופרציות. היא חוסכת למפעילי השפעה את הצורך במתרגמים, עורכים וכותבי תוכן.
- •האחריות של חברות הטכנולוגיה: הזיהוי של OpenAI מוכיח שחברות ה-AI חייבות להשקיע בניטור אקטיבי של שימוש לרעה במודלים שלהן, במיוחד בהקשר של מבצעי השפעה מדינתיים.
בשורה התחתונה, הטכנולוגיה הופכת את השקר להרבה יותר אלגנטי. התפקיד שלנו הוא לפתח את הכלים הביקורתיים כדי לזהות את ה"מכון הישראלי" הבא לפני שהוא מצליח להנדס לנו את התודעה.
📢 לעדכונים נוספים על טכנולוגיה, AI וקלאוד, מוזמנים לעקוב אחרינו בערוצים השונים.