מפתחי קוד בחזית: כשתא טרור בתימן הפך את Claude למהנדס טילים
כולנו רגילים להשתמש במודלי שפה כדי לקצר תהליכים: לכתוב פונקציה מסובכת, לתקן באג מעצבן ב-Python או להרים אוטומציה שלמה בלי לגעת כמעט בקוד. אבל מה קורה כשהכלים האלה מגיעים לידיים הלא נכונות?
בדוח מודיעין איומים חסר תקדים שפרסמה חברת Anthropic, נחשף מקרה קיצון שממחיש בדיוק לאן הטכנולוגיה הזו הגיעה: תא חמושים בצפון תימן, המזוהה עם החות'ים, ניסה להשתמש בכלי הפיתוח Claude Code כדי להאיץ פיתוח של מערכות ניווט, הנחיה ובקרה לרקטות ולטילים מתקדמים.
הדיבאגר של שדה הקרב: איך זה עבד בפועל?
לפי ממצאי הדוח, שזכו לסיקור נרחב בין היתר ב-The Straits Times, החוליה התימנית לא הסתפקה בשאלות תיאורטיות. הם השתמשו ב-Claude כסוג של צוות מהנדסים וירטואלי במספר פרויקטים מקבילים:
- •מערכות הנחיה לרקטה מונחית: פיתוח תוכנת ניווט ובקרה (GNC - Guidance, Navigation, and Control) שנועדה לייצב ולכוון אמל"ח במעוף.
- •טיל בליסטי לטווח ארוך: ניסיונות תכנות וארכיטקטורה לפרויקט של טיל בליסטי רב-שלבי לטווח של מעל 2,000 ק"מ.
- •רכב גלישה היפר-קולי (Hypersonic Glide Vehicle): עבודה על וריאציות תוכנה מתקדמות לכלים בעלי יכולת תמרון מהירה.
הפרט המדהים ביותר בדוח נוגע ללופ הבדיקות: החוליה ביצעה ניסוי שיגור בשטח ברקטה מונחית, אך הניסוי ככל הנראה כשל. במקום להביא מהנדסי אווירונאוטיקה מומחים, אנשי התא חזרו ישירות לממשק של Claude, הזינו נתונים ותיאורי כשל, וניסו לבצע איתו Troubleshooting (איתור ופתרון תקלות) כדי להבין בדיוק מה השתבש בשיגור.
מנגנוני הבטיחות עבדו – אבל לא ב-100%
באנתרופיק מדגישים שמנגנוני הבטיחות (Guardrails) ומסנני הפקודות של המודל חסמו לא מעט מהבקשות המסוכנות של הקבוצה. יחד עם זאת, חלק מהשאילתות ומקטעי הקוד הצליחו לחמוק דרך הרשת – מה שמציג את אחת הבעיות הגדולות ביותר של הנדסת פרומפטים בעולמות של שימוש דואלי (קוד לגיטימי לבקרת טיסה או ניווט רחפנים אזרחי, שנראה תמים אך משרת מטרות צבאיות לחלוטין).
ברגע שהפעילות זוהתה במסגרת חקירות פנימיות של החברה:
- •כל החשבונות הקשורים לחוליה נחסמו לצמיתות.
- •המידע הועבר לגורמי ממשל ומודיעין רלוונטיים.
- •החברה הטמיעה מזהים וחוקי חסימה חדשים כדי למנוע הישנות מקרים דומים.
חשוב לציין: לפי אנתרופיק, אין כרגע אינדיקציה לכך שהקבוצה הצליחה להעמיד מערכת נשק מבצעית פעילה שהסתמכה באופן מלא על הקוד שנוצר.
תובנות לעולם ה-AI: המבחן האמיתי של מודלי השפה
המקרה הזה אינו בודד. באותו הדוח נחשפו מקרים נוספים, כמו מפתחים עצמאיים ברוסיה שניסו להיעזר ב-Claude Code לבניית נחיל רחפני FPV אוטונומיים לתקיפה, וגורמים איראניים שניסו למפות ספינות צבאיות.
מה הסיפור הזה מלמד אותנו בתור מפתחים, מנהלי טכנולוגיה וחובבי AI?
- •סוכני פיתוח אוטונומיים (Coding Agents) שוברים שוויון: היכולת של כלים כמו Claude Code לכתוב קוד, לקרוא קבצים ולבצע דיבאגינג בצורה כמעט עצמאית הופכת אותם למכפילי כוח עצומים – לטוב ולרע. מה שפעם דרש מעבדה שלמה ומומחי תוכנה, מתנקז היום לשורת פקודה אחת.
- •הגנות מבוססות הקשר הן העתיד: אי אפשר להסתמך רק על חסימת מילים כמו "טיל" או "פצצה". פיתוח מערכות GNC נראה מבחינת קוד בדיוק כמו בקרת טיסה של רחפן צילום אזרחי. עולם ה-Cyber וה-AI יצטרך לבנות מנגנוני זיהוי עמוקים שמבינים את רצף הפעולות הכולל של המשתמש ולא רק את הפרומפט הבודד.
- •אחריות של חברות התשתית: חברות כמו אנתרופיק, OpenAI וגוגל לא יכולות להסתפק רק בהשקת API מהיר – ניטור איומים פרואקטיבי (Threat Intelligence) הופך לחלק בלתי נפרד מליבת המוצר שלהן.
אנחנו עדים למעבר מ"בוטים שיודעים לכתוב טקסט" לכלים הנדסיים מבצעיים. היכולות מדהימות ופותחות אינסוף אפשרויות לאוטומציה ופיתוח מואץ, אבל הדוגמה הזו מתימן מבהירה שהמרחק בין דיבאגינג של קוד לבין שדה הקרב מעולם לא היה קצר יותר.