סדק בתיבת הפנדורה: מה אנחנו לומדים מהגישה הלא מורשת למודל ה-Mythos של אנתרופיק?
המודל שנועד להגן על הרשת מצא את עצמו בידיים הלא נכונות. למרות שהנזק הפעם היה מינימלי, האירוע הזה הוא תמרור אזהרה בוהק לכל מי שעוסק באבטחת מודלי בינה מלאכותית.
בשבועות האחרונים עולם ה-AI סוער סביב ההכרזה על Claude Mythos Preview, המודל המתקדם ביותר של חברת אנתרופיק (Anthropic). לא מדובר בעוד צ'אטבוט שיכתוב לכם מיילים שיווקיים; Mythos הוא מודל ייעודי לאבטחת מידע, בעל יכולות "אדומות" (Offensive) יוצאות דופן.
אנתרופיק, מתוך הבנה של הסיכון הגלום במודל כזה, בחרה שלא לשחרר אותו לציבור הרחב. במקום זאת, היא הקימה את Project Glasswing - קואליציה מצומצמת של שותפות אסטרטגיות כמו אפל, אמזון, גוגל ומיקרוסופט, במטרה להשתמש במודל לצרכי הגנה בלבד: איתור פרצות zero-day וחיזוק תשתיות קריטיות.
אלא שביום ההכרזה עצמו, התברר שהחומה לא הייתה גבוהה מספיק. קבוצת משתמשים הצליחה להשיג גישה למודל המסווג, והאירוע הזה מלמד אותנו שיעור חשוב על הפער שבין תיאוריית אבטחה לבין המציאות בשטח.
איך זה קרה? כרוניקה של כשל אבטחתי
בניגוד למה שאולי נדמה, לא היה מדובר כאן בפריצה מורכבת לשרתי החברה בסטייל "משימה בלתי אפשרית". הגישה הושגה בדרכים הרבה יותר פרוזאיות:
- •ניחוש כתובות (URL Guessing): המשתמשים ניצלו את הפורמט הקבוע של כתובות ה-API של אנתרופיק כדי לאתר את סביבת הבדיקה של המודל החדש.
- •כשל בסביבת ספק חיצוני: הגישה העיקרית התאפשרה דרך סביבת עבודה של קבלן חיצוני (Third-party contractor) של אנתרופיק. זהו כשל קלאסי בשרשרת האספקה (Supply Chain), שבו האבטחה של החברה עצמה יכולה להיות מצוינת, אך החוליה החלשה נמצאת אצל אחד השותפים.
לפי דיווחים ב-Bloomberg וב-TNW, קבוצת המשתמשים השתמשה במודל בעיקר כדי לבנות קוד לאתרים פשוטים ולספק הוכחות חיות לגישה שלהם, ולא כדי לבצע תקיפות סייבר. עם זאת, עצם העובדה שמודל המסוגל לאתר אלפי פרצות אבטחה קריטיות במערכות הפעלה ובדפדפנים היה נגיש ללא פיקוח, היא אירוע חמור.
למה Mythos כל כך מסוכן (וחיוני)?
כדי להבין את גודל האירוע, צריך להבין מה Mythos יודע לעשות. בניגוד למודלים קודמים, Mythos מפגין יכולות "סוכניות" (Agentic capabilities) גבוהות במיוחד. במבחנים של מכון אבטחת ה-AI של בריטניה (AISI), המודל הצליח:
- •לאתר פרצות zero-day במערכות לינוקס ו-OpenBSD ששרדו עשרות שנים של סקירות אנושיות.
- •לשרשר (Chain) מספר פרצות יחד כדי לבצע פריצה מלאה למערכת.
- •לכתוב אקספלויטים (Exploits) עובדים בתוך שעות בודדות.
היכולת הזו הופכת אותו לחרב פיפיות: הוא הכלי הטוב ביותר להגנה על הרשת, אך גם הנשק המסוכן ביותר אם הוא דולף לידיים הלא נכונות.
תובנות למנהלי טכנולוגיה וסייבר
האירוע של אנתרופיק מדגיש שלוש נקודות קריטיות שכל ארגון שמתבסס על מודלי שפה גדולים (LLMs) חייב לקחת בחשבון:
- •אבטחת המודל היא לא רק אבטחת הקוד: הגישה למודל היא הנכס היקר ביותר. אם אתם משתמשים במודלים פנימיים או במודלים עם הרשאות גבוהות, בקרת הגישה חייבת להיות מבוססת על Zero Trust, גם בתוך הארגון ובוודאי מול ספקים.
- •סיכוני צד-שלישי הם המציאות החדשה: אנתרופיק גילתה בדרך הקשה שהשותפים שלכם הם חלק בלתי נפרד ממרחב התקיפה שלכם. השקעה בבדיקת נאותות (Due Diligence) אבטחתית לספקים אינה המלצה, אלא הכרח.
- •הפער בין הגנה להתקפה מצטמצם: מודלים כמו Mythos מורידים את רף הכניסה לעולם הסייבר ההתקפי. מה שפעם דרש צוות של האקרים מומחים במשך חודשים, יכול להתבצע היום על ידי מודל בתוך לילה. התשובה לכך חייבת להיות הטמעה של כלי הגנה מבוססי AI במהירות גבוהה יותר.
סיכום
מקרה Mythos הוא קריאת השכמה. הוא מוכיח שגם החברות הממוקדות ביותר בבטיחות (Safety) מתקשות לשלוט בטכנולוגיה כשהיא פוגשת את המורכבות של שרשרת האספקה העולמית. ככל שהמודלים יהפכו לחזקים יותר, האתגר יהיה פחות סביב "מה המודל יכול לעשות" ויותר סביב "מי יכול להפעיל אותו".
בעולם שבו הבינה המלאכותית הופכת למנוע העיקרי של פיתוח קוד, עלינו לאמץ סטנדרטים חדשים של משילות (Governance) ואבטחה, כדי להבטיח שהכלים שאמורים להגן עלינו לא יהיו אלו שיפילו את החומות.
קישורים רלוונטיים: