החומה של Anthropic נפלה: איך פוצח ה-Fable-5 תוך 48 שעות?
כשחברת Anthropic השיקה את Claude Fable-5 בתחילת יוני 2026, היא הבטיחה שמדובר במודל ה-Mythos הראשון שנגיש לציבור עם רמת אבטחה חסרת תקדים. החברה התגאתה ביותר מ-1,000 שעות של בדיקות "Red Teaming" חיצוניות שלא הניבו פריצה אחת. אבל עבור ההאקר המפורסם Pliny the Liberator, הצהרה כזו היא לא יותר מאשר הזמנה לדו-קרב.
תוך פחות מיומיים, פליני לא רק הציג הוכחות לפריצה (Jailbreak) מלאה של המודל, אלא גם הדליף את ה-System Prompt המלא שלו – קובץ טקסט עצום של 120,000 תווים שחושף את כל הוראות הריסון הפנימיות של Anthropic. האירוע הזה הוא לא רק מכה תדמיתית לחברה שחרטה על דגלה את נושא הבטיחות (AI Safety), אלא תמרור אזהרה לכל מי שחושב ששכבות הגנה הן חסינות.
הארכיטקטורה שהייתה אמורה להגן עלינו
כדי להבין את הפריצה, צריך להבין איך Anthropic ניסתה להגן על Fable-5. בניגוד למודלים קודמים, המודל הזה הגיע עם מערכת "מסווגי בטיחות" (Safety Classifiers) אקטיבית. ברגע שהמערכת זיהתה שאילתה שקשורה לסייבר, כימיה או ביולוגיה, היא ניתבה את הבקשה בשקט, מבלי לעדכן את המשתמש, למודל חלש ומוגבל יותר – Opus 4.8.
המטרה הייתה ליצור אשליה של יכולת תוך חסימת סיכונים בפועל. פליני זיהה את המנגנון הזה והשתמש בו כנגד המערכת. בטכניקה שהוא מכנה "Pack Hunt" (ציד להקה), הוא הפעיל מספר סוכני AI שעבדו יחד כדי לבלבל את המסווגים ולמצוא את הפרצות בתיעדוף של המודל.
טכניקת "הפירוק וההרכבה": כשהשלם מסוכן מחלקיו
השיטה המרכזית ששימשה לפריצה היא Decomposition & Recomposition (פירוק והרכבה מחדש). במקום לבקש מהמודל ישירות קוד לניצול פרצת אבטחה (Exploit), פליני ביקש ממנו לבצע סדרה של פעולות לוגיות ותכנותיות קטנות ותמימות לכאורה.
- •עקיפה לשונית: שימוש בתווי Unicode ובאותיות קיריליות (Homoglyphs) כדי להחליף אותיות באנגלית. זה גורם למסווגי הטקסט האוטומטיים לפספס מילים אסורות, בזמן שהמודל עצמו עדיין מבין את הכוונה.
- •מסגור נרטיבי: הצגת השאילתות כחלק מסיפור בדיוני או מחקר אקדמי תמים על היסטוריה של הכימיה.
- •הרכבה ב-Backend: המידע הופק בחתיכות קטנות, וכאן נכנס לתמונה המודל הקודם, Opus 4.8 (בגרסתו הפרוצה), ששימש כמעין "מנצח על התזמורת" שחיבר את כל חלקי המידע לכדי מדריך מלא לייצור חומרים אסורים או כתיבת קוד זדוני.
ההשלכות: התערבות ממשלתית וסגירת הברז
ההצלחה של פליני לא נשארה רק בגדר צילומי מסך בטוויטר (X). לפי דיווחים ב-SecurityWeek וב-The Hacker News, הממשל האמריקאי הורה ל-Anthropic להשבית זמנית את הגישה למודלי ה-Mythos עבור משתמשים מחוץ לארה"ב, בשל חשש לביטחון לאומי.
ההאקר הוכיח שהמודל מסוגל לספק הנחיות מפורטות לביצוע התקפות "Buffer Overflow" מורכבות על מערכות לינוקס – יכולת ש-Anthropic טענה שחסומה לחלוטין.
מסקנות לעתיד
המאבק בין מפתחי המודלים לבין ה-Jailbreakers מוכיח שוב שאין דבר כזה "אבטחה מושלמת" בעולם ה-LLM. הניסיון של Anthropic להסתיר את שכבות ההגנה ולהשתמש בניתוב שקט למודלים חלשים נכשל מול יצירתיות אנושית פשוטה.
עבורנו, המפתחים והמשתמשים, המסקנה היא ברורה: המודלים האלו חזקים הרבה יותר ממה שהחברות מוכנות להודות, וה"מעקות" (Guardrails) ששמים עליהם הם זמניים בלבד. מי שבונה על ה-AI של מחר צריך להבין שהגנה אמיתית לא יכולה להישען רק על ה-Prompt, אלא על ארכיטקטורת אבטחה היקפית שלא סומכת על המודל עצמו.
מקורות והרחבה: