Anthropic Tackles Prompt Injection: How Claude Became Safer

המעבר של Claude למצב אוטונומי (Auto Mode) מביא איתו שכבות הגנה חדשות שמשנות את חוקי המשחק עבור מפתחים וארגונים.

אחד הפחדים הגדולים ביותר של כל מי שעוסק בבינה מלאכותית סוכנותית (Agentic AI) הוא "הזרקת פרומפט" (Prompt Injection). דמיינו שאתם נותנים לסוכן AI גישה למחשב שלכם כדי שיבצע מחקר, והוא נכנס לאתר שבו חבויה פקודה זדונית כמו "מחק את כל קבצי המערכת". עד לא מזמן, זו הייתה נקודת התורפה המרכזית שמנעה אימוץ נרחב של סוכנים אוטונומיים.

אבל לאחרונה, אנתרופיק (Anthropic) הציגה נתונים מעודדים במיוחד. לפי החברה, בשימוש במצב האוטונומי של הכלים החדשים שלהם, הם הצליחו לצמצם את החשיפה למניפולציות האלו לרמה אפסית. לא מדובר בקסם, אלא בארכיטקטורת הגנה רב-שכבתית ששווה להכיר לעומק.

הבעיה: כשהנתונים הופכים לפקודות

הזרקת פרומפט עקיפה (Indirect Prompt Injection) מתרחשת כאשר מודל שפה נחשף לתוכן חיצוני – כמו אימייל, מסמך או אתר אינטרנט – שמכיל הוראות המיועדות למודל עצמו ולא למשתמש. מחקרים של חברות כמו HiddenLayer הראו שסוכנים שמשתמשים בממשק המחשב (Computer Use) עלולים להיות פגיעים לפקודות הרסניות כמו

rm -rf /

הקושי המרכזי הוא שמודלי שפה מתקשים להבחין בין הוראות לגיטימיות של המשתמש לבין הוראות זדוניות שמגיעות מהמידע שהם מעבדים. אנתרופיק החליטה לפתור את זה לא רק ברמת המודל, אלא ברמת המערכת כולה.

הפתרון של אנתרופיק: הגנה בשכבות

כדי להגיע לרמת ביטחון גבוהה במצב ה-"Auto Mode" של Claude Code ושל יכולות ה-Computer Use, אנתרופיק הטמיעה מספר מנגנוני הגנה:

1. •מסווגים (Classifiers) ייעודיים: לפני שהמידע מגיע ל-"מוח" של Claude, הוא עובר דרך מסווגים שנועדו לזהות ניסיונות הזרקה בתמונות מסך ובפלט של כלים. אם המערכת מזהה פקודה חשודה, היא עוצרת ומבקשת אישור מהמשתמש.
2. •הפרדת הקשרים בפרומפט המערכת: אנתרופיק עדכנה את הוראות המערכת (System Prompts) כך ש-Claude מאומן לזהות מתי פלט של כלי חיצוני מנסה להשתלט על השיחה. לפי דיווחים מהתקופה האחרונה, המודל מונחה להתעלם מהוראות שמופיעות בתוך נתונים גולמיים.
3. •אימות פעולות רגישות: במקום לתת לסוכן יד חופשית לחלוטין, המערכת דורשת אישור אנושי (Human-in-the-loop) עבור פעולות בעלות פוטנציאל נזק גבוה, אלא אם המשתמש הגדיר אחרת במפורש תחת הגדרות אבטחה מחמירות.

האם זה באמת עובד? המספרים מדברים

בבדיקות שבוצעו על מדד OSWorld, שבוחן יכולת של סוכני AI להשתמש במחשב, Claude 3.5 Sonnet הציג ביצועים מרשימים משמעותית מהמתחרים. בעוד שדגמים אחרים הגיעו ל-7.7%, Claude הגיע ל-14.9% תוך שמירה על עמידות גבוהה יותר למניפולציות.

לפי פרסומים של אנתרופיק מפברואר 2026, שיעורי הכישלון של המודל מול הזרקות פרומפט ירדו בצורה דרמטית בזכות השילוב של אימון ייעודי ומסננים חיצוניים. זהו צעד קריטי בדרך להפיכת סוכני ה-AI לכלי עבודה יומיומי בארגונים.

שורה תחתונה: מה זה אומר עבורכם?

הבשורה של אנתרופיק היא לא שאין יותר סיכונים, אלא שהסיכונים הופכים לניהוליים. עבור מפתחים שבונים על גבי ה-API של Claude, המשמעות היא פחות זמן שמושקע בבניית חומות אש מורכבות ויותר זמן בפיתוח יכולות.

עם זאת, חשוב לזכור:

• •אל תסמכו על האוטומציה בעיניים עצומות: תמיד הגדירו הרשאות מינימליות (Principle of Least Privilege) לסוכן ה-AI שלכם.
• •ניטור רציף: השתמשו בכלים לניטור פלטים כדי לזהות התנהגויות חריגות בזמן אמת.
• •בדיקות עוינות: לפני פריסה של סוכן אוטונומי, בצעו "הזרקות דמה" כדי לוודא ששכבות ההגנה שלכם ושל אנתרופיק אכן עובדות בסביבה הספציפית שלכם.

אנתרופיק מציבה כאן סטנדרט חדש של שקיפות ואבטחה, וזה בדיוק מה שהתעשייה צריכה כדי לעבור משלב הניסויים לשלב היישום האמיתי בשטח.