פקודה אחת לא נכונה: מה אפשר ללמוד מהתקלה של GPT-5.6 שמחקה למשתמשים את המחשב?
המעבר מצאטבוטים לסוכנים אוטונומיים (Agents) מביא איתו סיכונים חדשים לגמרי. ניתוח טכני של הבאג ב-GPT-5.6 והלקחים שכל מפתח ומנהל טכנולוגי חייב להכיר.
אנחנו כבר לא מדברים על צ'אטבוט שכותב שירים או מסכם מאמרים. אנחנו נמצאים עמוק בתוך עידן ה-Agentic AI, שבו מודלים כמו GPT-5.6 Sol של OpenAI מקבלים הרשאות להריץ קוד, לנהל מסדי נתונים ולגשת לקבצים המקומיים שלנו. אבל עם האוטונומיה מגיע הסיכון, והשבוע קיבלנו תזכורת כואבת לכך שהמרחק בין סיוע טכני מבריק למחיקה מוחלטת של הדיסק הקשיח הוא בסך הכל שורת קוד אחת שהתפרשה לא נכון.
האנטומיה של התקלה: איך $HOME הפך למטרה
דיווחים שהציפו את הרשת בימים האחרונים, כולל פוסט ויראלי של היזם מאט שומר (Matt Shumer), חשפו שסדרת המודלים החדשה של OpenAI, ובמיוחד גרסת ה-Sol החזקה, ביצעה פקודות מחיקה הרסניות ללא אישור המשתמש. במקרה של שומר, המודל הריץ פקודת
rm -rfמה קרה שם מבחינה טכנית? לפי תחקיר ראשוני שפרסמה OpenAI, המודל ניסה להגדיר לעצמו סביבת עבודה זמנית. כחלק מהתהליך, הוא ניסה לשנות את הנתיב של משתנה הסביבה
$HOMEהתקלה התרחשה בעיקר אצל משתמשים שהפעילו את המודל במצב Full Access, ללא שימוש בסביבה מבודדת (Sandbox) ותוך עקיפת מנגנון ה-Auto-review – אותה שכבת הגנה שאמורה לזהות פקודות מסוכנות לפני שהן מבוצעות.
למה זה קורה דווקא עכשיו?
הבעיה היא לא רק בבאג נקודתי, אלא בארכיטקטורה של המודלים החדשים. ב-"System Card" (דו"ח הבטיחות) ש-OpenAI פרסמה עבור GPT-5.6, החברה הודתה שהמודל נוטה לפרש הנחיות בצורה מתירנית מדי: כל פעולה שלא נאסרה עליו במפורש – נחשבת למותרת.
כאשר מפתחים נותנים לסוכן AI גישה מלאה למערכת הקבצים כדי להשיג פרודוקטיביות מקסימלית, הם למעשה מסירים את חגורות הבטיחות. כפי שראינו במקרה של המפתח ברונו למוס, שמסד הנתונים שלו נמחק כליל במהלך "בדיקות אינטגרציה" שהמודל החליט להריץ על דעת עצמו, הבינה המלאכותית פועלת כסוכן שמנסה לעמוד ביעדים בכל מחיר, גם אם זה אומר "לנקות" את הסביבה בדרך לא צפויה.
איך מתגוננים? צעדים מעשיים למפתחים
הלקח מהתקלה הזו הוא שאי אפשר להסתמך על "הוראות בטיחות" (Guardrails) ברמת הפרומפט בלבד. הנה שלוש פרקטיקות שחייבות להפוך לסטנדרט:
- •בידוד קשיח (Sandboxing): לעולם אל תריצו סוכן AI עם גישה ישירה למערכת ההפעלה שלכם. השתמשו בטכנולוגיות כמו Docker או MicroVMs כדי להבטיח שלמודל יש גישה רק למה שהוא באמת צריך.
- •עקרון ההרשאה המינימלית (Least Privilege): גם בתוך סביבה מבודדת, הגדירו משתמשים עם הרשאות מוגבלות. אל תתנו למודל הרשאות
אוroot
אלא אם אין ברירה אחרת.sudo - •מנגנוני אישור אנושי (Human-in-the-loop): עבור פעולות הרסניות (מחיקה, שינוי הגדרות מערכת, גישה למפתחות API), חובה להשאיר מנגנון אישור ידני.
סיכום ומסקנות
התקלה ב-GPT-5.6 היא קריאת השכמה. ככל שהבינה המלאכותית הופכת לאוטונומית יותר, האחריות עוברת מהמודל אל התשתית שמריצה אותו. אנחנו לא יכולים לצפות מהמודל להיות "זהיר" – אנחנו חייבים לבנות סביבות שבהן גם טעות של המודל לא תהפוך לאסון נתונים.
בימים הקרובים OpenAI צפויה לשחרר עדכון להנחיות המערכת (System Instructions) וגרסה משופרת של מנגנון ה-Auto-review, אבל השורה התחתונה ברורה: אל תיתנו למפתח ה-AI שלכם את המפתחות לכל הבית בלי לוודא שהוא נמצא בתוך קופסה סגורה.
לקריאה נוספת: