כשבינה מלאכותית חושבת יותר מדי: למה ה-AI שלכם מחליט לחפור ברדיט במקום לענות לשלום?
דמיינו שאתם שואלים חבר "מה נשמע?", ובתגובה הוא שותק למשך שתי דקות, מוציא פנקס, ומתחיל להריץ חיפוש בארכיון העיתונות כדי להבין איך אנשים עונים לשאלה הזו. זה בדיוק מה שקרה למשתמשים רבים ב-ChatGPT בתקופה האחרונה, וזה חושף בעיה עמוקה הרבה יותר מסתם באג טכני.
לאחרונה הצטברו דיווחים על התנהגות מוזרה של מודלי ה-GPT: במקום לענות תשובה מהירה ופשוטה לשאלות יומיומיות, המודל נכנס ללופ של "חשיבה" (Thinking) ומפעיל את כלי החיפוש שלו כדי לסרוק את רדיט (Reddit) ומקורות אחרים. התופעה הזו, שנראית במבט ראשון משעשעת, היא למעשה תקלה בסיסית במנגנון קבלת ההחלטות של הסוכנים התבוניים.
כשהכלי הופך למכשול: כשל בזיהוי כוונה (Intent Recognition)
הבעיה המרכזית כאן היא לא במידע שקיים במודל, אלא בטריגר שמפעיל את הכלים החיצוניים שלו. במערכות AI מודרניות, המודל לא רק מייצר טקסט, הוא גם מחליט מתי להשתמש ב-"Tools" (כמו גלישה באינטרנט או הרצת קוד).
במקרה של התקלה הנוכחית, נראה שקיים כשל ב-"Router" של המודל – אותו רכיב שאמור להחליט האם השאלה דורשת מידע עדכני מהרשת או שמדובר בשיחה כללית. כשאתם שואלים "מה נשמע?" והמודל מחפש תשובות ברדיט, הוא בעצם סובל מ-"Over-optimization" של כלי החיפוש.
זה קורה בין היתר בגלל השותפות האסטרטגית בין OpenAI לרדיט, שהפכה את רדיט למקור מידע מרכזי עבור המודל. המערכת הונחתה לתת עדיפות לתוכן גולשים אותנטי, אבל בדרך היא איבדה את היכולת להבחין מתי בכלל צריך לחפש.
למה זה קורה דווקא עכשיו?
ישנן שלוש סיבות טכניות מרכזיות לתופעה הזו:
- •System Prompt אגרסיבי מדי: OpenAI מעדכנת כל הזמן את הוראות המערכת הסמויות של המודל. ייתכן וניתן דגש חזק מדי על אימות עובדות, מה שגורם למודל "לפחד" לענות מהזיכרון שלו, אפילו על שאלות חולין.
- •בעיות בקידוד כלי החיפוש (Tool Call Overload): לעיתים, ארכיטקטורת המודל מתעדפת שימוש במידע חיצוני כדי להפחית הזיות (Hallucinations). המחיר הוא איטיות וחשיבת יתר.
- •באג במנגנון ה-Stop Sequence: במקרים מסוימים, המודל לא מזהה שסיים את תהליך החשיבה וממשיך להריץ שאילתות חיפוש בלופ אינסופי, מה שגורם למשתמש להמתין דקות ארוכות לתשובה פשוטה.
ההשלכות על עולם ה-AI Agents
התקלה הזו היא שיעור חשוב לכל מי שמפתח סוכני AI ללא קוד או בשימוש ב-APIs. אם אנחנו מסתמכים על מודל שיחליט בעצמו מתי לגשת לדאטה-בייס או לאינטרנט, אנחנו חייבים לוודא שיש לו "מסננת" חכמה.
כשסוכן AI של עסק מחליט לחפש תשובה פשוטה בפורומים במקום לענות ללקוח מהידע המובנה שלו, זה גורם לנזק כפול: חווית משתמש גרועה (Latency גבוה) ובזבוז משאבי מחשוב יקרים (Tokens ועלויות חיפוש).
ניתן לקרוא עוד על האופן שבו OpenAI מתמודדת עם ניהול זיכרון וכלים בבלוג הטכני שלהם על GPT-4o.
שורה תחתונה: הדרך ל-AGI עוד רצופה בבאגים אנושיים מדי
העובדה ש-ChatGPT מנסה להבין איך להגיד לנו "היי" דרך קריאת שרשורים ברדיט מראה שהבינה המלאכותית, עם כל תחכומה, עדיין חסרה את ה-"Common Sense" הבסיסי ביותר. עבורנו המפתחים והמשתמשים, זה תזכורת לכך שתמיד צריך לבצע אופטימיזציה להנחיות המערכת ולנטר את השימוש בכלים חיצוניים.
בפעם הבאה שהצ'אט שלכם "חושב" יותר מדי על שאלה פשוטה, תדעו שהוא לא בהכרח מחפש את התשובה המבריקה ביותר – הוא פשוט הלך לאיבוד בסמטאות של רדיט.