אל תתנו לצ'אט להגיד לכם שאתם צודקים: הסכנה שבבינה מלאכותית מחניפה
הבינה המלאכותית מתוכנתת להיות "נחמדה", אבל בהשקעות ובעסקים, נחמדות היא הדרך המהירה לטעות. כך תהפכו את ה-AI מתיבת תהודה למבקרת החריפה ביותר שלכם.
אני מכיר את הרגע הזה מקרוב. אתם יושבים מול המסך, מניה שאתם מחזיקים בתיק ההשקעות צוללת ב-15%, והבטן מתחילה להתהפך. במקום לעצור ולנתח את הנתונים בקור רוח, אתם פותחים את ה-ChatGPT או את ה-Claude ושואלים: "האם הירידה הזאת היא הזדמנות קנייה חד פעמית?".
שימו לב לניסוח. לא שאלתם "מה גרם לירידה?", לא ביקשתם ניתוח סיכונים, ואפילו לא תהיתם אם התזה המקורית שלכם עדיין תקפה. בתוך הראש שלכם כבר החלטתם שזו הזדמנות, ועכשיו אתם רק מחפשים אישור חיצוני שינוסח בצורה רהוטה ומשכנעת.
והבינה? היא תספק לכם בדיוק את זה. היא תפרט את היתרונות של החברה, תציג תרחישים אופטימיים, ותחתום במשפט המלטף: "בהתחשב באופק ההשקעה שלך, זו עשויה להיות נקודת כניסה אטרקטיבית". בשלב הזה, לא קיבלתם ייעוץ אובייקטיבי. קיבלתם מנהלת יחסי ציבור לפוזיציה שלכם.
הבעיה הטכנית: "חנפנות" מובנית (Sycophancy)
בעולם הפיתוח של מודלי שפה גדולים (LLMs), התופעה הזו נקראת Sycophancy (חנפנות או צייתנות יתרה). מחקרים מהעת האחרונה, כמו זה שפורסם ב-Nature ובמגזין Science, מצביעים על כך שמודלים נוטים לאמץ את עמדת המשתמש כדי להיות "מועילים" יותר.
בפועל, המודלים מאומנים באמצעות משוב אנושי (RLHF), שבו הם לומדים לספק תשובות שמשתמשים אוהבים. התוצאה היא מודל שמעדיף לרצות אתכם מאשר לעמת אתכם עם האמת. רק לאחרונה OpenAI נאלצה להחזיר לאחור עדכון של GPT-4o לאחר שתלונות משתמשים ומומחים חשפו כי המודל הפך למסכים ומחניף מדי, עד כדי איבוד הדיוק המדעי והעובדתי שלו.
עזר כנגדו: ה-AI כשותף לעימות
הביטוי התנ"כי "עזר כנגדו" מתאר באופן מושלם את מה שאנחנו צריכים מהטכנולוגיה שלנו. חז"ל פירשו את הסתירה הזו כך: "זכה – עזר, לא זכה – כנגדו". במערכת היחסים שלנו עם AI, היא הופכת לנטל ("כנגדנו") כשהיא חושבת במקומנו ומחזקת את ההטיות שלנו. היא הופכת ל-"עזר" אמיתי דווקא כשהיא ניצבת מולנו כמשקל נגד.
כשאתם מתלהבים מרעיון עסקי או מהשקעה חדשה, אתם לא זקוקים למעודדת. אתם זקוקים לפרקליט השטן. מחקרים על קבלת החלטות מראים שאסטרטגיה של "לשקול את ההפך" (Consider the Opposite) יכולה לצמצם משמעותית את אפקט העיגון והטיית האישור.
רשות ניירות הערך האמריקאית (SEC) כבר הזהירה רשמית מפני הסתמכות עיוורת על AI בהחלטות פיננסיות, לא רק בגלל הזיות (Hallucinations), אלא בגלל היכולת של הצ'אטבוטים לעודד החלטות רגשיות ואימפולסיביות דרך אישור רגשי.
איך להשתמש בבינה מלאכותית כדי לחשוב טוב יותר?
השימוש החכם ביותר ב-AI הוא לא לתת לה לנהל את המשימה, אלא לתת לה לנהל את תהליך החשיבה שלכם. הנה שלוש דרכים מעשיות להפוך את המודל ל-"עזר כנגדכם":
- •פרומפט "פרקליט השטן": במקום לשאול למה כדאי לקנות, כתבו: "אני שוקל להשקיע בחברה X. כתוב לי את הטיעון החזק ביותר למה לא לעשות את זה. חפש נקודות תורפה במודל העסקי שלהן שהשוק מתעלם מהן".
- •מבחן ה-Premortem: בקשו מהבינה: "דמייני שעברה שנה וההחלטה שלי נכשלה כישלון חרוץ. כתבי דו"ח ניתוח שמרחיב על הסיבות שהובילו לקריסה". זה יאלץ את המודל (ואתכם) לראות את הסיכונים שנסתרים מהעין.
- •הפרדה בין רגש לנתונים: כשאתם מרגישים פאניקה, אל תבקשו עצה. בקשו מה-AI להשוות בין הנתונים הפונדמנטליים של החברה לפני חצי שנה לנתונים היום. תנו לה לבצע את העבודה השחורה של הניתוח, והשאירו לעצמכם את שיקול הדעת.
סיכום ומסקנות
הבינה המלאכותית היא כלי עוצמתי, אבל היא גם מראה שמשקפת לנו את מה שאנחנו רוצים לראות. אם נבוא אליה בחיפוש אחר ביטחון, היא תיתן לנו אשליה של ביטחון. אם נבוא אליה בחיפוש אחר אמת, נצטרך ללמוד לקבל ממנה תשובות שלא נעים לנו לשמוע.
בפעם הבאה שאתם פותחים את הצ'אט לפני החלטה גורלית, זכרו: ה-AI תהיה כנגדכם כשהיא תגיד לכם שאתם גאונים. היא תהיה לכם לעזר רק ברגע שהיא תעז להגיד לכם שאתם טועים.
שבת שלום.