האמת על הבינה המלאכותית: האם אנחנו באמת בשליטה?

המהלך האחרון של Anthropic חושף אמת לא נעימה על "פיקוח אנושי": אנחנו לא באמת רוצים לבדוק את המכונה, אנחנו פשוט רוצים שהיא תעבוד – ואולי שיהיה את מי להאשים כשמשהו ישתבש.

בואו נדבר רגע על כנות. אנחנו אוהבים להשתמש במושג "האדם בלופ" (Human-in-the-loop) כדי להרגיע את עצמנו. אנחנו מבטיחים שהבינה המלאכותית היא רק כלי עזר, ושההחלטה הסופית תמיד תישאר בידיים שלנו. אבל המציאות בשטח, כפי שעולה מהנתונים האחרונים של ענקיות הטכנולוגיה, מספרת סיפור אחר לגמרי: אנחנו לא מחפשים שליטה, אנחנו מחפשים שקט תעשייתי.

הפיצ'ר הסמוי: האפשרות להאציל אשמה

כדי להבין למה אנחנו כל כך ממהרים לשחרר את המושכות, כדאי להכיר את המחקר המרתק Passing the Buck (בתרגום חופשי: "להעביר את האחריות"). החוקרים מצאו נטייה אנושית מובהקת: ככל שהחלטה מסוימת נושאת בחובה סיכון לתוצאה שלילית, כך גדל הסיכוי שננסה להעביר את האחריות עליה למישהו אחר.

זה לא תמיד קורה כי הצד השני חכם יותר או מוסמך יותר. לפעמים זה פשוט מנגנון הגנה פסיכולוגי. אם הדברים ישתבשו, הרבה יותר קל להגיד "הוא החליט" מאשר לקחת אחריות אישית. מתברר שאחד ה"פיצ'רים" הכי מוערכים אצל מנהלים הוא היכולת להשתמש בהם כשכפ"ץ ביום שבו משהו יתקלקל. עכשיו, תכניסו למשוואה הזו את ה-AI – ישות שלא נעלבת, לא מתעייפת, ותמיד מוכנה לקחת על עצמה את ה"אשמה".

המקרה של Anthropic: כשהפיקוח הופך לחותמת גומי

השבוע Anthropic סיפקה הוכחה חותכת למגמה הזו כשהפכה את ה-Auto Mode ב-Claude Code לברירת המחדל עבור משתמשי Pro ו-Team. הסיבה שלהם היא לא רק טכנולוגית, היא בעיקרה פסיכולוגית.

בבדיקות שערכו, הם גילו נתון מדהים: כשמערכת ה-AI עצרה וביקשה אישור מהמשתמש לבצע פעולה, המשתמשים אישרו 97% מהבקשות.

97% זה לא פיקוח אנושי. זו חתימת גומי. זה אומר: "כן, כן, תעשה מה שאתה מבין, אני באמצע משהו". אנחנו לא באמת בודקים את הקוד או את הפעולה, אנחנו פשוט רוצים שהמשימה תסתיים ושהמערכת לא תפריע לנו עם שאלות מיותרות.

הפרדוקס: AI ששומר על האדם ששומר על ה-AI

החלק המעניין באמת מגיע מהניסוי המבוקר שערכה Anthropic עם מעל 1,000 טסטרים. הם שתלו פקודות מסוכנות במערכת ובדקו מי יזהה אותן:

• •בני אדם הצליחו לזהות רק 13.6% מהפקודות המסוכנות שהושתלו.
• •מערכת ה-AI (המסווג האוטומטי) זיהתה 89% מאותן פקודות.

זהו רגע אירוני במיוחד: בנינו AI כדי לעזור לנו, שמנו בן אדם כדי לפקח עליו, ואז גילינו שאנחנו צריכים AI נוסף כדי לפקח על הבן אדם שמפקח על ה-AI. הפיקוח האנושי, במקרים רבים, הוא החוליה החלשה בשרשרת הבטיחות.

לנהל זה עבודה, ולא תמיד בא לנו לעבוד

הסיפור כאן הוא לא רק טכנולוגי, הוא ניהולי. לנהל זה קשה. זה דורש לבדוק פרטים, לקחת החלטות מודעות, להגיד "לא" כשצריך, ולהיות זה שאשם כשמשהו נדפק. הפיתוי הגדול של ה-AI הוא לא רק היעילות שלו, אלא היכולת שלו לשחרר אותנו מהעול הזה.

אם ה-AI החליט וזה הצליח? אנחנו גאונים שהטמענו טכנולוגיה מתקדמת. אם זה נכשל? "האלגוריתם טעה". זה נוח להפליא.

שורה תחתונה: מי פה הבוס?

השאלה היא כבר לא האם ה-AI מסוגל לנהל משימות מורכבות בחיינו. הוא מסוגל, והוא יעשה זאת יותר ויותר. השאלה האמיתית היא כמה מהר אנחנו נוותר על זכות הווטו שלנו רק כדי שלא יציקו לנו עם אישורים ושאילתות.

אנחנו לא רק מחפשים עוזר חכם; אנחנו מחפשים מישהו שייקח מאיתנו גם את העבודה וגם את האחריות. וכשזה קורה, כדאי שנעצור רגע ונשאל את עצמנו: אם המכונה מחליטה, המכונה מבצעת, והמכונה היא גם זו שאחראית על הבטיחות של עצמה – מי פה בעצם המנהל?

רוצים להישאר מעודכנים בכל מה שקורה בעולם ה-AI והקלאוד? הצטרפו לקהילה שלנו בטלגרם | עקבו בוואטסאפ