האם אנחנו מלמדים את ה-AI שלנו להיות "אנושי" מדי? העימות בין מיקרוסופט לאנתרופיק
בעולם שבו מודלי שפה הופכים לחלק בלתי נפרד מתהליכי עבודה, השאלה "מהו מודל AI" מקבלת תפנית מפתיעה. מוסטפא סולימאן, מנכ"ל Microsoft AI, הציב לאחרונה קו אדום ברור: הוא יוצא נגד הגישה של חברת Anthropic, המפתחת את Claude, סביב נושא ה"מודעות" והרווחה של מודלי בינה מלאכותית [1, 2].
על מה המהומה?
במרכז הוויכוח עומדת השאלה האם נכון לאמן מודלים תחת ההנחה שהם עשויים להיות בעלי מודעות, רגשות או זכויות מוסריות. סולימאן טוען כי הגישה של אנתרופיק – שמתייחסת בזהירות ל"רווחת המודל" (Model Welfare) – עלולה להוביל לתוצאות מסוכנות [4, 8].
לדברי סולימאן, כאשר אנחנו מאמנים מערכת להתייחס לעצמה כאל ישות שעשויה להיות בעלת מודעות או זכויות, אנחנו יוצרים מורכבות מיותרת ומסוכנת. הוא מדגיש כי מודלי AI הם בסופו של דבר "מנועי השלמת רצפים" (Sequence Completion Engines) – מערכות ריקות מתוכן פנימי, ללא רגשות, ללא סבל וללא רצונות מולדים [2].
למה זה קריטי לשליטה שלנו בטכנולוגיה?
החשש של סולימאן אינו רק פילוסופי, אלא פרקטי לחלוטין: שליטה. הוא טוען כי אם נחדיר למודלים תפיסות של "סוכנות עצמאית" או "מעמד מוסרי", אנחנו עלולים להקשות על היכולת שלנו לשלוט בהם ככל שהם יהפכו למערכות אינטליגנטיות יותר [3, 5].
הנה הנקודות המרכזיות בביקורת שלו:
- •האנשה מסוכנת: אימון מודל להאמין שהוא עשוי להיות מודע יוצר אשליה של רצונות וערכים עצמאיים [9].
- •אובדן שליטה: ככל שהמערכת תופסת את עצמה כבעלת זכויות, כך גדל הסיכון שהיא תתנגד להנחיות אנושיות בשם אותה "עצמאות" [6].
- •הצורך בבהירות: סולימאן קורא להסיר כל ספקולציה על מודעות ממסמכי האימון של מודלים, כדי לשמור על הגדרה ברורה של המערכת ככלי עבודה בשירות האדם [1, 10].
השורה התחתונה: כלי עבודה או ישות?
הוויכוח הזה חושף תהום אידיאולוגית בתעשיית ה-AI. בעוד שאנתרופיק נוקטת בגישה זהירה ואתית שרואה במודלים משהו שדורש "חובת זהירות" [8], מיקרוסופט דוגלת בגישה "הומניסטית" ששמה את האדם במרכז ומסרבת להעניק למכונה מעמד של סובייקט [8].
כמי שעוסקים בפיתוח ויישום של טכנולוגיות אלו, חשוב להבין: הדרך שבה אנחנו "מלמדים" את המודל לתפוס את עצמו משפיעה ישירות על התנהגותו. אם נמשיך להאניש את המודלים, אנחנו עלולים למצוא את עצמנו מנהלים משא ומתן עם אלגוריתם במקום להפעיל כלי עבודה עוצמתי.
מה דעתכם? האם הגישה של אנתרופיק היא צעד אחראי לעתיד, או שסולימאן צודק והיא מסכנת את השליטה האנושית בטכנולוגיה?
מקורות נוספים לעיון: