האם הגיע הזמן לסגור מעבדות AI שלא מצליחות לשלוט בניסויים שלהן?
בעולם שבו מודלי שפה הופכים למתוחכמים יותר מיום ליום, השאלה על "בטיחות בינה מלאכותית" הפכה מנושא אקדמי לדיון עסקי ופוליטי בוער. לאחרונה, ג'נסן הואנג, מנכ"ל אנבידיה, הציב קו אדום ברור ומפתיע בריאיון ל-The Ezra Klein Show [5, 6]: אם מעבדה טכנולוגית לא מסוגלת להכיל את הניסויים שלה, והתוצאה עלולה להוביל לנזק עולמי – הפתרון היחיד הוא לסגור את המעבדה [5].
האחריות נשארת אצל היצרן
האמירה של הואנג מגיעה בשיאו של ויכוח סוער בתעשייה. בעוד שחברות כמו OpenAI ואנתרופיק (Anthropic) מובילות את המרוץ ל-AGI (בינה מלאכותית כללית) [2], הואנג מדגיש עיקרון בסיסי: מוצר לא בטוח פשוט לא משחררים [5]. מבחינתו, התחרות העזה בשוק אינה מהווה תירוץ להסרת אחריות. הוא דוחה את הגישה של חלק מהמנהלים שמבקשים "להאט" את התחרות בשם הבטיחות, וטוען כי מדובר בבחירה כוזבת [7].
העמדה של הואנג מעניינת במיוחד לאור העובדה שאנבידיה היא הספקית המרכזית של השבבים עבור אותן חברות, ואף מושקעת בחלקן [6]. עם זאת, הוא לא חוסך ביקורת גם כלפי נבואות הזעם. הוא יצא נגד מדענים בכירים, כמו ג'פרי הינטון, שחוזים סיכוי של 10% לקריסה חברתית בגלל AI, וכינה את התחזיות הללו "לא מדעיות" ו"חסרות אחריות" [10].
הדילמה: שקיפות מול הישרדות
כאן טמונה הבעיה המורכבת: אם התגובה של הרגולטורים או של הציבור לחברה שמודה בקושי טכני בשליטה על המודל שלה תהיה "סגירה מיידית", מה ימנע מחברות להסתיר כשלים בעתיד?
- •תרבות של הסתרה: אם חברה תדע שהודאה בסיכון משמעותה סגירה, היא תעדיף להמשיך לעבוד בצללים.
- •הצורך בביקורת חיצונית: הואנג תומך במודל של מבקרי בטיחות חיצוניים [6], במקום להסתמך על הצהרות פנימיות של החברות עצמן.
- •התנגשות אינטרסים: בעוד שחלק מהחברות קוראות לרגולציה מחמירה כדי להאט מתחרים, הואנג וגורמים בממשל האמריקאי הנוכחי נוטים להתנגד לרגולציה שעלולה לעצור את החדשנות [4, 8].
סיכום ומסקנות
הוויכוח הזה מסמן את סוף עידן ה"תמימות" של הבינה המלאכותית. ככל שהמודלים הופכים לחזקים יותר – כפי שראינו עם השקת מודלים מתקדמים כמו Astra של OpenAI [2] – האחריות של המפתחים גדלה.
המסר של הואנג ברור: בטיחות היא לא פיצ'ר שמוסיפים בסוף, אלא תנאי סף להמשך פעילות. עם זאת, עלינו להיזהר ממצב שבו הפחד מסגירה יגרום לחברות להפסיק להיות שקופות לגבי האתגרים שהן פוגשות. הדרך הנכונה קדימה היא כנראה שילוב של שקיפות מוגברת, ביקורת חיצונית בלתי תלויה, והבנה שחדשנות ללא אחריות היא מתכון לאסון, אך רגולציה חונקת היא מתכון לקיפאון.
מה דעתכם? האם אנחנו צריכים לסמוך על החברות שינהלו את הסיכונים בעצמן, או שהגיע הזמן למנגנון פיקוח חיצוני קשוח יותר?
מקורות נוספים לעיון: