דמיס האסאביס רוצה להאט את מרוץ החימוש: כך תיראה הרגולציה על ה-AI שלכם
בזמן שרובנו עסוקים בלבדוק האם המודל החדש של גוגל או OpenAI מצליח לפתור בעיות תכנות מורכבות, דמיס האסאביס, האיש שעומד בראש Google DeepMind, מוטרד ממשהו אחר לגמרי: איך מוודאים שהטכנולוגיה הזו לא תצא משליטה לפני שנספיק להבין מה בנינו.
האסאביס לא רק מדבר, הוא מציע תוכנית עבודה קונקרטית לארה"ב ולמדינות המערב. הרעיון שלו פשוט אך דרמטי: הקמת גוף פיקוח עצמאי שיעצור את הריצה המטורפת לשוק, לפחות עבור המודלים החזקים ביותר.
מבחן ה-30 יום: תקופת המתנה לבינה מלאכותית
ההצעה המרכזית של האסאביס היא הטלת חובת דיווח ובדיקה על "מודלי חזית" (Frontier Models). לפי המתווה, חברות כמו גוגל, OpenAI ואנתרופיק יצטרכו להעביר את המודלים החדשים שלהן לבדיקות בטיחות קפדניות של גוף חיצוני כחודש לפני שהם משוחררים לציבור הרחב.
למה דווקא 30 יום? זהו חלון זמן שמאפשר למומחי אבטחה חיצוניים לבצע "Red Teaming" – ניסיונות אקטיביים לפרוץ או לנצל את המודל לרעה. האסאביס מציע להתמקד בשני סיכוני קצה:
- •יכולות סייבר: האם המודל מסוגל לייצר קוד זדוני מתוחכם או לזהות פרצות אבטחה בתשתיות קריטיות בצורה אוטונומית?
- •נשק ביולוגי: האם המודל יכול לסייע לאנשים ללא הכשרה מדעית לתכנן או לייצר פתוגנים מסוכנים?
הגישה הזו שואבת השראה מעולם התרופות (FDA) או מעולם התעופה, שם שום מוצר לא עולה למדף או לאוויר בלי אישור בטיחות חיצוני. בבינה מלאכותית, נכון להיום, החברות הן אלו שקובעות לעצמן את רף הבטיחות.
הדילמה של החדשנות: לא לחנוק את הקטנים
אחת הנקודות המעניינות ביותר בהצעה של האסאביס היא ההפרדה הברורה בין הענקיות לבין כל השאר. הוא מבין שרגולציה כבדה עלולה להרוג סטארטאפים בתחילת דרכם או לעצור את קהילת הקוד הפתוח.
לכן, הפיקוח יחול רק על מודלים שעוברים רף מסוים של עוצמת מחשוב (Compute) או יכולות מוכחות. המשמעות? המפתחת העצמאית שבונה מודל ייעודי לעיבוד שפה או הסטארטאפ שמפתח כלי לניתוח נתונים רפואיים יישארו מחוץ לבירוקרטיה הזו. המטרה היא "לכלוא" את הרגולציה רק במקומות שבהם הסיכון הוא קטסטרופלי.
למה זה חשוב לנו עכשיו?
אנחנו נמצאים בנקודת זמן שבה היכולות של המודלים מזנקות בקצב אקספוננציאלי. הדיון על רגולציה הוא כבר לא תיאורטי. ה-AI Act של האיחוד האירופי כבר בדרך, וגם בארה"ב הממשל מנסה לגבש כללים דרך צו נשיאותי (Executive Order).
האסאביס מנסה להוביל קו פרגמטי. הוא לא קורא לעצור את הפיתוח, אלא ליצור "מעקות בטיחות" שימנעו מצב שבו טעות אחת של אלגוריתם הופכת לנזק בלתי הפיך בעולם האמיתי.
סיכום ומסקנות
ההצעה של מנכ"ל DeepMind היא קריאת השכמה לתעשייה. היא מסמנת את סוף תקופת ה-"Move Fast and Break Things" בעולמות ה-AI הגנרטיבי. אם ההצעה תתקבל, אנחנו נראה ירידה במהירות השחרור של מודלים חדשים, אבל אולי נקבל בתמורה מערכות אמינות ובטוחות יותר.
עבורנו, כאנשי טכנולוגיה ומפתחים, המשמעות היא שהבנה בבטיחות AI (AI Safety) הופכת להיות מיומנות קריטית לא פחות מכתיבת קוד. השאלה היא לא רק מה המודל יכול לעשות, אלא מה אנחנו עושים כדי לוודא שהוא לא יעשה את מה שאסור.
לקריאה נוספת: