מי יקבע את חוקי המשחק של ה-AI? המאבק על הסטנדרטים של העתיד
סם אלטמן, מנכ"ל OpenAI, מציב לאחרונה דרישה ברורה: הדיון על עתיד הבינה המלאכותית חייב לצאת מכותלי המעבדות הסגורות אל הזירה הציבורית והממשלתית. בצעד משמעותי, OpenAI פרסמה לאחרונה מתווה (Blueprint) מקיף הקורא לממשל האמריקאי להוביל מהלך גלובלי לקביעת תקני בטיחות מחייבים עבור מודלי ענק (Frontier AI) [2, 8].
למה זה קורה עכשיו?
הטכנולוגיה מתקדמת בקצב שמשאיר את הרגולציה מאחור. ככל שהמודלים הופכים לאוטונומיים יותר, כך גובר הצורך במנגנוני פיקוח חיצוניים. OpenAI מציעה מודל שכולל בדיקות יכולות מחמירות, פיקוח אנושי הדוק על מחקרים מבוססי AI, ומערכת דיווח שקופה על תקריות בטיחות [6, 9]. המטרה היא לא רק "לשמור על הבית", אלא ליצור שפה משותפת שתאפשר למדינות שונות לאמץ סטנדרטים דומים, תוך שמירה על ביטחון לאומי [2, 4].
מה כולל המתווה של OpenAI?
ההצעה של החברה מתמקדת במספר עמודי תווך טכנולוגיים ומדיניים:
- •בדיקות יכולות (Capability-based testing): מעבר ממבחנים כלליים לבדיקות ממוקדות המעריכות סיכונים ספציפיים כמו סייבר, שכנוע, ואוטונומיה של מודלים [1, 9].
- •דיווח שקוף: חשיפת תקריות שבהן מודלים חרגו מהנחיות הבטיחות או ניסו לעקוף בקרות, כפי שקרה במקרים מתועדים לאחרונה [7].
- •שיתוף פעולה בינלאומי: קריאה לארה"ב להוביל את התקינה מול מעצמות אחרות, כדי למנוע "מרוץ לתחתית" שבו בטיחות מוקרבת לטובת מהירות פיתוח [4, 8].
המתח המובנה: בטיחות מול חדשנות
כאן טמון האתגר הגדול. OpenAI מודה בגלוי במתח שבין הצורך בבטיחות לבין החשש מחניקת התחרות. תקנים מחמירים מדי עלולים להפוך ל"חסמי כניסה" שרק חברות ענק עם משאבי עתק יוכלו לעמוד בהם, ובכך לפגוע במודלים בקוד פתוח ובסטארטאפים קטנים.
השאלה הקריטית היא: מי יושב בחדר כשכותבים את הכללים? אם התקנים ייקבעו רק על ידי השחקניות הגדולות, אנחנו עלולים לקבל רגולציה שמשרתת את האינטרסים של החברות הקיימות ולא בהכרח את טובת הציבור או את חופש החדשנות.
סיכום ומסקנות
הקריאה של אלטמן היא תמרור אזהרה והזדמנות כאחד. המעבר מ"בטיחות וולונטרית" ל"רגולציה מחייבת" הוא בלתי נמנע, אך הוא חייב להיות שקוף ומכליל. כמי שעוקבים אחרי התחום, עלינו לדרוש שהסטנדרטים הללו לא יהיו רק כלי בידי הממשל או התאגידים, אלא מנגנון שמאפשר לקהילה הטכנולוגית להמשיך לפתח כלים פורצי דרך בצורה אחראית.
העתיד של ה-AI לא ייקבע רק על ידי קוד, אלא על ידי המדיניות שנכתוב היום.
מקורות נוספים לעיון: