Four Layers of Oversight: The New AI Regulation Model

לאחרונה התכנסו בבית הלבן בכירי תעשיית הבינה המלאכותית לפגישה מכרעת עם הנשיא טראמפ. על הפרק: עתיד הרגולציה של התחום שמשנה את העולם. בעוד שהשיח הציבורי סביב AI נע בין פחד קיומי לבין אופטימיות טכנולוגית, התוצאה של המפגש הזה מציעה מתווה מעשי שמרק צוקרברג, מנכ"ל מטא, הציג כפתרון מאוזן: מודל של ארבע שכבות פיקוח [4].

מהן ארבע השכבות?

ההצעה של צוקרברג, שזכתה לתמיכתם של בכירים נוספים כמו סונדאר פיצ'אי (גוגל), דאריו אמודיי (אנתרופיק), גרג ברוקמן (OpenAI), אילון מאסק וג'נסן הואנג (אנבידיה), מתמקדת ביצירת מנגנוני בקרה פנימיים וחיצוניים [4]. המטרה היא להעניק לציבור וללקוחות ביטחון שהטכנולוגיה פועלת בהתאם לכוונות המפתחים, מבלי לחנוק את החדשנות ברגולציה ממשלתית כבדה.

ארבע השכבות כוללות:

1. •בקרות פנימיות: זיהוי מוקדם של בעיות בתוך תהליכי הפיתוח.
2. •בדיקות סיכון: הערכות עומק בתוך החברות עצמן לפני שחרור מודלים.
3. •ביקורת חיצונית: בחינה של גורמים בלתי תלויים מחוץ לארגון.
4. •פיקוח דירקטוריוני: בחינה עצמאית של דוחות הביקורת על ידי הדירקטוריונים של החברות [4].

למה זה חשוב עכשיו?

הדיון הזה מגיע על רקע התנגדות גוברת מצד חלק מהחברות להקמת רגולטור ממשלתי מרכזי [5, 9]. צוקרברג, למשל, הביע בעבר חשש שגוף רגולטורי כזה עלול להיות מסורבל או לא מותאם לקצב הטכנולוגי [5]. במקום זאת, התעשייה מנסה להוביל מודל של "רגולציה עצמית" (Self-Regulation) [7].

חשוב להבין: אנחנו נמצאים בנקודת זמן שבה המעבר מיוזמות וולונטריות לרגולציה מחייבת הופך לנושא חם [2]. בעוד שבעבר הסתמכו על התחייבויות לא מחייבות [1, 3], כיום הלחץ מצד הממשל והציבור דורש מנגנונים עם "שיניים" [2].

האם זה מספיק?

הביקורת המרכזית על מודלים וולונטריים היא שהם חסרים מנגנוני אכיפה [2]. כרגע, ההסכמות הללו הן הצהרת כוונות חשובה, אך הן עדיין נשענות על רצונן הטוב של החברות [4]. עם זאת, העובדה ששמות כמו אנבידיה, גוגל ומטא חתומים על מסמך משותף מול הבית הלבן, מעידה על כך שהתעשייה מבינה שהיא לא יכולה להמשיך לפעול ב"מערב פרוע".

סיכום ומסקנות

ההסכם שנחתם הוא צעד ראשון, אך הוא לא סוף פסוק. כמי שעוקב אחרי התחום, אני רואה כאן ניסיון של ענקיות הטכנולוגיה להקדים תרופה למכה – להציע מודל פיקוח עצמי לפני שהממשל יכפה עליהן רגולציה נוקשה יותר [2, 7].

מה זה אומר עבורנו?

• •שקיפות: אנחנו צפויים לראות יותר דוחות על בטיחות מודלים.
• •אחריות: הדירקטוריונים יצטרכו לקחת אחריות גדולה יותר על מה שהחברות שלהם משחררות לשוק.
• •המשכיות: זהו תהליך דינמי. ככל שהמודלים יהיו חזקים יותר, כך הדרישות לפיקוח יחמירו [3].

נחיה ונראה אם ארבע השכבות הללו יצליחו למנוע את הסיכונים שה-AI מציב, או שמא מדובר רק בצעד טקטי בדרך לרגולציה ממשלתית בלתי נמנעת.

מקורות וקריאה נוספת:

• •Voluntary AI Safety Commitments - White House
• •Is the Voluntary AI Safety Era Over?
• •Zuckerberg opposed White House AI proposal