מנכ"ל אנתרופיק שובר שתיקה: הגיע הזמן שהממשלות ישימו גבול לבינה המלאכותית
כשדריו אמודיי (Dario Amodei), מנכ"ל ומייסד-שותף של ענקית הבינה המלאכותית Anthropic, מפרסם מסמך מדיניות ארוך ומפורט, כדאי שכולנו נעצור רגע ונקשיב. בניגוד לרוח האופטימיות הבלתי מרוסנת של חלק מעמיתיו בעמק הסיליקון, אמודיי פרסם לאחרונה את המאמר "Policy on the AI Exponential", ובו הוא משרטט מציאות שבה המודלים שאנחנו בונים הופכים לחזקים מכדי להישאר ללא פיקוח ממשלתי הדוק.
לא עוד המלצות, אלא רגולציה מחייבת
הטענה המרכזית של אמודיי פשוטה אך מטלטלת: קצב הפיתוח האקספוננציאלי לא הולך לעצור, והמודלים הבאים (כמו Claude 4 או Claude 5 העתידיים) יהיו בעלי עוצמה שדורשת פיקוח דמוי ה-FAA (רשות התעופה הפדרלית) או ה-FDA (מינהל המזון והתרופות).
לפי ההצעה של אנתרופיק, מודלים שחוצים סף מסוים של כוח מחשוב (Compute) חייבים לעבור מבחני בטיחות חיצוניים ועצמאיים. לא מדובר ב"שאלון וולונטרי", אלא בסמכות חוקית למדינות לחסום השקה של מודל אם הוא נכשל במבחנים. אמודיי מגדיר ארבעה קווים אדומים קריטיים שבהם המודלים ייבחנו:
- •סייבר: היכולת של המודל לסייע בהוצאה לפועל של מתקפות סייבר מתקדמות.
- •נשק ביולוגי: סיוע בפיתוח או ייצור של נשק כימי/ביולוגי.
- •אוטונומיה: היכולת של המודל לפעול ללא פיקוח אנושי או "לברוח" משליטה.
- •מחקר ופיתוח אוטונומי: מצב שבו הבינה המלאכותית מאיצה את הפיתוח של עצמה באופן שיוצא משליטה.
שוק התעסוקה: הכתובת על הקיר (ובקוד)
אחד החלקים היותר כנים ומדאיגים במסמך נוגע לכלכלה. אמודיי לא מנסה למכור לנו ש-AI היא רק "כלי עזר שיגביר את היעילות שלנו". הוא מדבר בצורה ישירה על כך שהטכנולוגיה הנוכחית מסוגלת להחליף משרות שלמות באופן קבוע, במיוחד בעבודות צווארון לבן למתחילים.
לדבריו, אנחנו עשויים לראות מציאות של 10% עד 20% אבטלה תוך שנים ספורות, לא בגלל משבר זמני, אלא בגלל שינוי מבני בכלכלה. הפתרון שלו? לא פחות מרדיקלי: הוא קורא לממשלות לבנות רשתות ביטחון כלכליות כבר עכשיו, כולל הצעות כמו מס טוקנים (Token Tax) – שבו חברות AI יפרישו אחוזים מהכנסותיהן לטובת פיצוי עובדים שנפגעו, ואפילו בחינה של הכנסה בסיסית אוניברסלית (UBI).
למה זה חשוב לנו עכשיו?
בישראל, כמו בעולם, אנחנו עדיין עסוקים בשאלה "איך להשתמש ב-AI", אבל אמודיי אומר לנו שהשאלה הגדולה היא "איך נחיה לצד ה-AI". הוא משווה את המצב הנוכחי לזקן-עץ (Treebeard) מ"שר הטבעות" – דמות איטית ושקולה שמתעוררת רק כשאין ברירה. הממשלות הן זקן-העץ, והן צריכות להתעורר עכשיו, לפני שהיער כולו ישתנה ללא היכר.
המסמך של אנתרופיק הוא תזכורת לכך שהרגולציה הנוכחית פשוט לא עומדת בקצב. עבור מפתחים, מנהלים וקובעי מדיניות, אלו לא רק תחזיות לעתיד הרחוק, אלא מפת הדרכים למה שהולך לקרות בשנה-שנתיים הקרובות.
שורה תחתונה
כשמנכ"ל של אחת מחברות ה-AI המובילות בעולם אומר למחוקקים "תעצרו אותנו אם אנחנו לא בטוחים", זה סימן שאנחנו בטריטוריה חדשה לחלוטין. זה הזמן להפסיק לפחד מרגולציה ולהתחיל לעצב אותה כך שתשרת אותנו, ולא רק את המודלים.
לקריאה נוספת: