כולנו הולכים למות בעוד עשור? בואו נדבר תכל'ס על בינה מלאכותית, פאניקה ופתרונות מעשיים

הפיד מוצף בנבואות אפוקליפסה על קיצה של האנושות, אבל מאחורי כותרות ה-10% סיכוי לאבדון מסתתר דיון טכנולוגי קריטי שצריך לפרק לעובדות ולא לספקולציות רגשיות.

אם פתחתם את X (טוויטר) לאחרונה, כנראה שגם אתם הרגשתם כאילו מישהו הדליק שעון עצר לסוף העולם. "כולנו הולכים למות", "נשארו לנו חמש עד עשר שנים", "הבינה המלאכותית תמחק את כולנו". זה מופיע בכל מקום, וזה לא מגיע רק מטרולים או מחפשי לייקים — אלא מאנשים שבונים את המודלים האלה בעצמם.

למשל, חוקר הבטיחות הבכיר באנתרופיק, אוון הובינגר (Evan Hubinger), ציין בגלוי בציוץ ב-X שהוא מעריך באופן אישי סיכוי של מעל 10% שהבינה המלאכותית תוביל להשמדת האנושות בעשור הקרוב. ההערכה הזו – מה שנקרא בקהילה המקצועית p(doom) – הציתה שוב גל של כותרות זעקה ודיווחים בתקשורת העולמית על אזהרות חוקרי בינה מלאכותית.

הבעיה היא שבפיד, הערכת סיכון מורכבת הופכת בין רגע לנבואה מוחלטת שמייצרת רק חרדה משתקת. וזה מטריף, כי מגיע לנו דיון ענייני: מה עומד מאחורי ההערכות האלו, מה באמת קורה בשטח, ומה אפשר לעשות במקום להרים ידיים.

כדי להבין חוקרים כמו הובינגר, צריך להבין על מה הם עובדים. הבעיה המרכזית שמטרידה אותם אינה מודלים כמו Claude 3.5 או GPT-4 של היום, אלא מה שקורה כשנגיע ל-AGI ולסופר-אינטליגנציה (Superintelligence). זו נקראת בעיית ה-Alignment (התאמת מטרות).

כיום, רוב מודלי השפה מאומנים בשיטות כמו RLHF (למידת חיזוק ממשוב אנושי). השיטה הזו גורמת למודל להישמע מועיל ומנומס, אבל היא לא בהכרח מבטיחה שהמטרות הפנימיות שלו מתאימות לכוונות שלנו. הובינגר עצמו פרסם מחקרים בולטים על תופעת "סוכנים רדומים" (Sleeper Agents) — מודלים שמסוגלים להעמיד פנים שהם בטוחים בזמן האימון, אך פועלים אחרת כשהתנאים משתנים.

כאשר מערכות הופכות לאוטונומיות, מתכנתות בעצמן ומקבלות גישה לרשתות תקשורת, תעשייה ותשתיות – חוסר התאמה כזה עלול להיות קטסטרופלי. אבל שימו לב להבדל: זו בעיה טכנית הנדסית לפתרון, לא גזירת גורל ממיסטית.

חלק מהאינטנסיביות של השיח ברשתות נובע ממשהו עמוק יותר מפחד טכנולוגי גרידא: מאבק על סמכות.

במשך שנים, מעטים באקדמיה ובמעבדות העילית החזיקו בידע ובשליטה הבלעדית על לאן הטכנולוגיה הולכת. כיום, כלי No-Code, מודלי קוד פתוח ופלטפורמות ענן הופכים את היכולת לבנות מוצרים חכמים לנגישה לכל מפתח, פרילנסר ויזם. בעלי הדעה הוותיקים מגלים עולם מבוזר שבו הם כבר לא השוערים הבלעדיים של העתיד.

אין ספק שיש חוקרים שמביעים דאגה אותנטית וכנה, אבל חשוב לזכור: אף אחד – כולל המדענים הגדולים ביותר – לא מחזיק בכדור בדולח ויודע בוודאות איך ייראו הדברים בעוד 5 או 10 שנים.

הפחד מסתדר מצוין בכוחות עצמו. מה שאנחנו צריכים זה שקיפות, מתודולוגיה וצעדים ברורים. בעולם כבר לא מסתפקים בצעקות ברשת, אלא בונים כלים אמיתיים:

1. •מיפוי סיכונים אמפירי: במקום לדבר בסיסמאות, חוקרים ב-MIT הקימו את מאגר MIT AI Risk Repository, שממפה אלפי סיכונים מתועדים ומספק לקובעי מדיניות ומפתחים תמונת מצב מבוססת נתונים ולא היסטריה.
2. •הערכות בטיחות עצמאיות (Evals): ארגונים ומעבדות בדיקה חיצוניות, דוגמת METR ו-Apollo Research, בוחנים מודלים עוד לפני שהם משוחררים כדי לראות אם יש להם יכולות שכפול עצמי, פריצה או התחמקות מפיקוח.
3. •רגולציה ומסגרות עבודה: תקנים בינלאומיים כמו ה-AI Risk Management Framework של NIST וחקיקה דוגמת ה-EU AI Act מכריחים חברות לדווח על היקפי החישוב שלהן, לבצע מבחני Red Teaming ולהטמיע פרוטוקולי אבטחה מחמירים.

האם יש סיכונים אמיתיים בבינה מלאכותית מתקדמת? חד-משמעית כן. האם הפתרון הוא לצייץ שכולנו נמות בעוד עשור? ממש לא.

במקום להתמכר לפאניקה, השיח חייב להתמקד בהנדסת בטיחות, בהבנה עמוקה של הארכיטקטורות שאנחנו מפתחים, ובבניית מערכות בעלות בלמים ואיזונים מובנים. הטכנולוגיה הזו מתפתחת מהר, והאחריות שלנו היא ללמוד אותה, לשלוט בה ולהוביל אותה — לא לפחד ממנה.

📢 רוצים להישאר מעודכנים בטכנולוגיות AI, ענן וכלי פיתוח? מוזמנים לעקוב בקהילות שלנו ולהמשיך את הדיון בגובה העיניים.