משבר האמון של ה-AI: למה דאריו אמודיי חושב שהגיע הזמן להפסיק להבטיח ולהתחיל לקיים

מנכ"ל Anthropic טוען שהבעיה של התעשייה היא לא ה"הפחדות" מפני בינה מלאכותית, אלא העובדה שהציבור פשוט הפסיק להאמין לחברות הטכנולוגיה. בואו נדבר על למה זה קורה ואיך בונים אמון מחדש דרך תוצאות, לא מצגות.

בשנה האחרונה נדמה שכל כנס טכנולוגי נפתח באותן הבטחות גרנדיוזיות: הבינה המלאכותית תפתור את משבר האקלים, תמגר את העוני ותהפוך את כולנו למאושרים יותר. אבל בזמן שהמנכ"לים על הבמה מתלהבים, הציבור בבית נשאר חשדן. דאריו אמודיי, מנכ"ל ומייסד שותף של Anthropic (החברה שמאחורי Claude), החליט לשים את הדברים על השולחן: הבעיה של תעשיית ה-AI היא לא בעיית הסברה או שיווק, אלא משבר אמון עמוק ויסודי.

לפי אמודיי, הטעות הכי גדולה של התעשייה היא לחשוב שההתנגדות ל-AI נובעת רק מהפחד מהטכנולוגיה עצמה. בפוסט חריג שפרסם לאחרונה, הוא הסביר שהחשדנות כלפי בינה מלאכותית היא רק הפרק האחרון בסיפור ארוך של שחיקת האמון בתאגידים ובממשלות.

אנשים לא מפחדים רק מ"רובוטים שישתלטו על העולם"; הם מפחדים שחברות הטכנולוגיה מבשלות דרך חדשה לדפוק אותם, בין אם זה דרך פגיעה בפרטיות, החלפת מקומות עבודה או ריכוז כוח מוגזם. כשאנחנו מבטיחים הבטחות ענק על עתיד ורוד, הציבור לא רואה חזון – הוא רואה מניפולציה שיווקית.

אמודיי מפנה ביקורת נוקבת גם כלפי הקולגות שלו (וגם כלפי עצמו). הוא טוען שהביקורת הכי מוצדקת על חברות ה-AI היא שהן פשוט עדיין לא סיפקו את הסחורה.

"לדבר על AI שירפא סרטן זה כבר מזמן קלישאה, זה לא מעורר השראה," הוא אומר. מה שבאמת ישנה את דעת הקהל זה לא עוד נאום ב-TED, אלא התוצאה הממשית: לרפא את הסרטן בפועל. עד שלא נראה תוצאות שאנשים יכולים להרגיש ביומיום שלהם – שיפור אמיתי בבריאות, בפריון העבודה או באיכות החיים – כל ההבטחות יישארו בגדר רעש לבן.

בעוד שחלק ממובילי התעשייה, כמו סם אלטמן מ-OpenAI או מארק צוקרברג מ-Meta, נוטים להדגיש את השפע וההזדמנויות, אמודיי מתעקש שאי אפשר לדלג על שלב הבטיחות והרגולציה.

מבחינתו, הניסיון לצייר תמונה ורודה מדי בלי להתייחס לסיכונים הוא בדיוק מה שגורם לאנשים לאבד אמון. הוא מאמין שדווקא שקיפות לגבי הסיכונים ואימוץ רגולציה חכמה הם הדרכים היחידות לבנות תשתית של אמון שתאפשר לטכנולוגיה הזו לצמוח. מחקרים מהזמן האחרון מחזקים את דבריו: סקר של MITRE מראה שהציבור האמריקאי דורש מהתעשייה לעשות הרבה יותר כדי לטפל בבעיות כמו דיפ-פייק ותקיפות סייבר לפני שהם יאמצו את הכלים האלו באופן מלא.

כאנשי טכנולוגיה, מפתחים או בעלי עסקים שמטמיעים AI, המסר של אמודיי קריטי עבורנו:

1. •פחות הייפ, יותר ערך: אל תבטיחו מהפכות עולם אם אתם לא יכולים להראות חיסכון של שעה ביום עבודה כבר מחר.
2. •שקיפות היא כלי עבודה: אל תסתירו את המגבלות של המודלים. משתמש שנתקל בהזיה (Hallucination) בלי הכנה מראש מאבד אמון בכם ובתחום כולו.
3. •התמקדות בבעיות אמיתיות: האמון ייבנה דרך פתרונות לבעיות קטנות ומציקות, ולא דרך חזונות על בינה מלאכותית כללית (AGI) שתפתור הכל.

הדרך ללב של המשתמשים לא עוברת במחלקת השיווק, אלא בשולחן הפיתוח. ככל שנספק יותר תוצאות מדידות ופחות סיסמאות, כך נוכל לסגור את פער האמון שנוצר ולהפוך את ה-AI לכלי שבאמת סומכים עליו.

📢 רוצים להישאר מעודכנים בכל מה שקורה בעולם ה-AI והקלאוד? הצטרפו לטלגרם שלנו | עקבו בוואטסאפ | Instagram