עו"ד עמית מלדסי מציע ניסוי מחשבתי: קחו עשרה עורכי דין, הושיבו אותם יומיים ולילה לכתוב את ההנחיות הכי מדויקות שאפשר, ותנו ל-AI את כל הידע המשפטי הקיים. לטענתו, גם אז המערכת תפספס, והוא מסביר בדיוק למה.
מה שעורך דין מביא לשולחן הוא מה שהוא מכנה הזכוכית המגדלת, היכולת לדעת על מה בכלל צריך להסתכל. ה-AI ייתן תשובה מצוינת לכל שאלה שתשאלו אותו, אבל הוא יתקשה לזהות את החורים שאתם עצמכם לא יודעים שקיימים, ולכן גם לא חשבתם לשאול עליהם.
כדי להמחיש כמה זה קריטי, עמית מספר על בילדר ששרף חודשים על פיתוח מוצר בתחום ההשמה, בלי לדעת שהחוק דורש אישור שר העבודה כדי בכלל להשיק אותו. זו בדיוק נקודת העיוורון שאדם מקצועי מזהה מיד, וכלי בינה מלאכותית עלול לפספס לחלוטין.
זה קטע מתוך פרק 5 של מי מפחד מהקוד עם עו"ד עמית מלדסי.