מה קורה כשעורך דין מגיש לשופט מסמך שה-AI פשוט המציא, עם אסמכתאות ופסקי דין שמעולם לא היו קיימים? השאלה הזאת פותחת דיון עקרוני שעורך הדין עמית מלדסי מעלה בפרק, על מי נופלת האחריות כשמשתמשים בבינה מלאכותית.
התשובה שלו חד משמעית. אי אפשר לתבוע את קלוד ואי אפשר לתבוע את המודל שכתב את הקוד או את המסמך, כי האחריות המשפטית נשארת תמיד על האדם שהשתמש בכלי והגיש את התוצר. הכלי נשאר כלי, וההחלטה מה לעשות עם הפלט שלו היא שלכם בלבד.
המשמעות המעשית לכל מי שבונה מערכות עם AI היא שצריך לבדוק, לאמת ולקחת אחריות על כל פלט לפני שמעבירים אותו הלאה ללקוח או לרשות. ההאשמה לא תעבור לחברת התוכנה, היא תישאר אצל מי שלחץ על הכפתור.
הקטע מתוך פרק 5 של "מי מפחד מהקוד" עם עורך הדין עמית מלדסי, על אחריות משפטית בעידן הבינה המלאכותית.