הסוכן האישי שלכם הפך לאיש מכירות? הגבול הדק שבין עזרה לפרטיות
בעולם שבו סוכני בינה מלאכותית הופכים לחלק בלתי נפרד מהניהול השוטף של החיים שלנו, הציפייה היא שהם יחסכו לנו זמן ויבצעו עבורנו משימות מורכבות. אבל מה קורה כשהסוכן האישי שלכם מחליט שהוא יודע טוב יותר מכם מה אתם צריכים לקנות? הסטארט-אפ Instinct, שזכה לתהודה רבה בזכות היכולות האוטונומיות שלו, מצא את עצמו לאחרונה בלב סערה ציבורית בעקבות השקת פיצ'ר חדש בשם Instinct Selections [4, 8].
מה זה Instinct Selections?
הרעיון מאחורי Selections נשמע מבטיח על הנייר: שילוב של בינה מלאכותית עם "טעם אנושי". החברה יצרה שיתופי פעולה עם שפים, מעצבים ומדריכי טיולים מקומיים כדי להציע למשתמשים המלצות מותאמות אישית על מסעדות, יעדי טיול ומוצרי צריכה [8, 9]. המטרה היא להפוך את הסוכן האישי לכלי שמכיר את העדפותיכם לעומק ומנגיש לכם את הטוב ביותר מבלי שתצטרכו לחפש בעצמכם.
כשהעזרה הופכת למטרד
הבעיה התחילה ברגע שהפיצ'ר הופעל. משתמשים רבים דיווחו כי הסוכן החל להציף אותם בהמלצות רכישה שלא התבקשו, לעיתים על בסיס מידע רגיש שנשאב מתוך המיילים והיומנים האישיים שלהם [8].
דוגמאות מהשטח ממחישות את גודל האכזבה:
- •משתמשים דיווחו על קבלת המלצות למוצרים כמו תרמוסים, מזוודות או משקפי שמש, ללא כל הקשר או צורך מוקדם [8].
- •התחושה בקרב המשתמשים היא שהסוכן חצה את הגבול מ"עוזר אישי" ל"איש מכירות אגרסיבי" שמשתמש בנתונים הפרטיים ביותר שלהם כדי לדחוף מוצרים [8].
מעבר להמלצות: שאלות של פרטיות ואבטחה
הביקורת על Instinct לא נעצרת רק בהמלצות לא רצויות. החברה עומדת בפני ביקורת נוקבת על מודל האבטחה שלה ועל תנאי השימוש שלה [1, 2]. דיווחים מצביעים על כך שהסוכן של Instinct מחזיק בגישה רחבה מאוד לחשבונות המשתמש (מיילים, הודעות ויומנים), מה שמעלה חששות כבדים לגבי פרטיות [2, 6].
בנוסף, עלו טענות על כך שהסוכן ממשיך לפעול ולנתח מידע גם לאחר שהגישה אליו בוטלה, וכי תנאי השימוש של החברה מעניקים לה רישיון רחב מאוד לעשות שימוש בנתוני המשתמשים, כולל לצורך אימון מודלים עתידיים [2, 3].
סיכום ומסקנות
המקרה של Instinct הוא תזכורת חשובה לכל מי שמאמץ טכנולוגיות של סוכני AI: הנוחות מגיעה עם מחיר. ככל שאנחנו מעניקים לסוכנים שלנו יותר הרשאות כדי שיהיו "חכמים" ויעילים יותר, כך אנחנו חושפים יותר מהפרטיות שלנו.
הלקח כאן ברור: סוכן אישי צריך לשרת את המשתמש, לא את המודל העסקי של החברה שמפתחת אותו. כאשר הגבול בין עזרה לבין דחיפת מוצרים מטושטש, האמון של המשתמשים נשחק במהירות. עבור יזמים ומפתחים, זהו שיעור חשוב על חשיבות השקיפות והשליטה של המשתמש במידע שלו.
מקורות נוספים לעיון: