שוברים את ה"קופסה השחורה": אנתרופיק פותחת את נתוני השימוש של Claude למחקר חיצוני

במשך זמן רב, הדרך שבה אנשים משתמשים בבינה מלאכותית ביומיום הייתה מעין "קופסה שחורה". חברות ה-AI הגדולות שומרות את נתוני השימוש קרוב לחזה, מה שמקשה על חוקרים להבין את ההשפעה האמיתית של הטכנולוגיה על שוק העבודה, על קבלת החלטות ועל בטיחות. כעת, חברת Anthropic (אנתרופיק) עושה צעד משמעותי לעבר שקיפות ופותחת את נתוני השימוש האמיתיים של Claude למחקר חיצוני עצמאי.

זהו מהלך קריטי כי הוא מאפשר לנו להפסיק לנחש איך ה-AI משנה את העולם ולהתחיל להסתכל על עובדות. במקום להסתמך על סקרים או תחושות בטן, חוקרים יכולים כעת לנתח דפוסי עבודה אמיתיים בסביבה מבוקרת.

במסגרת פיילוט ראשון מסוגו, אנתרופיק שיתפה פעולה עם חוקרים מאוניברסיטאות סטנפורד, אוקספורד וארגון METR. החוקרים קיבלו גישה לנתונים מאוגדים (Aggregated) מתוך כ-250 אלף שיחות אמיתיות שנערכו עם המודלים Claude ו-Claude Code.

האתגר הגדול בפרויקט כזה הוא כמובן הפרטיות. כדי לפתור זאת, אנתרופיק השתמשה במערכת בשם Clio, המאפשרת להפיק תובנות סטטיסטיות ומגמות מבלי שהחוקרים יחשפו לתוכן השיחות עצמן או לפרטים מזהים של המשתמשים. על פי הדיווח הרשמי של אנתרופיק, המטרה היא להוריד את חסמי הכניסה לחוקרי בטיחות ובינה מלאכותית.

הנתונים הראשונים שעלו מהמחקר מנפצים כמה מיתוסים על השימוש ב-AI:

1. •משימות עם השלכות אמיתיות: ביותר ממחצית מהשיחות שנבדקו, המשתמשים האצילו ל-AI משימות בעלות השפעה ממשית על חייהם או על עבודתם. לא מדובר רק בכתיבת שירים או בדיחות, אלא בשימושים מתקדמים בתחומי המשפט, הכספים והתכנות.
2. •המשתמש נשאר בכיסא הנהג: אחד הנתונים המעודדים ביותר הוא שבכמעט 75% מהמקרים, המשתמשים לא העתיקו את התוצאה כפי שהיא. הם הובילו את התהליך, ערכו את הפלט ושינו את התוצאה הסופית. זה מעיד על מודל של שיתוף פעולה בין אדם למכונה ולא על החלפה מלאה של שיקול הדעת האנושי.
3. •אימוץ במגזר העסקי: המחקר מתכתב עם נתונים המראים כי מעל 50% מהכנסותיה של אנתרופיק מגיעות כיום משימושי Enterprise ו-API, מה שמדגיש את המעבר של Claude מכלי ניסיוני לכלי עבודה מרכזי בארגונים.

כמי שעוסקים בפיתוח, בניהול מוצר או באוטומציה, המהלך הזה מסמן את הכיוון שאליו השוק הולך: אמינות ושקיפות. היכולת של אנתרופיק להוכיח שהמודלים שלה משמשים למשימות מורכבות תוך שמירה על פרטיות (באמצעות טכנולוגיות כמו Constitutional AI) הופכת אותה לשותפה מועדפת עבור ארגונים שחוששים מדליפת דאטה.

בנוסף, העובדה שמשתמשים עורכים ומשפרים את תוצרי ה-AI מדגישה את החשיבות של מיומנויות כמו Prompt Engineering וביקורת תוכן. ה-AI הוא כלי עבודה עוצמתי, אבל הערך האמיתי נוצר בחיבור שבין היכולות הטכנולוגיות לבין הניסיון המקצועי שלכם.

אנתרופיק כבר הודיעה שהיא בוחנת דרכים לפתוח את תוכנית הגישה לחוקרים נוספים בעתיד. המהלך הזה צפוי להוביל לסטנדרטים חדשים בתעשייה, שבהם חברות לא רק מצהירות שהן "בטוחות", אלא מאפשרות לגופים חיצוניים לאמת זאת על בסיס נתונים.

התובנות מהמחקר הזה הן רק קצה הקרחון. ככל שנבין טוב יותר איך אנשים משתמשים ב-AI לפתרון בעיות מורכבות, כך נוכל לבנות כלים טובים יותר, מדויקים יותר ובעיקר כאלו שבאמת משרתים את המטרות העסקיות שלנו.

רוצים להישאר מעודכנים בכל מה שקורה בעולם ה-AI והקלאוד? עקבו אחרינו בוואטסאפ | הצטרפו לטלגרם