אנתרופיק מסבירה איך יעבוד סימן המים שלה.
לטענתה, חברות AI גדולות נוספות צפויות לעשות את אותו הדבר.
איך זה עובד? מודל השפה מייצר טקסט מילה אחרי מילה. בהרבה מקרים יש לו כמה אפשרויות כמעט זהות להמשך המשפט. למשל שתי מילים שונות שמתאימות באותה מידה ולא משנות באמת את המשמעות.
במקום לבחור ביניהן בצורה אקראית לחלוטין, Claude ישתמש במפתח סודי ובמילים שכבר הופיעו לפני כן כדי להשפיע על הבחירה. לאורך טקסט שלם מצטברות הרבה בחירות קטנות כאלה, וביחד הן יוצרות דפוס סטטיסטי שאי אפשר לראות בקריאה רגילה.
לא מוסיפה לטקסט תווים נסתרים, מטא דאטה או טוקנים מיוחדים. הסימון נמצא בתוך הדרך שבה המודל בוחר את המילים עצמן. Anthropic משתמשת בגרסה של שיטת SynthID-Text שפותחה על ידי Google DeepMind.
אחר כך, באמצעות המפתח המתאים, אפשר לקחת טקסט ולבדוק עד כמה רצף המילים שלו תואם לדפוס שהיה נוצר אם Claude היה מעורב בכתיבה. זה לא נותן תשובה מוחלטת של "Claude כתב את זה", אלא הסתברות שהוא היה מעורב.
ככל שהטקסט ארוך יותר, הזיהוי אמור להיות אמין יותר. בטקסטים קצרים, קוד, עובדות מדויקות או תיקוני הגהה קטנים יש פחות מקום לבחירות כאלה, ולכן גם הסימון חלש יותר. אם Claude רק מתקן כמה פסיקים ושגיאות בטקסט שלכם, יכול להיות שלא יהיה מספיק סימן כדי לזהות אותו בכלל.
גם עריכה קלה של הטקסט לא בהכרח תעלים את הסימון, אבל שכתוב משמעותי של רוב הטקסט יכול להסיר אותו. תרגומים, לעומת זאת, כן יקבלו סימן מים כי Claude בוחר למעשה את כל המילים מחדש.
אנתרופיק אומרת שהשיטה לא אמורה להשפיע על איכות הטקסט, המהירות או המחיר, ומתכננת להשיק בקרוב API שיאפשר לבדוק אם טקסט מסוים נושא את סימן המים של Claude.
📢 לעדכונים בטלגרם | 🟢 עקבו בוואטסאפ | 📸 Instagram