סימני מים בטקסט: הצעד הבא של OpenAI בשקיפות ה-AI
הדיון על שקיפות בבינה מלאכותית עולה מדרגה. בעקבות דרישות ה-EU AI Act, שנכנס לתוקף באוגוסט 2026, ענקיות הטכנולוגיה נדרשות לספק כלים לזיהוי תוכן שנוצר על ידי מכונה. OpenAI, בדומה למתחרותיה כמו Anthropic [1, 9], מתחילה להטמיע סימני מים (Watermarking) בטקסטים המיוצרים על ידי ChatGPT ו-Codex. זהו צעד משמעותי שנועד להבדיל בין יצירה אנושית לבין פלט של מודלי שפה גדולים [3].
איך זה עובד בפועל?
בניגוד לסימני מים ויזואליים בתמונות או אודיו, שבהם ניתן להטמיע מידע בתוך הקובץ, בטקסט מדובר באתגר מורכב הרבה יותר. הטכנולוגיה ש-OpenAI וספקיות AI אחרות מאמצות מתבססת על אות סטטיסטי בבחירת המילים [3, 9].
דמיינו שהמודל צריך לבחור בין שתי מילים נרדפות בעלות משמעות זהה. במקום לבחור באקראי, המודל משתמש ב"מפתח" סודי שקובע את דפוס הבחירה שלו. עבור הקורא האנושי, הטקסט נראה טבעי לחלוטין, אך עבור גוף בעל גישה לכלי האימות המתאים, ניתן לזהות את ה"חתימה" הסטטיסטית הזו ולהעריך בסבירות גבוהה אם הטקסט נוצר על ידי המודל [1, 9].
מגבלות ופרטיות
חשוב להבין מה סימן המים הזה לא עושה:
- •אין זיהוי משתמש: הסימן אינו מקושר לחשבון ספציפי, לאדם או לשיחה מסוימת [1].
- •אין תווים מיוחדים: הטקסט נשאר נקי וקריא, ללא תוספות נראות לעין [3].
- •רגישות לעריכה: זהו עקב האכילס של השיטה. תרגום של הטקסט לשפה אחרת, עריכה משמעותית או אפילו שינויים קלים בניסוח עלולים "לשבור" את האות הסטטיסטי ולהפוך את הזיהוי לבלתי אפשרי [3].
בשל מגבלות אלו, OpenAI מתכננת להנגיש את כלי האימות בשלב הראשון רק לחוקרים ולארגונים מקצועיים, ולא לציבור הרחב. המטרה היא לא ליצור "משטרת AI" אלא לספק כלי שקיפות במקומות שבהם זה קריטי, כמו אקדמיה או גופים רגולטוריים [2, 10].
האם זה באמת יעבוד?
המומחים חלוקים בדעתם. בעוד שהרגולציה האירופית מחייבת סימון תוכן [6], יש הטוענים כי מדובר ב"מירוץ חימוש" טכנולוגי. כלים כמו declaude כבר הוכיחו ששינויים קלים בטקסט יכולים לעקוף מנגנוני זיהוי קיימים [3]. עם זאת, עבור ארגונים, מדובר בנדבך נוסף באסטרטגיית ה-Compliance שלהם, שמשתלב עם תקני C2PA ושיטות אימות נוספות [2, 6].
בשורה התחתונה
הטמעת סימני מים היא הכרח רגולטורי, אך היא לא פתרון קסם. ככל שהטכנולוגיה מתקדמת, עלינו להבין ששקיפות ב-AI היא גישה רב-שכבתית [2]. סימני מים הם רק חלק מהפאזל, והיכולת שלנו להבחין בין אמת לבדיה תמשיך להישען בראש ובראשונה על חשיבה ביקורתית, ולא רק על כלים טכנולוגיים.
מקורות נוספים לעיון: