הקץ לפייק? OpenAI מחברת כוחות עם גוגל כדי לסמן כל תמונה שנוצרה ב-AI
במקום לסמוך על "תחושת בטן", OpenAI מטמיעה סימני מים בלתי נראים ומשחררת כלי אימות חדש. כך זה עובד ולמה זה קריטי עבורנו.
אחת הבעיות הכי גדולות שאנחנו מתמודדים איתן כיום היא לאו דווקא היכולת של הבינה המלאכותית לייצר תוכן מדהים, אלא היכולת שלנו – בני האדם – להבחין בין מה שאמיתי למה שזויף. ככל שהכלים הופכים לנגישים יותר, כך גובר הצורך ב"תו תקן" דיגיטלי.
חברת OpenAI החליטה להעלות הילוך במלחמה הזו. בצעד משמעותי, היא לא רק מצטרפת לתקנים קיימים, אלא משתפת פעולה עם המתחרה הגדולה גוגל כדי להטמיע טכנולוגיה שתהפוך את הזיהוי לכמעט בלתי ניתן למעקיפה.
השכבה הכפולה: C2PA מול SynthID
עד היום, הדרך העיקרית לזהות תמונת AI הייתה באמצעות Metadata (נתוני מקור). OpenAI כבר אימצה בעבר את תקן ה-C2PA, שהוא מעין "דרכון דיגיטלי" המצורף לקובץ ומפרט מתי הוא נוצר ובאיזה כלי.
אבל יש עם זה בעיה אחת גדולה: הנתונים האלו נמחקים בקלות. ברגע שאתם מעלים תמונה לפייסבוק, לוואטסאפ או פשוט עושים צילום מסך (Screenshot), ה-Metadata נעלם, והתמונה נותרת "יתומה" ממידע על המקור שלה.
כאן נכנסת לתמונה הטכנולוגיה של גוגל DeepMind שנקראת SynthID. במקום להוסיף מידע "ליד" התמונה, SynthID מטמיעה סימן מים דיגיטלי ישירות בתוך הפיקסלים.
למה זה משנה?
- •עמידות: הסימן הזה בלתי נראה לעין אנושית, אבל הוא שורד שינויי גודל, דחיסת קבצים, פילטרים ואפילו צילומי מסך.
- •דיוק: לפי נתוני החברה, רמת הדיוק בזיהוי תמונות DALL-E 3 שעברו מניפולציות עומדת על מעל ל-95%.
- •שיתוף פעולה נדיר: העובדה ש-OpenAI מטמיעה טכנולוגיה של גוגל מראה עד כמה התעשייה מבינה שסטנדרט אחיד הוא הדרך היחידה לבנות אמון.
כלי האימות החדש: הכדור עובר לידיים שלכם
בנוסף להטמעת הטכנולוגיה בתוך הקבצים, OpenAI השיקה כלי אימות ציבורי (Classifier) שזמין לכל אחד. הכלי מאפשר לכם להעלות תמונה ולבדוק בסבירות גבוהה מאוד אם היא נוצרה במוצרים שלהם (כמו ChatGPT או ה-API של DALL-E).
הכלי הזה לא רק מחפש את סימן המים של SynthID, אלא סורק גם שאריות של חתימות C2PA. זהו צעד חשוב עבור עיתונאים, חוקרים וגם בעלי עסקים שרוצים לוודא שהתוכן שהם רואים – או רוכשים – הוא מקורי.
השורה התחתונה
האם זה פתרון קסם שיעצור את כל הפייקים ברשת? כנראה שלא. תמיד יהיו מודלים בקוד פתוח שלא יצייתו לתקנים האלו, ויהיו האקרים שינסו למצוא דרכים לשבש את סימני המים.
עם זאת, המהלך של OpenAI יוצר רף חדש של שקיפות. ככל שיותר ענקיות טכנולוגיה יאמצו את השילוב בין Metadata גלוי לסימני מים סמויים, כך ייווצר לחץ על הפלטפורמות החברתיות להציג את המידע הזה באופן אוטומטי למשתמשים.
מבחינתנו, כמשתמשים וכיוצרים, זו תזכורת חשובה: האמינות של התוכן שלנו הופכת לנכס הכי יקר שלנו. אם אתם משתמשים ב-AI ליצירת תמונות לעסק, דעו שהחתימה שם – והיא כאן כדי להישאר.
רוצים להישאר מעודכנים בכל מה שקורה בעולם ה-AI והקלאוד? הצטרפו לערוץ הטלגרם שלנו | עקבו אחרינו בוואטסאפ | בקרו באתר של דניאל רכטמן