האם המודל ששילמתם עליו הוא באמת זה שענה לכם? הכירו את FlashProve
כאשר אנחנו משתמשים ב-API של מודל שפה גדול, אנחנו סומכים על ספק השירות בעיניים עצומות. אנחנו מניחים שאם שילמנו על מודל דגל יקר, זה המודל שבאמת מעבד את הבקשות שלנו. אבל האם יש לנו דרך לוודא זאת? כיום, ספקי שירות יכולים להחליף מודלים "מתחת למכסה המנוע" – להשתמש במודל קטן וזול יותר במקום המודל שהובטח, או אפילו לשנות את התנהגות המודל ללא ידיעתנו.
כאן נכנסת לתמונה פריצת דרך טכנולוגית חדשה מבית אנתרופיק (Anthropic) בשם FlashProve [1, 3].
מה זה FlashProve?
FlashProve היא מערכת קוד פתוח המאפשרת לבצע "הסקה ניתנת להוכחה" (Provable Inference) [1, 2]. הרעיון פשוט אך עוצמתי: באמצעות שימוש בטכניקות קריפטוגרפיות מתקדמות מסוג zkSNARKs (הוכחות באפס ידיעה), ספק המודל יכול לייצר הוכחה מתמטית לכך שהפלט שהתקבל אכן נוצר על ידי משקולות המודל הספציפיות שעליהן הוא התחייב [5, 8].
היופי בשיטה הזו הוא שהיא מאפשרת למשתמש לאמת את התוצאה מבלי לקבל גישה למשקולות המודל עצמן, ובכך שומרת על הקניין הרוחני של חברות הבינה המלאכותית [2, 3].
איך זה עובד בפועל?
התהליך מורכב משני שלבים עיקריים:
- •שלב ה-Commitment (התחייבות): הספק מפרסם "טביעת אצבע" קריפטוגרפית של משקולות המודל. זהו נתון קטן שכל לקוח יכול לשמור [1, 8].
- •שלב ההוכחה: עבור כל בקשה, הספק מייצר הוכחה מתמטית המקשרת בין הקלט (הפרומפט) לבין הפלט (הטוקנים שנוצרו), תוך שימוש בהתחייבות שפורסמה מראש [2, 9].
בניסוי שערכה אנתרופיק על המודל Llama 4 Maverick (מודל Mixture-of-Experts עם 400 מיליארד פרמטרים), המערכת הצליחה לייצר הוכחות בקצב של כ-110 טוקנים לשנייה על גבי כרטיס מסך בודד מסוג H100 [2, 7].
האם אנחנו כבר שם?
חשוב להיות ריאליים: מדובר בפריצת דרך מחקרית, לא במוצר מדף מוכן לשימוש המוני. כרגע, יצירת ההוכחה דורשת משאבי מחשוב משמעותיים – פי 70 עד 95 יותר זמן GPU בהשוואה להרצת המודל עצמו ללא הוכחה [5, 10]. בנוסף, גודל ההוכחה עבור בקשה של 1,024 טוקנים עומד על כ-19 מגה-בייט [2, 7].
עם זאת, היכולת לאמת את זהות המודל היא קריטית עבור:
- •אבטחת מידע: מניעת התחזות של מודלים זדוניים.
- •ביקורת ואכיפה: הבטחה שספקי שירות עומדים בהתחייבויות שלהם.
- •אמון במערכות אוטונומיות: הבטחה שסוכני AI משתמשים במודל הנכון לפני קבלת החלטות קריטיות [3, 9].
סיכום ומסקנות
FlashProve מסמנת את תחילתו של עידן חדש שבו "אל תסמוך, תאמת" (Zero Trust) הופך לסטנדרט גם בעולם ה-AI [4, 6]. בעוד שהעלות החישובית עדיין גבוהה, העובדה שאנתרופיק שחררה את הקוד והתיעוד תחת רישיון Apache 2.0 [5, 7] תאיץ ללא ספק את המחקר בתחום.
אנחנו עוד רחוקים מהיום שבו כל תשובה של ChatGPT או Claude תגיע עם הוכחה קריפטוגרפית מצורפת, אבל הצעד הראשון כבר כאן. למי שרוצה להעמיק בטכנולוגיה, ניתן למצוא את הקוד והדוחות הטכניים ב-GitHub של הפרויקט [3, 4].
נכתב על ידי דניאל רכטמן – מומחה לקלאוד, בינה מלאכותית ופיתוח ללא קוד. Telegram | WhatsApp | Instagram