המפלצת החדשה של מיקרוסופט: הכירו את MAI-Base-2
מיקרוסופט ממשיכה להדק את האחיזה שלה בתחום מודלי השפה הגדולים, והפעם היא עושה זאת עם חשיפה טכנית מרשימה: MAI-Base-2. מדובר במודל בסיס (Foundation Model) עצום בהיקפו, המציב רף חדש של יעילות וביצועים, ומסמן את השאיפה של החברה לעצמאות טכנולוגית גדולה יותר בתחום ה-AI [1].
למה זה משנה?
בעולם שבו מודלים הופכים לכבדים ויקרים יותר להרצה, היכולת לייצר מודל עם 2.8 טריליון פרמטרים ששומר על יעילות תפעולית היא קריטית. MAI-Base-2 אינו רק "עוד מודל"; הוא מייצג את הדור הבא של ארכיטקטורת ה-Mixture-of-Experts (MoE), שמאפשרת למודל להיות חכם מאוד אך ממוקד מאוד בזמן אמת [4, 6].
המספרים מאחורי המפלצת
הנתונים הטכניים שפורסמו על ידי מיקרוסופט מעידים על השקעה אדירה בתשתיות מחשוב [4]:
- •ארכיטקטורה: מודל MoE עם 2.8 טריליון פרמטרים בסך הכל, כאשר בכל רגע נתון (לכל טוקן) פעילים רק 80 מיליארד פרמטרים [4, 7].
- •תהליך האימון: המודל אומן במשך 38 ימים רצופים על גבי 16,000 שבבי Nvidia GB200 [4, 5].
- •איכות הנתונים: במיקרוסופט מדגישים כי האימון בוצע על נתונים אורגניים ללא "זיקוק" (Distillation) ממודלים אחרים, מה שמעיד על איכות גבוהה של סט הנתונים המקורי [4, 6].
- •יעילות: החברה טוענת לשיפור משמעותי ביעילות החישובית, עם טענות לביצועים טובים פי כמה בהשוואה למודלים מובילים אחרים בשוק [6].
מה הלאה?
חשוב להבין: נכון לעכשיו, MAI-Base-2 נמצא בשלב ה-Post-training (אימון המשך). זה אומר שהוא עדיין לא זמין לציבור הרחב או למפתחים דרך ה-API [4]. מיקרוסופט מתמקדת כרגע בכיול המודל לקראת שילובו במוצרי החברה, כגון Copilot וכלים נוספים ב-Azure AI Foundry [3, 4].
המהלך הזה הוא חלק מאסטרטגיה רחבה יותר של מיקרוסופט לבנות משפחת מודלים עצמאית תחת המותג MAI, הכוללת כבר מודלי תמלול, קול ותמונה [1, 2]. בכך, מיקרוסופט מפחיתה את התלות שלה בשותפויות חיצוניות ומחזקת את ה-Stack הטכנולוגי הפנימי שלה [1].
סיכום ומסקנות
החשיפה של MAI-Base-2 היא תזכורת לכך שמירוץ החימוש בבינה מלאכותית רחוק מלהסתיים. השילוב בין חומרה מתקדמת (GB200) לארכיטקטורת MoE חכמה מאפשר למיקרוסופט לדחוף את הגבולות של מה שמודל בסיס יכול לעשות. עבור מפתחים וארגונים, המשמעות היא שבעתיד הקרוב נקבל גישה למודלים חזקים יותר, מהירים יותר וחסכוניים יותר, שיהיו מותאמים אישית לצרכים של סביבות עבודה מורכבות.
נמשיך לעקוב אחרי העדכונים ממעבדות המחקר של מיקרוסופט – כשהמודל הזה יגיע לשלב ה-Foundry, הוא צפוי לשנות את כללי המשחק עבור מפתחי AI.
מקורות נוספים לעיון: