לא רק תוכנה: OpenAI נכנסת למגרש של החומרה עם שבב ה-Jalapeño
במשך שנים, OpenAI הייתה תלויה כמעט לחלוטין בענקיות כמו NVIDIA כדי להריץ את המודלים השאפתניים שלה. אבל זה עומד להשתנות. עם חשיפת ה-Jalapeño, שבב ה-AI הראשון שפיתחה החברה בבית (Internal Silicon), סם אלטמן מאותת לשוק: אנחנו לא רק חברת תוכנה, אנחנו הופכים לחברת תשתית מקצה לקצה.
למה הצעד הזה קריטי עכשיו?
הבעיה הגדולה ביותר של ה-AI היום היא לא רק האלגוריתמים, אלא ה-"Compute" – כוח העיבוד. הביקוש לשבבי H100 של אנבידיה יצר צוואר בקבוק עולמי, מחירים מרקיעי שחקים וזמני אספקה בלתי אפשריים.
על ידי פיתוח שבב ייעודי (ASIC - Application-Specific Integrated Circuit) בשיתוף פעולה עם Broadcom, חברת OpenAI משיגה שלושה דברים מרכזיים:
- •אופטימיזציה מקסימלית: השבב מתוכנן ספציפית לארכיטקטורת ה-Transformer שמריצה את ChatGPT ו-Codex, מה שאומר ביצועים טובים יותר בפחות חשמל.
- •הורדת עלויות: ייצור עצמי מאפשר לחברה לחתוך את ה-"מס" שהיא משלמת לספקיות צד שלישי.
- •שליטה בשרשרת האספקה: היכולת לתכנן את עתיד המודלים מבלי לחכות ללוחות הזמנים של יצרניות השבבים המסורתיות.
מתחת למכסה המנוע: שיתוף הפעולה עם Broadcom ו-TSMC
ה-Jalapeño הוא לא תוצר של OpenAI לבדה. החברה בנתה צוות חומרה מרשים שכולל מהנדסים יוצאי גוגל (שעבדו על ה-TPU), והיא נעזרת בניסיון של Broadcom בתכנון שבבים מורכבים. הייצור עצמו צפוי להתבצע במפעלים של TSMC בטכנולוגיית ייצור מתקדמת.
בניגוד לשבבים רב-תכליתיים (GPUs), ה-Jalapeño ממוקד בעיקר ב-Inference (הסקה) – השלב שבו המודל כבר מאומן והוא רק צריך לענות למשתמש. זהו השלב היקר ביותר עבור OpenAI, מכיוון שמיליוני אנשים משתמשים ב-ChatGPT בו-זמנית בכל רגע נתון. יעילות ב-Inference היא ההבדל בין שירות רווחי לבור ללא תחתית של הוצאות שרתים.
מה זה אומר עבורנו, המפתחים והמשתמשים?
המעבר לחומרה ייעודית צפוי להשפיע על כל האקו-סיסטם בכמה מישורים:
- •מהירות תגובה (Latency): צמצום זמני ההמתנה ב-API, במיוחד במודלים כבדים כמו GPT-4o.
- •יכולות חדשות: שבבים מותאמים אישית יכולים לאפשר פונקציות של "מחשבה בזמן אמת" (Reasoning) שהשבבים הנוכחיים מתקשים לבצע ביעילות.
- •יציבות: פחות תלות בתנודות השוק של NVIDIA פירושה שירות יציב יותר לאורך זמן.
סיכום ומסקנות
ה-Jalapeño הוא הצהרת כוונות. OpenAI כבר לא מסתפקת בלהיות הלקוחה הכי גדולה של מחשוב הענן; היא רוצה להיות הבעלים של הענן. זהו מהלך שמזכיר את האסטרטגיה של אפל עם מעבדי ה-M1 – אינטגרציה מלאה בין חומרה לתוכנה שיוצרת יתרון תחרותי שקשה מאוד להדביק.
מבחינתנו, זהו סימן ברור שהתעשייה עוברת לשלב הבא: שלב התיעוש של ה-AI, שבו היעילות והסקייל הם שם המשחק.
לקריאה נוספת ומקורות: