Back to Articles

Perplexity Portable Computer: Local AI Agent with NVIDIA

August 26, 202668

המהפכה המקומית של Perplexity: סוכן AI עוצמתי שרץ אצלכם על השולחן

שיתוף הפעולה החדש עם NVIDIA מביא את ה-Portable Computer ל-DGX Spark ומבטיח פרטיות מלאה ללא עלויות טוקנים

עד היום, כמעט כל אינטראקציה משמעותית שלנו עם סוכני בינה מלאכותית (AI Agents) עברה דרך הענן. זה נוח, זה חזק, אבל זה מגיע עם תג מחיר: הפרטיות של המידע הרגיש שלנו והעלות המצטברת של כל שאילתה. חברת Perplexity החליטה לשבור את הפרדיגמה הזו והשיקה את ה-Portable Computer – גרסה מקומית לחלוטין של מערכת הסוכנים שלה, שרצה ישירות על החומרה שלכם.

הבשורה הזו משמעותית במיוחד עבור מפתחים, חוקרים וארגונים שמתעסקים במידע רגיש ולא יכולים להרשות לעצמם להוציא כל מסמך לשרתים חיצוניים. המערכת הושקה בשיתוף פעולה הדוק עם NVIDIA, והיא מותאמת ספציפית לתחנות העבודה החדשות מסדרת NVIDIA DGX Spark.

מה זה בעצם Portable Computer?

בניגוד לאפליקציות צ'אט מקומיות פשוטות, ה-Portable Computer הוא "מחסנית" (Stack) שלמה של סוכני AI. הוא כולל את ה-Agent Harness (התשתית שמנהלת את הסוכן), ה-Orchestrator (המתזמר שמחליט אילו פעולות לבצע), וסביבת Sandbox מאובטחת להרצת קוד וכלים.

כל המערכת הזו רצה מקומית על ה-DGX Spark, מחשב-על שולחני המבוסס על ארכיטקטורת Blackwell של NVIDIA. המשמעות היא שעיבוד המסמכים, ניתוח הנתונים והרצת הכלים מתבצעים בתוך הבית. המידע שלכם לא עוזב את המחשב, ואין עלות של טוקנים על הצעדים המקומיים שהסוכן מבצע.

המודלים שמתחת למכסה המנוע

כדי להבטיח ביצועים גבוהים על חומרה מקומית, Perplexity מציעה שני מודלים מרכזיים:

  1. PPLX 27B: מודל ייעודי שעבר אופטימיזציה (Post-training) על ידי Perplexity כדי לעבוד בצורה מושלמת עם תשתית הסוכנים שלהם.
  2. Qwen 2.5 27B: מודל קוד פתוח עוצמתי שמהווה אלטרנטיבה מצוינת למשימות מגוונות.

בעתיד הקרוב, המערכת תתמוך גם במודל Nemotron 3.5 Lightning של NVIDIA, מה שצפוי לשפר עוד יותר את מהירות התגובה והדיוק.

היברידיות חכמה: מקומי קודם, ענן כשצריך

אחד הפיצ'רים המעניינים ביותר ב-Portable Computer הוא המודל ההיברידי. המערכת פועלת בגישת Local-First. רוב המשימות יבוצעו מקומית, אבל אם הסוכן נתקל במשימה מורכבת מדי שדורשת יכולות Reasoning (הסקה) מתקדמות שקיימות רק במודלי ענן ענקיים, הוא לא ישלח את המידע אוטומטית. המערכת תעצור ותבקש מהמשתמש אישור מפורש לפני שליחת נתונים לענן.

זהו פתרון אידיאלי לאיזון בין כוח חישוב לבין אבטחת מידע. אתם שומרים על השליטה המלאה.

למי זה זמין ומה הלאה?

נכון להיום, ה-Portable Computer זמין למנויי Perplexity Pro ו-Max שמחזיקים בתחנת עבודה מסוג NVIDIA DGX Spark. מדובר במחשב עוצמתי במיוחד (עם שבב GB10 Superchip) שנועד בדיוק למשימות כאלו – הרצת מודלים גדולים מקומית במהירות של עשרות טוקנים לשנייה.

למי שאין ברשותו DGX Spark, אל דאגה: Perplexity כבר הודיעה כי תמיכה במערכות Windows (מבוססות כרטיסי מסך RTX) צפויה להגיע כבר במהלך חודש ספטמבר, ובהמשך ייתכן שנראה תמיכה גם בחומרות נוספות כמו ה-Mac של אפל.

שורה תחתונה

אנחנו רואים כאן שינוי כיוון משמעותי. אם עד עכשיו ה-AI היה תלוי בחיבור אינטרנט מהיר ובארנקים עמוקים לתשלום על API, השילוב בין Perplexity ל-NVIDIA מראה שהעתיד הוא מקומי. היכולת להריץ סוכן אוטונומי שמבין את הקבצים שלכם, מריץ קוד ופותר בעיות – כל זאת מבלי שהמידע ייצא מהחדר – היא קפיצת מדרגה אמיתית בפרטיות ובפרודוקטיביות.

אם אתם עובדים עם מידע רגיש או פשוט רוצים להפסיק לספור טוקנים, זה הזמן להתחיל לבחון פתרונות של Local AI.

Thanks to Spotlight by Daniel Trabelsi by Daniel Trabelsi for sharing and inspiring this article.

Join the channel
#artificial intelligence#Perplexity#AI agent#local computing#NVIDIA#DGX Spark#data privacy#AI models