Nemotron 3.5 Bolt לעומת Nemotron 3 Ultra: מה שורד דחיסה של פי 7.4
- OrcaחדשOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 לכל 1M טוקנים · 71 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952אינטליגנציה
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856אינטליגנציה
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 לכל 1M טוקנים · 740 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238אינטליגנציה
- OpenAIOpenAI: GPT-6 Sol2026-09-2248אינטליגנציה
- AnthropicAnthropic: Claude Opus 5.52026-09-2258אינטליגנציה
- xAIGrok 4.72026-09-2146אינטליגנציה
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 לכל 1M טוקנים · 35 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 לכל 1M טוקנים · 821 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-09-1040אינטליגנציה
- OpenAIOpenAI: GPT-6 Astra2026-09-0453אינטליגנציה77כתיבת קוד
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241אינטליגנציה76כתיבת קוד
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245אינטליגנציה76כתיבת קוד
- AnthropicAnthropic: Claude Fable 5.12026-09-0153אינטליגנציה82כתיבת קוד
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 לכל 1M טוקנים · 52 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 לכל 1M טוקנים · 110 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642אינטליגנציה72כתיבת קוד
- DeepSeekDeepSeek: DeepSeek V4 Flash Vision (Exp)2026-08-21$0.22 / $0.66 לכל 1M טוקנים · 184 tok/s
- z-aiZ.ai: GLM 5.32026-08-1845אינטליגנציה75כתיבת קוד
שני מודלים מאותו ספק, הנבדלים זה מזה בפקטור של 7.4 במספר הפרמטרים ובכשני סדרי גודל בחומרה הנדרשת להרצתם. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB שוחרר ב-15 באוקטובר 2026 כקובץ בגודל 24GB שרץ לצד היישומים האחרים שלך במכשיר Spark או ב-GPU מסוג Blackwell. NVIDIA Nemotron 3 Ultra 550B-A55B נמצא ב-Hugging Face מאז 3 ביוני 2026 ודורש שישה-עשר כרטיסי H100 כמינימום ב-BF16.
השאלה המעניינת אינה מי מהשניים חזק יותר — התשובה מובנת מאליה ואינה צמודה. היא מה בדיוק שורד כשדוחסים מודל גדול לתוך מעטפת זיכרון קטנה, מפני שזה אומר לך אילו עומסי עבודה הקטן יכול לספוג ואילו יביכו אותו. פתק המחקר של NVIDIA עצמה עונה לחלק מהשאלה הזאת ישירות, והחלקים שהוא אינו עונה עליהם הם המקום שבו מתקבלת ההחלטה האמיתית.
הם אינם הורה וילד, לא משנה מה שהשם מרמז
ההנחה הברורה היא ש-Bolt הוא Ultra מכווץ. זה לא נכון, והבנה נכונה של זה משנה את מה שאתה מצפה מהקובץ. Nemotron 3.5 Lightning, דרגת ה-30B-A3B מה-11 באוגוסט 2026, זוקק מ-Ultra. Bolt לא. Bolt דחוס מ-Nemotron 3.5 Super VL, מודל שפה-ראייה 120B-A12B, תוך שימוש בחיפוש מונחה-ראוטר ש-NVIDIA מכנה Star Elastic, ולאחריו זיקוק מודע-כימות עד ל-2.0625 סיביות לכל משקל מומחה בפורמט IQ2_XXS.
השושלת הזו מסבירה את ההבדל האחד שחשוב יותר מכל שורת בנצ'מרק: ל-Bolt יש מקודד חזותי C-RADIO v4-H והוא מקבל תמונות וווידאו. Ultra הוא טקסט נכנס, טקסט יוצא, וזה לא פער בדיווח — לצ'קפוינט אין מגדל ראייה שיקבל ציון. המודל הקטן, החדש והמכומת במידה רבה רואה; מודל ההסקה הגדול ביותר במשפחה לא.
מה שהדחיסה שמרה
Bolt מכיל 74 מיליארד פרמטרים, עם 9 מיליארד פעילים לכל טוקן, על עמוד שדרה היברידי של Mamba-2 ו-Transformer. Ultra מכיל 550 מיליארד, עם 55 מיליארד פעילים. יחס הפרמטרים הפעילים הוא 6.1 ל-1, ויחס הפרמטרים הכולל הוא 7.4 ל-1, מה שאומר שהדחיסה הסירה באופן פרופורציונלי יותר קיבולת כוללת מאשר מחשוב לכל טוקן — המודל נעשה צר יותר מהר משעהוא נעשה רדוד יותר.
מה שזה מייצר, בהתבסס על הראיות הזמינות:
• תבונה עצמאית — Artificial Analysis מדרגת את Nemotron 3.5 Bolt בציון 21 במדד התבונה שלה, רביעי מבין 67 במחלקה המסוננת לפי טביעת רגל, לעומת חציון מחלקתי של 8. Ultra אינה באותה מחלקה ומקבלת ציון גבוה בהרבה באותה גרסת מדד. זהו המחיר המדיד של הדחיסה.
• מהירות עצמאית — Artificial Analysis מודדת את Ultra ב-156.1 אסימוני פלט לשנייה, עשירי מבין 74 מודלים בעמוד הזה וברצועת המהירות הגבוהה שלו. עבור Bolt אותם שדות מציגים N/A, כי אין נקודת קצה מתארחת לפנות אליה. הנתונים של NVIDIA עצמה — 84 אסימונים לשנייה ב-AIPerf SPEED-Bench על RTX Spark, 83.99 ב-llama.cpp על Surface Laptop Ultra — הם דיווחי ספק ולא שוחזרו.
• ציות להוראות — Ultra רושם 82.9 ב-IFBench. זו השורה שכדאי לשים לב אליה בסוכן שצריך לציית למדיניות כלים ארוכה, וזהו סוג היכולת שזיקוק מודע לכימות משמר בצורה לא אחידה.
• חשיבה בהקשר ארוך — Ultra רושם 75.2 ב-AA-LCR לעומת מפרט של 1M טוקנים. החלון המפורסם של Bolt הוא 262,144 טוקנים, כשהוא חולק 24GB עם מטמון ה-KV, התמונות והשיחה. חלון מוצהר רחב והיכולת להשתמש בו הם מאפיינים נפרדים; כאן למודל הגדול יותר יש יותר משניהם.
• ריסון עובדתי — Ultra רושם 22.1 במדד ההזיות של AA-Omniscience, עם 77.91 באי-הזיות. הכרטיס של Bolt עצמו רושם 61.27 באי-הזיות, השורה היחידה שבה הוא מפסיד ל-Nemotron 3.5 Lightning הקטן בהרבה. שני סימנים בלתי תלויים שמצביעים לאותו כיוון: כאן דחיסת 2-bit אגרסיבית עולה הכי הרבה, ושום תחבולת ניתוב לא מתקנת מודל שממציא יותר.
מעטפת הפריסה, שבה בפועל השניים נפרדים
זה החלק בהשוואה שאינו מצטמצם לציון.
• זיכרון — Bolt הוא ארטיפקט יחיד בנפח 24GB, שכבר עבר קוונטיזציה, שנועד להתקיים לצד דפדפן ו-IDE על מכונה אחת. Ultra ב-BF16 דורש שישה-עשר H100s, שמונה H200s או שמונה צמתים בדרגת GB200-class לפי כרטיס המודל שלו עצמו; גרסת ה-NVFP4 מצמצמת זאת לשמונה H100s במינימום. ההבדל בין שני המשפטים האלה הוא ההבדל בין הזמנת רכש לתוכנית רכש.
• תצורת הקשר — Bolt מספק 262,144 טוקנים ישירות במתכון vLLM שפורסם שלו. מתכוני Ultra מוגדרים כברירת מחדל ל-256K ודורשים דגל סביבה כדי להגיע למלוא 1,048,576, ולכן הפאנל רושם 262K עבור Ultra למרות מפרט של 1M. קרא את המפרט, ואז קרא את המתכון.
• סטאק הגשה — Bolt פועל תחת vLLM על Ampere, Hopper ו-Blackwell, או תחת llama.cpp על חומרת RTX Spark ו-DGX Spark, תחת רישיון OpenMDW-1.1 המתיר שימוש מסחרי. Ultra פועל תחת אותו רישיון על מקביליות בדרג מרכז נתונים. שניהם בעלי משקולות פתוחות; רק אחד מהם נייד.
• עלות פרומפט — Ultra מחושבת לפי $0.60 למיליון טוקני קלט ו-$2.50 למיליון טוקני פלט עם הנחת מטמון של 73%, מה שמסתכם בכ-$0.60 להרצת משימת Intelligence Index אחת — זול ממש עבור מודל בגודל כזה, וזמין משום שמישהו אחר מתפעל את האשכול. ל-Bolt אין מחיר בכלל: אין נקודת קצה מתארחת, אין API של ספק, אין מחירון, ו-N/A בשדות המהירות והעלות של הפאנל העצמאי היחיד שבו הוא מופיע.
לקרוא את ההכרזה על סמך מה שהיא אומרת ומה שהיא לא אומרת
הצ'קפוינט של Bolt היה ב-Hugging Face מ-7 באוקטובר 2026, עם כרטיס מודל בלבד מצורף. הכרזת הספק שמציינת אותו בשמו — לצד אח בנפח 4GB, Nemotron 3.5 Bolt E4B, שמיועד לדמויות במשחקים ומתוארך ל-23 באוקטובר — הגיעה ב-15 באוקטובר. העלאת המשקלים שמונה ימים לפני הטקסט אינה יוצאת דופן, אבל היא כן אומרת ששבוע של התיעוד הציבורי אינו מכיל שום הסבר על המודל כלל, וכל תיאור שנכתב בחלון הזה התבסס על הכרטיס בלבד.
ההכרזה היא גם המקום שבו יש לחפש את מה שנעדר. אין נקודת קצה מתארחת, אין API, אין מחירון, אין פלטפורמת צד שלישי שמודדת את Bolt — ואף אחד לא הריץ בנצ'מרק עצמאי על משקולות ה-24GB. המספרים של הספק אמיתיים וספציפיים, שנלקחו עם llama.cpp על Surface Laptop Ultra עם 128GB; הם פשוט לא שוחזרו מחוץ ל-NVIDIA.
לאן שייך כל מודל, ולאן שייך נתב
אף אחד מהמודלים האלה אינו בקטלוג של OrcaRouter. אנחנו לא מארחים שום צ'קפוינט של NVIDIA, אין נקודת קצה ל-Bolt ואין נקודת קצה ל-Ultra, ושום דבר כאן אינו הצעה לספק שירות לאף אחד מהם. מה שנקודת קצה אחת כן נותנת לכם, אם אתם מריצים אחד מהם או את שניהם בעצמכם, הוא דרך להחזיק את שני החצאים — המקומי והמתארח — של זרימת עבודה תחת מפתח אחד — יותר מ-200 המודלים בקטלוג שלנו יושבים מאחורי מפתח API אחד וחשבון אחד, במחיר המחירון של כל ספק כפי שהוא, עם 0% תוספת, כך ששינוי מחיר של ספק נכנס לתוקף אצלנו באותו יום ולא בחידוש הבא. בקשה שצריכה חלון מלא של מיליון טוקנים או מודל חשיבה בקנה מידה של frontend יוצאת אל מודל מתארח; הקובץ המקומי שומר על העבודה בנפח גבוה וברגישה לפרטיות, זו שאסור היה שתֵצא מהבניין מלכתחילה. מעבר אוטומטי בין שרתים פירושו שרכיב מדורדר במעלה הזרם מעביר את הבקשה במקום להכשיל אותה.
המיקום נובע מן החשבון של הפריסה ולא מן הציונים. Bolt שייך לתחנת עבודה כאשר הנתונים אינם יכולים לזוז, כאשר עומס העבודה כולל וידאו, או כאשר הנפח הופך את החיוב לפי טוקן לסעיף הדומיננטי — וכאשר חלון של 262K ופער ריסון עובדתי שכבר נראה לעין מקובלים. Ultra שייך לנקודת קצה מחייבת לפי מדידה כאשר העבודה זקוקה לטווח של מיליון טוקנים, ליכולת ביצוע ההוראות החזקה ביותר במשפחה, ולשיעור ההזיות הנמוך ביותר ש-NVIDIA מפרסמת כיום.
מי צריך לפעול, ומי צריך לחכות
פעלו עכשיו אם עומס העבודה מקומי וכולל וידאו: Bolt הוא המודל היחיד במשפחה הזו שגם נכנס ל-24GB וגם מסוגל לראות, ואף צ'קפוינט פתוח אחר בנפח הזה לא משיג 21 במדד העצמאי. פעלו עכשיו אם עומס העבודה הוא הסקת טקסט בהקשר ארוך ובנפח: Ultra מחויב לפי שימוש, נמדד, וזול יותר לכל משימה ב-Intelligence Index ממה שמודל בגודלו אמור אי פעם להיות.
רגע, אם ההחלטה שלך תלויה בתפוקה. המהירות של Bolt היא הממד היחיד שאין לו מדידה עצמאית בשום מקום, ועבור מודל שנפרס מקומית המהירות היא מה שאתה מרגיש בכל שנייה של כל יום. הרצת השהיה אחת של צד שלישי על משקולות ה-24GB תכריע יותר מעשר שורות הבנצ'מרק הבאות של הספק — ועד שזה קיים, תכנון הקיבולת עבור Bolt הוא תכנון סביב טענה.
