Nemotron 3.5 Bolt 24GB לעומת Nemotron 3.5 Lightning 30B-A3B: אותה משפחה, פריסות מנוגדות

Two models from one family, released four months apart, built to opposite ends of the same question. N​VIDIA N​emotron 3.5 Lightning 30B-A3B shipped in August 2026 as a high-throughput text model for data-centre serving. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB shipped on 15 October 2026 as a multimodal agent that fits on a laptop. Bolt has double the total parameters and three times the active parameters of Lightning, and it runs on hardware Lightning cannot start on. This is what actually separates them, and where the family resemblance is misleading.

שניהם נובעים מאותו מתכון אימון

N​VIDIA's technical report for the pair is explicit that both models begin with the same two stages: a 100-billion-token warm-up for multi-token-prediction heads, then a trillion tokens of distillation from the next-larger N​emotron 3 model. Lightning distils from N​emotron 3 Super Base; Bolt distils from the N​emotron 3.5 Super VL line, which is why Bolt can see and Lightning cannot.

לאחר מכן הדרכים נפרדות, וההפרדה היא כל הסיפור.

Lightning עובר שלב של הקשר ארוך של 21 מיליארד טוקנים שמרחיב אותו למיליון טוקנים, לאחר מכן צינור אימון-מחדש של SFT ו-RLVR, והוא משוחרר כמודל טקסט של 30B סה"כ / 3B פעיל עם אפשרויות ספקולטיביות DSpark, DFlash ו-MTP ויעד פריסה של GPU בודד מסוג H100 אחד או DGX Spark אחד עם משקולות NVFP4.

Bolt נדחס מהורה עם 120 מיליארד פרמטרים באמצעות חיפוש ארכיטקטורה של Star Elastic, מחובר מחדש למגדל הראייה שלו, מאומן מחדש בשלב פיקוח עתיר ראייה, לאחר מכן עובר למידת חיזוק מקצה לקצה בסביבות סוכניות, ולבסוף עובר קוונטיזציה ל-2.0625 סיביות לכל משקל מומחה עם זיקוק מודע לקוונטיזציה. הוא מגיע עם מודל טיוטה אחד, LiLiCorr, וצורת פריסה אחת: משהו עם 24GB של זיכרון והיכולת להריץ אותו לצד יישומים אחרים.

השוואת המפרטים, זה לצד זה

• פרמטרים — Bolt: 74B סה"כ, 9B פעילים. Lightning: 30B סה"כ, 3B פעילים.

• דיוק כפי שסופק — Bolt: מומחי IQ2_XXS ב-2.0625 סיביות לכל אלמנט, שכבות Mamba NVFP4, הטמעות וקשב Q8_0. Lightning: NVFP4 באופן גורף עבור נקודת ביקורת הפריסה, עם מהדורת ייחוס BF16 להתאמה אישית.

• הקשר — Bolt: 262,144 טוקנים. Lightning: מיליון טוקנים, התוצאה של שלב אימון ייעודי להקשר ארוך.

• מודאליות — Bolt: טקסט, תמונות ווידאו בקלט. Lightning: טקסט בלבד. הרשומה של Artificial Analysis עבור כל מודל אומרת זאת באותו פאנל ובאותו ניסוח, מה שהופך אותה לאחת השורות הבודדות שבהן השניים ניתנים להשוואה ישירה ללא הסתייגות.

• חומרת מארח — Bolt: מחשבים ניידים RTX Spark, מחשבי GeForce RTX, DGX Spark, DGX Station, תחנות עבודה RTX PRO. Lightning: DGX Spark או H100, או Blackwell ו-Ampere באמצעות W4A16.

• פענוח ספקולטיבי — Bolt: LiLiCorr, מודל טיוטה בגודל 1.13B, שבעה טוקנים מנוסחים בכל צעד. Lightning: DSpark לעבודה עם מקביליות נמוכה, כאשר DFlash ו-MTP פורסמו גם כן.

• רישיון — OpenMDW-1.1 עבור שניהם, ושניהם מאושרים לשימוש מסחרי.

המקום היחיד שבו שניהם נמדדים על ידי מישהו אחר

These two models have something most of the N​emotron family lacks: entries on the same independent panel, measured the same way. That makes the comparison unusually clean for a family-internal matchup.

Artificial Analysis scores N​emotron 3.5 Lightning at 13 on its Intelligence Index, ranking 28th of 141 models, and N​emotron 3.5 Bolt 74B-A9B at 21, ranking fourth of 67 models in its own class. Those classes are not identical — Bolt is a medium open-weights model, Lightning is a small one — so the ranks are not directly comparable, but the index scores are produced by the same methodology on the same evaluations.

Speed is where the gap inverts, and this is the single most decision-relevant fact about the pair. The panel measures Lightning at 307 output tokens per second, first of 63 models on that dimension. It reports Bolt's speed as unavailable, because there is no public API serving it and the panel's speed measurement requires one. The only throughput figure that exists for Bolt is N​VIDIA's own: 83.99 tokens per second on AIPerf SPEED-Bench-Coding, on a Surface Laptop Ultra with 128GB of memory, with the drafter attached.

קראו את אלה יחד והסיפור המשפחתי הופך למוחשי. לייטנינג מהיר בערך פי שלושה וחצי מבולט לפי הנתונים שיש לנו, בצורה שאפשר לשכור לפי טוקן; בולט חכם באופן משמעותי יותר באותו מדד ורץ על מכונה שאיש לא יכול לשכור בכלל.

שלוש דרכים שבהן הבחירה נפתרת

אם עומס העבודה הוא בנפח גבוה וטקסטואלי בלבד, Lightning אינו פשרה, הוא הכלי הטוב יותר. חלון הקשר של מיליון טוקנים בקצב של 307 טוקנים לשנייה, עם תעריף מפורסם של שישה סנט למיליון טוקני קלט ועשרים סנט למיליון טוקני פלט, הוא דבר ספציפי ושימושי, ו-Bolt לא יכול להשתוות למהירות או לחלון ההקשר על חומרה מכל סוג שהוא.

If the workload is visual, there is no decision to make. Bolt accepts images and video and Lightning does not, and no amount of context or throughput substitutes for a modality that is absent. The WebArena vision row in N​VIDIA's own table — 50.86 for Bolt, with Lightning not listed at all — is what that looks like when it moves from a spec sheet into a benchmark.

אם עומס העבודה חייב לפעול ללא רשת, Bolt הוא היחיד מבין השניים שנארז עבור כך. יעד הפריסה של Lightning הוא H100 יחיד או DGX Spark עם נקודת ביקורת NVFP4, שזה שרת; זה של Bolt הוא קובץ בנפח 24GB על מחשב נייד שמריץ גם דפדפן. ההבחנה אינה ביכולת אלא במקום שבו נמצאת המכונה.

מה יוצא למשפחה מלשלוח את שניהם

The interesting thing about this pair is not that one beats the other. It is that N​VIDIA built the cheap one first, then spent four months building the expensive one to fit somewhere the cheap one could not go.

Lightning הוא מהלך התפוקה: מעט פרמטרים פעילים, חלון הקשר עצום, שתוכנן להיות מוגש פעמים רבות על GPU אחד. Bolt הוא מהלך הצפיפות: מספר עצום של פרמטרים דחוס לתוך תקציב זיכרון קבוע, כך שמשתמש בודד על מכונה בודדת מקבל מקומית משהו שקרוב יותר להתנהגות של סוכן ברמת החזית. השניים מייעלים יחסים שונים — טוקנים לשנייה ל-GPU לעומת תבונה לג'יגה-בייט למכשיר — והעובדה ש-Bolt משיג 21 לעומת 13 של Lightning אינה תבוסה ל-Lightning, מפני ש-Lightning לא היה נכנס במכונה שעבורה Bolt נבנה, בצורה שבה Bolt קיים.

There is also a data point for the compression argument itself. Bolt's vendor table includes Lightning as one of its baselines, and Bolt beats it on nearly every agentic row: 50.98 against 23.46 on Terminal-Bench 2.1, 66.75 against 36.81 on BrowseComp, 17.01 against 9.48 on Tau3 Banking, 28.47 against 18.26 on GDPVal-AA-V2. Those are N​VIDIA's own numbers comparing two of its own models in the same table, and the honest reading is that compressing a 120B parent beats training a 30B model from scratch at the same target size. That is precisely the claim Star Elastic was invented to support.

לאן זה משאיר את כל מי שבונה סוכן

The pairing suggests a shape rather than a winner. Lightning handles the high-volume, long-context, text-only middle of an agent's work where throughput and context are the binding constraints. Bolt handles the local, visual, latency-tolerant work that cannot leave the machine. Neither is a replacement for the other, and N​VIDIA's own framing of the family — Ultra for the hardest reasoning, Lightning for throughput, Bolt for the edge — is an admission that the boundary is real.

What neither model solves is the part of the stack that is not local and not N​VIDIA's. We do not host either checkpoint; the OrcaRouter catalogue has no N​emotron entry, so there is no endpoint or rate to quote for these two. What a gateway contributes to a mixed stack is the other side: one key across 200-plus hosted models, provider list price passed through with no markup added, automatic failover when a provider degrades, and a routing DSL for describing escalation across models as configuration. The choice between Bolt and Lightning is made on your hardware and in your harness. What happens when the task exceeds both, or when a request has to reach a model neither of them can be, is the part that lives behind an endpoint.

איזה מהם לנסות קודם

אם יש לך GPU עם 24GB וחיבור רשת שמתנתק ומתחבר, Bolt הוא ההורדה המעניינת יותר: הוא חדש יותר, הוא מולטימודלי, והוא עושה משהו שאף מהדורה אחרת במשפחה לא יכולה.

If you have a DGX Spark, an H100, or an application where latency is the product, Lightning has been generally available since August, has an independent speed measurement that puts it first in its class, has a published price, and has had two months for the ecosystem to find its sharp edges. Bolt has had one day, its drafter is a mandatory third download, and nobody outside N​VIDIA has measured its latency.

שתי הטענות יכולות להיות נכונות בו-זמנית. בשביל זה יש משפחה.

הפער הזה בין מה שלוח התוצאות מודד לבין מה שפריסה נתקלת בו הוא הסיבה לכך שהרשומה חשובה: כשלי הבינה המלאכותית המתועדים ותקריות הסוכנים סביב מודלים במחלקה הזו נאספים בthe OrcaRouter AI Incident Archive, שבו כל רשומה נושאת את המקורות שלה, חומרה, דירוג ביטחון ודגל מחלוקת.