Nemotron 3.5 Bolt 24GB vs Nemotron 3.5 Lightning 30B-A3B：同じファミリー、正反対のデプロイ

Two models from one family, released four months apart, built to opposite ends of the same question. N​VIDIA N​emotron 3.5 Lightning 30B-A3B shipped in August 2026 as a high-throughput text model for data-centre serving. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB shipped on 15 October 2026 as a multimodal agent that fits on a laptop. Bolt has double the total parameters and three times the active parameters of Lightning, and it runs on hardware Lightning cannot start on. This is what actually separates them, and where the family resemblance is misleading.

どちらも同じトレーニングレシピから生まれたものです

N​VIDIA's technical report for the pair is explicit that both models begin with the same two stages: a 100-billion-token warm-up for multi-token-prediction heads, then a trillion tokens of distillation from the next-larger N​emotron 3 model. Lightning distils from N​emotron 3 Super Base; Bolt distils from the N​emotron 3.5 Super VL line, which is why Bolt can see and Lightning cannot.

その後、道は分かれ、その別離こそが物語のすべてだ。

Lightningは、コンテキスト長を100万トークンに拡張する210億トークンの長文コンテキスト段階を経て、続いてSFTとRLVRのポストトレーニングパイプラインを経て、DSpark、DFlash、MTPの投機的オプションを備え、NVFP4ウェイトで単一GPU（H100 1台またはDGX Spark 1台）へのデプロイを目標とする、総パラメータ30B／アクティブ3Bのテキストモデルとしてリリースされます。

Boltは、Star Elasticアーキテクチャ探索によって1200億パラメータの親モデルから圧縮され、そのビジョンタワーに再接続され、視覚重視の教師あり段階を経て再トレーニングされ、次にエージェント環境でのエンドツーエンド強化学習を通され、最後に量子化を意識した蒸留によってエキスパート重みあたり2.0625ビットに量子化されます。1つのドラフターLiLiCorrと、1つのデプロイ形態が付属します。つまり、24GBのメモリを備え、他のアプリケーションと並行して実行できる能力を持つものです。

仕様の対比、並べて比較

• パラメータ — Bolt: 総計74B、アクティブ9B。Lightning: 総計30B、アクティブ3B。

• 出荷時の精度 — Bolt: IQ2_XXS エキスパートは要素あたり 2.0625 ビット、NVFP4 の Mamba 層、Q8_0 の埋め込みとアテンション。Lightning: デプロイメントチェックポイントでは全面的に NVFP4、カスタマイズ用に BF16 のリファレンスリリースを用意。

• コンテキスト — Bolt: 262,144トークン。Lightning: 100万トークン。専用の長コンテキスト学習フェーズによる成果です。

• モダリティ — Bolt：テキスト、画像、動画を入力。Lightning：テキストのみ。各モデルのArtificial Analysisの項目は、同じパネル上で同じ文言でそう述べている。そのため、これは両者を但し書きなしで直接比較できる数少ない行の1つである。

• ホストハードウェア — Bolt: RTX Spark ノートPC、GeForce RTX PC、DGX Spark、DGX Station、RTX PRO ワークステーション。Lightning: DGX Spark または H100、あるいは W4A16 経由の Blackwell と Ampere。

• 投機的デコーディング — Bolt: LiLiCorr（1.13B のドラフターで、1 ステップにつき 7 トークンをドラフト）。Lightning: 低並行ワークロード向けの DSpark で、DFlash と MTP も公開済み。

• ライセンス — 両方とも OpenMDW-1.1 で、どちらも商用利用が認められています。

両方が他の誰かによって測られる唯一の場所

These two models have something most of the N​emotron family lacks: entries on the same independent panel, measured the same way. That makes the comparison unusually clean for a family-internal matchup.

Artificial Analysis scores N​emotron 3.5 Lightning at 13 on its Intelligence Index, ranking 28th of 141 models, and N​emotron 3.5 Bolt 74B-A9B at 21, ranking fourth of 67 models in its own class. Those classes are not identical — Bolt is a medium open-weights model, Lightning is a small one — so the ranks are not directly comparable, but the index scores are produced by the same methodology on the same evaluations.

Speed is where the gap inverts, and this is the single most decision-relevant fact about the pair. The panel measures Lightning at 307 output tokens per second, first of 63 models on that dimension. It reports Bolt's speed as unavailable, because there is no public API serving it and the panel's speed measurement requires one. The only throughput figure that exists for Bolt is N​VIDIA's own: 83.99 tokens per second on AIPerf SPEED-Bench-Coding, on a Surface Laptop Ultra with 128GB of memory, with the drafter attached.

これらを併せて読むと、モデルファミリーの全体像が具体的に見えてくる。手元にある数値を見る限り、LightningはBoltよりおよそ3.5倍速く、しかもトークン単位でレンタルできる形で提供されている。一方Boltは同じ指標で明確に賢く、誰もレンタルできないマシン上で動いている。

選択が決着する3つの方法

ワークロードが大量でテキストのみであるなら、Lightning は妥協ではなく、より優れたツールです。毎秒307トークンで100万トークンのコンテキスト、公表されている料金は入力100万トークンあたり6セント、出力100万トークンあたり20セントというのは、具体的で役立つものです。そして Bolt は、どのようなハードウェア上であっても、その速度やコンテキストに匹敵することはできません。

If the workload is visual, there is no decision to make. Bolt accepts images and video and Lightning does not, and no amount of context or throughput substitutes for a modality that is absent. The WebArena vision row in N​VIDIA's own table — 50.86 for Bolt, with Lightning not listed at all — is what that looks like when it moves from a spec sheet into a benchmark.

ワークロードをネットワークなしで実行しなければならない場合、 Bolt は、その2つのうち、そのためにパッケージ化されている唯一のものです。Lightning のデプロイ対象は、NVFP4 チェックポイントを備えた単一の H100 または DGX Spark であり、これはサーバーです。一方、Bolt の対象は、ブラウザも同時に実行しているラップトップ上の 24GB のファイルです。この違いは能力の問題ではなく、マシンがどこに置かれているかの問題です。

家族が両方をカップリングとして推すことで得られるもの

The interesting thing about this pair is not that one beats the other. It is that N​VIDIA built the cheap one first, then spent four months building the expensive one to fit somewhere the cheap one could not go.

Lightningはスループット狙いの一手だ。少数のアクティブパラメータ、巨大なコンテキストを持ち、1基のGPU上で何度も提供されるように設計されている。Boltは密度狙いの一手だ。膨大なパラメータ数を固定のメモリ予算に圧縮することで、単一マシン上の単一ユーザーが、フロンティアに近いエージェント挙動をローカルで得られるようにする。両者は異なる比率を最適化している——GPUあたりの毎秒トークン数 対 デバイスあたりのギガバイトあたりの知能——そして、BoltがLightningの13に対して21を記録する事実は、Lightningにとって敗北ではない。なぜならLightningは、Boltが存在する形でBoltが作られたマシンには収まらないからだ。

There is also a data point for the compression argument itself. Bolt's vendor table includes Lightning as one of its baselines, and Bolt beats it on nearly every agentic row: 50.98 against 23.46 on Terminal-Bench 2.1, 66.75 against 36.81 on BrowseComp, 17.01 against 9.48 on Tau3 Banking, 28.47 against 18.26 on GDPVal-AA-V2. Those are N​VIDIA's own numbers comparing two of its own models in the same table, and the honest reading is that compressing a 120B parent beats training a 30B model from scratch at the same target size. That is precisely the claim Star Elastic was invented to support.

エージェントを構築する人にとって、これが意味するもの

The pairing suggests a shape rather than a winner. Lightning handles the high-volume, long-context, text-only middle of an agent's work where throughput and context are the binding constraints. Bolt handles the local, visual, latency-tolerant work that cannot leave the machine. Neither is a replacement for the other, and N​VIDIA's own framing of the family — Ultra for the hardest reasoning, Lightning for throughput, Bolt for the edge — is an admission that the boundary is real.

What neither model solves is the part of the stack that is not local and not N​VIDIA's. We do not host either checkpoint; the OrcaRouter catalogue has no N​emotron entry, so there is no endpoint or rate to quote for these two. What a gateway contributes to a mixed stack is the other side: one key across 200-plus hosted models, provider list price passed through with no markup added, automatic failover when a provider degrades, and a routing DSL for describing escalation across models as configuration. The choice between Bolt and Lightning is made on your hardware and in your harness. What happens when the task exceeds both, or when a request has to reach a model neither of them can be, is the part that lives behind an endpoint.

最初にどれを試しますか？

24GBのGPUと、つながったり切れたりするネットワーク接続があるなら、Boltのほうがより興味深いダウンロードです。より新しく、マルチモーダルで、このファミリーの他のどのリリースにもできないことをやってのけます。

If you have a DGX Spark, an H100, or an application where latency is the product, Lightning has been generally available since August, has an independent speed measurement that puts it first in its class, has a published price, and has had two months for the ecosystem to find its sharp edges. Bolt has had one day, its drafter is a mandatory third download, and nobody outside N​VIDIA has measured its latency.

両方の言葉は同時に真実でありえます。それが家族の役割なのです。

スコアボードが測定するものと、導入が実際に満たすものとの間にあるこの隔たりこそが、この記録が重要である理由です。このクラスのモデルをめぐる、文書化されたAIの障害やエージェントのインシデントは、the OrcaRouter AI Incident Archiveに集められており、各エントリには独自の情報源、重大度、信頼度グレード、異議ありフラグが付いています。