Nemotron 3.5 Bolt vs Nemotron 3.5 Lightning：NVIDIA自身の表は、両方の列を読むと何を示すか

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GBとNVIDIA Nemotron 3.5 Lightning 30B-A3Bは同じファミリーの2つのティアで、リリースは10週間違いであり、ベンダーはすでに両者を真っ向から比較する表を公開している。これは珍しく、そして有用だ。ふつう目にする一対一の比較表の多くは、ジャーナリストか、都合のよい比較を選りすぐったベンダーによって作られたものだが、これはあるラボが自社の新しいモデルを自社の古いモデルと、公開の場でベンチマークし、しかも古いほうをベースラインとして名指ししているものだ。依然としてベンダーによる報告であり、NVIDIA以外でその1行を再現した者はいない——しかしその背後にある意図は疑いようがなく、結果の方向性もまた疑いようがない。Boltは13行のうち12行を取る。それが失うのはどの1行なのか、そしてなぜその行が興味深いのかを正確に理解する価値がある。

数字の前に、まずファミリー構造が重要だ。Nemotron 3.5 Lightning は2026年8月11日に、エージェントスタックの実行レイヤーとして出荷された——総パラメータ30B・アクティブ3Bのハイブリッドで、NVIDIAがはるかに大規模な Nemotron 3 Ultra から蒸留したものだ。これはまさに、フロンティアモデルが計画を担い、Lightning が単一GPU上でツール呼び出しを処理し続けられるようにするためである。Bolt はまったく別の系統だ。Ultra からではなく、120B-A12B の Nemotron 3.5 Super VL モデルから圧縮され、24GB に収まる視覚言語ジェネラリストとして存在している。どちらも OpenMDW-1.1 の下でオープンウェイトであり、どちらも Mamba-2 ハイブリッドバックボーン上のスパースな Mixture of Experts で、どちらも投機的デコーディングを搭載している——Lightning は Multi-Token Prediction ヘッドに加えて DFlash と DSpark のドラフターを、Bolt は DFlash 経由で駆動され7トークン先まで提案する LiLiCorr ドラフターを備えている。

共通の系譜は、決断を下さなければならない時点で役に立たなくなる。なぜなら、2つのモデルは異なる問いに答えるからだ。一方は安価な実行者であり、もう一方はローカルな汎用モデルだ。

スコアではなく役割で表を読む

以下の数値はすべて、NVIDIA自身がBolt 24GBチェックポイント向けに公開したモデルカードに由来しており、そこではLightningがベースラインとして記載されています。Bolt列はIQ2、つまり2ビットに量子化されたアーティファクトです。Lightning列はBF16で、量子化されていません。この非対称性は、この表について知っておくべき最も重要な点であり、しかもBoltに有利に働きます — Boltは親モデルと比べておよそ8分の1に圧縮されながら、それらの行で勝っているのです。

• 汎用エージェント推論 — GDPVal-AA-V2: Bolt 28.47、Lightning 18.26。10ポイントの差があり、「このモデルが想定して作られた日常的なオフィス型業務にどれだけ優れているか」に最も近い行です。

• ターミナル作業 — Terminal-Bench 2.1: Bolt 50.98、Lightning 23.46。これはボード上で最大の差であり、驚くことではない。なぜなら、NVIDIA 自身の Lightning に関するガイダンスでは、それがプライマリエージェントであるべきではないとされているからだ。独立した評価では、同じベンチマークで Lightning についておよそ 24.6 が記録されており、これはベンダーの 23.46 に十分近く、この数値が実在することを示唆している。

• 科学・知識推論 — GPQA Diamond：Bolt 86.43、Lightning 75.57。SciCode：Bolt 41.02、Lightning 31.38。ツールなしのHumanity's Last Exam：Bolt 25.30、Lightning 10.47。3つの異なる形式の難問にわたる一貫性。

• 長文コンテキスト推論 — AA-LCR：Bolt 64.06、Lightning 49.19。15ポイント差で、ここではメモリ制約はどちらのモデルにとっても制限要因ではない。

• Webおよびブラウジングのエージェンシー — BrowseComp: Bolt 66.75、Lightning 36.81。30ポイント差。表の中で最大の単一ギャップであり、Lightningを自律的な実行者と見なす考えに最も直接的に矛盾するものである。

• ツール使用密度 — MCP-Atlas：Bolt 52.20、Lightning 46.4。PinchBench：Bolt 87.82、Lightning 83.43。どちらも上記の差より小さく、これはLightningの実際の設計概要——短く高頻度なツールステップ——と一致している。

• ビジョン — WebArena vision：Bolt 50.86、Lightning はエントリなし。これは報告上の欠落ではない。Lightning はテキスト入力・テキスト出力であり、スコアリングする視覚エンコーダーを持たない。

Lightningが勝つ唯一の行、そしてそれがノイズではない理由

AA-Omniscience の非ハルシネーション：Nemotron 3.5 Lightning 68.81、Nemotron 3.5 Bolt 61.27。同じ評価の正確性側の半分では、両者は互いに3分の1点以内に収まっている — Bolt が 16.90 で Lightning が 16.63 — そのため、非ハルシネーション側の差は丸め誤差ではなく、まさにすべてを物語るものになっている。より小さく、より古く、量子化されていないモデルのほうが、知らないことについて述べるのを測定可能なほど控えめにしている。

それは確かな発見であり、もっともらしいメカニズムもある。Bolt は量子化を意識した蒸留を伴う大胆な2ビット量子化によってそのフットプリントを実現したが、そのパイプラインの非可逆な部分は、まさに較正された不確実性を左右する部分である。Lightning はより小さいが、完全な BF16 精度に位置しており、その蒸留ターゲットは圧縮率ではなく推論モデルだった。もしあなたのエージェントの故障モードが、行動に伝播する自信過剰な誤答であるなら、これは最も重く見るべき行だ — そして、どれほどルーティングを巧妙にしても、より多くを捏造するモデルは直せない。

ベンダーが、自社の新モデルが負けている行を含む表を公開することはほとんどない。この表がそうしているということは、この表が純粋な宣伝ではないことの小さな証拠である。

サービングコストこそが真の第2の軸だ

上記のスコアだけでは判断は決まりません。なぜなら、この2つのモデルは実行にかかるコストが等しくないからです。

• アクティブパラメータ — Bolt はトークンあたり 9B を有効化し、Lightning はおよそ 3B を有効化する。大きい方のモデルでは、トークンあたりの計算量が3倍になり、それがすべてのトークンで、永遠に続く。

• メモリの目安 — Bolt はすべてがすでに圧縮された 24GB のファイルです。一方 Lightning は 30B の BF16 チェックポイントで、単一の GPU を必要とし、RTX 5090、DGX Spark、あるいは Jetson 製品に余裕をもって収まります。

• コンテキスト — どちらも1Mトークンと規定されており、実際にはどちらももっと狭い範囲です。Lightningは、メモリ計算が厄介になる前に、単一のH100上で256Kを提供します。Boltの公表されているウィンドウは262,144で、そのウィンドウは同じ24GBをKVキャッシュ、画像、ツール結果と共有します。

• 速度に関する主張 — NVIDIAは、Lightningについて、同程度のサイズのモデルと比べて最大4倍の出力速度を、同社のMTPおよびDFlash/DSparkドラフターを通じて実現すると主張しており、またBoltの設計目標として毎秒少なくとも80トークンのデコードを掲げ、RTX Spark上のAIPerf SPEED-Benchでは84、128GB搭載のSurface Laptop Ultraでのllama.cpp実行では83.99を計測したとしている。いずれもベンダー公表値である。どちらもNVIDIA以外の誰によっても再現されていない。

• 従量課金 — どちらも、当社からも、ご案内できるプラットフォームからも、ホスト型の価格は提示されていません。どちらの場合でもコストはお使いのハードウェアであり、まさにそのため、アクティブパラメータ数はホスト型との比較におけるよりも重要になります。

パネルが測定できたこととできなかったこと

Artificial AnalysisにはNemotron 3.5 Bolt 74B-A9Bの項目があり、Intelligence Indexで21点を付けている。これは同フットプリントクラスで67中4位、クラス中央値は8だ。その速度とタスクあたりコストの欄はN/Aとなっている。呼び出せるホスト型エンドポイントが存在しないためだ。これら2つの空欄は、このモデルの正直な状態を示している。知能の下限は独立に検証されているが、性能の上限は検証されていない。

執筆時点では、Nemotron 3.5 Lightningに関するArtificial Analysisの項目は存在せず、比較全体がNVIDIA自身の公表値だけに依拠することになる。実際に存在する独立したデータポイント、すなわちLLM StatsによるTerminal-Bench 2.1での約24.6という検証結果は、ベンダーの23.46と整合しており、ベンダーの数値に反するどころか、それを裏付けている。これはこの表について心強い材料ではあるが、第二のハーネスの代わりにはならない。

実際に選ぶ方法

設計意図は、ベンチマークが決める前にほとんどのケースを決めてしまう。Lightning は構造上エグゼキュータである。NVIDIA 自身の指針は、フロンティアモデルに計画させ、Lightning にループを実行させることであり、表の中で Lightning が最も良い成績を出している行は、自律エージェント系のものではなく、高頻度のツール呼び出し系のものだ。Bolt は構造上ジェネラリストである。同じ表で、Bolt はブラウジング・エージェンシーとターミナル作業で遥かに先行していることが示されている。これらは、Lightning がそもそも担うはずではなかった、どちらかといえばプランナー寄りのタスクだ。そして、両者のうち見ることができるのは Bolt だけである。

両モデルが想定して作られた構成は、プランナー、エグゼキュータ、ローカルスペシャリストです。どちらのチェックポイントにもホスト型の料金が設定されていないため、その役割分担はご自身のハードウェア上で処理されることになり、その手前に置いた1つのエンドポイントが実際に役立つ処理を担います：短いツール呼び出しループをLightningデプロイメントへ送るルーティングルールであり、視覚を伴うリクエストとブラウザ操作のリクエストはBoltへ、真のフロンティア推論を必要とするものはホスト型モデルへ送ります——すべてを1つのキーの背後に置き、ホスト型の経路が劣化した際には上流プロバイダー間でフェイルオーバーします。このルールは各サービス内ではなく設定に存在し、これがルーティングレイヤーとリライトの違いです。

未解決の争点は、単一の独立した実行にかかっている。第三者がBolt上でTerminal-BenchとBrowseCompの差を再現すれば、24GBチェックポイントは真により強力な汎用モデルであり、30Bティアの根拠は純粋なスループット経済性へと狭まる。再現されなければ、正直な解釈はこうだ——2ビット量子化された74BとBF16の30Bは、あるベンダーの表が示唆するよりも接近しており、Lightningが勝っている非ハルシネーションの行は、カード最下部という位置が示唆するよりも重く見るべきである。