Nemotron 3.5 Bolt対Nemotron 3 Ultra：7.4倍の圧縮を生き残るのは何か

同じベンダーの2つのモデルは、パラメータ数で7.4倍、実行に必要なハードウェアでおよそ2桁の差があります。 NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GBは、2026年10月15日にリリースされた24GBファイルで、SparkデバイスまたはBlackwell GPU上であなたの他のアプリケーションと並行して動作します。 NVIDIA Nemotron 3 Ultra 550B-A55Bは、2026年6月3日からHugging Faceで公開されており、BF16で最低16台のH100を要求します。

興味深い問いは、どちらがより強力かではない——その答えは明白で、勝負にもならない。問いは、大きなモデルを小さなメモリ枠に圧縮したとき、具体的に何が生き残るかだ。なぜなら、それは小さいモデルがどのワークロードを吸収でき、どのワークロードで見劣りするかを教えてくれるからだ。NVIDIA自身の研究ノートは、その問いの一部に直接答えている。そして、それが答えていない部分こそ、本当の意思決定が宿る場所なのだ。

名前が何を示唆していようと、彼らは親子ではない

明白な想定は、Boltが縮小されたUltraだというものだ。しかしそうではなく、これを正しく理解することが、このファイルに何を期待するかを変える。Nemotron 3.5 Lightning、2026年8月11日の30B-A3Bティアは、Ultraから蒸留された。Boltはそうではない。Boltは、NVIDIAがStar Elasticと呼ぶルーター誘導探索を使って、120B-A12Bの視覚言語モデルであるNemotron 3.5 Super VLから圧縮され、続いてIQ2_XXS形式でエキスパート重みあたり2.0625ビットまで量子化認識蒸留が行われている。

その系譜は、どのベンチマークの行よりも重要な唯一の違いを説明している。BoltはC-RADIO v4-H vision encoderを備え、画像と動画を受け付ける。Ultraはテキスト入力、テキスト出力であり、これは報告上の欠落ではない——そのチェックポイントにはスコアを付けるべきvision towerが存在しない。より小さく、より新しく、大幅に量子化されたモデルは見る。ファミリー内で最大の推論モデルは見ない。

圧縮が保持したもの

BoltはMamba-2とTransformerのハイブリッドバックボーン上で740億個のパラメータを搭載し、トークンあたり90億個がアクティブになる。Ultraは5500億個を搭載し、550億個がアクティブになる。アクティブパラメータ比は6.1対1、総パラメータ比は7.4対1であり、これは圧縮によってトークンあたりの計算量よりも総容量が比例して多く削減されたことを意味する——モデルは浅くなるよりも速く狭くなった。

入手できる証拠から見て、それが生み出すもの：

• 独立したインテリジェンス — Artificial Analysis は、Intelligence Index において Nemotron 3.5 Bolt を 21 と評価しています。これはフットプリントで絞り込んだクラス内の67モデル中4位で、クラス中央値は8です。Ultra は同じクラスには含まれておらず、同じインデックスバージョンではるかに高いスコアを記録しています。これがこの圧縮の測定可能なコストです。

• 独立した速度 — Artificial AnalysisはUltraを毎秒156.1出力トークンと測定しており、そのページの74モデル中10位で、最高速度帯に入っている。Boltでは同じ項目がN/Aと表示される。呼び出せるホスト型エンドポイントが存在しないためだ。NVIDIA自身の数値 — RTX Spark上のAIPerf SPEED-Benchで毎秒84トークン、Surface Laptop Ultra上のllama.cppで83.99 — はベンダー報告であり、再現されていない。

• 指示追従 — UltraはIFBenchで82.9を記録。これは、長いツールポリシーに従わなければならないエージェントにおいて注視すべき行であり、量子化対応蒸留が不均一にしか保持しない類の能力だ。

• 長文コンテキスト推論 — Ultraは1Mトークンの仕様に対してAA-LCRで75.2を記録。Boltの公表ウィンドウは262,144トークンで、KVキャッシュ、画像、会話と24GBを共有する。宣言された広いウィンドウと、それを実際に活用できる能力は別物であり、ここではより大きなモデルの方がその両方をより多く備えている。

• 事実に関する抑制 — Ultra は AA-Omniscience のハルシネーションで 22.1、非ハルシネーションで 77.91 を記録。Bolt 自身のカードは非ハルシネーションで 61.27 を記録しており、これはるかに小さい Nemotron 3.5 Lightning に負けている唯一の行だ。同じ方向を指す 2 つの独立した兆候：ここが攻撃的な 2 ビット圧縮で最もコストがかかる場所であり、より多くを捏造するモデルはルーティングの小細工では修復できない。

デプロイメント・エンベロープ、つまりそこで実際に両者が分離する場所

これが、スコアに還元できない比較の部分です。

• メモリ — Boltは単一の24GBアーティファクトであり、すでに量子化済みで、1台のマシン上でブラウザやIDEと共存することを想定している。UltraのBF16は、自身のモデルカードによれば16台のH100、8台のH200、または8台のGB200クラスのノードを要求する。NVFP4ビルドはそれを下限で8台のH100まで絞り込む。この2つの文の違いは、発注書と調達プログラムの違いである。

• コンテキスト構成 — Bolt は公開されている vLLM レシピで 262,144 トークンを直接提供します。Ultra のレシピはデフォルトで 256K で、完全な 1,048,576 に到達するには環境フラグが必要です。そのため、1M 仕様にもかかわらず、パネルには Ultra について 262K と記録されます。仕様を読んでから、レシピを読んでください。

• サービングスタック — Boltは、商用利用を許可するOpenMDW-1.1ライセンスの下で、Ampere、Hopper、Blackwell上ではvLLMのもとで、RTX SparkおよびDGX Sparkハードウェア上ではllama.cppのもとで動作します。Ultraは同じライセンスの下、データセンタークラスの並列処理で動作します。どちらもオープンウェイトです。ポータブルなのは、そのうち一方だけです。

• プロンプト費用 — Ultra は100万入力トークンあたり $0.60、100万出力トークンあたり $2.50で、73%のキャッシュ割引付きで従量課金され、Intelligence Index タスクを1回実行するのに約 $0.60 かかります — その規模のモデルとしては本当に安く、他の誰かがクラスターを運用しているおかげで利用できます。Bolt には価格がまったくありません。ホスト型エンドポイントも、ベンダー API も、料金表もなく、Bolt を掲載している唯一の独立系パネルの速度とコストの両方の欄で N/A です。

発表が何を述べ、何を述べていないかを読み取る

Boltのチェックポイントは2026年10月7日からHugging Face上にあり、添付されていたのはモデルカードだけだった。それを名指しするベンダー発表は、4GBの兄弟モデルであるNemotron 3.5 Bolt E4B（ゲームキャラクター向けで、10月23日付）とともに、10月15日に出された。重みが説明文より8日早く公開されるのは珍しくないが、その結果、公開記録の1週間分にはモデルに関する説明が一切含まれず、その期間に書かれたどの記事もモデルカードだけに基づいていたことになる。

この発表は、欠けているものに目を向ける場でもある。ホスト型エンドポイントも、APIも、料金表も、Boltを計測するサードパーティのプラットフォームも存在せず、24GBの重みに対して第三者が実施した独立系ベンチマークもない。ベンダーの数値は現実的かつ具体的で、128GB搭載のSurface Laptop Ultra上でllama.cppを用いて取得されたものだが、NVIDIAの外部では再現されていないだけのことだ。

各モデルがどこに属するか、そしてルーターがどこに属するか

これらのモデルはいずれもOrcaRouterのカタログにはありません。当社はNVIDIAのチェックポイントを一切ホストしておらず、BoltエンドポイントもUltraエンドポイントも存在せず、ここにあるのはどちらかを提供するという申し出でもありません。単一のエンドポイントが実際に買うものは、どちらか一方、あるいは両方をご自身で運用している場合に、ワークフローのローカル側とホスト側を1つのキーの下にまとめる手段です——当社カタログにある200以上のモデルは、1つのAPIキーと1つの請求の背後にあり、各プロバイダーの定価に0%のマークアップを上乗せせずそのまま通した価格で提供されるため、ベンダーの価格変更は次回の更新時ではなく当日に当社側でも反映されます。100万トークンのフルウィンドウやフロントエンド規模のリーズナーを必要とするリクエストはホスト型モデルへ送られ、ローカルファイルは、建物の外に出るべきではなかった大量かつプライバシーに敏感な作業を担います。自動フェイルオーバーにより、上流が劣化した場合はリクエストを失敗させるのではなく別の宛先へ回します。

配置はスコアではなく、デプロイメントの計算から導かれる。Bolt は、データを移動できない場合、ワークロードに動画が含まれる場合、またはボリュームによってトークン単位の課金が主要な費目になる場合 —— そして、262K のウィンドウと、すでに見えている事実抑制のギャップが許容できる場合に、ワークステーションに置くべきです。Ultra は、作業に100万トークンの到達範囲、ファミリー内で最も強力な指示追従性、そして NVIDIA が現在公表している中で最も低いハルシネーション率が必要な場合に、従量課金エンドポイントに置くべきです。

誰が行動すべきで、誰が待つべきか

ワークロードがローカルで動画を伴うなら、今すぐ動け。Bolt はこのファミリーで唯一、24GB に収まりながら視覚も扱えるモデルであり、そのフットプリントで独立系インデックスにおいて 21 を獲得するオープンチェックポイントは他にない。ワークロードが大量の長コンテキストテキスト推論なら、今すぐ動け。Ultra は従量制で、実測済みで、そのサイズのモデルとしては到底あり得ないほど Intelligence Index タスクあたりのコストが安い。

待って、もしあなたの判断がスループット次第なら。Boltの速度は、どこにも独立した測定が存在しない唯一の次元であり、ローカルにデプロイされたモデルでは、速度は毎日毎秒感じるものだ。24GBの重みでの第三者によるレイテンシ測定が一度あれば、次のベンダーベンチマーク10行分よりも多くの決着をつけられる——そしてそれが存在するまでは、Boltのキャパシティプランニングは主張を前提に計画していることになる。