Nemotron 3.5 Bolt 74B 対 Nemotron 3 Ultra：インデックスポイント1.5、パラメータは7倍

NVIDIA Nemotron 3.5ファミリーで最も驚くべき数字は、そのフラッグシップのサイズではない。驚くべきは、NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB——740億パラメータのチェックポイントを、重みあたり2ビットで24ギガバイトに押し込んだもの——が、Nemotron 3 Ultra、すなわちファミリーの残りが蒸留元とした5500億パラメータモデルに対して、Artificial Analysisが独自に実施するIntelligence Indexで1.5ポイント差に収まっていることだ。21.4対22.9。パラメータは7倍、トークンあたりのアクティブ計算量は6倍、そしてその差はベンチマークの誤差範囲に埋もれてしまう程度のものだ。Boltの重みは2026年10月7日にHugging Faceで公開され、NVIDIAの発表が10月15日に続いた。Ultraは2026年6月4日に出荷された。

その2つのモデルは互換性がなく、両者が異なる点は、見出しのスコアよりも示唆に富んでいる。圧縮が保持したものと破棄したものは、どちらも公開された数値にはっきりと表れており、それらは同じ行ではない。

それぞれが何か

Ultraは前世代のフラッグシップであり、N​VIDIAの蒸留パイプラインの中心にある教師です。これは、総パラメータ数550B、アクティブパラメータ数55BのMamba-2ハイブリッドで、マルチトークン予測を備え、トレーニングデータとレシピとともにOpenMDW-1.1の下でリリースされ、最大100万トークンのコンテキストとリクエストあたり65,000トークンの出力上限を持つ長時間実行エージェント作業向けに構築されています。N​VIDIA自身の主張では、それはリリース期間中の米国のオープンウェイトモデルの中で最も知能が高いものでしたが、独立した記録も大部分それを裏付けています。パネルは推論構成で22.9とスコア付けし、測定された毎秒156出力トークン、最初のトークンまで1.29秒、エンドツーエンドの応答時間の中央値19秒を記録しています。

Boltは新しい世代のエッジティアであり、直接的な意味での蒸留版Ultraではない。その親モデルは、NVIDIAが同時に発表した1200億パラメータのマルチモーダルモデル、Nemotron 3.5 Super VL 120B-A12Bである。圧縮はNVIDIAのルーター誘導型アーキテクチャ探索であるStar Elasticによって行われ、バッチサイズ1、128Kコンテキストで24GB未満という厳しいフットプリント要件を満たしつつ、知識蒸留損失が最小になるように最適化された——エキスパートのtop-Kを22から9へ引き下げ、エキスパート重みを1要素あたり2.0625ビットのIQ2-XXSに量子化し、量子化対応蒸留によって精度を回復させた。親モデルがマルチモーダルだったため、C-RADIO v4-Hビジョンエンコーダを搭載している。

独立した行、両側

以下は別途明記がない限りすべてArtificial Analysisによるもので、これがこの比較を有用なものにしています。両モデルが同一の評価者によって同一のハーネスの下で実行されているからです。

• インテリジェンス指数 — Bolt 21.4、Ultra 22.9。両方とも独立して測定。

• GDPval-AA（正規化） — Bolt 0.240、Ultra 0.257。実際の職務成果物から構築されたベンチマークにおける1.7ポイントの差。

• SciCode — Bolt 0.397、Ultra 0.403。実質的に同等。

• Humanity's Last Exam、ツールなし — Bolt 24.7パーセント、Ultra 28.4パーセント。ここでの4ポイント差は、このリストの中で相対的に最大です。

• AA-LCR 長文コンテキスト検索 — Bolt 69.7 パーセント、Ultra 79.3 パーセント。10 ポイント差であり、2 ビット圧縮が何を犠牲にするかを最も明確に示す証拠。

• AA-Omniscience — Bolt は精度 17.1 パーセント、非ハルシネーション率 56.3 パーセント。Ultra は精度 22.6 パーセント、非ハルシネーション率 70.3 パーセント。フラッグシップはより知識が豊富で、キャリブレーションもより優れており、これはこのページで最も意外性の低い結果だ。

• Terminal-Bench 4.0（より難しいセット） — どちらもスコアはゼロ。そのティアを解けているモデルはどちらもなく、フラッグシップも含めて。

• コンテキストウィンドウ — Bolt: モデルカードによると最大256,000トークン、パネルの記録では262,144。Ultra: NVIDIAによると最大1,000,000トークンで、最大出力は65,000トークン。

• 入力 — Bolt：テキスト、画像、動画を入力し、テキストを出力。Ultra：テキストを入力し、テキストを出力。フラッグシップの発表資料には、ビジョンタワーをうたう記載は一切ない。

• 価格 — Bolt：なし。24GBチェックポイントについて公開された従量料金はなく、パネルにはその入力または出力の数値も記載されていません。Ultra：入力トークン100万あたり$0.60、出力100万あたり$2.50、キャッシュされた入力は$0.16、Intelligence Indexタスクあたりの実測支出は$0.60です。

• 速度 — Bolt：独立した測定なし。Ultra：毎秒156.1出力トークン、最初のトークンまで1.29秒、応答あたりの推論時間の中央値は14.6秒。

• フットプリント — Bolt：IQ2 で 24GB、A100、H100、または Blackwell チップ 1 基にデプロイ可能。Ultra：マルチアクセラレータ構成。このファミリーの教師チェックポイントに対する NVIDIA 自身のレシピでは、最低ラインとして B200 4 基または H100 8 基を挙げており、Ultra はその中で最大のメンバーです。

インデックスの差がサイズの差よりも小さいのはなぜか、そしてそれが何を意味するのか

正直な説明は2つあり、どちらもおそらく一部は当てはまる。

第一に、Intelligence Index は想起よりも手順を評価する複合指標である。Bolt は保存された事実を2ビット量子化によって失った——精度の行を見ればそれがわかる——が、複合タスクで得点するのに十分な思考の連鎖、ツール呼び出し、構造化出力の挙動は保っていた。Ultra の優位性は、記憶がものを言うまさにその領域に集中している点に注目されたい。長文脈検索、全知精度、幻覚率、方法ではなく事実を必要とする難解な科学問題である。

第二に、強力な親モデル上でのアーキテクチャ探索は、固定予算の使い方として、小規模モデルをゼロから訓練するよりも優れている。これはN​VIDIAがBoltドキュメントで明示している主張だ。120Bのマルチモーダル教師を用意し、24GBに収まる中で最も幅の広い生徒を探索することは、30Bモデルを事前学習するのとは別の作業であり、その結果得られる74B/9Bチェックポイントは、並外れて効率的な74Bが位置するであろうところに収まる。

だからといって、BoltがUltraを置き換えるという意味ではない。不確実性をより頻繁に認め（非ハルシネーション率56.3対70.3％と、逆方向に）、長いコンテキストからの検索信頼性も低いモデルは、人々が実際に尋ねる質問にとってはより劣るアシスタントだ。手順が大部分を占めるタスク、つまりツールの呼び出し、フォームへの記入、ファイルの編集、スクリーンショットを読んで正しいものをクリックすることなどでは、より優れたアシスタントである。

Ultraができない2つのこと

Boltの優位性は限定的であり、そのどちらも数値的なものではなく構造的なものである。

それは収まる。24GBのチェックポイントは、人が所有するハードウェア上で、ネットワークも、トークンごとの課金メーターも、容量の交渉もなしに動く。Ultraの知能はAPI経由でしか利用できず、100万トークンあたり入力$0.60、出力$2.50、インデックスタスクあたりおよそ$0.60の支出がかかる。その価格は同クラスのモデルとしては本当に低く、だからこそホスト型のルートは妥協ではなく現実的な選択肢なのだ——しかしそれでも、接続性と、他人の稼働率への信頼を必要とするルートであることに変わりはない。

視覚を備えています。BoltのC-RADIO v4-Hビジョンエンコーダーにより、画像と動画を入力でき、NVIDIAのモデルカードはWebArena visionで50.86、BrowseCompで66.75と報告しています。Ultraはテキストモデルです。エージェントの仕事にスクリーンショット、PDF、ダッシュボードの読み取り、または視覚的状態を伴うブラウザ自動化が含まれるなら、旧世代のフラッグシップはどんな価格でも代用として投入することはできません。

選び方

推論負荷が高くテキストのみのワークロード、つまり多段階の分析、長い文書セット、大規模リポジトリでのコーディング、あるいは間違いのコストが高いあらゆる作業なら、Ultra を選びましょう。その独立したスコアはほぼあらゆる点で Bolt を上回り、価格は高知能帯の中で最も低い部類に入り、スループットは想定ではなく実測されています。

ワークロードが自分で管理するハードウェア上で動作する場合、見る必要がある場合、またはネットワークが使えないときも動き続けなければならない場合は、Bolt を選ぼう。1.5 ポイントのインデックス差は現実に存在し、しかも、通常は品質ではなくデプロイメントを基準に判断が下されるほど狭い — そして、NVIDIA が自社の 550B フラッグシップと 2 ポイント以内のスコアを出す 24GB ファイルを出荷したという事実のほうが、この 2 つのリリースの中ではよりニュース価値が高い。

名付ける価値のある中間的な道がひとつある。これはNVIDIAがこのファミリーをどう位置づけているかという話であり、単一モデルを買う人の見方ではない。つまり、ツール呼び出しと画面読み取りを担う小さなローカル実行者と、計画立案や難度の高い推論を担うより大きなホスト型モデルという構成だ。そのアーキテクチャには、複数のプロバイダーにまたがってホスト側の半分へ確実に到達する手段が必要であり、それがまさにOrcaRouterのフェイルオーバーの役割だ — 単一のエンドポイントの背後で、プロバイダーをまたいで自動的にリトライする、しかもそのキーは、プロバイダーの定価で0パーセントのマークアップ上乗せなしに200以上のモデルにも到達する。当社はNVIDIAのモデルを一切ホストしていない。Nemotronファミリーは当社のカタログにはなく、ここに記した内容はそれを提供するという主張ではない。要点はただ、二層構成のエージェント設計では第2層がルーティング可能である必要があり、単一のハードコードされたベンダーエンドポイントこそがその設計が失敗する典型的な要因だということにすぎない。

何がこのページを変えるのだろうか

2つの測定。1つ目は、24GBチェックポイントでの独立したスループットとレイテンシの実行であり、これは、それを対話速度でローカル実行者として使用する根拠を確認するか、破壊するかのどちらかになる。現在利用可能な唯一の数値は、NVIDIA自身によるAIPerf SPEED-Bench-Codingでの毎秒83.99トークンであり、ラップトップクラスのマシンで測定されたもので、パネルのリグとは比較できない。2つ目は、第三者が管理する量子化での2ビット重みに対するエージェントベンチマークの独立した再実行である。ベンダーの表では、BoltがTerminal-Bench 2.1でUltraをほぼ27ポイント上回っており、その主張は外部の確認なしに極めて大きな役割を果たしている。

こうしたことはこのモデルを避ける理由にはならず、歴史を知るための理由にすぎない。このクラスのモデルの背後にある、記録に残されたAIインシデントやエージェントの失敗はOrcaRouter AI Incident Archiveにまとめられており、各項目には独自の出典、重大度、信頼度評価、異議ありフラグが付されている。