Nemotron 3.5 Bolt 74B vs DeepSeek V4 Pro：どちらもオープン、一方は24GBに収まる

NVIDIAのNemotron 3.5 Bolt 74B-A9B 24GBとDeepSeek V4 Proは、オープンかクローズドかという軸では同じ側にあり、ハードウェアという軸では互いにまったくかけ離れている。どちらもダウンロード可能な重みを公開し、商用利用を許可し、誰の許可も得ずにサービス提供できる。一方は740億パラメータでアクティブが90億、24ギガバイトに収まるよう量子化されているため、ラップトップクラスのマシンで他のアプリケーションと一緒に動作する。もう一方は1.6兆パラメータでアクティブが490億であり、「デプロイメントフットプリント」という言葉は、前者における意味とはまったく異なる。

その差はインデックススコアよりも重大であり、しかもインデックススコアはすでに15ポイント離れている。以下に示すのは、チームが実際に実行しなければならない比較だ。抽象的にどちらのモデルが優れているかではなく、この2つのオープンウェイト製品のどちらを、どの品質で、いくらの費用で実際に運用できるか、という比較である。

「オープン」の大きく異なる二つの形

とはいえ、そのどれよりも先に、はっきり言っておく価値がある。オープンウェイト側の2つは同じように登場したわけではないからだ。D​eepSeekはV4 Proを製品として公開し、モデルカードと料金表を用意した。N​VIDIAはN​emotron 3.5 Bolt 74B-A9B 24GBをまったく発表していない。ファイルはただ現れた。2026年10月7日には24GBの量子化リポジトリ、その数時間後にはGGUF変換、10月9日にはBF16チェックポイント、10月12日にはLiLiCorrの投機的ドラフターだ。N​VIDIA自身のチャネルが16日間沈黙しているのが現状なので、この比較の検証可能な半分はリポジトリが証明できるもの——ライセンス、パラメータ数、ファイル形式、カード上のサービングレシピ——であり、未確認の半分は発表記事なら載せていたはずのすべてだ。以下のスループットとエージェント性能の数値はN​VIDIA自身によるもので、その旨が明記されている。それらを照合できる第三者は、1つのインデックス以外に存在しないからだ。

{{1}}ライセンスとチェックポイントから始めましょう。なぜなら、そここそがオープンウェイトの判断が本当に下される場所だからです。{{/1}}

• ライセンス — N​emotron 3.5 Bolt 74B-A9B 24GB: OpenMDW-1.1。明示的に商用利用を許容する条項を備えた寛容なモデル重みライセンスであり、N​VIDIAのモデルカードには、このモデルが商用または非商用利用に利用可能であると記載されている。DeepSeek V4 Pro: MIT。これは重みライセンスとしては、ほぼ最も制約が少ないものだ。

• 実際に公開可能なもの — N​emotron 3.5 Bolt 74B-A9B 24GB：24GB IQ2ビルド、量子化前のBF16チェックポイント、llama.cpp用のGGUFビルド、および別個のLiLiCorr投機的ドラフター。DeepSeek V4 Pro：フルウェイトのチェックポイントとその派生版。

• チェックポイントの由来 — N​emotron 3.5 Bolt 74B-A9B 24GB：N​VIDIA の N​emotron 3.5 Super VL 120B-A12B 親モデルから、ルーター誘導型アーキテクチャ探索である Star Elastic を用いて圧縮し、その後、量子化認識蒸留で量子化したもの。これは蒸留された子モデルであり、ゼロから作られたモデルではない。また N​VIDIA 自身の研究ページでは、大規模モデルを固定予算に圧縮する方が、小規模モデルをゼロから訓練するよりも優れていると明示的に論じている。DeepSeek V4 Pro：ネイティブに訓練されたフロンティア規模の mixture-of-experts。

その3番目の箇条書きこそ、あなたが目にするほとんどの評価を左右するものです。これら2つの間で行われるベンチマーク比較はすべて、積極的な圧縮という設計思想と、スケールという設計思想の比較であり、この2つが同じワークロードで収れんすることはありません。

それぞれがどの値で計測するか

Artificial Analysisは両方を、そのインデックスの同一の最新リビジョン上で実行している。このような一文をそもそも書くことができる唯一の理由は、まさにこれである。

• Intelligence Index — N​emotron 3.5 Bolt 74B-A9B 24GB は21で、オープンウェイトのサイズクラス内の67モデル中4位。DeepSeek V4 Pro は36で、116モデル中9位（0813ビルドの最大構成で測定）。

• インテリジェンス指数のタスクあたりのコスト — N​emotron 3.5 Bolt 74B-A9B 24GB：該当なし。パネルにはその公開APIが記録されておらず、割るべき従量課金価格が存在しないため。DeepSeek V4 Pro：パネル独自の加重基準で測定したところ0.67ドル。

• 出力速度 — Nemotron 3.5 Bolt 74B-A9B 24GB：NVIDIAは、Surface Laptop Ultra上で、ドラフターを使ったAIPerf SPEED-Bench-Codingにおいて83.99トークン/秒を報告しています。DeepSeek V4 Pro：Artificial Analysisがホスト型APIに対して測定した96.3トークン/秒。両者は同じ測定ではなく、互いに差し引くべきではありません。両者が示しているのは、どちらも十分に高速であり、速度が制約要因ではないということです。

• 冗長性 — Nemotron 3.5 Bolt 74B-A9B 24GB は、パネルのインデックス実行中に2億3,000万トークンを生成した。同クラスの中央値は1億トークンだった — パネル自身の注記も、これを非常に冗長だとしている。DeepSeek V4 Pro は1億6,000万トークンを生成し、中央値は1億3,000万トークンだった。従量課金APIでは、この差は請求明細の一行になる。ローカルマシンでは、それは電力と実時間である。

15ポイントのインデックス差は現実に存在し、より小型のモデルの実行コストが低いという事実によって埋まるものではない。それがそもそも埋まるワークロードにおいて、それを埋めるのはベンダー自身のベンチマークセットであり、そのセットはしかるべき疑いの目で読む価値がある。N​VIDIAのカードはBoltモデルをTerminal-Bench 2.1で50.98、BrowseCompで66.75とし、その横に印刷されたあらゆる比較対象列を上回っている。これらはN​VIDIAのカードに載ったN​VIDIAの数値であり、D​eepSeekはその列の一つではない。

デプロイメント図が実際の決定です

ここから、DeepSeek V4 Pro と N​emotron 3.5 Bolt 74B-A9B 24GB は、もはや互いの代替品ではなくなります。

• 実行する余地。1.6兆パラメータのモデルで、アクティブパラメータが490億のものは、サービングクラスタを必要とします。たとえ大幅に量子化しても、チェックポイントだけで、単一のワークステーションが保持できる量を桁違いに超えています。また、アクティブパラメータ数が多いため、量子化方式に関係なく、すべてのトークンがメモリ帯域のかなりの部分にアクセスすることになります。Boltモデルは、明示された上限に照らして設計されました — NVIDIAのアーキテクチャ探索は、バッチサイズ1および128Kコンテキストで24GB未満のフットプリントを目標としています — そして、探索は下流の量子化がすでに考慮された状態で実行されます。

• 実用最小限のサービングスタック。 N​emotron 3.5 Bolt 74B-A9B 24GB は、v2 モデルランナーを有効にした特定の vLLM ナイトリー版、ダウンロード済みの reasoning-parser プラグイン、b12x カーネル、および明示的な MoE、Mamba、アテンションバックエンドのフラグを必要とします。llama.cpp が GGUF パスをカバーします。 DeepSeek V4 Pro は分散スケールで通常の推論スタックによって提供されており、これは別種のプロジェクトであり、別種のオンコールローテーションを伴います。

• 入力。Boltモデルはテキスト、画像、動画を受け取り、参照レシピでは動画のフレーム数に上限を設け、プルーニング率を適用する。DeepSeek V4 Proが公開しているモダリティ一覧は、テキスト入力・テキスト出力である——そのMixture-of-Expertsの規模は、知覚ではなく推論に費やされている。

• コンテキスト。Boltモデルは262,144トークン、DeepSeek V4 Proは約100万トークンです。ワークロードがリポジトリ、契約書一式、または長いエージェントのトランスクリプトの場合、それは実に4倍の差であり、DeepSeekに有利です。

率直に言えば、データセンターと最先端の推論を必要とするワークロードがあるなら、DeepSeek V4 Pro のほうが優れたモデルであり、指標もそう示している。ラップトップ、Spark ボックス、またはワークステーションがあり、モデルが他のすべてと並行してローカルで動作することが要件なら、N​emotron 3.5 Bolt 74B-A9B 24GB はその要件における妥協ではない — 2つのうちそれを満たす唯一のものだ。

小さいモデルがディスク以外にもたらすもの

インデックススコアには表れず、デプロイメントレビューには表れる3つのこと。

• ネットワークケーブルを抜いた状態でも動作する。ローカルストレージ上の24GBチェックポイントには、可用性への依存も、レート制限も、プロバイダー障害もない。自分が所有するマシン上で動くエージェントにとって、それが設計目標のすべてであり、N​VIDIAがフル精度で何かを出荷する代わりに120Bの親モデルを圧縮した理由でもある。

• ここでは投機は安価で安全です。LiLiCorrドラフターはディスク上で1ギガバイト未満しか追加せず、NVIDIAは、7ドラフトトークンかつ並行度64において、貪欲法で平均受理長4.68、確率的手法で4.25を報告しています。ターゲットがすべてのドラフトを検証するため、誤った推測は精度ではなく速度を犠牲にします — 出力分布は保持されます。この特性により、ローカルマシンで投機的パスを出荷することは合理的であり、モデルカードに記載されています。

• スタック全体が検査可能です。重み、量子化設定、ドラフター、サービングレシピ、技術レポートはすべて公開されています。モデルの挙動がおかしいときは、チケットを起票するのではなく、設定を読むことができます。

二つの選択肢のコストを正直に計算すること

価格の比較は対称的ではなく、対称的であるかのように装うことは、このページで最も犯しやすい間違いだろう。

• Nemotron 3.5 Bolt 74B-A9B 24GB には従量課金エンドポイントがないため、トークンあたりの価格はありません。そのコストは、購入する、あるいはすでに保有しているハードウェアに、電力、さらにサービング構成を立ち上げるためのエンジニアリング時間を加えたものです。一度それを支払ってしまえば、トークンあたりの限界費用はほぼゼロに近づき、そのままです。

DeepSeek V4 Proは従量課金制です。OrcaRouterでは、DeepSeekが公開しているリスト価格、入力トークン100万個あたり0.66ドル、出力トークン100万個あたり1.98ドルでルーティングされ、上乗せのマークアップはありません。そのため、ベンダーの価格改定は同日中に当社側にも反映されます。1日あたり数百万トークン規模のワークロードにとって、それは誤差ではなく予算の一行です。

• 損益分岐点はトークン数ではなく、利用率プロファイルです。アイドル状態のローカルモデルは純粋な設備投資です。週に1回のリクエストを処理するホスト型モデルはほぼ無料です。クロスオーバーは、計測するトークン数がボックスの償却コストを超えるときに起こり、あなたのトラフィックにとってそれがどこにあるかを知る唯一の方法は、1週間分を測定することです。

もう一つ、試すのにほとんど費用がかからない第三の選択肢があります。それは、OrcaRouter が DeepSeek V4 Pro を 1 つのキーで 200 以上の他のモデルと並べてルーティングし、プロバイダー間の自動フェイルオーバーを備えているというものです。ワークステーションを 24GB のローカルビルドに投入する前に、そのビルドの出力を従量課金制のフロンティアモデルと自分のプロンプトセットで比較すれば、数ドルで済み、インデックステーブルの信頼性に頼るのではなく、品質に関する疑問を実証的に決着させられます。

誰も後悔しないこの決断の形

両方を、それぞれが得意とするパターンで実行してください。DeepSeek V4 Pro は、推論の深さや100万トークンのコンテキストが要点となるリクエスト、および従量課金コストが可視化され許容できる場合に。N​emotron 3.5 Bolt 74B-A9B 24GB は、大量・プライベート・マルチモーダルまたはオフラインのトラフィック向けです。そこでは、モデルがローカルであることがコスト最適化ではなく要件となります。

人々が繰り返し行おうとする比較——ある指標の数値を別の数値と突き合わせること——は、ここでは最も役に立たない見方だ。なぜなら、この2つの製品は競わせるために作られたわけではないからだ。一方は、フットプリントの制約なしで可能な限り優れたものになるよう作られた。もう一方は、24ギガバイト以内で可能な限り優れたものになるよう作られた。どちらもオープンで、どちらも正当だ。だからこそ、選択はあなたが下すものであり、ベンダーがあなたに代わって下すものではない。

このような比較は、失敗モードが表面化する場でもあります。このクラスのモデルの背後にある、記録されたAIインシデントやエージェントの障害は、OrcaRouter AI Incident Archiveにまとめられており、各エントリには独自の情報源、重大度、信頼度グレード、異議フラグが付いています。