Nemotron 3.5 Bolt対Kimi K3：24GBのダウンロードモデルと2.8兆パラメータのリーダー

正直に短く答えるなら、この2つのモデルは同じ仕事を争っているのではなく、その理由は1つの数字で測れる。Kimi K3のコンテキストは1,048,576トークン。NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GBは262,144トークン。あなたのタスクが「このコーパス全体を読んで一括で回答する」ことなら、24GBのチェックポイントは、その他の点が問題になる前に失格だ。そして、タスクが「ネットワークも、従量課金も、ベンダーも介在しないワークステーションで動かす」ことなら、Kimi K3も話にならない。Kimi K3は、Moonshot AIが2026年7月15日に独自のホスト型APIで公開した2.8兆パラメータのmixture-of-expertsモデル。Nemotron 3.5 Bolt 74B-A9B 24GBは、74Bのパラメータのうち任意のトークンで90億を使用し、24GBのメモリに収まるオープンウェイトのファイルだ。

Boltのチェックポイントは2026年10月7日、何の告知も添えられないままHugging Faceに公開された。NVIDIA自身がこのモデル——およびその4GBの兄弟であるNemotron 3.5 Bolt E4B——の名を挙げた投稿が届いたのは、それから8日後の10月15日だった。この順序は知っておく価値がある。というのも、それは何が検証可能かを左右するからだ。公開記録のうち8日分は、ダウンロード可能なファイルとモデルカードだけで成り立っており、それを説明する文章は後からやってきたのだ。

各モデルが何をするために作られているか

Kimi K3はMoonshotのフラッグシップであり、これまでで最も高性能なリリースです。2.8兆パラメータのスパースなMixture-of-Expertsで、トークンあたり約1040億パラメータがアクティブになり、長期的なコーディングとエンドツーエンドのナレッジワーク向けに構築されており、テキストと画像を受け取り、テキストを返します。これは提供されるものであり、出荷されるものではありません。ダウンロードも、ローカルで実行するための量子化ビルドも、ラップトップで動かせるほど小さいバージョンもありません。

Nemotron 3.5 Bolt は正反対の構成です。NVIDIA は自社の 120B-A12B Nemotron 3.5 Super VL モデルを採用し、Star Elastic と呼ぶルーター誘導型圧縮を適用して 74B-A9B に到達させ、その結果をエキスパート要素あたり 2.0625 ビット — IQ2_XXS 形式 — に量子化し、量子化対応蒸留によって、価格設定が犠牲にする精度を回復しました。バックボーンは、ベンダーが LatentMoE と呼ぶ Mamba-2 と Transformer のハイブリッドで、画像・動画入力用の C-RADIO v4-H 視覚エンコーダを備えています。これは、商用利用を許可する OpenMDW-1.1 ライセンスの下、Ampere、Hopper、Blackwell の各パーツでは vLLM で、RTX Spark および DGX Spark ハードウェアでは llama.cpp を通じて動作します。

大規模なコーパスを読んで、価格が付けられる

ここで比較は好みではなく算数の問題になる。Kimi K3 は OrcaRouter 上で Moonshot の定価どおりにルーティングされ、上乗せは一切ない。入力トークン100万あたり $3.00、出力トークン100万あたり $15.00、キャッシュ読み取りは $0.30 だ。当社のカタログにおける初回トークンまでの p50 は 7.02 秒、p95 は 10.00 秒で、過去7日間には当社のカタログ全体で9億9,060万トークンのルーティングトラフィックを処理した — 大規模な長文コンテキストの読み取りは、思考実験ではなく実際のワークロードなのだ。

Nemotron 3.5 Bolt には価格がありません。値付けする対象が何もないからです。ホスト型エンドポイントも、ベンダー API も、料金表もなく、Artificial Analysis がその速度と Intelligence Index タスクあたりのコストの両方を N/A と記載しているのは、まさにそのためです。代わりにあるのは、一度購入すれば済むメモリ上限と、電気代に丸められる程度の限界費用です。毎晩固定のコーパスを読み込むパイプラインにとって、入力トークン100万個あたり3ドルとゼロの差は割引ではなく、別の会計モデルです。そして損益分岐点は、この記事ではなく、あなたの財務チームが答える設備投資の問いです。

ビジョンは、人々が思っているような決め手ではない

どちらのモデルも画像を扱えます。似ているのはそこまでです。

• 入力 — Kimi K3 はテキストと画像を受け付け、Nemotron 3.5 Bolt はテキスト、画像、動画を受け付けます。画面録画を視聴したり、カメラフィードからフレームをサンプリングしたりするエージェントにとって、ファイルを直接渡せるのは、これらのうち一方だけです。

• 視覚経路の精度 — Bolt は専用設計の C-RADIO v4-H 視覚エンコーダーを搭載し、圧縮元である Super VL クライアントからそのマルチモーダル動作を継承している。Kimi K3 の視覚理解はネイティブとして文書化されているが、Moonshot が前面に打ち出しているモデルの部分ではない。NVIDIA 自身の表には Bolt の WebArena 視覚スコアが 50.86 と記載されている。これはベンダー報告値として扱うこと。

• 推論制御 — Kimi K3 は temperature、top_p、seed のいずれも公開せず、推論の深さは reasoning-effort パラメータのみで設定されます。Bolt の推論モードはチャットテンプレートのスイッチ（enable_thinking を true または false にする）で、同じ Super VL クライアントから継承されています。

• 投機 — Bolt には LiLiCorr ドラフターが同梱されており、DFlash 経由で駆動され、ステップごとに 7 トークン先まで提案します。これが、AIPerf SPEED-Bench における毎秒 84 トークンという NVIDIA の主張の背後にある仕組みです。ホスト型エンドポイントには同等のレバーはありません。オペレーターが用意したものがそのまま得られます。

測定されたギャップ、そしてそれが何からできているか

Artificial Analysisは、Kimi K3をIntelligence Indexで43.6、Nemotron 3.5 Boltを21と評価している。これを接戦と読むことはできない。Kimi K3のサポート行は、長文コンテキストの読者が必要とする箇所で強く、測定された138モデル中9位のAA Coding Index 76.2、GPQA Diamondスコア93.5、そして長文コンテキスト想起率88.7を記録している。これは、100万トークンのウィンドウが単に宣言されているだけでなく、実際に使用可能であることを示す数字だ。

Bolt's 21は異なる種類の結果だ。それはフットプリントで絞り込まれたクラスにおける67モデル中4番目に高いスコアであり、クラス中央値は8で、Artificial Analysisは同程度のサイズの主要なオープンウェイトモデルの一つだと評している。両方の数値を正しく捉えるなら、一方はフロンティアラボがメモリ制約なしで何を達成できるかを測り、他方は24GBが何を保持できるかを測っているということだ。22インデックスポイントは制約の代償であり、より小さいモデルが下手に作られた証拠ではない。

Bolt側に欠けているのは、その速さに関する独立した測定値だ。NVIDIAは、デコードについて少なくとも毎秒80トークンを設計目標として報告しており、自社ベンチマークでは84、128GBのSurface Laptop Ultraでllama.cppを実行した場合は毎秒83.99トークンとしている。本稿執筆時点で、第三者による24GBの重みに関するスループットやレイテンシの数値は公開されていない。対照的に、Kimi K3のレイテンシは測定済みで公開されている — 最初のトークンまでのp50が7.02秒、p95が10.00秒 — そして計画の基準にすべきなのはこれらの数値であり、ベンダーの数値ではない。

ルーティング層が答えを変える場合

Kimi K3は、当社のカタログにkimi/kimi-k3として、Moonshotの定価で、0%のマークアップを加えて掲載されています、200以上ある他のモデルと同じキーの背後に位置し、上流プロバイダーの1つが劣化した際の自動フェイルオーバーを備えています。Nemotron 3.5 Boltは当社のカタログにはありません — 当社はNVIDIAのチェックポイントを一切ホストしておらず、呼び出せるBoltエンドポイントも存在しないため — したがってここでのルーティングの疑問は、当社が提供する2つのうちどちらを選ぶかということではありません。それは、実際のパイプラインの2つの半分が互いにどう通信するかです。

うまくいくパターンは、ローカルリーダーとホスト型リーズナーだ。Boltはあなたのハードウェア上に常駐し、データを建物の外に出せず、トークン単位の課金が苦痛になるほどの量を伴う高頻度の処理を担う。Kimi K3は、100万トークンのウィンドウやフロンティア規模の推論を必要とするリクエストを処理し、料金は100万トークンあたり$3と$15だ。両者の前にルーティングルールを置けば、その分担はリファクタリングではなく1行の設定になる。ローカルのコンテキスト予算を超えるリクエストはKimi K3へ送られ、それ以外はすべてワークステーション上に留まる。モデル融合は、高価な呼び出しこそが重要なものである場合に知っておく価値のある派生形だ——複数のモデルが同じプロンプトに一緒に答え、一致した内容を採用する。

何を見るべきか

この組み合わせの決着をつける具体的な証拠は、範囲が狭く、しかも差し迫っている。24GBのBoltウェイトでの最初の独立したスループットとレイテンシの計測は、NVIDIAの毎秒84トークンという数値を裏付けるか、あるいはそれを縮小させるかのどちらかになる。Boltのホスト型サービスの価格が公表されれば、この比較のコスト面は単なる算数になる。そしてKimi K3について2回目の長文脈リコール測定が行われれば、その88.7という値が1つのハーネス固有の性質ではなくモデルそのものの性質であることが確認される。

それまでは、この要約はどちらのベンダーの枠組みよりも狭い。Kimi K3 は、ベンチマークで測定できるあらゆる軸においてより優れたモデルであり、今日の午後に呼び出せる2つのうち唯一のものである。Nemotron 3.5 Bolt は、ネットワークが使えないときにも動き続ける2つのうち唯一のものであり、トークンあたりの限界コストがゼロである唯一のものでもある。本来どこにも送られるべきではなかった作業には2つ目を、リーチが必要な作業には1つ目を選べ。