Nemotron 3.5 Bolt 74B 対 Kimi K3：2.8兆パラメータのフラッグシップに挑む24GBファイル

この比較に登場する2つのモデルは、同じ座を争っているわけではない。そのことは、どちらのベンダーがひと言も発する前に、数字がすでに明らかにしている。N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GBは740億パラメータの視覚言語モデルで、N​VIDIAが2ビットのチェックポイントに圧縮し、OSと並べて24ギガバイトのメモリに収まる大きさにしたものだ。Kimi K3はM​oonshot AIの2.8兆パラメータのフラッグシップであり、実行可能な最小構成でもラック1台を要するオープンウェイトモデルである。前者はN​VIDIAが2026年10月15日に出荷を開始した、ノートPCにコピーできるファイルだ。後者はトークン単位で借りるワークロードである。両者のスコアを並べて読むことに意味があるのは、その差があまりに大きいため、小さい方を代替品だと誰も装えないからだ。

このページで本当に価値があるのは、22 の Intelligence Index ポイントがどこに割り振られるのか、そしてそのうちのどれかが、ローカルエージェントが実際に行うタスクに充てられるのかどうかを見極めることだ。

何がリリースされたのか、そしていつか

Boltリポジトリは2026年10月7日にHugging Faceに登場しました。NVIDIA自身のローンチ投稿はそれを名指ししており、そのタイトルは「データセンターからデスクトップまでオープン：NVIDIA、最高効率のSuper VLおよびBoltモデルでNemotronファミリーを拡張」で、日付は10月15日です。モデルカード自体には、リリース日として2026年10月15日が記載されています。この順序——重みが先、発表は8日後——は、このモデルに関する報道を読むすべての人にとって重要です。なぜなら、公開記録の1週間分は、プレスリリースが一切添付されていないダウンロード可能なチェックポイントとモデルカードだけで成り立っているからです。

両モデルはそれ以外のあらゆる点で隔たりがある。Kimi K3は2026年7月16日に発表され、モデルの重みは7月27日に公開された。そのため約3か月先行しており、第三者による文書化もかなり充実している。

• アーキテクチャ — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB は、C-RADIO v4-H ビジョンエンコーダを備えた Mamba-2–Transformer ハイブリッド LatentMoE です。Kimi K3 は、896 個のエキスパートのうち 16 個にわたってトークンあたり 104B のパラメータを活性化する 2.8 兆パラメータのスパースな混合エキスパートであり、M​oonshot の K​imi Delta Attention に基づいて構築されています。

• パラメータ — N​VIDIAモデルは合計74B、アクティブ9B、Kimi K3は合計2.8T、アクティブ104B。小さい方のモデルがアクティブ化する計算量は、大きい方のモデルのトークンあたり計算量の10分の1未満である。

• メモリフットプリント — 2ビット量子化で24GB（エキスパート重みには要素あたり2.0625ビットのIQ2-XXS、Mamba層にはNVFP4、埋め込みと出力にはQ8_0）に対して、2.8Tパラメータのデプロイにかかるコストは、このページがギガバイト単位で示せる数値ではない。

• コンテキスト — N​VIDIAモデルは262,144トークン、Kimi K3は1,048,576トークン、長さにかかわらず定額料金。

• 入力 — テキスト、画像、動画を入力し、どちらもテキストを出力します。

• ライセンス — NVIDIAのチェックポイントにはOpenMDW-1.1、Moonshotの重みにはKimi K3ライセンス。ほとんどの用途では許容的だが、年間収益が2,000万ドルを超える場合は別途契約が必要。

独立した数々、そして存在しない唯一のもの

Artificial Analysisは両方のモデルを実行済みであり、それによってこの比較はそもそも成立している。ボード上のすべてが両方について測定されたわけではなく、そのギャップはスコアと同じくらい多くのことを物語っている。

• Intelligence Index — NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB は 21.4 を記録し、パネル独自の比較セットにおいて同サイズクラス 67 モデル中 4 位。Kimi K3 は最大推論モードで 43.6、低モードで 30.1 を記録。どちらの数値も独立に測定されたもので、ベンダー報告ではありません。

• インテリジェンス指数タスクあたりのコスト — NVIDIAのモデルには数値がない。従量制の価格が存在しないためだ。Artificial Analysisは、このモデルについて入力・出力いずれの単価も一切掲載していない。Kimi K3は、100万入力トークンあたり$3.00、100万出力トークンあたり$15.00（キャッシュ済み入力は$0.30）で、指数タスクあたり$2.00のAPI支出を要する。

• 出力速度 — Kimi K3はパネルの検証用マシン上で毎秒43.8トークンを生成し、初回トークンまでの時間は3.6秒です。NVIDIAモデルについて独立したスループット値は存在しません。NVIDIA自身の研究ページは、LiLiCorrドラフターを有効にしたAIPerf SPEED-Bench-Codingで毎秒83.99トークンを公開していますが、これは異なるベンチマーク、異なるマシンでのベンダーによる測定値です。

• Terminal-Bench 2.1 — Kimi K3 は 85.0。独立に実行された結果であり、Moonshot 自身が主張する 88.3 との対比となる。NVIDIA は Bolt モデルについてモデルカードで 50.98 を報告しているため、両者は同じ土俵にはない。一方の数値はラボの外で再現されているが、もう一方は再現されていない。

• GPQA Diamond — Kimi K3 は独立評価で 93.5、N​VIDIA モデルは N​VIDIA 公表値で 86.43、パネルには独立した数値はない。

• 長文脈検索（AA-LCR） — Kimi K3 が 88.7、NVIDIA モデルが 69.7 で、いずれも実測値。

• 科学的コーディング（SciCode） — Kimi K3は59.5、NVIDIAモデルは39.7、いずれも実測値。

• 知識の正確さとハルシネーション — AA-Omniscience では、Kimi K3 は正確さ 47.6%、非ハルシネーション率 46.8% を記録し、N​VIDIA モデルは正確さ 17.1%、非ハルシネーション率 56.3% を記録している。この組み合わせは、リーダーボード上で最も興味深い行であり、この指標を単純に読むには最も都合が悪い。つまり、圧縮されたモデルは知っていることがより少なく、そのことをより頻繁に認めているのだ。

欠けている測定値こそ、買い手が最も知りたいものだ。NVIDIAの外部で24GBチェックポイントのスループットやレイテンシを計測して公開した者は誰もいないが、それこそが24GBチェックポイントを出荷する最大の意味なのだ。

22点が実際にどこへ行くのか

22ポイントのインデックス差はカテゴリーの違いのように聞こえるし、実際いくつかのタスクではそうだ。Kimi K3は科学コーディングで20ポイント、長文コンテキストの検索で19ポイント、大学院レベルの科学問題では7ポイント以上優れている。これらは丸め誤差ではなく、比較セットの人為的な産物でもない。

しかし、N​VIDIAモデルの背後にある圧縮の経緯は、この欠損の形状を説明するのに十分なほど具体的だ。このチェックポイントは、N​VIDIAのルーター誘導型アーキテクチャ探索であるStar Elasticによって生成された。これは、120B-A12B Super VLの親モデルを取り、バッチサイズ1および128Kコンテキストで24GB以下に収まる、レイヤーごとのエキスパート数とMoE幅を探索し、エキスパートのtop-Kを22から9に引き下げ、その後、精度を回復するために量子化を意識した蒸留を用いてエキスパートを1要素あたり2.0625ビットに量子化した。これは、保存された知識をフットプリントと引き換えにする意図的なトレードオフである。エキスパート重みあたり2ビットに圧縮されたモデルは、その手順を保持し、事実を失う。これが、ハルシネーションの行が改善する一方で、精度の行が崩壊する理由である。

NVIDIA自身のベンチマーク表は、逆方向から同じ主張をしている。同社は、BoltモデルがTerminal-Bench 2.1、GPQA Diamond、BrowseComp、WebArena visionでQwen3.6-35B-A3B、Gemma4 26B-A4B、自社のNemotron 3.5 Lightning 30B-A3Bを上回る一方、AA-Omniscienceの精度ではGemma4に、PinchBenchではQwen3.6に敗れていると公表している。つまり、エージェント型タスクとツール利用タスクにおいてである。圧縮が保持したのはエージェント的実行だった。

どちらもオープンウェイトなので、選択は電気次第ということになる

ここが、この対決をクローズドAPIとの比較とは別物にしている点だ。Kimi K3の重みはダウンロードできる。ハードウェアさえあれば、2.8Tモデルを自分で動かせ、トークンあたりの支払いはゼロ——24GBのファイルと同じ話を、まったく異なるスケールで実現している。ここに挙げたどちらのモデルも、アクセス方針を気まぐれに変えうるベンダーのゲートの後ろには置かれていない。

実務上の分かれ目はデプロイ先の地理にある。24GBのIQ2チェックポイントは、単一のA100、H100、またはBlackwellチップ上でvLLMにより動作し、NVIDIA自身のリファレンスレシピもllama.cppとGGUF変換を挙げている。だからこそ、RTXやDGX Sparkマシン上のローカルエージェントハーネス内に入り込むのだ。推奨されるサービングコマンドは、一行で切り替えられるものではない。vLLMのナイトリービルドを固定し、ダウンロード済みのreasoning-parserプラグインを必要とし、linearおよびMoEバックエンド用のb12xカーネルを必要とし、Mambaとattentionバックエンドを明示的に設定し、7つのLiLiCorrドラフトトークンを使った投機的デコーディングを有効にする。これは、そのマシンを自分で所有しようとする人向けのレシピであり、トランスクリプトが欲しいだけの人向けではない。

Kimi K3は逆の方向へ進む。その設計全体は、あなたが推論をレンタルすることを前提としており、価格もそれに合わせて設定されている——100万トークンあたり入力$3.00、出力$15.00というのは、オープンウェイト市場の最上位に置く意図的なポジショニングだ。

それを読む代わりに比較を実行する

22ポイントのインデックス差が自分のワークロードにとって重要かどうかを知りたいなら、安上がりな実験は高価な方を呼び出すことです。 Kimi K3はOrcaRouterのカタログに、次のモデル名でkimi/kimi-k3、当社がルーティングする200以上のモデルの残りと同じキーで、M​oonshotのプロバイダー定価で請求され、マークアップは追加されません — したがって、M​oonshotの価格変更は、次の請求サイクルではなく、当日に当社側で反映されます。実際のトラフィックに似たプロンプトセットをそれに向けて、ローカルで実行しているものとの差分を測定してください。OrcaRouterはN​VIDIAモデルをホストしておらず、提供できるBoltエンドポイントもありません。N​emotronファミリーは当社のカタログにはなく、この比較のローカル側の半分は、いずれにしてもハードウェアの問題のままです。

ここでルーティングが真価を発揮するのはフォールバック経路です。Kimi K3 は高価格帯での単一モデルへのコミットであり、高性能モデル1つに接続された本番エージェントの障害モードは、上流のキャパシティ問題がインシデントになってしまうことです。単一のエンドポイントの背後でプロバイダーをまたいだ自動フェイルオーバーは、それをリトライに変えます。

どうやって決めるか

そのルールは、その隔たりが示すよりも短い。

要件に「オフライン」「プライベート」「オンデバイス」「トークンごとのコストなし」という言葉が含まれるなら、Kimi K3 は候補ではなく、比較はそこで終わりだ — 2.8兆パラメータのモデルが、あなたが今これを読んでいるマシンで動くことはないし、24GB のチェックポイントなら動く。ノートPCを買い、インデックスの21.4を受け入れ、それを生化学に関する質問ではなくツール利用に向けよ。

難しい推論の正確さ、数十万トークンに及ぶ長文コンテキストの作業、あるいはリポジトリ規模のコーディングを求めるなら、24GBモデルは間違った道具であり、そのインデックスの差が真実を告げている。Kimi K3にお金を払おう。

どちらのベンダーも決着をつけていないのは中間のケースだ。それは、誰も公表していないある数値――2ビットのチェックポイントが、実際に購入できるハードウェア上でどれだけ速く動くか――に依存しているからだ。独立したスループット測定が存在するまでは、「24GBのファイルが自分のエージェントループにとって2.8Tのフラッグシップの代わりになり得るか」という問いに対する正直な答えは、知能面の差は測定可能だが、レイテンシ面の根拠はまだない、というものだ。

失敗モードがまだ文書化されていないモデルにとって、有用な対応物は、すでに他の場所で何がうまくいかなかったかの記録です。このクラスのモデルに関する文書化されたAIインシデントとエージェントの失敗は、以下に収集されています：OrcaRouter AI Incident Archive。各エントリには、独自の出典、深刻度、信頼度グレード、係争フラグが付いています。