Nemotron 3.5 Bolt が登場：NVIDIAの24GB 2ビットチェックポイントには実際何が含まれているのか

のリポジトリはN​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB2026年10月7日にHugging Faceに現れ、8日間、静かにそこにあった。10月15日、N​VIDIAはそれを発表した — ブログ記事、ニュースルームリリース、そしてその日付が刻まれた研究ページ — つまりこの話の面白いところはローンチではない。それは空白期間だ。8日間、誰もがN​emotron 3.5 Boltについて知り得たのは、モデルカードと一連のsafetensorsが語っていたことだけであり、それ以外はすべて推測だった。その空白は今や埋まった。そして、それを埋めることが実際に何を決着させたのかについては正確に述べる価値がある。というのも、人々がこのモデルについて繰り返していることのかなりの部分は、発表ではなくリポジトリから来ており、両者は同じ文書ではないからだ。

今確実なことを一段落で言えば、次のとおりだ。N​emotron 3.5 Bolt 74B-A9B 24GBは、トークンあたり90億パラメータがアクティブになる740億パラメータの専門家混合型視覚言語モデルで、2026年10月15日にOpenMDW-1.1ライセンスでリリースされ、エキスパート重みを1要素あたり2.0625ビットで保存するため全体が24GBに収まる。RTXおよびDGX Sparkハードウェア上で、ツール呼び出し、ブラウジング、ターミナル利用といったローカルのエージェント作業を実行できるよう設計されている。Ollamaでは256Kコンテキストウィンドウを持つ25GBタグとして提供されている。どのホスト型APIにも存在せず、価格も設定されていない。その文の一部は独立に測定されているが、残りはベンダー自身の主張である。

2つの日付、そしてどちらを引用すべきか

この2つの日付には実際の違いがあり、それがこの記事の残りをどう読むべきかを決めています。

Hugging Face リポジトリは2026年10月7日 17:50 UTCに作成されました。その中のモデルカードには、リリース日フィールドがあり、そこにはHugging Face 10/15/2026と記載されています。N​VIDIA自身のチェックポイントに関する研究ページには公開日: 2026年10月15日と記されています。Bolt ティアを発表するベンダーのブログ投稿は2026年10月15日付で、Super VL と Bolt 74B-A9B が「現在利用可能」であると明確に述べています。

正直に読めば、10月15日がリリース日であり、10月7日はフォルダが現れた日だ。10月7日をローンチとして引用する人はファイルのタイムスタンプを引用しており、10月15日を引用する人はベンダーを引用している。ただし、この8日間の隔たりが重要になるのは、日付とは別の理由からだ。それは、1週間以上にわたり、このモデルがリポジトリだけを唯一の接点とする状態にあったことを意味する。発表も、価格ページも、リーダーボードへの登録も、N​VIDIAの誰かが何のためのものかを語ることもなかった。その期間に書かれたBoltに関する初期のあらゆる説明は、今出回っているものも含め、モデルカードから作られていた。そしてそのカードは正確だったことが分かる。これははっきりと言っておく価値がある。なぜなら、こうした状況の通常の結末は、正確ではないからだ。

リポジトリだけが証明するもの

このセクションのすべては、N​VIDIAが一言も発する前にモデルカードと設定ファイルから読み取ることができ、そしてそれは今もすべて真実です。

• パラメータ — 総計740億、トークンあたり90億がアクティブ。スパースなMixture-of-Expertsであり、密なモデルではない。

• アーキテクチャ — LatentMoE バックボーンと C-RADIO v4-H ビジョンエンコーダーを備えた Mamba-2 と Transformer のハイブリッド。コンフィグでは、このクラスを NemotronH_Omni_Reasoning_V3 として登録します。

• 保存精度 — ルーテッドエキスパートと共有エキスパートのFC1層およびFC2層では、要素あたり2.0625ビットのIQ2_XXSであり、ここに重みの大部分が存在します。Mambaの線形層はNVFP4にあり、埋め込み、出力ヘッド、アテンション、およびLatentMoEの重みはQ8_0です。

• コンテキスト — 最大256Kトークン、デプロイレシピでは262,144

• 入力と出力 — テキスト、画像、動画を入力とし、テキストを出力します。

• ライセンス — OpenMDW-1.1、そしてカードにはこう明記されている。「商用利用も非商用利用も可能」。

• ベースモデルと来歴 — カードはベースモデルを同名のBF16チェックポイントと宣言し、それとの関係は量子化であり、データセットタグはNVIDIAのNemotron事前学習および事後学習コレクションを指しています。

• モデルの日付 — 2025年12月から2026年5月、ポストトレーニングデータのカットオフは2026年5月。鮮度が重要なら、ここは注意深く読んでほしい。このモデルは2026年のリリースであり、出荷の4か月半前でデータが止まっているデータに基づいて構築されている。

• ランタイム — N​VIDIA Ampere、Hopper、Blackwell 上の vLLM、および RTX Spark と DGX Spark 向けの llama.cpp。Ollama の掲載内容は制限についてより率直で、CUDA デプロイは文書化されており、Apple Silicon と Metal は現在サポートされていません。

発表が付け加えたもの

ベンダー資料は、リポジトリからは知り得なかった3つの事柄を補ってくれる。

まず、ファミリーの位置づけから。BoltはNemotronファミリーのエッジ層に位置づけられ、常時稼働のサーバーエージェント向けの120BのNemotron 3.5 Super VLの下、そして特定の何かの上というわけではない——NVIDIA自身の一文がそれらを整理している。Super VLとBoltは「大規模エンタープライズサーバーからエッジデバイスやローカルハードウェアまで、エージェント展開の全範囲をカバーする」。Nemotron 3.5 Bolt E4B 4GBは、会話型および物理エージェント向けの40億パラメータモデルで、10月23日に登場する。

第二に、圧縮の話だ。これこそがここにおける真に新しいエンジニアリング上の主張である。Boltは、小さく訓練されてから量子化されたモデルではない。Nemotron 3.5 Super VL — 総パラメータ120B、アクティブ12B — を、NVIDIAのルーター誘導型アーキテクチャ探索であるStar Elasticに通したものであり、バッチサイズ1、コンテキスト128Kで24GB未満のメモリに収めるという厳しい制約の下で行われた。エキスパートのtop-Kは親モデルの22からBoltの9へ下がり、MoEの中間幅は層ごとに探索され、その後、圧縮されたネットワークは量子化され、精度を取り戻すために量子化認識蒸留にかけられた。NVIDIAが述べた結論こそが興味深い部分であり、それは自慢ではなく、実際の立場である。固定されたメモリ予算のもとでは、大きなモデルを圧縮して小さくする方が、小さなモデルを一から訓練するよりも優れている。これは検証できる主張だが、NVIDIAの外部で検証した者はいない。

第三に、ベンダーが示した2つのリーダーボード順位：PinchBenchでは同クラスにおけるオープンモデル中1位、BrowseCompではオープンモデル中2位。いずれも、NVIDIAが自ら定義したクラスに対して自社モデルをどう位置づけているかを示すものだ。

その発表が付け加えていないのは、提供されるエンドポイントです。ホストされたAPIはなく、トークン単位の価格もなく、N​emotron 3.5 Boltを呼び出すには、それが動作するハードウェアを入手する以外に方法がありません。モデルを評価したArtificial Analysisは、まさにその理由から、その速度とコストの項目を利用不可として記載しています。測定するための公開APIが存在しないためです。

N​VIDIAの外の誰も実行したことのない部分

ここでこの記事はペースを落とさざるを得ない。というのも、測定された事柄と主張された事柄との間の隔たりは、この規模のモデルとしては異例なほど大きいからだ。

測定値の面では数字が1つだけあり、しかもそれは良い数字だ。Artificial AnalysisはN​emotron 3.5 Bolt 74B-A9BのIntelligence Indexを21と評価しており、これは比較クラス内の67モデル中4位に位置づけられる。これはBF16の参照ビルドではなく、実際の2ビットチェックポイントに対する独立した測定であり、今日このモデルについて入手できる最も有用な単一の数値である。

主張されている側には、それ以外のすべてがある。モデルカードには4列からなる13ベンチマークの表がある — BF16のQwen3.6-35B-A3B、BF16のGemma 4 26B-A4B、BF16のN​emotron 3.5 Lightning 30B-A3B、IQ2のBolt — そしてそのすべての行はN​VIDIAによって作成された。3つのベースライン列も含めて。N​VIDIAがそれらを選んだのは、4ビット量子化で24GBに収まるからだ。Boltは10行で太字の勝者であり、3行では勝者ではない。AA-Omniscience accuracyではGemma 4 26B-A4BがBoltの16.90に対して22.17を記録し、AA-Omniscience non-hallucinationではN​emotron 3.5 Lightning 30B-A3BがBoltの61.27に対して68.81を記録し、PinchBenchではQwen3.6-35B-A3BがBoltの87.82に対して88.07を記録している。負けた3行を公表することはベンダーに有利な点であり、その表が再現されていないものであるという事実を変えるものではない。

速度の数字は、宣伝文句と相反するため、それだけで独立した段落にする価値がある。NVIDIA自身の測定表は、128GBのSurface Laptop Ultra上でWindows 11 ARM64のllama.cppを使って取得されたもので、BoltはAIPerf SPEED-Bench-Codingで毎秒83.99トークンを示しており、Qwen3.6-35B-A3Bの96.63、Gemma 4 26B-A4Bの100.56に後れを取っている。同じページでは、現実的なエージェント軌跡全体にわたるエンドツーエンドのリプレイ所要時間は、Boltが600.80秒、Qwen3.6が453.97秒、Gemmaが480.68秒となっている。訴求しているのは速度ではなく、ギガバイトあたりの知能であり、ベンダー自身の表も、最速であるという主張ではなく、その訴求と整合している。

つまり、証拠の全体像はこうだ。信頼に足る独立系の総合スコアが1つ、誰も再現していないベンダーのベンチマーク表が1つ、N​VIDIAの外では誰も実行していないノートPC上のベンダー速度表が1つ、そして独立系のレイテンシ測定はゼロ。BoltのPinchBenchの数値を、誰が作ったのかを明示せずに報じている記事は、この記事に賛同している記事も含めて、信頼できないものとして扱え。

何がそれと一緒に届いたのか

モデルのリリースが重みだけで済まされることはほとんどなく、しかもBoltの助演陣は、APIを持たないものとしては異例なほど多い。

LiLiCorr投機的ドラフターはそれに同梱されており、共有埋め込みと出力ヘッドを除いて11.3億パラメータで、ターゲットと共同で学習される。NVIDIAによれば、vLLMで並行度64、7つのドラフトトークンを使用した場合の平均受理長は、貪欲デコーディングで4.68、確率的サンプリングで4.25である。このドラフターは別途ダウンロード可能なチェックポイントであり、ランタイムフラグではない。そして、RTX Sparkについて言及される84 TPSという数値の背後にある仕組みである。

フレームワーク対応は瞬く間に実現した。Ollama は nemotron-3.5-bolt を3つのタグで公開している — デフォルト、74B-A9B タグ、IQ2 タグ — いずれも25GB、256K コンテキスト、テキストと画像の入力に対応し、C​laude Code、OpenCode、Hermes Agent、OpenClaw 向けのワンラインランチャーも用意されている。さらに N​VIDIA による GGUF ビルド、4ビットと8ビットのコミュニティ量子化の連鎖、そして発表から1日以内に登場した MLX 変換もある。単一の24GBデバイスで動くチェックポイントにとって、48時間でこれだけのエコシステムが揃ったことこそ、これがデモ用ではなく実用的な成果物であるという本当のシグナルだ。

これを使う予定がある人への実用的な警告: 24GBという数字は重みの下限であり、ワークロードの上限ではない。画像、動画フレーム、会話履歴、ツールの結果はすべてコンテキスト予算を共有しており、Ollama自身の注記にも、使用可能なコンテキストは利用可能なメモリに依存すると書かれている。快適に収まる25GBのダウンロードは、快適に収まる256Kトークンのセッションと同じではない。

これがあなたをどこに導くのか、そしてどこには導かないのか

ワークロードがローカルかつエージェント的であるなら — ターミナルの使用、ブラウジング、ツール呼び出し、自分が所有するデバイス上でのコードデバッグ — Nemotron 3.5 Bolt 74B-A9B 24GB は、今や擁護できる選択肢です。独立したスコアが1つと、検査可能な重みのセットを備えています。その背後にある圧縮の論拠は本当に興味深く、ライセンスは商用利用を許可しており、ツール群も1日以内に登場しました。

ワークロードを、自分が所有していない場所で動いているコードから呼び出す必要があるなら、このモデルは現時点では選択肢になりません。「どうやって使うのか」に対する正直な答えは、NVIDIA のハードウェア上で自分で動かすか、待つか、です。私たちは推測せずに自社のカタログを確認しましたが、そこに NVIDIA のモデルはありません。つまり、私たちがルーティングできるものはここには何もなく、そうでないと言うのは嘘になります。OrcaRouter が提供するのは、混在デプロイのもう半分です。リクエストが 2 ビットのローカルチェックポイントには難しすぎる、長すぎる、あるいは馴染みがなさすぎる場合に呼び出すことになるモデルを、プロバイダーの定価のまま、一切の上乗せなしで、200 以上のモデルにわたって 1 つのキーの背後で, プロバイダーが不安定になったときの自動フェイルオーバー付きで。ローカルの Bolt とルーティングされた API を組み合わせるのは、理にかなったアーキテクチャです。Bolt がルーティング側にあるふりをするのは、そうではありません。

注視すべきは、次のベンチマーク表ではない。N​VIDIAの外側の誰かが、読者が実際に所有するハードウェア上で24GBチェックポイントのレイテンシ計測を公開するかどうか、そしてホスト型エンドポイントがそもそも登場するかどうかだ。そのどちらかが起きるまでは、この仕様は約束にすぎず、それを裏付けているのは一つのインデックススコアだけだ。

このような結果は、このクラスのモデルの背後にあるAIインシデントやエージェントの失敗がすでに記録されているという事実を思い起こさせるものでもある。それらはOrcaRouter AI Incident Archiveにまとめられており、各項目には独自の情報源、重大度、信頼度評価、異議ありフラグが付されている。