Ollama上のNemotron 3.5 Super：NVIDIAが発表する前に実行できた120Bビジョンモデル

およそ20時間のあいだ、NVIDIA Nemotron 3.5 Superへのローカルな経路は、それが存在するという発表よりも前に存在していた。Ollamaは2026年10月14日、リリースv0.40.5でチェックポイントを自社ライブラリに公開し、Nemotron 3.5対応を追加したllama.cppのアップデートを取り込み、1200億パラメータの視覚言語モデルの9つのタグをプッシュした——ollama run nemotron-3.5-superと入力すれば、あなたはそれを実行している。同じ重みに関するNVIDIA自身のニュースルーム投稿は、より完全な名前NVIDIA Nemotron 3.5 Super VLで、翌日の午後、10月15日15:00 UTCに公開された。重み自体は10月12日からHugging Face上にあり、リポジトリ名はNVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16で、そのモデルカード自体のリリース日フィールドにはすでに10/15/2026と記されていた。

それはスキャンダルなどではない。今やオープンウェイトのリリースとはこういうものだ——成果物が登場し、フレームワーク各社がこぞって対応を競い、マーケティングが後を追う。しかし、それによって Ollama のリスティングを読む価値の意味合いが変わる。10 月 14 日に登場したのは、ランタイムが付属した製品発表ではない——製品が付属したランタイムであり、そしてこの 2 つの文書は、これに 90 GB のディスクを割こうとしている人にとって重要な点でいくつか食い違っている。

v0.40.5 で実際にリリースされたもの

Ollama のリリースノートは異例なほど具体的で、その点は都合がよい。Nemotron 3.5 Super を、コーディング、推論、ツール使用、文書理解のための視覚言語モデルとして説明しており、総計 120B のうちトークンあたり 12B のアクティブパラメータを持つハイブリッドな Mamba-2/Transformer Mixture-of-Experts バックボーン上に構築され、C-RADIO 視覚エンコーダーと組み合わせている。ツール呼び出し、オン/オフ切り替え可能な思考モード、最大 100 万トークンのコンテキストをうたっている。すでに Ollama を実行している人にとって最も重要な 2 行は、下方に埋もれている：llama.cpp（Nemotron 3.5 対応を追加）と MLX を更新。

その一行こそが、このプルが機能する理由のすべてです。Ollama はこのチェックポイントを GGUF 形式で自身の llamacpp ランナー経由でルーティングします — レジストリのマニフェストが明示的にそう述べています — つまり「Ollama は Nemotron 3.5 Super をサポートしている」と「llama.cpp は Nemotron 3.5 Super をサポートしている」は同じ文です。0.40.5 より古い Ollama を使っているなら、そうではありません。モデルの設定 BLOB には "requires":"0.40.5" が含まれているため、バージョンゲートは単なる推奨ではなく強制されます。

同じリリースノートは、兄弟モデルである Nemotron 3.5 Bolt にも言及している。これは Super を 74B パラメータ（うちアクティブ 9B）まで蒸留したもので、ノートによれば、同梱のドラフターによる投機的デコーディングを用いて 24 GB の NVIDIA GPU に収まるよう調整されている。そちらは別の pull であり、別のハードウェア階層だ。名前が混乱を招くので、頭の中では別物としておこう。

9つのアーティファクト、そしてそれぞれが実際にどれほどの重さなのか

ライブラリページにはサイズラダーが表示されています。その背後にあるレジストリマニフェストには実際のバイト数が表示されており、両者は同じようには丸められないため、ここでは丸められたバッジではなく、マニフェスト自体から得られた数値を示します：

• q4_K_M — 88,419,818,592 バイト、つまり 82.3 GiB（ライブラリページには 80GB–90GB と表示されます）。タグ名 :latest、:120b、:120b-a12b と :120b-a12b-q4_K_M はすべてこの同じレイヤーに解決されるため、9 個のエントリのうち 4 つは、4 つの名前をまとった 1 つのアーティファクトです。

• q8_0 — 131,601,243,232 バイト、122.6 GiB、133GB として表示。

• bf16 — 247,403,355,232 バイト、230.4 GiB、249GB と表示されます。これは GGUF の装いをまとった完全精度のチェックポイントであり、ここにあるタグの中で、コンシューマー向けハードウェアの近くにはまったく存在しない唯一のものです。

• MLX nvfp4 — 合計 79.56 GB でこのセットの中で最小、そして NVFP4 はアフターマーケットの量子化ではなく、NVIDIA 自身のカードがファーストクラスのチェックポイントとして出荷するフォーマットです。

• MLX mxfp8 — 合計 129.60 GB、MLX 版はおよそ q8_0 相当のサイズです。

• MLX bf16 — 合計 248.92 GB。MLX はテンソルの保存方法が異なるため、GGUF bf16 よりわずかに大きくなります。

• プロジェクター — 例外なくすべてのタグが、1,733,696,896バイトのmmproj-bf16.ggufメディアレイヤーを伴います。これは1.61 GiBのビジョンエンコーダーで、最小のものも含め、すべてのダウンロードに付いてきます。画像パスは任意ではなく、別途プルするものでもありません。

9件のエントリのうち3件、つまりMLXのものは、CUDAではなくAppleシリコン向けにタグ付けされており、ライブラリページではそれぞれ単に「MLX」と表示されています。Macでタグを選ぶなら、nvfp4は79.56 GBで、96 GBまたは128 GBのユニファイドメモリ搭載機にも余裕をもって収まりますが、mxfp8は129.60 GBで、KVキャッシュを考慮すると128 GBのマシンにはまったく収まりません。

ライブラリページとマニフェストでコンテキスト長が一致しません

GGUFタグは100万トークンのコンテキストウィンドウをうたっている。MLXの3つのタグは何もうたっていない——ほかの列が「1M」と表示されるのに対し、その列は「- コンテキストウィンドウ」と表示される。MLX側の経路が長コンテキスト構成用に組み込まれていないか、単にページが埋められていないかのどちらかだが、外部から見るとこの2つは区別できず、正直な立場としては、長コンテキストの主張はGGUFタグについては検証済みで、MLXのものについては未検証だということになる。

同じ方向にもう一つギャップがある。デフォルトタグの設定ブロブは次を宣言している： "model_type":"123.6B"一方、人向けの名称はどこでも120Bと言っている。これは重みの不一致ではない。2つのシステム間でパラメータ数がどのように丸められているかの不一致であり、特定のツールがどの数値を引用しているのかを知っておく価値がある。

そして三つ目、これが最も牙を剥きやすいものだが、params ブロブには {"draft_num_predict":3,"temperature":1,"top_p":0.95} が同梱されている。これらのサンプリング値はモデルカードの推奨設定、つまりテキスト向けのものだ。カードがビジョン用途に推奨しているのは別の組み合わせで、temperature 0.6 と top_p 0.95 だ。つまり Ollama のデフォルトは、Ollama がビジョンモデルとして宣伝しているモデルの、テキスト側に合わせて調整されている。チャートやスキャンしたページで最初に試して期待外れだったなら、チェックポイントについて何か結論を出す前に、まず回すべきつまみはこれだ。

このdraft_num_predict: 3フィールドは、単独で1行を割く価値がある。これは投機的デコーディングのパラメータであり、マニフェストには別個のドラフトモデル層は含まれていない — あるのはモデルのGGUFとプロジェクタだけだ。したがって、ランタイムが行っている投機が何であれ、それはNVIDIAのカードがBF16およびNVFP4チェックポイントに付属して出荷されると言及しているスタンドアロンのLiLiCorrドラフタではなく、モデルに組み込まれたマルチトークン予測ヘッドに乗っている。それは妥当なエンジニアリング上の選択であり、同時に、Ollamaの経路がベンダーのスループット数値が示す正確な構成ではないことも意味する。

コンフィグブロブが静かに語りかけるもの

マニフェスト設定内の4つのフィールドは、その大きさから想像される以上に情報量が豊富です。

• model_family: nemotron_h_moe — ファミリー文字列は単に nemotron ではありません。モデルファミリーで分岐してチャットテンプレートやトークナイザーを選ぶ、スタック内のものは、単純なプレフィックスではマッチしません。

• レンダラー: nemotron-3.5-super — 専用のレンダラーであるため、チャットテンプレートは継承された既定値ではなく、真にこのモデル固有のものです。

• パーサー: nemotron-3-nano — そしてここでは、パーサーはより小さなNanoの兄弟から借用されています。思考モードとツール呼び出しの出力形式は、ファミリー全体で十分に安定していたため、新しいパーサーは必要なかったようです。これはまた、すでにNemotron 3 Nano向けのツール呼び出し処理を構築している場合、ここでもおそらくそのまま動作することを意味します。

• file_type: Q4_K_M — デフォルトのタグは4ビット量子化であり、ほとんどの人がこのモデルを評価する際の構成になります。

ライセンス層は、OpenMDW License Agreement version 1.1 を保持する 2,618 バイトのブロブであり、これは Hugging Face のカードが次の名前で示すライセンスと同じです：openmdw-1.1。寛容で、商用利用が許可されており、周辺の Ollama エコシステムの大半が Apache-2.0 だからといって、これも Apache-2.0 だと決めつける前に読む価値があります。

ベンチマーク：一方のセットはベンダーによるもので、もう一方はそうではない

NVIDIA自身が公開した表は広範で、完全に自己申告である。その表では、モデルはGPQA-Diamondで89.52、Humanity's Last Examのテキストのみで31.79、MMLU-ProXで76.91、LiveCodeBench v6で88.22、SWE-bench Verifiedで71.10、SWE-bench Multilingualで67.72、SWE-bench Proで51.78、Terminal-Bench 2.1で66.70、IFBenchで70.86、MMLongBench-Docで62.82、MathVisionで78.16、OCRBench v2では英語68.12対中国語59.15を記録している。エージェント系の行も強力だ。tau2-benchでは小売69.24、航空76.50、通信73.19。同社はまた、Artificial Analysis Intelligence Indexリーダーボードで、このモデルは同クラスの他モデルより最大5倍高速なスループットを達成し、NVIDIA Dynamo上で実行すると、最大8倍のユーザーに85%低いレイテンシでサービス提供できると主張している。これらはベンダーの数値であり、ベンダーによって、ベンダーのインフラ上で生成されたものだ。監査ではなく仕様として扱うべきだ。

独立した見方はより薄いが、まさに薄いからこそより有用だ。Artificial Analysis は現在、このチェックポイントを Intelligence Index 26 に位置づけており、同サイズのオープンウェイトモデルの中央値 8 を大きく上回ると説明している — 実際の差であり、ハードウェアベンダーによる 120B のオープンモデルがこの分野の中ほどの位置に落ち着くと考えていたなら、意味のある差だ。同じページには、Index の実行で 170M の出力トークンが消費されたこと、中央値が 100M であることが記録されており、これを「やや冗長」と解釈している。これは拡張思考モードを備えた推論モデルであり、冗長性は脚注ではなくコスト項目だ。それは 1.0M コンテキスト、総パラメータ 120B でアクティブ 12B、画像入力とテキスト出力、および OpenMDW-1.1 ライセンスを確認している。

そのページが伝えられない唯一のことは、トークンあたりのコストです。というのも、引用できるホスト型の価格が存在しないからです。このモデルがAPI経由で利用可能かどうかに対するArtificial Analysis自身の答えは、セルフホスト可能なオープンウェイトモデルだというものです。それが経済的な話のすべてを一文にしたものです。限界費用は電気代とGPUの1時間分であり、固定費用はダウンロードです。

それを実際に実行するために必要なもの

モデルカードでは、公開されたチェックポイントに対してH100を4基またはGB200を2基使用することが推奨されており、vLLMのレシピではテンソル並列度4と、投機的設定の手法であるmtpを指定しています。それはデータセンター向けの答えであり、BF16を対象としています。Ollamaのリスティングを読む人にとって興味深い問いは、はしごのもう一端です。

q4_K_Mでは、重み82.3 GiBにプロジェクタ1.61 GiBを加えると、モデルは単一の96 GBカードまたは128 GBユニファイドメモリ搭載Macに収まり、コンテキストを引き上げるにつれてKVキャッシュの余裕は急速に縮小します。宣伝されている100万トークンでは、そのクラスのハードウェア上でキャッシュを重みと並べて収めることはできません。バッジが何をうたっていようとです。単一マシンでの長いコンテキストは同時実行数を犠牲にするということであり、無償で手に入るものではありません。実用的なコンテキストは上限をはるかに下回る前提で計画し、100万という数値は自分のデプロイの限界ではなく、アーキテクチャの限界として扱ってください。

MLX の nvfp4タグは 79.56 GB で、Apple シリコンにおける現実的な選択肢であり、ベンダーがネイティブに提供している形式でもあるため、小容量のタグの中では品質面で予想外の事態が最も起きにくいものです。

ルーティングを使う場合とセルフホスティングを使う場合で、これがどこに当てはまるか

NVIDIA Nemotron 3.5 Super は、ベンダー自身のビルドおよび配布チャネルを通じて、また上記の Ollama pull を通じて利用可能です。これは OrcaRouter には載っていません——当社は 200 強のモデルをルーティングしていますが、これはそのうちの一つではありません——したがって、このチェックポイントがどうしても必要な場合、ローカルでの pull がその手段であり、本記事のいかなる記述も、当社のキーでこれを呼び出せるという示唆ではありません。

ここでこのプラットフォームが本当に役立つのは、その周辺の意思決定です。このようなモデルを評価するには、どんなベンチマーク表でも取り除けない固定コストがかかります。90 GB のダウンロード、一晩の設定、そして何かが分かる前に用意する自分のプロンプト一式です。より安上がりな最初の一手は、すでにアクセスできるホスト型モデルに対して実際のワークロードを走らせることです — 200 以上のモデルを横断する単一の API、そしてプロバイダーの定価がトークンごとのマークアップなしでそのまま適用されるので、ベンダーが値下げすれば同じ日に当社側でも反映されます — そして、そのワークロードが 120B の推論モデルで改善されるものかどうかを、それで判断しましょう。その後、生き残ったケースにこそダウンロードを費やしてください。

そして、信頼できるようになる前に、新しくリリースされたオープンモデルを本番経路に投入するのであれば、自動フェイルオーバーのほうが価格よりも重要だ。10月14日にリリースされたモデルは、まだ2日間しか世界の注目を集めていない。フォールバックの背後にルーティングすることが、リクエスト経路をそれに賭けることなく、その利点を手に入れる方法なのだ。

確認されていることと確認されていないことの、正直な要約

レジストリとリリースノートから直接確認済みです。タグ、そのダイジェスト、バイト数、最小バージョン0.40.5、llamacppランナー経由のGGUF形式、共有ビジョンプロジェクター、モデルファミリー文字列、レンダラー、継承されたNanoパーサー、OpenMDW-1.1ライセンス。NVIDIA自身のニュースルームとモデルカードから確認済みです。アーキテクチャ、パラメータ分割、ライセンス、推奨サンプリング設定、学習規模 — 事前学習と継続的事前学習を通じて約26兆トークン、その後、数十の環境にわたる強化学習による約380万サンプルでの事後学習 — そして英語、スペイン語、フランス語、ドイツ語、イタリア語、日本語の言語カバレッジです。

未確認: すべてのベンチマーク数値。これらはベンダー報告であり、この記事で唯一の独立した測定値として読めるのは、Artificial AnalysisのIndex 26と170Mトークンの冗長性だけだ。未確認: MLXタグが宣伝されているコンテキスト長をサポートすること。ライブラリのページがそれらについてそう主張していないためだ。未確認: ビジョン経路がすぐに使えるよう調整されていること。同梱のサンプリング既定値がテキスト用のものだからだ。そして未確認: 4ビット量子化が公開スコアをどう動かすか。これはOllamaのリスティングのほとんどの読者が実際に気にする数値であり、誰も公開していない数値だ。

96 GB のカードがあり、本物の 120B バックボーンを備えたオープンな視覚言語モデルを求める理由があり、登場初週の依存を気にしないなら、これは今月現れた同クラスで最強のもので、プルは簡単だ。NVIDIA がベンチマークした正確な構成が必要な場合、視覚機能が一発で動作する必要がある場合、あるいはあの2つの文書のどちらが信頼できるものか突き止めるのに一晩費やす余裕がない場合は、量子化の評価とコミュニティの報告を待つべきだ。重みは4日前のもので、ランタイムサポートは2日前のものだ。