NVIDIA Nemotron 3.5 Super VLのタイトルカード。120Bパラメータ、12BアクティブのMixture-of-Experts視覚言語モデルで、Hugging Faceの重みは2026年10月12日に公開され、ベンダーのブログ記事は10月15日に続いた。独立したスコアボードはまだないなか、ベンダー報告の数値として記載されている。カードには、アイブロウ「発表前に出荷済み」、ヘッドライン「NVIDIA Nemotron 3.5 Super VL 120B A12B」、サブタイトル「Mamba-2ハイブリッドMixture-of-Experts視覚言語モデル — 重みは10月12日にHugging Face、NVIDIA自身の投稿は10月15日」、3つの角丸チップ「120B total · 12B active」「最大1Mトークンのコンテキスト」「OpenMDW-1.1ライセンス」、罫線、そして「BF16 重み 231.8 GiB · 4× H100」と「NVFP4 重み 2× H100 または 1× H200」と記された日付付きの行がある。OrcaRouterのロゴは右下隅にある。
Guides & Insights

NVIDIA Nemotron 3.5 Super VL:自身のブログ記事より先に公開された120Bのオープンモデル

著者

Rowan Sterling

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

ウェイトはN​VIDIA N​emotron 3.5 Super VLがN​VIDIAによって記事で言及される3日前にHugging Face上に存在していました。フル精度のリポジトリnvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16は、2026-10-12T15:32:06Zに作成されました。その量子化版であるnvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4は、24秒後に公開されました。N​VIDIA自身の開発者ブログ記事でこのモデルを説明しているものの日付は2026年10月15日であり、モデルカードに「Hugging Face - 10/15/2026」と記載されている日と同じです。つまり、公開された成果物と公式発表は別の日に登場しており、その間隔はどちらの日付も誤りとは言えず、両方とも知っておく価値があるほど小さいものです。

以下は、この120Bパラメータ・12Bアクティブの視覚言語モデルについて、リポジトリとN​VIDIAの投稿が実際に述べている内容である。アーキテクチャ、デプロイの計算、自社の公開表で負けていることが示されている箇所、そしてブログ記事が一切言及していないライセンス上の落とし穴について。

Nemotron 3.5 Super VLとは実際に何なのか

N​VIDIAは自社の投稿で、これを「オープンでカスタマイズ可能なマルチモーダルモデル」と説明している。専門的なエージェントワークフロー向けに構築され、推論、指示追従、ツール使用に、テキスト、画像、文書、動画の理解を1組の重みで組み合わせたものだ。N​VIDIAが説明するところでは、この組み合わせの要点は、チームが「別々のテキストモデルや視覚言語モデルをデプロイしたり、それらの間でタスクコンテキストを受け渡したりすることなく、テキストと視覚のタスクを処理できる」ことにある。

アーキテクチャは、モデルカードによれば:

• Shape — 総パラメータ数120B、トークンあたり12Bがアクティブ。MoE層ごとに512のルーティングされたエキスパートを備えたmixture-of-expertsモデル。

• Backbone — インターリーブされた Mamba-2、アテンション、MoE レイヤーを備えた、Nemotron 3 シリーズから引き継がれた Nemotron ハイブリッド設計。

• ビジョン — C-RADIOビジョンエンコーダとビジョン言語コネクタ。transformersアーキテクチャ文字列はNemotronH_Omni_Reasoning_V3、モデルタイプnemotron_h_omni。

• コンテキスト — 最大100万トークン。プロンプト、画像、会話履歴、ツールの実行結果、生成された応答がすべてこのウィンドウを共有します。

• 投機的デコーディング — ネイティブのマルチトークン予測ヘッドを備えているため、NVIDIAが公開するvLLMおよびSGLangのレシピでは、別途ドラフターをダウンロードする必要がありません。

• 推論モード — チャットテンプレート経由で enable_thinking により切り替え可能で、その間に medium_effort 設定があります。推論トークンと回答は同じ max_tokens 予算を共有します。これはエージェント出力が切り詰められる通常の原因であるため、カードが明示的に指摘しています。

• 入力 — テキスト、RGB画像(JPEG、PNG)、および最長2分のMP4動画。vLLMレシピで推奨される動画サンプリングは2 FPS、256フレーム、プルーニング率0.5です。1080pの場合は1 FPS、128フレームに下げるようカードに記載されています。

• 言語 — カードのフロントマターで英語、スペイン語、フランス語、ドイツ語、イタリア語、日本語に対応。NVIDIAは、学習コーパスが英語に加えて他に19の話し言葉と43のプログラミング言語をカバーしているとも述べています。

The Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, showing the repository name, the image-text-to-text, transformers, safetensors and PyTorch tags, the custom_code tag, the model type tag nemotron_h_omni and the green 'License: openmdw-1.1' badge; the description naming it the full-precision release of NVIDIA Nemotron 3.5 Super VL, a vision-language model for reasoning, coding, tool use, document understanding and video understanding; the architecture paragraph describing interleaved Mamba-2, mixture-of-experts and attention layers with a C-RADIO vision encoder and a vision-language connector, 120B total and 12B active parameters, context lengths up to 1M tokens and native Multi-Token Prediction; the sentence 'This model is ready for commercial or non-commercial use.'; and a Model Summary listing total parameters 120B (12B active), a Mamba-2-Transformer hybrid Mixture of Experts architecture with a C-RADIO vision encoder, BF16 precision, context length up to 1M tokens, text, images and video inputs, deployment on 4x H100 or 2x GB200, native Multi-Token Prediction speculative decoding, a reasoning mode configurable through the chat template, and a recommended sampling line. The sidebar shows the downloads figure, a model size of 124B params, a tensor type of BF16/F32, the file count, and a follow count for NVIDIA.

2つの精度ティアと、それによって得られるメモリ

N​VIDIAはこのモデルを2度リリースしており、その2つの間のメモリの跳ね上がりこそが、このリリースで意思決定に最も大きく関わる単一の数値だ。

• BF16 — フル精度のリファレンスです。このリポジトリには、合計およそ231.8 GiBの64個のsafetensorsシャードが含まれています。N​VIDIA自身のサービングレシピは--tensor-parallel-size 4を4×H100上で、または2×GB200上でTP2とすることです。

• NVFP4 — 量子化を意識した蒸留を伴う4ビットの重みと活性化であり、N​VIDIAによれば「量子化がもたらす精度のギャップを埋める」ものです。同じチェックポイントは、4ビットの重みと16ビットの活性化で非Blackwellハードウェア上でも動作し、QADではKVキャッシュをFP8ではなくNVFP4で保存することも可能です。量子化がトレーニング後にではなくトレーニング中に行われるため、N​VIDIAは推論時のオーバーヘッドは一切追加されないと述べています。NVFP4のカードには、1×DGX Spark、1×H200、2×H100、または1×GB200へのデプロイが記載されています。

その最後の行こそが実用的な話だ。BF16では4台必要なところをFP4ならH100 2台に収まる120Bモデルとなれば、購入の検討はまったく別物になる。NVIDIAが効率的なサービング向けに指し示すのが量子化版リポジトリである理由もそこにある。三人目の兄弟、NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorrは、主要な2モデルの1日前に、何の告知も添えられずにHugging Faceに現れた。NVIDIAのブログは後にLiLiCorrをオープンな投機的デコーディング手法として説明し、DGX Spark上で「Nemotron 3.5 Super VLによる低遅延推論のための推奨ドラフタ」と名付けている。そのリポジトリはこの説明より4日早くから存在しており、このリリースがどのように表面化したかをよく示している。

その飛躍の下には正当な疑問がある——NVFP4 ティアが BF16 リファレンスと比べて何を犠牲にしているのか——しかし NVIDIA 自身の答えはトレーニング方法論上の主張であり、2 つのチェックポイントの精度を並べて比較した公開表ではない。精度の選択が判断の決め手なら、その比較はリポジトリにはない。

自身のベンチマーク表が負けを示しているところでは

モデルカードには、ベンダーが実施した大規模なベンチマーク表が掲載されている — 約40行 — 推論、コーディング、エージェントタスク、長いコンテキスト、多言語、マルチモーダルの作業を網羅している。N​VIDIAはここでは異例なほど率直だ。比較対象を名指ししており、そのうちいくつかはこのモデルをよく見せるものではない。同じ形態の最も近いオープン競合である Qwen3.5-122B-A10B に対する自社の数値は次のとおり:

• GPQA-Diamond — N​emotron 3.5 Super VL 89.52 対 Qwen3.5-122B-A10B 86.7 (N​emotronがリード)

• HLE、テキストのみ — 31.79 対 24.2(Nemotron がリード)

• MMLU-ProX — 76.91 対 83.2(Qwenが6ポイント以上リード)

• CritPt — 10.86 対 1.1(N​emotron が大差でリード)

• LiveCodeBench v6 — 88.22 対 76.7(このハーネスでは N​emotron が優勢)

• SWE-bench Verified — 71.10 対 71.9(引き分け、誤差の範囲内)

• SWE-bench Pro — 51.78 対 44.9(Nemotron が優位)

• tau2-bench 小売 — 69.24 対 55.4(Nemotronが優位)

• tau2-bench telecom — 73.19 対 87.2(Qwen が 14 ポイント上回る)

• AA-LCR v1.1 — 68.62 対 75.1(長いコンテキストでは Qwen が優勢)

• BabyVision — 29.60 vs 35.7(Qwenがリード)

• MathVision — 78.16 vs 83.3(Qwen が優位)

• OCRBench v2、英語 — 68.12 対 68.3(ほぼ同等)

• OCRBench v2、中国語 — 59.15 対 67.3(Qwen が 8 ポイントリード)

• V* — 85.60 vs 91.1(Qwenが優勢)

• IFBench — 70.86 対 67.6(N​emotron が優勢)

• AA-Omniscience index — 4.03 対 -36.1(どちらも弱いが、N​emotron の方が負の度合いははるかに小さい)

この表については、勝利の数字に語らせるのではなく、三つのことを述べておく価値がある。

まず、そこに載っているすべての数値——Nemotron のものも、あらゆるベースラインのものも——はベンダーによる報告であり、NVIDIA 自身のハーネスを通じて収集されている。カードにはこう直接書かれている:「Nemotron 3.5 Super とベースラインのすべての評価結果は NeMo Gym を通じて収集された」、そして再現性に関する注記は NeMo Gym リポジトリで公開されている。これはほとんどのラボが実現するよりも優れた情報開示だが、それでも独立したスコアではない。各列は、中立なリーダーボードとしてではなく、1つのラボによる複数モデルの測定値として読むべきだ。

第二に、N​VIDIA 自体が、自社のオープンツール群には搭載されなかったベンチマーク——BabyVision、CharXiv-RQ、MathVision、MMLongBench-Doc、OCR-Reasoning、OCRBench-v2、V*、Video-MME-v2——を列挙し、それらは公式実装、または「将来オープンソース化する予定の内部スキャフォールディング」を使用したと述べている。表内のすべてのマルチモーダル行に、その注意書きが付いている。

第三に、損失のパターンはランダムではなく一貫している。ギャップは中国語OCR、長文脈推論、視覚的数学とグラフ読解にある。強みはツール呼び出しベンチマークと短期的なエージェント型タスクに集中している — CritPt、tau2-bench retail and airline、APEX、Terminal-Bench 2.1 は Q​wen の48.70に対して66.70、SWE-bench Pro。N​VIDIAがマルチモデルエージェントスタックの実行者として位置づけるモデルにとって、それは擁護できるプロファイルだ。あなたのワークロードが中国語文書解析や非常に長い分析コンテキストであるなら、同じ表は別のことを告げている。

Two-column scoreboard card titled 'Nemotron 3.5 Super VL — vendor-stated vs not yet established', with the kicker 'Everything in the left column comes from NVIDIA's own model card and blog post. Nothing in the right column exists yet.' The left column, headed 'NVIDIA states', lists Shape 120B total / 12B active, Architecture Mamba-2 hybrid MoE, Vision encoder C-RADIO + connector, Context up to 1M tokens, Licence OpenMDW-1.1, Checkpoints BF16 and NVFP4, Context reuse attention + Mamba state, GPQA-Diamond 89.52, Terminal-Bench 2.1 66.70 and SWE-bench Pro 51.78. The right column, headed 'Not yet established', lists Independent benchmark none published, BF16 vs NVFP4 accuracy no published delta, Harness ownership NVIDIA NeMo Gym, Multimodal scaffolding not yet released, 1M-context recall untested outside, Post-training gains vendor + customer, MMLU-ProX 76.91 vs 83.2, tau2-bench telecom 73.19 vs 87.2, OCRBench v2 Chinese 59.15 vs 67.3 and MathVision 78.16 vs 83.3. A footer notes that the left column is vendor-reported and that the right-column pairs are NVIDIA's own measured losses against Qwen3.5-122B-A10B collected via NeMo Gym, not independently. The OrcaRouter logo sits in the bottom-right corner.

ポストトレーニング済みモデルはベースを上回り、NVIDIAがそれをリードしている

NVIDIAのブログ記事で最も具体的な精度に関する主張は、ベンチマークスコアではない。それはカスタマイズに関する主張だ。ベースのNemotron 3.5 Super VLをポストトレーニングすることで、専門特化したワークロードをClaude Opus 5より上に引き上げられるというものだ。NVIDIAが挙げている例は医療保険請求で、そこではポストトレーニングによる44%の向上を引用している。

N​VIDIA がこれをどう報告しているかについては、2つの点が重要だ。その数値は、公開ベンチマーク上でのモデル対モデル比較ではなく、ポストトレーニングによる主張された向上に帰属されている——これは別種の、より弱い証拠である。そして N​VIDIA 自身の投稿は、こうした改善には注意点が伴うと慎重に述べている。「ベースモデルは単独ではプロプライエタリなフロンティアモデルを上回らなかった」がこの文の正直な版であり、枠組みとしては、オープンウェイトの利点とは、企業が自社データでポストトレーニングを行い、その結果を自社インフラで実行できることだ、というものである。

同じ話のベンダー側の説明は薄い。NVIDIAは、このモデルをポストトレーニングした組織としてScale AI、Ramp、AI21を挙げている。Rampは、レシートからJSONへの抽出について「最大50%高いスループットと10倍低いレイテンシ」を期待していると引用され、Scale AIは、ベンダークレジット処理について推論コストの40分の1への削減とレイテンシの5分の1への改善を挙げている。これらは顧客が述べた期待と成果であり、ベンダーが公表したもので、その背後に独立した測定はない。実際に成り立つ可能性は十分にある。それらの企業の外部で確認した者は誰もいない。

NVIDIAが実際に公開していて役立つのは、レシピとして公開されている部分です。SFTとLoRA向けのNeMo AutoModel、強化学習と環境ベースの評価向けのNeMo RLとNeMo Gym、マルチモーダルデータ生成向けのNeMo Data Designer、さらにHugging Face上の45件の視覚言語データセットと、エージェント型のツール使用、金融推論、指示追従のデータセット群があります。公開ベンチマークの再現チュートリアルはNeMo Gymリポジトリにあります。最後の部分は本当に有用です。つまり、表を信じるのではなく、NVIDIA自身の評価を再実行してみることができるということです。

ライセンスはマーケティングが示唆しているものとは異なる

これは、ブログ記事よりもリポジトリを読む価値がある細部だ。

NVIDIAの投稿は、このモデルを「オープンでカスタマイズ可能なマルチモーダルモデル」と呼び、「モデルのオープンウェイト」に言及しています。どちらの記述もウェイトについては正確です。しかし、どちらもライセンスについての記述ではありません。モデルカードのフロントマターには、license: other、さらにlicense_name: openmdw-1.1。また、準拠する条件はOpenMDWライセンス契約バージョン1.1で、以下にあります:openmdw.ai/license/1-1/。カードには、このモデルが「商用利用または非商用利用に利用可能である」と明確に記載されており、NVIDIA自身のデプロイに関する表現では「サポートされているローカル、データセンター、またはクラウド環境」で実行することに言及しています。

つまり、NVIDIAによれば商用利用可能ということです。ただし、ここでの「オープン」はOpenMDW-1.1を意味し、Apache 2.0でもMITでもありません。あなたの組織が事前承認済みのオープンソースライセンスのリストを持っているなら、何よりもまず確認すべきはそのリストです。そして「オープンウェイト」と特定の名前の付いたライセンスとの実務上の違いは、まさに後になって発覚するとリリースサイクルを1回分費やすことになる類のギャップなのです。これはモデルへの批判ではありませんし、OpenMDWは制限的なライセンスでもありません。これは、ブログ記事の形容詞が、カードのフロントマターほどには仕事をしていない、という注意喚起なのです。

本番パスをそれに賭けずに試す

公開されているデプロイレシピは明示的にシングルマシン向けであり、それがこの評価のされ方を規定している。両カードにおけるNVIDIAのvLLMコマンドは、4×H100ではTP4、2×GB200ではTP2で--trust-remote-codeを付けて実行される——このモデルはカスタムのモデリングコードを同梱している——そしてSGLangのレシピは2台のGB200上でlmsysorg/sglang:v0.5.20を使用する。DGX Spark向けには専用のLiLiCorrドラフターチェックポイントがあり、NVIDIAはすべてのSparkシナリオでそれを推奨している。同社は、投機的デコーディングなしの場合と比べて最大2.3倍高速なトークン生成を主張している。Dynamoを用いた16台のB200では、NVIDIAはユーザーあたり毎秒50トークンで初回トークンレイテンシを85%削減しつつ、最大8倍のユーザーへのサービス提供が可能だと述べている。これらのいずれもがベンダー内部の測定値である。

それは、生まれてから三日しか経っていないモデルにとって実際にかかる評価コストであり、独立したスコアボードもなく、そのマルチモーダルの行には未公開のスキャフォールディングという但し書きが付いている。それを安く見る方法は、まずH100を4基立ち上げることではない。

これほど新しいリリースを検討する安上がりな方法は、追加のハードウェア発注ではなく、単一のゲートウェイを通すことだ。OrcaRouterでは、それはプロバイダー定価・マークアップ0%で200以上のモデルを1つのキーで使うことを意味し、個別の契約もコード変更も不要で、プロバイダー間の自動フェイルオーバーによって、まだ検証していないモデルが本番経路における単一障害点にならないようにする。この特定のモデルはまだカタログに載っていない——NVIDIAが数日前にリリースしたばかりだ——ため、現時点ではベンダー自身のAPIか、それを提供しているサードパーティのプラットフォームから入手することになる。それによって得られるのは、今すぐ実行できる比較だ。それが打ち負かすと主張する候補を同じキーの背後に置き、自分のタスクをそれらと、すでに使っているモデルに対して実行し、ルーティング層によって差し替えを移行ではなく設定変更にできる。そうして初めて、4× H100か2× GB200かという問いは、当て推量ではなく購入の判断になる。

要点は、ルーティングがベンチマークを置き換えるということではない。今日あなたが下せる判断とは、このモデルがあなたのスタックの中でどのタスクを担うべきかということであり、その判断にハードウェアの発注は必要ない。

まだ確立されていないことは何か

正直な未知の事項のリストは短いが重大であり、マーケティングではなく、このリストを基に進めるべきだ:

• 独立した評価は存在しません。上記で引用したすべてのスコアは、NVIDIAのNeMo Gym実行によるものです。NVIDIAのブログは、Artificial Analysisのベンチマークテストと、モデルをDGX Sparkの精度対タスク完了のパレートフロンティア上に位置づける独立したEXO Labsの評価に言及していますが、モデルカード自体はサードパーティのスコアを一切公開しておらず、執筆時点で主要なアグリゲーターにこのモデルの独立したモデルページは存在しません。

• BF16とNVFP4の精度差は定量化されていない。N​VIDIAのNVFP4の主張は、量子化認識蒸留がその差を埋めるという点に立脚している。しかしそれは方法論上の主張であり、実際にダウンロードできる2つのチェックポイント間の、公表された精度比較ではない。

• ベンチマークキャンペーンは一部、N​VIDIA自身のツールで実施された。8つのマルチモーダルベンチマークでは、公式実装またはN​VIDIAが「将来オープンソース化する計画」と述べている社内スキャフォールディングが使用された。つまり、それらの結果は原理的には再現可能だが、それはいつかの話であり、今日ではない。

• ポストトレーニングによる性能向上は、ベンダーおよび顧客による報告に基づくものです。クレーム獲得率が44%向上したという主張や、RampとScale AIに関する数値は、NVIDIAが自社の顧客について述べたものです。これらを独立に測定した者はいません。

• フル1Mウィンドウでの長文コンテキストの挙動は、ベンダー以外では未検証です。アーキテクチャはそのために設計されており、NVIDIAがそのためのデプロイレシピを公開しています。実文書において100万トークン全体にわたって想起性能が維持されるかどうかは、まさに独立系テストで明らかになる類のことであり、ベンダーの表には現れないものです。

Timeline card titled 'How this model surfaced, and what would change the picture', with the kicker 'Two dates matter, and they are three days apart.' A gradient axis carries three nodes: '12 Oct 2026', described as the BF16, NVFP4 and Base repos created on Hugging Face within 41 seconds of each other with no announcement; '15 Oct 2026', described as NVIDIA's developer blog post explaining the model, with both model cards dating themselves the same day; and 'Next', described as the first score that was not collected through NVIDIA's own NeMo Gym harness. Below the axis sit three cards headed 'Act now if', 'Wait if' and 'Watch for', covering the workloads that fit the model, the Chinese-language OCR, long-context and visual-maths clusters where NVIDIA's own table shows the largest gaps, and the independent BF16-versus-NVFP4 comparison worth waiting for. A footer notes that the repo timestamps were read from the Hugging Face API, that the blog and card dates are as published by NVIDIA, and that all benchmark figures are vendor-reported. The OrcaRouter logo sits in the bottom-right corner.

今すぐこれに対応すべきでしょうか。

ドキュメント、チャート、動画、マルチツールのエージェントを構築していて、すでに120Bクラスの推論のために予算を確保済みなら、今週はこれを本気で検討する価値があります。NVFP4ティアならH100×2台で動かせ、ライセンスは商用利用を認めており、NVIDIAの表の中でもツール呼び出しの行が最も強い部分です。12Bアクティブという形は、120Bという総パラメータ数から連想されるよりトークンあたりのコストが安いことも意味します。さらにOrcaRouter側では、このモデルに対するベンダー価格の変更が、請求サイクルを1回待つのではなく当日中に反映されます。なぜならプロバイダーの定価はマークアップを上乗せせずにそのまま通されるからです。

ワークロードが中国語OCR、非常に長い分析コンテキスト、または視覚数学に頼っているなら、NVIDIA自身の表は、マーケティングから推論するのではなく、独立した数値が出るのを待つべき3つの具体的な理由をあなたに与えている。

いずれにせよ、注目すべきなのは別のベンダーの投稿ではない。それは、同じハーネス上でNVFP4チェックポイントをBF16のものと突き合わせて実行する最初の独立評価であり、NeMo Gymを通じて収集されなかった最初の第三者スコアだ。それらが存在するまでは、これは十分に文書化され、ライセンス条件も安心でき、本当に効率的なオープンモデルであり、その最も強い主張は完全に開発元自身の測定に依拠している——そして開発元自身が、それが負ける行まで公表するほど透明だった。

スコアボードが測定するものと、導入が実際に満たすものとの間にあるこの隔たりこそが、この記録が重要である理由です。このクラスのモデルをめぐる、文書化されたAIの障害やエージェントのインシデントは、the OrcaRouter AI Incident Archiveに集められており、各エントリには独自の情報源、重大度、信頼度グレード、異議ありフラグが付いています。