ヒーロータイトルカード:NVIDIA Nemotron 3.5 Lightning 30B A3B、Nvidiaのオープンエージェント主力モデルの解説 — ステータスチップには合計30B、アクティブ3B、1Mコンテキストと表示
Guides & Insights

NVIDIA Nemotron 3.5 Lightning 30B A3B:Nvidiaのオープンエージェント主力モデルを解説

著者

jinhao.song

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

Nvidiaは2026年8月11日にNemotron 3.5 Lightningを発表し、ほとんどのモデルリリースにはないものをそれに同梱した:ルーターだ。エージェントループ内で次の呼び出しを処理すべきモデルを決定するオープンソースライブラリであるNeMo Switchyardは、総パラメータ数300億・アクティブパラメータ数わずか30億の混合専門家モデルと同じ日に登場した——そこが要点だ。この解説の主題は、Nvidiaが最初にリリースしたチェックポイント、NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16(チャットチューニングされたリファレンスではなく生の事前学習ベース)と、このファミリー全体が示すオープンモデルサービングの今後である。

数字を挙げる前の情報源に関する注記:この記事に含まれるすべてのベンチマーク、速度の主張、パートナー企業の数字はNvidia独自のものであり、そのいずれもまだ第三者による独立した再現が行われていません——このモデルは登場からまだ数時間しか経っていないのです。性能数値はベンダーの言い分として扱ってください。参考にはなるが方向性を示すにすぎず、まだ最終的な評価指標ではありません。

Nemotron 3.5 Lightningの正体

Nemotron 3.5 Lightning は、Nvidia のオープンな Nemotron 3 ファミリーの中で、最新かつ最小のモデルです。トークンあたりわずか 3B がアクティブになる 30B パラメータの MoE であり、選択的アテンション層とマルチトークン予測(MTP)ヘッドを専用の事前学習段階で組み込んだ、ハイブリッドな Mamba-2 と MoE アーキテクチャに基づいています。Nvidia によると、このモデルは最前線の Nemotron 3 Ultra モデルから蒸留され、20兆以上のトークンでトレーニングされており、最大100万トークンのコンテキストウィンドウに対応しています。

設計目標は、大規模運用時のレイテンシとコストであり、フロンティア級の汎用性ではありません。NvidiaはLightningを、常時稼働エージェントの「実行層」として位置付けています。エージェントが絶えず行う大量の難易度の低い呼び出し、すなわちツール呼び出し、コードレビュー、セキュリティアラートのトリアージ、請求に関する質問、サブエージェントへの委任といった処理です。そうした作業では、毎ステップでフロンティアモデルを使いたいとは思わないでしょう。十分に機能する、安価で高速なモデルが求められるのです。速度の主張はアーキテクチャに由来します。Nvidiaの測定によると、同規模のモデルと比較して出力が最大4倍速く、エージェント型タスクの完了は約30%高速です。DSparkとDFlashという2つのドラフトモデルは、中〜高並行処理のサーバー向けに調整された投機的復号化(スペキュレーティブデコーディング)を提供します。

3つのチェックポイント — そして、あなたが望むのはどれか

今回のリリースは実質的に3つのダウンロードであり、「Nemotron 3.5 Lightning」を1つのモデルとして扱う報道は、開発者にとって最も重要な違いを見落としている。

この記事の主題は、NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16という、生の事前学習済みチェックポイントです。教師ありファインチューニングもRLも蒸留も一切適用されていません。厳密な意味でのベースモデルであり、そのままではチャットはできません。継続事前学習、カスタムSFT、RL、蒸留の出発点として存在しています。NVIDIAの事前学習の上に独自のモデルを構築したいのであれば、このファイルが最適です。

兄弟リリースであるNVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16は、プリトレーニング、MTP継続、SFT、RLという完全なパイプラインを実行した参照ウェイトです。これは汎用の推論・チャットモデルですが、Nvidiaは依然としてこれを本番提供用のアーティファクトではなく、カスタマイズの出発点として位置づけています。本番提供向けには、レイテンシとスループットを重視したNVFP4チェックポイント(同時リリースされ、NvidiaがNemotron 3 Ultraに使用する量子化カーネルを共有するもの)が該当します。

チェックポイントごとに1行で示す実用的な指針:

• Base-BF16 — 継続事前学習、ドメイン事後学習、スクラッチからの蒸留。ここから先は任せた。

• BF16リファレンス — チャットおよび推論に対応していますが、独自のSFTやRLのベースとして意図されており、ホスト型エンドポイントとしては提供されていません。

• NVFP4 — Nvidia GPU上でのデプロイ用に最適化されたサービング向けチェックポイントです。

プロダクションAPIを求める読者のほとんどは、ベースモデルではなくチューニング済みモデルを望むものだ。だが、ベースモデルも重要なのだ。Nvidiaがそれをオープンライセンス(OpenMDW-1.1)で公開しており、このライセンスは重み、トレーニングデータ、レシピをカバーしている。生のプレトレーニングこそ、クローズドベンダーからは得られない部分であり、ファミリー全体を自分たちのものにするための部分なのである。

Screenshot of the Hugging Face model card for NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, showing the Text Generation task, Transformers, Safetensors and the OpenMDW-1.1 license

正直に表記されたベンチマーク台帳

Nvidiaが自社の評価でベースチェックポイントについて報告している内容は次の通りです:MMLU 78.59、MMLU-Pro(5-shot)67.94、GSM8K 91.28、HumanEval 77.44、MBPP 78.59、ARC-Challenge 92.66、HellaSwag 85.55、WinoGrande 79.95、そして1Mトークンでの長文脈RULERスコア69.62。チューニング済みリファレンスは、予想通りにスコアを動かします:MMLU-Pro 81.94、GPQA Diamond(ツールなし)75.44、SWE-bench Verified 51.56、Terminal-Bench 2.1 24.58。

見出しの速度数値もベンダー報告によるものです。同クラスのモデルと比べて出力は最大4倍高速、エージェント型タスクの完了は30%高速で、さらにPinchBenchでは10,000タスクの実行で86%の精度を達成し、同程度の精度でQwen3.6-35Bより約30%高速です。Nvidiaはまた、Artificial Analysis Intelligence Indexが24でgpt-oss-120bと同点だとしています。ただし、その由来には注意が必要です。これはNvidiaが、8月11日時点でArtificial Analysisの公開リーダーボードにまだ載っていないモデルのスコアを引用しているものです。独立したラボはLightningの数値を公表していません。

家族の中で24がどこに位置するかを示すため、Nvidiaの他のオープンモデルに対するAA測定指標は、Nemotron 3 UltraとNemotron 3 Superの両方で25.4、Nemotron 3 Nanoで14.2です。Lightningはフロンティアモデルではなく、Nvidiaもそれを主張していません。これはパレートフロンティアの速度とコストの側面への賭けです。

Scoreboard for NVIDIA Nemotron 3.5 Lightning 30B A3B: Active params 3B, Total params 30B, Context up to 1M tokens, MMLU 78.6 (vendor), Output speed up to 4x vs class (vendor), AA Index 24 (Nvidia-cited); footer reads 'Vendor-reported as of Aug 11, 2026 — no independent run yet.'

用途:エージェントの実行レイヤー

Nvidiaの提案は分業です。フロンティアモデルが計画と推論を担当し、安価なエグゼキューターが、エージェントが実際に一日中稼働できるようにする何千もの定型的な呼び出しを処理します。だからこそ、同じ発表にはルーティングライブラリが含まれています。Lightningは、システム全体ではなく、より大きなシステムの中の一つの層として意図されています。

パートナーケーススタディはNvidia提供のものなので、数字付きのマーケティングとして読んでください。モデルの目的を最もよく示しているのはCodeRabbitで、彼らはコードレビューのためにLightningを3時間未満、100ドル未満でポストトレーニングし、GPT級のベースラインに対して約4%の精度向上を、推論コストをほぼ半分に抑えて達成したと述べています。正確な数値を信じるかどうかは別として、重要なのはその構図です。つまり、3Bアクティブモデルは、自社データでファインチューニングし、大規模に運用するのに十分安価であり、それがまさに価値提案の全体像です。

コスト計算

Nemotron 3.5 Lightning には定価がありません。購入するものが何もないからです。ウェイトはトレーニングデータとレシピとともに OpenMDW-1.1 のもとで無料です。価格は、ホストがそれを提供するために請求する金額次第であり、その金額は、サードパーティのAPIがこのファミリーを扱い始めると、品質以上に変動するでしょう。プロトタイピング用には、Nvidia は自社の build.nvidia.com プラットフォーム上で NIM マイクロサービスとして提供しています。これはレート制限付きで無料で試すことができ、クレジットカードも不要です。

{{1}}この規模を見極める前に、考慮すべきコストの現実が2つある。{{/1}} {{2}}まず、「合計30B、アクティブ3B」はトークンあたりの推論コストが安いことを意味するが、フル30Bは依然として各GPUのメモリに常駐させる必要がある。サービングは無料ではなく、バッチの並行度が実際の実行速度を左右する。{{/2}} {{3}}次に、オープンウェイトモデルが複数のホステッドAPIに登場すると、プロバイダー間のトークン単価は数倍違うことがあり、その差は品質シグナルではない。{{/3}} {{4}}そこでパススルー型ゲートウェイが真価を発揮する。OrcaRouterはプロバイダーのリスト価格をマークアップ0%でそのまま透過させるため、プロバイダーが値下げしたら当日中に反映され、価格差は市場側に残る。{{/4}} {{5}}Nemotron 3.5 LightningはまだOrcaRouterに搭載されていない。重みが公開されたのは数時間前だからだ。しかし、公開直後のモデルを安全に採用するパターンは、自動フェイルオーバーの背後にルーティングすることだ。そうすれば、あるホストのコールドスタート問題が本番パスを停止させることはない。{{/5}}

それに同梱されていたルーター

NeMo Switchyardを理解する価値があるのは、それがNvidiaの、オープンなエージェントAIがどう動くべきかという賭けだからだ。つまり、単一の大きなモデルではなく、各ステップを最も高性能で効率的な利用可能なモデルに送るシステムである。これはあなたのハーネスに統合するオープンソースライブラリで、品質、レイテンシ、コストに合わせて調整するノブがある。Nvidia自身のベンチマークでは、フロンティアモデル単体で実行する場合の約3分の1のコストで、フロンティア級の精度を実現すると主張している。

今回もNvidiaが報告したパートナー各社の結果は、方向性として一貫しています。Boomiは、トラフィックの59%を5倍高速な専門モデルにルーティングし、後続ターンのレイテンシを21%削減したと述べています。Cognitionは平均コストを28%削減したと報告しています。Rampは、自社のSWE-benchにおいてフロンティアモデルと同等の性能を、58%低いコストで達成したと述べています。最も正直なデータポイントはLangChainです。145のマルチステップエージェントタスク全体でコストを74%削減し、フロンティアモデルへの呼び出しはわずか7% — ただし精度は6%犠牲になっています。ルーティングは無料ではありません。それは意図的なトレードオフなのです。

Switchyardはライブラリであり、つまり自分で構築する道です。ポリシーを定義し、統合し、運用する。マネージド型の代替手段はホステッドルーティングAPIです。そこでは1つのキーで200以上のモデルのカタログを利用でき、フェイルオーバーは自分で配線するものではなくデフォルトで備わっており、ルーティングDSLを使うと複数のモデルを1回の呼び出しにまとめることができます。Nvidia自身のテスト数値(59%、74%、58%)は、どのレイヤーで実行するにせよ、そのパターンを支持する最も強力な根拠です。

今日それを実行する方法

初日サポートは幅広い。チェックポイントは、ローカルでは{{1}}RTX PC、DGX Spark、DGX Station、Jetsonハードウェア{{/1}}上で動作し、データセンターでは{{1}}HopperおよびBlackwell GPU{{/1}}上で動作する。発表されたエコシステムには、{{2}}vLLM、SGLang、llama.cpp、Ollama、LM Studio、Unsloth、TensorRT-LLM{{/2}}に加え、Nvidiaインフラ向けのNIMコンテナが含まれる。ポストトレーニング用に、Nvidiaはコーディングエージェント機能を目的としたオープンRLデータセット{{KEEP}}Nemotron-RL-Agentic-Terminal-Pivot{{/KEEP}}もリリースした。ベースモデルの上で独自のRLステップを実行する予定があるなら役立つ。

Screenshot of the NVIDIA developer blog post announcing Nemotron 3.5 Lightning for long-running agent workloads, dated August 11, 2026

誰が今行動すべきか

このリリースから得るものがあるのは3つのグループで、それぞれ異なる行動が求められます。モデルを構築する場合——継続事前学習、ドメイン事後学習、蒸留——なら、Base-BF16チェックポイントが注目すべきダウンロードであり、これは本当に新しいものです。Nvidiaはこれまでこのライセンスの下で、生の30Bクラスの事前学習モデルを公開したことがありません。モデルを提供する場合、NVFP4チェックポイントとNIMパスは、エージェントワークロードで既に実行しているものとベンチマークを比較する価値があります。3Bアクティブのプロファイルが最大の売りです。そしてアプリケーション開発者であれば、正直な答えは少し待つことです。調整済みモデルはまだ安定した形でホスト型APIにはなく、独立した評価結果は数週間先です。コストの全体像は、市場がオープンな30B MoEに価格をつけて初めて明確になるでしょう。

次に注目すべき点:Artificial Analysis での初の独立した実行が、Index-24 の主張を裏付けるか、それとも否定するか。チューニング済みチェックポイントに対して最初のホスティングプロバイダーが設定する価格。そして、Nvidia 自身の Switchyard の数値が、他のベンチマークにどれほど頻繁に登場するか。今回の発表は新たなフロンティアではなく、効率性とルーティングに関するものだ——そしてそれこそが、仕様書ではなく、今回のストーリーなのである。

よくある質問

Base-BF16チェックポイントをそのままチャットに使用できますか?

いいえ、NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16は、SFTもRLも適用されていない生の事前学習済みチェックポイントであり、命令チューニングはされていません。チャットおよび推論に対応したオプションは、兄弟版のNVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16リファレンスリリースで、これはフル4段階のパイプラインを実行したものです。ベース版はそのままデプロイするのではなく、さらにポストトレーニングするために存在します。

Artificial Analysis Indexの24は独立したスコアですか?

いいえ — まだです。その数字は、2026年8月11日時点でArtificial Analysisの公開リーダーボードにまだ登場していないモデルについて、Nvidiaがスコアを引用したものです。独立したラボはNemotron 3.5 Lightningの結果を公開していないため、第三者が実行した結果が現れるまでは、発表資料内のすべての数値をベンダー報告として扱ってください。