Nemotron-3-Labs-Ultra-Math-RL：NVIDIA、IMO 2026への挑戦を支えたRLチェックポイントを静かにオープンソース化

NVIDIA dropped Nemotron-3-Labs-Ultra-Math-RL on Hugging Face on September 2–3, 2026, with no blog post, no X announcement and no press release — the model card simply appears, dated September 3, and explains itself in one line: it is the reinforcement-learning checkpoint, referred to as "Nemotron-3-Ultra-RL" in NVIDIA's accompanying technical report, that was "deployed as part of an ensemble system that achieved a gold-medal level score at the International Mathematical Olympiad 2026." That system's official score — 30 out of 42 points, above the 29-point gold threshold — was widely reported back in late July, when the base model's weights had been public since June. What was not downloadable then was the pair of post-trained specialists the competition run actually used. One of them is now sitting in a public Hugging Face repo with zero likes and a near-zero download count.

これは静かなリリースに関する話なので、何が判明していて何が判明していないのかを正確に述べる価値があります。リポジトリとレポートから判明していること：チェックポイントのアーキテクチャ、そのトレーニングレシピ、IMO 2026提出物において果たした役割、そしてNVIDIAが併せて公開したデータセットとベンチマーク。まだ確認されていないこと：ベンダーによる発表も、このチェックポイントに関する独立した第三者によるベンチマークも、ホスト型APIもありません。これはOpenMDW-1.1ライセンスの下でのセルフホスト型ウェイト公開であり、実行するにはおよそ1.5TBのBlackwellクラスHBMを用意する必要があります。

今週実際にリリースされたもの

リポジトリ nvidia/Nemotron-3-Labs-Ultra-Math-RL は、2026年9月2日（19:11 UTC）にHugging Face上で作成され、最終更新日は9月8日です。これは、nvidia/nemotron-labs-imo-2026 の下にまとめられた協調リリースの1項目であり、このリリースには以下の内容が含まれています。

• ポストトレーニングされた2つの競技用チェックポイント — Nemotron-3-Labs-Ultra-Math-RL（本件）と、その教師付き微調整された姉妹版Nemotron-3-Labs-Ultra-Math-SFTは、両方とも OpenMDW-1.1 の下にあります。

• それらの背後にある2つのトレーニングコーパス — Nemotron-Math-Proofs-v3-SFTとNemotron-Math-Proofs-v3-RL、どちらもCC-BY-4.0。

• Nemotron-IMO-Benchは、未発表のオリンピアードレベルの問題200問（代数50問、組合せ論50問、幾何学50問、数論50問）から成る新しい評価ベンチマークであり、各問題には人間が厳選した参照証明が付随しています。数学者Titu Andreescuと共に、問題がどのトレーニングセットにも含まれ得ないように特別に作成されました。

• ベースチェックポイントであるNVIDIA-Nemotron-3-Ultra-550B-A55B-BF16から、それらはすべてファインチューニングされています。

「このコレクションの説明は、全体を結び付ける技術レポートを指し示している。「An Open Recipe for IMO Gold: Training Nemotron for Olympiad Mathematics」（NVIDIA の NeMo-Skills リポジトリにある PDF の日付は2026年9月8日）。チェックポイントに加えて、NVIDIA は推論パイプライン、提出された証明、RLトレーニングのレシピ、そして競技実行の完全な計算資源会計も公開している。その枠組みは明示的に再現可能な科学であり、これは NVIDIA による「システムを再構築するために必要なものはすべてここにある」という表明である。」

Nemotron-3-Labs-Ultra-Math-RLとは何か

Architecturally this is not a new base model — it is a finetune of the general-availability NVIDIA-Nemotron-3-Ultra-550B-A55B-BF16, the Mamba2–Transformer hybrid Latent Mixture-of-Experts checkpoint NVIDIA first shipped on June 4, 2026. The Math-RL checkpoint keeps that architecture and scale: 550B total parameters with 55B active, multi-token prediction, and support for context windows up to 1M tokens. What RL training changes is the specialization, and it is narrow in a deliberate way:

• 目的 — 競技数学の難問を解くこと、および証明の判定役を務めること：モデルは厳密な解答を生成し、それを 0 / 0.5 / 1 の評価基準に照らして自己評価し、証明の誤りを特定するよう訓練される。

• これは汎用チャットボットではありません。カードとレポートが説明するのは、指示追従型アシスタントではなく、証明探索パイプラインを担う専門ワーカーです。

• ライセンス — OpenMDW-1.1は、NVIDIAの寛容なオープンモデルライセンスであり、ベースモデルおよび以前のNemotron Labsティーチャーリリースと同様、商用・非商用の両方での利用を許可します。

• デプロイメント — ホスト型の定価はどこにもなく、safetensorsをダウンロードしてセルフホストします。NVIDIAのリファレンス構成は8×B200のシングルノード(合計約1.5TBのHBM)で、H100/H200/GB200/GB300にわたるマルチノードオプションもあります。推奨ランタイムはvLLMで、推論パーサー、Qwen3-Coderツールコールパーサー、Mamba SSMキャッシュ設定、5トークンでのMTP投機的復号がすべてカードに記載されています。

このチェックポイントが重要な理由：IMO 2026システム内にあったからです

IMO 2026の結果は、誰もがこのモデルに注目する理由です。したがって、重要な区別は次の通りです: 30/42はシステムスコアであり、単一モデルのスコアではありません。NVIDIAの提出物は2段階・マルチチェックポイントのパイプラインであり、Nemotron-3-Labs-Ultra-Math-RLはその中で2つの役割を担うコンポーネントでした。

報告書によれば、第1段階では、各問題につき最大8ラウンドにわたって、生成・検証・改良を反復する探索が実行された。第1ラウンドでは384件の証明試行がサンプリングされた。すなわち、8種類の解法戦略プロンプトそれぞれから16件ずつ、そして3つのチェックポイント（一般提供モデル、SFT専門モデル、RL専門モデル）のそれぞれから16件ずつである。探索時の検証では、RLチェックポイントとSFTチェックポイントを2モデルパネルとして使用し、各モデルから8件の独立した判定を得て、16件すべての判定がスコア1を付けた場合のみ証明が受理された。その後の高計算リソース段階では、全ファイナリストを3つのチェックポイントすべてで再採点し（各チェックポイントから16件のIMO形式判定、0〜7段階評価）、問題ごとに単一の提出物を選択した。

論文で報告され、7月下旬の報道と一致する公式結果は、IMO 2026の試験問題で42点中30点であり、金メダルの基準点である29点を上回った。問題1、2、4、5では満点、問題3と6では各1点を獲得し、公式のIMO採点者が採点した。NVIDIA自身のリソース計算によると、提出された6つの証明はすべて、約7億700万（707M）生成トークンと1,464 GB200 GPU時間以内で見つかった。進行中のラウンドを完了すると、全実行は約23.1億（2.31B）トークンと4,800 GB200 GPU時間になった。

レポートに記載された2つの内部数値は、RLチェックポイントがアンサンブルに採用された理由を示している。NVIDIAの30問題からなる開発セットでは、GPT-5.5、Gemini 3.1 Pro、Claude Opus 4.8からなる独立審査員がMathArena形式の手順に従って採点したところ、RLスペシャリストはエンドツーエンドで最高の単一チェックポイントパイプラインだった（獲得可能な210点中180点。一方、SFTスペシャリストは165点、ベースモデルは162点）。ただし、第1ラウンドでより多くの問題を解いたのはSFTチェックポイントだった。また、300件の証明からなる監査セットでは、本番導入されたRL+SFT検証パネルにより、偽受理率（無効な証明を受理して探索を終了させてしまう失敗）が約1.1%に低下した。比較として、RLチェックポイント単独の判定では12.4%、ベースモデルでは31.6%だった。レポートの要点は、この2つの選択的スペシャリストが全会一致ルールの下で互いのエラーを検出し合うということだ。

に関するベンダー報告エビデンスとして扱う価値があるのは、NVIDIA自身の開発セットに対して行われ、NVIDIAの論文で報告されたNVIDIA独自のアブレーションであり、この設計が機能する理由独立したスコアとしてではない。開発セット自体はわずか30問しかなく、外部の研究所はまだこのチェックポイントを実行していない。

RLレシピを手短に

トレーニングデータと手法は完全に公開されており、これは数学的推論のRL研究に取り組む誰にとっても実際のニュースです。レポートの要点は以下の通り：

• データ — 問題は Nemotron-Math-Proofs-v1 の AoPS サブセットから抽出され、ベースの Ultra モデルが4回中1〜3回で解けるもの（DeepSeek-V3.2-Speciale による判定）にフィルタリングされている — 難しいが扱いやすいカリキュラム問題。このフィルタにより、9,597件の証明生成プロンプトが得られ、Nemotron-Math-Proofs-v3-RL として公開された。

• 報酬 — DeepSeekMath-V2 の設計に従うが、自己分析報酬項は削除する。判定シグナルは、トレーニング中に証明判定サービスから得られる。

• アルゴリズム — NeMo-RLをベースにした非同期RLで、PipelineRLと同様のアプローチ：進行中のプロンプトの固定プールを保持し、バッチが満杯になると完了したシーケンスをトレーナーに送る。さらに打ち切り重要度サンプリングと、エントロピーが上昇した際に正例の低確率トークンをマスクする手法を用いる。構成では、131,072トークンのコンテキスト、約128ノードのトレーナー、128ノードの推論、およびそれぞれ4×GB200を搭載した16ノードのジャッジが使用された。

対照的に、兄弟版のSFTチェックポイントは、同じベースモデルを元にした長文脈の教師ありファインチューニングであり、品質フィルタリング済みコーパス（15,818の問題をカバーする414,890件の証明・リファインメント・検証・メタ検証トレース）を用いて、512基のGB200 GPU上で実行された。

まだ知られていないこと

ここで情報源を正直に明かすことは両刃の剣であり、このリリースを気にするかどうかを決めようとしている読者は、4つの注意点を心に留めておくべきである：

• 発表なし。本稿執筆時点では、NVIDIAはこのコレクションを正式に発表しておらず、Hugging Faceに登場したものです。テクニカルレポートのPDFは9月8日付で、文書化されたレシピも事実上今週公開されたことになります。

• 独立したベンチマークは存在しない。このチェックポイントに付随するすべての性能数値（開発セットのアブレーション、検証者による監査、IMO 2026システムスコア）は、NVIDIA自身の報告書に由来している。IMOスコア自体は、公式の競技条件の下で採点されたため、この一連の数値の中では出所が最も確かだが、これはシステムレベルの結果であり、このチェックポイントがそれにどれほど貢献したかは、外部の研究所によって再現されたものではない。

• No hosted API, no list price. This is a self-host release. Anyone wanting to call it needs the hardware. The "NVIDIA Nemotron 3 Ultra reached gold at IMO 2026" coverage from July can easily be misread as "download this and it solves olympiad problems" — the honest version is "download the components of the system that did."

• 「金メダル」という枠組み。NVIDIA自身の表現は「金メダル基準に到達」であり、論文ではこのモデルがアンサンブルの一部であったことに留意している。この単一チェックポイント単独で「金メダルレベル」だとする主張は、裏付けがないものとして扱うこと。

対象読者

このリリースの対象読者は特定の人物です。数学的推論、証明生成、または検証可能な報酬を用いたRL（強化学習）に取り組む研究室や研究者であり、形式的証明器もツールもインターネットも使わずに、自然言語でオリンピアドの金メダル水準を達成したシステムのリファレンス実装を必要としている人です。そのような読者にとって価値があるのは、パッケージ全体です。すなわち、重み、SFTおよびRLのコーパス、NeMo-Gym形式のプロンプト、推論パイプライン、提出された証明、そしてコンペティション実行が実際に何GPU時間かかるかを示す計算コストの明細です。

他の皆さんにとって実用的な注意点は、オリンピアード級の証明探索は、ほとんどの実際の数学ワークロードには過剰だということです。AIMEやコンテストレベルの問題、そして実質的にすべてのコード内応用数学の作業は、はるかに小さいモデルでも余裕で処理できます。これは重要です——550Bチェックポイントは、バッチジョブのために気軽に立ち上げられるものではないからです。より小規模なオープン数学モデルとフロンティアAPIモデルは、OrcaRouter上の単一のAPIを通じてプロバイダーのリスト価格で利用できます（当社側のマークアップはなく、ベンダーの値下げは即日反映されます）。また、自動フェイルオーバーにより、未検証のモデルを本番パスに賭けることなく試すこともできます。まずはそこから始めてください。ワークロードが本当にフロンティア規模の証明探索を必要とする場合にのみ、550Bのセルフホストに進んでください。

注目すべき論点は、今回の静かなリリースに対して公式なアナウンスと正式なリリースノートが出るのかどうか、そしてNVIDIA以外の誰かがこのレシピをエンドツーエンドで実行し、独立したIMO-Benchスコアを報告するのかどうかだ。このベンチマーク——未発表の新しいオリンピアード問題200問——は、このコレクションの中でもおそらく最も有用な成果物である。まさに、この分野でこれまで欠けていた、データ汚染に耐性のある評価（eval）だからだ。もしこのレシピが再現されれば、今週の静かなHugging Faceへのアップロードは、今年のオープンモデルリリースの中でも特に重要なものの一つだったと判明するだろう。たとえ再現されなくても、このコレクションは、フロンティア規模でのgenerate–verify–refineの実行が実際に何を必要としたかについての、詳細で正直な記録であり続ける。