NVIDIA Nemotron Labs Dory 1.0 4B、4つのチェックポイントを伴い告知なしでHugging Faceに登場

NVIDIA Nemotron Labs Dory 1.0 4Bは今、Hugging Face上に4つの量子化で存在しており、NVIDIAはそれについて一言も発信していない。チェックポイントnvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-MXFP8は、ビルドを「GA (10/16/2026)」と刻印したモデルカードとともに公開された。その3つの兄弟——NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16、NVIDIA-Nemotron-Labs-Dory1.0-4B-NVFP4、NVIDIA-Nemotron-Labs-Dory1.0-4B-GGUF——は、2026年10月16日から17日にかけてのUTC真夜中を挟んだ同じ36分間の窓の中でプッシュされた。NVIDIAの開発者ブログに対応する投稿はなく、Nemotron研究のランディングページにも項目はなく、どちらにもDoryという名前のモデルへの言及は一切ない。カード自体は異例なほど完全である——完全なベンチマーク表、2つのエンジン向けのサービング手順、チェックサム——しかしその周囲にあるマーケティングの足場、つまり通常ならモデルの存在を教えてくれるものは、まるごと欠けている。

だから、それが何を言うことを許し、何を許さないかについては、正確に述べておく価値がある。知り得ること：重みは存在し、ダウンロード可能で、ライセンスは明記され、アーキテクチャは再現できる程度に詳細に記述され、ベンダーは自ら測定したという注記とともに自社の数値を公表した。まだ確認されていないこと：これがNemotron Labsファミリーの始まりなのか単発の実験なのか、論文やブログ記事が出るのか、そしてその数値が他の誰かのハーネスでも通用するかどうか。NVIDIAはこれをローンチとして位置づけていないので、この記事もそうしない。それは一夜にして現れたリポジトリの読み解きである。

リポジトリには実際に何が含まれているのか

成果物は4つのチェックポイントと1つのモデルカードです。カードが実質的な文書であり、以下のほぼすべてはそこから来ています。

• フォーマット — BF16 (W16A16)、MXFP8 (W8A16)、NVFP4 (W4A16)、および llama.cpp 用の Q5_K_M GGUF エクスポート。MXFP8 チェックポイントが本稿の対象となっているのは、それが正規のリポジトリ ID を持つものだからにすぎない。カード内のベンチマークは BF16 で測定された。

• サイズと形状 — 総パラメータ数4B。エキスパートの混合ではなく密なスタックで、8層の入力ブロック、20層のリカレントブロック、8層の出力ブロックに分割されています。

• コンテキスト — 最大256Kトークン。NVIDIAがカードで提供する起動コマンドの下、vLLMで262,144ポジションが検証済み。

• ライセンス — OpenMDW 1.1。カードから本文がリンクされている、寛容型で再配布可能なモデルライセンス。カードには、このモデルが「商用または非商用利用に対応」と明記されている。

• 言語 — 英語のみ、ただし事前学習データは43のプログラミング言語をカバーしている。

• 学習予算 — 事前学習トークン6兆。そのうち最初の約4.5兆はNVFP4でネイティブに実行され、その後、残りはBF16に切り替えられ、続いて3000億トークンのコンテキスト拡張フェーズが行われた。データは2013年から2025年12月に及ぶ。ポストトレーニングは、NVIDIAがキュレーションしたセットに対する教師ありファインチューニングと、それに続くGRPOによるマルチ環境強化学習である。

• リポジトリのアクティビティ — 執筆時点で `main` には8件のコミットと2人のコントリビューターがあり、コミットのうち最新のものは README の編集です。最初のコミット「Dory 4B MXFP8 チェックポイントとトークナイザーをアップロード」は数時間前のものです。これは、何ヶ月も公開状態で静かに置かれていて、たまたま今になって気づかれたリポジトリではありません。今日になって中身が追加されたリポジトリです。

カードが正しく押さえていて、ほとんどのカードができていない細部が1つある。GGUFエクスポートの正確なバイトサイズとSHA-256が記載されているので、ダウンロードしたものを検証できる。3,673,288,864バイトで、ハッシュは起動方法に記載されている。

アーキテクチャこそが、注目すべき最大の理由だ

ベンチマーク表を取り払ってしまえば、NVIDIA Nemotron Labs Dory 1.0 4B について興味深いのは、それが1つの固定されたモデルではないという点です。これはループ型、つまり潜在的再帰型のネットワークです。20層の再帰ブロックが入力ブロックと出力ブロックの間で繰り返し適用され、入力はループごとに再注入されます。したがって同じチェックポイントでも、要求するループ数に応じて動作が異なり、それを選ぶのはトレーニング時ではなくサービング時です。

そこから三つの帰結が導かれる。いずれも誰かのテストからではなく、モデルカードに由来するものである：

• エラスティック推論コンピュート — 1つの重みファイルが複数のコンピュート予算に対応します。ループ回数は、レイテンシ重視なら1、推奨デフォルトは2、エージェントタスクの精度が1秒あたりのトークン数より重要な場合は4。再トレーニングは不要で、ダウンロードして同期し続ける2つ目のチェックポイントも不要です。

• トークン効率 — NVIDIAは、トークンあたりの追加計算量は可視の思考連鎖を長くするのではなく潜在推論に充てられると主張しており、そのためループ回数を増やせば同一タスクでより少ない出力トークンで済む可能性がある。このカードには、それを裏付けるための出力トークン係数チャートが同梱されている。この主張には直接的なコスト上の影響があり、だからこそ無視するのではなく指摘する価値がある。

• メモリ効率の高いループ処理 — これが、明白な反論に答えるものだ。標準的なループ処理ではループごとに個別の KV キャッシュを保持するため、パスを追加するたびにメモリが増大する。Dory は、リカレントアテンション層ごとに単一のキャッシュを保持し、各パスでそれを上書きする last-loop KV キャッシュモードをサポートしており、何回ループを実行してもフットプリントをおよそ 1 ループ分のサイズに保つ。NVIDIA によれば、last-loop キャッシュを使った場合の精度は、出力長がほぼ変わらないまま、per-loop キャッシュを使った場合と近い水準にとどまり、同社はこれを自社の実験結果として説明している。

アテンションスタックはハイブリッドだ。スライディングウィンドウ層とフルアテンション層が交互に並び、2026年の長コンテキスト小型モデル群が収斂してきたのと同じ大きなパターンになっている。これらはいずれも、それ単体では珍しいものではない。より珍しいのは、256Kウィンドウの4Bモデルに、ループ回数をデプロイ時の調整ノブとして搭載している点だ。

ベンチマーク表を、ベンダー表として読む

ここにあるすべての数値は、カードが「一貫したハーネス（NeMo Gym / Nemo Evaluator SDK）」と呼ぶものの下でNVIDIAによって生成されたものです。外部の誰もそれを再現しておらず、モデルは約1日前に登場したばかりで、4つのリポジトリすべてのダウンロードカウンターはゼロを示しています。数値はスコアボードとしてではなく、方向性についての主張として扱ってください。

N​VIDIAが選んだ比較セットはそれ自体が示唆に富みます：Qwen3.5-4B、Qwen3.5-9B、Gemma 4 26B A4B、Qwen3.6-35B-A3B。注目すべきは、4Bクラスの比較対象2つが前世代のQ​wenであり、その他の比較対象はすべて大幅に大きいことです。3つのループ設定を横断して読んでください：

• SWE-bench Verified — 1ループで50.3、2ループで59.5、4ループで61.8。一方、Qwen3.5-4Bは54.7、Qwen3.5-9Bは61.0、Gemma 4 26B A4Bは57.40、Qwen3.6-35B-A3Bは73.4。

• Terminal-Bench 2.1 — 12.5 / 18.1 / 22.2 対 15、24、35、43。これはループが最も大きな効果をもたらす行であり、Dory が依然として他陣営に最も大きく後れを取っている行でもある。

• τ³-bench（Banking） — 11.6 / 12.89 / 14.69 に対し、Qwen3.5-4B は 5.03、Qwen3.5-9B は 7.22、Gemma 4 26B A4B は 13.66、Qwen3.6-35B-A3B は 9.54。Dory はここで 4B および 9B の Qwen モデルを大差でリードしている。

• GDPval-AA-V2（Elo）— 815 / 946 / 967 対 424、546、751.6、987。1ループから2ループへの跳ね上がりは131 Eloポイントで、これは表のどこにおいてもループ間の動きとして単独最大です。

• GPQA Diamond、ツールなし — 69.19 / 72.41 / 72.16 対 77.71、80.93、80.43、85.35。Dory はこの項目では、4B Qwen を含むすべての比較対象に敗れている。

• HLE、テキストのみ、ツールなし — 11.31、15.43、17.79、19.18 に対して 8.25 / 10.89 / 10.43。同じ話だ。

• IFBench — 74.29 / 77.94 / 79 対 53.83、59、77.89、57.44。指示追従はDoryの相対的に最も強い結果であり、4ループでは26B Gemma 4をわずかに上回る。

• AA-LCR — 63 / 71 / 73 対 64.7、68.4、64.6、68.5。長コンテキスト検索はループによって著しく改善し、最終的に4つすべての比較対象を上回ります。

• AA-Omniscience（正確性） — 10.03 / 10.08 / 10.03 対 15.02、18.05、21.13、19.95。ループ処理は保存された知識には実質的に何もしない。これは想定どおりの結果であり、表の残りの部分に対する有用な健全性チェックである。

重要なのは、このパターンの形そのものだ。ループは、エージェントタスクやツール使用タスクで最も大きな効果を生み、百科事典的な想起では最も小さく、そして2回目のループは、どこでも3回目や4回目よりはるかに価値がある。これは、デフォルトで2回ループすることを推奨するカード自身の勧告と一致している。

NVIDIA自身の脚注に潜む4つの注意点

ここが、このカードが大半のものより正直である点であり、そして表をざっと流し読みする読者が誤った印象を抱かされる点でもある。

• AAの数値はArtificial Analysisの数値ではありません。NVIDIAによるAAスコア指数との比較は、「一貫した評価ハーネスの下で算出された社内推定値」であり、「公式のArtificial Analysis（AA）スコアとは乖離する可能性がある」と明示的にラベル付けされています。これらは同一条件での社内測定であり、外部ランキングではありません。

• 長コンテキスト列はハイブリッドな構成を用いている。AA-LCR については、カードには AA-LCR v1.1 の修正済み解答キーを使用したものの、より新しいものではなく古いジャッジモデルを維持したと記載されている。修正済みのキーセットと古いジャッジを混在させることで、その列は N​VIDIA の他の行とは比較可能になるが、他の誰かのものと必ずしも比較可能とは限らない。

• 繰り返し回数はばらばらです。SciCodeは8回、AA-LCRは16回、AA-Omniscienceは10回、GDP.pdfは5回実行される一方、HLE、Terminal-Bench 4.0、およびGDPval-AAの各バリアントは1回しか実行されません。ばらつきが意味を持つベンチマークでの単一の実行は、スコアではなく点推定値にすぎません。

• 表内の1行は、測定値ではなく報告値としてダガーで印が付けられている——Qwen3.6-35B-A3BのSWE-bench Verifiedにおける73.4だ。つまり、ボード上で最も大きく見える数字は、NVIDIA自身が実行しなかったものである。

これらはいずれも、この表が間違っているということではない。これはこの表を、とある1つのラボによる内部スナップショットにしているだけであり、正直に読み取れば、Doryはエージェントタスクにおいて、前世代のQwenの4Bおよび9Bモデルと確かに互角に見える一方で、隣に並べられている26Bおよび35Bモデルには及ばない、ということだ。

今日実行できること、そしてできないこと

このモデルについて、私たちが確認できるホスト型エンドポイントは、NVIDIA からも他の誰からも提供されていません。Dory は weights-only であり、カードに記載されている 2 つのサービングパスはいずれも、未マージのプルリクエストからビルドする必要があります：

• vLLM — サポートはプルリクエスト60149で「レビュー中」です。それがリリースに反映されるまでは、そのブランチからvLLMをインストールし、ループ回数とKVキャッシュモードを設定するオーバーライドを使って提供します。カードには、プリコンパイル済みカーネルの環境フラグによってローカルでのCUDAビルドを回避できると記載されています。

• llama.cpp — サポートはプルリクエスト30306に存在し、カードは動き続けるPRヘッドではなく特定のリビジョンを固定している。これは参照用セットアップとして正しい判断だ。手順はApple Silicon上のネイティブARM64 macOSを対象としており、GGUFパスは上に表示されたバイトサイズのQ5_K_Mエクスポートを想定している。

カードには、どちらのプロジェクトもマージされたことを示すものは何もなく、どちらのエンジンのリリースノートにも、そうではないことを示す記述はない。今週 Dory を動かしたいなら、PR からビルドすることになる。

覚えておく価値のあるハードウェア関連のメモ：NVIDIA は H100、B200、B300、DGX Spark でテストしており、公開されている速度の数値は、スループットの数値ではなく Spark での量子化の高速化のみです。そのデバイスでは、MXFP8 は入力/出力長の組み合わせに応じて BF16 比で 1.69× と 1.84× を示し、NVFP4 は 2.17× と 2.44× に達します。推奨サンプリングは temperature 1.0、top-p 0.95 で、vLLM パスでは推論は常にオンです。

地味な4Bリリースが、それでもあなたの午後をかける価値がある理由

打ち上げなしで登場するモデルの興味深い点は、その主張が、打ち上げの主張ではできない形で検証可能であることだ。カテゴリー勝利を主張する基調講演はない。あるのは、特定の反証可能なメカニズムを主張するカードだ — 1つの4Bチェックポイントが、推論時の計算量に応じて自身の精度をスケールさせるという。ループカウントフラグを使って1つのGPUでそれをテストできるし、答えは自分の評価で見えるか、見えないかのどちらかだ。

それはルーティングレイヤーがまさに想定している状況でもあり、ここで私たちが何をするのかを漠然と示すのではなく、正確に述べておく価値があります。OrcaRouterはNVIDIA Nemotron Labs Dory 1.0 4Bを提供していません — このモデルは当社のカタログになく、確認できる限りどこにもホスト型エンドポイントはありません。1つのキーが実際に与えてくれるのは、比較のもう半分です。セルフホストの4Bをベンチマーク比較する相手となるホスト型モデルには、1つのAPIを通じて、プロバイダーの定価で0%のマークアップでアクセスできます。そのため、セルフホストの実験に2つ目の契約や2つ目のSDKは必要ありません。自動フェイルオーバーは、自前のGPUプールが飽和している時間帯をカバーし、ルーティングDSLを使えば、セルフホストの呼び出しを、1つのエンドポイントの背後でホスト型の呼び出しと並べて置けます。弾力的な深さが運用上の複雑さに見合うかどうかを試しているなら、少なくとも対照群はキー1つで手の届くところにあります。

これを本当の物語にするには、何が必要だろうか。

3つのこと、いずれもまだ存在していない。

まず、お知らせです。カードには10月16日付と記されており、リポジトリは一晩のうちに中身が入りました。NVIDIAの開発者フィードは10月15日にNemotronの投稿を配信しましたが、それはまったく別のモデルに関するものでした。ブログ記事、論文、またはNemotron Labsのファミリーページがいつ現れてもおかしくなく、それにはカードが暗黙のままにしている学習の詳細と、モデルに想定された役割が記載されている可能性が高いでしょう。

第二に、エンジンのサポートです。vLLM と llama.cpp はどちらも未マージのプルリクエストの状態にあります。どちらかがマージされた日には、「実行できる」は「ブランチからビルドできる」という意味ではなくなります。

第三に、そして最も価値があるのは、独立した評価だ。再現する価値が最も高い主張は、ベンダーが強調したもの、すなわちループ回数にわたる SWE-bench と Terminal-Bench の変動と、最終ループの KV キャッシュが精度を保つという主張である。どちらも公開されているツールで検証可能であり、どちらも NVIDIA の外部の誰によっても検証されていない。

今日の時点で正確な要約はこうだ。4つの形式の実重み、寛容なライセンス、本当に珍しいアーキテクチャ、2件のオープンなプルリクエストとしてしか存在しないサービング経路、そして、あるラボ自身のハーネスによるベンチマーク表があり、注意書きはその脚注に印刷されている。これはNVIDIAが今年公開した中で最も興味深い4Bモデルであり、同社はまだそれを誰かに知らせると決めていない。

そうした話は決して仮定ではない。このようなリリースの背景にある、記録に残されたAIの障害やエージェントのインシデントはOrcaRouter AIインシデントアーカイブに集められており、各項目には独自の情報源、深刻度、信頼度グレード、係争中フラグが付されています。