NVIDIA Nemotron Labs Dory 1.0 4B 対 MiniCPM5 2B：カスタムランタイムと素の LlamaForCausalLMの対決

N​VIDIA N​emotron Labs Dory 1.0 4BとMiniCPM5-2Bについて最も有益な点は、どちらのモデルのベンチマーク表ではなく、MiniCPM5-2Bのアーキテクチャセクションの最初の行に現れるものです。そのカードには、アーキテクチャは標準的なLlamaForCausalLM：42層、16のクエリヘッドと2のKVヘッドを持つグループ化クエリ注意、カスタムカーネルなし、モデルコードのフォーク不要。Doryのカードは、あらゆる実用的な意味で正反対のことを述べています。そのアーキテクチャはループ型潜在リカレントネットワークであり、レイヤーブロックが可変回数適用されます。そして今日それを提供するには、オープンなプルリクエストからvLLMをインストールするか、固定されたコミットからllama.cppをビルドする必要があります。これらのモデルの一方は、既存のスタックにそのまま収まります。もう一方は、まずスタックを変更する必要があります。その違いは、どちらのベンダーが公開したどのスコアよりも多くのデプロイを決定づけるでしょう。

2つの小さなモデル、2つのまったく異なる賭け

N​VIDIA N​emotron Labs Dory 1.0 4Bは、N​VIDIAの4B高密度（dense）ループモデルで、OpenMDW 1.1ライセンスの下、BF16、MXFP8、NVFP4、Q5_K_M GGUFでHugging Faceに公開され、そのカードには「GA (10/16/2026)」と記されています。テキスト専用かつ英語専用で、最大256Kトークンに対応し、約6兆の事前学習トークンを、最初の約4.5TはNVFP4でネイティブに学習されたスタックに投入した後、BF16に切り替え、その後300Bトークンにわたってロングコンテキストに拡張し、SFTとマルチ環境GRPO強化学習で仕上げられました。いかなる告知もなしに公開されました。

MiniCPM5-2Bは、OpenBMBの2.5Bデンスモデルだ。総パラメータ数は2,516,756,480、うち非埋め込みパラメータが1,981,982,720で、Apache 2.0の下、131,072トークンのコンテキストウィンドウと英語・中国語のバイリンガル対応を備える。MiniCPM5シリーズでは1Bに続く2番目のモデルであり、モデルカードが同一のトレーニングレシピと呼ぶものをスケールアップするために構築され、オンデバイス、ローカル、およびリソース制約のあるデプロイを明示的に狙っている。事後学習では、教師ありファインチューニング、強化学習、オンポリシー蒸留を実施した。モデルカードは、ベンチマークセット全体で平均53.9を記録し、2Bクラスのオープンソース最先端（state of the art）だと主張している。

どちらも、1基のアクセラレータ上で実行できるほど小さい。どちらも、今日からダウンロードできる。そこから先は、すべて分かれていく。

次元ごとの対比

• アーキテクチャ — Dory 1.0 4B は、スライディングウィンドウアテンションとフルアテンションを交互に配置したループ型潜在再帰正規化G​PTであり、8層の入力ブロック、20層の再帰ブロック、8層の出力ブロックで構成されています。MiniCPM5-2B は従来型の密な因果トランスフォーマーで、42層、GQA は16ヘッド×2 KVヘッドの標準的なLlamaForCausalLMです。

• 導入時のサービングコスト — これが最大の売りです。MiniCPM5-2B にはカスタムカーネルもフォークしたエンジンも不要です。あなたのスタックが L​lama 型モデルを動かせるなら、これも動かせます。Dory には、未マージのプルリクエストからビルドした vLLM か、ピン留めされたコミットからビルドした llama.cpp が必要で、さらにループ回数と KV キャッシュモードの実行時オーバーライドも必要です。

• パラメータ — 4Bのdenseに対し、合計2.516B（非埋め込み1.98B）。Doryは約60%大きく、その再帰ブロックは繰り返し適用されるため、4ループ時のトークンあたりの実効計算量は、パラメータ数から示唆されるものを上回る。

• コンテキスト — Dory は、vLLM で検証済みの 262,144 ポジションにより、256K トークンに到達します。MiniCPM5-2B は 131,072 をサポートします。Dory のウィンドウは 2 倍です。それにコストをかけるかどうかは、以下で説明する KV キャッシュの問題です。

• 言語 — Doryは英語のみで、事前学習の混合には43のプログラミング言語が含まれます。MiniCPM5-2Bは英語と中国語のバイリンガルです。中国語のワークロードの場合、この次元だけで他のどの行を参照することなく比較が決着します。

• ライセンス — DoryにはOpenMDW 1.1、MiniCPM5-2BにはApache 2.0。どちらも商用利用を許可していますが、ほとんどの法務レビューで既に承認されているのはApache 2.0の方です。

• 計算の柔軟性 — Dory の深さは実行時パラメータです。レイテンシ重視なら1ループ、推奨デフォルトは2、エージェント精度がより重要なら4、すべて単一のチェックポイントから。MiniCPM5-2B は深さが固定で、その性能のレバーは量子化です。このファミリーは GGUF、MLX、GPTQ、LiteRT ビルドに加え、投機的デコーディング用の DSpark ドラフトモデルを提供しています。

• エコシステム — MiniCPM5-2Bは2026年9月初旬から公開されており、100万回を超えるダウンロードと、量子化版および派生ビルドの広がりがある。Doryの4つのリポジトリは一夜にして中身が用意され、これを執筆した時点でそれらのダウンロードカウンターはゼロだった。

数字、そしてなぜそれらを引くべきではないのか

両方のカードはベンチマーク表を公開しており、それらの表は並べて比較できる程度に十分多くのタスクで重なっている。注意深く行う価値がある。単純な引き算では、特定の予測可能な形で誤解を招くからだ。

Doryをその3つのループ設定で、MiniCPM5-2Bの報告された単一の数値と比較して読み取ってください：

• SciCode — 27.3 / 34.94 / 35.11 対 26.3。2ループ以上では、Dory がリードしています。

• SWE-bench Verified — 46.4に対して50.3 / 59.5 / 61.8。

• Terminal-Bench 2.1 — 8.6 に対して 12.5 / 18.1 / 22.2。

• GPQA Diamond — 69.19 / 72.41 / 72.16 対 70.2。1ループではDoryは名目上劣っているが、3ループ以上ではわずかに上回る。

• HLE、テキストのみ — 8.25 / 10.89 / 10.43 対 8.9。

• IFBench — 66.3 に対して 74.29 / 77.94 / 79。

• AA-LCR — 59.0に対して63 / 71 / 73。

Doryはこれらのほとんどの項目でより強く見え、時には大きな差で上回っている。では、この算術を鵜呑みにできない理由は次のとおりだ：これらは異なる2つのプロンプトセットを測定する2つの異なるハーネスであり、どちらのベンダーも相手のモデルを実行していない。 N​VIDIAはNeMo GymとNemo Evaluator SDKでDoryを測定しており、ベンチマークごとの反復回数はカードに開示されている——SciCodeは8回、AA-LCRは16回、いくつかのベンチマークはちょうど1回だ。OpenBMBは自社のセットアップでMiniCPM5-2Bを測定し、そのスイート全体で単一の平均値53.9を報告している。これら2つのセットアップ間の2〜3ポイントの差はノイズであって、判定ではない。どちらのカードにも独立した再現は含まれておらず、これら2つのモデルの直接対決を公開した第三者も存在しない。

Dory の見かけ上の優位がエージェント的タスクでは本物で、それ以外では消えると期待すべき構造的な理由が1つある。Dory のカードは、ループが SWE-bench と Terminal-Bench で最も大きな利得をもたらし、知識想起では最も小さいことを示している — AA-Omniscience はループ回数を変えてもほとんど動かない。MiniCPM5-2B 自体の強みは別の形で広がっている。τ²-Bench Telecom で 97.1、GAIA Text-103 で 88.7 を報告しており、これらのエージェント的結果は N​VIDIA のカードでは同比較可能な形で測られていない。狭い領域でのツール使用がタスクなら、まず試すべきは MiniCPM のカードの数値であり、それらはどれも Dory のシートには出てこない。

また、2枚のカードが比較を避けている点にも注目したい。MiniCPM5-2Bは、自身の平均でQwen3.5-4Bを51.1、granite-4.2-3Bを42.7、LFM2.5-2.6Bを33.2とし、これらを相手に自己ベンチマークしている。Doryは、Qwen3.5-4B、Qwen3.5-9B、Gemma 4 26B A4B、Qwen3.6-35B-A3Bを相手に自己ベンチマークしている。両方のカードが数値を示している唯一のモデルはQwen3.5-4Bで、それに対するスコアは異なっている。このことは、Qwenについてよりも、評価ハーネスについて多くを語っている。

それぞれを運用するのにいくらかかるか

MiniCPM5-2B の運用面の話は地味なものだが、ここでは地味こそが褒め言葉だ。標準的なアーキテクチャで、独自カーネルはなく、既製の量子化が一通り揃い、ファミリーにはすでに Apple Silicon 向けの MLX ビルド、GPU 推論向けの GPTQ、モバイル向けの LiteRT、投機的デコーディング向けのドラフトモデルが含まれている。128Kコンテキストの 2.5B LLaMA 型モデルは控えめなメモリに収まり、すでに動かしているエンジン上で提供できる。OpenBMB はこのライン全体を、設計上オンデバイスかつリソース制約付きのものと位置づけている。そしてモデルカードには、新しいものを採用しなければならない要素は何もない。

Dory の運用ストーリーは興味深いもので、まだ終わっていません。vLLM サポートはプルリクエスト 60149 でレビュー中です。マージされるまでは、カードには、プリコンパイル済みカーネルフラグを設定してそのブランチから vLLM をインストールし、その後、リカレントループ回数と KV キャッシュモードを設定するオーバーライドを指定して起動するよう書かれています。llama.cpp サポートはプルリクエスト 30306 にあり、動き続ける head ではなく固定リビジョンを用いており、Apple Silicon 上のネイティブ ARM64 macOS を対象としたビルド手順が含まれます。N​VIDIA が公開している Dory の速度数値は、DGX Spark 上での量子化による高速化だけであり、入出力の組み合わせに応じて BF16 に対する MXFP8 で 1.69× と 1.84×、NVFP4 で 2.17× と 2.44× で、スループットの数値ではありません。私たちが確認できる限り、Dory のホスト型エンドポイントはどこにも存在しません。

Dory 側で真に新しいエンジニアリングはメモリ設計であり、これは導入を決める前に検証する価値が最も高い主張だ。標準的な再帰ループではループごとに個別の KV キャッシュを保持するため、パスを追加するたびにメモリ使用量が増えていく。Dory はラストループ KV キャッシュモードに対応しており、再帰アテンション層ごとに単一のキャッシュを保持して各パスでそれを上書きすることで、何ループ実行してもフットプリントをほぼ1ループ分のサイズに保つ。NVIDIA によれば、精度はループごとのモードに近いまま保たれ、出力長もほとんど変わらないという。もしそれが成り立てば、エラスティック深度は実用的な能力だ。精度がずれるなら、この機能にはカードが示唆する以上のコストがかかる。NVIDIA の外部で検証した者はいない。

ルーターが元を取れる場面 — そしてそうでない場面

MiniCPM5-2B は OrcaRouter のカタログに載っていませんし、NVIDIA Nemotron Labs Dory 1.0 4B も載っていません。Dory には、確認できる限りどこにもホスト型エンドポイントがありません。MiniCPM5-2B はオンデバイスモデルで、そのカードは推論プラットフォーム向けではなくローカル配備向けに書かれています。この比較の両側が、あなたが所有するハードウェア上で動くという実際的な帰結がある以上、無理に切り口を探すより、そのことを率直に言うほうが重要です。

そうなると、ホスト型のベースラインが実験の中で厄介な部分になる。2B や 4B のモデルを評価しているチームのほとんどは、それを真空状態で評価しているわけではない——コストも能力も何分の一かでホスト型の呼び出しを置き換えられるかどうかを問うており、その問いに答えるには、同じタスクセットでホスト型モデルを実行する必要がある。OrcaRouter のキー 1 つで、プロバイダーの定価、マークアップ 0% でそれらのホスト型モデルにアクセスできる、2 つ目の契約も 2 つ目の SDK も不要なので、比較のために別途調達する必要はない。ここでは自動フェイルオーバーが別の理由で重要になる。単一 GPU での長時間のローカル評価は必ず中断されるが、同じエンドポイントの背後にフォールバック経路がすでに配線されていれば、実行を維持できる。ルーティング DSL を使えば、ローカルエンドポイントとホスト型エンドポイントが 1 つの呼び出しサイトを共有できるため、ハイブリッドデプロイの 2 つの半分が 2 つのコードベースに分岐することがない。これはどれも Dory と MiniCPM5-2B のどちらが優れているかを決めるものではない。敗者を安く除外できるようにするだけだ。

評決

ピークのエージェント性能よりもデプロイのしやすさを重視するなら、MiniCPM5-2Bを選ぼう。Apache 2.0で、サイズは半分、バイリンガル、標準アーキテクチャで、モバイルランタイムを含む各種量子化も揃っている。今月中に出荷しなければならず、もう一方の選択肢がカーネルのビルドと格闘することだというなら、2.5Bはロジスティクスだけでも勝ちだ——そして報告されているτ²-BenchとGAIAの結果を見る限り、小規模モデルが実際にデプロイされるツール利用タスクで、それほど多くを犠牲にしているわけではなさそうだ。

あなたが求めているものがモデルではなく実験であるなら、NVIDIA Nemotron Labs Dory 1.0 4B を選ぼう。単一のチェックポイントが推論時の計算量に応じて自らの精度を高め、256K のウィンドウとそれを手頃なものにするためのキャッシュ設計を備え、商用展開を認めるライセンスが付いている。覚悟しておくべきは、サービングエンジンをブランチからビルドすることになること、公表されている数値はすべてベンダー自身がベンダーのハーネス上で出したもので反復回数は脚注に開示されていること、そしてダウンロードカウンターがまだゼロだということだ。利点は、小規模モデルに計算資源を投じるという真に異なる方法を試す、NVIDIA 外部の最初の一人になれることだ。代償は、その検証作業を NVIDIA に代わって引き受けることになるということだ。

この比較を最も速く変えるのは、ベンチマークではない。それは vLLM と llama.cpp がそれぞれの Dory プルリクエストをマージすることだ。Dory がリリース済みバイナリから読み込めるようになった瞬間、現在 MiniCPM5-2B に有利に働いている摩擦の論拠はほぼ消え、2つのモデルは、あなたのビルドシステムが押し付ける条件ではなく、ベンチマーク表が示唆する条件でついに競うことになる。

そうした話は決して仮定ではない。このようなリリースの背景にある、記録に残されたAIの障害やエージェントのインシデントはOrcaRouter AIインシデントアーカイブに集められており、各項目には独自の情報源、深刻度、信頼度グレード、係争中フラグが付されています。