NVIDIA、Metaの816B旗艦モデル向けドラフターをひっそりとリリース

NVIDIAはnvidia/Muse-Spark-Open-816B-A42B-DFlash2を2026年10月16日にHugging Faceへ公開し、誰にも知らせなかった。このリポジトリはドラフト版チェックポイントだ——43億8000万パラメータの投機的デコーディングモデルであり、その役割はMuse-Spark-Open-816B-A42B、すなわちMetaの8160億パラメータのオープンウェイト旗艦モデルの次の数トークンを予測することにほかならず、それによって大型モデルは1トークンずつ出力する代わりに、推測のブロック全体を1回のフォワードパスで検証できる。NVIDIAのブログ記事も、告知スレッドも、プレスリリースもなく、執筆時点でこのリポジトリのダウンロード数と「いいね」はともにゼロだ。あるのは、受理長の表を載せたモデルカード、動作するvLLMの呼び出し例、そして目立って主張を避けている項目の短いリストである。これがこの成果物の述べていることと、述べていないことだ。数字からは分からないのは、この種のことが現場で何か問題を起こしていないかどうかだ。このクラスのモデルに関する記録されたAIインシデントやエージェントの障害はOrcaRouter AI Incident Archiveに集められており、そこでは各項目が出典、重大度、信頼度グレード、異議申し立てフラグをそれぞれ備えている。

出荷されたもの、確認できる順に

以下はすべて、リポジトリ、またはそれに対する Hugging Face 自身の API から得たものです。そのいずれも、ベンダーのベンチマークを信用する必要はありません。

• タイミング — リポジトリは2026年10月16日04:40 UTCに作成され、その重みは約40分後にコミットされた。カード自体のリリース行には「Huggingface: 10/16/2026」とある。NVIDIAの開発者ブログには付随する出版物は存在せず、モデルカードはDFlash論文とModel Optimizerプロジェクトのみを参照している。

• この成果物 — 1つのsafetensorsファイル、BF16、4,384,162,432パラメータ、約8.8 GBのストレージ。アーキテクチャクラスはDFlash2DraftModelで、5つのdenseデコーダ層、ウィンドウ2,048の非因果的スライディングウィンドウアテンション、隠れサイズ8,192、64次元のクエリヘッド128個に対してキーバリューヘッド16個、語彙サイズ202,048。ブロックサイズは8。ドラフトはターゲットの62層のうち5層 — 3、19、31、47、59 — をタップする。

• ゲートなし — Hugging Faceはこのリポジトリを公開かつ制限なしと報告しています。Metaのターゲットリポジトリが依然として利用規約同意のログインの背後にある一方で、あなたは今すぐドラフターをダウンロードできます。

• ライセンスの構成 — ドラフト版チェックポイントは NVIDIA Open Model Agreement に準拠し、さらにカードによって Meta の Muse Model License が上乗せされます。これを基に構築されたものには、帰属表示文字列 "Built with Muse Spark Open" が必須となります。

• NVIDIAが示す来歴 — カード自体の第三者向け通知には、Muse-Spark-Open-816B-A42Bが「NVIDIAによって所有も開発もされていない」こと、およびこのドラフターが「その対象モデルと併用するためにNVIDIAによって訓練された」ことが明記されている。訓練プロンプトはNVIDIAのNemotron-Post-Training-Dataset-v2に由来し、数学、コード、STEMにまたがる約348万件の多言語サンプルからなり、応答は5段階の推論エフォートレベルにわたって対象モデルによって合成されている。

• ツールチェーン — モデルカードには、このモデルが「NVIDIA Model Optimizer 0.47のプレリリースビルド」でトレーニングされたと記載されている。Model Optimizer 0.47.0は2026年9月23日に一般公開され、0.48.0rc0が10月8日に続いて登場した。つまり、このドラフターが生まれたそのレシピは、今や第三者が再実行できるものになっている。

これはこのモデルにとって最初のドラフターではなく、NVIDIAにとって最初のドラフターでもない

どちらの事実も、ここで実際に何が新しのかを判断するうえで重要だ。というのも、どちらか一方だけでは、この下落が本来とは違うもののように見えてしまうからだ。

NVIDIAはこの夏以来、他社のオープンウェイト向けにDFlashファミリーのドラフターをひっそりと公開してきた。6月中旬のMiniMax-M2.7-DFlash、6月から7月にかけてのKimi-K2.6-DFlash、続くKimi-K2.7-Code-DFlash、そして8月初旬のNemotron 3.5 Lightning 30Bドラフターである。NVIDIAによるMuse Spark Openドラフターは、シリーズにおける次の項目であり、デビュー作ではない。

Muse Spark Open にも、これより前からドラフターはすでに存在していた。第三者組織による DFlash2 チェックポイントは10月13日に Hugging Face へ公開され、同じターゲット向けの DSpark チェックポイントは10月15日に最終更新された——いずれも、Meta 自身の day-zero スタックが一方のランタイムを DFlash V2、もう一方を DSpark と名付けた約1か月後のことだ。つまり、「Muse Spark Open 用のドラフターが存在する」というのは本題ではない。

話はより限定的で、より有用だ。NVIDIA自身の、Model Optimizer で学習された BF16 DFlash2 チェックポイントがこのモデル向けに登場し、Blackwell ハードウェア向けに、テスト済みエンジンとして vLLM を用いて公開された。どのドラフターを実行するかを選ぶなら、その選択は実際にはサービングスタックの選択であり、そこが2つの道の分岐点だ。

その数字と、それらに付随する正確な条件

NVIDIAは3つのテストセットにわたって1つの値を報告している：アクセプタンス長、すなわち生成ステップごとに出力されるトークン数の平均であり、ドラフト長7で測定される。

• MT-Bench、80の2ターン質問 — 貪欲デコーディングでは受理された各ステップあたり3.73トークン、サンプリングでは3.01トークン。カテゴリ別では数学が4.47で最も強く、人文科学が2.92で最も弱い。

• SPEED-Bench 定性評価、11カテゴリにわたる880件のプロンプト — グリーディで3.72、サンプリングで3.01。多言語は4.27、コーディングは4.15に達する一方、ライティングは3.05と低迷している。

• SPEED-Benchスループット、32,000トークン入力 — グリーディーで3.30、サンプリングで2.78、そしてここで雲行きが怪しくなる。高エントロピーバケットはグリーディーで2.51、サンプリングで2.16まで落ち込み、低エントロピーテキストの3.71と対照的だ。

• 条件 — 推論エフォート xhigh、出力トークン数 4,096、同時実行数 32、単一の GB300 ノード上で TP4 および EP4、vLLM 経由でサービング、ターゲットは NVFP4。greedy の数値は temperature 0、サンプリングの数値は temperature 1.0 で top-p および top-k による切り捨てなし、確率的ドラフトサンプリング手法を使用。

それらの数字の下ではなく横に添えるべき注意点が三つある。第一に、それらはベンダー報告であり、われわれはそのいずれも再現していないし、このチェックポイントについて独立した測定を公表した者もほかにいない。第二に、アクセプタンス長は高速化ではない——それは高速化を計算する際の上限である。受理されたトークンはすべて、依然として8160億パラメータのモデルによって検証されなければならず、ドラフタ自身のフォワードパスにもコストがかかる。NVIDIAはトークン毎秒比もレイテンシー比較も公表しておらず、これはこれを配備するかどうかを判断する読者が知りたい数字である。第三に、そのすべては同時実行数32で測定されており、これは投機的デコーディングが通常最も効果を発揮する領域ではない——利得はレイテンシー律速の低バッチ単一ストリームに集中し、負荷の高いサーバーでは得られるものが少なくなる。

これらの表がまったく測定していないのは、出力品質です。greedy decoding での検証は、ターゲットモデル自身のトークンを返すように設計されているため、greedy 列はほぼ純粋な速度の主張に近いものです。サンプリング列こそ、自分のトラフィックで試すべきものです。なぜなら、確率的なドラフターは、どれだけ速いかだけでなく、分布のたどり方も変えるからです。

実際にそれをどうやってオンにするか

カードにはサポートされている起動方法が1つ示されており、それはvLLMサーバー上の単一のフラグです。ターゲットを提供し、ドラフターをspeculative-config引数で渡します。methodは「dflash」、modelはNVIDIAチェックポイント、speculative token countは7、draft sample methodはprobabilisticで、コマンドではremote code trustedが必要です。TensorRT-LLMは、カードが挙げる2番目のエンジンです。vLLMは、カードが加速エンジンとして名指しし、Blackwellでテストしたエンジンです。

特筆すべきギャップが2つある。カードの対応ハードウェア欄はLinuxでのNVIDIA Blackwellなので、これはAppleシリコンやコンシューマー向け構成に組み込めるものではなく、データセンターGPU向けの路線だ。そしてSGLang — Meta自身の発表資料がDFlash V2を経由させるランタイム — は、このチェックポイントに関するNVIDIAのエンジン一覧のどこにも登場しない。この2つのドラフターは交換可能ではない。あなたのサービングスタックがSGLangなら、このリポジトリはあなた向けに書かれたものではない。

起草者が読者のために変えるもの、そして変えないもの

投機的デコーディングは、大規模モデルの推論の中でも、重みを一度もダウンロードしないような人々にも届く部分である。なぜなら、それは非常に大きなオープンモデルをどれだけ安価に提供できるかを左右する主要なレバーだからだ。優れたドラフターはステップあたりの受理トークン数を増やし、それはGPUあたりのスループットの向上を意味し、最終的にはAPIにおける価格の低下と初回トークンの高速化という形で表れる。だからこそ、4.38Bモデルはニュースになるのだ——それを読む人のほとんどが実際に動かすことはないとしても。

とはいえ、これは816Bモデルをあなたのデスクに置くものではない。これは、最小の実用チェックポイントが数百ギガバイト単位で測られるターゲットに付随する8.8 GBの付属物であり、Blackwellシリコン上で、互いに積み重なった2つのライセンスの下にある。これはチャットするモデルではなく、自らテキストを生成することもなく、それが下書きを担当するために訓練されたターゲットなしではまったく動作しない。

そうしたものを一切伴わずに Muse Spark の能力を求めるなら、それが存在するのは提供ラインです：Muse Spark 1.2 と Muse Spark 1.1は OrcaRouter がルーティングする 2 つのチェックポイントで、どちらも Meta の定価のまま、0% のマークアップがそのまま適用されます。プロバイダーの価格は上乗せされるのではなく、そのまま渡されるためです。Muse Spark Open とこの DFlash2 ドラフトチェックポイントは当社のカタログにありませんし、そうでないかのように示唆するつもりもありません——自己ホスト型ウェイト向けのドラフターは自己ホスト型インフラです。それに関して私たちが依然として役に立てるのは、地味な部分です：200 以上のモデルをひとつの API で、プロバイダーが劣化したときの自動フェイルオーバー、そしてコード変更ではなく設定によってモデル間でトラフィックを移動させるルーティング DSL。これは、実運用の経路をそれに賭けることなく、実績のないチェックポイントが実際のトラフィックで何をするのかを安価に知る方法です。

何が未解決の疑問を決着させるのか

この記事を変えることになる4つの要因があるが、そのいずれもNVIDIAの意図をめぐる謎ではない。

• エンドツーエンドの高速化を示す数値 — 同一ハードウェア上で、条件を揃えた非投機的ベースラインと比較したトークン毎秒またはレイテンシであり、NVIDIA 以外の誰かによって測定されたもの。アクセプタンス長はドラフトが頻繁に的中していることを示すが、サーバーが速くなったことは示さない。

• BF16 と NVFP4 のターゲット比較 — 公開されているすべての表は NVFP4 ターゲットを基準に測定されたもので、これはほとんどのユーザーが実際にサービングする構成だが、ターゲットをより高い精度で実行したケースはカードには一切報告されていない。

• vLLM と TensorRT-LLM 以外でのサポート — チェックポイントが SGLang に現れれば、Muse Spark Open 向けの2つの DFlash2 ドラフターはスタック固有のものではなく差し替え可能になり、そうなって初めて両者の選択は簡単になる。

• リリース済みツールでの再トレーニング — このドラフターは Model Optimizer 0.47 のプレリリースビルドから生まれたものです。0.47.0 が9月23日から公開され、0.48.0rc0 が10月8日から出ているため、レシピは検証可能であり、それでトレーニングされたチェックポイントはおそらくわずかに良い結果を報告するでしょう。

少なくともそれらの最初のものが実現するまでは、正直にまとめればこうなる——NVIDIAは他社のフラッグシップ向けに、十分に文書化され、ゲートなしで、特定ハードウェア向けのドラフターを出荷し、受理長を公開し、そして告知を省いた。そして気にする理由は、Muse Spark Open が速くなったことではなく、8160億パラメータのオープンウェイトを大規模に手頃にするためのインフラが、これと同じくらい静かに次々と現れ続けていることにある。