「リリースではなく、プルリクエスト」というタイトルと「Ming-3.0音声モデルとvLLM-Omni、2026年10月」というサブタイトルを持つ生成済みヒーローカード。タイトルの両側には、マージリクエストとモデルチェックポイントのスタックを表す線画のシンボルが配置されている。OrcaRouterのロゴが右下隅に合成されている。
Engineering & Research

Ming-3.0の「Day-Zero」vLLM-Omniサポートはプルリクエストであり、しかも誤ったチェックポイントを提供している

著者

Gideon Frost

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

投稿は2026年10月19日に出され、出荷告知のように読める。0.5Bから126Bまでの5つの音声モデルを「本日からvLLM-Omniで提供できる」としている。執筆時点でリポジトリが示しているのは、1件のオープンなプルリクエスト、40個のファイル、マージなし、そしてタイトルがMing-3.0-audio-tinyを名指ししている一方で、パッチのすべての行がMing-3.0-tts-tinyを対象にしている。どちらもinclusionAIが2026年9月3日からHugging Faceにアップロードし続けているMing-3.0ファミリーの実在するチェックポイントであり、役割が異なる。一方は聞き、もう一方は話す。どちらも、同じ投稿の「総パラメータ126B、アクティブ6.5B」という表現が指す126Bのフラッグシップではない。したがって、初日時点の話を正直に述べた版は見出しより狭く、より有用だ。Ming-3.0には、5つのモデルのうち1つについてレビュー中の信頼できる提供経路があり、残り4つは依然としてTransformers経由で読み込めるか、まったく読み込めない。 このような投稿の背景にある、文書化されたAI障害と提供スタックのインシデントは、OrcaRouter AI Incident Archiveに集められており、各項目には独自の出典、重大度、信頼度グレード、異議ありフラグが付いている。

これは作業に対する不満ではありません。プルリクエスト9119は最初の統合としては異例なほど徹底しており、テストがあるからこそ、それがマージされると信じられるのです。しかし「5つのモデルをオープンソース化した」ことと「今日それらを提供する」ことの間の隔たりが、この記事の主題そのものです。なぜなら、その隔たりこそがデプロイ判断の下される場所だからです。以下はすべて、プルリクエスト、vLLM-Omniレジストリ、および5つのHugging Faceリポジトリから読み取ったものです。数値がベンダー自身によるものである場合、その数値を含む文でその旨を明示しています。

プルリクエスト9119に実際に含まれている内容

2026年10月19日16:32 UTCにvllm-project/vllm-omniに対してオープンされ、現在もオープンのまま。40ファイル、4,578行の追加と211行の削除。中心となっているのは、新しいモデルクラスMing3TTSForConditionalGenerationに加え、パイプラインのレジストリエントリ、2段階構成のデプロイYAML、そして/v1/audio/speechで音声合成を公開するOpenAI互換アダプタである。このレシピはH100またはH200を1基、vLLM 0.32.0、Python 3.12、CUDA 13.0、Transformers 5.19を前提に書かれており、vLLM-Omniのコミット9eb1adcc0に固定されている。

二つの詳細が、これを単なるデモ以上のものにしている。第一に、新しいクラス向けの1,271行に及ぶ契約テスト、独立したトランスポート用テストスイート、そして小さな「リリース契約」ファイルがある。これほどの規模のスイートは、モデルが次のリファクタリングを生き残ることを期待する人が書くものであって、ノートブックを公開する人が書くものではない。第二に、このパッチには旧来の ming_tts 実装に対する共有モジュールのテストが219行含まれている。つまり作者は、新しい経路が前世代を静かに壊していないかを確認している。

含まれていないのは、このファミリーの音声理解モデルに対するサポートです。音声入力用のエンコーダーも、文字起こしアダプターも、ASR ルートもありません。このパッチは端から端まで音声合成です。

• プルリクエスト — 9119、オープン、2026年10月19日作成、40ファイル、+4,578/−211。

• クラスを追加 — Ming3TTSForConditionalGeneration を、以前の MingTTSForConditionalGeneration の隣に登録しました。

• エンドポイント — 新しいアダプター経由のOpenAI形式 /v1/audio/speech。

• レシピの対象 — H100 または H200 1台、vLLM 0.32.0、vLLM-Omni コミット 9eb1adcc0。

• チェックポイント提供済み — inclusionAI/Ming-3.0-tts-tiny、合計7.9B、アクティブ約1.3B。

A screenshot of GitHub pull request 9119 in vllm-project/vllm-omni, titled '[New Model] Ming-3-TTS (inclusionAI/Ming-3.0-audio-tiny) Support'. It shows 'yuanheng-zhao wants to merge 24 commits into vllm-project:main from yuanheng-zhao:model/ming3-tts-vllm2', 40 files changed, +4,578 and -211, and the contributor-intent block whose first answer reads 'Support deploying inclusionAI/Ming-3.0-tts-tiny with vLLM 0.32.0'. The purpose note names Ming-3.0-TTS Tiny and the test plan names vLLM 0.32.0.

5つのチェックポイントと、それぞれにおいて「サポート」が意味するもの

このファミリーは実際に0.5Bから126Bまでをカバーしており、その広がりはサイズの階段ではない。一つの命名体系をまとった3つの役割であり、告知もなく6週間にわたってアップロードされた。

• Ming-3.0-tts-0.5B — Qwen2.5-0.5B バックボーンに DiT ヘッドを組み合わせた密なシンセサイザー、44.1 kHz 出力、7 言語に四川語と広東語を加え、100 以上の中国語内蔵音声。リポジトリ作成日時: 2026年9月22日 12:46 UTC。MIT。ダウンロード数: 6。

• Ming-3.0-tts-tiny — 合計7.9B、アクティブ約1.3BのLing V3 Mixture of Experts。ゼロショットクローニング、音声デザイン、14個のインライン・パラ言語タグ、マルチスピーカーのポッドキャスト生成に対応。0.5Bと同じ9月22日の同じ分。MIT。ダウンロード数は20。これがプルリクエストで提供されるチェックポイントです。

• Ming-3.0-audio-tiny — 合計9.3B、アクティブ2.7B、入力は音声とテキスト、出力はテキストで、必要に応じてTalker経由で音声も出力。2026年9月3日 11:45 UTCに作成。MIT。ダウンロード数は3件。これはプルリクエストのタイトルに記されているチェックポイントです。

• Ming-3.0-audio-flash — 合計126B、アクティブ6.5Bのフラッグシップリーダー。アクセント、方言、長時間の音声、音楽、音響シーンを入力として受け取り、テキストまたは合成音声を出力します。9月3日 11:49 UTC に作成。MIT。ダウンロード数は22件。

• Ming-3.0-asr-tiny — 9B。Ling-tiny-v3をバックボーンとする音声エンコーダで、ホットワード付きの中国語・英語文字起こしと15の地域方言テストセットに対応します。5つの中で最新:リポジトリは2026年10月14日09:27 UTCに作成。MIT。ダウンロード数35件。

つまり投稿に書かれた範囲は正確だ。圧縮が起きるのはサポートに関する主張のほうで、この5つのうち1つはマージ待ちのサービング経路を持ち、多くの人が「Ming-3.0」と言うときに指す2つ——audio-flashとaudio-tiny——はツリー内に統合がまったく存在しない。

vLLM-Omniのメインブランチには、現在実際に何が含まれているのでしょうか

main 上のレジストリは小さく、確認は簡単です。inclusionAI/Ming-omni-tts-0.5B 向けの MingTTSForConditionalGeneration と、Ming-flash-omni-2.0 向けの MingFlashOmni エントリが 2 件記載されています。いずれも Ming-3.0 のチェックポイントではありません。これらは前世代のものであり、どちらもドキュメント上でサポート対象モデルのチェックが付いています。

その区別は、デプロイ計画が破綻しかねない分岐点だ。「vLLM-OmniはMingをサポートしている」というのはMing-flash-omni-2.0とMing-omni-tts-0.5Bについては真であり、複数のリリースで真であり続けており、recipes/inclusionAI/にレシピもある。しかし「Ming-3.0」という名前のものについてはまだ真ではない。この投稿を読んで126Bの音声モデルを選び、OpenAI互換エンドポイントを期待してノードをプロビジョニングするチームは、チェックポイントと設定、そしてtrust_remote_codeフラグを見つけることになる。

この命名のせいで、差分を読んでいる人でも見落としやすい。新しいレジストリキーMing3TTSForConditionalGenerationは、古いMingTTSForConditionalGenerationから数行しか離れていない。また、PRタイトルのMing-3.0-audio-tinyは、本文のMing-3.0-tts-tinyと一語しか違わない。流し読みしていると、どちらも同じモデルに見える。

A screenshot of vLLM-Omni's supported-models document rendered on GitHub, showing the table columns Architecture, Models, Example HF Models and NVIDIA GPU. Visible rows include Qwen3-Omni, Qwen2.5-Omni, MingFlashOmniForConditionalGeneration plus MingImagePipeline for 'Ming-flash-omni-2.0 (omni-speech + imagegen)', BAGEL, InternVLA-A1, GROOT N1.7 and HunyuanImage-3.0. There is no Ming-3.0 row anywhere in the visible table.

なぜ「間違ったチェックポイント」という細部は揚げ足取りではないのか

この2つの小型モデルは相互に交換可能ではありません。Ming-3.0-audio-tinyは音声言語モデルです。音声を入力として受け取り、テキストを生成します(必要に応じて音声付きで)。Ming-3.0-tts-tinyは音声合成器です。テキストと参照クリップを受け取り、音声を生成します。一方向けに書かれたサービング統合は、他方のメモリレイアウト、バッチ処理の挙動、エンドポイントの形について何も教えてくれません。

仕事の計画を立てている読者にとって、それは今週、2つの問いのうちどちらに答えられるかを変える。

• 音声を生成したいなら — 声のクローニング、方言TTS、スクリプトからのポッドキャスト組み立て — このプルリクエストはまさにあなた向けで、そのレシピはH100またはH200の1台です。

• 音声を文字起こししたり、音声について推論したりしたい場合 — 会議、通話、方言の強いインタビューなど — このパッチの内容は一切当てはまりません。その場合の道筋は、カスタム modelling ファイルを用いた Transformers、または ASR カードに記載されている SGLang アダプターです。

126Bのフラッグシップは第3のカテゴリーに属します。ベンダーの128Kプロファイルではテンソル並列で80GBのH800を8台、検証済みのテキスト専用SGLangプロファイルではGPUを4台必要とし、KVキャッシュを別にしても約259GBの重みが必要です。単一GPUのレシピでは役に立たないため、このパッチに含まれていないのは見落としではありません。

この投稿が正しく捉えていた点

検証に耐えた主張は2つあり、それらこそがこのファミリーの信頼性を左右する。5モデルという数は正しく、0.5Bから126Bという範囲も正しい。括弧内の6.5Bアクティブも含めて——それはflashモデルのアクティベーション数であり、そのカードに印刷されている。

3番目の主張「今日中に提供する」は注意深く読むべきものだ。それはT​TS-tinyの経路について、マージ後にのみ当てはまり、しかもその場合でもリリース成果物ではなくレシピとして当てはまる。オープンなプルリクエストとタグ付きリリースの区別は、まさに本番チームが必要とする区別であり、その記事はその区別を示していない。

また、注目すべき日付もある。vLLM-Omniのパッチは、inclusionAIがaudio-flash GitHubリポジトリへ最後にプッシュしてから12分後にオープンされた。このリポジトリ自体は10月15日に作成されており、Hugging Faceで重みが公開されてから6週間後のことだった。統合が遅れているわけではない。それは、このファミリーの他のすべてと同じ速度で到着している。つまり、誰も公開していないスケジュールで、ということだ。

今週はマージを待たずにMing-3.0を実行しています

ファミリー内のすべてのチェックポイントは現在Transformers経由で読み込まれ、カードにその方法が記載されています。flashカードのパターンは、AutoProcessorとuse_fast=False、bfloat16のAutoModelForCausalLMとdevice_map="auto"、そしてtrust_remote_code=Trueです — カード自体が、有効化する前にモデリングコードを読むよう促しています。リポジトリにはカスタムファイル、プロセッサ、Talker、VAE、および文字起こし付きの2つの参照音声が含まれています。

合成については、TTSチェックポイントには独自の推論エントリポイントがあり、ロード前にチェックポイントを検証するプリフライトスクリプトがあります。文字起こしについては、ASRカードはSGLangアダプター経由のOpenAI形式の/v1/audio/transcriptionsエンドポイントを文書化しており、検証済みプロンプトでは言語ラベルと文字起こしの間にタブが必要であると警告しています。そのタブがパーサーであり、汎用的な「これを文字起こしして」というプロンプトは、ベンダーが測定した構成ではありません。

その道では得られないもの、それが中間層です。継続的バッチ処理、アドミッション制御、安定したエンドポイント、不正なリクエストを生き延びるプロセス。その層こそが、1つのチェックポイントに対するプルリクエストの正体です。だからこそ、注視すべきはモデルカードではなくマージステータスなのです。

ルーターがどこに収まるか、そしてそれが言えないたった一つの文

OrcaRouterはMing-3.0を提供していません。5つのチェックポイントはいずれも当社のカタログに含まれておらず、当社のAPIへの呼び出しがそれらのいずれかに到達することもありません。ご自身の8基のGPUで運用する126Bモデルはインフラであり、ルーティングによってインフラがホスト型エンドポイントになるわけではありません。

ルーターが実際にカバーするのは、音声プロダクトのテキスト側の半分です。それは聞こえているより大きな領域で、音声に何を尋ねるかを決めるプロンプト、話者分離済みの文字起こしを構造化ノートに変えるクリーンアップ、合成エンジンが読み上げる前にスクリプトをチェックするガードレール、そしてファイルをASRノードまたはTTSノードに振り分ける分類器が含まれます。これらは通常のテキスト呼び出しであり、それらを200以上のモデルを0%のマークアップで利用できる1つのAPIの背後に置く — プロバイダーの定価をそのまま反映するため、ベンダーの値下げが当日中にこちら側でも有効になる — ことで、すでに難しい部分がGPUノードであるプロジェクトからベンダー契約を3つ削減できます。 自動フェイルオーバーも特筆すべきもう一つの要素です。それは、未マージのチェックポイントを、本番経路をそれに賭けることなく、トラフィックの一部の背後に置く方法です。

その投稿を真実にするには何が必要でしょうか

検証可能な3つの出来事を、どれほど大きな変化をもたらすかの順に。

• マージ。9119 がレシピとテストを添えてタグ付き vLLM-Omni リリースに入れば、ある Ming-3.0 チェックポイントには実際のサービングの筋道が立ち、TTS-tiny にとって「デイゼロ」が擁護可能になる。

• 2つ目のパッチです。音声理解の経路には独自の統合が必要です。flash モデルと audio-tiny モデルにアダプターが用意されるまでは、「vLLM-Omni が Ming-3.0 をサポートする」という文は合成のみを指します。

• 独立した数字が一つだけ。カード内のあらゆる数値はinclusionAI自身による実行結果であり、5つのいずれについても第三者がスコアを公表したことはない。中国語ASRの平均3.45と方言の平均9.40は、ベンダーが公の場で自らを説明したものであり、それなりの価値はあるが、再現と同じではない。

それまでは、リポジトリが裏付けている説明こそが正確だ。6週間にわたって静かにアップロードされ、10月の一日で文書化された、5モデルからなる音声ファミリーであり、その7.9Bのシンセサイザーと自分でロードする4つのチェックポイント向けに、十分にテストされたサービングパッチがレビュー中だ。このプルリクエストは良い仕事だ。しかしリリースではなく、ベンダーもそうだとは言っていない。

A generated single-column scoreboard titled 'Ming-3.0 — the scoreboard' with five rows: audio-flash 126B total, 6.5B active; audio-tiny 9.3B total, 2.7B active; tts-tiny 7.9B total, 1.3B active; tts-0.5B 0.5B dense; asr-tiny 9B encoder. A sixth row reads 'vLLM-Omni support: one open PR, no merge'. The footer reads 'Vendor-reported specs from the model cards; no independent benchmark exists.' The OrcaRouter logo is composited in the bottom-right corner.