「Ming-3.0-asr-tiny vs Granite Speech 5.0 470M TurboCTC」という見出しの生成済みタイトルカード。左パネルには「encoder-only CTC, 12,600+ RTFx batched」とラベル付けされた大型サーバーGPUが表示され、右パネルには「8.87B MoE decoder, autoregressive」とラベル付けされたエキスパートブロックの積み重ねが表示され、フッターには「Graniteの数値はIBMのモデルカードと技術ブログによるもの、Mingの数値はその設定とベンダーのチャートによるもの」と書かれている。
Guides & Insights

Ming-3.0-asr-tiny 対 Granite Speech 5.0 470M TurboCTC:パラメータ数は19倍、スループットは皆無

著者

Gideon Frost

公開日

最新モデル · 20すべてのモデルを見る →
ベンチマーク:Artificial Analysis · 毎日更新
すべての記事に戻る

並べるMing-3.0-asr-tinyとGranite Speech 5.0 470M TurboCTCを同じページに。最初に目に飛び込む数字はパラメータ比だ。88億7,000万対4億7,000万、およそ19対1。二つ目は、速度のために作られたのは小さい方のモデルであり、その差は圧倒的だということ。三つ目は、これは矛盾ではないということだ。Granite Speech 5.0 470M TurboCTCには実行するデコーダがない。文字を出力して停止するエンコーダだ。Ming-3.0-asr-tinyには24層のMixture-of-Expertsデコーダがあり、一度に1トークンずつ書き、どの名前がこれから言われるかを事前に教えられる。一方は英語音声のためのスループットマシン。もう一方は中国語音声のためのコンテキストマシンだ。IBMは2026年8月25日にGranite Speech 5.0 470M TurboCTCをブログ記事、技術レポート、Open ASRリーダーボードへのエントリーとともにリリースした。inclusionAI は2026年10月14日にMing-3.0-asr-tinyの重みをHugging Faceに公開したが、告知は一切なかった。ここで使われているGraniteの数値はすべて次に由来する:Granite Speech 5.0 470M TurboCTCのモデルカード。このモデルカードには、Open ASRの表、ノイズスイープ、単一言語についての記述が載っている。このようなリリースの背景にある、文書化されたAI障害やエージェントインシデントは次に集められている:OrcaRouter AI Incident Archive。各項目には独自の情報源、重大度、信頼度グレード、係争中フラグが付いている。

どちらのモデルもOrcaRouterのカタログにはなく、互いの評価にも登場していないため、引用できるベンダー間の直接比較はありません。以下の内容はすべて、各モデルが自ら公開した構成とチャートから引用したものであり、その旨を明記しています。

アーキテクチャ上の分岐を率直に述べると

Granite Speech 5.0 470M TurboCTCはエンコーダのみのモデルであり、IBMはこれを自社の過去からの意図的な脱却だと説明している。従来のGranite Speechモデルは、音響エンコーダ、プロジェクター、そしてLoRAアダプターを備えたGranite言語モデルで構成されていた。つまり、マイクを付けた言語モデルだったのだ。5.0世代は言語モデルを完全に取り除き、16,384ユニットのBPEヘッド上でCTC目的関数を最適化する。16個のConformerブロック、1,024の隠れ次元、8個のアテンションヘッド、128フレームにわたるブロックアテンション、8番目のブロックでの自己条件付け、幅7の畳み込みカーネルを備える。

サブサンプリングは速度を生み出す部分である。音声は、100フレーム/秒、320次元のログメル+デルタとして入力される。2倍削減の3段階——まず連続するフレームを積み重ねるリシェイプ、次に最初の2つのコンフォーマーブロック内のストライド畳み込み——により、毎秒12.5出力トークンになる。IBMのブログは、これが以前のエンコーダーからの変更であると明言している。以前のエンコーダーは毎秒50文字を出力していた。音声1秒あたりの出力ステップは4分の1になり、各ステップを決定する自己回帰ループもない。

Ming-3.0-asr-tiny は、ここで重要なあらゆる軸において逆の方向へ進んだ。そのデコーダーは、128 個のエキスパートを持つ 24 層の Mixture-of-Experts で、トークンごとに 8 個のエキスパートがルーティングされ、共有エキスパートと密な第 1 層を備え、3 層の K​imi Delta Attention 層と 1 層の Gated MLA 層を交互に配置している。トークンは自己回帰的に生成する。さらに、32 層・1,280 次元の Whisper 形状のエンコーダーも備えている。これは Whisper large-v3 の形状であり、リポジトリには modeling_whisper_encoder.py が同梱され、O​penAI の MIT 通知は別ファイルに含まれている。Ming は言語モデルを残し、それを高コストな部分とした。

A screenshot of the Granite Speech 5.0 470M TurboCTC model card on Hugging Face, showing the ibm-granite organisation, the automatic-speech-recognition pipeline tag, Apache 2.0 licence, English as the only supported language, the card's opening summary of a 470 million parameter compact English ASR model, a stated release date of August 25 2026, and a usage block for Transformers 5.16.0.

数字は実際どこから来ているのか

これは、どちらのモデルの主張にどれだけの重みを与えるべきかを決める箇所であり、この2つのリリースは種類として比較できるものではない。

• Granite Speech 5.0 470M TurboCTC — Open ASR リーダーボード上の公開英語ショートフォームデータセット全体で、2026年8月25日時点の総合 WER は 5.00% です。LibriSpeech test-clean では 1.93%、test-other では 3.59% です。非商用の同系列モデルは 4.85% を記録しています。スループットは、バッチ推論を使用した単一の H200 上で 12,600 RTFx を超えます。arXiv に技術レポートがあり、Hugging Face のブログ記事もあり、結果はそれらを掲載する公開リーダーボードに提出されています。

• Ming-3.0-asr-tiny — 中国語の公開データセットでは平均CER 3.55、英語の公開データセットでは平均WER 3.99、15の方言データセットでは8.42、社内5ドメイン全体では1.67、コンテキストASRの集計では4.36です。そのすべてはモデルカード上のPNG画像として存在します。技術レポートも、リーダーボードへの提出も、リポジトリ内の評価スクリプトもありません。

A screenshot of IBM's Hugging Face community blog post titled 'Extremely Fast and Accurate Transcription with Granite Speech 5.0 Turbo CTC', published 25 August 2026, whose summary states that the model exceeds 12,600 RTFx on an NVIDIA H200 GPU and transcribes more than three and a half hours of speech in one second using batched inference.

そのブログ投稿は、モデルカードと同じ理由で開く価値がある。それはMingにはない足跡だからだ。IBMは日付入りの記事、技術レポート、リーダーボードのエントリを公開しており、記事内のスループットの主張は、それが説明するバッチ設定と照らし合わせて確認できる。

その非対称性はMingの数値への批判ではない。何を検証できるかについての話だ。GraniteのOpen ASRの数値は、誰でも公開データから半日で再現できる。Mingの数値を再現するには、構成が公開されていない5つの社内ドメインを含むテストセットを再構築する必要がある。

もう一つの非対称性は逆方向に働く。2つのモデルは単一の評価セットを共有していない。Graniteのチャートは英語のみで、LibriSpeech、AMI、Earnings-22、GigaSpeech、SPGISpeech、TED-LIUM、VoxPopuliにまたがっている。Mingの英語平均はLibriSpeech、Multilingual LibriSpeech、FLEURS English、Common Voice 15 English、VoxPopuliを使用しており、5つのうち2つで重なるが、集計方法は異なる。「英語ではどちらがより正確か」を知りたい読者は、どちらのベンダーからも答えを得られない。どちらもその問いを立てていないからだ。

A generated comparison scoreboard titled 'Ming-3.0-asr-tiny vs Granite Speech 5.0 470M TurboCTC — the scoreboard', with six matching rows: Parameters 8.87B versus 470M, Decoder 24-layer MoE, autoregressive versus none, encoder-only CTC, Output rate token-by-token versus 12.5 tokens per second, Languages Chinese, English and 15 dialects versus English, Context input hotwords and dialogue versus none, Licence MIT versus Apache 2.0; the footer reads 'Granite figures per IBM's model card and blog; Ming figures vendor-reported and unreproduced.'

ここでは「スピード」は2つの異なる意味を持ちます。

IBMの12,600 RTFxはバッチ処理のスループット値です。音声をGPUにまとめて投入する方式で、計算1秒あたり3時間半以上の音声を処理します。アーカイブの文字起こしには適した数値ですが、ライブマイクの用途ではほとんど意味がありません。IBMは実際にストリーミングも提供しています。ブラウザでのWebGPUデモ、チャンク単位のアテンション、Apple Silicon向けのMLXパスです。しかし見出しの数値はバッチ処理の場合を表しています。

MingはRTFxを一切公表していない。公表しているのはサイズだ。17.7 GBのBF16重みと、128エキスパートを備えた自己回帰デコーダである。トークンごとのループがコストモデルだ。音声が1秒増えるごとにデコーダのステップが増え、各デコーダステップは128エキスパートにまたがるルーティング判断に触れる。だからこそ、19分の1のサイズのエンコーダのみのモデルのほうがスループットを主張できるのであり、それはベンチマークがなくても成り立つ構造的な理由だ。

実用上の帰結は、これらが同じデプロイメントを巡って競合しているわけではないということだ。Granite Speech 5.0 470M TurboCTC は、ラップトップやスマートフォン、あるいはポッドキャストのアーカイブを処理する単一の H200 上に置かれるように設計されている。Ming-3.0-asr-tiny には CUDA GPU、PyTorch 2.11.0、torchaudio 2.11.0、Transformers 5.12.1、fla-core 0.5.2 と trust_remote_code=True が必要で、提供したいなら特定のコミットに固定された別個の SGLang アダプターも必要だ。そのうちの一方は、製品に組み込める依存関係リストである。

Graniteがそこへ到達するために犠牲にした能力

エンコーダのみの設計は速度とサイズを引き換えに得るもので、IBMはその代償について率直だ。同社のブログは、5.0モデルがLM搭載バージョンにあった機能を放棄していると述べ、音声翻訳とキーワードバイアシングを挙げている。注目すべきは2つ目だ。なぜならキーワードバイアシングこそ、MingがContext ASRと呼び、目玉機能として扱っているものだからだ。

Mingは、ホットワードのリストまたは直前の対話ターンを文字起こしプロンプトの一部として受け付けます。ベンダー自身の例は示唆に富んでいます。ある音声クリップでは、映画タイトル「同囚」が通常の経路では「同球」として出力され、トピックとホットワードリストを与えると正しく出力されます。このカードは、ホットワードは保証ではなくヒントであると慎重に述べており、これは誠実な枠組みです — バイアスをかけることは確率を動かすのであって、出力を強制するものではありません。

Granite Speech 5.0 470M TurboCTC に相当するものはありません。プロンプトも、コンテキストフィールドも、指定できる名前のリストもありません。条件付けする言語モデルが存在しないからです。音声に製品名、薬名、顧客データベースの姓などが多く含まれている場合、モデルに使える手段はただ一つ、学習中に覚えたものだけです。IBM はこの種の問題への答えとして、自社データでファインチューニングするためのノートブックを用意していますが、それはワークフローもコストも異なる別の方法です。

言語カバレッジも同様の仕組みだ。Graniteは英語のみで、対応言語は英語だけと明記されており、8台のH100上で10日間をかけて約6万時間の英語音声で学習されている。Mingは中国語と英語に対応し、広東語、閩南語、上海語を含む15の中国地域方言テストセットを備え、方言平均8.42は、自身のチャート上で列挙されているすべてのオープンベースラインを上回る位置にある。

それらの中から選ぶこと

音声が英語で、課題が量である場合——通話録音、アーカイブ、会議の文字起こしなど、最後の1点の精度よりも1時間あたりのコストが重視されるあらゆる用途——には、Granite Speech 5.0 470M TurboCTC のほうがより賢明な出発点です。そして、Python を使わずネイティブ C++ ランタイムで量子化して動作するという事実は、どれだけ中国語方言のカバレッジがあっても埋め合わせられない導入上の利点です。

音声が標準中国語や地域方言である場合、または精度の問題が事前に列挙できる固有名詞である場合、Ming-3.0-asr-tiny は2つのうち唯一それに対応するモデルであり、後付けで継ぎ足したファインチューニングではなく、そのために構築されたアーキテクチャで実現しています。また、登場から5日でダウンロード数35ということは、それがどこで失敗するかを最初に発見する人の一人になるということです。

名前を付ける価値のある第3のケースがあります。両方を望み、自分のトラフィックでどちらが勝っているかを知りたい場合です。それはまさに、OrcaRouterが解決するために作られたルーティング課題です。これらのモデルはどちらもそこでホストされているわけではありません—Ming-3.0-asr-tinyとGranite Speech 5.0 470M TurboCTCはどちらもセルフホストのオープンウェイトです—が、ホスト済みモデルの前面に立つ同じエンドポイントを、候補となるASRパスの前面にも立たせられます。自動フェイルオーバーを備えているため、失敗したリクエストは既存のモデルにフォールバックし、ユーザーに表面化させず、200以上のモデルにまたがる1つのキーで比較できるため2つ目の契約は不要です。

どちらのベンダーもあなたに見せていないもの

どちらのモデルも、独立した第三者による評価を受けていない。Graniteの数値は少なくとも、他のチームも投稿している公開リーダーボードに載っているため、議論の余地がある。一方、Mingの数値は、公開された日の午後にもまだ編集されていた4枚のPNG画像の中にある。どちらのモデルカードにも単語レベルのタイムスタンプや話者ダイアライゼーションについての記載がないため、タイミングを必要とするパイプラインはどちらも対象外となる。Graniteのモデルカードには単なる文字起こし出力について書かれており、Mingの利用上の注意には、出力は単語レベルのタイムスタンプやダイアライゼーションを含まない文字起こしテキストであると明記されている。

これを実際に決着させる比較は、どちらのベンダーにも実行できない。それには単一のコーパス、単一の言語ペア、単一の採点スクリプト、そして両方のモデルを同じGPU上で動かすことが必要だ。誰かがそれを公開するまでは、擁護できる唯一の主張は、アーキテクチャがすでに示しているものだ。すなわち、19倍大きい自己回帰型の混合エキスパートモデルはスループットでエンコーダ専用CTCモデルと競合しておらず、エンコーダ専用CTCモデルにはどの単語が来ることを期待すべきかを指示できない。