Granite Speech 5.0 2B vs Granite Speech 5.0 470M TurboCTC：WER 0.45ポイントと引き換えに35倍のスループット

IBMはGranite Speech 5.0のチェックポイントを2つ、互いに1日以内にリリースしました。そして興味深いのは、一方がより大きいことではありません。それは次の点です。Granite Speech 5.0 2BはOpen ASR Leaderboardで570 RTFxで平均英語WER 5.06%を記録する一方、Granite Speech 5.0 470M TurboCTCは19,870 RTFxで5.51%を記録します — 精度の低下は0.5ポイントをはるかに下回る一方で、スループットはおよそ35倍です。パラメータ数が比例する何かをもたらすと考えたなら、そうではありません。それがもたらすのは、翻訳、キーワードバイアス、言語ID制御、そしてプロンプトに従える言語モデルです。速度はそのリストにありません。このようなリリースの背景にある、文書化されたAI障害やエージェントインシデントは、OrcaRouter AI Incident Archiveに集められており、各エントリには独自の出典、重大度、信頼度グレード、異議ありフラグが付いています。

両方の数値はIBM自身によるもので、同じリーダーボード上で測定され、日付も互いに1週間以内なので、入手可能な同ファミリー内比較の中でもかなりクリーンな部類に入ります。ただし、これも監査済みの評価ではなく、ベンダーによる評価実行だと依然として想定すべきものです。どちらのモデルにも独立した再現はなく、執筆時点では、当社自身のカタログを含め、私が見つけられる限りどの推論プロバイダーによっても提供されていません。

同じ週、2つの異なるリリースストーリー

これら2つのモデルは、サイズ違いの双子ではありません。リリースの経緯も構築方法も異なり、そのリリース履歴が、モデルカードの記述がこれほど異なる理由を説明しています。

• Granite Speech 5.0 2B — リポジトリは2026年10月7日に作成され、重みはその夜にコミットされ、モデルカードは2週間にわたって公開の場で編集され、リリース日は10月20日と記され、発表ブログは10月21日。新しいモデル、静かな始まり、華々しい幕切れ。

• Granite Speech 5.0 470M TurboCTC — 2026年8月25日に英語専用モデルとして初回出荷され、12,600 RTFxを謳っていました。10月21日のリリースはアップデートであり、新しいモデルではありません。アーキテクチャは同一で、新たに16,384トークンの多言語BPEヘッド、6言語の追加、そしてネイティブの句読点と大文字表記を備えています。

その違いは数字を読むときに重要だ。2Bの5.06%は新しいチェックポイントの新規評価だ。470Mの5.51%は8月に公表された5.78%という数値からの改善であり、IBMのブログはこれを「6言語を追加したにもかかわらず英語のWERが改善」と表現している。これが正しい読み方だ。多言語アップデートは英語の精度を犠牲にせず、むしろいくらか向上させた。

2つのアーキテクチャ、1つの帰結

Granite Speech 5.0 2Bは音声言語モデルです。16ブロックのConformer CTCエンコーダが2層のウィンドウクエリトランスフォーマプロジェクタに入力し、このプロジェクタが音響埋め込みを10分の1にダウンサンプリングして10 Hzにします。その後、埋め込みはYaRNによって16k位置に拡張されたgranite-4.0-1b-baseの中間チェックポイントに入力されます。教師ありファインチューニングは、プロジェクタと言語モデルに対してLoRAを同時に適用して行います。生成は自己回帰的で、言語モデルが書き起こしをトークンごとに書き出します。

Granite Speech 5.0 470M TurboCTC はエンコーダーです。16 個の Conformer ブロック、CTC 目的関数、16,384 ユニットの多言語 BPE 分類ヘッド、100 Hz のフレームを 12.5 Hz まで下げる 8 分の 1 の時間的サブサンプリング、貪欲法による非自己回帰デコーディング。プロジェクターも言語モデルも生成ループもありません。出力に句読点や大文字表記が付くのは、モデルがトークンストリーム内に句読点を出力するよう学習されているためであり、後から別のモデルが付加したからではありません。

その帰結は比較全体に関わる。トークンを生成する2Bモデルには、どれだけバッチ処理をしても完全にはなくならないトークンあたりのレイテンシ下限がある。非自己回帰型エンコーダは出力全体を1回のフォワードパスで出力するため、スループットはほぼバッチサイズだけで決まる。だからこそ、パラメータ数が4分の1のモデルが4倍ではなく35倍速くなるのだ。

これが、470M が 2B に備わっているものを諦めている理由でもある。従うべきプロンプトがないため、言語IDの指示もキーワードリストもなく、翻訳もない——CTC ヘッドは音響をトークンにマッピングするものであり、ドイツ語の音声を英語のテキストとして出力するよう指示することはできない。

スコアボードと、それぞれの数字の出どころ

• パラメータ — Granite Speech 5.0 2B は 2B、Granite Speech 5.0 470M TurboCTC は 470M。

• 英語WER、Open ASR 9セット平均 — 5.06% 対 5.51%。いずれもIBM評価実行、2026年10月15～20日。

• スループット、RTFx — 570 対 19,870。同じリーダーボードのハーネス、同じ日付範囲。

• 雑音・残響環境のWER、FFASR — 14.80%（42件中4位）対 17.57%（12位）。2Bは約2.8ポイントよりロバストです。

ライセンス — 両方とも Apache 2.0。TurboCTC には CC-BY-NC-SA-4.0 の -NC の兄弟版もある。出荷前にリポジトリ名を確認すること。

• 言語 — 文字起こし言語は6つ（En、Fr、De、Es、Pt、Ja）に翻訳付き、対して7つ（イタリア語を追加）で翻訳なし。

• 制御機能 — 2Bでは言語IDプロンプティング、2,000語までのキーワードバイアシング、音声翻訳。470Mではなし。

• トレーニング — 2B は 8 台の H100s で 40 日間に 390,000 時間、470M は 8 台の H100s で 24 日間に 153,000 時間。

堅牢性の差は、多くの人が飛ばしてしまう行です。35倍の速度は目を引きますが、遠距離・騒音下の音声で17.57%のWER対14.80%というのは19%の相対誤差の違いであり、そしてほとんどの実運用環境にあるのは騒音下の音声です。キッチンに置いたノートPCから音声が入ってくるなら、小型モデルの速度上の優位性は、後から修正しなければならない文字起こしに費やされていることになります。

470Mが実際に精度で勝る唯一の場面

TurboCTCのカードは、CSJ eval1、CommonVoice-17、FLEURSという3つのテストセットすべてにおいて、文字誤り率で2Bモデルを上回ると主張しており、それをチャートの中に埋もれさせず、カード本文で明示している。数値自体は図にしか示されていないため、勝利の大きさを引用することはできないが、その方向性はIBM自身の2つのモデルに関するIBM自身の主張であり、他社間の比較よりも信頼性が高い。

もっともな仕組みは存在します。2B は、文字ヘッドに 92 文字の音声的カタカナ集合を追加し、日本語キーワードに偏らせた ASR 16,500 時間と Fineweb-2 TTS 9,600 時間を学習に加えることで日本語を扱いますが、それでも結果は主にヨーロッパ系テキストで学習された言語モデルを通されます。470M は、最初から日本語を含む単一の 16,384 ユニット多言語 BPE 語彙を使い、ReazonSpeech に 8,130 時間、合成日本語に 1,860 時間を費やします。大量の日本語文字起こしを扱う製品なら、これは小さいモデルの方が高速かつ高精度になる唯一の対決であり、サイズを理由に 2B を既定に選ぶ前に直接テストする価値があります。

見積もりではなく算出されたコスト

IBMはどちらのモデルについても価格を公表していない。両方ともApache 2.0のウェイトなので、それらを実行するコストはハードウェアのコストであり、RTFxの数値がそれを推定するための唯一の手がかりだ。

1日1,000時間分の音声というワークロードを考えてみましょう。中規模のコールセンターアーカイブです。570 RTFxでは、2Bモデルに約6,300秒のGPU時間、つまり1.7 GPU時間強が必要です。19,870 RTFxでは、470Mモデルに約181秒、つまり0.05 GPU時間が必要です。H100で時間あたり約2〜3ドルの場合、1日数ドル対数セントになります。どちらも小さな数字であり、それが要点です。この規模ではどちらのモデルも高コストではなく、判断は計算資源ではなく精度と能力に基づいて行うべきです。

反対側では計算事情が変わります。ラップトップで1つのストリームをリアルタイムに文字起こしする場合や、オンデバイスアプリを実行する場合、2Bはリアルタイム処理に遅れないようにするためにGPUを必要としますが、470Mには余裕があります。そのためIBMはTurboCTCをラップトップ、スマートフォン、エッジデバイス向けと位置づけ、Apple Silicon向けにはmlx-audioを文書化しています。2Bはllama.cppとmlx-audioでも動作しますが、Q8_0での動作となり、低ビット量子化では約1分を超える音声で精度が失われるという警告があります。

意思決定が実際に行われる順番で選ぶ

ベンチマークから始めないでください。まず、タスクが何を求めているかから始めてください。というのも、その違いのうち三つはトレードオフではなく必須要件だからです。

出力は入力とは異なる言語である必要がありますか？それなら2Bです。比較するまでもありません。470Mは翻訳できません。この単一の要件だけで、字幕パイプライン、多言語の会議メモ、非英語音声から構築する英語アーカイブのいずれにおいても、470Mは選択肢から外れます。

文字起こしに特定の用語を含める必要がありますか？製品名、薬品名、チケットID、顧客のSKUリストなど — 2Bは最大2,000件の用語をキーワードリストとして受け付け、まさにこのために23,600時間のキーワードバイアス付き音声でトレーニングされています。470Mにはプロンプトインターフェースがありません。小規模モデルでの用語集駆動型のデプロイは不可能です。

音声はクリーンですか？ はいの場合、0.45ポイントの英語での差は小さく、35倍の速度優位はほぼ無償で手に入ります。いいえの場合——会議、コールセンター、遠距離マイク——FFASRの2.8ポイントの差は、小型モデルのエラーがその速度による節約分を上回るコストになることを示しています。

日本語ですか？まず470Mをテストしてください。IBMは3つの日本語テストセットすべてで勝利すると述べています。

デバイス上で動作しますか？470Mはそのために設計されています。2Bは1台でも動作しますが、そのために設計されたものではありません。

正直にまとめると、これらは同じ製品の2つのサイズではありません。一方は操作インターフェースを備えた文字起こし・翻訳システムで、もう一方は操作機能のない、非常に高速で非常に安価な文字起こしエンジンです。「より良い方」が必要だと考えているチームのほとんどは、実際にはまず翻訳と用語集に関する問いに答える必要があり、その2つの答えで決着します。

どちらにも賭けずに両方を走らせる

このファミリーをテストするチームにとって理にかなった本番構成は、両方をデプロイすることだ。なぜなら、両者は正反対の障害モードを持つからだ。470Mは、コストが四捨五入すればゼロになるほどで、大量のクリーンな文字起こしを処理する。2Bは、難しい音声、非英語音声、用語集が必要なあらゆるものを処理する。各入力ファイルを分類し——言語検出、SN比の推定、用語集が添付されているかの確認——適切なチェックポイントへ送るルーターは、おそらく50行程度のコードで、大量処理に2Bの価格を払うことなく、テール部分のエラー率を下げる。

その分類ステージは小さなモデル呼び出しであり、2つ目のベンダーSDKを組み込むのではなく、1つのエンドポイント経由で実行する価値がある部分です。OrcaRouterは200以上のモデルを、プロバイダーの定価で追加のマークアップなしに、単一のOpenAI互換APIの背後で公開しており、そのルーティングDSLは、言語と品質に基づくディスパッチをアプリケーションコードではなくルールとして表現できます。自動フェイルオーバーが最も重要になるのは、今回のようなリリースの直後1週間です。チェックポイントは2日前のもので、何も独立して検証されておらず、試すための最も安全な方法は第2の経路を温存しておくことだからです。とはいえ、それらはまだGranite Speech自体の実行には役立ちません。現在、どちらのチェックポイントも当社からは提供されていないため、音声モデルはセルフホストのままで、ルーティング層は1段下流から開始します。

1つだけデプロイするなら、2Bをデプロイしよう。これは470Mにできることをすべて実行できるモデルであり、その速度は依然としてリアルタイムの35倍速く、精度はIBMが公開したあらゆるベンチマークにおいて日本語を除いて上回っている。470Mは、コストやレイテンシ特性が正当化するときに追加する専門特化モデルであり、最初から使うデフォルトではない。