Granite Speech 5.0 470M TurboCTC：IBM の Apache-2.0 ASR は 12,600 RTFx を謳う

Granite Speech 5.0 470M TurboCTCは、IBMが新たにリリースした音声モデル群の中で、実際に製品として出荷できるモデルです。まずこのことを知っておいてください。IBMは2026年8月25日に、2つの英語音声認識チェックポイントをHugging Faceに公開しました。Granite Speech 5.0 470M TurboCTCはApache 2.0ライセンスの下で、Granite Speech 5.0 470M TurboCTC-NCは非商用のCC-BY-NC-SA-4.0ライセンスの下で公開されています。同じ4億7000万パラメータのアーキテクチャでありながら、データが異なり、ライセンスも正反対です。Apacheライセンスのモデルは、IBMが「その他のユースケース」—つまり商用本番環境を指すベンダー用語—で示すモデルであり、また最大の注目数字を誇るのもこのモデルです。IBMは、単一のNVIDIA H200上で、総スループットが12,600 RTFxを超えると報告しています。これは、バッチ推論により1秒あたり3時間半以上の英語音声を文字起こしできることを意味します。

その速度数値は、ベンダーによる発表から1日しか経っておらず、第三者による再現もされていないため、監査済みの事実ではなく、あくまで理論上の強い数字として読むべきだ。それでも注目に値する理由は、その背後にある設計にある。Granite Speech 5.0 TurboCTCは、これまでのすべてのGranite Speechモデルが使用していた言語モデルデコーダを廃止し、connectionist temporal classification（CTC）で学習された純粋なConformerエンコーダだけを残し、非自己回帰的にデコードする。トークン単位の生成ループがないからこそ、4億7000万パラメータのモデルが、自分より数倍規模の大きいモデルを凌ぐスループットを主張できるのだ。そして、それはこのリリースがベンチマーク表のためだけでなく、音声認識を構築するすべての人にとって重要である理由でもある。

実際に出荷されたもの

2つのチェックポイントは、いずれも2026年8月25日にibm-granite Hugging Face orgで公開され、どちらも同じエンコーダーのみのアーキテクチャを備えた英語専用のASRです：

Granite Speech 5.0 470M TurboCTC — Apache 2.0、商用利用可、約6万時間の英語音声でトレーニング済み。

• Granite Speech 5.0 470M TurboCTC-NC — CC-BY-NC-SA-4.0、研究および非商用利用のみ、約75,000時間の英語音声でトレーニング済み。

この記事は、製品が法的に依存できるApacheモデルについてであり、ライセンスの説明に必要な箇所では-NCツインにも言及します。両チェックポイントはF32とBF16のsafetensorsとして提供され、どちらもHugging Face TransformersでAutoModelForCTCとAutoProcessorを通じてネイティブにサポートされています。この機能は次のTransformersリリースで搭載されます。それまではTransformersをソースからインストールし、プロセッサとモデルを読み込んで、グリーディーデコーディングを実行します。IBMはブラウザベースのWebGPUストリーミングデモもリンクしており、実際のレイテンシーがどの程度低いかを確認できる最も速い方法です。

アーキテクチャの賭け：エンコーダーあり、デコーダーなし、毎秒12.5トークン

設計変更こそが、速度向上の主張の背後にある理由です。従来のGranite Speechリリースでは、音響エンコーダーをプロジェクターと言語モデルデコーダーと組み合わせていましたが、廃止されたのはそのデコーダーです。Granite Speech 5.0 470M TurboCTCは、CTCでトレーニングされた16層のConformerエンコーダーであり、推論は単一の非自己回帰グリーディパスです。サンプリングするものは何もないため、待つべき生成レイテンシーはありません。

単に小さいだけでなく高速にする、3つの設定の詳細：

• 時間的サブサンプリングを8分の1で行う。フロントエンドは毎秒100フレームで動作し、モデルは毎秒12.5トークンを出力する。ログメルフレームのスタッキングとスキッピング、その後の最初の2つのConformerブロックにおけるストライド畳み込みとプーリングされた残差により、出力レートは2分の1の3段階で削減される。

• 文字の代わりにサブワード語彙。以前のGranite Speechエンコーダーは毎秒50文字を出力していましたが、5.0では16,384ユニットのBPE語彙（-NCバリアントではSentencePiece）から毎秒12.5サブワードトークンを出力します。音声1秒あたりの出力ユニット数が少ないほど、CTCデコーダーが行う決定が少なくなります。

• 自己条件付きCTC。中間のConformer層がモデル自身の中間表現を精緻化する。これは、デコーダーが存在しない状態でも、小型エンコーダーが精度を維持できるようにする仕組みである。

それらはすべてモデルカードとIBMの技術文書に記載されています。要するに、これはラップトップ、スマートフォン、ストリーミングパイプライン向けに構築されたチェックポイントであり、重量級の自己回帰デコーダーが収まらない環境を想定しています。エッジ向けの位置づけはIBM自身の説明でも明確に示されています。

IBMが主張している数字

このセクションの内容はすべてIBMの報告に基づくものであり、2026年8月25日時点でOpen ASR leaderboardの公開ハーネスをHugging Faceインフラストラクチャ上で実行したもので、独立に再現されたものではありません。これらはもっともらしく見えるベンダー数値として扱い、確定した事実とはみなさないでください:

• スループット — バッチ推論による単一NVIDIA H200上で12,600 RTFx超。IBMはこれを毎秒3.5時間分以上の音声に相当すると説明している。さらにIBMは、これは従来のGranite Speechモデルのスループットの20倍以上だと付け加えている。これはデータセンター向けGPUでのバッチ推論による数値であり、ラップトップで得られるものではない。

• 精度 — Open ASRリーダーボードの公開英語短形式テストセットにおけるApacheモデルの総合語誤り率は5.00%（-NCバリアントは同セットで4.85%）。推論はHugging Faceのジョブ基盤を通じて実行され、リーダーボードのツールでスコアリングされたため、IBMは新モデルが公式テーブルに組み込まれれば、これらの数値が公式表と一致することを期待している。

• ファーフィールド — FFASRのノイズ・残響リーダーボードにおいて、Apacheモデルは精度で9位、-NCモデルは5位で、この2つは同リーダーボードで最速のエントリーです（スループットはNVIDIA L4 1基で測定）。

• トレーニング — Apacheモデル用に約60,000時間分の公開英語音声を、IBMのBlue Velaクラスター上の8基のNVIDIA H100を使用して10日間で実施。

Apache 2.0が実際にあなたに与えるもの

このリリースが異例なのはライセンスだ。オープンウェイトの音声モデルはたいてい、研究用ライセンスか、本番運用チームの法務部門が顔をしかめるような義務付きで公開されるものだ。ところが今回は、商用利用できる方のモデルが、IBMのスコアではわずかに精度が低い。総合WERで0.15ポイント（5.00%対4.85%）を引き換えに、製品へのデプロイ、出力の収益化、ファインチューニングと派生ウェイトの非公開保持、そして研究専用条項に妨げられないクラウドインフラでの利用という権利が得られるのだ。

リーダーボードを追いかけると、そのトレードオフは簡単に間違った方向へ進んでしまいます。-NCモデルの4.85%は、約15,000時間の追加トレーニングデータ（GigaSpeechおよびSPGI Speech）に由来しており、これはIBMが文字通り「研究および非営利目的のみ」とラベル付けしているバージョンです。優れたベンチマークモデルではあるものの、製品の依存関係としては不適切です。Apacheモデルは精度が少し落ちますが、商用の文字起こしパイプライン、コールセンターのQAシステム、エッジデバイスの基盤となる能力を得られます。このファミリーを評価する場合、ライセンスの決定がベンチマークの決定に先立ちます。

あなたが手放すもの

言語モデルを省くことは無料ではなく、モデルカードはその削減について正直に述べている：

• 音声翻訳はありません。初期のGranite Speech世代では、文字起こしと同時に言語モデルを介して翻訳できましたが、5.0は文字起こしのみです。

• キーワードバイアスなし。LMはドメイン用語や名前へのバイアス付けも行っていたが、それがなくなれば、サブワード語彙が自然に生成するものが得られる。

• 英語のみ。このリリースには多言語チェックポイントはなく、近々追加される予定もありません。

5.00%というWERは、短い発話のクリーンな音声における数値です。FFASRの結果（ノイズの多い遠距離音声での第9位）こそが、会議室やハンズフリー利用におけるより現実的な指標であり、これは順位であって、見出しとなる数値ではありません。

限定的な文字起こし作業 — 通話音声、会議、ボイスメモ、字幕、ディクテーション — であれば、これらはどれも障害にはなりません。これらが重要になるのは、小さなモデルが翻訳もしてくれたり、カスタム語彙をそのまま確実に転写してくれることを期待していた場合です。

今日それを実行する方法

まだ存在しないクラウドAPIは必要ありません。モデルはローカルで動作します：

• Transformers をソースからインストールします（CTC フィーチャセットはまだ最新リリースには含まれていません）。次に、AutoModelForCTC と AutoProcessor を使用し、グリーディデコーディングを行います — これは標準的なパイプラインです。プロセッサはモデルのデバイス上で log-mel 特徴を計算できるため、ホストからデバイスへのコピーを節約できます。

モデルカードの例は、パイプラインを使用した2行のコードです。"ibm-granite/granite-speech-5.0-470m-turboctc"モデルによるautomatic-speech-recognition。

• WebGPUストリーミングデモはブラウザタブで実行され、ベンチマークハーネスに午後を費やす前にレイテンシを評価する最速の方法です。

• 本番環境では、実践的な問題はサービングである。このクラスのオープンASRモデルは通常、CPUまたは小規模なGPU上で、バッチ処理によるストリーミング推論のような手法で実行される。12,600 RTFxという見出しはH200のバッチ数値であり、現実的なシングルストリームのラップトップでの数値はそれよりもはるかに低い。さらに、IBMはtime-to-first-tokenの数値を公開していない。

そのサービング層こそが、オープンASRの真のコストと複雑さが存在する場所であり、ルーティングプラットフォームが存在意義を発揮する場所でもあります。OrcaRouterのモデルは、200以上のモデルにわたる単一のAPIであり、プロバイダーのリスト価格を0%マークアップでそのまま透過させます。つまり、ベンダーが価格を引き下げた場合、その値下げは当日に反映されます。さらに、プロバイダー間の自動フェイルオーバーと、複数のモデルを1回の呼び出しに合成するためのルーティングDSLを備えています。これらのいずれも、Granite Speech 5.0 470M TurboCTCに具体的に当てはまるわけではありません。どちらのバリアントもまだOrcaRouterに搭載されていないからです。ウェイトは公開から1日しか経っておらず、商用プロバイダーはまだこれを提供していません。このようなオープン音声モデルがホスト型の提供経路を得た場合——あるいは、すでにあるホスト型ASR APIと比較する場合——ルーティング層は、統合を書き直すことなく試用とフォールバックを可能にし、透過的価格設定が比較の公平性を保ちます。

まだ確認されていないものは何ですか

生後1日のモデルには記録がほとんどなく、まだ判明していない点を正確に列挙する価値がある：

• 第三者のベンチマークはない。12,600 RTFx、5.00% WER、FFASRランキングはすべて、IBM自身が公開リーダーボードハーネスを通じて実行した結果だ。独立した第三者が数値を発表したことはない。

• IBMホスト型APIはありません。watsonxモデルページも、マネージドエンドポイントも、料金も、そしてそれらがいつ提供されるのかという日程もありません。

• ストリーミングのレイテンシ数値はなし。ストリーミングサポートとWebGPUデモは存在するものの、ファーストトークンまでの時間やチャンクのレイテンシ数値は存在しない。

• 他の高速なオープンASRモデルとの同一ハーネスでの比較はありません。重要な対決 — Whisper large-v3、NVIDIA Parakeet TDT 0.6B、およびホスト型文字起こしAPIとの比較 — は、まだ誰も同一データで実行していません。

次に見るもの

短期的なシグナルは、独立した再現実験の結果だ。Open ASR リーダーボードは公開されており、評価ハーネスは標準的なもので、重みは Hugging Face にある。したがって、第三者による実行は数日以内に実現するはずだ。注目すべきは、5.00% が維持されるかどうか、そして IBM 自身のバッチ環境の外にある単一の H200 上で 12,600 RTFx が生き残るかどうかだ。もう一つ注目すべきは、IBM が Apache ライセンス版をマネージドサービスにするかどうかだ。watsonx エンドポイントが登場すれば、このモデルは即座に、最も信頼できる商用化の道筋を持つオープン ASR になる。Granite Speech 5.0 470M TurboCTC は、公開初日時点で、本当に高速で、本当に寛容なライセンスの英語 ASR であり、検証実績は本当に薄い。最初の二つは本物だ。三つ目は時間の問題だ。