Phonon vs Whisper Large v3 Turbo：オフライン音声ループの両輪

を比較することPhonon 31MとWhisper Large v3 Turboはカテゴリーエラーであり、現在の音声工学において最も有用なカテゴリーエラーです。Phonon 31Mは、Gradiumが2026年10月20日にリリースしたもので、テキストを音声に変換します。Whisper Large v3 Turboは、OpenAIが2024年10月1日にリリースしたもので、音声をテキストに変換します。これらは競合しません。同じループの両端であり、どちらも自分が所有するハードウェアで実行できるほど小さく高速です。

この組み合わせが人々を混乱させる理由はもう一つある。どちらもWERという数値を公表しているが、その二つの数値は正反対の意味を持つ。Whisperでは、単語誤り率は文字起こしがどれだけ間違っているかを測る。Phononでは、モデルが生成した音声を文字起こし側がどれだけ聞き誤るかを測る。どちらの場合も数値は低いほどよいが、同じ指標ではない。これを一つの列に並べることが、誤った比較を生むのだ。

一方が聞き、もう一方が話す

Whisper Large v3 Turboは音声認識モデルです。Whisper large-v3のエンコーダー全体を維持し、デコーダーを32層から4層に縮小することで、15.5億ではなく8.09億のパラメータを生成します。99言語に対応し、言語を自動検出しますが、翻訳向けにトレーニングされていません。OpenAIのドキュメントでは、大型モデルより約8倍高速で、精度の犠牲は小さいと説明されています。同社はモデルカードで正確な倍率を公表していないため、正確な速度の数値は第三者によるテストによるものです。

Phonon 31Mは音声合成モデルです。テキストと音声を受け取り、Mimi潜在表現に対するフローマッチングTransformerを通じて24 kHzモノラル音声を生成します。トークナイザーを除いて3100万パラメータで、64.5 MBのq8 GGUFとして提供され、Apache 2.0です。聴取能力は一切なく、文字起こし、話者分離、言語検出はできません。

両者に共通するのは設計目標だけだ。どちらもデータセンターなしで動作するように作られている。Whisper Turbo は、オープン ASR のデフォルトのベースラインとなったファミリーの中でも高速で安価なモデルだ。Phonon は、合成側も同じくらい安価にしようとする試みである。

同じ3文字、2つの異なる測定値

Whisper Large v3 Turbo は English Open ASR Leaderboard で平均 WER 7.83 を報告しており、フルの large-v3 では 7.44 です。LibriSpeech test-clean では、その数値は約 2.0% です。これらの数値は、モデルがクリーンな音声を聞いたときに誤った単語を書き出す頻度を表しています。

Phonon 31M はモデルカードで Seed-TTS 上 0.51%、より難しいセットで 1.5%、リリースブログでは同じ難しいセットで 1.70% と報告している。これらの数値は、whisper-large-v3 が Phonon の出力を聞いたときに誤った単語を書き起こす頻度を表している。採点者は Whisper そのものだということに注意してほしい。Gradium の方法論は避けられない形で循環している。TTS モデルを測定するには ASR モデルが必要であり、ASR モデル自身の誤り率が、TTS がどれだけ良く見えるかの下限を設定する。

だからこそ、TTSのWER 0.5%とASRのWER 7.8%は比較できず、TTSのWERが約1%未満なら「文字起こし器が問題を感じなかった」と読むべきであって、「音声がほぼ完璧だ」と読むべきではない。人間の聴取者と自動採点器は、特にWERでは捉えられない韻律について、しばしば意見が一致しない。

• タスク — Phonon 31M の音声合成、Whisper Large v3 Turbo の音声認識。

• パラメータ — Phonon 31Mではトークナイザーを除いて31M、Whisper Large v3 Turboでは809M。

• 言語 — Phonon 31M は英語のみ、Whisper Large v3 Turbo は99言語。

• 出力 — Phonon 31M 用の 24 kHz モノラル音声、Whisper Large v3 Turbo 用のタイムスタンプ付きテキスト。

• 報告された精度 — {{1}}0.51%{{/1}} は Phonon 31M の Seed-TTS WER（Whisper による測定）；{{2}}7.83{{/2}} は Open ASR Leaderboard における Whisper Large v3 Turbo の平均英語 WER。

• ライセンス — Phonon 31M は Apache 2.0、Whisper Large v3 Turbo は MIT。

オフライン音声ループのサイジング

ネットワークがオフでも動作する音声アシスタントを目指すなら、部品表は2つではなく3つのモデルになる。音声認識、言語生成、音声合成。

Whisper Large v3 Turboは8億900万パラメータで、16ビット精度では重みが約1.6 GBです。GPU推論では通常、アクティベーションとバッチ処理のために数ギガバイトの作業メモリが確保されます。量子化されたGGUFビルドは、わずかな精度低下と引き換えにフットプリントをさらに縮小します。Turbo形式のままではスマートフォンクラスのモデルではありませんが、より小型のWhisper派生モデルや蒸留版は該当します。

Phonon 31Mは64.5 MBです。これはWhisper Turboの重みファイルの約25分の1で、CPUコア、iPhoneのNeural Engine、またはRaspberry Pi上で動作します。

中間にある言語モデルが変数です。1B〜4Bのinstructモデルを4ビットに量子化すると数ギガバイトに収まり、オフラインアシスタントの通常の選択肢になります。全体のループ——Whisper Turbo、小型のinstructモデル、Phonon——は、ASRを最も重いコンポーネントとして、ラップトップやハイエンドスマートフォンが扱える範囲に収まります。

その非対称性こそが実用的な洞察だ。人々が懸念するループの半分——人間らしく聞こえなければならない部分である合成——は、今では安価な半分だ。高くつくのは認識のほうだ。

レイテンシのバジェット

Phononのベンダー公表値では、最初の音声までの時間はMacBook Air M5コアで5～7 ms、iPhone 16 Proで9 msとされ、スループットはGradiumのどの文書を読むかによってリアルタイムの11.6～41倍になります。Whisper Turboの速度はハードウェアとバックエンドに大きく左右されます。OpenAIはlarge-v3より約8倍高速だと説明しており、量子化ビルドを使ったコミュニティのベンチマークでは、Apple silicon上でリアルタイムの数十倍、CPU上でははるかに遅い数値が報告されています。

会話ループでは、認識ステップが支配的だ。3秒の発話を文字起こしするのに、ラップトップGPUでは数百ミリ秒、非力なCPUではほぼリアルタイムに近い時間がかかる。それに比べれば、合成ステップは実質的に瞬時だ。TTSを最初に最適化するチームは、間違った側を最適化している。

言語カバレッジが厳しい制約条件です

Whisperは99言語を扱う。{{1}}Phonon 31M{{/1}}が扱うのは1言語だけで、{{2}}Gradium{{/2}}のカードには他の言語は誤って発音されると警告されている。したがって、この2つを組み合わせて多言語音声アシスタントを構築することはできない。認識は日本語で機能するが、合成は機能しない。

Gradiumの答えはPhonon 40Mファミリーで、英語、フランス語、ドイツ語、スペイン語、ポルトガル語をカバーしています。それは99言語ではなく5言語であり、40MチェックポイントはCC BY-NC 4.0であるため、別途契約なしに商用製品では使用できません。オープンASRとオープンTTSの間の多言語ギャップはスタック内で最も広いものの一つであり、今月リリースされたものはそれを埋めていません。

実際の製品でそれらが出会う場所

自然な応用例は、文字起こしと再生のツールです。会議やボイスメモを録音し、Whisper で文字起こししてから、Phonon で要約を読み上げます。どちらもローカルで動作し、どちらも寛容なライセンスで提供され、どちらも音声を第三者に送信しません。医療用のディクテーションツール、フィールドレコーダー、聴覚障害や難聴のユーザー向けアクセシビリティアプリ、オフラインの語学学習おもちゃも、すべて同じ形に当てはまります。

2つ目のアプリケーションは、ローカルで最初の処理を行い、クラウドにフォールバックする音声エージェントです。Whisperはデバイス上で文字起こしを行い、信頼度が低い場合、音声はホスト型ASRに送られます。言語モデルが返答の下書きを作成し、より大きなモデルが必要な場合は、リクエストは外部にルーティングされます。Phononが結果を読み上げ、デバイスが熱によるスロットリング状態にある場合は、ホスト型TTSが引き継ぎます。各段階にはローカルとリモートの選択肢があり、製品がリクエストごとにどちらを使うかを決定します。

それらの間のテキストレイヤー

Whisperは文字起こしを生成し、Phononはスクリプトを消費する。そして、一方を他方に変換しなければならない何かが必要だ。その何かとは言語モデルであり、ループの中で大規模であることが利点となる唯一の部分だ。

OrcaRouter はこれらのモデルのどちらもホストしていません — Whisper Large v3 Turbo はお客様自身の推論スタックで動作し、Phonon はデバイス上で動作するため、どちらも当社のカタログには掲載されていません。プラットフォームがカバーするのはその中間部分です：プロバイダーの表示価格で 200 以上の言語モデルを 0% のマークアップで利用できる単一の API、プロバイダー間の自動フェイルオーバー、そして定型的なターンには安価なモデルを、難しいターンにはより強力なモデルを送れるルーティング DSL です。オフラインファーストの設計では、このレイヤーこそがオンラインであり続ける部分です。

実際に何を比較すべきか

音声モデルを選ぶなら、Phonon を他の TTS システムと、Whisper Turbo を他の ASR システムと比較してください。製品を作るなら、ループ全体を比較してください。総メモリ、総レイテンシ、総ライセンス、総言語数です。その基準では、この組み合わせは英語のみ・オフライン・寛容なライセンスの作業には整合的ですが、多言語や 40M ティアでの商用には不整合です。

避けるべき間違いは、Phononの0.51%というWERをWhisperの7.83%と並べて見て、合成が認識を追い越したと結論づけることだ。これらの数値は、異なるものを測る異なるプロセスから生み出されており、しかもその一方は他方によって測定されている。有用な問いは、どちらのモデルが優れているかではない。今月、オープンな部品から組み立てられるループが、あなたが想定している製品にとって十分に良いかどうか——そして英語について、オフラインで、ラップトップ上で、その答えはたった今変わったのだ。