Nemotron 3.5 Transcribe 対 Grok Voice Transcribe 2.0：自分のGPUでオープンウェイトか、それとも1時間0.20ドルか

Grok Voice Transcribe 2.0 は、ストリーミングで流す音声1時間ごとに$0.20、バッチ処理する音声1時間ごとに$0.10を請求します。Nemotron 3.5 Transcribe は1時間あたりの課金がなく、約340億パラメータを保持できるGPUを自前で用意するよう求めます。その一文だけを読むと、この比較は料金メーターと機械の間の価格競争に見え、メーター側が明らかに負けているように思えます。しかし負けてはいません。両方のモデルが載っている唯一のベンチマーク表では、従量課金のモデルの方が精度が高く、オープンなモデルは議論になるほど差が縮まっていません。

2つは6週間違いでリリースされた——Grok Voice Transcribe 2.0が2026-09-18、Nemotron 3.5 Transcribeが2026-10-28——そして異なる用途向けに作られている。一方は、話者がまだ話している間に単語を返すWebSocketを備えたホスト型APIだ。もう一方は、ダウンロードして読み込み、録音済みの音声に向けるチェックポイントである。レイテンシ、対応言語数、話者ラベル、コスト構造、さらには法的条件までもが、その一点の違いから生じる。だからこそ興味深い問いは、どちらがより優れた文字起こしをするかではない。

それぞれが何なのかを6行で

形状のコントラストはあまりにも鮮烈で、スペック表を並べるとカテゴリー錯誤のように読めてしまうほどだ。そして、それこそが狙いなのだ。

• デプロイ — xAI 自社インフラ上でホストされる REST および WebSocket API と、OpenMDW-1.1 に基づくオープンウェイトを vLLM、SGLang-Omni、NeMo Speech 上で自身で提供する場合との対比。

• サイズ — xAIはパラメータ数を公表していません。これに対し、音声エンコーダを含む総計34B、アクティブ約4.3Bで、Nemotron 3.5 Lightning 30B-A3BのMambaおよびTransformerのmixture-of-expertsバックボーン上に構築されています。

• 音声入力 — 最大500MBのファイル（12種類のコンテナ形式と3種類のRAWエンコーディング）、マルチチャンネルモードによる2～8チャンネル。これに対し、65,536トークンのコンテキスト内で最大1時間の16kHzモノラルPCM録音。

• リアルタイム経路 — 約500msごとに中間結果をストリーミングし、エンドポインティングはデフォルト400ms、スマートなターン検出、および別個のバッチエンドポイントを備えるのに対し、ストリーミングは一切なし。モデルは完成済みファイルを読み取り、文字起こしを返す。

• 言語対応 — xAI のドキュメントで名前が挙げられ、そこで 38 以上と説明されている 37 言語に対し、NVIDIA のカードでは 40 言語が文字起こしされ、英語への/からの翻訳ペアは 31 組です。

• 話者ラベル — 各単語に話者を表す整数を付加するダイアライズフラグがバッチとストリーミングで利用できるのに対し、融合型ダイアライゼーションエンコーダーは13言語で最大8話者までの話者属性付き文字起こしを1回の処理で生成します。

• 価格 — バッチ処理では音声1時間あたり0.10ドル、ストリーミングでは音声1時間あたり0.20ドル。一方、公開されている時間単価はありません。NVIDIAが重みを販売し、計算資源は利用者が提供するためです。

彼らが出会う唯一のボード、そしてそれはあなたが期待する形では壊れない

Artificial Analysis は音声認識のリーダーボードを2つのレーンで運営している。完成済みファイル向けのバッチレーンと、部分結果を出力するモデル向けのストリーミングレーンだ。Nemotron 3.5 Transcribe は前者にしか該当しない。そこでは Grok Voice Transcribe 2.0 が AA-WER 2.3% で約60モデル中5位につけている一方、NVIDIA のモデルはローンチ資料では2.80%と記載され、リリース後の数日間のライブ表では3.4%と表示されている。2.8%と呼ぶか3.4%と呼ぶかはともかく、いずれにせよホスト型モデルは、両者が共通して持つ唯一の尺度で、0.5ポイントから1ポイントの差で勝っている。

その結果は、一見したほど悪くはない。なぜなら、2つのモデルは同じ理由で同じリーダーボードに載っているわけではないからだ。NVIDIAの主張は、Nemotron 3.5 Transcribeが最高のオープンウェイト音声モデルだというもので、そのより狭いリーダーボードでは確かにそうだ。それが勝つ比較は他のダウンロード可能なチェックポイントとのもので、そこでは2.8%が超えるべき数字になる。Grok Voice Transcribe 2.0はプロプライエタリで、別のレーンで競争している。この2つを互いに引き合いに出して引用すると、「ホステッドモデルがオープンモデルを0.5ポイント上回る」という見出しが生まれるが、それはベンチマークの組み合わせを測っているのであって、製品上の判断を測っているのではない。

ストリーミング領域では、非対称性が統計的なものではなく構造的なものになる。Grok Voice Transcribe 2.0は、最終WER 2.7%、発話終了後0.49秒で出力、同じ遅延で最初の部分結果は3.4%という成績で、約32のストリーミングモデルの中でストリーミング首位に立つ。Nemotron 3.5 Transcribeはエントリーがない。ストリーミングできないためだ。これはファイル入力・文字起こし出力型のモデルであり、チャンク化ストリーミングの経路は文書化されていない。ライブキャプションの導入を計画しながら両者を精度で比較する人は、使えないモデルを比較している。

どちらのボードにも、繰り返す価値のある注意書きがある。AA-WERは、同じモデルでも提供エンドポイントが異なるとほぼ1ポイント近く変動するため、上記の0.5ポイント差はおおよそ測定ノイズの幅に相当する。方向性としては実在するが、判定としては弱い。また、xAI自身による多言語短句6.8%という数値は、バージョン1.0の20.6%から低下したものの、公開コーパスではなく本番トラフィックから構築された社内セットに基づいている。これはベンダーがベンダー自身のデータセットについて述べた主張であり、Artificial Analysisにはまったく掲載されていない。

ストリーミングは、オープンモデルが越えられない一線だ。

コールセンターのエージェント、ライブキャプション、会議アシスタント、音声ボットにとって、正確さが検討される前に判断は終わっている。Grok Voice Transcribe 2.0は、WebSocket経由で生のバイナリ音声フレーム（pcm、mulaw、alaw、opus）を受け取り、約1秒に2回の中間結果を返し、エンドポインティングとスマートターン検出によるターン終了シグナルを提供する。これらは文字起こしをライブに感じさせる仕組みであり、AtlassianのLoomがローンチ時に動画ライブラリをこのモデルへ移行した理由でもある。

Nemotron 3.5 Transcribe は設計上、逆の形をしています。最大1時間の音声を1回のパスで処理し、完全なトランスクリプトを返します。単語のタイムスタンプは、生成中ではなく生成後に軽量な CTC アダプターによって生成されます。この設計は、長く乱雑な録音での精度を得る代わりに、短くインタラクティブなあらゆる場面でレイテンシを犠牲にします。NVIDIA の製品ラインには、別個の、はるかに小さいストリーミング音声認識器——Nemotron Speech Streaming EN 0.6B——がありますが、これは対応範囲の異なる別モデルであり、このチェックポイントのストリーミングモードではありません。後からストリーミング機能を後付けできると期待して 30B モデルを買うのは、間違ったものを二度買うことです。

40言語 対 37言語、そして動いた数

紙の上では差は3言語だ。実際には、どのページを読むかによって変わる。xAIの音声認識（speech-to-text）のドキュメントには37の明記された言語が記載されている——アラビア語やボスニア語からウルドゥー語、ベトナム語まで、スペイン語、ポルトガル語、アラビア語には地域別の変種もある——そして合計を38以上としている。9月のローンチ頃に公開された対応言語情報では25とされていた。ドキュメントはより最新で、より具体的な情報源だが、ローンチ時の投稿とドキュメントページの間で13も変わる言語数は、そのまま採用するのではなく、自分の音声で検証すべき数値だ。

NVIDIAのカードはより細分化されており、今回はむしろ保守的だ。40言語について言語ごとのチェックマーク表があり、そのうち13言語には複数話者文字起こし用のフラグが付いている。話者識別に重要な言語は、その40言語よりも狭い範囲だ。アラビア語、標準中国語、英語、フランス語、ドイツ語、ヒンディー語、イタリア語、日本語、韓国語、ポルトガル語、ロシア語、スペイン語、タイ語である。アーカイブがポーランド語やトルコ語の場合、Nemotron 3.5 Transcribeはうまく文字起こしするが、誰が何を言ったかは教えてくれない。それは、おそらくあなたが購入目的としていた機能だ。

ここでは翻訳はNemotron専用の列です。このモデルは文字起こしと同じパスで31の言語ペアにわたり英語との双方向翻訳を行いますが、Grok Voice Transcribe 2.0はそれを提供していません。xAIのAPIは話された言語でテキストを返します。もし用途がバイリンガルの議事録であれば、それはGrok側のプロンプトエンジニアリングでは再現できない機能です。

話者ラベル: ブール値に対する融合エンコーダ

これは、両者がマーケティングの示唆よりも近い唯一の側面であり、正直なところ両方ともそれをやっていると言える側面です。

• Nemotron 3.5 Transcribe — 凍結された Nemotron 3 Diarization モデルが話者アクティビティ表現を ASR エンコーダに入力するため、言語モデルは入力の一部として誰が話しているかを認識できます。出力には話者タグと生セグメント、最大8話者、単語レベルのタイムスタンプが含まれます。中間に第2のサービスを挟まない1回のパスで処理します。

• Grok Voice Transcribe 2.0 — diarize=true を設定すると、バッチでもストリーミングでも同様に、すべての単語が整数の話者フィールド付きで返されます。マルチチャンネルモードはさらに進化し、最大8チャンネルを独立して文字起こしし、チャンネルインデックス付きで返します。これは、音源がミックス済みではなくマルチチャンネル録音である場合に、正確な話者帰属を実現します。

実用的な違いは、存在するかどうかではなくカバレッジにある。GrokのフラグはAPIが対応する言語全体で機能するのに対し、NVIDIAの融合パスは13言語向けに訓練されている。そしてマルチチャンネルは、それが当てはまる現場では確かな利点だ — 各席にマイクが1本ずつある役員会議室では、話者分離器に推測させる必要はない。会議場からの混在モノラルファイルでは必要になり、そこでは融合エンコーダーとホスト型フラグの間の品質差は、自分の音声でしか決着をつけられないものだ。

月に1,000時間という計算

価格こそ、この2つのモデルが本当に分かれる点であり、GPU費用について逸話を交わすより、実際に計算して合計を出す価値がある。

月1,000時間の音声に対して、Grok Voice Transcribe 2.0 はバッチモードで100ドル、ストリーミングで200ドル——年間では1,200ドルまたは2,400ドルで、ハードウェアもメンテナンスウィンドウもコールドスタートも不要だ。Nemotron 3.5 Transcribe のコストは、GPUのコスト次第だ。NVIDIAの研究ページによれば、DFlash2ドラフトモデルを組み合わせたNVFP4チェックポイントは、単一のRTX PRO 6000 Blackwell上で毎秒2,238秒分の音声を文字起こしする。これは一桁割り引いて見積もっても、1,000時間の音声を月あたり数GPU時間に収める。制約は計算能力ではなく、所有権にある。

• ストリーミング料金に対する損益分岐点 — 8,000ドルのワークステーション用カードは、1,000ストリーミング時間で40か月後に元が取れ、バッチ料金に対しては80か月となる。

• 月10,000時間なら、同じカードはストリーミングと比べて4か月で元が取れ、1時間あたりの料金は約2セントまで下がります。

• クラウドGPUのレンタル — 時間約2ドルのH100は、ベンダーのスループットに関する主張が公称値のほんの一部でも成り立つ時点で、両モデルの定価を超える費用対効果を発揮する。固定費はエンジニアリング時間、ストレージ、そしてモデルサーバーを自分で運用するという事実に変わる。

したがって、損益分岐点は文字起こしの精度とはまったく関係がない。問題は処理量と、音声を自社ネットワーク外へ出してよいかどうかだ。月に数千時間未満なら、ホスト型の料金の方がエンジニアリングのコストより安い。それを超える場合、あるいはコンプライアンス上の壁がある場合には、モデルの重みの側が有利になり、比較は逆転する。

OrcaRouterが適する場面と、適さない場面

現時点では、これらの文字起こしモデルのいずれもOrcaRouterのカタログにはありません。当社が提供するのはテキストモデルとビジョンモデルであり、ここにあるものをどちらかのエンドポイントとして解釈すべきではありません。文字起こしパイプラインが生成するのは大量のテキストで、その後には要約、固有表現抽出、秘匿化、分類、検索が必要になります。そうした呼び出しこそが200以上のモデルにまたがる単一のOpenAI互換キーの真価を発揮する場です。プロバイダーのリスト価格を0%のマークアップでそのまま通すため、ベンダーの値下げは当日に反映され、ある上流が劣化した際の自動フェイルオーバー、さらに、安価な分類作業を小規模モデルに送りながら、高コストな要約処理をフロンティアモデルに留めておけるルーティングDSLも備えています。Nemotron 3.5 Transcribeをセルフホストする場合、GPUが文字起こし担当となり、ルーティングはその後で文字起こし結果に対して行われるものです。

どちらを選ぶべきですか

この決定は、モデルカードではなく、オーディオのクロックに関するものです。

• ライブ音声、音声エージェント、キャプション、コールルーティング — 議論の余地なく Grok Voice Transcribe 2.0。ストリーミングはネイティブで、最終トランスクリプトまでのレイテンシは0.5秒未満、バッチエンドポイントも夜間バックフィル用の同一モデルです。

• 英語以外の言語による、複数の話者が含まれる録音済み音声 — GPU を用意でき、13 言語の話者パスがお使いの音声をカバーしているなら、Nemotron 3.5 Transcribe の出番です。これはこのモデルがまさに作られたケースであり、40 言語とワンパス話者分離が 0.5 ポイントの精度差を上回る場面です。

• バイリンガルアーカイブ — Nemotron 3.5 Transcribe。翻訳ペアは同じパス内で出力され、Grok は翻訳しないためです。

• 小規模なら、GPU不要、英語のみ — Grok Voice Transcribe 2.0のバッチモードで1時間あたり0.10ドル。1000時間で100ドル。その節約のためにBlackwellカードを買うことを、オープンウェイトのライセンスの自由度がどれほど高くても埋め合わせることはできない。

魅力的な第4の答え——今Nemotronを導入し、ストリーミングは後から追加する——は存在しない。NVIDIAが出荷したモデルは意図的にオフラインであり、併せて販売しているストリーミング製品ラインは0.6Bの英語認識器であって、このモデルの一モードではない。まず必要な形を選べ。リーダーボードの議論は後回しでよい。AA-WERの0.5ポイントは、同じモデルがホストを変えたときに変動する範囲に十分収まっているからだ。