Nemotron 3.5 Transcribe、5モデル構成のパイプラインを置き換え。オープンビルドには依然として欠陥がある。

6人の話者が参加する45分間の取締役会通話では、かつて5つの可動部分が必要だった。音声活動検出、ASRモデル、ダイアライザー、強制アライナー、そして生の出力を人間が読める形に整える言語モデルである。NVIDIA Nemotron 3.5 Transcribeは、2026年10月28日にOpenMDW-1.1ライセンスの下で公開され、そのスタックを単一のフォワードパスに折り畳もうとするNVIDIAの試みである。このリリースが再読に値する理由は、折り畳み自体ではない。オープンソースのサービング経路がまだ実現していないことの一覧である。

このチェックポイントは、追加機能を後付けしたASRモデルではなく、音声拡張言語モデルである。その340億パラメータの大半はNemotron 3.5 Lightning 30B-A3BのハイブリッドMamba–Transformer Mixture-of-Expertsバックボーンであり、トークンあたり約43億がアクティブで、そのうち約8億はオーディオエンコーダー分だ。リポジトリ名は依然として30B-A4Bと表示されており、これは組み立て済みシステムではなくデコーダーを数えたものだ。NVIDIA自身のサポートマトリクス、ベンチマーク表、ライセンスはすべてモデルカードに掲載されており、このカードは今回のリリースで最も有用なドキュメントである。

5つのジョブ、1つのチェックポイント

提案の要点は、プロンプトが文字起こしを選択するということです。NVIDIAは5つの出力スタイルを同じ重みに学習させ、呼び出し元は別モデルや後処理スクリプトではなく、自然言語の指示によってそのうち1つを選択します：

• 逐語 — 法的およびコンプライアンス上の記録のために、非流暢な発話、言い直し、繰り返しをそのまま保持します。

• 文章形式 — 句読点と大文字・小文字表記を整えたもの。字幕や読みやすい議事録向け。

• 文脈依存 — プロンプトで提供されるエンティティリストが、名前や製品名、専門用語の表記を左右します。

• 話者属性付き — 各セグメントには話者タグが付与され、ASR パス内で生成されます。

• Rich — 話者ラベル、句読点、大文字小文字、書式をまとめて保持する、何でも盛り込み型のスタイル。

文字起こしに加えて、同じチェックポイントは英語と31言語の双方向の音声翻訳、音声言語識別、音声理解——録音に対する質問応答と音声指示追従——も行います。65,536トークンのコンテキスト内で最大1時間の録音を処理し、30秒の内部デコードチャンクは録音の制限ではなくエンジニアリング上の詳細です。単語のタイムスタンプは、デコード後に軽量なCTCアダプターから得られます。

話者ラベルは実際どこから来るのか

「1つのモデルが何でもこなす」という主張の多くは、話者分離（ダイアライゼーション）で破綻します。なぜなら、話者識別はクラスタリング問題であり、文字起こしは系列問題であって、この2つは通常別々に解かれるからです。NVIDIAの答えは並列エキスパートエンコーダーです。凍結されたNemotron 3 Diarizationモデルが話者アクティビティ表現を生成し、それが音声エンコーダーの出力に注入されるため、言語バックボーンは、何が話されたかを判断しながら誰が話しているかを把握できます。LLM自体はこのタスク用に再訓練されません。

その設計があるからこそ、同社はカスケードではなく単一パスだと主張できる。NVIDIAは、自社のマルチスピーカー評価セットにおいて、連結最小置換単語誤り率の平均が15.80だったと報告しており、これは特化型ASR＋ダイアライザーのカスケードの最良値16.83に対する数値である。同社はこの結果を、重なり合う発話を含む話者属性付き文字起こしにおいて、この種のシステムを打ち負かした初の音声LLMだと説明している。ただしこれらはベンダーが構築した評価セットに基づくベンダー公表値であり、中立の研究機関による再現はまだなされていない。方向性は妥当と見てよいが、その差の大きさは暫定的なものとして扱うべきだ。

ラベルが付いた番号

NVIDIAのカードには、9つの公開英語Open ASR Leaderboardテストセット全体で平均単語誤り率が4.71%と報告されています。その平均値の下にあるばらつきは大きく、引用する前に知っておく価値があります。LibriSpeech test-cleanは1.09%、SPGISpeechは1.91%である一方、AMIは7.81%、URGENT24は11.00%です。多言語ボードは7言語全体で平均4.62%で、ドイツ語は2.81%、ヒンディー語は独自の語彙外指標で9.15%です。

ローンチに関する報道でも、英語版ボードについて5.33%が引用されています。それは異なるセット構成に基づく別の集計値であり、修正値ではありません。そして、この二つは決して同じ行に並べてはいけません。カードの4.71%は、カードを引用する場合に引用すべき数値です。

コンテキストプロンプティングに関する主張は、このリリースの中で最も具体的な部分だ。ContextASR-Benchでは、エンティティリストなしの場合の総合WERが3.33%であるのに対し、細粒度のリストを使うと1.71%へと変わる。固有表現のWERは12.21%から2.20%へ、固有表現の偽陰性率は14.99%から1.32%へと低下する。これは実際に検証可能な仕組みだ——モデルに自社の製品名を渡せば、モデルはそれらを推測しなくなる——たとえ絶対スコアがNVIDIAのハーネスに由来するものであっても。

第三者の視点による評価は、見栄えはよくないが、より有用である。Artificial Analysisは非ストリーミングのAA-WER v2表でNemotron 3.5 Transcribeを3.4%と記載しており、20～23位あたりで並んでいる。一方、同社自身のFAQではこのモデルを2.8%と説明している。どちらの数値も、同じページの同じ表に属している。この差は測定対象の違い――エンドポイント、量子化、評価スライス――であり、おおよそ、この指標がさまざまなサービング構成間で示してきたノイズの幅に相当する。執筆時点で、この表にはホスト型の価格として音声1,000分あたり2.00ドルも記載されており、これは1時間あたり約0.12ドルに相当する。

スループットに関する主張こそ、運用チームが重視する点です。単一の RTX PRO 6000 Blackwell GPU 上で、NVFP4 チェックポイントと DFlash2 ドラフトモデルを使用し、毎秒 2,238 秒分の音声を処理します。NVIDIA 自身の注意点として、最適化されたサービングスタックはオープンソースリリースには含まれておらず、提供される開発用統合は約 2 倍遅く動作すると見込まれています。キャパシティを計画する前に、その数値を半分にしてください。

オープンビルドが止まる場所

これはローンチ報道が飛ばしてしまう部分だ。チェックポイント自体には能力があるが、それを取り巻く統合はむらがあり、モデルカードはそう率直に記している。

• ストリーミング非対応 — 「これはオフラインモデルです」とカードには記されており、内部的なオーディオチャンキングによってリアルタイムのストリーミングサービスになるわけではないと付け加えている。デコードが始まる前に、録音のすべての秒が存在していなければならない。

• SGLang-Omni 連携は文字起こし専用です。ファイル全体の文字起こしを提供しますが、モデルカードによれば、単語タイムスタンプ、話者帰属付き出力、翻訳、投機的デコーディングは含まれていません。vLLM の経路ではタイムスタンプの取得に対応しています。どちらのランタイムを選ぶかによって、利用できる機能が決まります。

• タイムスタンプとDFlash2は相互排他的です — 投機的デコーディングのドラフトモデルを使用している場合、タイムスタンプは利用できません。出荷時の構成では、高速か整合（アラインド）のどちらかであり、両方を同時に使うことはできません。

• 音声理解は英語のみ — 推論、音声指示の追従、音声質問応答は「他の言語では安定して動作しない可能性がある」とカードは警告している。ただし文字起こしは40言語に対応している。

• 停止に失敗することがある — モデルが終了せずにループする場合があるため、カードはクリーンアップ用のガードレールを推奨している。これは脚注ではなく、運用上の要件である。

• 実用上の厳しい上限は1時間です。65,536トークンを超える場合や1時間の録音では、性能が「汎化する保証はありません」。終日にわたる証言録取では、ファイルを分割し、話者を自分で突き合わせる必要があります。

話者帰属も「40言語」という見出しより範囲が狭い。40言語のうち13言語のみがNVIDIAのマトリクス上でマルチスピーカー出力に対応するとされており、学習用の混合データは最大8話者までをカバーしている。会議がトルコ語やベトナム語であれば、文字起こしは正確にできてもラベルは得られない可能性がある。

デプロイとそのコスト

重みはOpenMDW-1.1に基づき、商用・非商用を問わず無料で利用でき、BF16、FP8、NVFP4、GGUFで公開されています。H100 80 GB 1台でのリファレンス構成があり、Ampere、Hopper、Blackwell、Lovelaceの各製品に対応しています。また、サービングスタックを自前で組み立てたくないチーム向けのNIMコンテナや、ファインチューニング用のNeMo Speechもあります。NVIDIAによると、1台のGPU上でタスクごとに0.5〜2.3 GPU時間でモデルを17タスクに適応させたとのことで、これはドメイン適応を理論上のものではなく現実味のあるものにする類の数字です。

経済性はきれいに分かれる。ホスト型では、Artificial Analysisの掲載価格である1,000分あたり2.00ドルは、音声1時間あたり約0.12ドルになる。これは大半のマネージド文字起こしより安く、一般的なクラウドSTTの請求額のおよそ3分の1だ。セルフホスト型では、限界コストはGPU時間である。ベンダーの2,238対1のスループットなら、1,000時間の音声は適切なカードで30分未満の計算時間で済む。したがって問題は価格ではなく、ハードウェアを所有するのかレンタルするのか、そして音声を自社ネットワークの外に出してよいのかどうかになる。どちらの道も正当だが、表計算上では両者は決して近くはない。

チェックポイントが担わない仕事の半分

文字起こしはテキストを生成し、下流コストの大半はテキストの部分で発生します。通話の要約、アクションアイテムの抽出、個人データの秘匿化、地域オフィス向けの英語出力の翻訳、話者ラベルが引き継ぎ後も維持されているかの確認などです。これらは通常のテキストモデル作業であり、ASRと同じマシン上で実行する必要はありません。

そこにこそ、ルーターの出番があります。OrcaRouterは、そうしたダウンストリーム呼び出しを0%のマークアップで単一のキーの背後にまとめます。プロバイダーの定価がそのまま反映されるため、ベンダーの価格変更は当日に反映されます。さらに、1つのプロバイダーが劣化した際の自動フェイルオーバーと、要約、レダクション、翻訳を異なるモデルへ振り分けられるルーティングDSLを1つのワークフロー内で備えます。明言すると、NVIDIA Nemotron 3.5 TranscribeはOrcaRouterのカタログには含まれておらず、ここでそう示唆しているわけでもありません。当社がルーティングするのは、文字起こしが存在した後のテキスト層であり、これは文字起こしパイプラインの予算を立てる際にほとんどのチームが軽視する層です。

モデル自体を評価するなら、誠実な方法はまずホスト型エンドポイント、次に自前のハードウェアです。カード自体の数値はベンダーと独立系測定の間で1ポイント以上異なり、それを決着させる唯一の音声はあなたのものです。

何が推薦を変えるでしょうか

次の四半期に注目すべきことが3つある。第一に、オープンソースのサービングスタックが最適化されたNIMパスに追いつくかどうかだ。追いつくまでは、宣伝されているスループットはホスト型のみの数値であり、オープン版はその約半分にすぎない。第二に、NVIDIA以外の誰かが15.80 cpWERと固有表現の6倍改善を再現するかどうかだ。どちらも強い主張であり、現時点では1つの研究室の評価ハーネスだけに依拠している。第三に、音声理解が英語の枠を超えて広がるかどうかだ。録音を単に文字起こしするのではなく、録音に対して質問する这个能力こそ、この規模で競合するオープンチェックポイントが提供していない部分である。

現時点での実用的な結論は限定的で地味だ。話者ラベル付きの1時間・多言語文字起こしが必要で、バッチワークフローを受け入れられるなら、このチェックポイントは利用可能な中で最も強力なオープンな選択肢であり、コンテキストプロンプティングの仕組みは本当に差別化要素だ。ライブ字幕、ストリーミングエージェント、または可能な限り高速なデコードと併用する単語レベルのアラインメントが必要なら、このリリースはまだ対応していない。対応している製品に依然として頼るべきだ。