Nemotron 3.5 Transcribe 取代五模型管線。這套開放版建置仍有缺口。

一場45分鐘、有六位發言者的董事會電話會議，過去需要五個環節：語音活動偵測、ASR模型、說話者分離器、強制對齊器，以及一個語言模型，用來把原始輸出整理成人類讀得懂的內容。NVIDIA Nemotron 3.5 Transcribe於2026年10月28日以OpenMDW-1.1授權條款發布，是NVIDIA試圖將那整套堆疊壓縮成單一前向傳遞的嘗試。這次發布值得再讀一遍的原因，並不是這種壓縮本身，而是開源服務路徑尚未能做到的那些事。

這個檢查點是語音增強語言模型，而不是硬加上額外功能的 ASR 模型。其 340 億個參數主要來自Nemotron 3.5 Lightning 30B-A3B混合式 Mamba–Transformer 專家混合（MoE）骨幹；每個 token 約有 43 億個活躍參數，其中約 8 億個來自音訊編碼器。儲存庫名稱仍標示為 30B-A4B，這個數字只計入解碼器，並未涵蓋組裝後的完整系統。NVIDIA 自家的支援矩陣、基準測試表與授權條款全都列在模型卡上，而該模型卡是本次發佈中最實用的文件。

五個任務，一個檢查點

這個賣點是：提示詞決定轉錄稿。NVIDIA 將五種輸出風格訓練進同一組權重，而呼叫方以自然語言指令選取其中一種，而非使用個別模型或後處理腳本：

• 逐字 — 保留語誤、未完成的開頭與重複內容，以供法律與合規記錄之用。

• 書面形式 — 整理過的標點與大小寫，用於字幕與易讀的會議紀錄。

• 情境化 — 提示中提供的實體清單會引導名稱、產品與術語的拼寫方式。

• 說話者歸屬標註 — 每個片段都帶有說話者標籤，於 ASR 處理階段中產生。

• Rich — 全包式風格，將說話者標籤、標點、大小寫與格式一併保留。

除了轉錄之外，同一個檢查點還能進行英語與 31 種語言之間的雙向語音翻譯、口語語言辨識，以及音訊理解——針對錄音進行問答與口語指令遵循。它能在 65,536 個權杖的脈絡中處理長達一小時的錄音，內部使用 30 秒解碼區塊，這屬於工程細節，而非錄音長度限制。字詞時間戳記則是在解碼後由輕量的 CTC 適配器產生。

講者標籤實際上是從哪裡來的

多數「一個模型搞定所有事」的說法，在語者分離（diarization）上往往站不住腳，因為語者身分本質上是分群問題，而轉錄則是序列問題，這兩者通常分開處理。NVIDIA 的解法是並行專家編碼器：一個凍結的 Nemotron 3 Diarization 模型產生語者活動表徵，並將其注入語音編碼器的輸出，因此語言主幹在判斷「說了什麼」的同時，也能看到「是誰在說話」。LLM 本身並未為此任務重新訓練。

那項設計正是該公司能宣稱單次處理、而非串接式流程的原因。NVIDIA 報告，在其多說話者評估集上，平均串接最小排列詞錯誤率為 15.80，而最佳專業化 ASR 加說話者分段串接系統則為 16.83，並將此結果描述為首個在含重疊語音的說話者歸屬轉錄上擊敗此類系統的語音 LLM。那些是來自供應商自建評估集的供應商數據，尚無中立實驗室重現。可將此方向視為合理，但將差距視為暫定。

數字，附上標籤

NVIDIA 的卡片報告指出，在九個公開的英文 Open ASR Leaderboard 測試集上，平均詞錯誤率為 4.71%。這個平均值底下的分布範圍很廣，在引用前值得了解一下：LibriSpeech test-clean 為 1.09%，SPGISpeech 為 1.91%，而 AMI 則落在 7.81%，URGENT24 為 11.00%。多語言排行榜在七種語言上的平均值為 4.62%，其中德語為 2.81%，印地語依其自身的詞彙外指標為 9.15%。

關於這次發佈的媒體報導，也引用了英文版的 5.33%。那是在不同組合構成上得出的另一項彙總數據，並非更正，兩者絕不應放在同一列。若你要引用這張卡，該卡上的 4.71% 才是應引用的數字。

情境提示這項主張是本次發布內容中最具體的部分。在 ContextASR-Bench 上，整體 WER 在沒有實體清單時為 3.33%，使用細粒度實體清單後降至 1.71%；命名實體 WER 從 12.21% 降至 2.20%，命名實體偽陰性率則從 14.99% 降至 1.32%。這是一個真實且可檢核的機制——只要把產品名稱提供給模型，它就不再對這些名稱瞎猜——即使絕對分數來自 NVIDIA 的評測框架。

獨立評測的情況較不討喜，卻更有用。Artificial Analysis 在其非串流 AA-WER v2 表中，將 Nemotron 3.5 Transcribe 列為 3.4%，約並列第 20 至 23 名，而其自家 FAQ 則將該模型描述為 2.8%。這兩個數字都屬於同一頁面上的同一份榜單。這個落差是量測目標差異——端點、量化或評估切片——大致相當於此指數在不同服務配置間呈現的雜訊幅度。撰寫本文時，該榜單也列出每 1,000 分鐘音訊 2.00 美元的託管價格，換算下來約每小時 0.12 美元。

營運團隊會在意的是吞吐量宣稱：在單張 RTX PRO 6000 Blackwell GPU 上，使用 NVFP4 檢查點與 DFlash2 草稿模型，每秒可處理 2,238 秒的音訊。NVIDIA 自己提出的但書是，最佳化服務堆疊並未包含在開源版本中，而隨附的開發整合預期會慢上大約兩倍。在規劃容量之前，請把這個數字減半。

開放建置停止之處

這是發布報導所略過的部分。這個檢查點本身能力不俗；但它周邊的整合卻參差不齊，而模型卡也直白地表明了這點。

• 不支援串流 —— 卡片上寫明「這是離線模型」，並補充指出，內部的音訊分塊處理並不會讓它成為即時串流服務。必須先取得錄音的每一秒，解碼才會開始。

• SGLang-Omni 整合僅支援轉錄——它提供整檔轉錄，但依據卡片說明，並不包含詞級時間戳、講者歸屬輸出、翻譯或推測解碼。vLLM 路徑則支援時間戳擷取。你選擇哪個執行環境，就決定了你能取得哪些功能。

• 時間戳記與 DFlash2 彼此互斥——當推測解碼草稿模型啟用時，即無法使用時間戳記。在出貨配置中，快速與對齊二者不可兼得。

• 音訊理解僅支援英文——推理、口語指令遵循與音訊問答「在其他語言下可能無法可靠運作」，該說明卡警告道，儘管轉錄功能涵蓋 40 種語言。

• 它可能無法停止——這張卡片建議設置清理護欄，因為模型偶爾會陷入迴圈而無法終止。這是營運上的必要要求，而非附註。

• 一小時是實務上的硬性上限——超過 65,536 個 token，或長達一小時的錄音，其效能「不保證能泛化」。若要做全天的庭外證言筆錄（deposition），你得自行切割檔案並核對發言者。

說話者歸屬的範圍也比「40 種語言」這個標題所宣稱的更窄：在 NVIDIA 的矩陣中，40 種語言裡只有 13 種被標記為支援多說話者輸出，而訓練混合資料涵蓋最多八位說話者。如果你的會議使用土耳其語或越南語，你可以順利轉錄，卻仍然拿不到標籤。

部署及其成本

這些權重依據 OpenMDW-1.1 可免費供商業與非商業使用，並以 BF16、FP8、NVFP4 和 GGUF 格式發布，提供單張 H100 80 GB 的參考配置，並支援 Ampere、Hopper、Blackwell 與 Lovelace 系列產品。另有 NIM 容器，適合不想自行組建 serving stack 的團隊；以及用於微調的 NeMo Speech——NVIDIA 表示，可在單張 GPU 上以每項任務 0.5 至 2.3 GPU 小時，讓模型調適 17 項任務，這類數字使領域調適變得可行，而不只是理論上的可能。

經濟帳算得很清楚。在託管方案下，Artificial Analysis 列出每 1,000 分鐘 $2.00，約等於每音訊小時 $0.12——比大多數託管轉錄服務便宜，也大約是典型雲端 STT 帳單的三分之一。在自架方案下，邊際成本是 GPU 時間：以廠商宣稱的 2,238 比 1 吞吐量，一千小時的音訊在合適的顯示卡上只需不到半小時的運算，因此問題不再是價格，而是你是自有還是租用硬體，以及音訊是否被允許離開你的網路。這兩條路都合理；但在試算表上，它們的差距並不小。

檢查點沒做的那一半工作

轉錄會產生文字，而大部分的後續成本都落在文字上：摘要通話內容、擷取待辦事項、遮除個人資料、把英文輸出翻譯給區域辦公室，以及確認說話者標籤在交接過程中是否保留了下來。這些都是普通的文字模型工作負載，不需要和 ASR 跑在同一台機器上。

這正是路由器發揮價值的地方。OrcaRouter 將這些下游呼叫集中在一把金鑰之後，且零加成——業者標價原樣轉嫁，因此廠商調價當天就會反映——並在某家供應商效能下降時自動容錯移轉，以及一套路由 DSL，可將摘要、遮蔽與翻譯導向不同模型於單一工作流程內。明確說明：NVIDIA Nemotron 3.5 Transcribe 並不在 OrcaRouter 的目錄中，本文亦無任何暗示。我們所路由的是逐字稿產生之後的文字層，而這正是多數團隊在編列轉錄流程預算時最容易低估的一層。

如果你要評估的是模型本身，誠實的做法是先使用託管端點，其次才是自己的硬體。這張卡自身公布的數字，在廠商與獨立測量之間相差超過一個百分點，而唯一能定論的音訊，就是你自己的。

什麼會改變這項建議？

接下來一季有三件事值得關注。第一，開源服務堆疊是否會追上最佳化的 NIM 路徑——在追上之前，所宣傳的吞吐量只是託管版才有的數字，而開源版本大約只有它的一半。第二，NVIDIA 以外是否有人能重現 15.80 cpWER 與六倍的命名實體改進；這兩項都是強烈的主張，目前僅建立在單一實驗室的測試框架上。第三，音訊理解是否會擴展到英語以外，因為這項能力——對錄音提出問題，而不只是轉錄它——正是這個規模下其他競爭開源檢查點都未提供的地方。

目前實務上的結論很明確，也並不光鮮。如果你需要帶有講者標記、長達一小時、多語言的轉錄，而且能接受批次式工作流程，那麼這個檢查點是目前最強的開放選項，而其上下文提示機制確實別具特色。如果你需要即時字幕、串流代理，或在最快解碼速度下同時取得詞級對齊，那麼這次發布尚未涵蓋這些需求，能滿足這些需求的仍舊是那些既有產品。