一張為 Nemotron 3.5 Transcribe 對比 Muse Voice Transcribe 生成的主視覺卡片。左側面板寫著「離線、1 小時檔案」與「開放權重」;右側面板寫著「串流、80ms 區塊」與「託管 API、每小時 $0.18」;兩者之間的藥丸形標籤寫著「即時麥克風還是檔案?」,頁尾寫著「Muse 3.1% 是串流分數,Nemotron 4.71% 是批次分數」。OrcaRouter 標誌位於右下角。
Guides & Insights

Nemotron 3.5 Transcribe 與 Muse Voice Transcribe:一款負責處理會議,另一款則親身參與其中

作者

Rowan Sterling

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

有兩段錄音在任何基準測試之前,就已決定這場比較。其一是正在進行的通話,轉錄內容必須跟上對話,兩秒的延遲就會讓工具變得毫無用處。其二是上一季客戶來電的兩小時存檔,沒有人在乎文字是200毫秒還是二十分鐘後送達。NVIDIA Nemotron 3.5 Transcribe,於2026年10月28日以開放權重離線檢查點形式發布,專為第二段錄音打造。Meta Muse Voice Transcribe,由 Meta Superintelligence Labs 於2026年9月1日推出,專為第一段錄音打造。大多數比較頁面把她們的詞錯誤率放在同一欄,然後就此了事,而這正是無法成立的比較。

時鐘,而非詞錯誤率

Meta 的模型是一個串流感知層。它以 80 毫秒的區塊接收音訊,輸出軟性 token,並採用經強化學習訓練的「自適應延遲」機制,逐字判斷在確定文字前應等待多少上下文。根據報導,Meta 的發布資料指出,從語音結束到最終文字之間的延遲約為 0.16 秒;該模型透過 WebSocket 提供即時音訊服務,或透過 HTTP 端點處理一次性檔案。它本身也負責端點偵測與語音活動偵測,因此其周邊管線相當精簡。

NVIDIA 的模型則是相反的形態。模型卡上說得很明白:「這是離線模型」,並補充說,內部分塊處理並不代表它就是串流服務。你交給它一個最長一小時的檔案,它會回傳一份轉錄稿。沒有部分輸出、沒有中間假設,也沒有插話打斷。NVIDIA 另外販售一款用於即時音訊的 0.6B 串流辨識器;那是不同的檢查點,不是這個模型的模式。

所以這些標題數字是用不同工具測出來的。Meta 報告 3.1% 的詞錯誤率,並在 Artificial Analysis 的串流語音轉文字排行榜上名列第一。NVIDIA 的產品卡報告在九個公開英文 Open ASR 資料集上平均為 4.71%,而 Artificial Analysis 的非串流表格則顯示已部署端點為 3.4%——其常見問答還說同一模型是 2.8%。這些是對兩個不同任務的三種不同測量。3.1% 是串流結果;3.4% 是在不同音訊分佈上的批次結果。把它們相減會得出一個毫無意義的 0.3 個百分點「勝利」,而串流模型在冗長、嘈雜、帶口音音訊上的劣勢確實存在,但在那樣的算術中卻看不出來。

講者:二十多個對八個

說話者分段差距是唯一一個各項數字大致在衡量同一件事的地方,而且它很大。

• 說話者上限 — Meta 宣稱單段錄音可包含 20 位以上說話者;NVIDIA 以最多八位說話者的混合音訊進行訓練,且其模型卡指出推論時沒有上限。

• 重疊——Meta 自己的頁面註明,語者分離僅適用於「非重疊語音」。NVIDIA 的整體架構論述則聚焦於重疊語音:將凍結的語者分離器所產生的語者活動注入編碼器,讓模型能在人們互相插話時歸屬詞語。這正是其在 NVIDIA 多說話者資料集上取得平均 cpWER 15.80 的主張依據。

• 標籤的語言涵蓋範圍 — Meta 支援 25 種以上語言;NVIDIA 支援 40 種語言轉錄,但標示其中 13 種可輸出多說話者結果。土耳其語會議可轉錄,但不會取得標籤。

• 標籤格式 — Meta 輸出的是單純的說話者字母,例如「A」;NVIDIA 輸出的是 <spk:0> 形式的標籤,會對應回發言者分離的區段。

如果你的使用情境是座談小組、法庭,或是有三名同時重疊發言者的支援通話,那麼八位發言者的上限才是決定性限制,而不是 WER 欄位。如果你的使用情境是二十人的全員大會,且大家大多輪流發言,Meta 的 20+ 才是關鍵數字,而 NVIDIA 的八位則是硬性上限。

語言:25 對 40,而這兩個數字都不是表面上看起來那樣

Meta 自家的開發者頁面寫道「25 種以上語言」,並支援句子內與句子間的語碼轉換,這對雙語會議很重要。發表時的報導指出,該模型以 70 種以上語言訓練,其中 25 種經過廣泛驗證——這是個有用的區別,因為一種語言若只是「訓練過」而未經驗證,就是你在信任它之前應該先測試的語言。NVIDIA 的規格卡列出 40 種支援 ASR 的語言、31 種可與英文雙向翻譯的語言,以及一個獨立的 48 標籤語言 ID 元件。

• 如果您需要歐洲的覆蓋廣度——Meta 的 25 種已驗證語言比 NVIDIA 的 40 種窄,但 Meta 的清單偏向企業客戶實際錄製的語言。

• 如果你需要翻譯——只有 NVIDIA 做得到。Meta 的模型只負責轉錄;它不會把轉錄內容翻譯成另一種語言。

• 如果你需要語碼轉換——Meta 聲稱原生支援;NVIDIA 的規格說明未提及任何可比功能,而且無論轉錄語言為何,其音訊理解都僅限英文。

A generated two-column scoreboard for Nemotron 3.5 Transcribe vs Muse Voice Transcribe. Nemotron column: mode offline file, audio shape 1 hour per pass, speakers up to 8, languages 40 with 13 diarized, WER 4.71% batch mean, price $0.12 per hour hosted with free weights. Muse column: mode streaming WebSocket, audio shape 80ms chunks, speakers 20+, languages 25+ served, WER 3.1% streaming, price $0.18 per hour hosted. The footer says the two WERs are not comparable.

逐字稿實際包含的內容

時間戳記正是那種看似微不足道的差異、實際上卻代價高昂的地方。Meta 提供輪次層級的時間戳記——是區段邊界,而非逐字時間——且完全不公開信心分數。NVIDIA 透過 CTC 適配器提供逐字時間戳記,但需注意:啟用 DFlash2 推測解碼草稿時,時間戳記無法使用。

• 時間戳記 — Meta 為輪次層級;NVIDIA 則為詞層級,但未伴隨其最快的解碼路徑提供。

• 置信度 — Meta 未公布;NVIDIA 也未公布逐字置信度。

• 輸入格式 — Meta 要求使用 16 或 24 kHz 的單聲道 16 位元 PCM,並指示你用 ffmpeg 轉換其他所有格式;NVIDIA 則接受 16 kHz 單聲道,並直接處理該檔案。

• 提示——兩者都會使輸出產生偏差。根據 Meta 的文件,其關鍵字與語言偏置「只會對模型產生輕微推動作用,並不保證拼寫正確」。NVIDIA 的上下文提示則報告指出,搭配細粒度實體清單後,命名實體 WER 從 12.21% 降至 2.20%——這雖由廠商自行執行,但主張強烈得多,且暗示其機制不同於軟性引導。

• 輸出樣式 — NVIDIA 的五種樣式(逐字、書面形式、情境化、講者歸屬、豐富)係依指示選用。Meta 只回傳一種格式,並預期你自行進行後處理。

A screenshot of Meta's developer blog post 'Meet Muse Voice Transcribe, streaming speech to text on Meta Model API', dated September 3 2026, showing the price line 'just $3.00 per 1000 minutes ($0.18/hour)' and core features including streaming transcription over a WebSocket, speaker-aware turns and native speech boundaries.

每音訊小時價格

Meta 每 1,000 分鐘收費 3.00 美元,相當於每小時音訊 0.18 美元,且並未公布任何分級方案或免費額度。NVIDIA 在 Artificial Analysis 上的託管服務標價為每 1,000 分鐘 2.00 美元——約每小時 0.12 美元——而其權重可依 OpenMDW-1.1 免費下載,因此自行架設是第三種選項,這是 Meta 無論開價多少都未提供的。

在大量規模下,這筆算術很直接,而且不利於較便宜的標價。每月一千小時的音訊,透過 Meta 要花 180 美元,透過託管的 Nemotron 端點則要花 120 美元。若採自架,同樣一千小時在 RTX PRO 6000 Blackwell 上、依 NVIDIA 的 NVFP4 吞吐量宣稱,只需不到一小時的 GPU 時間——以租用 GPU 的費率計算,約合 2 美元的運算成本,另加維運、儲存,以及負責它的工程師。每月一萬小時時,1,800 美元與幾百美元之間的差距足以支應大量維運;每月一百小時時,這筆差距則連任何維運成本都無法支應。

自託管真正換來的,不是價格。而是能夠對合約上禁止離開你網路的音訊執行轉錄,以及在供應商端點效能下降時讓流程持續運作的能力。這正是受監管團隊付費購買 GPU(而這些 GPU 原本可以租用)的原因。

各自斷裂之處

Meta 的失敗模式都與延遲脫不了關係。其語者分離假設語音不會重疊,因此一通充滿打斷的激烈客服通話會把發言輪次標錯。其轉錄稿沒有單字時間戳,這會破壞字幕生成、音訊搜尋,以及任何與影片的下游對齊。其輸入契約嚴格,且其偏置僅屬建議性質。它不支援翻譯、不支援音訊問答,也沒有自架選項。

NVIDIA 的故障模式與工作流程密切相關。它無法串流,因此無法提供即時字幕、語音代理或即時通話路由。其音訊理解僅支援英文。每段錄音上限為一小時。其隨附的 SGLang-Omni 整合省略了說話者歸屬輸出、字詞時間戳與翻譯,因此卡片承諾的部分功能需透過 vLLM 路徑或 NIM 容器才能實現。而且它偶爾可能無法終止,卡片建議對此加以防範。

這兩組失敗都不是有利於另一個模型的程式錯誤。它們是這個問題的兩種形態:一種是在音訊發生當下就在場的模型,另一種是在音訊結束後才徹底處理的模型。

如果你兩者都需要,這套流程並不是妥協。

最常見的實際部署方式其實根本不是二選一。即時音訊會走 Meta 的串流端點,因為這是唯一能在通話進行中取得文字的方法——字幕、客服輔助、即時搜尋。同一段錄音隨後會在夜間由 NVIDIA 的檢查點進行離線重新轉錄,因為批次處理能產出更乾淨的文字、附帶講者標註的字詞時間戳,必要時還能為非英語通話提供英文翻譯。串流轉錄服務的是當下,批次轉錄服務的是紀錄。試圖強迫單一模型同時扮演這兩種角色的團隊,通常最後不是得到延遲的即時畫面,就是為無人觀看的音訊支付高昂的串流費用。

那條管線的下游部分——摘要通話、為代理表現評分、遮蔽個人資料、把被標記的對話轉給真人處理——都是普通的文字工作,不該和 ASR 共用同一張 GPU。OrcaRouter 用單一金鑰執行這些文字呼叫,且收取 0% 加成費用,直接以供應商的牌價原樣傳遞,並在供應商不穩時自動容錯切換,還有一套路由 DSL,能在同一個工作流程中把摘要與分類送到不同的模型。Meta Muse Voice Transcribe 與 NVIDIA Nemotron 3.5 Transcribe 都不在 OrcaRouter 的目錄中;路由器位於逐字稿之後,也就是文字工作負載所在之處。

A screenshot of the Hugging Face blog post 'NVIDIA Nemotron 3.5 Transcribe and Granary v2: Intelligent Multilingual Transcription You Can Prompt and Adapt', published October 28 2026, with the subtitle 'One open model for multilingual transcription, speaker attribution, translation, and audio Q&A' and a sidebar listing the 34B model card and NVIDIA Nemotron 3 Diarization.

三個問題比任何排行榜都更快能定案。音訊到達後,文字需要在多久內出現?如果答案是「通話期間」,決定權就在 Meta,WER 的討論只是裝飾。同時有多少人說話,而且他們會重疊嗎?如果答案是「超過八人,而且會」,那就是 NVIDIA 的地盤。還有,音訊允許離開你的網路嗎?如果答案是不行,這兩個模型從根本上就只有一個能部署。

其餘的一切——3.1%、4.71%、0.18 美元——都是兩款產品之間的決勝關鍵,而這兩款產品是為同一場會議中的不同時刻所設計。