Nemotron 3.5 Transcribe 對決 Voxtral 3：兩分差距，仍無法分出高下

同一個模型，三種字詞錯誤率。Artificial Analysis 在其非串流排行榜上列出NVIDIA Nemotron 3.5 Transcribe為 3.4%；同一頁面的常見問題卻稱其為 2.8%。同時，Mistral Voxtral 3——即以Voxtral Small Transcribe 3之名推出的系列——以 2.1% 位居該排行榜第三，比 NVIDIA 公布的最佳數字領先約半個百分點。若採用 3.4%，差距看似決定性；若採用 2.8%，則落在這個指數在各種服務端點上呈現的雜訊範圍內。而若看涵蓋對話音訊的子分數，排名則反轉。

同一個模型，兩個數字，而且兩者都不是謊言

3.4% 和 2.8% 來自同一天的同一份排行榜。兩者之所以不同，是因為 AA-WER v2 是針對特定評估切片、透過特定服務端點計算出來的，而這個指數歷來在執行相同檢查點的不同供應商之間，變動幅度可接近整整一個百分點。NVIDIA 的 2.8% 是該公司在發表資料中引用的數字；3.4% 則是排行榜針對它實際測試的端點所顯示的數字。兩者都不是捏造的，也不應把其中任何一個從 Mistral 的 2.1% 中減掉，彷彿兩者是在相同硬體、相同精度、相同音訊條件下測得。

這並不表示這個差距毫無意義。它只是讓差距變成一個區間：在批次指標上，大約介於 0.6 到 1.3 個百分點之間，偏向 Voxtral，而實際數值取決於你採用哪一方的端點。對客服部署來說，WER 每差一個百分點，就得多花幾分鐘的人工審查，那是實實在在的錢。對會議紀錄產品來說，反正使用者本來就會快速掃過輸出內容，那就無所謂了。

差異究竟從何而來

AA 指數是三項組成分數的平均：VoxPopuli、Earnings-22 和 AgentTalk。前兩項是朗讀語音與財報電話會議——乾淨、單一說話者、錄音品質良好，是兩款模型都擅長處理的音訊類型。AgentTalk 則是對話式且較嘈雜。在這個子集上，據稱 NVIDIA 的模型得分 1.8%，而 Voxtral Small 為 2.3%，這是真正的反轉，也是整份比較中最有意思的數字。

• VoxPopuli 與 Earnings-22 — Voxtral Small 領先；這些語料庫有利於針對乾淨長篇語音調校過的模型。

• AgentTalk — Nemotron 在類似實際客服通話或帶有交錯發言的會議對話音訊上，以 1.8% 對 2.3% 領先。

• 整體指數 — Voxtral Small 為 2.1%，Nemotron 介於 2.8% 與 3.4% 之間。乾淨語音成分的權重足以產生該排序。

這個模式與這兩種架構相符。Voxtral Small 是一個轉錄模型，受訓以在轉錄上表現卓越；NVIDIA 的檢查點則是一個前端硬接上語音編碼器的語言模型，而語言模型在音訊雜亂、上下文偏對話式時往往表現更好。這也解釋了為何 NVIDIA 宣稱的最大優勢完全不在乾淨 WER 上：在帶說話者歸屬的重疊語音上平均 cpWER 為 15.80，以及當你提供實體清單時，命名實體 WER 從 12.21% 降到 2.20%。

廠商資料表也不會重疊。

Mistral 公布 FLEURS-45 的巨集平均 WER：Voxtral Small Transcribe 3 在強制語言設定下為 4.1%，在推斷語言設定下為 4.0%；同系列的 4B Mini 為 4.6%，Whisper large-v3 則為 16.0%。NVIDIA 公布 Open ASR Leaderboard：九個英文集的平均值為 4.71%，七個多語言集為 4.62%。兩者都是由廠商自行執行、在不同語料上採用不同正規化方式的測試框架，數值幾近相同純屬巧合，並非同一基準的正面對決。任何人拿 4.0 對比 4.62、宣稱領先 0.6 個百分點，都是在拿 FLEURS 分數比 Open ASR 分數。

說話者分離（diarization）的數字則有反向的相同問題。Mistral 在 AMI、Switchboard、CallHome 與 AISHELL-4 上報告的是拼接式最小排列 WER 18.4%。NVIDIA 則在其自家的多說話者資料集上報告平均 cpWER 15.80。NVIDIA 的數字較低，但其資料集不同；在沒有共用語料集的情況下，唯一站得住腳的說法是：兩家公司都相信自己勝過了所測試的專門串接系統，而雙方都尚未在對方的資料上發表執行結果。

Voxtral 3 能做到哪些 Nemotron 做不到的事

Mistral 的發布是一整個模型家族，而非單一檢查點，而這個家族涵蓋了 NVIDIA 單一離線模型未能涵蓋的範圍。

• 語言廣度 — Voxtral Small Transcribe 3 涵蓋 50 多種語言，包括所有 24 種歐盟官方語言；NVIDIA 涵蓋 40 種，其中 13 種提供說話者標籤。

• 即時 — Voxtral Mini Transcribe Realtime 3 以低於 500 毫秒的延遲進行串流，每分鐘 $0.008；在 240 毫秒延遲下 WER 為 7.4%，在 2,400 毫秒下為 5.7%。NVIDIA 無論價格為何，都未為此檢查點提供串流模式。

• 語音代理 — Voxtral 3 的發布推出了以 LiveKit 為基礎的 Voice Agent SDK，將轉錄、具備工具呼叫的推理模型與語音生成串接起來，並支援插話（barge-in）與 SIP 電話功能。這是 NVIDIA 的檢查點完全未涵蓋的一整個產品類別。

• 營運簡便 — 按分鐘計價、無需 GPU、無需服務堆疊，提供歐盟、美國與全球端點。對沒有基礎設施的團隊而言，這正是兩天完成整合與耗費兩個月整合之間的差別。

• 上下文偏置 — 在 Earnings-22 上，有上下文的關鍵詞組召回率為 94.6%，而無上下文時為 81.4%。其思路與 NVIDIA 的實體清單機制相當，但基於不同的語料庫進行測量。

Nemotron 能做到、而 Voxtral 3 做不到的事

反向清單比較短，但對合適的買家來說份量更重。

• 開放權重 — OpenMDW-1.1，允許商業使用，以 BF16、FP8、NVFP4 和 GGUF 格式發布。Mistral 的頁面提供 API 存取，以及透過 Mistral 進行的「在自己的基礎架構上自行部署」；而截至發布時，Mistral 並未發布任何權重、授權條款或檢查點。如果你的合規團隊需要稽核該成品，這些之中只有一個可供稽核。

• 單次處理一小時——65,536 個詞元的上下文，以及長達一小時的錄音。Mistral 並未公布 Voxtral 3 的最大錄音長度或上下文視窗，這本身就是應在投入長篇工作流程前先進行測試的理由。

• 翻譯 — 支援 31 種語言，可與英文雙向互譯。Voxtral 3 的發布頁面記載了轉錄、說話者分離與上下文偏置；它並未像 NVIDIA 的檢查點那樣記載語音翻譯任務。

• 可透過提示的輸出 — 由指令選擇五種謄寫風格，而非單一格式再加上後處理。

• 音訊理解 — 針對錄音內容進行問答與口語指令遵循。此檢查點僅支援英文，且未在任何 Voxtral 3 發布資料中記載。

成本比較差距懸殊，而這正是重點所在。

Voxtral Small Transcribe 3 每分鐘 0.0040 美元，或每音訊小時 0.24 美元。4B Mini 為 0.0035 美元，或每小時 0.21 美元。NVIDIA 的託管方案定價為每 1,000 分鐘 2.00 美元，或每小時 0.12 美元。自架主機則完全採用另一套算法：根據 NVIDIA 聲稱，在單張 RTX PRO 6000 Blackwell 上每秒可處理 2,238 秒音訊，一千小時的音訊——360 萬秒——約需 27 分鐘的 GPU 時間。即使吞吐量只有一半——NVIDIA 表示這正是開源整合方案所能達到的水準——也不到一小時。

• 每月 1,000 小時 — Voxtral Small $240、Voxtral Mini $210、Nemotron 託管版 $120、Nemotron 自行託管版約 $2 的 GPU 時間（以每小時 $2 的租用費率計算），另加營運成本。

• 每月 10,000 小時——分別為 2,400 美元、2,100 美元、1,200 美元，以及約 20 美元的 GPU 時間。

• 難處在於——自行託管路線的前提是：你已經有 GPU、有現成的服務堆疊，還有人能讓它持續運作。單張 RTX PRO 6000 是五位數的資本支出；以每月 1,000 小時計算，還沒攤提完，下一代就已經推出了。以每月 10,000 小時計算，幾個月就能回本。

• 另一個問題是——那些吞吐量數據取決於 NVFP4 加上 DFlash2 草稿模型，而這種組合會停用詞級時間戳記。如果你需要對齊，你跑的組態會比行銷表格中的那個更慢。

因此，定價論點會依用量規模，以及音訊是否能離開你的網路而有所不同。Mistral 的每分鐘費率便宜到大多數每月用量在數百小時以下的團隊根本不必考慮 GPU。超過一萬小時後，自行託管開放檢查點反而會便宜一個數量級，而維運負擔才是唯一真正需要考量的問題。

五十小時的測試

上面每一個數字都是別人的音訊。在把任一模型投入正式生產流程之前，先用這兩個模型轉錄你自己錄製的五十小時音訊，並依照你的使用者會採用的方式評分：命名實體正確、說話者輪次正確、數字與貨幣金額正確，以及你的客戶特有的口音。AA 指數不會告訴你哪個模型更能處理格拉斯哥客服中心的來電，兩家供應商的測試工具也一樣不會。

那個測試也是路由器除了成本之外還有用處的地方。OrcaRouter 將下游的文字呼叫——摘要、實體擷取、遮蔽、完成後轉錄稿的翻譯——置於單一金鑰之下，且零加成，業者定價原樣轉傳，跨業者自動容錯移轉，還有一套路由 DSL，可在同一個工作流程中把不同階段送往不同模型。Nemotron 3.5 Transcribe 與 Voxtral 3 都不在 OrcaRouter 的目錄中，因此路由器無法幫你呼叫它們；它能幫你處理它們回傳的內容，而不必為文字層另外建立第二個供應商關係。

結論取決於哪一句話描述了你的問題。如果是「我們需要以五十種語言進行準確轉錄、我們不想自己擁有 GPU，而且延遲很重要」，那麼 Voxtral Small Transcribe 3 是更合適的產品，而那 2.1% 是個實實在在的理由。如果是「我們需要對長達一小時的會議產出帶有說話者歸屬的轉錄稿、翻譯，以及我們合規團隊可以檢查的產物」，那麼 Nemotron 3.5 Transcribe 是這份清單上唯一能同時滿足這三項的選項，而在乾淨朗讀語音上的一個 WER 百分點，就是為此付出的代價。如果是「我們兩者都需要」，誠實的答案是它們並非彼此的替代品，而把這一代產品發揮得最充分的團隊，是讓一個負責即時音訊、另一個負責檔案存檔。