Nemotron 3.5 Transcribe 與 GPT Transcribe 比較的標題卡,對比 3.4% 與 3.3% 的 AA-WER,八位說話者對上「無」。
Guides & Insights

Nemotron 3.5 Transcribe 對上 GPT Transcribe:只差 0.1 分,其中一款直接把檢查點交到你手上

作者

Elias Hawthorne

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

向 GPT Transcribe 要求詞級時間戳記,API 不會給你。不是給得差,也不是只給個大概——這個模型沒有時間預測頭,OpenAI 的文件會指引你改用 whisper-1 來做這件事;說話者標籤也一樣,它們存在於另一個獨立的說話者分離模型中。現在向 Nemotron 3.5 Transcribe 提出要求,這是 NVIDIA 於 2026 年 10 月 28 日以開放權重發布的模型,而兩者只要一次處理就會回傳:由 CTC 適配器在解碼後將完成的轉錄稿對齊音訊,產生附有說話者歸屬的詞級時間資訊。在公開準確度排行榜上,這兩個模型相差不到 0.1 個百分點。就你拿轉錄稿實際做的事情而言,它們不在同一個產品類別。

這就是整個決定,值得慢慢梳理,因為上市報導大多把這組搭配簡化成了一場 WER 競賽,而雙方其實都沒有以有意義的差距勝出。

準確度差距是雜訊;功能差距則不然。

在 Artificial Analysis 的非串流指數中,GPT Transcribe——OpenAI 的批次轉錄模型,於 2026 年 7 月 28 日與即時串流的姊妹模型一同推出——列為 3.3%,與一個小型挑戰者並列第十八名。Nemotron 3.5 Transcribe 則列為 3.4%,並列第二十名。在一個同一模型的條目可能因由哪個端點提供服務而相差將近整整一個百分點的指數上,這不過是零點一個百分點的差距。沒有人應該根據這一點在兩套語音系統之間做選擇。

同時,NVIDIA 的發布資料指出 AA-WER 為 2.8%,並在開放權重模型中並列第一。10 月 29 日的即時排行榜讀數則顯示 3.4%。請把 2.8% 視為提交數據,並把 3.4% 視為當前測量值;兩者差距大於 Nemotron 與 GPT Transcribe 之間的差距,這說明了單一排行榜差值究竟該有多大分量。

• 參數 — 總量約 30B,且在混合 Mamba–Transformer MoE 中每個 token 約有 4B 活躍參數,相較於未公開、非生成式的版本。

• 授權條款 — OpenMDW-1.1,可商業使用,權重可下載,對比僅限 API。

• 價格——未公布定價;按 GPU 時間計費,其中 NVFP4 版本聲稱在單張 RTX PRO 6000 Blackwell 上每秒可處理多達 2,238 秒音訊,對比每分鐘 $0.0045,約每音訊小時 $0.27。

• 說話者標籤 — 最多 8 位說話者、支援 13 種語言,內建 vs 無;需另用獨立的說話者分離模型。

• 詞級時間 — 解碼後的 CTC 對齊,提供說話者歸屬與否;whisper-1 是文件記載的替代方案。

• 語言 — 40 種可轉錄,31 種可與英文互譯;相較之下,多語功能具備自動偵測與語言提示,但未公布數量。

• 音訊長度 — 單次處理 1 小時,對比以檔案為基礎、由 API 處理分塊。

• 後處理 — 由提示控制的逐字或書面形式,對比自由形式的上下文與關鍵字提示,無清理階段。

Comparison scoreboard for Nemotron 3.5 Transcribe and GPT Transcribe across accuracy, price, speakers, word timestamps, languages and licence, with eight attributable speakers against none.

GPT Transcribe 比開放檢查點做得更好的地方

有三件事,而且它們都不是小事。第一,它是 API。沒有 30B 參數的檢查點需要調整規模,沒有 NVFP4 組建需要等待,也沒有 vLLM 配方需要鎖定。OpenAI 回報的處理速度約為即時的 34 倍,這比 NVIDIA 聲稱在 Blackwell 卡上的吞吐量還慢,而且對大多數團隊來說無關緊要,因為 34 倍即時已經比他們所運行的任何佇列都快。

第二項是上下文處理。GPT Transcribe 接受自由形式的上下文、關鍵詞與詞彙提示,以及多種語言提示,並會在轉錄內容之外回傳一個偵測到的語言陣列。這樣的組合在語碼轉換的音訊與領域術語上確實非常實用,而且它是提示介面,而非微調——這意味著產品團隊不必擁有 GPU 就能調整它。NVIDIA 的對應方案——在提示中提供預期實體清單——據稱在 ContextASR-Bench 上將命名實體錯誤減少了六倍,但該數字是廠商自行報告且尚未經過重複驗證。

第三個是整合介面:同一個端點可提供檔案轉錄、串流檔案轉錄稿、透過 WebSocket 提交的即時輪次,以及 Responses API 與 Batch。對於已在 OpenAI 平台上的團隊而言,轉錄是一個參數,而不是一次部署。

OpenAI 自己公布的品質宣稱範圍廣泛,且難以查核:在涵蓋 22 種語言的 Common Voice 資料集上,詞錯誤率為 19.27%,相較於 Whisper 的 40.37%;而在涵蓋九種語言的真實世界基準測試上則為 8.98%,相較於 15.21%。這些是廠商數據,比較對象是 2024 年基準,而非 2026 年的競爭對手。獨立評測結果對 GPT Transcribe 比 AA 排行榜所顯示的更為有利:在 Perit 經人工審閱的英文測試集上,它的 WER 為 1.76%,在 22 個系統中排名第六,且有 61.3% 的音訊片段被完美轉錄。那是與 Artificial Analysis 不同的測試集,兩份排行榜的數字無法直接比較——但趨勢一致,而且這使 OpenAI 的模型在同一測試集上領先託管的 Parakeet 端點。

缺少的功能真正造成痛點之處

如果你的輸出只是供搜尋索引使用的純文字,GPT Transcribe 的缺漏對你毫無代價。但當你需要更多東西時,工作量就會倍增。詞級時間戳意味著得再跑一趟 whisper-1 或強制對齊器,而這恰好重新引入了對齊原本要解決的失敗模式:一份邊界偏移的轉錄稿,讀起來沒問題,卻會讓字幕出錯。說話者標籤則意味著要接上第三個模型,在分段邊界處合併,還得替它自己的錯誤率除錯。而這兩趟二次處理彼此並不知道對方的存在,於是一通雙人通話就變成三個模型外加一個合併步驟。

這套層層串接的流程並不是在批評 OpenAI 的工程能力。這就是這個產品的本質:一個高準確度的轉錄工具,輸出範圍刻意壓得很窄。微軟和 Google 也都採用同樣的分工方式——把說話者分段(diarization)做成獨立的 SKU,或是一個帶有自身限制的獨立模式。NVIDIA 押的則是完全相反的方向,而誠實的說法是:Nemotron 3.5 Transcribe 得花更多運算資源,來換取省去一條管線。

那筆運算所換得的成果雖有文件記載,但屬於廠商自行回報的數據:在 David AI 基準上,涵蓋 21 種語言的語者分離錯誤率為 18.26%,在 14 個系統中表現最佳;在 VoiceArena 上,串接最小排列(min-permutation)詞錯誤率(WER)為 32.4%,同樣是 14 個系統中最佳;在重疊的英語語音上,參考詞有 8.32% 被漏掉,而中位數接近 31%。目前沒有 OpenAI 的語者分離數字可與這些數據對照,因為 OpenAI 並未針對這個模型公布相關數字。

Screenshot of the Artificial Analysis non-streaming speech leaderboard showing GPT Transcribe at 3.3% AA-WER and Nemotron 3.5 Transcribe at 3.4%.

停止按分鐘付費的兩種方法

GPT Transcribe 每分鐘收費 0.0045 美元,也就是每一千分鐘 4.50 美元,約每千音訊小時 270 美元。Nemotron 3.5 Transcribe 則每分鐘不收費,改為需要一張 GPU。NVIDIA 的示範配置是一張執行 NVFP4 檢查點的 RTX PRO 6000 Blackwell,搭配 DFlash2 草稿模型;而吞吐量主打數據——不到三分鐘處理 100 小時音訊——是在高併發情況下以 30 秒短片測得,並非以長達一小時的會議測得。應將其視為批次處理得宜時的上限。

這就留下一個由利用率、而非標價決定的分界點。你已經擁有且能持續充分運轉的顯卡,能輕鬆勝過每千小時 270 美元的成本。若得為每月四十小時的佇列買一張顯卡,則不然;而且再多的參數效率也改變不了這筆算術。

Screenshot of NVIDIA's Nemotron 3.5 Transcribe research page showing approximately 4.3B active parameters, 40-language coverage, one-hour recordings and the 2,238x real-time NVFP4 claim.

還有一種第三選項,是這種二元框架所掩蓋的,而這正是多數團隊實際上採用的做法:大量的一般檔案繼續使用託管 API,並把難處理的檔案——六人會議、帶口音的臨床訪談、你不得上傳的音訊——導向自託管的檢查點。這只有在兩邊的輸出最後呈現相同格式時才行得通;而這正是主張統一採用一套包含講者與時間欄位的轉錄結構定義的理由,即使你目前的供應商並不填寫這些欄位。先將結構定義標準化;之後模型就能隨時替換。

在逐字稿之上的那一層,OrcaRouter 的職責是讓這種可替換性不會止步於模型邊界。負責讀取這些逐字稿的摘要器、分類器與合規檢查器,全都可以共用一組橫跨 200+ 模型的單一金鑰,並將供應商牌價以 0% 加成原樣傳遞,自動容錯移轉會在上游出錯時啟動,還有一套路由 DSL 能將每個工作負載導向不同模型,無須再進行第二次整合。GPT Transcribe 與 Nemotron 3.5 Transcribe 都不在該目錄中——我們兩者皆不提供——因此語音呼叫仍留在你原本購買的地方,只有下游那一半變得可攜。

簡要版本,依情況而定

如果你只要轉錄稿、別無其他,而且想在下週就拿到、完全不必預先配置任何東西,GPT Transcribe 是風險較低的選擇:在獨立的 Perit 評測集上排名第六、你很可能已經具備的整合介面,以及不需要資本購置的價格。如果你的轉錄稿要供字幕、會議分析、講者歸屬搜尋或合規存檔使用,那麼你在 GPT Transcribe 上額外加裝的模型,其工程時間成本會高於檢查點的 GPU 小時成本,而 Nemotron 3.5 Transcribe 能一次完成這些工作。

兩者都適用的但書:這是個才推出一天的模型,它掛在嘴上的那些基準測試成績是廠商自家公布的,而獨立排行榜根本還沒評測過這個 300 億參數的 checkpoint。別把它跟 nvidia/nemotron-3.5-asr-streaming-0.6b 搞混,那是六月推出的 600M 串流模型,確實有出現在獨立排行榜上,而且表現明顯更差(WER 3.35%,在 Perit 上 22 個裡排第 21)。它們除了家族名稱之外,別無其他共通之處。