Nemotron 3.5 Transcribe 對比 Grok Voice Transcribe 2.0：在你的 GPU 上使用開放權重，還是每小時 0.20 美元

Grok Voice Transcribe 2.0 每串流一小時音訊收費 0.20 美元，每批次處理一小時收費 0.10 美元。Nemotron 3.5 Transcribe 則不按小時收費，而是要求你自己擁有一張能容納約 340 億參數的 GPU。只讀那句話，這比較看起來像是一場按錶計費與機器之間的價格戰，而按錶計費的一方顯然落敗。其實不然：在兩款模型都上榜的那個基準測試榜單上，按錶計費的那款更準確，而開源那款差距太大，沒得爭。

這兩項產品相隔六週推出——Grok Voice Transcribe 2.0 於 2026-09-18、Nemotron 3.5 Transcribe 於 2026-10-28——而且它們是為不同的工作而打造。一個是託管式 API，具備 WebSocket，能在人還在說話時就回傳文字。另一個則是一個檢查點：你下載、載入它，然後把它指向一段錄製完成的錄音。延遲、語言數量、講者標籤、成本結構，甚至法律條款，全都源自這一個差異，因此有趣的問題並不是哪一個轉錄得更好。

每一項是什麼，以六行說明。

外形對比鮮明到讓規格表讀起來像範疇謬誤，而這正是重點所在。

• 部署 — 在 xAI 自有基礎設施上託管的 REST 與 WebSocket API，相對於 OpenMDW-1.1 下的開放權重，由你在 vLLM、SGLang-Omni 或 NeMo Speech 上自行提供服務。

• 規模——xAI 未公布參數量，相較之下總參數量為 34B，其中約 4.3B 為活躍參數（含音訊編碼器），採用 Nemotron 3.5 Lightning 30B-A3B 的 Mamba 與 Transformer 混合專家主幹。

• 音訊輸入 — 支援高達 500MB 的檔案，涵蓋十二種容器格式與三種原始編碼；可透過多聲道模式處理 2 至 8 個聲道；相對地，錄音則可在 65,536 個 token 的上下文內，長達一小時、16kHz 單聲道 PCM。

• 即時路徑 — 以約每 500 毫秒提供中間結果的串流、端點判定預設為 400 毫秒、智慧輪次偵測，以及獨立的批次端點，對比完全不串流；模型會讀取已完成的檔案並回傳轉錄稿。

• 語言涵蓋範圍 — xAI 文件中列名 37 種語言，並在該處描述為 38+ 種；相對於 NVIDIA 卡片上轉錄的 40 種語言，以及 31 個與英文互譯的翻譯對。

• 說話者標籤 — 一個會為每個字加上說話者整數的 diarize 旗標，適用於批次與串流，對比之下，融合式語者分離編碼器可在單次處理中產出標註說話者的轉錄稿，最多支援 8 位說話者、13 種語言。

• 價格 — 批次處理每音訊小時 $0.10，串流處理每音訊小時 $0.20，對比之下並無公開的每小時費率，因為 NVIDIA 販售權重，而運算資源由你提供。

他們唯一相遇的那塊板，而它並不會如你所預期那樣斷裂。

Artificial Analysis 設有語音轉文字排行榜，分為兩條賽道：一條是針對已完成檔案的批次賽道，另一條是針對會輸出中間結果的模型的串流賽道。Nemotron 3.5 Transcribe 僅符合第一條賽道。在該賽道中，Grok Voice Transcribe 2.0 以 2.3% AA-WER 位居約六十個模型中的第五名，而 NVIDIA 的模型在發表資料中標示為 2.80%，並在發布後數日的即時榜單上顯示為 3.4%。無論算作 2.8% 還是 3.4%，託管模型都贏得雙方唯一共同採用的比較尺度，領先幅度介於半個百分點到一個百分點之間。

這個結果沒有乍看之下那麼嚴重，因為這兩個模型不是因為同一個理由才出現在同一張榜單上。NVIDIA 的說法是，Nemotron 3.5 Transcribe 是最佳的開放權重語音模型，而在那張範圍更窄的榜單上，它確實如此：它勝出的比較對象是其他可下載的檢查點，其中 2.8% 是要超越的數字。Grok Voice Transcribe 2.0 是專有模型，競爭的是不同的賽道。把兩者拿來相互引用，會產生一個標題——「託管模型以 0.5 分擊敗開放模型」——但這衡量的是基準測試的混合組成，而不是產品決策。

串流領域正是這種不對稱性從統計層面轉為結構層面的地方。Grok Voice Transcribe 2.0 以 2.7% 的最終 WER 位居串流模型之首，在語音結束後 0.49 秒輸出，而首次部分結果在相同延遲下為 3.4%，在約三十二個串流模型中排名第一。Nemotron 3.5 Transcribe 沒有列入，因為它無法串流。它是一個檔案輸入、轉錄稿輸出的模型，且未記載任何分塊串流路徑。任何人在規劃即時字幕部署時，若以準確度比較這兩者，其實是在比較一個自己無法使用的模型。

兩份排行榜都附有值得重申的警告標示。同一個模型在不同服務端點之間，AA-WER 的變動幅度接近整整一個百分點，因此上述 0.5 個百分點的差距大約就是量測雜訊的幅度——方向屬實，但作為結論則薄弱。而 xAI 自己公布的 6.8% 多語言短語數字，較 1.0 版時的 20.6% 下降，是取自以生產流量建立的內部資料集，而非已釋出的語料庫。這是供應商針對自家資料集所作的宣稱，而且根本未出現在 Artificial Analysis 上。

串流是開放模型無法跨越的界線

對呼叫中心座席、即時字幕、會議助理或語音機器人而言，決策在還來得及考慮準確度之前就已底定。Grok Voice Transcribe 2.0 透過 WebSocket 接收原始二進位音訊幀——pcm、mulaw、alaw 或 opus——約每秒兩次回傳中間結果，並透過端點偵測與智慧輪次偵測提供輪次結束訊號。這些機制讓逐字稿感覺即時，也是 Atlassian 的 Loom 在推出時將其影片庫遷移到該模型上的原因。

Nemotron 3.5 Transcribe 的設計取向恰好相反。它一次可讀取長達一小時的音訊，並回傳完整的逐字稿；字詞時間戳是在生成之後由輕量級 CTC 適配器產生，而不是在生成過程中產生。這樣的設計換來長篇、雜亂錄音的準確度，卻在所有短篇與互動式內容上犧牲延遲。NVIDIA 的產品線中另有一款小得多的串流語音辨識器——Nemotron Speech Streaming EN 0.6B——但它是不同的模型，涵蓋範圍也不同，並非此檢查點的串流模式。買 30B 模型並期望之後再外掛串流功能，等於同一件事買錯兩次。

四十種語言對上三十七種，還有一個變動了的數字

表面上，差距是三種語言。實際上，這取決於你看的是哪一頁。xAI 的語音轉文字文件列出 37 種具名語言——從阿拉伯語、波士尼亞語一路到烏爾都語、越南語，並包含西班牙語、葡萄牙語與阿拉伯語的地區變體——並將總數描述為 38 種以上。九月發布前後公布的涵蓋範圍則寫的是 25 種。文件是更近期、也更具體的來源，但一個在發布文章與文件頁面之間相差十三種的語言數量，是該拿你自己的音訊來驗證、而非直接採信的數字。

NVIDIA 的規格卡更細分，而且這次難得地更保守：涵蓋 40 種語言，並附有逐語言勾選表，其中 13 種標示為支援多說話者轉錄。真正攸關說話者歸屬的，是比這 40 種更窄的一組語言——阿拉伯語、華語、英語、法語、德語、印地語、義大利語、日語、韓語、葡萄牙語、俄語、西班牙語和泰語。如果你的音檔庫是波蘭語或土耳其語，Nemotron 3.5 Transcribe 能轉錄得很好，但不會告訴你誰說了什麼，而這很可能正是你當初想買的功能。

這裡的翻譯是 Nemotron 獨有的欄位。此模型會在同一趟轉錄流程中完成涵蓋 31 個語言對的英譯與外譯英，而 Grok Voice Transcribe 2.0 並未提供這項功能；xAI 的 API 則會以所說的語言回傳文字。如果任務是雙語會議紀錄，這是 Grok 端再怎麼進行提示工程都無法重現的功能。

講者標籤：融合編碼器對比布林值

這是唯一一個面向，在這方面兩者比行銷宣傳所暗示的更為接近，而在這裡，誠實的答案是兩者都做得到。

• Nemotron 3.5 Transcribe — 凍結的 Nemotron 3 Diarization 模型會將說話者活動表徵饋入 ASR 編碼器，因此語言模型能將誰在說話視為輸入的一部分。輸出包含說話者標籤與原始片段、最多 8 位說話者，以及字詞層級時間戳記。它只需單次處理，中間不需第二個服務。

• Grok Voice Transcribe 2.0 — 設定 diarize=true 後，每個詞回來時都會附上整數的 speaker 欄位，批次與串流皆然。多聲道模式更進一步：最多可獨立轉錄 8 個聲道，並以 channel 索引回傳，當你的來源是多聲道錄音而非混音檔時，這就是精確的歸屬。

實務上的差異在於涵蓋範圍，而非功能是否存在。Grok 的標記功能可在其 API 支援的各種語言中運作；NVIDIA 的融合路徑則僅針對 13 種語言訓練。至於多聲道，在適用情境的空間裡確實是一大優勢——每席各有一支麥克風的董事會議室，並不需要發話者分離器去猜。會議現場產生的混音單聲道檔案就需要，而在那裡，融合編碼器與託管式標記之間的品質落差，只有你自己的音訊能定奪。

每月一千小時的算術

價格才是這兩種模式真正分歧的地方，值得把數字實際算清楚，而不是拿 GPU 帳單的軼事互相交換。

以每月 1,000 小時音訊計算，Grok Voice Transcribe 2.0 在批次模式下為 100 美元，串流模式為 200 美元——每年 1,200 美元或 2,400 美元，且無需硬體、無需維護時段，也沒有冷啟動。Nemotron 3.5 Transcribe 的成本等同於 GPU 的成本。NVIDIA 的研究頁面聲稱，NVFP4 檢查點搭配 DFlash2 草稿模型，在單張 RTX PRO 6000 Blackwell 上每秒可轉錄 2,238 秒音訊；即使將此數據下調一個數量級，每月 1,000 小時音訊也只需數個 GPU 小時。算力並非限制；所有權才是。

• 相對於串流費率達到收支平衡——一張 $8,000 的工作站顯示卡，在 1,000 串流小時下，40 個月後即可回本；若以批次費率計算，則需 80 個月。

• 以每月 10,000 小時計算——同一張卡相較於串流服務，四個月即可打平，而每小時費率降至約 2 美分。

租用雲端 GPU——每小時約 2 美元的 H100，只要供應商宣稱的吞吐量即使只達到其標稱數字的一小部分，就能勝過兩款模型的牌價；固定成本則變成工程時間、儲存空間，以及你現在得自行執行模型伺服器這件事。

因此，損益平衡點完全與轉錄準確度無關。它取決於用量，以及音訊是否被允許離開你的網路。每月低於幾千小時，代管服務費率比自行投入工程的成本更低。超過這個量，或受限於合規壁壘，模型權重方案就會勝出，優劣比較也隨之翻轉。

OrcaRouter 適合的地方，以及不適合的地方

這兩款轉錄器目前都不在 OrcaRouter 的目錄中；我們提供的模型是文字與視覺模型，這裡的任何內容都不應被解讀為其中任一款的端點。轉錄管線確實會產生大量文字，接著需要進行摘要、實體擷取、遮蔽、分類與搜尋。這些呼叫正是用單一 OpenAI-compatible 金鑰橫跨 200+ 個模型發揮價值的地方：供應商定價以 0% 加價直接傳遞，因此廠商降價當天就能反映，當某個上游服務品質下降時自動容錯移轉，以及一套路由 DSL，能將便宜的分類工作送往小型模型，同時把昂貴的摘要工作保留在前沿模型上。如果您自行託管 Nemotron 3.5 Transcribe，GPU 就是您的轉錄器；路由則是轉錄稿後續所發生的事。

該選哪一個

這項決定是關於音訊上的時鐘，而不是模型卡。

• 即時音訊、語音代理、字幕、通話路由——Grok Voice Transcribe 2.0，毋庸置疑。原生支援串流，取得最終轉錄結果的延遲不到半秒，而批次端點也使用同一個模型來進行夜間回填。

• 已完成的多人錄音，且語言非英語——Nemotron 3.5 Transcribe，前提是你有足夠的 GPU，且涵蓋 13 種語言的說話者處理路徑能對應到你的音訊。這正是此模型所針對的情境，也是 40 種語言與一次性語者分離得以勝過 0.5 個百分點準確率差距之處。

• 雙語歸檔 — Nemotron 3.5 Transcribe，因為翻譯對照會在同一个處理流程中一併產生，而 Grok 不會翻譯。

• 用量小、沒有 GPU、僅支援英文——Grok Voice Transcribe 2.0 以批次模式每小時 0.10 美元。一千小時花費一百美元；再大的開放權重授權自由，也抵不上為了省下這筆錢而買一張 Blackwell 顯示卡。

那個誘人的第四個答案——現在就部署 Nemotron，之後再補上串流——並不存在。NVIDIA 推出的這款模型是刻意設計成離線的，而它同時販售的串流產品線是 0.6B 英文辨識器，並不是這款模型的一種模式。先選定你需要的形態；排行榜的爭論可以等，因為半個百分點的 AA-WER 完全落在同一個模型更換主機時會變動的範圍內。