Nemotron 3.5 Transcribe 對決 NVIDIA Parakeet TDT 0.6B：626,000 次下載的現任霸主遇上接班人

Hugging Face 上超過 626,000 次下載都屬於NVIDIA Parakeet TDT 0.6B，這款 6 億參數的 transducer 自 2025 年 8 月問世以來，一直是自架設英文辨識器的預設選擇。幾乎沒有人只單獨運行它：標準部署方式是文字交給 Parakeet、說話者交給獨立的說話者分離器，再以合併步驟在區段邊界把兩份輸出拼接起來。 Nemotron 3.5 Transcribe，於 2026 年 10 月 28 日以開放權重發布，是 NVIDIA 提出要刪除那層中介環節的方案——單一檢查點即可轉錄、分離最多八個人聲並為其加上時間戳，支援四十種語言，且無需串接式流程。它每 GPU 秒的處理速度也慢上四十三倍，磁碟佔用則大約大二十五倍，而這正是公告並未率先強調的部分。

這場對決有趣的地方在於，這兩個模型都屬於同一家公司。這不是外來的挑戰者要取代現任者；而是 NVIDIA 向你推銷第二款、重得多的產品，來完成它第一款產品原本就不是為了做的那一半工作。

兩種架構，兩種關於這份工作的理論

Parakeet TDT 0.6B v3 是一款 FastConformer 編碼器，後接一個 token-and-duration transducer 解碼器。TDT 模型在每一步會同時預測一個 token 和一個時長，這讓它能跳過幀並以遠快於實時的速度運行；這正是它速度快的原因。它涵蓋 25 種歐洲語言，支援自動語言偵測，原生支援詞級時間戳，並以 CC-BY-4.0 授權發布——這幾乎是最不受限制的授權條款了。它完全沒有任何說話者表徵——不是弱表徵，而是完全沒有。

Nemotron 3.5 Transcribe 是一種語音增強語言模型：包含語音編碼器、凍結的 Nemotron 3 Diarization 模型，透過平行專家編碼器注入說話者活動特徵，以及混合 Mamba–Transformer 專家混合解碼器，每個 token 約有 300 億參數中的 40 億處於啟用狀態。它不會對音框進行分類。它會生成文字，因此可以指示它如何生成。

• 參數量 — 總計約 30B，每個 token 約 4B 活躍，相較於 600M。

• 解碼 — 自迴歸生成與詞元及時長轉導器（非自迴歸）之比較。

• 授權條款 — OpenMDW-1.1 與 CC-BY-4.0 之比較。

• 語言 — 40 種可轉錄，31 種可與英文互譯，而 25 種歐洲語言可自動偵測。

• 講者 — 最多 8 位、可標註身分，涵蓋 13 種語言，相較之下原本完全沒有。

• 時間戳記 — 解碼後的 CTC 對齊，說話者歸屬 vs 原生詞級時間。

• 吞吐量 — 在 Open ASR Leaderboard 上，RTFx 為 462，相較之下 RTFx 為 3,333。

• 音訊長度與串流 — 每個檔案 1 小時，僅限錄製 vs 錄製，並由 0.6B 串流同級模型另行處理即時音訊。

準確度數字會隨著由誰主持而有所變動。

在 Hugging Face Open ASR 排行榜的英語短音訊平均成績中，Parakeet TDT 0.6B v3 為 6.34%，Nemotron 3.5 Transcribe 為 5.33%。在同一份公開排行榜上，這是一分的差距，而這比本系列中的大多數比較都更值得尊重——同樣的測試框架、同樣的測試集，且都是兩家廠商自行提交的結果。不過這仍不是全貌，因為這兩筆成績是在不同時間評分的，而且排行榜的平均值主要由乾淨的朗讀語音所主導。

Artificial Analysis 呈現的卻是截然不同的情況，值得了解箇中原因。在那個榜單上，Parakeet 名列 4.5%，遠高於其 Open ASR 平均水準所暗示的位置，而 Nemotron 3.5 Transcribe 則位在 3.4%。這個 4.5% 屬於託管端點的組態設定，而非你自己硬體上的檢查點；部署者的批次處理與解碼選擇會讓這個數字變動將近一個百分點。拿託管版 Parakeet 的分數與自託管版相比，是本週報導中最常見的單一錯誤，而反向也同樣成立：NVIDIA 針對 Nemotron 的 2.8% 發布說法是提交數字，榜單上目前的 3.4% 才是實測結果。

經獨立人工審核的數據更為狹窄。在 Perit 的英文資料集上，Parakeet TDT 0.6B v3 的 WER 為 2.13%，在 22 個模型中排名第 14，且有 54% 的片段被完美轉錄。GPT Transcribe 與 MAI Transcribe 2 為 1.76%，分別排名第六與第七。Nemotron 3.5 Transcribe 的 30B 檢查點根本不在該排行榜上；榜上的 nemotron-3.5-asr-streaming-0.6b 模型則以 3.35% 排名第 21——那是不同的模型、負責不同的任務，且經常被誤認為本文所討論的模型。

取代作業實際會刪除的內容

Parakeet 使用者今日所跑的串接流程有三個部分與三種失效模式。辨識器產生帶有詞級時間戳的文字。說話者分離器產生說話者輪次。合併步驟把輪次指派給詞，而它是靠重疊啟發式來做，這套方法恰好在最關鍵之處出錯——也就是兩人同時說話的時候。NVIDIA 自己公布的單一模型替代方案數據，正是直接針對這個失效點：在 David AI 基準上、橫跨 21 種語言，說話者分離錯誤率為 18.26%，在 14 套系統中最佳；在 VoiceArena 上，串接式最小排列 WER 為 32.4%，在 14 套系統中最佳，第二名是 Multitalker Parakeet 加 Nemotron 3 Diarization 的串接流程，為 34.2%；而在重疊的英語語音上，參考詞被漏掉的比例為 8.32%，相對於中位數約 31%。

那些是廠商在其自家測試框架上提供的數據，並未經獨立重現。但請注意第二名是什麼：NVIDIA 自家的串聯系統，由本次比較標題中的模型建構而成。該公司公布了一項基準測試，其中自家新產品擊敗了自家舊產品再加上一個語者分離器。這是異常直接的證據，也正是廠商最有能力產出、但若結果相反時最不可能公布的證據。

取代方案刪掉的第二件事是語言處理。Parakeet 涵蓋 25 種歐洲語言；Nemotron 則涵蓋 40 種語言可供轉錄，以及 31 種語言可與英文互譯，並在 13 種語言中支援語者標註。如果你的佇列只到歐盟，這個差異只是理論上的。如果它包括阿拉伯語、華語、印地語或日語，Parakeet 從來就不是選項，比較就完全是 Nemotron 和其他方案之間的事。

更換它要花你多少錢

吞吐量，先談。Parakeet 的 3,333 RTFx 對上 Nemotron 的 462，在同一套排行榜測試框架上是 7.2 倍的差距——比參數比例所暗示的差距小，因為 MoE 每個 token 只啟用其 300 億權重中的約 40 億，但仍是實質差距。NVIDIA 更響亮的說法——在單張 RTX PRO 6000 Blackwell 上每秒可處理多達 2,238 秒音訊——假定使用 NVFP4 檢查點加上 DFlash2 草稿模型，且是在高併發下以 30 秒短片測得。這兩個數字都沒錯；它們衡量的是不同配置，而依據較大那個數字建立的容量規劃，會在長達一小時的會議上讓你失望。

其次是佔用空間。Parakeet TDT 0.6B 只需幾 GB 就能容納，在中階 GPU 上可順暢執行，其量化版本也能在 CPU 上執行。Nemotron 3.5 Transcribe 以 BF16 計高達數十 GB，且需要搭配 NeMo Speech 外掛的 vLLM，或資料中心加速器上的 SGLang-Omni。不存在 30B 模型能在相同硬體上取代 0.6B 模型的情況。

成熟度，第三。Parakeet 已有一年的部署經驗、上千則論壇解答，以及在 NeMo、Transformers 與 C++ 執行環境中可用的工具鏈。Nemotron 3.5 Transcribe 則只有一天。其 GGUF 與 NeMo-Speech.cpp 支援被描述為即將推出；其量化本地版本尚未發布。如果你的流程需要的是「無聊穩定」，那是再等一季的理由，而不是拒絕這個模型的理由。

現任者仍能徹底勝出之處

任何互動式的東西，先說一個。Parakeet 的 transducer 解碼會在音訊送達時就回傳詞語，而且其原生時間戳是解碼器本身的特性，而非事後對齊的步驟。Nemotron 3.5 Transcribe 則明確是為錄製音訊而打造——NVIDIA 自家的 Hugging Face 貼文就這麼說——另外還有獨立的 0.6B 串流模型供即時工作階段使用。如果你的產品是即時字幕，這篇標題裡的兩個模型都不是正確答案；正確的是它的串流版本，而那會是另一種比較。

任何小規模的本地部署，供兩人使用。一間只有一張工作站顯卡的診所、一間有檔案庫和合規專員的法律事務所、一個只拿到單一 GPU 補助的研究團隊：0.6B 的 Parakeet 是實際可行的部署，而 30B 的 Nemotron 則不是。在乾淨英文上約一個百分點的準確率差異，並不值得為此付出硬體成本。

任何僅限英文、不需要語者需求的，有三個。其中大多是轉錄工作。坦白說，Parakeet 的 626,000 次下載中，大多數都是用於升級並未改善的工作。

當管線有一半是自家硬體時，如何維持其運作

自架辨識器會引入一種代管 API 沒有的故障模式：你的顯示卡、你的驅動程式、你的維護時段。這正是把管線的另一半——負責將逐字稿轉成結構化紀錄的摘要器、分類器、擷取器——放在內建冗餘機制的端點上的理由。OrcaRouter 以單一金鑰執行 200 多個文字與多模態模型，並具備自動容錯移轉：上游服務劣化時可跨供應商切換、供應商定價以 0% 加成原樣傳遞，還有一套路由 DSL，讓你無須重複整合，就能把會議紀錄與通話筆記導向不同模型。Nemotron 3.5 Transcribe 與 Parakeet TDT 0.6B 都不在該目錄之中——我們不提供語音轉文字服務——但負責讀取它們輸出的那一層，不必因為一顆 GPU 故障而跟著失效。

升級決策

如果問題出在串接流程，就用 Nemotron 3.5 Transcribe 取代 Parakeet：如果你需要維護說話者分離器和合併步驟、如果會議中有超過兩種聲音、如果你的音訊不是歐洲語言，或如果你的支援工單中出現「重疊語音」這幾個字。若是如此，30B 檢查點就不是奢侈品，而是移除兩個變動環節及其錯誤預算；吞吐量成本就是吞吐量成本——一張卡仍能處理的音频量，遠超過會議密集的團隊所能產生的量。

如果您的音訊是英語或歐語、講者已知或無關緊要、硬體是工作站，而且現有流程運作順暢，那就繼續使用 Parakeet。新模型並不會讓舊模型過時；它涵蓋的是舊模型當初從未設計來處理的情境。另外，請持續關注獨立評測榜單，因為本文中每一項在說話者分離上有利於 Nemotron 3.5 Transcribe 的數字，都是 NVIDIA 自家提供的，而第三方意見至今尚未發表。