用于 Nemotron 3.5 Transcribe 与 GPT Transcribe 对比的标题卡,对比八位说话人情况下 3.4% 与 3.3% 的 AA-WER,而后者则无说话人支持。
Guides & Insights

Nemotron 3.5 Transcribe 对比 GPT Transcribe:相差 0.1 分,其中一个直接把检查点交到你手上

作者

Elias Hawthorne

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

向GPT Transcribe索取词级时间戳,API 不会给你。不是给得糟糕,也不是给个近似值——这个模型没有时间预测头,OpenAI 的文档会让你改用 whisper-1 来完成这项工作;说话人标签也是如此,它们位于一个单独的说话人分离(diarization)模型中。现在向Nemotron 3.5 Transcribe提出同样要求,NVIDIA 于 2026 年 10 月 28 日以开放权重形式发布,而这两项都能在一次处理中返回:带说话人归属的词级时间信息,来自一个 CTC 适配器,它在解码后将最终转录文本与音频对齐。在公开准确率榜上,这两个模型的差距不到十分之一个百分点。就你用转录文本所做的事情而言,它们并不属于同一产品类别。

整件事的关键就在于此,值得慢慢梳理,因为发布报道大多把这组对比简化成了一场 WER 竞赛,而实际上双方都没有以显著差距胜出。

准确度差距是噪声;功能差距则不是。

在 Artificial Analysis 的非流式指数上,GPT Transcribe——OpenAI 的批量转写模型,于 2026 年 7 月 28 日与一个实时流式版本一同发布——被列为 3.3%,与一个小型挑战者并列第十八名。Nemotron 3.5 Transcribe 被列为 3.4%,并列第二十名。十分之一分——而这还是在这样一个指数上:同一个模型的条目本身就可能因服务端点不同而相差近整整一分。谁都不该凭这一点在两个语音系统之间做选择。

与此同时,NVIDIA 的发布材料报告了 2.8% 的 AA-WER,并在开放权重模型中并列第一。10 月 29 日的实时榜单读数为 3.4%。请将 2.8% 视为提交时的数字,将 3.4% 视为当前测量值;两者之差大于 Nemotron 与 GPT Transcribe 之间的差距,这恰好说明单次排行榜差值究竟该有多大分量。

• 参数量——混合 Mamba–Transformer MoE 总参数量约 30B,每个 token 约 4B 激活参数,对比对象未披露且为非生成式模型。

• 许可证 — OpenMDW-1.1,允许商业使用,权重可下载,而非仅限 API 调用。

价格——无标价;按 GPU 时间计费,其中 NVFP4 构建版本宣称在单块 RTX PRO 6000 Blackwell 上每秒可处理多达 2,238 秒音频,相比之下为每分钟 0.0045 美元,约合每音频小时 0.27 美元。

• 说话人标签 — 最多支持 8 位说话人、覆盖 13 种语言,内置 vs 无;需要单独的说话人分离模型。

• 词级时间戳——解码后的 CTC 对齐,提供说话人归属与非归属两种选项;whisper-1 是文档中记载的替代方案。

• 语言 — 可转录 40 种,31 种可与英语互译,相比之下多语言已支持自动检测与语言提示,但未公布具体数量。

• 音频长度——单次处理 1 小时,对比基于文件、由 API 处理分块的方式。

• 后处理 — 由提示词控制的逐字形式或书面形式,与自由形式的上下文和关键词提示相对照,无需清理环节。

Comparison scoreboard for Nemotron 3.5 Transcribe and GPT Transcribe across accuracy, price, speakers, word timestamps, languages and licence, with eight attributable speakers against none.

GPT Transcribe 在哪些方面比开放 checkpoint 做得更好

有三件事,而且它们都不是小事。第一是它是一个 API。没有需要评估规模的 300 亿参数检查点,没有需要等待的 NVFP4 构建,也没有需要锁定版本的 vLLM 配方。OpenAI 报告的处理速度约为实时的 34 倍,这比 NVIDIA 声称在 Blackwell 卡上的吞吐量要慢,而且对大多数团队来说无关紧要,因为 34 倍实时已经比他们运行的任何队列都快。

第二点是上下文处理。GPT Transcribe 接受自由形式的上下文、关键词和词汇提示以及多语言提示,并在转录文本旁返回一个 detected-languages 数组。这种组合在语码转换音频和领域术语上确实有用,而且它是一种提示接口而非微调——这意味着产品团队无需自备 GPU 就能对其进行调优。NVIDIA 的等效方案是在提示中提供预期实体列表,据称在 ContextASR-Bench 上使命名实体错误减少到原来的六分之一,但该数字由厂商报告且未经复现。

第三是集成面:同一个端点既支持文件转写、流式文件转写、通过 WebSocket 提交的实时轮次,也支持 Responses API 和 Batch。已经使用 OpenAI 平台的团队只需把转写作为一个参数,而无需一次部署。

OpenAI 自己公布的质量说法范围宽泛且难以核验:在 22 种语言的 Common Voice 数据集上,词错误率为 19.27%,而 Whisper 为 40.37%;在九种语言的真实世界基准测试中为 8.98%,而对比对象为 15.21%。这些是厂商数字,对标的是 2024 年基线,而不是 2026 年的竞争对手。独立评估的情况对 GPT Transcribe 比 AA 榜单所显示的更为有利:在 Perit 经人工审核的英语数据集上,其 WER 为 1.76%,在 22 个系统中排名第六,61.3% 的音频片段被完美转写。这与 Artificial Analysis 的测试集不同,两个榜单之间的数字不可直接比较——但方向是一致的,并且在同一数据集上,它让 OpenAI 的模型领先于托管的 Parakeet 端点。

缺失功能真正造成困扰的地方

如果你的输出只是用于搜索索引的纯文本,GPT Transcribe 的缺失不会让你付出任何代价。一旦你需要更多,工作量就会成倍增加。词级时间戳意味着要通过 whisper-1 或强制对齐器进行第二遍处理,这会重新引入对齐本就是为了解决的那种确切故障模式:边界偏移的转录文本读起来没问题,却会破坏字幕。说话人标签意味着第三个模型,在分段边界处拼接,并且有自己的错误率需要调试。而这两次第二遍处理彼此互不知晓,于是一场双人通话就变成了三个模型外加一个合并步骤。

级联并不是对 OpenAI 工程能力的批评。这就是产品本身:一个高精度转写器,输出范围被刻意做得很窄。微软和谷歌都采用了同样的拆分方式——将说话人分离作为单独的 SKU,或作为有自身限制的单独模式。英伟达的押注则相反,诚实的说法是:Nemotron 3.5 Transcribe 需要消耗更多算力,来避免搭建一条流水线。

这些算力所换来的成果有据可查,但均属厂商自报:在 David AI 基准上,21 种语言的平均说话人分离错误率为 18.26%,在 14 个系统中表现最佳;在 VoiceArena 上,拼接最小排列 WER 为 32.4%,同样在 14 个系统中居首;在重叠英语语音上,参考词漏失率为 8.32%,而中位数接近 31%。这些数字没有可供对照的 OpenAI 说话人分离数据,因为 OpenAI 并未针对该模型公布相关数值。

Screenshot of the Artificial Analysis non-streaming speech leaderboard showing GPT Transcribe at 3.3% AA-WER and Nemotron 3.5 Transcribe at 3.4%.

两种停止按分钟付费的方法

GPT Transcribe 每分钟收费 0.0045 美元,即每千分钟 4.50 美元、每千音频小时约 270 美元。Nemotron 3.5 Transcribe 不按分钟计费,而是要求一块 GPU。NVIDIA 的演示配置是一块 RTX PRO 6000 Blackwell,运行 NVFP4 检查点并搭配一个 DFlash2 草稿模型;而那个吞吐量宣传数字——不到三分钟处理 100 小时音频——是在高并发下用 30 秒片段测得的,并非针对长达一小时的会议。应把它理解为充分批处理工作负载下的上限。

这就留下了一个由利用率而非标价决定的交叉点。你已经拥有并让其保持忙碌的一张卡,能轻松胜过每千小时 270 美元。而一张为了每月四十小时的队列而不得不购买的卡则不能,并且无论参数效率多高,都改变不了这笔账。

Screenshot of NVIDIA's Nemotron 3.5 Transcribe research page showing approximately 4.3B active parameters, 40-language coverage, one-hour recordings and the 2,238x real-time NVFP4 claim.

还有一种被“非此即彼”的框架所掩盖的第三种选择,而它正是大多数团队实际采用的做法:大部分内容继续使用托管 API,把难处理的文件——六人会议、带口音的临床访谈、不允许上传的音频——交给自托管检查点处理。只有当两种输出最终具有相同的结构时,这种做法才可行;这正是主张统一转录 schema(包含说话人和时间字段)的理由,即便你当前的供应商并不填充这些字段。先统一 schema;模型之后可以替换。

在转录文本之上的那一层,OrcaRouter 的职责是让这种可替换性不会止步于模型边界。读取这些转录文本的摘要器、分类器和合规检查器,都可以统一置于一把密钥之下、覆盖 200+ 个模型,供应商标价按 0% 加价透传,自动故障转移在上游出现故障时启动,而路由 DSL 则把每个工作负载发往不同的模型,无需第二套集成。GPT Transcribe 和 Nemotron 3.5 Transcribe 都不在该目录之内——我们两者都不提供——因此语音调用仍留在你购买它的地方,只有下游那一半变得可移植。

简明版,按情况分类

如果你只想要一份转写文本,别的都不需要,并且希望下周就能拿到、无需预先配置任何资源,那么 GPT Transcribe 是风险更低的选择:它在独立的 Perit 评测集上排名第六,具备你很可能已经拥有的集成接口,而且价格不需要资本性采购。如果你的转写文本要用于字幕、会议分析、按说话人归因的搜索或合规归档,那么你为了 GPT Transcribe 额外加装的模型所耗费的工程时间,会比检查点在 GPU 小时上的成本更高;而 Nemotron 3.5 Transcribe 能一次完成这些工作。

两者都适用的注意事项是:这是一个才发布一天的模型,其头条基准测试出自供应商自己,而独立榜单尚未对这个300亿参数的检查点进行任何评分。不要把它与 nvidia/nemotron-3.5-asr-streaming-0.6b 混淆——后者是6月发布的6亿参数流式模型,确实出现在独立榜单上,而且表现差得多(3.35% WER,在 Perit 上22个中排名第21)。它们只是共享一个家族名称,除此之外别无共同之处。