为 Nemotron 3.5 Transcribe 与 Muse Voice Transcribe 生成的主视觉卡片。左侧面板显示“离线、1 小时文件、开放权重”;右侧面板显示“流式、80 毫秒分块、托管 API、$0.18/hr”;它们之间的胶囊标签显示“实时麦克风还是文件?”;页脚显示“Muse 3.1% 是流式评分,Nemotron 4.71% 是批处理评分”。OrcaRouter 标志位于右下角。
Guides & Insights

Nemotron 3.5 Transcribe 对比 Muse Voice Transcribe:一个处理会议,另一个置身会中

作者

Rowan Sterling

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

在跑任何基准测试之前,两种录音场景就已经决定了这场对比的走向。一种是此刻正在进行的通话,转录文本必须紧跟对话节奏,两秒的延迟就会让工具变得毫无用处。另一种是上季度客户通话的两小时存档,没人在乎文字是200毫秒还是二十分钟后到达。NVIDIA Nemotron 3.5 Transcribe于2026年10月28日以开放权重离线检查点的形式发布,是为第二种录音场景打造的。Meta Muse Voice Transcribe由 Meta Superintelligence Labs 于2026年9月1日推出,是为第一种场景打造的。大多数对比页面只是把两者的词错误率放进同一栏就完事了,而这恰恰是一种根本无法成立的对比。

时钟,而非词错误率

Meta 的模型是一个流式感知层。它以 80 毫秒为块消耗音频,输出软 token,并使用经过强化学习训练的“自适应延迟”机制,逐词决定在提交文本之前需要等待多少上下文。据报道,Meta 的发布材料称,从语音结束到最终文本之间的间隔约为 0.16 秒,该模型通过 WebSocket 提供实时音频服务,或通过 HTTP 端点处理一次性文件。它自身还负责端点检测和语音活动检测,因此围绕它的流水线很薄。

NVIDIA 的模型则形态相反。模型卡直言不讳:“这是一个离线模型”,并补充说,内部切块并不会使其成为流式服务。你给它一个最长一小时的音频文件,它返回一份转录文本。没有部分输出,没有中间假设,也不支持打断。NVIDIA 另售一款用于实时音频的 0.6B 流式识别器;那是另一个检查点,而不是这个模型的某种模式。

所以这些头条数字是用不同的"仪器"测出来的。Meta 报告了 3.1% 的词错误率,并在 Artificial Analysis 的流式语音转文字排行榜上位列第一。NVIDIA 的规格卡报告称,在九个公开英文 Open ASR 测试集上平均为 4.71%,而 Artificial Analysis 的非流式表格显示,已部署端点为 3.4%——其 FAQ 则称同一模型为 2.8%。这是对两个不同任务的三次不同测量。3.1% 是流式结果;3.4% 是不同音频分布上的批处理结果。把它们相减得出的 0.3 个百分点的"优势"毫无意义,而流式模型在长时、嘈杂、带口音音频上的劣势是真实存在的,却在这种算术中完全看不见。

扬声器:二十多个对八个

说话人分离差距是这些数字大致衡量同一件事的唯一一处,而且这一差距很大。

• 说话人上限——Meta 宣称单段录音中可包含 20 位以上说话人;NVIDIA 使用最多八人的混合音频进行训练,其模型卡未说明推理时的最大数量。

• 重叠——Meta 自己的页面说明,说话人分离仅适用于“无重叠语音”。NVIDIA 的整个架构论证恰恰针对重叠语音:将冻结说话人分离器的说话人活动注入编码器,使模型能够在人们互相插话时仍把词归到对应说话人。这正是其在 NVIDIA 多说话人数据集上取得 15.80 平均 cpWER 背后的主张。

• 标签的语言覆盖范围 — Meta 支持 25 种以上语言;NVIDIA 支持 40 种语言进行转录,但其中 13 种被标记为支持多说话人输出。土耳其语会议可以转录,但不会获得标签。

标签格式——Meta 输出裸说话人字母,例如“A”;NVIDIA 输出 <spk:0> 风格的标签,这些标签会映射回说话人分离分段。

如果你的使用场景是小组讨论、法庭,或有三名参与者同时说话的客服通话,那么决定它的是八位说话人的上限这一约束,而不是 WER 那一列。如果你的使用场景是二十人的全员大会,大家大多轮流发言,那么关键数字是 Meta 的 20+,而 NVIDIA 的八则是硬性上限。

语言:25 对 40,而这两个数字都不是表面看起来的那样

Meta 自己的开发者页面称其支持“25+ 种语言”,并支持句内和句间的语码转换,这对双语会议很重要。发布报道称,该模型在 70+ 种语言上接受过训练,其中 25 种经过充分验证——这是一个有意义的区分,因为一种语言如果只是“经过训练”但未经验证,那你在信任它之前就应该先测试。NVIDIA 的产品卡列出了 40 种支持 ASR 的语言、31 种可与英语双向互译的语言,以及一个单独的 48 标签语言 ID 组件。

• 如果你需要欧洲覆盖广度——Meta 的 25 种经过验证的语言比 NVIDIA 的 40 种更窄,但 Meta 的列表更偏向企业客户实际记录的语言。

• 如果你需要翻译——只有 NVIDIA 能做到。Meta 的模型只负责转写;它不会把转写内容翻译成另一种语言。

• 如果你需要语码转换——Meta 声称原生支持;NVIDIA 的产品说明中未提及类似能力,而且无论转录语言是什么,其音频理解都仅支持英语。

A generated two-column scoreboard for Nemotron 3.5 Transcribe vs Muse Voice Transcribe. Nemotron column: mode offline file, audio shape 1 hour per pass, speakers up to 8, languages 40 with 13 diarized, WER 4.71% batch mean, price $0.12 per hour hosted with free weights. Muse column: mode streaming WebSocket, audio shape 80ms chunks, speakers 20+, languages 25+ served, WER 3.1% streaming, price $0.18 per hour hosted. The footer says the two WERs are not comparable.

文字记录实际包含的内容

时间戳正是那种看似微小的差异会变得代价高昂的地方。Meta 提供轮次级时间戳——即分段边界,而非逐词时间——并且完全不公开置信度分数。NVIDIA 通过 CTC 适配器提供词级时间戳,但有一个限制:启用 DFlash2 推测解码草稿时,时间戳不可用。

• 时间戳 — Meta 为轮级;NVIDIA 为词级,但无法与其最快的解码路径同时使用。

• 置信度 —— Meta 不发布任何置信度;NVIDIA 也不发布逐词置信度。

• 输入格式——Meta 要求采用 16 位单声道 PCM,采样率为 16 或 24 kHz,并提示使用 ffmpeg 转换其他所有格式;NVIDIA 接受 16 kHz 单声道,并直接处理该文件。

• 提示(Prompting)——两者都会使输出产生偏差。据 Meta 的文档,其关键词与语言偏置“只是对模型进行轻微引导,并不保证拼写正确”。NVIDIA 的上下文提示(contextual prompting)报告称,配合细粒度实体列表,命名实体 WER 从 12.21% 降至 2.20%——该结果虽由厂商自行开展,但其主张要强得多,并且暗示了一种不同于软性引导的机制。

• 输出样式——NVIDIA 的五种样式(逐字、书面形式、上下文、说话人归属、丰富)由指令选择。Meta 返回一种格式,并期望你进行后处理。

A screenshot of Meta's developer blog post 'Meet Muse Voice Transcribe, streaming speech to text on Meta Model API', dated September 3 2026, showing the price line 'just $3.00 per 1000 minutes ($0.18/hour)' and core features including streaming transcription over a WebSocket, speaker-aware turns and native speech boundaries.

每音频小时价格

Meta 每 1,000 分钟收费 3.00 美元,相当于每小时音频 0.18 美元,且未公布任何阶梯定价或免费额度。NVIDIA 在 Artificial Analysis 上列出的托管服务价格为每 1,000 分钟 2.00 美元——约合每小时 0.12 美元——并且其权重可依据 OpenMDW-1.1 免费下载,因此自托管是第三种选择,而 Meta 在任何价位都不提供这一选项。

按用量算这笔账很直接,并不利于标价更便宜的那一方。每月一千小时音频,通过 Meta 花费 180 美元,通过托管的 Nemotron 端点花费 120 美元。若采用自托管,同样一千小时在 RTX PRO 6000 Blackwell 上按 NVIDIA 声称的 NVFP4 吞吐量计算,不到一小时的 GPU 时间——按租用 GPU 费率算约 2 美元算力成本,再加上运维、存储和负责它的工程师。每月 10,000 小时,1,800 美元与几百美元之间的差额足以支付大量运维成本;每月 100 小时,则连一点运维成本都覆盖不了。

自托管真正换来的并不是价格,而是能够在合同禁止离开网络的音频上运行转录,并且能够在供应商端点降级时让流水线继续存活。这正是受监管团队愿意为原本可以租用的 GPU 付费的原因。

每一个在哪里失效

Meta 的故障模式与延迟相近。其说话人分离假定语音不重叠,因此一通带有插话的激烈客服通话会把说话轮次标错。其转写没有单词级时间戳,这会破坏字幕生成、音频搜索以及任何与视频的下游对齐。其输入契约很严格,其偏置是建议性的。它没有翻译,没有音频问答,也没有自托管选项。

NVIDIA 的故障模式与工作流密切相关。它无法流式处理,因此无法提供实时字幕、语音智能体或实时通话路由。其音频理解仅支持英语。每次录音的上限为一小时。其已发布的 SGLang-Omni 集成省略了说话人归属输出、单词时间戳和翻译,因此卡片所承诺的部分功能需要依赖 vLLM 路径或 NIM 容器。此外,它偶尔可能无法终止,卡片建议对此加以防范。

这两组失败都不是对另一个模型有利的缺陷。它们代表这个问题的两种形态:一种模型在音频发生的过程中在场,另一种模型在音频结束后进行全面细致的处理。

如果你两者都需要,这条流水线并不是妥协。

最常见的实际部署方式根本谈不上是二选一。实时音频走 Meta 的流式接口,因为这是通话进行过程中获取文本的唯一途径——字幕、坐席辅助、实时搜索。同一段录音随后会在夜间由 NVIDIA 的检查点模型离线重新转写,因为批式处理得到的文本更干净,带有说话人归属的词级时间戳,必要时还能把非英语通话翻译成英文。流式转写服务于当下,批式转写则用于留档备查。试图让一个模型兼任这两种角色的团队,通常要么得到一个滞后的实时视图,要么为没人正在听的音频支付高昂的流式费用。

该流水线的下游部分——汇总通话、评分智能体表现、脱敏个人数据、将标记出的对话转接给人工——属于普通文本工作,不应与 ASR 共用同一块 GPU。OrcaRouter 通过一个密钥运行这些文本调用,且加价为 0%,按供应商标价原样传递;当供应商出现波动时可自动故障转移,并提供一个路由 DSL,可在单个工作流内将摘要和分类发送到不同模型。Meta Muse Voice Transcribe 和 NVIDIA Nemotron 3.5 Transcribe 均不在 OrcaRouter 的目录中;该路由器位于转录之后,也就是文本工作负载所在的位置。

A screenshot of the Hugging Face blog post 'NVIDIA Nemotron 3.5 Transcribe and Granary v2: Intelligent Multilingual Transcription You Can Prompt and Adapt', published October 28 2026, with the subtitle 'One open model for multilingual transcription, speaker attribution, translation, and audio Q&A' and a sidebar listing the 34B model card and NVIDIA Nemotron 3 Diarization.

三个问题比任何排行榜都更快决定这件事。音频到达后,文本需要在多久内出现?如果答案是“通话期间”,那这就是Meta的选择,WER讨论只是装饰。有多少人同时说话,而且他们会重叠吗?如果答案是“超过八个人,而且会重叠”,那就是NVIDIA的领域。还有,音频是否允许离开你的网络?如果答案是否定的,那么这两个模型中只有一个能真正部署。

其余的一切——3.1%、4.71%、0.18 美元——不过是用于打破两款产品之间平局的因素,而这两款产品是为同一场会议中的不同时刻而设计的。