Nemotron 3.5 Transcribe 取代了五模型流水线。Open Build 仍有漏洞。

一场45分钟、有六位发言人的董事会电话会议，过去需要五个彼此配合的组件：语音活动检测、ASR模型、说话人分离器、强制对齐器，以及一个用来把原始输出整理成人类可读内容的语言模型。NVIDIA Nemotron 3.5 Transcribe于2026年10月28日以OpenMDW-1.1许可证发布，是NVIDIA试图把这整套技术栈压缩成单次前向传播的尝试。这次发布值得再读一遍的原因，并不在于这种压缩本身，而在于开源服务路径目前尚未做到的那些事情。

该检查点是一个语音增强型语言模型，而不是在 ASR 模型上外挂附加功能。其 340 亿参数主要来自Nemotron 3.5 Lightning 30B-A3B这一混合 Mamba–Transformer 专家混合骨干；每个 token 约有 43 亿参数处于激活状态，其中约 8 亿来自音频编码器。仓库名称仍显示为 30B-A4B，它统计的是解码器，而不是组装后的完整系统。NVIDIA 自己的支持矩阵、基准测试表和许可证都放在模型卡上，而那张卡是此次发布中最有用的文档。

五项工作，一个检查点

卖点在于，提示词决定转录结果。NVIDIA 将五种输出风格训练到同一套权重中，调用方可用自然语言指令选择其中一种，而无需单独的模型或后处理脚本：

• 逐字记录——保留不流畅之处、错误开头和重复内容，用于法律与合规记录。

• 书面形式——标点与大小写已清理，适用于字幕与易读的会议纪要。

• 上下文相关 — 提示中提供的实体列表可指导名称、产品和术语的拼写。

• 说话人归属 —— 每个片段都带有说话人标签，该标签在 ASR 环节中生成。

• Rich——包罗万象的样式，将说话人标签、标点、大小写和格式一并保留下来。

除了转录之外，同一个检查点还能在英语和31种语言之间进行双向语音翻译、口语语种识别以及音频理解——对录音进行问答和口语指令跟随。它能在65,536个token的上下文中处理最长一小时的录音，使用30秒的内部解码块，而这只是工程实现细节，并非录音时长限制。词级时间戳在解码后由轻量级CTC适配器生成。

说话人标签实际上来自哪里

大多数“一个模型包办一切”的说法在说话人分离（diarization）上都不攻自破，因为说话人身份是一个聚类问题，而转写是一个序列问题，二者通常分开解决。NVIDIA 的答案是并行专家编码器：一个冻结的 Nemotron 3 Diarization 模型生成说话人活动表示，这些表示被注入语音编码器的输出，因此语言骨干网络在判断说了什么的同时也能看到是谁在说话。LLM 本身并未针对该任务重新训练。

这种设计正是该公司能够声称采用单遍处理而非级联的原因。NVIDIA 报告称，在其多说话人评估集上，平均拼接最小排列词错误率为 15.80，而最佳专用 ASR 加说话人日志级联系统为 16.83，并表示该结果是首个在存在重叠语音的说话人归属转写任务上超越此类系统的语音大语言模型。这些是供应商数字，来自供应商构建的评估集，目前尚无中立实验室复现。应将该方向视为合理，而将这一差距视为暂定。

数字，并附上标签

NVIDIA 的这款显卡在九个公开的英语 Open ASR Leaderboard 测试集上报告的平均词错误率为 4.71%。在这一平均值之下，各项数据的分布相当宽泛，在引用之前值得了解：LibriSpeech test-clean 为 1.09%，SPGISpeech 为 1.91%，而 AMI 达到 7.81%，URGENT24 则为 11.00%。多语言榜单在七种语言上的平均值为 4.62%，其中德语为 2.81%，印地语按其自身的未登录词指标为 9.15%。

关于此次发布的媒体报道还引用了英文版的 5.33%。那是基于不同集合构成得出的不同汇总值，并非更正，两者绝不应放在同一行。如果要引用卡片，就应引用卡片上的 4.71%。

上下文提示这一说法是此次发布中最具体的内容。在 ContextASR-Bench 上，整体 WER 从没有实体列表时的 3.33% 降至使用细粒度实体列表时的 1.71%；命名实体 WER 从 12.21% 降至 2.20%，命名实体假阴性率从 14.99% 降至 1.32%。这是一个真实、可验证的机制——把产品名称提供给模型，它就不再对这些名称靠猜——即便这些绝对分数来自 NVIDIA 的测试框架。

独立视角没那么讨喜，却更有用。Artificial Analysis 在其非流式 AA-WER v2 表中将 Nemotron 3.5 Transcribe 列为 3.4%，并列第 20 至 23 名左右，而其自己的 FAQ 将该模型描述为 2.8%。这两个数字都来自同一页面上的同一榜单。差距源于测量目标不同——端点、量化或评估切片——并且大致相当于该指数在各类服务配置中表现出的噪声宽度。截至撰写本文时，该榜单还列出托管价格为每 1,000 分钟音频 2.00 美元，折合每小时约 0.12 美元。

运维团队真正关心的会是这项吞吐量声明：在单块 RTX PRO 6000 Blackwell GPU 上，使用 NVFP4 检查点和 DFlash2 草稿模型，每秒可处理 2,238 秒音频。NVIDIA 自己的提醒是，优化后的服务栈并未包含在开源版本中，而随版本发布的开发集成预计运行速度大约只有一半。规划容量之前，请先把该数字减半。

开放构建停止的位置

这正是发布报道会跳过的那部分。这个检查点本身是有能力的；围绕它的各项集成却参差不齐，而模型卡对此说得很直白。

• 不支持流式处理——卡片上写道：“这是一个离线模型”，并补充说，内部音频分块并不会使其成为实时流式服务。在解码开始之前，录音的每一秒都必须已经存在。

• SGLang-Omni 集成仅支持转写——它能提供整文件转写，但根据模型卡片，不包含词级时间戳、说话人归属输出、翻译或推测解码。vLLM 路径则支持时间戳捕获。你选择哪个运行时，就决定了你能获得哪些功能。

• 时间戳与 DFlash2 互斥——在使用投机解码草稿模型时，时间戳不可用。在已发布的配置中，快速与对齐不可兼得。

• 音频理解仅支持英语——卡片警告称，推理、语音指令跟随和音频问答“在其他语言下可能无法可靠运行”，尽管转录功能覆盖 40 种语言。

• 它可能无法停止——卡片建议设置清理防护措施，因为模型有时会陷入循环而无法终止。这是运行要求，而不是脚注。

• 一小时是实际应用中的硬性上限——超过 65,536 个 token 或一小时录音时，“不能保证具备泛化能力”。对于全天的证词采集，你需要自行拆分文件并核对说话人。

说话人归属的范围同样比“40种语言”这一宣传更窄：在 NVIDIA 的语言矩阵中，40种语言里只有13种被标记为支持多说话人输出，训练混合数据最多覆盖八位说话人。如果你的会议是土耳其语或越南语，你可以很好地完成转写，却仍然得不到说话人标签。

部署及其成本

在 OpenMDW-1.1 下，这些权重可免费用于商业和非商业用途，并以 BF16、FP8、NVFP4 和 GGUF 格式发布；同时提供在单块 H100 80 GB 上的参考配置，并支持 Ampere、Hopper、Blackwell 和 Lovelace 系列产品。此外还有 NIM 容器，适合不愿自行搭建服务栈的团队；以及用于微调的 NeMo Speech——NVIDIA 报告称，在单块 GPU 上针对 17 项任务对该模型进行适配，每项任务耗时 0.5 到 2.3 GPU 小时，这样的数字让领域适配变得可行，而非停留在理论层面。

经济账分得很清楚。托管模式下，Artificial Analysis 列出的每 1,000 分钟 2.00 美元，约合每音频小时 0.12 美元——比大多数托管转录服务更便宜，也大约是典型云 STT 账单的三分之一。自托管模式下，边际成本是 GPU 时间：按供应商 2,238 比 1 的吞吐率，一千小时音频在合适的显卡上所需计算时间不到半小时，因此问题不再是价格，而是你拥有还是租用硬件，以及音频是否允许离开你的网络。两条路径都合理；在电子表格上，二者的差距并不小。

检查点未完成的那一半工作

转写会产出文本，而文本正是大部分下游成本所在：总结通话内容、提取行动项、对个人数据进行脱敏、为地区办事处翻译英文输出，以及检查说话人标签在交接后是否依然保留。这些都是普通的文本模型工作负载，它们并不需要与 ASR 运行在同一台机器上。

这正是路由器体现其价值的地方。OrcaRouter 把这些下游调用统一收拢到一个密钥之后，且零加价——按服务商的标价原样透传，因此供应商调价当天即可生效——并在某个服务商性能下降时自动故障转移，同时提供一种路由 DSL，可将摘要、脱敏和翻译分派到不同的模型，且都在同一个工作流内完成。需要明确的是：NVIDIA Nemotron 3.5 Transcribe 并不在 OrcaRouter 的产品目录中，本文也没有任何内容暗示它在那儿。我们路由的是转写文本生成之后的文本层，而这恰恰是多数团队在规划转写流水线预算时最容易低估的一层。

如果你要评估模型本身，诚实的做法是先使用托管端点，其次才是你自己的硬件。显卡自身的数据在厂商与独立测量之间相差超过一个百分点，而唯一能定论的音频是你自己的。

什么会改变这一建议？

未来一个季度有三件事值得关注。第一，开源推理服务栈能否赶上经过优化的 NIM 路径——在赶上之前，宣传的吞吐量只是托管版才有的数字，开源版的吞吐量大约只有它的一半。第二，NVIDIA 之外是否有人能复现 15.80 cpWER 和六倍的命名实体识别提升；这两项都是强有力的声明，目前仅建立在一个实验室的评测框架之上。第三，音频理解能否扩展到英语以外，因为这项能力——对录音提问，而不仅仅是转写录音——是这一规模下任何竞争性开源检查点都无法提供的那部分。

目前，实用层面的结论很具体，也并不光鲜。如果你需要带说话人标注、时长一小时、多语言的转写，并且能接受批处理流程，那么这个检查点就是现有最强的开源选项，其上下文提示机制也确实具有差异化优势。如果你需要实时字幕、流式代理，或者词级对齐外加尽可能快的解码，那么这个版本还无法满足你，能满足这些需求的产品仍然是你该去找的。