Nemotron 3.5 Transcribe 对比 Grok Voice Transcribe 2.0：开放权重跑在你自己 GPU 上，还是每小时 0.20 美元

Grok Voice Transcribe 2.0 对通过它流式传输的每音频小时收费 0.20 美元，对批处理的每音频小时收费 0.10 美元。Nemotron 3.5 Transcribe 不按小时收费，而是要求你自己拥有一块能容纳约 340 亿参数的 GPU。只读这句话，这场对比看起来像是计价器与机器之间的价格战，而计价器显然会输。它并没有输：在双方模型都上榜的那个基准测试榜单上，按时长计费的那个模型更准确，而开源的那个模型差距太大，无从争辩。

这两个产品相隔六周发布——Grok Voice Transcribe 2.0 于 2026-09-18 发布，Nemotron 3.5 Transcribe 于 2026-10-28 发布——而且它们是为不同的任务而构建的。一个是托管 API，配有 WebSocket，能在人还在说话时就返回文字。另一个是你下载、加载，并指向一段已完成的录音的检查点。延迟、语言数量、说话人标签、成本结构，甚至法律条款，都源自这一差异，因此有趣的问题不在于哪一个转写得更好。

每一项是什么，用六行说明

形态对比如此鲜明，以至于参数清单读起来像是一种范畴错误——而这正是关键所在。

• 部署 — 在 xAI 自有基础设施上托管的 REST 和 WebSocket API，对比 OpenMDW-1.1 下的开放权重，你可自行在 vLLM、SGLang-Omni 或 NeMo Speech 上提供服务。

• 规模——xAI 未公布参数数量；相比之下，总参数量为 34B，激活参数约 4.3B（含音频编码器），基于 Nemotron 3.5 Lightning 30B-A3B 的 Mamba 与 Transformer 混合专家主干。

• 音频输入 — 支持最大 500MB 的文件，涵盖十二种容器格式和三种原始编码，通过多声道模式支持 2-8 个声道；相比之下，在 65,536 个 token 的上下文内，录音最长可达一小时（16kHz 单声道 PCM）。

• 实时路径——流式处理，大约每 500 毫秒给出一次中间结果，端点判定默认 400 毫秒，具备智能话轮检测，并设有单独的批量端点；相比之下，则完全没有流式处理：模型读取一个已完成的文件并返回转录文本。

• 语言覆盖范围——xAI 文档中列出了 37 种语言，并在其中将其描述为 38 种以上；而 NVIDIA 卡片上转录了 40 种语言，并有 31 个与英语互译的翻译对。

• 说话人标签 — 一个 diarize 标志，可为每个词附加一个说话人整数，支持批处理与流式处理；与之相对的是融合式说话人分离编码器，可一次性生成带说话人归属的转写文本，最多支持 13 种语言、8 位说话人。

• 价格——批处理模式下每音频小时 0.10 美元，流式模式下每音频小时 0.20 美元，相比之下没有公开的按小时费率，因为 NVIDIA 出售的是权重，而算力由你提供。

他们相遇的那一块板，而它并不会像你预料的那样断裂

Artificial Analysis 运营着一个语音转文本排行榜，分为两条赛道：一条是面向成品文件的批处理赛道，另一条是面向会输出中间结果的模型的流式赛道。Nemotron 3.5 Transcribe 只符合第一条赛道。在该赛道中，Grok Voice Transcribe 2.0 以 2.3% 的 AA-WER 位列约六十个模型中的第五，而 NVIDIA 的模型在发布材料中标称为 2.80%，在发布后数日的实时榜单上则显示为 3.4%。无论是算作 2.8% 还是 3.4%，托管模型都赢得了两者唯一共同参与的那个尺度，领先幅度在半点到一整点之间。

这个结果并没有乍看起来那么不利，因为这两个模型出现在榜单上的原因并不相同。NVIDIA 声称 Nemotron 3.5 Transcribe 是最佳的开放权重语音模型，而在这个范围更窄的榜单上，确实如此：它胜出的比较对象是其他可下载的检查点，而在这些检查点中，2.8% 是需要超越的数字。Grok Voice Transcribe 2.0 是专有模型，竞争赛道不同。将两者相互对比引用，会得出一个标题——“托管模型以 0.5 分击败开放模型”——但它衡量的是一种基准测试组合，而不是产品决策。

流式赛道正是这种不对称从统计层面变为结构层面的地方。Grok Voice Transcribe 2.0 以 2.7% 的最终 WER 占据流式榜首，在语音结束后 0.49 秒输出，其首个部分结果在同样延迟下为 3.4%，在约三十二个流式模型中位列第一。Nemotron 3.5 Transcribe 没有上榜，因为它无法流式处理。它是一个文件输入、转写输出的模型，且没有任何关于分块流式路径的文档记录。任何人在规划实时字幕部署时若拿这两者比较准确率，比较的其实是一个自己根本无法使用的模型。

这两块榜单都带有一个值得重申的警示标签。对于同一个模型，AA-WER 在不同服务端点之间的波动幅度接近整整一个百分点，因此上面提到的 0.5 个百分点差距大致相当于测量噪声的宽度——方向上真实，但作为结论则不够有力。而 xAI 自己给出的 6.8% 多语言短句指标，较 1.0 版本的 20.6% 有所下降，它取自一个基于生产流量构建的内部数据集，而非公开发布的语料库。这是厂商针对自家数据集作出的声明，而且它根本没有出现在 Artificial Analysis 上。

流式输出是开放模型无法逾越的那条线。

对于呼叫中心坐席、实时字幕、会议助手或语音机器人而言，在考虑准确率之前，成败就已经决定了。Grok Voice Transcribe 2.0 通过 WebSocket 接受原始二进制音频帧——pcm、mulaw、alaw 或 opus——每秒返回约两次中间结果，并通过端点检测和智能话轮检测提供话轮结束信号。这些机制让转写文本具有实时感，也正是 Atlassian 的 Loom 在发布之际将其视频库迁移到该模型上的原因。

Nemotron 3.5 Transcribe 在设计上恰好相反。它一次可读取最长一小时的音频，并返回完整转录文本；词级时间戳由轻量级 CTC 适配器在生成之后产生，而不是在生成过程中产生。这种设计换来了在冗长、杂乱录音上的准确率，却牺牲了所有短小、交互式场景的延迟。NVIDIA 的产品线中另有一款小得多的流式语音识别器——Nemotron Speech Streaming EN 0.6B——但它是另一个模型，覆盖范围也不同，并不是这个检查点的流式模式。买下 30B 模型并指望以后再加装流式能力，等于两次都买错东西。

四十种语言对三十七种，以及一个发生了变化的数字

纸面上差距是三种语言。实际上，这取决于你读的是哪一页。xAI 的语音转文字文档列出了 37 种具名语言——从阿拉伯语和波斯尼亚语，到乌尔都语和越南语，西班牙语、葡萄牙语和阿拉伯语还列出了地区变体——并将总数描述为 38 种以上。9 月发布前后公布的覆盖范围则说是 25 种。文档是更及时、也更具体的来源，但语言数量在发布帖和文档页面之间相差十三种，这样的数字应当结合你自己的音频来核实，而不是直接采用。

NVIDIA 的方案粒度更细，而且这一次还更保守：涵盖 40 种语言，并配有逐语言的勾选表，其中 13 种被标记为支持多说话人转写。真正对说话人归属至关重要的语言，其实比这 40 种范围更窄——阿拉伯语、普通话、英语、法语、德语、印地语、意大利语、日语、韩语、葡萄牙语、俄语、西班牙语和泰语。如果你的档案材料是波兰语或土耳其语，Nemotron 3.5 Transcribe 能很好地转写，但不会告诉你哪句话是谁说的——而这很可能正是你当初想买的能力。

这里的翻译是 Nemotron 独有的栏目。该模型在转写的同时，能在 31 个语言对中与英语互译，而 Grok Voice Transcribe 2.0 并不提供这一功能；xAI 的 API 只返回所说语言的文本。如果任务是双语会议纪要，那么这是 Grok 侧任何提示工程都无法复现的功能。

说话人标签：融合编码器对比布尔值

这是二者差距比营销宣传所暗示的要小的一个方面，而且在这方面，诚实的答案是两者都做到了。

• Nemotron 3.5 Transcribe —— 一个冻结的 Nemotron 3 Diarization 模型将说话人活动表示输入 ASR 编码器，因此语言模型在输入中就能看到是谁在说话。输出包含说话人标签和原始分段，最多支持 8 位说话人，并提供词级时间戳。整个过程只需一次处理，中间不涉及第二个服务。

• Grok Voice Transcribe 2.0 —— 设置 diarize=true 后，每个词返回时都会带有一个整数类型的 speaker 字段，批处理和流式处理皆如此。多声道模式则更进一步：最多可独立转写 8 个声道，并在返回结果中附带声道索引；当你的源是多声道录音而非混音录音时，这便实现了精确的归属对应。

实际差别在于覆盖范围，而非是否存在。Grok 的标记可在其 API 支持的各语言中使用；NVIDIA 的融合路径则针对 13 种语言进行了训练。并且，多通道在它适用的场景中确实是实实在在的优势——每个座位各有一个麦克风的董事会会议室，不需要靠说话人分离器去猜测。而来自会议现场的混合单声道文件则需要，在这种情况下，融合编码器与托管标记之间的质量差距，只有你自己的音频才能定夺。

每月一千小时的算术

价格才是两种模型真正分道扬镳之处；与其相互交换关于GPU账单的轶闻，不如实打实地算一笔账。

每月 1,000 音频小时，Grok Voice Transcribe 2.0 在批处理模式下费用为 100 美元，流式模式下为 200 美元——每年 1,200 美元或 2,400 美元，且无需硬件、无需维护窗口，也没有冷启动。Nemotron 3.5 Transcribe 的成本就是 GPU 的成本。NVIDIA 的研究页面声称，采用 DFlash2 草稿模型的 NVFP4 检查点在单块 RTX PRO 6000 Blackwell 上每秒可转写 2,238 秒音频；即便按一个数量级折减，每月 1,000 小时音频也只需几个 GPU 小时。算力不是约束；所有权才是。

• 按流式费率计算，一张 8,000 美元的工作站显卡在每月 1,000 个流式小时下，40 个月即可回本；按批量费率计算则需 80 个月。

• 每月 10,000 小时——同一张卡相比流媒体服务四个月即可回本，每小时费率降至约 2 美分。

• 租用云 GPU——按每小时约 2 美元租一台 H100，只要供应商的吞吐量宣称即使只在其所述数值的一小部分上成立，就会胜过这两个模型的标价；固定成本则变成工程时间、存储，以及你现在得自己运行一个模型服务器这一事实。

因此，盈亏平衡点根本不在于转写准确率，而在于用量，以及音频是否被允许离开你的网络。每月低于几千小时时，托管费率比工程投入更便宜。高于这个量，或者受制于合规壁垒时，模型权重方案胜出，比较结果也随之反转。

OrcaRouter 适合哪些场景，以及不适合哪些场景

这两款转录器目前都不在 OrcaRouter 的目录中；我们提供的模型是文本模型和视觉模型，这里的任何内容都不应被理解为其中任何一款的端点。转录流水线确实会生成大量文本，随后需要摘要、实体提取、脱敏、分类和搜索。这些调用正是一个兼容 OpenAI 的密钥即可覆盖 200 多款模型发挥价值的地方：按提供商目录价零加价透传，因此供应商降价当天就能生效，某个上游服务降级时自动故障转移，以及一种路由 DSL，可以把低成本的分类工作交给小型模型，同时把高成本的摘要任务留在前沿模型上。如果你自托管 Nemotron 3.5 Transcribe，GPU 就是你的转录器；路由则负责处理转录之后的内容。

该选哪一个

这个决定针对的是音频上的时钟，而不是型号卡。

• 实时音频、语音代理、字幕、呼叫路由——无需多言，Grok Voice Transcribe 2.0 当仁不让。流式处理是原生能力，生成最终转录的延迟不到半秒，批量端点则使用同一模型来完成夜间回填。

• 已完成的多说话人、非英语语言录音——Nemotron 3.5 Transcribe，前提是你有 GPU，且 13 种语言的说话人路径覆盖你的音频。这正是该模型为之打造的场景，也是 40 种语言和单遍说话人分离能够胜过 0.5 个百分点准确率差距的地方。

• 双语档案 — Nemotron 3.5 Transcribe，因为翻译对会在同一轮处理中一并提供，而 Grok 不提供翻译。

• 小批量、无 GPU、仅英文——Grok Voice Transcribe 2.0 批处理模式每小时 0.10 美元。一千小时花费一百美元；开源权重的许可证自由再多，也无法抵消为省下这笔钱而购买 Blackwell 显卡的成本。

那个诱人的第四种答案——现在部署 Nemotron，之后再添加流式功能——并不存在。NVIDIA 交付的这个模型有意采用离线设计，而它同时售卖的流式产品线是一个 0.6B 的英语识别器，并非这个模型的某种模式。先确定你需要哪种形态；排行榜上的争论可以往后放，因为半个百分点的 AA-WER 完全落在同一模型更换主机时会波动的范围之内。