为 Realtime 1 与 Realtime Venus 生成的标题卡,对比按分钟计费的托管价格与按 GPU 小时计算的自托管成本,带有 Apache 2.0 许可证标记,外加 OrcaRouter 标志。
Engineering & Research

Realtime 1 对比 Realtime Venus:租用语音代理,还是以一块 GPU 的成本拥有一个

作者

jinhao.song

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

这场对比的一切都归结为许可证文件上的一句话。Realtime Venus采用 Apache 2.0 许可——这是一个 9B 模型,你可以下载它,在自己的 A100 上运行,并且再也不用按分钟付费。MAI Realtime 1由 Microsoft 于 2026 年 11 月 17 日发布,是一项托管 API,定价为每音频分钟 0.01 美元,背后有一个按 token 计价的推理层级,以及一个在公开预览前不计费的 Foundry 预览版。这两者中,一个按每次调用计价。另一个按 GPU 小时计价。用价目表来比较它们属于范畴错误,这正是几乎所有关于托管语音与开放权重的文章都在同一个地方出错的原因。

真正该问的是:在你的用量规模下,各自运行要花多少钱,以及各自实际能做什么——而在这一点上,比较结果正好反过来:开放模型的数字附有一篇描述评测框架的论文,而托管模型的数字则来自一个只印着一个准确率数字的模型页面。这种反转才是关键所在。

每一个实际上是什么

Realtime Venus 来自 inclusionAI,记录于 arXiv 2609.13814,署名蚂蚁集团 Venus 团队和清华大学,论文日期为 2026 年 9 月。它以两个检查点形式发布:Realtime-Venus-Omni 是一个基于 MiniCPM-o 4.5 适配的 9B 音视频模型,可持续观看和聆听,决定何时发言,并在同一时间线上输出文本和语音;Realtime-Venus-Audio 是一个基于相同流式骨干的 9B 纯音频模型。两者均使用 Whisper-Medium 作为音频编码器,Qwen3-8B 作为语言骨干,离散 S3 语音 token 配合流式流匹配解码器,上下文长度为 40,960 个 token,权重为 BF16,支持英语和中文。

MAI Realtime 1 是 Microsoft 的首个语音到语音模型,一个托管式双层系统:一条每分钟一美分的快速对话路径,以及一个每百万输入 token 1.00 美元、每百万输出 token 5.00 美元的推理引擎,更难的话轮会被路由到其中。没有架构细节,没有参数数量,没有语言列表。它唯一公布的准确率数字是在其自己的模型页面上、由厂商运行且未经复现的 Big Bench Audio 上的 98.8%——这与下面的情况正好相反:在那里,一家较小的实验室将其评估方法写进了一篇任何人都能阅读的论文。

• 权重 — Realtime Venus 采用 Apache 2.0 许可,可下载,提供两个 9B 检查点;MAI Realtime 1 为闭源,需注册获取预览访问权限。

• 语言 — 明确为 Realtime Venus 英语和中文;MAI Realtime 1 未列出。

• 上下文 — Realtime Venus 40,960 个 token;MAI Realtime 1 未发布。

• 硬件 — Realtime Venus 的实时双工演示需要一块 A100;MAI Realtime 1 则只需一个密钥。

• 模态 — Realtime Venus Omni 接收流式视频和音频;MAI Realtime 1 是语音到语音。

• 定价形式 — Realtime Venus 按 GPU 小时计费,永久有效;MAI Realtime 1 按音频分钟加推理 token 计费。

Realtime Venus 发布的那些数字,以及它们意味着什么

这篇论文对全双工行为的描述异常具体,而这正是大多数语音模型含糊其辞的部分:

• 中断响应——在 Full-Duplex-Bench v1.5 上,75% 的用户中断得到应答。

• 在附和语之后继续 — 97%。

• 当语音指向别处时仍继续 — 88%

• 背景语音下的续写 — 86%。

• 作者的声称——这些“在所有三项续写指标上超过 G​emini 3.1 Live 和 GPT-4o”。请注意对比对象:G​emini 3.1 Live(G​oogle 现将其标记为旧版,转而支持 3.8 Live)和 GPT-4o。两者都不是当前前沿,因此这场胜利是真实的,但标杆已落后一代。

在理解方面,Realtime-Venus-Audio 在其对比集合中于 MMAU 上以 78.0% 领先,MMAU-Pro 上为 63.2%,Llama Questions 上为 83.8%,Speech CMMLU 上为 67.8%,并以 4.81 的成绩并列 VoiceBench AlpacaEval 最高分。Realtime-Venus-Omni 在八个视频基准中的六个上,是所评估的在线模型中表现最好的,包括 StreamingBench 70.2%、OVO-Bench 64.7% 和 Daily-Omni 81.3%。

所有这些评估都是作者在自己论文中做出的自评估。它们比营销页面更有说服力——至少说明了测试框架和对比集合——但不如独立评审委员会的证据有力。截至11月18日,Artificial Analysis 尚未收录 Realtime Venus,因此还没有第三方重新运行过这些评估。

论文摘要层面的总结中缺少的那个数字,恰恰是对支持智能体至关重要的一个:τ-Voice 智能体任务完成分数。Realtime Venus 围绕另一种理念构建——一种 <delegate> 机制,将异步外部任务推送到单独的 Harness 运行时,因此对话可以持续进行,而工作在后台完成。这在架构上接近 MAI Realtime 1 通过其推理层在内部所做的工作,也接近 GPT Live 1 通过移交给后端智能体所做的工作。三个不同的产品,一种趋同的设计:快速对话,把思考委派出去。还没有人公开发布过关于委派这一半的正面对比。

A generated two-column scoreboard titled 'MAI Realtime 1 vs Realtime Venus — the scoreboard'. Left column MAI Realtime 1: licence closed preview only, weights hosted only, price shape $0.01 a minute, languages not published, video no. Right column Realtime Venus: licence Apache 2.0, weights two 9B checkpoints, price shape per GPU hour, languages English and Chinese, video yes, Omni. Footer reads 'Venus figures from its own paper, author evaluations; MAI figures per Microsoft.'

按分钟计价所掩盖的算术

到这里,比较就不再只是费率问题了。MAI Realtime 1 每分钟一美分,相当于每小时音频 0.60 美元。一台运行 Realtime Venus 的单个 A100,按通用云定价每小时大约要花 1.50 到 2.50 美元——为便于讨论,就按 2 美元算,并注意这是市场价格,而不是任何一家供应商公布的价格。

• 盈亏平衡点——按这些费率,大约三到四个并发对话就能占满一块 A100。低于这个数量,租用更便宜;高于这个数量,自有更划算。

• 托管侧的问题在于——MAI Realtime 1 的推理档按 token 计费,且是在每分钟费率之上,因此其每小时真实成本高于 0.60 美元,且尚不可知。

• 自托管侧的问题在于——9B 双工模型在每块 A100 上的并发数同样没有公布。演示需要“至少一块 NVIDIA A100”,这只说明它能跑起来,完全说明不了它能维持多少路流。

所以盈亏平衡点的两边都是估算。不是估算的是曲线的形状:托管成本线性增长且永无止境;自托管成本有一个固定下限,然后会弯曲。每天一百通电话的试点应该租用。运行两百条并发线路的呼叫中心则不应该,除非托管模型明显更好——而在这场对比中,开放模型才是其准确率声明配有公开测试框架的那个。

还有一种永远不会出现在价目表上的运维不对称。自托管一个双工 9B 模型,意味着要自己拥有 GPU 容量、处理冷启动和模型加载,还要应对节点宕机导致通话中断的故障模式。托管则意味着这些都不用自己承担,但要接受供应商的延迟、可用性和弃用时间表。团队总是低估前者、高估后者,通常是因为前者在电子表格里是看不见的。

在托管模型没有开放权重答案的情况下

三件事,而且都不是小事。

企业级集成管道:MAI Realtime 1 即将登陆 Dynamics 365 Contact Center,并将用于 Dragon Copilot 的护士培训模拟,Agoda 和 Reservations.ai 正在测试。这些集成接入的是自托管模型无法触及的系统,除非你自己构建连接器。

兼容性:它使用 O​penAI Realtime API,因此现有语音栈只需提供一个模型字符串,而无需重写。Realtime Venus 以 Python 包形式发布——AutoModel.from_pretrained、as_duplex()、按秒调用的 streaming_prefill() 和 streaming_generate(),以及宿主机上的 FFmpeg 和 CUDA。这是一个真正的工程项目。

还有转写广度:微软的配套公告——基于 MAI Transcribe 2 的 Dragon Copilot Transcribe——覆盖了临床口述,其规模是 Venus 论文中任何内容都未曾涉及的:按微软自己的说法,每月 1000 万次患者接诊,多语言错误率降低一半。如果你的产品面向临床,那么那套生态系统才是论据,而不是每分钟费率。

在开放权重没有托管答案之处

视频。Realtime-Venus-Omni 是一个流式音视频模型——它能看也能听,而 Omni 基准是视频基准。MAI Realtime 1 是语音。如果交互涉及摄像头、屏幕共享,或患者对着某物做手势,那么两者完全无法相提并论,因为托管模型并不尝试处理这些。

长视频记忆同样如此:Venus 卡片声称无需额外训练即可实现长视频记忆,通过 use_memory() 开关即可实现。微软的公告中没有任何内容涉及跨会话的记忆。

还有许可证。Apache 2.0 意味着你可以对它进行微调,把它打包进产品中发布,在 Microsoft 没有区域的司法管辖区运行它,并将音频保留在你自己的硬件上。对于数据不能离开大楼的临床或公共部门部署来说,这不是偏好,而是硬性要求,再多的按分钟折扣也无法替代这一点。

A screenshot of the Hugging Face model card for inclusionAI/Realtime-Venus captured 18 November 2026, showing the Any-to-Any pipeline tag, Transformers, ONNX and Safetensors badges, English and Chinese language tags, and the multimodal, audio, video, streaming and full-duplex tags.

大多数团队真正应该构建的混合方案

前面提到的趋同就是务实的答案。这三款产品——Realtime Venus、MAI Realtime 1、G​PT Live 1——都将对话与工作分离:Venus 通过 <delegate> 和 Harness 运行时,Microsoft 通过内部推理层,O​penAI 通过显式挂接的后端代理。在每种方案中,难点都在于由第二个模型承担思考,而这一层也正是成本和延迟集中的地方。

这意味着它们之间的选择实际上是对前端的选择,而后端无论选哪种都可以相同。OrcaRouter 就是为第二层而构建的:一个密钥即可使用 200+ 模型,按供应商标价、0% 加价,因此无论你选择哪个前端,其背后的推理模型都可替换,供应商价格变化当天即可生效。自动故障转移正是让委派任务变得可安全投入生产的关键——一个静默失败的后台调用,是对调用方永远无法兑现的承诺,而跨供应商的路由重试,则决定了任务是能够完成,还是会悄无声息地无法完成。路由 DSL 是让委派策略变成规则的方式:哪些意图会升级、升级到哪个模型、以什么预算。

这两款语音模型都不在我们的目录中——Realtime Venus 是 Apache 2.0 权重,由您自行托管;MAI Realtime 1 则是 MAI Labs 与 Foundry 的限量访问预览版。我们所路由的,是它们委托出去的一切。

A screenshot of the OrcaRouter models catalogue captured 18 November 2026, showing the header line '226 models · 17 providers · one API key, one bill' and the model grid with search and sort controls.

具体选择

如果以下任一情况属实,就从 Realtime Venus 开始:数据不能离开你的基础设施,交互涉及视频,你只需要英语和中文且仅此而已,你已经拥有 GPU 容量,或者你的用量高到按分钟线性计费并不合适。作为交换,你要接受自己运行的是一个研究级技术栈:只有 Python API,以论文作为文档,并且没有独立基准测试来证实作者给出的数字。

如果交互仅限语音、用量不大、集成已经呈 OpenAI-Realtime 形态,并且每分钟一美分是让项目至少可行的数字,那就从 MAI Realtime 1 开始。作为交换,你要接受几乎无法衡量其中任何一项:一个由供应商报告的准确率数字、一个没有分布信息的 P50 延迟、没有 τ-Voice 分数、没有语言列表,以及一个在我们检查时显示自身不可用的两分钟非商业演示。

还要关注双方都在悄悄押注的那件事。Realtime Venus、MAI Realtime 1 和 GPT Live 1 都得出结论:语音模型不应在有人等待时进行深度思考。它们之间的区别只在于思考发生在哪里。谁先公布被委派部分的任务完成率,谁就能了结一场仅靠每分钟费率永远无法分出胜负的较量。