一张生成的标题卡,标题为“是插话抢答,还是排队等轮到你”,用于 Ming-3.0-audio-flash 与 GPT Live 1 的对比。四个标签分别写着“全双工”“请求与响应”“每小时 3.00 美元”和“总计 126B,激活 6.5B”。右侧有两行时间线:“GPT Live 1”显示两条重叠的波形条,标注为“边听边说”;“Ming-3.0-audio-flash”显示一条波形条、一段间隔,然后是第二条波形条,标注为“音频输入,答案输出”。
Guides & Insights

Ming-3.0-audio-flash 与 GPT Live 1:对“听见并回复”的两种截然不同回答

作者

Magnus Corvin

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

问问 G​PT Live 1它是什么,文档会给你一个清晰的答案:一个全双工语音模型,能够同时听和说,并把推理和工具使用交给后端智能体。对Ming-3.0-audio-flash问同样的问题,你就会得到相反的形态:一个 1260 亿参数的音频语言混合专家模型,能听、能对听到的内容进行推理,并可选择发声——全都包含在一个你按 MIT 许可自行托管的检查点中。其中一个是接在别人大脑上的嘴巴和耳朵。另一个本身也是大脑。它们之间几乎所有实际差异,包括价格、延迟,以及你究竟能测试什么,都源于那一个架构选择。像这次发布这样的版本,其背后有记录的 AI 故障和智能体事件都收集在 OrcaRouter AI Incident Archive中,每个条目都带有自己的来源、严重程度、置信度评级和争议标记。

两者都不是通常意义上的发布故事。G​PT Live 1 是一个有文档、已普遍可用的模型,配有价目表和并发限制;其知识截止日期列为 2025 年 7 月 31 日,这说明它进入目录已有一段时间。Ming-3.0-audio-flash 从纸面上看已有六周,实际只有四天:权重于 2026 年 9 月 3 日出现在 Hugging Face 上,没有任何公告,而且该仓库在 10 月 15 日至 19 日之间服务代码、示例和重写的模型卡上线之前,实际上一直无法使用。GitHub 仓库创建于 10 月 15 日。Hugging Face 页面目前显示 22 次下载。

当你打断它时会发生什么

这是正确的第一个问题,因为它比任何基准测试都更快地区分出这两种设计。

GPT Live 1 明确为全双工。它同时聆听和说话,这正是自然打断得以实现的原因:你可以在它话说到一半时开始说话,它就会停下来。会话端点是 v1/live/sessions,文档中列出的功能是流式传输和函数调用。结构化输出、微调和预测输出被列为不支持。推理和工具执行被委托给后端代理,这一设计决策使语音循环保持快速,并使模型足够小,从而每分钟成本低廉。

Ming-3.0-audio-flash 并未声称支持全双工操作,其接口也根本不是会话。它是一个请求:输入音频加文本指令,输出文本或文本加语音。服务选项是 vLLM-Omni 和 SGLang,二者都提供 OpenAI 兼容的 chat-completions 风格接口,此外还有用于本地工作的 Transformers 路径。流式语音可通过 vLLM-Omni 示例获得,该示例会报告延迟指标,但对已完成请求的流式响应,与在对方说话时同时讲话并不是一回事。

这一区别决定了整个产品类别。必须处理用户插话的呼叫中心坐席需要全双工。会议转录与分析流水线则完全不需要它,反而会被一个针对对话轮次交替而优化的模型实实在在地损害。

两种并不真正具有可比性的计费模式

GPT Live 1 按每分钟 0.05 美元计费,按秒计费,不向上取整到整分钟。也就是每小时 3.00 美元;这是按时长收费,而不是按 token 收费——文档说明后端模型和工具使用是单独计费的。因此,语音层按实际耗时(wall-clock time)计量,而后端智能体所做的一切都会计入第二笔账单。

• 一小时开放麦——G​PT Live 1 上 3.00 美元,一口价,不论说什么。

• 一百小时——300美元。

• 一千小时——3,000 美元。

Ming-3.0-audio-flash 没有价目表。你按硬件付费。支持语音输出的完整 128K 上下文的参考配置是在八块 80 GB H800 上做张量并行;经过验证的 SGLang 配置可在四块 GPU 上运行,但仅生成文本。参数总量为 126B,每步激活 6.5B。

诚实的比较不是每分钟多少美元,因为没有人发布 Ming 在八块 H800 上的吞吐量基准。这是形态上的差异。G​PT Live 1 无论是否有人在说话都按时间收费,所以客服通话中的静默等待与密集争论花费相同。Ming 无论是否有人在说话都按 GPU 时间收费,所以空闲容量与繁忙容量花费相同——但你可以用其他会话来填充它。这就是全部的权衡:按时间计费可预测且空闲成本高;自有容量不可预测且空闲可容忍。

还有一个二阶要点,比标题本身更重要。G​PT Live 1 对语音循环按每小时 3.00 美元收费,然后还会就后端智能体所做的任何事情再次收费。如果你的用例是“听、决策、调用三个工具、回复”,那你就是在同一通对话上支付两个计量表,而第二个计量表会随着复杂度扩展。Ming-3.0-audio-flash 将这两个阶段合并为对音频的一次前向传播,这正是它需要八块 GPU 的原因。

A generated two-column card titled 'Two shapes of voice'. The 'GPT Live 1' column reads duplex yes listen and speak together, interruption native, tool calls yes in session, images no, concurrency 50 to 500 sessions, price $0.05 per minute. The 'Ming-3.0-audio-flash' column reads duplex not claimed, interruption request then response, tool calls left to your orchestration, images no, concurrency set by your GPUs, price no rate card. The footer reads 'GPT Live 1 figures per its model documentation. Ming figures vendor-reported and unaudited.'

G​PT Live 1 不会为你做什么

仔细阅读模态表。输入是音频和文本。输出是音频和文本。图像和视频被列为不支持。这是一款语音产品,刻意保持狭窄。

Ming-3.0-audio-flash 则在不同方向上聚焦较窄。它的输入是音频和文本指令——同样没有图像——但其输出包括对音频内容的分析:非语音声音、声学场景、音乐、多说话人、长录音。这张卡的五大亮点是跨方言与噪声的识别、长音频理解、多维感知、音频推理和音频交互。其中只有最后一项与 G​PT Live 1 的用途重叠。

所以真正成立的对比是这样的:G​PT Live 1 替代的是电话通信层。Ming-3.0-audio-flash 替代的是转写服务供应商、说话人分离服务供应商和音频分类模型,并且还提供一种语音输出模式。如果你原本要购买三项服务和一款语音模型,那么 Ming 就是一个模型检查点。如果你原本是要为你已经拥有的智能体购买一个语音前端,那么 Ming 就完全买错了。

没人会写进对比表的限制

G​PT Live 1 的速率限制有明确文档说明,并以并发会话数衡量:Build 为 50,Launch 为 300,Grow 为 500,而且完全没有免费套餐。这些是你能同时运行多少调用的硬性上限,而且它们还是公开的——这一点比大多数供应商都强。

Ming-3.0-audio-flash 没有等效数字,因为没有运营方来发布它。取而代之的是硬件下限:完整配置需要八块 GPU,纯文本 SGLang 需要四块。在四块 GPU 上,你会失去语音输出。在八块上,你可以获得它,并且仓库指出,在完整音频配置中,Talker 会复用 GPU 7,并使用独立的内存预算。

语言分化同样明显。Ming 列出了中文和英文,并包含口音和方言。G​PT Live 1 模型页面完全没有发布语言列表;其中只记录了知识截止日期、模态、定价和功能标志。这种缺失值得明确说明,而不是从姊妹模型的文档中填补。

关于上下文:这两个页面都没有在模型文档中说明上下文窗口。Ming 的仓库提到了“参考 128K 服务配置”,但明确没有把它定义为模型的上下文长度。G​PT Live 1 的页面则完全没有说明。任何人若为这两者中的任何一个引用某个数字,那引用的都是别的东西。

A screenshot of OpenAI's model catalogue page for GPT Live 1, showing the description 'Our premier model for natural, expressive voice conversations with smooth interruption handling', alongside the API navigation covering audio and speech, voice agents and the production API reference.

一个场景,两种定价方式

处理一段40分钟的客户支持通话,一次只处理一位说话人,最后进行摘要,并在对话过程中进行大约十几次工具调用。

在 G​PT Live 1 上,语音循环为 40 分钟,按 $0.05 计费,即 $2.00。那十二次工具调用和摘要生成在后端代理上运行,并由该代理所使用的任何模型单独计费——文档明确说明了这一点,但没有给出具体数字。因此,你能计算出的价格是下限,而不是总价。

在 Ming-3.0-audio-flash 上,一次调用会占用八块 GPU 的部分资源,持续 40 分钟。如果这些 GPU 每块每小时 2 美元,而你同时运行十次调用,那么每次调用分摊约 1.07 美元。如果一次只运行一次调用,则是 10.67 美元。该模型的模型卡中没有记录工具调用功能——其亮点是识别、理解、感知、推理和交互,功能列表中没有函数调用——因此,场景中的“十二次工具调用”部分无论如何都要移到你自己的编排层。

最后那点观察通常能一锤定音。GPT Live 1 把函数调用内置到了会话中。Ming-3.0-audio-flash 则把编排交给你。对于已有智能体框架的团队来说,这没问题。但对于希望语音层本身也充当智能体的团队来说,这就是大量工作,而每分钟 0.05 美元其实一直在悄悄为这些工作买单。

诚实地测试其中任何一个

今天下午你就可以评估 G​PT Live 1。开启一个会话,流式传输音频,统计它能处理多少次打断,测量往返时延,并在一天结束时查看账单。你唯一不能做的,就是检查它。

如果你有 GPU,本周就可以评估 Ming-3.0-audio-flash;而你将评估的是一个在 10 月 19 日——也就是本文撰写当天——仍在编辑的仓库,其模型卡的基准测试面板是图片,数值结果并不在正文中。那些图表中的每一个分数都由厂商运行得出,其中一些用星号标注为团队自己的评估。Ming-3.0-audio-flash 没有独立结果,G​PT Live 1 也没有音频推理基准,因此今天任何人都无法将两者相互排名。

这并不是跳过 Ming 的理由。它恰恰是一个理由:在把八块 GPU 投进去之前,先用你自己的音频做测试,并在测试期间保留托管路径。把两者放在同一个路由层后面运行,是这个实验的低成本做法:一个密钥即可覆盖 200 多个模型,按提供商标价计费,不额外加价,这样对比的成本只是推理账单,而不是再来一轮采购流程。当开源检查点在你自己的音频上开始胜出时,故障转移会在无需改动代码的情况下把流量切过去;当它落败时,又会切回来。

A screenshot of the OrcaRouter model catalogue, showing the header '213 models - 16 providers' with 'one API key, one bill', filter controls for input modalities, context length, input price, status, access tier and series, and a panel explaining how to call any model by copying a model ID and posting to the OpenAI-compatible endpoint.

该选哪一个

如果产品是语音代理、中断处理是必需项而非锦上添花、你希望在会话内进行工具调用,并且并发量将保持在几百个会话以内,那就选择 GPT Live 1。按量计费的价格易于预测,运维负担为零。

如果产品是音频分析并可选语音回复,如果你需要拥有权重或在 API 无法覆盖的环境中运行它们,如果 MIT 许可对你的法律审查很重要,并且如果你能为它配备八块 H800s,就选择 Ming-3.0-audio-flash。不要因为它免费就选择它——它并不免费,它是一笔硬件采购——也不要指望它具备 G​PT Live 1 所记录的工具调用和全双工行为而选择它。

值得留意的一点是,inclusionAI 是否会为其服务配置(serving profiles)公布延迟和吞吐量数据。目前,该仓库只告诉你如何运行模型,对运行速度却只字未提。在这一点改变之前,任何声称 Ming-3.0-audio-flash 能替代实时语音 API 的说法都只是假设,而非实测结果。