
Ming-3.0-audio-flash 对比 Ming-3.0-audio-tiny:参数是十三倍,工作量是两倍半
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百万 tokens · 185 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百万 tokens · 228 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 89 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 98 tok/s
- orca新Orca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 89 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百万 tokens · 79 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百万 tokens · 94 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 118 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 199 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 113 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 每百万 tokens · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
Ming-3.0-audio-flash 和 Ming-3.0-audio-tiny于 2026 年 9 月 3 日相隔四分钟先后上线 Hugging Face——tiny 在 UTC 11:45,flash 在 11:49——此后这对模型就一直被相互混淆。今天早上,这种混淆变成了字面意义上的事实。flash 仓库在 UTC 08:26 被编辑,提交标题为“将 Flash BBA 分数更新为 99.8%,并添加总榜第一的排行榜结果”;tiny 仓库在两分零八秒后被编辑,提交标题为“将共享的 Flash BBA 分数更新为 99.8%…”,并附有相同的句子和相同的排行榜 PNG。tiny 模型本身没有 Artificial Analysis 条目,因此如果你看到过将 99.8% 归因于 Ming-3.0-audio-tiny 的说法,那个数字其实属于它更大的同系列模型,是通过复制粘贴传过来的。
这一点值得先说,因为它为其余一切定下框架。它们并不是两个竞争对手。它们是同一设计在两种规模上的呈现,共用分词器、上下文窗口、许可证和一条服务代码路径,只在config.json里的几个整数上有所不同。有趣的问题不是哪一个胜出——flash 在每一项已公布的质量指标上都胜出——而是你实际在为其中哪些整数付费,以及较小的那个真正更擅长什么。
这两个仓库实际上共享的是什么
从相同的部分开始,因为它们的数量比你会从一个13.5倍参数差距中预想的要多。
• 架构名称——两者都声明 model_type: bailing_moe_v3_audio,即相同的自定义 Transformers 代码路径。
• 分词器——两者都使用包含 157,184 个 token 的词表,其中音频占位符位于索引 157,168 处。为其中一个编写的提示词可以直接在另一个上加载。
• 上下文窗口——两者均声明 max_position_embeddings: 131072,使用相同的 RoPE theta 值 6,000,000,且未应用缩放。
• 路由宽度——两者每个 token 都激活 8 个专家。正是这个数字才让二者具有可比性。
• 输入与输出——输入为音频加文本指令;输出为文本,或通过可选的 Talker 输出带合成语音的文本。
• 许可证 — 两者均采用 MIT 许可证,并附有相同的法律免责声明文件。
• 代码 — tiny 模型的 README 会告诉你去 git clone flash 模型的 GitHub 仓库。只有一套实现、一组示例脚本、一份语音指南。
由于代码是共享的,这两个检查点在 API 层面可以直接互换。从一个切换到另一个只是更改模型名称,而正是这一特性让两级流水线易于构建,也正是这一特性使得很容易发布错误模型的分数。

未共享的四个整数
所有不同之处都在text_config中,而且只有四个数字真正重要。
• 图层 — flash 42,tiny 24。
• 专家——flash 512,tiny 128。
• 专家宽度 — flash moe_intermediate_size 为 768,tiny 为 512。
• 隐藏层大小 — flash 2,560,tiny 1,536。
把这些数乘起来,就得到规格卡上引用的关键数字:flash 为 126B 总参数、6.5B 激活参数,tiny 为 9.3B 总参数、2.7B 激活参数。在磁盘上,两者的差异是:前者为 25 个分片中共 259.33 GB 的 bfloat16 权重,后者为两个分片中共 20.7 GB。
现在要看比例,而不是绝对数字,因为这部分正是规格表所掩盖的。总参数相差 13.5 倍。磁盘上的权重相差 12.5 倍。但激活参数只相差 2.4 倍。flash 模型保留的专家库大得多,而调用的专家数量相近;tiny 模型的专家库更小,调用的专家数量也相近。所以,flash 每 token 的成本并不是 tiny 的十三倍,而更接近两倍半,同时其内存占用大十三倍,且大部分处于闲置状态。这就是典型的稀疏 MoE 权衡,也意味着选择 flash 的真实成本在于容量,而不是吞吐:你买的是一个更大的库,而且无论某个片段是否从中借用,你都必须让整个库常驻。

有一个结果会让人感到意外。两个模型都宣称具有相同的 131,072 个 token 窗口,人们很容易据此认为它们能处理同样的音频。事实并非如此。上下文是一种限制,而不是一种能力,供应商在下一节给出的数据恰好表明,较小模型的理解能力具体在何处远在窗口被填满之前就已失效。
供应商自己的表格怎么说
两张卡片上的评测图均由 inclusionAI 制作,并并排展示这两个模型。这些是厂商提供的数据,未经审计,任务选择也由厂商决定;但它们仍是目前唯一存在的逐任务对比,因为 Artificial Analysis 只对 flash 进行评分。
• 长音频链路得分 — flash 12.31,tiny 10.56。
• LongAudioSpan — flash 41.12,tiny 35.45。
• URO-Bench-Pro — flash 81.92,tiny 54.15。
• VoiceBench — flash 86.74,tiny 74.29。
有两点值得指出。第一点是排序:这个小模型在所有这些基准上都落败,所以任何人都不应选择它并期待持平表现。第二点不那么明显:音频推理基准上的差距(URO-Bench-Pro 低 27.8 分,VoiceBench 低 12.5 分)远大于长音频基准上的差距(分别低 1.75 分和 5.67 分)。无论额外的专家和层带来了什么,它们主要带来的是对听到内容的推理能力,而不是对长录音的原始持久力。
而 Flash 自身的长音频数据按绝对值来看也很弱——在该基准无论采用何种量程的情况下,链式得分只有 12.31,而同一评测卡上 Qwen3.8-Omni Flash 为 34.54,Gemini 3.8 Flash 为 49.63。因此,对这两者的诚实解读并不是“Flash 好、Tiny 差”,而是这两个检查点都不是长录音模型,并且 Tiny 在短音频基准所衡量的一切方面都还要更弱。
硬件线路由字节决定,而不是由参数决定
选择通常就是在这里自行显现的,而这两份 README 对它们所验证的配置档案描述得异常具体。
• Ming-3.0-audio-flash — 在 80 GB H800 上以张量并行度 4 运行的参考 128K 服务配置;长音频可能导致其 OOM,并记录了 8 GPU 回退方案;SGLang 已在四个 GPU 上验证文本输出;SGLang-Omni 采用 --thinker.tp_size 2,在两块卡上运行。
• Ming-3.0-audio-tiny — vLLM-Omni:将 Thinker 放在一个 GPU 上处理文本和 ASR,或将 Thinker 放在 GPU 0 上、Talker 放在 GPU 1 上处理语音;SGLang 已在单个 GPU 上针对文本完成验证;SGLang-Omni 在单张卡上使用 --talker.gpu 0。
把这些内容当作基础设施决策,而不是规格说明来读。Flash 需要多 GPU 节点,还需要一个占用它的理由。Tiny 只需要一张卡;如果你只想要转写或音频问答,它只需要一张卡,而且完全不需要 Talker——没有语音合成阶段,没有第二个进程,也没有音色选择。两者之间的实际差别不在于 GPU 数量是四倍;而在于你要部署的东西是否能装进你已经拥有的机器里。
在运维中还会显现出一种二阶效应。一个 25 分片、259 GB 的检查点必须被拉取到每个为其提供服务的节点、进行版本管理并保持热缓存;八 GPU 的回退配置意味着,你的容量规划必须能够容忍一个偶尔会在相同流量下需要两倍显卡的模型。一个两分片、20.7 GB 的检查点可以放进容器镜像层,几秒内即可启动,并且可以通过增加副本来扩展。对于突发性的内部工具来说,这一差异比本文中的每一个质量数字都更具决定性。

这两个检查点为之构建的两级流水线
这就是这对组合实际服务的用例,而且是两个模型卡都未描述的用例:让 tiny 模型处理所有内容,而只让 flash 模型处理幸存下来的内容。
用 Ming-3.0-audio-tiny 做一次低成本初筛,就能回答“这个文件里有没有语音”“是什么语言”“有多少个说话人”“音频是否干净到值得转写”——而且它能在单张卡上、以该卡所能维持的速度完成这些。只有需要推理、方言处理或仔细转写的片段,才会再交给 Ming-3.0-audio-flash。由于分词器、提示格式和服务代码都是共享的,第二次调用只是同一个请求换了模型名;无需重新编码,无需重写提示,也无需维护第二套集成。
经济性才是关键。如果你的音频里有五分之一是难处理的,flash 模型就只看到五分之一的量,你可以按这个比例而不是按峰值来规划它的节点规模。如果几乎所有的音频都难处理,级联就毫无收益,你应该只运行 flash——这是在投入四块 H800s 之前,从一周的小模型分诊中学到的一件有用的事。
同样的形态也出现在上一层,即音频模型周边的文本调用中:判断一段剪辑属于哪个档位的分类器、从转写文本中进行结构化提取、以及随后撰写的摘要。这些都是普通的聊天补全,而 OrcaRouter 通过 一个密钥、以 0% 加价路由到 200 多个模型,并具备自动故障转移——因此,控制你昂贵音频档位的分类器不会成为拖垮整条流水线的组件。 路由 DSL 正是让档位决策能以配置而非代码表达的那一环:把短而干净的剪辑发往一处,把较长或带口音的剪辑发往另一处,并在某个提供商降级时让回退模型补上空缺。我们不提供任何一个 Ming 检查点;两者都是需要你自己运行的下载文件。
如何用你自己的音频解决它
这两个检查点都是 MIT 许可,都适用同一条代码路径,而且在极小规模场景下都足够小,无需进行采购沟通就能测试。这样一来,花一个下午做测量,比上面任何一个数字都更有参考价值。
从你自己的流量中抽取两百个音频片段,并向困难的一端加权——带口音的语音、说话人重叠、背景噪声,以及你实际拥有的那些长录音。用相同的提示词运行两个模型,并给三件事打分:在你拥有基准真值的片段上的转写准确率、语言标签是否正确,以及输出不可用(而不仅仅是出错)的情况有多频繁。然后运行级联流程,测量有多少片段由微型模型处理得足够好,以至于根本不需要动用 flash 模型。
最后一个数字是唯一能决定基础设施的。如果它返回高值,那你就是一个单 GPU 部署,背后由一个大模型来处理尾部。如果它返回低值,你就知道你的工作负载正是 flash 模型为之打造的工作负载,而 tiny 只是一个有用的实验,而不是一个层级。无论哪种答案,成本都很低。凭参数数量去猜则不然,因为显卡上的 13.5× 和计算预算中的 2.4× 指向完全不同的硬件,只有你的录制数据才能告诉你,你买的到底是哪一个。
