Granite Speech 5.0 2B：IBM 的新 ASR 模型在 Hugging Face 上静置了两周，IBM 才宣布它

用于 Granite Speech 5.0 2B的仓库创建于2026 年 10 月 7 日。权重在同一天晚上提交，提交信息只写着“Upload granite-speech-5.0-2b checkpoint.” 模型卡随后在那里放了十三天，并被公开编辑——13 日添加了基准测试图表，19 日标注了发布日期和官方排行榜结果，20 日添加了模型签名文件——之后 IBM 才于2026 年 10 月 21 日发布了真正宣布它的博客文章。写这篇文章时，那篇博客文章才刚发布一天，而且它仍然是 IBM 在任何地方就这款模型所说过的唯一内容：没有新闻稿，没有 ibm.com 公告页面，Granite 产品网站上除了通用落地页之外也没有任何东西。像这次发布一样的发布背后的已记录 AI 故障和智能体事件，都收集在OrcaRouter AI Incident Archive中，其中每条记录都带有自己的来源、严重程度、置信度评级和争议标记。

所以，诚实的说法既不是“未事先宣布”，也不是“大张旗鼓地发布”。它是一个悄然上线、可下载了两周的模型，其模型卡是公开撰写的，而正式公告直到本文发布前一天才出现。下文将把可以核查的部分与目前仍只是 IBM 一面之词的部分区分开来。

检查点里实际包含什么？

Granite Speech 5.0 2B 是一个语音语言模型：Conformer 声学编码器通过投影器将输入送入一个小型语言模型。它是 granite-speech-4.1-2b 的直接后继版本，后者于 2026 年 4 月 29 日发布，参数量相同，并采用相同的 Apache 2.0 许可证。

• 规模与格式——20 亿参数，BF16 safetensors，Apache 2.0，仓库未设置访问门槛。

• 编码器 — 16 个 Conformer 块，使用 CTC 训练，并带有两个分类头：348 个字符输出（前 256 个 ASCII 条目，加上面向日语的 92 字符语音片假名集）和来自 Granite 4.0 分词器的 100,353 个 BPE 输出。隐藏层大小为 1,024，8 个 128 维注意力头，卷积核为 15，四秒块注意力。

• Projector —— 一种两层窗口查询 Transformer，作用于每块十五个 1,024 维声学嵌入，每块每层有三个可训练查询。它在编码器的 2× 基础上进行 5× 下采样，因此语言模型看到的是 10 Hz 嵌入，而不是 100 Hz 帧。

• 语言模型——granite-4.0-1b-base 的中间检查点，使用 YaRN 扩展到 16k 位置，并带有与投影器联合训练的 LoRA 适配器。

• 训练——约 390,000 小时的公开与合成音频，在 IBM 的 Blue Vela 集群上使用 8 块 NVIDIA H100 总共训练 40 天（其中编码器训练 26 天，投影器训练 14 天）。

• 语言 — 英语、法语、德语、西班牙语、葡萄牙语和日语可进行转录；这六种语言可与英语互译，另支持英语译为意大利语和英语译为普通话。

390,000 小时这个数字，对于模型擅长什么而言最为关键。模型卡对此作了细分，而最大的单一数据块并非干净的朗读语音：LibriHeavy 提供 45,600 小时无标点音频，另有 45,800 小时带标点音频；VoxPopuli Granary 增加 24,000 小时，外加 23,900 小时带标点音频；此外还有 59,900 小时 IBM 所称的上下文 ASR——即同一批语料被重新切分，并在提示前附加带噪的上一段上下文。另有 7,100 小时和 16,500 小时分别属于欧洲语言组和日本语言组的关键词偏置 ASR。正是这种混合构成，使得主要提升体现在标点、大小写、鲁棒性和关键词偏置上，而不是干净英语上的原始词错率。

5.06% 这个数字，以及它下方的小字说明

IBM 的核心宣传是5.06% 的平均英语词错误率，该数字覆盖 Open ASR Leaderboard 的九个公开短格式测试集，IBM 将其描述为在顶级开放权重 ASR 模型中排名 #2。模型卡以不同的标签发布了同一数字——“截至 2026 年 10 月 20 日的官方结果”——而公告博客则称其底层运行是“非官方的，截至 2026 年 10 月 15 日”。这两种描述相差五天和一个形容词，且 IBM 之外无人复现其中任何一个。

卡片附带的对比图表值得仔细阅读，因为其筛选规则发挥了很大作用。它展示了按平均 WER 排名前十的开放权重模型，每个机构一个，其中 Granite Speech 5.0 2B 位列第二：

• #1 Qwen3-ASR-1.7B-hf — 平均 WER 为 4.94%。

• 第2名 Granite Speech 5.0 2B — 5.06%。

• 第 3 名 cohere-transcribe-03-2026 — 5.21%。

• #4 Hojo-ASR-V1 和 #5 higgs-audio-v3-stt — 各占 5.22%。

• #6 thewhisper-large-v3-turbo — 5.24%。请注意，这是一个借用了 Whisper 之名的社区检查点，而非 OpenAI 的 whisper-large-v3-turbo——后者在同一榜单上的得分为 7.83%。这两者经常被混为一谈，而无论你正在读的是哪一份对比，这种混淆都会让那份对比显得更漂亮。

• #7 canary-qwen-2.5b — 5.38%；#8 ARK-ASR-0.6B — 5.44%；#9 MOSS-Transcribe-Diarize — 5.54%；#10 Voxtral-Small-24B-2507 — 5.81%。

由此可以得出两点。第一，与领先者的差距是 0.12 个百分点；在九个测试集上，这属于更换解码配置所带来的噪声范围之内——这其实是并列第一，却被描述成第二名。第二，从第 2 名到第 6 名的分差是 0.18 个百分点。无论这些模型在干净英语上有什么差异，那都不是准确率。IBM 真正的卖点一定在别处，而且确实如此。

当增益大到足以产生影响时：噪声与距离

FFASR 榜单衡量的是含噪与混响语音——将近场、高 SNR、中 SNR 和低 SNR 条件取平均。正是在这项评测中，5.0 代与 4.1 代之间拉开了能切实感受到的差距，而这也是本次发布中最有价值的数字。

• Granite Speech 5.0 2B — 平均 WER 为 14.80%，在榜单 42 个模型中排名第 4（截至 2026 年 10 月 18 日的成绩）。

• granite-speech-4.1-2b-nar — 15.16%, #6.

• granite-speech-4.1-2b — 16.35%，第9名。

• 作为参照：whisper-large-v3 在同一榜单上为 18.02%，而 nvidia/parakeet-tdt-0.6b-v2 为 17.66%。

在远场和嘈杂音频上，这比紧接的前代版本提升了 1.55 个百分点——错误率相对降低约 9.5%——而干净英语的平均错误率从 5.33% 降至 5.06%，相对降幅约为 5%。换言之，在人们实际部署转录的场景中——会议室、呼叫中心、笔记本电脑麦克风、远距离平板麦克风——这一提升幅度大约是前者的两倍。如果你的 ASR 技术栈在录音棚音频上已经表现良好，却在会议室里一塌糊涂，那么这个版本就是为你准备的。

标点符号有所改进；大小写则没有。

卡片中唯一的一张数值表，将 5.0 与 4.1 在标点错误率（PER，越低越好）和大小写 F1（越高越好）上进行比较，计算基于 Levenshtein 对齐的词对，而非整句。请注意每一行的方向，因为整体情况并不一致。

• LScln——市盈率 25.70 → 23.20；Cap-F1 89.71 → 90.16。

• LSoth — PER 22.27 → 21.22；Cap-F1 91.26 → 91.65。

• VoxPopuli — PER 24.86 → 23.70，但 Cap-F1 95.35 → 95.07。

• Earnings-22 — PER 22.87 → 21.64，但 Cap-F1 95.19 → 94.98。

• CV-EN — PER 9.13 → 9.18（略微变差）；Cap-F1 96.75 → 96.96。

• CV-DE — PER 3.66 → 3.65；Cap-F1 99.50 → 99.51（德语中名词大写，因此这一行近乎完美）。

• CV-ES — PER 11.61 → 11.46，Cap-F1 95.68 → 95.62。

• CV-FR — PER 11.00 → 11.43（更差）；Cap-F1 97.25 → 97.20。

• CV-PT — PER 7.86 → 7.53；Cap-F1 98.51 → 98.48。

在九个数据集中有七个的标点朝正确方向变化；有五个的大小写朝错误方向变化，幅度为 0.03 到 0.28 个百分点。IBM 的总结是“更高的转写准确率”和“标点与大小写”，从总体上看站得住脚，在细节上则略显夸大。实际解读是：可以预期漏掉的逗号会减少，但不要指望模型突然就能正确处理专有名词和句首。

两项改变集成工作的功能

最有可能影响实际部署的能力根本没有在模型卡中进行基准评测，因为它们是控制类特性，而不是准确性特性。

语言 ID 提示。 你可以在前面加上“语音是德语。请逐字转写；不要翻译。”模型就会转写德语，而不是把它翻译成英语。这一点很重要，因为对于比如说德语客服存档来说，一个会自动翻译的语音模型是不可用的——你得到的是一份英语转写稿，却丢失了原始措辞。该提示用目标语言书写也同样有效，而这对多语言流水线而言是更现实的情况。

关键词偏置最多支持 2,000 个词条。 4.1 版说明卡并未以硬性数字给出前代产品的上限，但 5.0 将每次提示支持的列表提升至两千个词条，覆盖 ASR 和语音翻译。对于产品名、药品名、工单 ID 或客户自己的 SKU 列表，这决定了转录结果是可直接使用，还是仍需校正。说明卡以图表形式报告了应用和不应用关键词偏置时的 F1，但正文中没有具体数值，因此应将改进幅度视为未量化。

还有一个值得了解的安全设计细节：如果模型收到格式错误或不熟悉的提示，IBM 表示它会忽略该提示，并回退到普通转录。这是对音频能在多大程度上影响系统的一项刻意约束，IBM 建议在生产环境中将模型与 Granite Guardian 配合使用，以进行风险检测。

运行它

Granite Speech 5.0 2B 在 transformers>=4.52.1 中受原生支持，并通过 AutoModelForSpeechSeq2Seq 和 AutoProcessor。模型卡还记录了 vLLM、llama.cpp 和 mlx-audio，这一点比听起来更重要：这是一个能在笔记本电脑上运行的模型，而不只是在 GPU 集群背后运行。

• 分段长度——以每段约两分钟为上限分块转写，较长的录音用 VAD 切分。16k 的 YaRN 上下文并不意味着可以喂给它一小时的音频；在触及上下文上限之前，准确率早已开始下降。

• llama.cpp — 该卡片推荐 Q8_0，并指出低位量化在音频长度超过约一分钟时会损失准确度。这是一个异常具体的警告，值得照字面理解。

• mlx-audio — 0.5.9 或更高版本，另需 jinja2；mlx-audio 的聊天模板需要它，但 mlx-audio 自身不会安装它。

• 提示词针对具体任务，而且很重要——“使用正确的标点和大小写转写语音”与原始转写提示词是不同的模式，而关键词偏置模式会带一个“Keywords: …”后缀。

什么是尚不可知的

有三件事值得直截了当地说明，因为周围的报道不会这么做。

首先，不存在独立评估。上面的每一个数字都来自 IBM 自己的评估运行，或来自 IBM 提交的排行榜条目。FFASR 图表写着“官方结果”，这意味着该提交已出现在榜单上，而不是由第三方运行了该模型。还没有人发布过复现、失败模式说明，或在并非 IBM 选择的音频上进行过正面对比。

其次，没有托管端点。模型卡直接说明该模型“未由任何推理提供商部署”，我也无法在 OrcaRouter 目录中找到它——这份包含 209 个模型的列表里没有任何代次的 Granite Speech 检查点。目前你的选择要么是权重，要么什么都没有。对于一个才发布两天的模型来说这很正常，而且情况会改变；在此期间请做好自托管计划。

第三，整个系列的许可证各不相同，很容易踩坑。2B 采用 Apache 2.0，没有商业限制。小型 TurboCTC 模型有两个版本，一个采用 Apache 2.0，另一个是非商业许可——从命名上乍看并不能明显看出哪个是哪个。

这使语音流水线处于何种境地

2026 年末 Granite Speech 5.0 2B 部署的现实架构是：由自托管的编码器-解码器转写音频，并通过一次独立的语言模型调用完成后续工作——汇总通话、提取字段、分类意图、按结构定义清理转写文本。第二阶段是普通文本生成，它的优势在于无需硬绑定到某一家供应商——转写文本会发送到一个兼容 O​penAI 的端点，该端点可以访问200+ 个模型，按供应商标价提供且不加价，因此更换清理模型只需更改配置而无需重建，并且 供应商故障时会进行故障转移，而不会让整条流水线随之瘫痪。

就语音阶段本身而言，本周的决策比基准图表所暗示的范围更窄。Granite Speech 5.0 2B 是一个可信的排名前三的开放权重英语 ASR 模型，在生产环境中那些会让 ASR 失效的条件下，相比自身前代有明确提升；它也是一个真正的多语言模型，具备翻译和关键词控制能力，而这一规模的大多数竞品并不提供这些。它问世也才两天，基准测试由厂商完成，且尚未被复现。在你相信 5.06% 之前，先用你自己最难的音频跑一遍。