一张生成的标题卡,标题为"Granite Switch 4.1 30B vs Granite 4.2 30B",副标题为"两个位于不同层次的 IBM 30B:一个是组合层,一个是推理模型",两张圆角卡片分别写着"Switch 4.1 30B / 组合层"和"Granite 4.2 30B / 推理模型";页脚写着"Switch 权重 2026年10月14日;Granite 4.2 卡片注明 2026年8月25日",并注明两者均为 Apache-2.0,OrcaRouter 标志合成在图像下方的白色条带中。
Guides & Insights

Granite Switch 4.1 30B 与 Granite 4.2 30B:两款互不竞争的 IBM 30B

作者

Alistair Wren

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

把Granite Switch 4.1 30B与Granite 4.2 30B放在一起时,尴尬之处就在这里:它们根本不是同一类东西,所以大多数“正面对比”的框架一碰就散。Granite 4.2 30B 是一个模型——IBM 以 Apache-2.0 许可发布的稠密 30B 推理模型,具备思考模式和智能体工具调用能力。Granite Switch 4.1 30B 的权重于 2026 年 10 月 14 日发布,它是一个运行时:冻结一个 Granite 基础模型,在其上挂载可切换的适配器,用一个检查点向你提供三种能力。你不是像在两个模型之间做选择那样在它们之间做选择。你要选的是:你想要一个模型,还是一个组合层。

话虽如此,在这个范畴错误之下确实隐藏着一个真正的决策,而且它与基准测试毫无关系。Switch 4.1 30B 构建在 Granite 4.1 30B 基础之上。Granite 4.2 30B 是同一家族的新一代,而且可衡量地是更强的通用模型。所以真正的问题是,为了切换机制,是否值得放弃一代基础模型——而这个答案取决于你是在调用模型,还是在交付模型。

并排,逐维度

• 它是什么 — Switch 4.1 30B 是一个组合式检查点(冻结基座 + 两个已激活的 LoRA 适配器 + 一个语音编码器);Granite 4.2 30B 则是单一的稠密仅解码器模型。

• 参数 — Switch 4.1 30B 在 28,865,728,512 的基础上合成到 29,989,814,272,增量为 +3.89%;Granite 4.2 30B 是一个 30B 稠密模型,没有适配器附加开销,因为它没有适配器。

• 上下文 — 两者原生均支持 131,072 tokens,IBM 的文档还记载了在 Granite 4.2 一侧可将长上下文扩展至 512K。

• 思考模式 — Granite 4.2 30B 在 <think> 标签内具有显式的思维链,且可选努力程度;Switch 4.1 30B 的聊天模板中未接入推理模式。

• 超越文本 — Switch 4.1 30B 可接受音频输入,并返回转录文本以及经过校准的决策分布;Granite 4.2 30B 则两者皆不具备。

• 量化 — Granite 4.2 30B 提供 BF16,以及 FP8、NVFP4、MXFP4、GGUF 和 MLX 构建版本;截至本文撰写时,Switch 检查点仅提供一种精度的版本,尚无官方量化构建版本。

• 许可证——两者均为 Apache-2.0。

• 已公布的分数——Granite 4.2 30B 有一张完整的基准测试表(由厂商自行跑分);Switch 4.1 30B 只有一个数字,即 Decision Index,而且它衡量的完全是另一回事。

Granite 4.2 30B 在哪些方面完胜

就通用能力而言,两者根本不在一个量级,而且本来也不该放在一起比。IBM 自己为Granite 4.2 30B提供的说明卡显示:MMLU-Pro 77.60、AIME 2025 89.17、GPQA 66.41,SWE-bench Verified 57.00、Terminal-Bench 2.1 29.24——这些全都是厂商自行报告的,跑在 IBM 自家评测框架中基于 NeMo 的测试工具上,IBM 之外无人复现。就算把这些数字只当作厂商的一面之词,它们依然是这两个模型中任何一个唯一存在的可比数据。

结构上的要点比分数更重要。Granite 4.2 30B 是作为推理模型通过智能体强化学习训练出来的,并且随附了围绕它的工具链:面向人们实际拥有的硬件的量化版本、一条长上下文扩展路径,以及一个有文档记录的思考模式开关。Granite Switch 4.1 30B 则是通过将冻结的基础模型与适配器组合而成,而其底层基础模型要老一代。如果你想让一个模型很好地回答难题,较新的稠密模型就是你要的。

Granite Switch 4.1 30B 在哪些方面完胜

三个地方,没有一个是基准。

第一点是,它回答的是一种不同形态的问题。决策适配器接收一个状态和一个带有标注选项的问题,并在单次前向传播中返回这些标签上的校准概率分布——卡片中的示例返回类似 A: 0.982、B: 0.0035、C: 0.014 的结果。这不是你用正则表达式解析的聊天补全。基于选项 logits 的 softmax 进行路由,与请求模型“请用一个字母回复”是两种不同的操作,而整个设计就是为了让校准读数无需机器上的第二个模型即可获得。

第二项是音频。内嵌的 470M Granite Speech 5.0 TurboCTC 编码器会转写传入的音频,并把转写文本拼接进聊天上下文,以替代音频内容部分,因此语音请求就是带有 input_audio 部分的普通聊天请求。这是否是个好主意,完全取决于 IBM 在自己的模型卡中写下的一个注意事项:编码器和语言模型并非联合训练,没有经过训练的投影将二者耦合起来,而且输出仅支持英语、全小写且无标点。一次误转写就会悄然改变模型所回答的问题。

第三是参数开销,而这是一个会比本次发布活得更久的数字。合成后的检查点比基础模型大 3.89%,因为每个适配器读取的都是基础模型的 KV 缓存,而不是维护自己的注意力状态。在传统的多适配器方案中,你每切换一次,就意味着多一套注意力状态,内存账单随适配器数量增长。而在这里,你为安全分类器、决策引擎和语音编码器额外付出 11.2 亿个参数,切换本身则只是聊天模板解析的一个请求参数——不是需要另起一套并保持预热的第二套部署。

A generated comparison scoreboard card titled 'Granite Switch 4.1 30B vs Granite 4.2 30B — the scoreboard' with two columns of six matching rows. Left column 'Granite Switch 4.1 30B': kind composition layer, parameters 29.99B (+3.89% over base), context 131K, thinking mode none, audio input yes, official quantizations none. Right column 'Granite 4.2 30B': kind single dense model, parameters 30B dense, context 128K native extending to 512K, thinking mode yes, audio input no, official quantizations FP8, NVFP4, MXFP4, GGUF and MLX. The footer reads 'Switch structure from its published BUILD.md; Granite 4.2 card figures vendor-reported.' The OrcaRouter logo is composited in the white strip below the artwork.

数字里的陷阱:50.1 并不是缩小版的 77.60

最有可能误读这一对比的方式,就是把 Switch 模型的50.1与 Granite 4.2 30B 的77.60放在一起,然后得出 Switch 模型只有其三分之二水平的结论。这两个数字描述的并不是同一回事,这种比较毫无意义。

50.1 是 Decision Index 分数——版本 v0.3,1,068 行的公开快速子集——衡量决策适配器对带标签选项的排序效果,并按领域细分:知识 32.4、语言 58.6、检索 49.8、工具 76.5 和艺术 26.4。它是某个适配器完成某一任务的得分,完全不能说明基础模型的聊天质量,因为其底层基础模型并未被该适配器改动。77.60 是 MMLU-Pro,一个面向整个模型的通用知识基准。不同的维度,不同的评测框架,不同的作者。这两个数字唯一正确的用法,是作为关于它实际所测量对象的证据。

不要只读决策指数最显眼的那个数字,而要去看它的分布形态,这样你才能得到真正有用的信息:工具类上是 76.5,艺术类上是 26.4,这说明这个适配器值得用于工具选择类决策,而在创意或开放域分类上,如果没有你自己的评估,就不该信任它。这比任何总体得分都更具可操作性。

A screenshot of the ibm-granite/granite-4.2-30b model card on Hugging Face, showing an Apache-2.0 licence, a text-generation pipeline tag with reasoning, thinking and tool-calling tags, a base model of ibm-granite/granite-4.1-30b-base, a stated parameters figure of 30B with 128K native context extending to 512K, a built-in think-tag reasoning mode, a release date of August 25, 2026, and a link to the Granite 4.2 technical blog.

到底是什么决定的

如果你在调用一个模型——一个端点、一个提示、一个答案——那么 Granite 4.2 30B 是更新、更好的模型,没有任何理由绕过 Switch 检查点去获取它。

如果你要交付其中一个,算法就不一样了。构建一个必须作答、决策并转写的系统,团队本来要跑三个进程,背负三种延迟和三种内存占用;而 Switch 构建把这一切压缩成一个检查点,其成本只比它所替代的基础版本高出 3.89%。至于需要在固定标签集上获得校准概率的团队,Granite 4.2 30B 里根本没有对等的东西,靠提示词去求取也并不是同一回事。

问题在于底座。购买组合层意味着接受第一代底座,而如今还没有基于 Granite 4.2 底座构建的 Switch checkpoint。IBM 表示更多数据将在“未来几周内”到来,并将 composer 描述为前进之路——任何人都可以使用 granite-switch 工具,从任意 Granite 底座和任意适配器子集构建 Switch checkpoint。IBM 是否会为 4.2 系列这样做,才是值得关注的事,因为那次发布将彻底消除这一整套取舍。

A screenshot of the ibm-granite/granite-switch-4.1-30b model card on Hugging Face, showing a text-generation pipeline tag, tags reading granite_switch, granite-switch, granite-4.1 and conversational, an Apache-2.0 licence, a release date of October 14, 2026, and a summary naming the base model as ibm-granite/granite-4.1-30b at 30B parameters and 128K context, two adapters called decision and guardian-core, and an embedded English speech-to-text path.

同时运行两者,但不押注任何一方

这两个模型目前都不在 OrcaRouter 目录中,因此两者都意味着要使用你自己的硬件以及 IBM 的发布渠道。这一点值得直白说明,而不是暗示存在一个托管端点。

平台所改变的,是弄清真相的成本。一个密钥即可覆盖 200 多个模型,并支持自动故障转移,而且供应商标价原样透传,0% 加价,因此,当你正在评估的某个模型真的有了托管路由时,把它与生产环境中已在运行的任何模型做对比,不过是一次配置改动,而不是再签一份供应商合同。在这场特定的对比中,这一点尤其重要,因为双方悬而未决的方式如出一辙:Granite 4.2 30B 的基准测试表来自 IBM 自家,且无人复现;而 Granite Switch 4.1 30B 基本上只有一个已公布的数字,完全没有任何独立评估。仅凭模型卡,两者都不配拿到生产环境的一席之地。两者都值得你用自己一周的真实流量去检验。

判决

Granite 4.2 30B 是更好的模型。Granite Switch 4.1 30B 则是更有意思的产物,而它恰恰能告诉你 IBM 认为企业级推理将走向何方——不是更大的模型,而是以更低的成本获得同一套能力,靠的是把廉价适配器组合到一个冻结的基础模型上,并在它们之间共享 KV 缓存。

如果你需要的是答案,就选 4.2 模型。如果你需要的是路由决策、安全判定,以及从同一个流程中得到的转录记录,并且能接受一个落后一代的基础模型,那就选 Switch checkpoint。别理会任何拿彼此分数做比较的人;这些数字衡量的并不是同一件事。