Granite Switch 4.1 8B 与 Gemma 4 12B：组合式专家模型，还是单一统一模型？

如果你问两个实验室如何构建一个既能对话、又能读懂截图、还能转写语音消息的模型，你会得到截然相反的答案。Granite Switch 4.1 8B由 IBM 于 2026 年 10 月 14 日发布，它保留一个冻结的 8B 文本模型，并在其外部挂载可切换的小型适配器，因此安全检查器、决策引擎和语音识别器都只是附加在同一个共享主干之上的外挂组件。Gemma 4 12B由 Google 于 2026 年 5 月 23 日发布，做法则恰恰相反：一个从训练之初就横跨文本、图像和音频的 119.5 亿参数模型，无需接入任何独立的编码器。两者都采用 Apache-2.0 许可，都能在单块 GPU 上运行，但在底层几乎在一切方面都意见相左。

先说实用结论，细节在后：Gemma 4 12B 是成熟之选，对于任何需要看的场景来说都是如此，因为它已公开五个月，拥有真正庞大的安装基础，而且其多模态路径是训练出来的，而不是拼接出来的。Granite Switch 4.1 8B 是有意思的选择，适合任何需要做决定，或者需要只运行一个端点而不是三个的场景；它才面世两天，没有任何独立评估。这些并非相互对立的结论——它们回答的是不同的问题，而本文余下部分就是细节，让你分辨自己实际面对的是哪个问题。

架构上的分裂，直白地说

Granite Switch 4.1 8B 是一个组合体。其基础是 Granite 4.1 8B——40 层，隐藏维度 4,096，32 个查询头对 8 个 KV 头，131,072 token 的窗口，100,352 token 的词表，而两个适配器恰好为其新增了三个预留 id。在此之上叠加了两个激活的 LoRA 适配器，guardian-core以秩 16 作用于注意力投影，以及decision以秩 64 作用于全部七个投影，另加 Granite Speech 5.0 TurboCTC——一个 4.7 亿参数的非自回归 conformer 编码器，用于音频输入。总计：8,776,400,896 个参数，而基础模型为 8,380,551,168 个——为两个适配器和一个语音模型带来了 4.72% 的增幅。

Gemma 4 12B 是一个单一堆栈。配置中称其为 gemma4_unified，而这个名称名副其实：图像、音频和视频都在同一个 262,144 token 的词表中拥有各自的 token ID，并且模型卡将这种架构描述为无编码器，意味着没有单独的视觉塔或音频塔将投影馈入语言模型。它将基于 1,024 token 窗口的滑动窗口局部注意力与完整的全局注意力交错使用，使用 p-RoPE 处理位置，并可扩展至 256K 上下文。许可证为 Apache-2.0，与 Granite 一样。

• 参数 — Granite Switch 4.1 8B：8.78B 组合（8.38B 基础）。Gemma 4 12B：11.95B。

• 上下文 — 131,072 个 token 对比 256,000 个 token。

• 词汇表——100,355 对比 262,144，其中 Gemma 的词表预留用于图像、音频和视频 token。

• 中的模态——文本和音频对比文本、图像、音频和视频。

• 输出模态——仅文本 vs 仅文本。

• 专用头——经过校准的决策分布和一个安全分类器，对比二者皆无；Gemma 作答，而不对选项标签打分。

• 许可证 — 两者均为 Apache-2.0。

Gemma 4 12B 完胜之处

视觉能力根本不在一个量级。Gemma 4 12B 原生支持读取图像；Granite Switch 4.1 8B 则完全没有图像处理通路。如果你的流水线需要摄入截图、PDF、图表或 UI 界面截图，那么比较到此就结束了——无论适配器多么巧妙，都无法弥补检查点根本不接受的模态。

过往记录是第二点。Gemma 4 12B 自 2026 年 5 月 23 日起就在 Hub 上，其 instruct 版本下载量已突破 160 万；仅基础检查点就已超过 79,000。这两个数字都是 Hub 下载量，而非使用量，因此会高估实际部署情况，但方向毫不含糊：已有大量用户踩过它的失败模式并写过相关内容。截至撰写本文时，Granite Switch 4.1 8B 才发布两天，下载量只有几十次，点赞也寥寥无几。五个月的公开 bug 报告是你买不到的资产，也是本季度在生产路径上选择 Gemma 的最有力单一论据。

上下文长度排在第三，而且是不声不响的那一项。当你输入长文档时，256K 对 131,072 可不是营销上的差别。对于典型的聊天负载，两个模型都不需要变通方案，但只有其中一个能在无需分片的情况下承载代码仓库级别的上下文。

Granite Switch 4.1 8B 在哪些方面完胜

决策适配器是另一个模型根本不具备的一项能力。给它一个状态，以及一个带有带标签选项的问题，它就会在单次前向传播中返回这些标签上的校准 softmax——文档记载的调用会向 vLLM 请求恰好这些标签 token id 的 logprobs，并对其取指数，从而产生形如 A: 0.982、B: 0.0035、C: 0.014 的输出。通用模型可以通过提示让它选择一个标签，但提示产生的是一个 token，而不是一个你可以设阈值、跨轮次比较或作为校准分数记录的分布。对于路由逻辑、分诊、升级阈值，以及任何需要置信度值而非答案的场景，那是另一类输出。

单端点整合是第二点。语音转写与聊天和决策运行在同一个端点上；你在一次普通的聊天补全中发送一个 input_audio 内容部分，470M 编码器会先将其转写，再把文本拼接进上下文。不需要第二台服务器，不需要编排层，也没有单独的 ASR 账单。Gemma 4 12B 也支持音频，所以这不是能力差距——而是部署形态上的差异，只有当你原本打算在 LLM 旁边再运行一个独立的语音服务时，它才有影响。

占用空间排在第三。8.78B 对 11.95B，需要持有的权重大约少了四分之一，而共享 KV 缓存设计意味着各适配器无需各自携带自己的注意力状态。IBM 声称，组合模型占用的显存与仅基础模型大致相同；这一具体说法尚未被复现，但其背后 4.72% 的参数差异是构建清单中的事实。

Granite 一方尚未成为事实的两项说法

已公布的 Decision Index 数值，就 决策适配器而言，在 edition-v0.3 公开快速子集的 1,068 行上总体为 42.9，各领域得分为 Knowledge 29.1、Language 48.9、Retrieval 49.8、Tools 59.8 和 Arts 18.0。该评测由 IBM 执行，也由 IBM 发布。除此之外无人复现过这一结果，Granite Switch 在第三方排行榜上更是完全没有条目。还要看它的得分形态：Tools 59.8 与 Arts 18.0 并置，是一种专精型画像，而非通用能力得分；而且模型卡明确指出，在该适配器未经训练的领域上，应把选项概率当作先验，而不是经过认证的分类结果。

第二个是语音通路，而这是最容易被过度解读的说法。该编码器仅支持英语，其输出为小写且没有标点，而且——用IBM在模型卡中的原话来说——语音编码器与LLM并未联合训练；不存在将二者耦合起来的已训练投影。Gemma 4 12B的音频通路是作为模型的一部分接受训练的。这才是真正的区别，而且它经受得住所有关于端点整合的说辞：一个系统在声音与意义之间具有经过训练的耦合，另一个系统的转写文本则是由一个从未针对读取它的那个组件进行过优化的组件拼接进提示词的。

并排运行它们

两个检查点都可下载，且均采用 Apache-2.0 许可；诚实的说法是，它们属于不同的定位，而不是同一场比拼中的对手。当输入包含像素时，Gemma 4 12B 就是你要选用的模型。当输出需要是一个概率时，或者当你希望一个端点同时承担聊天、决策和转录，并且愿意接受转录那一半是拼接而非训练出来的通路时，Granite Switch 4.1 8B 就是你要选用的。

如果你正在对两者做基准测试，那就在不重新改造技术栈的前提下进行。OrcaRouter 通过一个 API 密钥暴露 200 多个模型，并支持自动故障转移，以 0% 加价按供应商标价透传，因此供应商一侧的价格变动当天就会反映到这里，而不是等到下一次目录刷新。img src="4.png" alt="OrcaRouter 模型页面截图，展示 Gemma 4 26B A4B，该模型带有 Vision、Tools、JSON 和 Reasoning 标签，具备 262K token 上下文，支持文本、图像和视频输入，Google 发布日期为 2026-04-03，每百万 token 价格为输入 $0.06、输出 $0.33，p50 首 token 时间为 2.74 秒，并附有介绍性文案，将 Gemma 4 26B A4B IT 描述为一个指令微调的专家混合模型，总参数为 25.2B，其中每个 token 激活 3.8B。" /> 今天我们的目录中并不包含这两个检查点，我们也不会假装不是这样——Granite Switch 是一个 Hugging Face 下载加一个 vLLM 容器，Gemma 4 12B 也是如此。把候选模型放到一个密钥后面的意义在于：当它真正可用时，在你自己的流量上把它与现有模型做比较，代价只是一个模型字符串，而不是一次迁移。可以看看我们确实在提供的一些模型，比如 Gemma 4 26B A4B，把它当作桥梁：它与你正在评估的模型属于同一家族，而且今天就已经托管在某个端点上。

哪一个，给谁

如果你的工作负载涉及像素，如果 256K 上下文不可或缺，或者如果你本季度就要上线，并希望在你与生产环境之间隔着别人五个月踩过的坑，那就选 Gemma 4 12B。如果你需要的是对带标签选项的校准分布，而不是一个答案；如果能把聊天、决策和语音合并到一个端点，从而从架构中去掉一个服务；或者如果你是那种想阅读构建清单并组合自己变体的团队——composer 是公开的，适配器目录也是开放的，那就选 Granite Switch 4.1 8B。

不要为了视觉能力去选 Granite Switch 4.1 8B。它根本没有视觉能力。也不要因为它们中任何一个在一个你自己没有亲自跑过的基准测试数字上的表现就做出选择，因为这次比较中唯一可作为决策依据的分数是厂商自行报告的，背后没有任何第二方意见——这是对证据状态的说明，而不是对模型的评价。