Granite Switch 4.1 30B 与 Nemotron 3.5 Lightning 30B A3B：各自名称中的“Switch”分别意味着什么

这两款模型都在 30B 上下，名字里都带一个听起来像路由的词，但它们拿这个词做的事完全不同。Granite Switch 4.1 30B——权重自 2026 年 10 月 14 日起就在 Hub 上——切换的是适配器：一个稠密基础模型，两个激活式 LoRA 附加件，每个 token 都要跑完整网络。Nemotron 3.5 Lightning 30B A3B，NVIDIA 于 2026 年 8 月 11 日发布，切换的是专家：一个 Mamba-2 与 MoE 的混合堆栈，300 亿参数中每个 token 只有约 30 亿会激活。没有人把两者放在一起做过基准测试，本文也不打算假装做过。真正有用的比较，是每种设计让你在每个 token 上付出多少、又回报你什么。

把这一区别搞清楚并非吹毛求疵，因为这些名称恰恰会让人得出错误的推断。Granite Switch 中的“Switch”指的是一种轻量级 switch 层，它读取输入中的控制 token，并告诉每个解码器层在这段 token 上要应用哪些 LoRA 权重。它不是混合专家路由，也不会把每个 token 的计算量减少哪怕一个 FLOP。NVIDIA 名称中的“A3B”则相反：它明确宣称模型在推理时运行的部分有多么少。

记分牌，逐维度拆解

• 参数 —— Granite Switch 4.1 30B 在 28,865,728,512 的基础上组合为 29,989,814,272（+3.89%）；Nemotron 3.5 Lightning 30B A3B 总参数量为 30B，每个 token 约有 3B 处于激活状态。

• 架构 — 稠密仅解码器 Transformer，加上两个激活的 LoRA 适配器，对比交错式 Mamba-2、MoE 与注意力混合架构。

• 每个 token 的计算量——完整的 30B 稠密前向传播，而激活参数大约只有其十分之一，这正是 A3B 后缀的全部意义所在。

• 上下文 — 在 Switch 检查点上为 131,072 个 token；在 Nemotron Lightning 上最高可达 1M，NVIDIA 记录的单张 H100 上的实际数字为 256K。

• 推理模式 — Switch 聊天模板中没有；而 Nemotron 中有一个可配置的 enable_thinking 开关。

• 音频输入——Switch 型号上内置了 470M 语音编码器；NVIDIA 侧则没有。

• 许可证 —— Apache-2.0 与 OpenMDW-1.1。二者并非同一份文件，下游条款亦不相同；请阅读你实际据以发布的那一份。

• 硬件 — Switch 卡在较窄的版本窗口内列出了 Transformers 和 vLLM；NVIDIA 在文档中说明 Nemotron Lightning 可运行于单块 H100 或 A100 80GB，并提供面向部署的 NVFP4 构建版本。

Granite Switch 检查点究竟能为你带来什么

组合即产品。Granite Switch 4.1 30B 冻结 Granite 4.1 30B，并附加两个适配器——注意力投影上的 rank-16 guardian-core 安全分类器，以及横跨全部七个投影的 rank-64 decision 适配器——外加语音编码器。适配器选择在传入一个 adapter_name 时通过聊天模板进行，因此它是请求参数，而不是第二个服务。

这样换来的是能力密度：一次流程即可产出一份安全判定、一个校准后的选项分布和一份记录，代价是在你本来就要加载的基础模型之上多出 11.2 亿个参数。六个月前，同一个项目发布了一个带十二个适配器的预览版检查点，附加成本为 11.68%；完成版将其缩减为两个，附加成本为 3.89%，这是 IBM 在用覆盖范围换取可读性。另外十个适配器仍然存在，composer 会为你构建一个包含任意子集的检查点。

这些代价恰恰落在你预料的位置上。适配器机制丝毫不会让基础模型变快，因为基础模型是稠密的、原封未动的——每个 token 仍然要跑完整个网络。语音通路仅支持英语、只处理小写、不含标点，而且用 IBM 自己的话说，未与语言模型联合训练，因此一次转写错误就会悄无声息地改变模型所回答的问题。此外，该检查点只以一种精度发布，没有官方量化构建版本；相比之下，NVIDIA 的一款模型其部署推荐的 NVFP4 变体自八月初起就已上架 Hub。

Nemotron 的数字实际上在衡量什么

NVIDIA 为 Nemotron 3.5 Lightning 30B A3B 提供的基准测试表，比 IBM 为 Switch 模型提供的更为完整，而且值得读一读它所附的脚注。这些数字——MMLU-Pro 81.94、GPQA Diamond 75.44、SWE-bench Verified 51.56、Terminal-Bench 2.1 24.58、PinchBench 85.37、长上下文上的 AA-LCR 52.00——被 NVIDIA 描述为是在其自身统一的测试框架下测得的，但附带说明它们可能与其他厂商自报的数字不同。这比大多数模型卡做到的要更诚实，但它仍然使这些数字属于厂商自报。NVIDIA 在 NeMo Gym 中公布了配方，因此这些运行结果可被其他人复现，但这并不等同于其他人已经复现了它们。

更有趣的说法是关于速度而非准确率的那个。一个拥有 3B 活跃参数的 30B 模型，是在押注大多数智能体工作并不需要整个网络在每个词元上都激活，而 NVIDIA 随之为其提供了推测解码——多词元预测头加上 DFlash 和 DSpark 草稿模型——以进一步推高吞吐量。它还把 Lightning 定位为更大规划器之下的执行层，而不是你用来问难题的模型。这一定位是 NVIDIA 的，它也是看待基准测试表的正确视角：真正会体现在账单上的是词元级效率。

把这两个记分牌放在一起的陷阱

Switch 模型的招牌能力只公布了一个数字——Decision Index，v0.3 版，1,068 行的公开快速子集，总体 50.1，其中知识 32.4、语言 58.6、检索 49.8、工具 76.5、艺术 26.4——而 Nemotron Lightning 则有一张完整的基准测试表。把 50.1 与 81.94 或 51.56 并列，是最纯粹意义上的范畴错误。

决策指数（Decision Index）衡量的是决策适配器对一组固定的已标注选项进行排序的效果好坏。它并不衡量基础模型的对话或推理质量，而且适配器也不会修改基础模型。Nemotron 的表格则从知识、推理、编码和长上下文等方面为整个模型打分。不同的维度、不同的评测工具、不同的作者，两者之间没有任何共同的基准测试。两者都是厂商自行报告的数据。二者互不可比，面对这一对数字，唯一诚实的做法就是拒绝把它们相减。

你能合理做的是解读每个的形态。Decision Index 在工具类上为 76.5，而艺术类上为 26.4，这表明这个适配器值得用于工具选择决策，而不应被信任用于开放域分类，除非你自己做过评估。Nemotron 在 SWE-bench Verified 上的 51.56，对比同一表格中最佳的 70.12，告诉你它并不是自身对比集中最强的编程代理——NVIDIA 把竞争对手更高的数字放进了自己的表格，这至少是一个值得重视的信号。

哪个，为什么

如果你面对的问题是长时间运行的智能体循环，需要做出成千上万个简短的工具有关决策，那么参数经济性就指向一个方向：单个 GPU 上的 3B 激活 MoE 完成这项工作的每 token 成本，只是稠密 30B 的一小部分，而 Switch 模型没有任何机制能弥合这一差距，因为它的“switch”从不减少计算量。再加上 1M 上下文和推理开关，NVIDIA 的模型简直就是为这种工作负载而打造的。

如果你的问题是：一个进程必须回答用户、输出一个经过校准的路由决策，并转写用户所说的话，那么这笔账就反过来了。Nemotron 3.5 Lightning 完全没有决策头，也完全没有音频通路，而提示一个聊天模型“请用一个字母回复”并不是一个经过校准的分布。Granite Switch 4.1 30B 用一个检查点就把这三样都交给你，相比其基础版本只多不到 4% 的权重，而这是一种你无法通过挑选更好的模型就能买到的能力。

诚实的第三种情况其实最常见：你根本不是在这两者之间做选择。两者都是自托管产物，都是 Apache-2.0 或 OpenMDW-1.1，而不是托管端点，而且两者都没有经过独立评估。Granite Switch 4.1 30B 才发布两天，只有一个已公布的数字；Nemotron 3.5 Lightning 已发布两个月，有厂商表格和已公开的配方。这不足以作为规划迁移的依据。

无需迁移也能获得真正的答案

今天 OrcaRouter 目录里这两个模型都没有，所以两者都意味着你要用自己的硬件、走厂商自己的发布渠道——Switch 检查点走 IBM，Lightning 走 NVIDIA。要是说成别的，那就等于凭空发明了一个端点。

平台的价值所在，在于候选方案的测试成本应当足够低。一个密钥即可覆盖 200 多个模型，并支持自动故障转移，且按提供商标价透传，0% 加价，因此当通往上述任一模型的托管路径出现时，把它与已在生产环境中运行的模型并列部署，只是一次配置变更，而非一轮采购流程。面对两个 30B 开放权重模型——它们在纸面上看起来都合情合理，而各自厂商之外又无人实际测量过——真正重要的决策并不是你相信哪张卡。而是你能以多低的成本找到答案。

底线

Granite Switch 4.1 30B 和 Nemotron 3.5 Lightning 30B A3B 参数量相同，除此之外几乎毫无共同点。一个是带有可切换适配器的稠密基础模型，每个进程可承担三项任务，且每个 token 都按完整稠密计算量运行；另一个是稀疏混合模型，旨在让每个 token 的成本尽可能低，并能在单块 GPU 上运行长循环。要依据工作负载的形态来选择，而不是依据基准测试表——如果只从本文记住一件事，请记住名称中蕴含的纠正：适配器切换换来的是能力，专家稀疏换来的是吞吐量，而这里的任何模型都不能同时换来两者。