Granite Switch 4.1 30B 與 Nemotron 3.5 Lightning 30B A3B：每個名稱中的「Switch」代表什麼意思

這兩個模型都大約是 30B，名稱中都有一個聽起來像路由的字，但他們用它做的事情卻完全不同。Granite Switch 4.1 30B——權重自 2026 年 10 月 14 日起已在 Hub 上——切換的是適配器：一個稠密基礎模型、兩個啟用式 LoRA 附加元件，每個 token 都跑完整個網路。Nemotron 3.5 Lightning 30B A3B，NVIDIA 於 2026 年 8 月 11 日發布，切換的是專家：一個混合 Mamba-2 與 MoE 的堆疊，其中在 300 億個參數裡，每個 token 只有約 30 億個會啟動。沒有人拿這兩者相互做基準測試，而本文也不會假裝有。真正有用的比較，是每種設計讓你每個 token 付出多少成本，以及它回饋了什麼。

把這項區別弄清楚並不是吹毛求疵，因為這些名稱恰恰會誘使人做出完全錯誤的推論。Granite Switch 中的「Switch」指的是一個輕量化的切換層，它會讀取輸入中的控制 token，並告訴每個解碼器層要在那段 token 範圍內套用哪些 LoRA 權重。它不是混合專家路由，也不會讓每個 token 的運算量減少哪怕一個 FLOP。NVIDIA 名稱中的「A3B」則恰恰相反：它明確宣稱模型在推論時實際運行的部分有多小。

記分板：逐維度檢視

• 參數 — Granite Switch 4.1 30B 以 28,865,728,512 為基礎組成 29,989,814,272（+3.89%）；Nemotron 3.5 Lightning 30B A3B 總計為 30B，每個 token 約有 3B 活躍參數。

• 架構 — 稠密、僅含解碼器的 Transformer 加上兩個已啟用的 LoRA 適配器，對比交錯式 Mamba-2、MoE 與注意力混合架構。

• 每個 token 的計算量 — 完整的稠密 30B 前向傳遞，對比之下，作用中的參數大約只有其十分之一，而這正是 A3B 後綴的重點所在。

• 上下文 — 在 Switch 檢查點上為 131,072 個 token；在 Nemotron Lightning 上最高可達 1M，NVIDIA 並將單張 H100 上的 256K 記載為實際數值。

• 推理模式 — Switch 聊天範本中沒有；可設定的 enable_thinking 切換開關（Nemotron 的範本才有）。

• 音訊輸入 — Switch 機型內建 470M 語音編碼器；NVIDIA 端則無。

• 授權條款 — Apache-2.0 與 OpenMDW-1.1。這兩者並非同一份文件，且下游條款各異；請閱讀你實際據以發布的那一份。

• 硬體 — Switch 卡將 Transformers 與 vLLM 列於狹窄的版本區間內；NVIDIA 的文件說明 Nemotron Lightning 可在單張 H100 或 A100 80GB 上運行，並提供專為部署而設計的 NVFP4 建置版本。

Granite Switch 檢查點實際上為你帶來什麼

這個組合本身就是產品。Granite Switch 4.1 30B凍結 Granite 4.1 30B，並附加兩個轉接器——一個是位於注意力投影上、rank-16 的 guardian-core 安全分類器，另一個則是 rank-64 的 decision 轉接器，涵蓋全部七個投影——再加上語音編碼器。當你傳入 adapter_name 時，轉接器的選擇會透過聊天模板進行，因此它是請求參數，而非第二個服務。

這麼做換來的是能力密度：一個安全判定、一份校準過的選項分布，以及由同一道流程產出的逐字稿，代價是在你原本就打算載入的基礎模型之上，多出 11.2 億個參數。六個月前，同一個專案推出了一個預覽檢查點，附帶十二個適配器，額外成本為 11.68%；完成版則縮減為兩個，成本降至 3.89%，這是 IBM 以覆蓋率換取可讀性。其他十個適配器依然存在，而 composer 可以為你建構出含有任意子集的檢查點。

這些成本正好落在你預期的位置。轉接器機制完全不會讓基礎模型變快，因為基礎模型是稠密且未經改動的——每一個 token 仍然要跑完整個網路。語音路徑僅限英文、全小寫、不加標點，而且用 IBM 自己的話來說，並未聯合訓練與語言模型，因此一旦轉錄出錯，就會悄悄改變模型所回答的問題。此外，這個檢查點只以單一精度發布，沒有官方的量化版本；相較之下，NVIDIA 的模型自八月初起，就已在 Hub 上提供建議部署使用的 NVFP4 變體。

Nemotron 的數字實際上在衡量什麼

NVIDIA 為 Nemotron 3.5 Lightning 30B A3B 製作的基準測試表，比 IBM 為 Switch 模型製作的更完整，而附在表下的註腳值得一讀。這些數字——MMLU-Pro 81.94、GPQA Diamond 75.44、SWE-bench Verified 51.56、Terminal-Bench 2.1 24.58、PinchBench 85.37、長脈絡下的 AA-LCR 52.00——被 NVIDIA 描述為在其自家一致的測試框架下測得，並附帶一項但書：這些數字可能與其他廠商自行回報的數據不同。這樣的表述方式比大多數模型卡都來得誠實，但這些數字終究仍是廠商自行回報的。NVIDIA 在 NeMo Gym 中公布了配方，讓其他人能夠重現這些執行結果，但「可被他人重現」並不等同於「已由他人重現過」。

更耐人尋味的主張，是關於速度而非準確性的那項。一個擁有 30B 參數、其中 3B 為作用中參數的模型，是在押注大多數代理式工作不需要整個網路在每個 token 上都啟動；而 NVIDIA 隨之推出推測解碼——多 token 預測頭，加上 DFlash 與 DSpark 草稿器——以進一步推升吞吐量。它也將 Lightning 定位為較大型規劃器底下的執行層，而不是你拿來問難題的模型。那樣的定位是 NVIDIA 的定位，而這也是看待基準測試表的正確視角：token 層級的效率，才是會出現在帳單上的東西。

把這兩個計分板放在一起的陷阱

針對 Switch 模型的招牌能力，官方只公布了一個數字——Decision Index，v0.3 版，1,068 列的公開快速子集，整體 50.1，其中 Knowledge 32.4、Language 58.6、Retrieval 49.8、Tools 76.5、Arts 26.4——而 Nemotron Lightning 則有一份完整的基準測試表。把 50.1 擺在 81.94 或 51.56 旁邊，會是最純粹不過的範疇錯誤。

決策指數（Decision Index）衡量的是決策轉接器對一組固定的標註選項進行排序的表現有多好。它並非衡量基礎模型的聊天或推理品質，而且基礎模型並未因該轉接器而有所修改。Nemotron 的表格則是就知識、推理、程式設計與長脈絡等面向為整個模型評分。不同的軸向、不同的測試框架、不同的作者，而且兩者之間沒有任何共用的基準測試。兩者都是廠商自行回報的數據。兩者無法互相比較，而面對這組數據，唯一誠實的做法就是拒絕將它們相減。

你可以合理去做的是讀取輪廓，也就是每一個的輪廓。Decision Index 在 Tools 上拿到 76.5，對比 Arts 上的 26.4，說明這個適配器值得指向工具選擇類的決策，而在未經你自己評估的情況下，不該信任它在開放領域分類上的表現。Nemotron 在 SWE-bench Verified 上的 51.56，對比同一張表上的最佳成績 70.12，告訴你它並不是它自己所屬比較組中最強的程式碼代理——NVIDIA 把競爭對手更高的數字放進了自己的表格裡，這至少是個值得重視的訊號。

哪一個，做什麼用的？

如果你的問題是漫長的 agent 迴圈，要執行數千個簡短的工具決策，參數經濟學指向一個方向：單一 GPU 上一個 3B 活躍參數的 MoE，會以每 token 成本僅為稠密 30B 一小部分的代價完成那項工作，而 Switch 模型沒有任何機制能縮小這個差距，因為它的「switch」從不會降低運算量。再加上 1M 上下文和推理切換開關，NVIDIA 的模型就是專為這種工作負載打造的。

如果你的問題在於：單一流程必須回覆使用者、輸出經過校準的路由決策，還要轉錄使用者的話，那麼這筆算術就會整個反過來。Nemotron 3.5 Lightning 完全沒有決策頭，也完全沒有音訊路徑，而請一個聊天模型「拜託用一個字母回覆」並不是一組經過校準的分布。Granite Switch 4.1 30B 用同一個檢查點就把這三件事全都交到你手上，權重只比它的基礎版本多了不到 4%，而這種能力不是靠挑一個更好的模型就能買到的。

老實說的第三種情況才是最常見的：你根本不是在這些之間做選擇。兩者都是自架構成品，採用 Apache-2.0 或 OpenMDW-1.1，而非託管端點，而且兩者都未經獨立評估。Granite Switch 4.1 30B 才推出兩天，只有一個已公布的數字；Nemotron 3.5 Lightning 已推出兩個月，有一份廠商表格和已公布的配方。這樣並不足以規劃遷移。

不進行移轉也能獲得真正的答案

目前這兩個模型都不在 OrcaRouter 的目錄裡，所以兩者都代表你得用自己的硬體，並透過供應商自家的發布管道取得——Switch 檢查點要走 IBM 的管道，Lightning 則要走 NVIDIA 的。若說不是這樣，那等於是在憑空捏造一個端點。

平台的價值所在，在於候選模型應該要能便宜地測試。一組金鑰涵蓋 200 多個模型，並具備自動容錯移轉，而且以 0% 加成直接沿用供應商定價，因此當任一個模型的代管路由出現時，把它放在已投入生產的模型旁邊，只是更改設定，而不是跑一趟採購流程。面對兩個在紙面上看起來都合理、且各自廠商以外沒有人實際測量過的 30B 開放權重模型，真正重要的決定不是你要相信哪一張卡。而是你能多便宜地找出答案。

底線

Granite Switch 4.1 30B 與 Nemotron 3.5 Lightning 30B A3B 的參數數量相同，除此之外幾乎沒有一點相同。一個是帶有可切換適配器的稠密基礎模型，讓每個行程能處理三項工作，且每個權杖都享有完整的稠密運算；另一個則是稀疏混合模型，設計目標是讓每個權杖的成本盡可能低，並能在單一 GPU 上執行長時間的迴圈。要依工作負載的形態來選擇，而不是依基準測試表——如果你只從這篇文章帶走一件事，那就帶走名稱中的糾正：適配器切換為你換來能力，專家稀疏性為你換來吞吐量，而這裡沒有任何模型能同時給你兩者。