一張生成的標題卡,標題為「Granite Switch 4.1 30B 對上 Granite 4.2 30B」,副標題是「兩個位於不同層次的 IBM 30B 模型:一個是組合層,另一個是推理模型」,並有兩張圓角卡片,分別寫著「Switch 4.1 30B/組合層」和「Granite 4.2 30B/推理模型」;頁腳寫著「Switch 權重日期為 2026 年 10 月 14 日;Granite 4.2 卡片標示為 2026 年 8 月 25 日」,並註明兩者皆採用 Apache-2.0,OrcaRouter 標誌則合成於圖稿下方的白色長條中。
Guides & Insights

Granite Switch 4.1 30B 與 Granite 4.2 30B:兩款互不競爭的 IBM 30B

作者

Alistair Wren

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

把 Granite Switch 4.1 30B 與 Granite 4.2 30B 放在一起時,最尷尬的地方在於:它們並非同一類產物,因此大多數正面對決式的框架一碰到現實就站不住腳。Granite 4.2 30B 是一個模型——IBM 以 Apache-2.0 授權發佈的稠密 30B 推理器,具備思考模式與代理式工具呼叫能力。而權重於 2026 年 10 月 14 日釋出的 Granite Switch 4.1 30B,則是一個執行環境:它將 Granite 基礎模型凍結,接上可切換的轉接器,讓你從單一檢查點獲得三種能力。你不是像在兩個模型之間做選擇那樣在它們之間取捨,而是選擇你要一個模型,還是一層組合層。

話雖如此,在這個範疇錯誤底下,其實藏著一個真正的抉擇,而且它與基準測試毫無關係。Switch 4.1 30B 是以 Granite 4.1 30B 為基礎打造。Granite 4.2 30B 是同一家族中更新的一代,而且就實際可量測的表現而言,它是更強大的通用模型。因此,真正的問題在於:切換機制是否值得放棄一個世代的基礎模型——而這個答案會因你是在呼叫模型,還是在將模型出貨而有所不同。

並排對比,逐項比較

• 這是什麼——Switch 4.1 30B 是一個組合式檢查點(凍結的基礎模型 + 兩個已啟用的 LoRA 適配器 + 一個語音編碼器);Granite 4.2 30B 則是單一的稠密僅解碼器模型。

• 參數 — Switch 4.1 30B 組合後為 29,989,814,272,相對於 28,865,728,512 的基準值,差異為 +3.89%;Granite 4.2 30B 是 30B 稠密模型,因為沒有配接器,所以沒有配接器額外負擔。

• 上下文 — 兩者原生皆支援 131,072 個 token,而 IBM 的文件記載 Granite 4.2 一側可將長上下文延伸至 512K。

• 思考模式 — Granite 4.2 30B 在 <think> 標籤內具有明確的思維鏈,並可選擇投入程度;Switch 4.1 30B 則沒有將推理模式接入聊天範本。

• 不只文字 — Switch 4.1 30B 可接受音訊並回傳轉錄稿以及經校準的決策分布;Granite 4.2 30B 則兩者皆不支援。

• 量化 — Granite 4.2 30B 提供 BF16,以及 FP8、NVFP4、MXFP4、GGUF 與 MLX 版本;Switch 檢查點僅以單一精度發布,截至撰寫時尚無官方量化版本。

• 授權 — 兩者皆採用 Apache-2.0。

• 已公布的成績 — Granite 4.2 30B 有完整的基準測試表(由廠商自行執行);Switch 4.1 30B 只有一個數字,也就是 Decision Index,而且它衡量的完全是另一回事。

Granite 4.2 30B 徹底勝出之處

就通用能力而言,這根本不在同一個級別,而且本來也不是要拿來相提並論的。IBM 自家針對 Granite 4.2 30B的模型卡指出,其在 MMLU-Pro 拿到 77.60、AIME 2025 為 89.17、GPQA 為 66.41,SWE-bench Verified 為 57.00,Terminal-Bench 2.1 則是 29.24——這些全都是廠商自行回報的數字,是在 IBM 自家評估框架上、透過以 NeMo 為基礎的測試工具跑出來的,IBM 以外沒有任何單位重現過。就算把這些數字當成廠商單方面的說法,它們仍然是任一模型現存唯一的比較數據。

結構上的重點比分數更重要。Granite 4.2 30B 是以代理式強化學習訓練而成的推理模型,而且隨附周邊工具:針對人們實際擁有硬體的量化版本、長上下文擴充途徑,以及有文件記載的思考模式切換功能。Granite Switch 4.1 30B 則是將凍結的基礎模型與適配器組合而成,而其底層的基礎模型還舊了一個世代。如果你想要單一模型好好回答困難問題,較新的稠密模型正是你要的。

Granite Switch 4.1 30B 徹底勝出之處

三個地方,而沒有一個是基準點。

第一點是,它回答的是不同形狀的問題。決策轉接器接收一個狀態,以及一個帶有標記選項的問題,並在單次前向傳遞中,回傳這些標籤上的校準機率分布——卡片上的範例回傳的結果大致像 A: 0.982、B: 0.0035、C: 0.014。那不是你用正規表達式解析的聊天補全結果。依據選項 logits 的 softmax 來做路由,和請求模型「請用一個字母回覆」是不同的操作,而整體設計就是要讓校準後的讀出結果能在機器上不必安裝第二個模型就取得。

第二個是音訊。內嵌的 470M Granite Speech 5.0 TurboCTC 編碼器會轉錄傳入的音訊,並將轉錄文字拼接進聊天情境中,取代音訊內容部分,因此語音請求就是帶有 input_audio 部分的正常聊天請求。這是不是個好主意,完全取決於 IBM 寫進自家模型卡的一個但書:編碼器與語言模型並非聯合訓練,沒有經過訓練的投影將兩者耦合,而且輸出僅限英文、全小寫且無標點。轉錄錯誤會在無聲無息中改變模型所回答的問題。

第三項是參數額外開銷,而這個數字會比這次發行版本存續得更久。組合後的檢查點比基礎模型大 3.89%,因為每個適配器都讀取基礎模型的 KV 快取,而不是維護自己的注意力狀態。在傳統的多適配器設定中,你切換的每個適配器都是一組額外的注意力狀態,而記憶體帳單會隨數量成長。在這裡,你要為安全分類器、決策引擎和語音編碼器付出 11.2 億個額外參數,而切換本身是一個由聊天範本解析的請求參數——不是需要啟動並保持預熱的第二個部署。

A generated comparison scoreboard card titled 'Granite Switch 4.1 30B vs Granite 4.2 30B — the scoreboard' with two columns of six matching rows. Left column 'Granite Switch 4.1 30B': kind composition layer, parameters 29.99B (+3.89% over base), context 131K, thinking mode none, audio input yes, official quantizations none. Right column 'Granite 4.2 30B': kind single dense model, parameters 30B dense, context 128K native extending to 512K, thinking mode yes, audio input no, official quantizations FP8, NVFP4, MXFP4, GGUF and MLX. The footer reads 'Switch structure from its published BUILD.md; Granite 4.2 card figures vendor-reported.' The OrcaRouter logo is composited in the white strip below the artwork.

數字中的陷阱:50.1 並不是較小的 77.60

最可能誤讀這一組數字的方式,就是把 Switch 模型的 50.1拿來跟 Granite 4.2 30B 的 77.60並列,然後斷定 Switch 模型只有那個模型的三分之二。這兩個數字描述的並不是同一件事,這樣的比較毫無意義。

50.1 是 Decision Index 分數——版本 v0.3,1,068 列的公開快速子集——衡量決策適配器對已標註選項的排序表現,並附有各領域細分:知識 32.4、語言 58.6、檢索 49.8、工具 76.5 與藝術 26.4。這是一個適配器執行單一任務的分數,完全沒有說明其下基礎模型的聊天品質,因為它底下的基礎模型並未被該適配器改動。77.60 是 MMLU-Pro,一項針對整個模型的通用知識基準測試。不同的評估軸向、不同的測試框架、不同的作者。這兩個數字唯一正確的用途,是作為關於各自實際所測量之對象的證據。

讀 Decision Index 的整體形狀,而不是只看它的頭條數字,你就能得到真正有用的資訊:Tools 拿 76.5,旁邊是 Arts 的 26.4,這說明這個 adapter 值得用在工具選擇類的決策上,而在未自行評估前,不該信任它在創意或開放領域分類上的表現。這句話比任何總分都更能指引行動。

A screenshot of the ibm-granite/granite-4.2-30b model card on Hugging Face, showing an Apache-2.0 licence, a text-generation pipeline tag with reasoning, thinking and tool-calling tags, a base model of ibm-granite/granite-4.1-30b-base, a stated parameters figure of 30B with 128K native context extending to 512K, a built-in think-tag reasoning mode, a release date of August 25, 2026, and a link to the Granite 4.2 technical blog.

究竟是什麼決定了它

如果你正在呼叫一個模型——一個端點、一個提示、一個答案——Granite 4.2 30B 是更新且更好的模型,沒有理由繞過 Switch 檢查點來取得它。

如果你要推出其中一款,計算方式就不同了。否則,打造必須回答、決策與轉錄之系統的團隊,就得執行三個行程,各自有三種延遲與三種記憶體佔用量;Switch 建置版本則會將其收斂成單一檢查點,成本比它所取代的基礎版本高出 3.89%。至於需要針對固定標籤集取得經校準機率的團隊,Granite 4.2 30B 完全沒有對等方案,而以提示詞要求它也不是同一回事。

問題在於基礎模型。購買組合層就意味著要接受第一代的基礎模型,而目前並沒有任何以 Granite 4.2 基礎模型建構的 Switch checkpoint。IBM 表示更多資料會在「接下來幾週內」到來,並將 composer 描述為前進之道——任何人都能使用 granite-switch 工具,從任何 Granite 基礎模型與任何 adapter 子集建構 Switch checkpoint。IBM 是否會為 4.2 系列這麼做,才是值得關注的事,因為那樣的發布將會徹底消除這整個取捨。

A screenshot of the ibm-granite/granite-switch-4.1-30b model card on Hugging Face, showing a text-generation pipeline tag, tags reading granite_switch, granite-switch, granite-4.1 and conversational, an Apache-2.0 licence, a release date of October 14, 2026, and a summary naming the base model as ibm-granite/granite-4.1-30b at 30B parameters and 128K context, two adapters called decision and guardian-core, and an embedded English speech-to-text path.

兩者同時運行,但不押注於任何一方

目前 OrcaRouter 目錄中都沒有這兩個模型,因此兩者都意指你自己的硬體與 IBM 的發布通道。這一點值得直白說明,而不是暗示有託管端點存在。

這個平台改變的是「弄清楚真相」的成本。 一把金鑰就能涵蓋 200 多個模型,並具備自動容錯移轉,而且 供應商定價以原價直通、零加成,所以當你正在評估的模型真的有了託管路徑時,拿它與任何已經在正式環境中運行的東西相比,只需要改一項設定,而不是再簽一份供應商合約。在這次的特定對決中,這點格外重要,因為雙方都有同樣懸而未決的問題:Granite 4.2 30B 的基準測試表出自 IBM 自家,且未經重現,而 Granite Switch 4.1 30B 基本上只有一個已公布的數字,完全沒有任何獨立評估。兩者都不該單憑模型卡就值得佔用正式環境的一席之地。兩者都值得你用一週自己的實際流量來驗證。

裁決

Granite 4.2 30B 是更好的模型。Granite Switch 4.1 30B 則是更有趣的產物,而它正是能告訴你 IBM 認為企業推論將走向何方的那一個——不是更大的模型,而是以同一組能力換得更低的帳單,靠的是把便宜的轉接器組合到一個凍結的基礎模型上,並讓它們共享 KV 快取。

如果你要的是答案,就選 4.2 模型。如果你要的是路由決策、安全判定,以及從單一流程產出的逐字稿,而且你能接受一個落後一個世代的基礎模型,就選 Switch 檢查點。別理會任何把兩者分數拿來互相比較的人;那些數字衡量的不是同一件事。