Granite Switch 4.1 30B：IBM 將十二個轉接器縮減至兩個

五個月前，IBM 在 Hugging Face 上放出了 30B Granite Switch 預覽版，裡面含十二個轉接器，相較於基礎模型有 11.68% 的參數附加負擔。2026 年 10 月 14 日，完成版模型登場——Granite Switch 4.1 30B——它恰好只有兩個轉接器，以及 3.89% 的附加負擔。那個頭條數字少了三分之二，而這就是這次發布的重點。

精確來說，所謂「arrived」是什麼意思，因為許多報導正是在這裡變得馬虎：權重於 2026 年 10 月 14 日上架到 Hub，而 IBM 自家的發布文章，Granite Switch 4.1：從單一端點提供聊天、決策與語音，於 10 月 15 日刊出。那是在本文撰寫的兩天前。這是正式公告的發布，不是有人在鏡像站發現的悄悄上架，也不是 5 月預覽版的重新上架——產物不同、適配器數量不同，而且預覽版根本沒有音訊路徑。以下內容會區分哪些是你能直接從儲存庫讀到的，哪些只是 IBM 說過的話。

檢查點裡實際上包含什麼？

Granite Switch 4.1 30B是一個組合，而非全新架構。它取用 Granite 4.1 30B——一個稠密的純解碼器 transformer，131,072 個 token 的視窗，100,352 個 token 的詞彙表——將其凍結，再拴上兩個 activated-LoRA 轉接器以及一個語音編碼器。建置清單與權重一同簽入儲存庫中，因此下文每一項結構性主張都是可直接閱讀的，而非僅憑轉述。

• guardian-core——aLoRA，秩 16，alpha 64，僅附加於注意力投影（k_proj, o_proj, q_proj, v_proj），從 Guardian Library 提取並指向傷害、越獄、褻瀆、暴力、色情內容、社會偏見及不道德行為。控制 token <|guardian-core|>，id 100352。

• 決策——aLoRA，秩 64，alpha 128，附加到全部七個投影（包括 MLP），並訓練來執行比聊天更狹窄的任務：給定一個狀態和一個帶有標籤選項的問題，在一次前向傳遞中回傳這些標籤上的校準機率分布。控制符元 <|decision|>，id 100353。

• 語音 — granite-speech-5.0-470m-turboctc，一個 470M 參數的非自迴歸 conformer CTC 編碼器，僅支援英文，接入為音訊輸入路徑，而非第二個服務。

權重計算是這個版本中最乾淨俐落的數字。基礎版本：28,865,728,512 個參數。組合後：29,989,814,272。差異為 1,124,085,760 個參數，即 +3.89%。你不需要自己撰寫控制權杖——當你傳入一個 adapter_name 參數時，聊天範本會自動插入它們，這意味著切換能力只是一項請求參數，而非第二次部署。

預覽版隨附了十二個配接器。正式版隨附兩個。

這是個值得理解的決策，因為表面上看起來像是退步。這個預覽檢查點——仍在 Hub 上，仍是 Apache-2.0，日期為 2026 年 5 月 5 日——搭載了來自三個 Granite Libraries 的十二個轉接器：引用、查詢改寫、查詢釐清、幻覺偵測、可答性、事實性偵測、政策護欄、事實性修正、guardian-core、不確定性、需求檢查與上下文歸因。這確實是套實用的組合，而且是你必須仔細推敲的組合，因為十二個轉接器意味著十二套調用配方和十二種不同的輸出契約。

Granite Switch 4.1 30B 保留了其中兩個，並加入了一個語音編碼器。IBM 所做的取捨是以涵蓋範圍換取易讀性：完成後的模型是一個聊天模型，也能用機率回答決策問題並轉錄音訊，而這三件事是呼叫端能同時記在腦中的。其餘十個轉接器並沒有消失——它們仍會發布、仍可組合，而 granite-switch 儲存庫中的 composer 會為你建構包含任何你想要之子集的檢查點，包括全部十二個。改變的是預設會啟用哪些。

這是實實在在的代價，值得直言不諱，而不是粉飾帶過：如果你一直在等預覽版的幻覺偵測與情境歸因適配器達到 1.0 檢查點，這並不是那回事。這是個範圍更窄、額外負擔更低的模型，而組合工具才是填補落差的关键。

決策配接器是並非聊天模型的那一半。

從語言模型讀出機率分佈並不是新鮮事。真正需要解釋的是，能否在一次前向傳遞中，針對一組固定的選項標籤做到這件事，而且數字要校準得足以用來路由。文件記載的做法是一個固定的決策引擎系統提示，一個 狀態：回合，在凍結的基礎模型上評估，然後一個 ### 決策回合，呈現問題與以單一 token 標籤標示的選項。你會要求取得那些標籤 token id 的 logprobs，並取指數。這張卡片本身的範例會回傳類似 A: 0.982、B: 0.0035、C: 0.014 的結果——而有趣的地方在於，那些數字來自一般的 completion 端點，而不是分類器。

公告略過了一個工程上的細節。logprob-token-id 機制每次請求最多只能處理 128 個 id，因此選項超過 128 個的決策問題會直接失敗。文件記載的解法是把標籤 id 拆成每 128 個一組，每一組都用完全相同的提示發出一次請求，再串接起來——這在數學上等同於不受上限限制的呼叫，因為回傳的 logprobs 涵蓋整個詞彙表，所以每個標籤的值不取決於是由哪一組請求問到的。每 128 個選項就多一次請求。這種細節只存在於儲存庫裡。

這個 adapter 唯一公開的數字是 Decision Index，版本 v0.3，公開快速子集共 1,068 列：整體 50.1，其中 Knowledge 32.4、Language 58.6、Retrieval 49.8、Tools 76.5，以及 Arts 26.4。要看的是整體輪廓，而不是標題數字——Tools 的 76.5 緊鄰 Arts 的 26.4，是非常不平均的側寫，而這比整體分數更能告訴你這個 adapter 適合安全指向哪裡。IBM 也回報，在本機部署該 adapter 與在代管 vLLM 端點後方部署，兩者結果約在 0.6 分內一致；即使 IBM 兩邊都是自己跑的，這對 serving 路徑仍是有用的健全性檢查。

語音轉文字，以及 IBM 寫進自家卡片裡的但書

音訊路徑會將逐字稿送進內嵌編碼器，並將其拼接進聊天情境中，以取代音訊內容部分，因此帶有音訊的請求看起來就像一般帶有 input_audio 部分的聊天補全。不需要第二個語音伺服器，也不需要第二份延遲預算。

這些限制全都出自 IBM 自家的文件，而非來自懷疑論者：僅支援英文、輸出為小寫且不加標點、沒有解碼時的引導，以及——這一點應該讓你放慢腳步——語音編碼器與語言模型並非聯合訓練。沒有經過訓練的投影將兩者耦合起來。因此，一處轉錄錯誤就可能改變模型或決策適配器所回應的內容，而整條流程中不會有任何機制標示出來。如果你要部署任何一個轉錄錯誤會造成後果的東西，那句話就是你的整個威脅模型。

已確認、廠商回報、未驗證

• 已從儲存庫確認——基礎模型身分、兩個適配器秩及其目標模組、控制符元 ID、組合後的參數數量與 +3.89% 差異、131,072 個符元的視窗、Apache-2.0 授權，以及固定的支援範圍（Transformers 5.16–5.17、vLLM 0.26–0.28、PyTorch 2.11+）。

• 廠商自述，未經重現——包括 Decision Index 的數據、Granite Speech 5.0 TurboCTC 是 OpenASR 排行榜上最快 ASR 模型的說法、組合模型耗用的 VRAM 與基礎模型大致相同的說法、Guardian 適配器在安全相關任務上勝過數個具名封閉式決策模型的斷言，以及發布貼文中順帶提及自訂的 3B Granite Switch 版本以每秒 60–100 次決策玩 Doom，而據稱每秒只有 10 次。IBM 表示更多資料會在「未來幾週內」公布，這無異於承認目前的證據薄弱。

• 沒有人查核過——其餘一切皆然。沒有第三方評估，沒有排行榜登錄，沒有獨立的延遲或吞吐量測量，也沒有 IBM 託管的端點。該儲存庫僅有寥寥幾個讚，而且在撰寫本文時，實際上幾乎沒有下載量。發布僅兩天，且大致上乏人問津。

這在堆疊中的位置

Granite Switch 4.1 30B 是一個自架的故事。模型卡列出了 Hugging Face Transformers 與 vLLM，並綁定狹窄的版本範圍，而該檢查點無需轉換即可在兩者上執行。這裡沒有代管端點，因此實務上的第一步是一張 GPU 和一個容器。

其餘部分老實說：目前 OrcaRouter 的型錄中沒有任何 Granite 模型，所以如果你想要這個檢查點，途徑是 IBM 的發布版本加上你自己的硬體。這個平台能提供的是周邊的決策——200 多個模型，只需一組金鑰，並具備自動容錯移轉，供應商列表價格原樣傳遞，零加成——而這正是在這種情況下最重要的事。一個才發布兩天、還沒有獨立評估的檢查點是候選者，不是現任者，而對待候選者最省事的做法，就是把它放在已經在生產環境中的模型旁邊，用你自己的流量來比較，而不是圍繞它重新配置一條生產路徑。

未解決的問題

Granite Switch 背後的押注是：對某一類特定工作而言，組合勝過規模——也就是那些要回答、決策與轉錄的應用；在這些應用中，三個模型代表三次部署、三種延遲與三筆帳單。讓多個適配器共享同一個 KV 快取，並為此付出 3.89% 的代價，是一項確實非比尋常的工程成果，而這也是本次發布中，一年後依然會重要的部分。

尚未有定論的是：組合出來的答案究竟好不好。決策適配器公布的概況參差不齊，語音路徑僅支援英文且未經聯合訓練，而且這個模型才問世兩天，背後沒有任何獨立執行紀錄。請先讀建置清單，自己組成子集，並用你自己的標籤集對決策適配器做基準測試，再決定要不要相信別人的 50.1。