Granite Switch 4.1 8B vs Qwen3-8B：當另一方沒有後繼者時，會發生什麼事

先從一個命名問題談起，因為這會改變這篇文章能誠實呈現的樣貌。當你在阿里巴巴最新 Qwen 世代中尋找 8B 模型時，你會找不到：Qwen3.8 系列——Qwen3.8-27B、Qwen3.8-Max、Flash 變體，以及龐大的 2.4T-A95B 混合專家模型——根本不包含 8B 稠密成員。Qwen 家族中的 8B 位置仍由 Qwen3-8B占據，該模型於 2025 年 4 月 27 日發布：82 億參數，在單一模型中融合思考與非思考模式，支援 100 多種語言與方言，原生上下文為 32,768 個詞元，搭配 YaRN 可延伸至 131,072。那個模型已經十六個月大，卻仍是現存下載量最高的開放權重檢查點之一。它是現任霸主——而這場對決之所以值得撰寫，是因為 Granite Switch 4.1 8B，IBM 於 2026 年 10 月 14 日發布的組合式檢查點，根本不打算以繼任者的身分取代它。它提供的是同一參數級距中另一種形態的模型：一個凍結的 8B 文字模型，附帶兩個可切換的轉接器，並外掛一個語音編碼器，透過切換來完成三項工作，而非靠推理解決一項工作。沒有人取代 Qwen3-8B，而更好的問題是，究竟有沒有人需要取代它。

與之相對的是 Granite Switch 4.1 8B，IBM 於 2026 年 10 月 14 日發布的組合式檢查點——一個凍結的 Granite 4.1 8B，具有 8,380,551,168 個參數，搭載兩個可切換的 activated-LoRA 適配器與一個 470M 語音編碼器，組合總計達 8,776,400,896，增加了 4.72%。同樣的參數級別，對於「模型是什麼」卻有著截然不同的想法。Qwen3-8B 是一個稠密堆疊，凡事都透過對其進行推理來完成。Granite Switch 4.1 8B 則是一個不靠推理做任何事，而是靠切換來做三件事的堆疊。

8B 的位置空著，而這才是真正的關鍵。

值得在這種缺席上多加思索，而不是把它當成這項比較中的一個缺口。阿里巴巴推出了 Qwen3.8 世代，包含 27B 稠密模型、Max、Flash 變體，以及一個 2.4 兆參數的專家混合模型，卻跳過了那個讓前一代成為單 GPU 部署預設選擇的尺寸級別。每個因為 Qwen3-8B 能放進單張顯示卡、又能以低成本微調而選擇它的團隊，如今看到的後繼產品陣容，不是讓記憶體需求加倍，就是徹底改變了推論服務的問題。

那才是這篇文章真正要談的決策。沒有人是基於品質，在 Qwen3-8B 與 Granite Switch 4.1 8B 之間做選擇——一個已推出十六個月的現任者，對上一個才問世兩天、且尚未經過獨立評估的挑戰者，這不是品質比較，而是知識比較。問題在於：當你的主力模型沒有同尺寸的後繼者時，你該怎麼做？而兩個候選答案是「保留主力」與「切換形態」。

Qwen3-8B：十六個月的正式環境運行換來了什麼

Qwen3-8B 是一個稠密的因果 Transformer，具有 36 層、隱藏層大小 4,096、分組查詢注意力（32 個查詢頭對上 8 個 KV 頭）、12,288 的中間維度、RoPE theta 1e6、未綁定的嵌入，以及 151,936 個詞元的詞彙表。約有 82 億個參數，其中約 69.5 億為非嵌入參數。思考開關是一個參數——enable_thinking——而生成設定會依模式而異，模型卡明確警告在思考模式下不要使用貪婪解碼，因為那會導致迴圈。

它擁有的是任何新檢查點都無法宣稱的：十六個月來自他人正式環境的流量。別人早已遇過並寫下來的失效模式。量化、微調、LoRA 配方，以及所有重要 serving framework 的部署指南。將近一千萬次 Hub 下載與超過兩千個讚，背後還有 instruct 血統。當一個模型公開發布了這麼久，圍繞它的生態系就是它能力真正的一部分，而這點無法靠任何發布日期回溯補上。

Granite Switch 4.1 8B：新形態能換來什麼

IBM 的檢查點是一個組合，而非單一模型，各組成部分記錄在與權重一同簽入的建置清單中。基礎模型：Granite 4.1 8B，40 層，隱藏層維度 4,096，32 個查詢頭對上 8 個 KV 頭，131,072 個詞元視窗，100,352 個詞元詞彙表。適配器：guardian-core，秩 16，alpha 64，作用於注意力投影（k_proj、o_proj、q_proj、v_proj），用於偵測傷害、越獄、褻瀆、暴力、色情內容、社會偏見與不道德行為；以及 decision，秩 64，alpha 128，作用於包含 MLP 在內的全部七個投影，在單次前向傳遞中對已標記的選項詞元回傳經校準的 softmax。編碼器：Granite Speech 5.0 TurboCTC，4.7 億個參數，非自迴歸 conformer CTC，英文。授權條款：Apache-2.0，與 Qwen3-8B 相同。

沒有 Qwen3-8B 對應能力的是決策轉接器。你交給它一個狀態，以及一個附有標記選項的問題，它回傳的是分布，而不是答案——文件記載的呼叫方式是向 vLLM 要求恰好那些標籤 token id 的 logprobs，透過 logprob_token_ids 取得，再取指數，產生形如 A: 0.982、B: 0.0035、C: 0.014 的輸出。你可以提示 Qwen3-8B 挑一個標籤，它會稱職地挑出來，而你會得到一個字母。字母無法當成校準過的分數來設閾值、無法跨回合平均，也無法記錄為信心值。那就是差別所在，而這不是靠規模就能解決的差別。

組合帶來的第二件事是算術。每個適配器都共用基礎模型的鍵/值快取，而不是各自維護一份，因此從沒有適配器變成兩個適配器再加一個語音編碼器，只付出 4.72% 的參數成本，而不是每種能力都要一份全新的注意力狀態。IBM 的發布文章聲稱，組合後的模型佔用的 VRAM 大致與單獨的基礎模型相同；這項具體說法尚未被重現，但它所依據的參數差異就明列在資訊清單中。這也是為什麼發布文章能把 30B 組合式 Granite Switch 與 27B 決策模型之間的競賽，描述為速度優勢，而不是記憶體懲罰。

• 參數 — 組合後 8.78B（基礎 8.38B）對比 8.2B。

• 圖層 — 40 對 36。

• 上下文 — 原生 131,072 對比原生 32,768，使用 YaRN 時為 131,072。

• 詞彙 — 100,355 對 151,936。

• 語言 — 十二種具名（英文、德文、西班牙文、法文、日文、葡萄牙文、阿拉伯文、捷克文、義大利文、韓文、荷蘭文、中文）對比 100 多種。

• 推理 — 在單一檢查點中，無與混合思考及非思考的對比。

• 結構化輸出 — 對標籤詞元進行校準的 softmax，與提示式選擇的比較。

• 音訊輸入 — 內建 470M ASR 編碼器 vs 無。

• 生態系統 —— 才兩天大，沒什麼量化或微調可言，對比十六個月的社群努力。

Qwen3-8B 仍然勝出的地方

語言，具有決定性。十二種具名語言對上一百多種，對任何要面向全球受眾推出產品的人來說都不是捨入誤差，而且這是遷移測試最先會抓到的問題。詞彙表也說明同一件事：151,936 個詞元對上 100,355 個，其中 Granite 的三個保留 adapter ID 使其湊整為 100,355。一個橫跨一百種語言訓練出來的模型，就是橫跨一百種語言訓練出來的。

第二點是原生上下文。開箱即用就有 131,072 個 token，對比採用 YaRN 擴展路徑的 32,768 個。Granite Switch 4.1 8B 剛好也能達到相同的 131K，但它是原生達成的，而 YaRN 擴展在長上下文行為上得付出代價，原生視窗則無需如此。

第三點才是決定大多數真實遷移的關鍵：目前什麼都沒壞。沒有需要重寫的整合、沒有需要更動的服務堆疊、沒有需要重新學習的行為。每一種失效模式都已經被其他人梳理清楚，而你手上可能已經有的微調成果也仍歸你所有。挑戰者必須明顯更好，才值得為此放棄這些；而 Granite Switch 4.1 8B 才問世兩天，又沒有獨立評估，尚未證明自己確實更好。

Granite Switch 4.1 8B 勝出之處

決策評分，以及隨之而來的營運型態。如果你的應用程式需要對已標註的選項給出一個信心值——將工單路由、為升級門檻評分、挑選一個附帶數字的工具——那是 Qwen3-8B 並不提供的基礎能力，而提示詞也無法無中生有。此適配器公布的數字是 Decision Index，版本 v0.3 公開快速子集，共 1,068 列：整體 42.9，其中知識 29.1、語言 48.9、檢索 49.8、工具 59.8 與藝術 18.0。IBM 跑過它，IBM 公布過它，沒有人重現過它，而卡片本身也說，在該適配器未受訓練的領域上，這些機率是先驗，而非經過認證的分類。

端點整合是第二點。聊天、決策與轉錄都在同一個端點上，而轉錄是由一般的 input_audio內容部分觸發，而非由第二個服務觸發。IBM 的模型卡中的注意事項仍然適用，值得在精神上逐字重述：僅限英文、輸出為小寫且無標點，而且語音編碼器與 LLM 並非共同訓練，因此轉錄錯誤可能會悄悄改變模型所回應的內容。

而可組合性是第三項——組合器是公開的，配接器目錄是開放的，而且你可以打造自己的變體，而不是只能接受 IBM 所選的兩種配接器。

當 8B 槽位空著時該做什麼

有生產力的做法不是遷移，而是把 Granite Switch 4.1 8B 當成特定請求的候選模型——也就是 Qwen3-8B 處理得很糟的那些請求：結尾帶有信賴值的請求，或以音訊形式進來的請求——其餘一切則留在原處。這是路由問題，不是重寫：把決策型呼叫送往一邊，對話流量送往另一邊，並在釐清新形態是否真能在你的流量上撐得住之前，讓後備路徑保持完整。

這是 OrcaRouter 所佔據的層級，而在這裡值得精確說明這代表什麼：Qwen3-8B 目前不在我們的型錄中，Granite Switch 4.1 8B 也不在，所以我們並不是取得這兩者的途徑——Qwen3-8B 是 Hugging Face 下載，而 Granite Switch 4.1 8B 則是 Hugging Face 下載加上一個 vLLM 容器。這個平台做的是周邊工作：一組 API 金鑰橫跨 200 多個託管模型、自動容錯移轉，讓某個候選模型能置身於即時路徑中，而不會成為單一故障點、用於將數個模型組合成一次呼叫的路由 DSL，以及 供應商定價清單以 0% 加價轉嫁，因此廠商降價會在同一天生效，而不是等到下一次重新整理。如果你想在衡量此事的同時，看看當代 Qwen 在託管端點上看起來如何，Qwen3.8-27B 就在型錄中，而且與這項比較中的現任者屬於同一個系列。

底線

將 Qwen3-8B 保留為預設。十六個月的正式上線、一百多種語言，以及 151,936 個詞元的詞彙表，這些都不是一個才兩天大的檢查點單靠架構就能克服的優勢；而阿里巴巴沒有推出 8B 後繼產品，並不代表 Granite Switch 4.1 8B 就是那個後繼者——這只是讓它成為一個恰好落在相同記憶體級別的不同工具。請狹義且具體地採用它：用於需要對已標註選項給出校準分佈的請求、用於內聯安全篩檢，以及用於與聊天共用同一端點的音訊。在信任 42.9 之前，先在你自己的標籤集上測試它，因為那個數字是 IBM 的，而且只屬於 IBM。這場對決有趣的地方不在於某個模型擊敗另一個——而在於 8B 這個位置一直空著，而下一個填補它的模型可能根本不是稠密 8B。