Xing 4.0 29B-A4B 對比 Granite 4.2 30B 的生成式標題卡,引題寫著「每一個參數,或其中九分之一」,主標題為「兩個 30B 級開源模型,截然相反的經濟邏輯」,並有兩張卡片:「Granite 4.2 30B——稠密,每個 token 讀取全部 30B,2026 年 8 月 25 日發布」與「Xing 4.0 29B-A4B——稀疏,每個 token 讀取 29B 中的 4B,2026 年 10 月中旬可供調用」。OrcaRouter 標誌位於右下角。
Engineering & Research

Xing 4.0 29B-A4B vs Granite 4.2 30B:稠密讀取所有內容,稀疏讀取九分之一

作者

Magnus Corvin

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

整個架構論證可以濃縮成一句話。Granite 4.2 30B是 IBM 於 2026 年 8 月 25 日以 Apache 2.0 發布的稠密推理模型,為了產生每一個 token,都得讀取全部三百億個參數。Xing 4.0 29B-A4B則是中國電信的稀疏混合專家模型,權重於 2026 年 9 月 16 日上線,並在 10 月中旬開放呼叫,它只讀取二十九億當中的大約四十億。兩者都是 Apache-2.0,同屬相同權重級別,同樣鎖定代理式工作,但運行成本卻截然不同:Granite 的每一 token 都要付出運算成本,Xing 則要付出記憶體成本,以保留這個 token 用不到的專家,還需要一套懂得如何繞開這些專家的服務堆疊。以下所有內容都由此推導而來。

每件文物實際上究竟是什麼

值得將它們與它們共用的標籤區分開來。「30B」告訴你的是檔案的大小,而不是工作負載的樣貌。

• G​ranite 4.2 30B — IBM 在 G​ranite 4.2 系列中的旗艦模型,建構於 G​ranite-4.1-30B-Base 之上。僅解碼器的稠密推理 Transformer,300 億參數(儲存庫在 BF16 張量中列出 29B),分組查詢注意力,32 個注意力頭對應 8 個鍵值頭,RoPE 於 θ = 10,000,000,SwiGLU MLP 的隱藏層大小為 32,768,輸入與輸出嵌入未綁定,RMSNorm 的 ε = 1e-5。十二種已測試語言。Apache 2.0。

• Xing 4.0 29B-A4B — TeleAI 的 TeleChat 系列後繼者。40 層、隱藏維度 3,584、稠密 FFN 中間層 9,216,相對於專家中間層 1,024;64 個路由專家,每個 token 啟用 4 個,外加一個永遠開啟的共享專家;以 MLA 壓縮鍵值注意力取代 GQA;並將 MTP 投機解碼訓練進檢查點。模型卡上實際上只有一種受測語言。Apache 2.0。

• 上下文 — Granite 4.2 30B 原生支援 128K,並有文件記載可將長上下文延伸至 512K,配置序列長度為 131,072。Xing 4.0 原生具備 256K,宣稱可延伸至 512K。Xing 的預設視窗寬度是兩倍;兩者之中,Granite 的延伸路徑有較完善的文件記錄。

• 已發佈的格式 — Granite 4.2 30B 以 BF16 推出,另有 FP8、MXFP4 與 NVFP4 量化版本,並提供來自 IBM 與社群打造的 GGUF 組建。Xing 4.0 則以 BF16 safetensors 推出,另有 FP8、w8a8 與 GGUF。兩者在這裡的供給都異常完整,而相較於許多開放釋出只發佈單一 bfloat16 分片、把量化工作留給志工的專案,這兩者都是實實在在的優勢。

• 供應情況 — G​ranite 4.2 30B 在我們的型錄中沒有以權杖計價的端點;你可以自行運行,或透過 I​BM 自家平台及其他第三方服務平台取用。Xing 4.0 於十月中獲得了計量商用端點,並提供免費推廣層級,同時也未收錄於我們的型錄中。

記憶體與運算的取捨,誠實以告

稀疏性不是對整台機器的折扣;它是對一個軸的折扣,卻是對另一個軸的附加費。G​ranite 4.2 30B 在 bfloat16 下大致需要一個 30B 稠密模型的記憶體,而且每個 token 都會在全部參數上進行運算,因此其每單位硬體的吞吐量是可預測的,在批次處理下的行為也很直觀。Xing 4.0 則需要讓完整的 29B 常駐——無論這個 token 是否觸及某個專家,每個專家都會佔據記憶體——但每個 token 只有相當於 4B 的權重會實際經過算術運算,這正是為什麼聲稱將其做 4 位元量化後能塞進約 15GB 的 VRAM,也是為什麼它在高併發下的總吞吐量呈現出完全不同的形態。

在你因為這個說法而買顯卡之前,這項宣稱值得查證:該儲存庫回報全精度張量為 31B,而一個總計 29B 的模型其 4-bit 版本落在 15GB,意味著專家權重遭到激進量化。請看實際的 GGUF 檔案大小,而不是合集的宣傳文案。

第二個、較不明顯的差異,是服務路徑的成熟度。G​ranite 4.2 30B 是標準的稠密 transformer,這意味著幾乎每一套推論堆疊都或多或少預設支援它。Xing 4.0 則需要為其流形約束的超連接殘差流,以及其 MLA 注意力機制,量身打造自訂核心——SGLang 為四流布局搭載了一套專用的 split-K 核心,vLLM 則已具備該架構,情況就是如此。這種特製的注意力加殘差設計,正是採用該架構必須付出的代價,而如果你打算微調、量化,或執行不尋常的批次形狀,這也不會是一次性的成本。

在已公佈的數字實際上彼此不一致之處

A screenshot of the Hugging Face model card for ibm-granite/granite-4.2-30b, showing the model title, an Apache 2.0 licence tag, the Text-Generation pipeline label, and the card's opening description of a dense 30B-parameter reasoning model in the Granite 4.2 family.

兩家廠商各自公布自家的表格,兩者各自內部一致,且兩者都未曾在相同測試框架上由第三方獨立重現。請把它們當作宣稱來比較,而不是測量數據。

• SWE-bench Verified — Xing 4.0 75.00 對 G​ranite 4.2 30B 57.

• SWE-bench Multilingual — Xing 4.0 66.00 對比 Granite 4.2 30B 41.89。

• Terminal-Bench 2.1 — Xing 4.0 57.50 對比 G​ranite 4.2 30B 29.24.

• 代理式工具運用 — Xing 4.0 Claw-Eval 76.55 與 Tau3-Bench 64.63;Granite 4.2 30B τ³-bench 62.00 與 BFCL v4 61.39。

• 指令遵循 — Xing 4.0 IFBench 69.67 對比 Granite 4.2 30B IFBench 77.17。

• 數學與一般推理 — G​ranite 4.2 30B 的 AIME25 為 89.17、HMMT Feb25 為 89.17、GPQA 為 66.41、MMLU-Pro 為 77.60、LiveCodeBench v6 為 75.77。Xing 4.0 的模型卡並未列出其中任何一項,因此這些欄位會留空,而不是變成勝出。

• 長上下文 — G​ranite 4.2 30B 在 64K(89.96)與 128K(81.38)公布 RULER 成績。Xing 4.0 公布 AA.LCR 為 61.00,在長上下文系列中別無其他數據。G​ranite 在唯一同時存在兩項數字的項目中勝出,而且這是有意義的勝利:128K 的 RULER 是遠比檢索平均分數困難的測試。

看整體格局,而非總分。Granite 給人的印象是一個廣泛且拿捏得宜的通用型模型,其評估表格外誠實——涵蓋程式設計、數學、工具使用、文件任務與長脈絡的 20 列,且全部註明測試框架為 NeMo Evaluator SDK 框架。Xing 4.0 給人的印象則是一個狹窄的專才:在軟體工程與終端代理基準上大幅領先,在指令跟隨上落敗,其他方面則一片沉默。沒有 GPQA 分數的模型,未必就不擅長 GPQA。它是廠商選擇只公布九列的模型。

兩個誠實的不對稱

Granite 4.2 30B 已公開七週,並承受著這隨之而來的嚴格檢視,包括獨立量化、詳細的第三方評述,以及 IBM 自己針對其 8B 和 3B 同系列模型在表格每一列所公布的比較數值。Xing 4.0 已公開一個月,有 53,000 次儲存庫下載,沒有獨立評估,並且以該廠商在自己測試框架中重新執行對手模型所得的結果來進行基準比較。本系列先前的比較已經涵蓋該比較表如何處理 Gemma 4;這個結構性論點適用於表中任何一欄。

這種不對稱性在某個軸度上則是反過來運作的。Granite 4.2 30B 是一款具有密集運算特性的推理模型,這表示它每個 token 的速度都偏慢,而這是設計本質使然,無法藉由路由繞過。Xing 4.0 的整體論點是:你能以 4B 模型的運算量,換得 29B 模型的記憶體佔用。如果這套論點在真實工作負載上成立,那麼對高流量的代理流量來說,這確實是更划算的選擇——而這正是廠商自家 SWE-bench 成績列無法斷定的論點。

費用是多少,以及路由器適合放在哪裡

這兩款模型都不在 OrcaRouter 的目錄中,所以我們並非通往其中任何一款的途徑,而本文也不會暗示相反。相關的算術仍然值得算一算。G​ranite 4.2 30B 只耗一張顯卡,永久如此,別無其他費用;但附帶條件是,其稠密運算意味著你需要的是更大的那張顯卡。Xing 4.0 的前期成本是一顆 GPU 加上一個週末的服務整合,或者現在就進行計量制的免費層級評估——而免費層級是最便宜的辦法,能查出那些代理式宣稱能否在你的自有儲存庫中站得住腳,而不是只在模型作者所跑的 terminus-2 測試框架中站得住腳。

當涉及兩個我們並未代管的模型時,路由器真正發揮價值之處就在周邊。你不會汰換正式環境路徑已經熟悉的模型;而是讓挑戰者在同一條路徑上、只吃一小部分流量,依明確訂定的規則運行,並具備自動容錯移轉,確保糟糕的回應或上游停滯永遠不會觸及使用者。OrcaRouter 是 一套置於 200 多個代管模型之前的 API,零加成——供應商定價原樣轉嫁,不額外加收任何費用——而路由 DSL 正是定義這塊切片的方式。評估結束後,規則隨之更改,由現任模型重新取回流量。

A generated two-column scoreboard titled 'Xing 4.0 29B-A4B vs Granite 4.2 30B — the scoreboard'. The left column, Xing 4.0 29B-A4B, reads: 'Architecture sparse MoE, 4B of 29B active', 'Context 256K native', 'SWE-bench Verified 75.00', 'Terminal-Bench 2.1 57.50', 'IFBench 69.67', 'Weights published 16 September 2026'. The right column, Granite 4.2 30B, reads: 'Architecture dense, all 30B read per token', 'Context 128K, extensible to 512K', 'SWE-bench Verified 57', 'Terminal-Bench 2.1 29.24', 'IFBench 77.17', 'Weights published 25 August 2026'. A footer reads 'Vendor-reported on both sides; no independent reproduction on identical harnesses.' The OrcaRouter logo sits in the bottom-right.A screenshot of the OrcaRouter models directory, headed 'Search Models' with the summary line '211 models · 16 providers · one API key, one bill', showing the filter facets for input modality, context length, input price, status, access tier and series, the 'How to call any model' panel, and a hosted card for orca/orcacyber-ultra-1.0 — the catalogue that contains no Granite 4.2 30B entry.

如果你的評估預算只夠選一個模型,當工作範圍廣泛時——長文件推理、多語言生成、指令遵循比重高的流程,以及任何你想為自己實際執行的任務取得已公布數據的情況——就選 G​ranite 4.2 30B。當工作範圍狹窄且屬於代理式任務、你可以自行量測,而且你真正要買的是每卡吞吐量這個論點時,就選 Xing 4.0 29B-A4B。唯一明顯錯誤的選擇,就是僅憑 75 比 57 的優勢就選 Xing 4.0:這兩個數字出自不同實驗室、不同測試框架,而它們唯一能可靠證明的,只是哪一家廠商發布了 SWE-bench 的一列成績。

什麼能讓它塵埃落定

在與 G​ranite 受測時相同的測試框架上,以相同的輔助框架對 Xing 4.0 進行一次獨立評估,只需要一位有多餘 GPU 的人花一個下午,就能消解本文大部分的疑慮。在那樣的評估出現之前,稠密模型是你可以依據其數字採取行動的模型,而稀疏模型則是其數字你必須查核的模型。一旦第二個說法不再成立,這兩個說法就會同樣過時。

這些都不是假設:像這次發布這類版本背後那些有紀錄的 AI 失效與代理事件,全都收錄在OrcaRouter AI Incident Archive,其中每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。