Granite 4.2 3B 正式發布：IBM 的筆電級推理模型在 AIME 2025 上聲稱取得 78.33 分

你今晚就能在筆電上跑 Granite 4.2 3B。這是頭條數字背後的實際事實：IBM 於 2026 年 8 月 25 日釋出 Granite 4.2 3B，採用 Apache-2.0 授權，是全新 Granite 4.2 家族中三個密集推理模型裡最小的成員——Granite 4.2 3B、Granite 4.2 8B 與 Granite 4.2 30B——其模型卡宣稱在 AIME 2025 上拿到 78.33 分，這個數學推理分數在幾年前只屬於比它大一百倍的模型。權重約莫 30 億個參數：以 bfloat16 格式儲存約六到八 GB，採用實際可行的量化後則低於兩 GB。這就是本次釋出的重點——過去需要資料中心才能購入的推理模型，如今小到能放進一個袋子裡。

必須同時附上誠實的說明。卡上的每個數字都是 IBM 自己發布的，印在權重發布當天，而沒有任何獨立實驗室複製過這些數字。目前還沒有託管 API——卡片上沒有列出任何推理提供者——因此今天要接觸這個模型的唯一方式是自己運行它，或者等待託管層級出現。這是對該家族中最小成員目前已知情況的彙報，這意味著要精確指出儲存庫實際支持哪些聲明。

發布了什麼，又有多低調

Granite 4.2 是 IBM 的推理生成模型——是首個圍繞明確思維鏈（chain-of-thought）建構的 Granite 系列，也是首個在其較大型號上加入大規模代理式訓練的系列。三種尺寸皆為密集、僅解碼器的 Transformer，採用 Apache 2.0 授權，以約 15 兆個 token 預訓練，涵蓋五個階段，且全部以 128K 原生上下文運行，並支援擴展至 512K 長上下文。此次發布並非新聞稿式的宣傳：主要來源是 Hugging Face 技術部落格文章「Granite 4.2 LLMs: How They're Built」，於 8 月 25 日與模型卡一同發布。中國科技媒體在數小時內便報導了該系列，而 Ollama 已列出 granite4.2:3b 版本。

是什麼讓 3B 成為邊緣成員？

3B 是以 Granite-4.1-3B-Base 為基礎進行後續訓練（post-training）而成的模型，它之所以有別於同系列其他模型，正在於它所缺少的東西。Granite 4.2 8B 與 Granite 4.2 30B 都接受了 IBM 的代理式強化學習（agentic reinforcement learning）——這種訓練教導模型在沙箱環境中操作終端、執行程式碼與搜尋網路，因此這兩個模型帶有 SWE-Bench 與 Terminal-Bench 的分數。3B 則完全跳過了這個訓練模組；其模型卡上並未列出任何 SWE-Bench 或 Terminal-Bench 的結果，因為 agentic-RL 的訓練框架從未套用於該模型之上。

3B 所保留的是推理核心和介面：

• 參數 — 3B（根據 safetensors 元資料，含嵌入總計約 4B），基於 Granite-4.1-3B-Base 建構的稠密解碼器專用 Transformer。

— 架構 — 分組查詢注意力（40 個注意力頭、8 個 KV 頭）、RoPE 於 θ=10,000,000、SwiGLU MLP（隱藏層大小 8,192）、RMSNorm、bfloat16。

• 上下文 — 原生支援 131,072 個 token；第五個預訓練階段將上下文窗口擴展至 512K。

• 推理模式 — 預設為完整思考（<think>...</think>），非思考模式透過 enable_thinking=False，以及一種低耗力模式，會在簡單問題上花費較短的推理預算。

• 工具呼叫 — 與 OpenAI 相容的函式呼叫，使用與較大型號相同的結構，透過 vLLM 端點提供；OpenHands、OpenCode 和 Pi 的整合已有文件說明。

• 語言 — 已測試 12 種：英語、德語、西班牙語、法語、日語、葡萄牙語、阿拉伯語、捷克語、義大利語、韓語、荷蘭語、中文。

• 服務 — Hugging Face Transformers、vLLM（v0.20+，具備專用思考解析器）、SGLang、適用於 llama.cpp 的 GGUF 建置、FP8/NVFP4/MXFP4 量化，以及 Ollama。

供應商回報的數字

該卡列出了強勁的推理分數，而且每一項都是 IBM 自己的數據。在數學與推理評測中，3B 在 AIME 2025 上得到 78.33，在 HMMT February 2025 上得到 66.67，在 GPQA 上得到 54.80，在 LiveCodeBench v6 上得到 69.71。在指令跟隨方面：MMLU-Pro 為 67.84，IFBench 為 74.33。在長上下文方面，RULER 在 64K 的得分為 67.52，在 128K 的得分為 55.30。在代理通用評測中，3B 確實承擔得起——基本工具使用，不含 agentic-RL 區塊——它在 BFCL v4 上列出 52.41。

以上內容均尚未被獨立重現。該模型於8月25日發布；Artificial Analysis 尚無其條目，也沒有任何第三方評測發表。78.33 的 AIME 分數是值得關注的焦點：就一個 3B 級別的稠密模型而言，它遠高於小型開放模型過往所能達到的範圍，而這樣的紙上數字，正是復現測試要麼證實、要麼悄悄撤回的那種。請將本節中的每個數字都視為 IBM 的說法。

哪些已確認，哪些尚未確認

由工件確認：權重可下載；授權為Apache 2.0；架構、上下文長度、推理模式與工具呼叫介面皆與卡片相符；訓練配方記載得異常詳細，包括資料比例，以及用於訓練該系列的NVIDIA GB200 NVL72叢集（由CoreWeave代管）。由發布當日的整合工作確認：Ollama已列出granite4.2:3b，而卡片記載了vLLM、SGLang、Transformers和GGUF的服務路徑。

{{1}}尚未確認：{{/1}}獨立基準測試結果；{{2}}是否會出現託管 API（無論是 IBM 自家的 watsonx 還是任何第三方）以及價格為何；{{/2}}{{3}}512K 擴展在真實長文檔工作負載下（而非 RULER 針測試）的表現；{{/3}}以及{{4}}3B 模型的基本工具呼叫在生產級 agent 迴圈中的表現{{/4}}，在沒有 agentic-RL 訓練可依賴的情況下。

3B 的競爭領域，以及如何測試

3B 押注的是：小而本地化是特色，而非妥協。在其之下，產品系列就此止步——3B 是 Granite 4.2 產品線的最低階——而在其周圍，託管端的預算型推理賽場競爭激烈，DeepSeek V4 Flash 與 Gemini 3.5 Flash-Lite 錨定了平價託管推理層級，小型開放權重推理模型更是整年源源不絕地出現。3B 與它們全都不同，具體表現在一個方面：它採用密集架構、Apache-2.0 授權，而且小到單次請求的邊際成本僅是一張普通 GPU 的電力——但它同時也是全新的、未經實證，且沒有任何第三方評測。

這種組合正是路由層發揮價值的地方。OrcaRouter 並不路由 Granite 4.2 3B——誠實而言，可用的方式是透過 vLLM、SGLang 或 Ollama 自行託管，或透過 IBM 自家的管道（一旦出現）——但它所競爭的託管模型都在 OrcaRouter 上，以提供者的定價、0% 加價轉傳，只需一個 API key。如果你正在建構比較測試框架，來判斷 3B 的本機推理是否勝過租用託管的平價模型，一個 key 指向託管端，你透過單一 endpoint 對它與自行託管的 Granite 進行 A/B 測試，而自動容錯移轉會吸收你自己的 GPU 池飽和的時段。那些託管替代方案的降價，會在降價當天反映在轉傳價格中。

看什麼

有三件事將決定這次發布會被如何銘記。首先，AIME 和 GPQA 數字的獨立複現——規格表上的 78.33 與第三方運行結果的 78.33 之間的差距，正是小型模型宣稱的成敗關鍵。其次，watsonx 或其他託管平台是否會採用這款 3B 模型，以及每 token 的定價為何；一個不到 2 GB 的量化推理模型，可能形成極具價格競爭力的託管層級。第三，低努力推理模式能否在簡單問題上維持品質，因為正是這種模式，讓一個筆電大小的推理模型能在真實產品流量中實際使用。Granite 4.2 3B 是一個真正開放、文件完善且低調推出的推理模型，明天就能在你的硬體上運行；所有懸而未決的問題，都會在數週內獲得解答。