一張標題主視覺卡片,標題為「Gemma 4:Google 開放權重家族的每種尺寸全解析」,畫面中顯示五張標示為 E2B、E4B、12B、26B A4B 與 31B 的卡片,依尺寸階梯排列,角落並合成 OrcaRouter 標誌。
Guides & Insights

Gemma 4:Google 開放權重系列所有尺寸完整解析

作者

Magnus Corvin

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

並沒有單一的 Gemma 4 可供查詢。DeepMind 目前開放權重的產品線是五個各自獨立的模型——Gemma 4 E2B、Gemma 4 E4B、Gemma 4 12B、Gemma 4 26B A4B 與 Gemma 4 31B——橫跨兩種架構與兩種上下文視窗層級,而且它們對大多數讀者一開始想問的那個問題,彼此看法並不一致。五個之中有三個接受音訊。兩個不接受。五個之中有兩個是你要透過 API 呼叫的那種模型;12B 則是要下載的那種。搞錯模型大小,是這個系列最常見的浪費週末方式,而供應商自家的 hub 上,沒有任何東西能讓人一眼看出這個區分。

那個落差是可以量測的,而這正是本頁存在的原因。在我們自家 Search Console 於 2026-09-15 至 2026-10-12 的資料中,Gemma 4 這個面向在 47 組查詢中獲得 499 次曝光與 5 次點擊。單獨的詞——也就是有人只輸入「gemma 4」——在兩組查詢中占了 24 次曝光與零次點擊。整個鄰域中最大的六組查詢都是比較型查詢,而且每一組都是對上 Qwen 3.8 模型:gemma 4 vs qwen 3.8(99 次曝光)、gemma 4 vs qwen3.8(40)、gemma 4 vs qwen 3.8 27b(29)。而即時部落格已經詳盡回答 12B 的對戰組合——三個 gemma-4-12b-vs-* 比較都以該模型開頭,另有四十個比較則把它放在 versus 的另一側。每一個比較都把同一個無編碼器的 Gemma 4 12B 對上不同的對手。讀者不是在問 Gemma 4 是什麼。他們是在問它能不能勝過某個東西。那個問題應該放在比較頁面上。這些比較需要的——而還沒被寫出來的——是一個能精確說明 Gemma 4 是什麼,以及有哪些尺寸存在的地方。

Gemma 4 究竟是什麼

Gemma 4 是 DeepMind 的開放權重模型系列,同時發布預訓練與指令微調形式,其中指令微調的檢查點帶有 -it 後綴。該系列涵蓋稠密與專家混合架構、五種規模,以及一組共通的架構選擇:混合注意力交錯使用局部滑動視窗注意力與完整全域注意力,且最後一層始終為全域;全域層中統一的鍵與值,加上比例式 RoPE 以控制長脈絡記憶體;262,000 個詞彙的詞彙表;可設定的思考模式;原生函式呼叫;以及原生支援 system 角色。模型卡指出,這些模型以超過 140 種語言進行預訓練,其中 35 種以上可開箱即用支援。

在效能進入討論之前,這個字型家族有兩件事就早已決定了大多數讀者的選擇。

首先是授權條款。Gemma 4 系列中的每一個尺寸都以 Apache 2.0 釋出。這是立場上的轉變:Gemma 2 與 Gemma 3 的發行採用的是客製化的 Gemma 使用條款,而它們在 Hugging Face 上的模型卡至今仍寫著license: gemma。Gemma 4 的模型卡則改為指向 Apache 2.0 的授權文本,而發布文章將這個系列描述為「以商業上寬鬆的 Apache 2.0 授權釋出」。對於任何曾經必須推敲 Gemma 使用條款的人來說,這就是本頁最關鍵的頭條事實。它按每個尺寸分別適用,並且載明於每個尺寸各自的模型卡上——而不是從整個系列層級的說法推論而來。

第二點是,「Gemma 4」並不是單一模型,而且這些規模大小並非彼此的等比縮放副本。E2B 和 E4B 使用一種稱為 Per-Layer Embeddings 的技巧,其中每個解碼器層都會針對每個 token 取得自己的小型嵌入表;這些表很大,但只會透過查表讀取,這就是為什麼規格卡上標示的有效參數量(2.3B 和 4.5B)遠低於包含嵌入在內的總量(5.1B 和 8B)。12B 在架構上是異類——它無編碼器,將原始影像區塊與音訊波形直接透過輕量線性層投射到 transformer 中,而不是透過專用的視覺與音訊編碼器。31B 是傳統的稠密模型。26B A4B 是稀疏模型。四種不同的機器設定檔,一個家族名稱。

尺寸對照表

以下是這個系列在其自身模型卡中的描述。下方的參數、層數與上下文視窗,是從 Gemma 4 模型卡上的稠密與 MoE 規格表讀取而來。

Gemma 4 E2B.最小的成員:2.3B 有效參數,含嵌入在內為 5.1B,35 層,512 詞元滑動視窗與 128K 上下文。它能處理文字、圖像與音訊,視覺編碼器約有 150M 參數,音訊部分則約 300M。它是為手機與物聯網裝置而打造,而且它不是本批中廠商另行提供獨立頁面的三種尺寸之一——如果你是特別為了 E2B 而來,本節就是它的全部內容。

Gemma 4 E4B.同樣的設計再往上一個等級:45 億有效參數,含嵌入則為 80 億,42 層,512 個詞元的滑動視窗,128K 上下文,以及相同的文字、圖像與音訊涵蓋範圍,並搭配相同的編碼器大小。同樣是邊緣模型,這裡同樣沒有專屬頁面。

Gemma 4 12B.家族中統一、免編碼器的中階成員:119.5 億個參數、48 層、1,024 個詞元的滑動視窗、256K 脈絡,以及與文字和圖片並存的原生音訊——2026 年 6 月 3 日的發布文章稱其為首款支援音訊的中型 Gemma。廠商本身對本機部署的定位是 16GB 的 VRAM 或統一記憶體。它在這批內容中有專屬頁面,而這個家族今天在即時搜尋中的全部曝光,就是三組gemma-4-12b-vs-*比較,因此那個頁面承載了很大的份量。

Gemma 4 26B A4B.稀疏模型,也是本頁下方符號標記章節所介紹的模型:總參數 25.2B、30 層、1,024 詞元滑動視窗、256K 上下文、僅支援文字與圖像——不支援音訊——以及 128 個專家中的 8 個作用中專家,外加一個共享專家。它在本批次中有專屬頁面。

Gemma 4 31B.稠密模型中的旗艦款:30.7B 參數、60 層、1,024 符元滑動視窗、256K 上下文,支援文字與圖像,配備約 550M 的視覺編碼器,完全不支援音訊。它在本批次中有專屬的頁面。

把這五款並排放在一起,分層在某一方面很明確,在另一方面卻很混亂。上下文視窗完全跟著尺寸走——12B 以下為 128K,12B 及以上為 256K。音訊則不然:兩個最小尺寸與 12B 都有,兩個最大尺寸則付之闕如。如果你需要語音輸入,那麼無論你願意在硬體上花多少錢,31B 都是錯誤的選擇。

A single-column scoreboard for the Gemma 4 family with six rows: sizes in family 5 (E2B, E4B, 12B, 26B A4B, 31B); top size parameters 31B dense, 30.7B params; sparse size 26B A4B at 25.2B total and 3.8B active; context window 128K on E2B and E4B versus 256K on 12B, 26B A4B and 31B; licence Apache 2.0 on all five; independent score AA Index 14 (estimated), rank #20 of 141, with a footer noting the spec figures are per Google DeepMind model cards and the Artificial Analysis score for Gemma 4 12B is flagged Estimated rather than measured.

「26B A4B」中的「A4B」解密

這個名稱帶有兩個數字,而其中只有一個是你會用來規劃記憶體的參數量。26B 是總數:25.2B 個參數存在於檢查點中。A4B則是活躍數量——在推論期間,每個符元大約會用到 3.8B 個參數,因為混合專家路由器會為每個符元從 128 個專家中選出 8 個(外加一個共享專家)。模型卡明確說明了「A」的含義:「26B A4B 中的『A』代表『活躍參數』,相對於模型所包含的參數總數。」

這換來的是更接近 4B 模型、而非 26B 模型的推論速度,同時品質卻更接近稠密的 31B——這是模型卡本身的說法,也是 26B A4B 之所以能成為一個層級的原因。它換不來的,是小巧的下載檔。你仍要載入全部 25.2B 參數;只是不必對全部參數進行乘法運算。

開放權重、各尺寸版本,以及授權條款允許的範圍

五種規模全都是開放權重的發布版本,而且五張模型卡都宣告採用 Apache 2.0——E2B、E4B、12B、26B A4B 與 31B 皆然。發布文章將這個系列描述為「以商業上寬鬆的 Apache 2.0 授權釋出」,讓開發者得以掌控自己的資料、基礎設施與模型,而 12B 的發布文章也針對該規模重複了 Apache 2.0 這一說法。

在這裡,Apache 2.0 就是授權的全貌,但值得精確說明這代表什麼,因為這是授權所回答的問題,而不是關於任何代管服務的陳述。Apache 2.0 授予永久、全球、非專屬、免權利金的著作權授權,以及相應的專利授權,允許再散布與修改,並要求授權條文隨著作一同傳布,且變更過的檔案須加以標示。若你針對該著作提出專利訴訟,專利授權即會終止。除慣常的描述性使用外,它不授予商標權,並且排除擔保責任。對照 Gemma 2 與 3 使用條款來解讀,實際差異在於:Apache 2.0 是標準的寬鬆授權,權重並未附帶另行的可接受使用規範。

因此,該授權條款允許再散布、商業使用、修改以及對這些權重進行微調,且這些權重本身也已發布。這就是該授權條款文本所涵蓋的全部範圍。任何特定服務在生產環境中使用模型所生成的內容,則是另一個問題,受該服務自身條款規範,而非 Apache 2.0 授權所及。

下載格式:「QAT」與 GGUF 儲存庫對你代表什麼

這是有真實流量在背後支撐的讀者提問,所以會在這裡直接獲得解答,而不是只給個其他地方的指引。廠商為整個系列提供了量化感知訓練(QAT)檢查點,而它們正是為什麼某個對你的機器來說看似過大的大小,往往其實並不算大的原因。

• QAT 檢查點會針對每種尺寸發佈,並提供多種格式:qat-q4_0-gguf適用於 llama.cpp 風格的本地執行環境,qat-w4a16-ct適用於 4 位元權重 / 16 位元激活的推論服務,以及 qat-q4_0-unquantized帶有 QAT 訓練後權重但未經封裝的變體,因此你可以自行將它們量化。

• Gemma 頁面將 QAT 描述為「為行動裝置與筆電效率而做的模型壓縮」,標註日期為 2026 年 6 月——也就是 12B 問世的同一個月。

• 刻意將格式與規模配對。E2B、E4B 和 12B 有 qat-q4_0-gguf 建置版本,鎖定手機、筆電和單張消費級 GPU;26B A4B 和 31B 也有 4 位元版本,但那些是針對具有真實記憶體的機器所使用的伺服器端量化,而不是以手機為目標。

此外也有 -assistant變體遍及整個系列,這些是廠商隨模型一併推出的多詞元預測草稿模型;deepmind.com 的 Gemma 頁面將這項草稿模型工作標註為 2026 年 5 月。這些是推測解碼的加速技術,並非不同的模型——你仍然需要主要檢查點。

尺寸在硬體上的位置,以及它們的價格

該系列的發布文章將兩個較大型號描述為未量化的 bfloat16 權重,「能有效率地裝進單張 80GB NVIDIA H100 GPU」。31B 模型有 30.7B 個參數,以 bfloat16 計算略超過 60GB,這對那句話來說是相當合理的解讀。26B A4B 的總參數為 25.2B,以 bfloat16 計算約落在 50GB 左右,但執行速度卻符合其 3.8B 活躍參數所暗示的水準。

12B 是廠商明確主打供本機使用的規模——根據 2026 年 6 月的發布文章,它「小到只需 16GB 的 VRAM 或統一記憶體就能在本機執行」,而 4-bit QAT GGUF 版本是進入該預算範圍的明顯途徑。這是廠商針對特定組態的說法,並非對每一種量化等級的通用承諾。

在價格方面,誠實的說法是這個系列同時橫跨兩種成本模式。如果你自行託管,你的成本就是 GPU 和電費。如果你呼叫託管端點,每 token 的價格由提供服務的一方決定,而對這個系列的大多數而言,那個數字會隨著供應商變動。獨立評測機構 Artificial Analysis 將 Gemma 4 12B (Reasoning) 列為每百萬輸入 token $0.10、每百萬輸出 token $0.30——並在同一頁面標註該變體「沒有公開可用的 API」,這是有用的獨立訊號,說明這個系列中哪些尺寸實際上在真實環境中有託管端點。

廠商基準測試,並附有標籤

下列數字為廠商自身提供,公布於 Gemma 4 模型卡上,且未在此重現。它們比較的是指令微調模型,並以 Gemma 3 27B(no think)作為前一代基準。

• 推理 — MMLU Pro:31B 85.2%、26B A4B 82.6%、12B 77.2%、E4B 69.4%、E2B 60.0%,相較於 Gemma 3 27B 的 67.6%。

• 競賽數學 — AIME 2026 不使用工具:89.2% / 88.3% / 77.5% / 42.5% / 37.5%,基線 20.8%。

• 程式碼 — LiveCodeBench v6:80.0% / 77.1% / 72.0% / 52.0% / 44.0%,基準 29.1%。Codeforces ELO:2150 / 1718 / 1659 / 940 / 633,基準 110。

• 科學 — GPQA Diamond:84.3% / 82.3% / 78.8% / 58.6% / 43.4%,基線 42.4%。

• 代理任務 — Tau2,平均為 76.9% / 68.2% / 69.0% / 42.2% / 24.5%,基線 16.2%。

• 長上下文 — MRCR v2,128k 下的 8-needle:66.4% / 44.1% / 43.4% / 25.4% / 19.1%,基線 13.5%。這一列最能明顯區隔 31B 與其同系列模型。

• 視覺 — MMMU Pro:76.9% / 73.8% / 69.1% / 52.6% / 44.2%。MATH-Vision:85.6% / 82.4% / 79.7% / 59.5% / 52.4%。

• 文件解析 — OmniDocBench 1.5 的平均編輯距離,數值越低越好:0.131 / 0.149 / 0.164 / 0.181 / 0.290。

廠商的兩項說法值得與表格分開來看,因為它們是排名而非量測結果:廠商將 31B 描述為「全球第 3 的開放模型」,並稱 26B A4B 佔據「第 6 名」。那些是廠商相對於自己挑選的一組模型所給出的名次。模型卡也記載,12B 的音訊分數排除了中文。另外還有一個數字,既不是基準測試,也不是價格:2026 年 6 月的 12B 貼文表示,Gemma 4 模型已「突破 1.5 億次下載」。那是廠商自行報告的數字,未附上任何獨立稽核。

這個系列只出現了一個獨立評分。Artificial Analysis 在其 Intelligence Index 上列出 Gemma 4 12B (Reasoning) 為 14——明確標示為估計值,獨立評估尚待進行,且在 141 個中排名第 20——同時列出每秒 110.9 個輸出 token 與首個 token 需時 2.49 秒。其索引頁面並未列出較大尺寸的實測 Gemma 4 分數。請將上述整個表格視為廠商自身的數據,並將 12B 的 14 視為該系列迄今唯一的實測數據點,且其本身也是暫定的。

我們服務哪些 Gemma 4 成員?

OrcaRouter 提供三個 Gemma 4 項目,而且它們今天已列在上線清單中:

• google/gemma-4-26b-a4b-it——經指令微調的稀疏 26B A4B 模型,我們的型錄將其描述為總參數 25.2B、每個權杖啟用 3.8B,並具備 262,144 個權杖的上下文長度,可接受文字、圖像與影片輸入。定價為每百萬輸入權杖 $0.06、每百萬輸出權杖 $0.33,快取輸入讀取則為每百萬 $0.0075。

• google/gemma-4-31b-it——指令微調的稠密 31B 模型,30.7B 參數。定價為每百萬輸入符元 0.13 美元,每百萬輸出符元 0.38 美元。

• obsidian/gemma-4-26B-A4B — 由 Obsidian 託管的相同稀疏 26B A4B 建置版本,具備 262K 詞元上下文與文字加圖像輸入,供應商將其定位於創意寫作、角色扮演與長上下文助理工作。標價為每百萬輸入詞元 $0.25、每百萬輸出詞元 $2.90。

三者之中的兩個,是由不同供應商所提供的同一個基礎模型,這對路由層來說才是真正有用的情境,而不只是件稀奇事。若某個供應商服務品質下滑,同一個請求會移交給另一個 id,無需更動程式碼;而且因為我們是以0% 加成直接傳遞供應商的定價,這三者中任何一個的代管價格調降,都會在生效當天就反映到你身上,而不是等過一輪重新定價週期。那兩個 26B A4B 項目也最能清楚說明,為什麼在你預設選定某一個之前,值得先看看價格差異:兩個跑相同架構的項目之間,輸入有 4× 的落差、輸出有 8.8× 的落差,這是路由決策,不是模型決策。

A capture of the OrcaRouter catalogue page for google/gemma-4-26b-a4b-it, showing the 262K-token context window, text, image and video input, the vision, tools, JSON and reasoning capability tags, a 2026-04-03 benchmark date, 25.2B total and 3.8B active parameters, and list pricing of $0.06 per million input tokens and $0.33 per million output tokens.

有一件事缺席了,值得明講而不是暗示。在我們的清單中,無論用哪種拼寫,都沒有 12B 這個 ID。這個系列中擁有最多活躍頁面和最多比較需求的大小,恰恰就是我們不提供的那一個,所以如果你想透過託管端點取得 12B,這裡不是取得的地方——而如果你想要這個系列中無編碼器、支援音訊、16GB 等級的成員,自行託管開放權重就是該規劃的路線。

什麼尚未確定?

有三件事讀者不應視為已有定論。首先,基準測試表完全由廠商自行提報;這個系列唯一可得的獨立數字,是針對單一規模的一個估計 Intelligence Index 分數。其次,對這個系列的需求幾乎完全是比較性的,而非單獨的——在我們的資料中,Gemma 4 系列有 73% 的曝光來自合格查詢,而其中最大的六個全是與 Qwen 的比較——這意味著讀者真正想要的答案,取決於仍在測量中的對決組合。第三,廠商自家的中心後來又冒出一些名稱與這個系列相近的鄰居:一個建立在 Gemma 4 之上的 DiffusionGemma、多詞元預測草稿器,以及 EmbeddingGemma 2。那些是各自獨立的模型,不是 Gemma 4 的規模版本,把它們混進規模比較只會得出毫無意義的結果。

可用性

所有五種規模的權重——E2B、E4B、12B、26B A4B 與 31B——都以 Apache 2.0 授權公開發布,提供預訓練與指令微調版本,並同時附有 QAT 與 GGUF 版本,透過供應商自家的發布管道與常見的模型儲存庫提供。在託管端點上,陣容會因平台而異,而對這個系列來說,差異又比平常更大:五種規模中有三種出現在我們的即時清單上,12B 則未出現在我們的清單中,而且至少有一家獨立評測機構完全未記錄到該尺寸有任何公開可用的 API。無論你使用哪個平台,都請查看其即時目錄中你需要的特定規模,而不要假設系列名稱涵蓋了它。

A capture of the Google DeepMind models page describing the current Gemma generation as the company's most capable open models, with links to try them in Google AI Studio and to the documentation.

本文中的比較1

根據本文內容識別 · 基準測試:Artificial Analysis · 每日更新