Gemma 4 12B：深入解析 Google 的無編碼器 12B 模型

Gemma 4 12B 是 DeepMind 的 Gemma 4 系列中的中型成員：一個稠密、擁有 119.5 億參數的開放權重模型，可讀取文字、圖像、音訊和視訊影格並輸出文字，而其決定性的工程設計決策是它完全不搭載任何多模態編碼器。它介於專注邊緣運算的 Gemma 4 E4B 與更大、更稀疏的 Gemma 4 26B A4B之間。發布說明將其任務定位為把代理式多模態工作帶到筆電上——推理、工具使用、程式編寫，以及文件或螢幕理解，且是在你面前的機器上執行，而不是透過計量付費連線。它也是我們自家網站上，承載此系列全部現有內容的尺寸：目前有三個比較頁面是關於它，而在這篇之前，並沒有任何關於模型本身的頁面。

這種反轉值得一開始就點明，因為它解釋了下方一切的樣貌。讀者抵達Gemma 4 12B的方式，並不是他們抵達旗艦產品的方式。他們是從側面抵達，通常是從某個比較頁面，往往是因為真正的問題是Gemma 4 的哪個尺寸——而他們想在花費一次下載之前，先知道比較的左側到底是什麼。我們針對這個名稱所測量到的搜尋，絕大多數都是比較型的；單獨的詞本身則很薄弱。所以這是一頁參考頁面：12B 是什麼、它的模型卡說明了什麼、運行它需要什麼、它的授權條款允許什麼，以及現有的三個比較中，哪一個已經能解決你帶著來的那個問題。

這不是一篇發布報導，也不該被當成一篇發布報導來讀。Gemma 4 12B於 2026 年 6 月 3 日推出——比本頁早 132 天——而在本文發布前的七天內，這個模型沒有任何變動。這個日期出自供應商自家的發行說明，此處引用它是為了將該模型置於時間脈絡中，而非為了宣告其問世。

12B 是什麼，以及它與 26B A4B 有何不同

Gemma 4 系列有五種尺寸，而它們並不是同一條線上的五個點。模型卡將它們列為E2B、E4B、12B Unified、26B A4B以及31B，而它們分屬兩種架構：三個稠密模型與一個混合專家模型，其中 E 尺寸採用逐層嵌入來縮小實際在裝置上執行的部分。

Gemma 4 12B 是一個稠密模型。模型卡記載其總參數量為 11.95B，橫跨 48 層，具備 1,024 個 token 的滑動視窗與 256K token 的上下文。Gemma 4 26B A4B 相較之下則是此系列中的混合專家模型：總參數量為 25.2B，但每個 token 僅有 3.8B 處於作用中，分佈於 30 層，128 個專家中有 8 個為作用中，另加一個共享專家。名稱中的「A」正是重點所在——這個模型承載 26B 的權重，卻在每次前向傳遞時只為其中約 4B 付出成本，這也是為什麼模型卡形容它跑起來幾乎和 4B 模型一樣快，卻擁有遠更豐富的知識。

所以誠實的一句話區別是這樣。當你想要每單位延遲換得最大的能力，而且你有工作站或伺服器可以跑它時，26B A4B 就是你會選擇的規模。當機器是筆電、預算只有 16GB 記憶體時，12B 就是你會選擇的規模。發布說明把 12B 定位為 E4B 與 26B A4B 之間的橋樑，而規格表也證實了這一點。

更有趣的差異在於架構上，這也是 12B 被標記為「Unified」而不僅僅是「Dense」的原因。該系列中所有其他的多模態模型都會先將圖像和音訊透過專用編碼器處理，然後才將結果交給語言模型——規格表上列出了 E-sizes 上約 1.5 億參數的視覺編碼器和約 3 億參數的音訊編碼器，以及 31B 和 26B A4B 上約 5.5 億參數的視覺編碼器。12B 兩者皆無；在 12B 上，視覺和音訊編碼器參數的欄位在兩種情況下都顯示為破折號。

取代它們的東西很小。發布文章將視覺描述為一個輕量級嵌入模組——一次矩陣乘法，加上位置嵌入與正規化——而音訊則是徹底移除編碼器，並將原始訊號投影到與文字 token 相同的維度空間。原始影像 patch 與音訊波形直接進入單一的僅解碼器 transformer。所宣稱的好處是更低的多模態延遲，以及能夠一次跨模態微調整個模型，只需單一適配器，而非每個編碼器各一個。

這也是為什麼 12B 是首款具備原生音訊輸入的中型 Gemma。在卡片上，「文字、圖像、音訊」是 E2B、E4B 和 12B 的模態列；31B 與 26B A4B 則僅標示「文字、圖像」。

該規範，如模型卡所述

本節所有內容均出自 ai.google.dev 上的 Gemma 4 模型卡，該模型卡涵蓋整個系列，而非僅限 12B。模型卡未提及之處，會加以註明，而非自行補上。

• 上下文長度——12B 上為 256K tokens。模型卡明確註明這項區分：小型模型（E2B、E4B）為 128K，中型模型（12B、26B A4B、31B）為 256K。

• 模態 — 文字、圖像與音訊輸入；文字輸出。此卡片將影片列為以幀序列方式處理的家族能力，並描述在所有尺寸下皆支援可變長寬比與解析度的圖像輸入。

• 總參數量 — 11.95B，稠密架構，48 層。這張規格卡並未提供活躍參數數字，因為沒有專家可供啟用。

• 滑動視窗 — 1,024 個詞元，是 E-sizes 所用 512 的兩倍。

• 詞彙量 — 262K，五種尺寸共用。

• 注意力 — 一種混合機制，將局部滑動視窗注意力與完整的全域注意力交錯配置，且最後一層一律為全域。全域層採用統一的鍵與值，再加上比例式 RoPE，以在長上下文下壓低記憶體用量。

• 語言 — 已在 140+ 種語言上預先訓練，而卡片宣稱可開箱即用支援 35+ 種。

有兩個數字值得釐清，因為它們看起來像是有分歧，但其實並非如此。模型卡上寫的是 256K 個符元；Artificial Analysis 針對 Gemma 4 12B 的模型頁面則寫 262k。這兩者其實是同一個數字用兩種方式寫成——262,144 個符元就是 256K——而旁邊模型卡上的 262K 詞彙量數字，正是讓這對數字乍看之下顯得矛盾的原因。

在基準測試方面，模型卡公布了針對指令微調檢查點的家族表，而這些是廠商自行回報的數字，並非獨立驗證的數據。對於 Gemma 4 12B，模型卡列出 MMLU Pro 77.2%、GPQA Diamond 78.8%、不使用工具的 AIME 2026 77.5%、LiveCodeBench v6 72.0%、Codeforces ELO 1659、MMMU Pro 69.1%，以及在 128K 長度、八根針設定的 MRCR v2 上 43.4%。同一張表則將 Gemma 4 26B A4B列為 MMLU Pro 82.6%、AIME 88.3%、LiveCodeBench 77.1% 與 MRCR 44.1%——在大多數列上都領先，這正是你對較大模型的預期；而在少數幾列上又足夠接近，顯示尺寸差距並非故事全貌。

來自 Artificial Analysis 的獨立評測，重點只有一個標題：Intelligence Index 分數為 14，在其比較類別的 141 個模型中排名第 20，實測輸出速度為每秒 110.9 個 token，混合成本為每百萬輸入 token 0.10 美元、每百萬輸出 token 0.30 美元。這些成本數字是提供開放權重的第三方平台的中位數，並非供應商的定價——這一點值得精確說明，因為該供應商在模型卡上完全沒有公布 12B 的每 token 價格。

運行它：它實際需要什麼

發布文章直接說明了最重要的需求：12B 模型「小到只需 16GB VRAM 或統一記憶體就能在本機執行」。針對它公布的量化大小則讓這一點更具體。

• 完整精度 — Hugging Face 上經指令微調的檢查點是單一 23.92 GB 的 safetensors 檔案。以 bfloat16 而言，這是在任何 KV 快取之前的原始權重佔用量，因此 16GB 的機器容納不下，而 24GB 的顯示卡也很吃緊。

• 廠商自家的量化版本——因為 12B 出廠時搭載的是量化感知訓練，而不只是事後量化器。廠商發布了一份 QAT GGUF，權重約 6.98 GB，外加一個 0.18 GB 的多模態投影檔案，另有一份 QAT 壓縮張量（compressed-tensors）版本（w4a16），大小為 10.26 GB。此外還發布了一份未量化的 QAT 檢查點，專門作為重新量化之前進行微調的基礎。

• 社群 GGUF——廣為流傳的 Unsloth 版本，從最積極的 2 位元約 4.2 GB，到 IQ4_XS 的 6.38 GB、Q4_K_M 的 7.12 GB、Q5_K_M 的 8.41 GB，以及 Q8_0 的 12.67 GB。LM Studio 鏡像站發布的 Q4_K_M 為 7.38 GB、Q6_K 為 9.79 GB、Q8_0 為 12.67 GB，每個都附帶相同的 0.18 GB 投影檔。

• MLX — 針對 Apple silicon 的 8 位元量化版本分佈於三個檔案，總計約 12.7 GB；而程式碼微調的 4 位元社群版本則接近 6.7 GB。

綜合來看，這就是「能不能裝得下」的實際答案。Gemma 4 12B的 4 位元版本約 7 GB，正是能讓 16GB 筆電跑得動的版本，完全如同廠商所宣稱。如果你想要未量化的模型，目標就是 24GB 以上的顯卡；如果你想要完整的 256K 上下文，還需要在權重佔用之外，為快取保留額外空間。

有兩件事是這些來源沒有提供、而本頁也不會憑空捏造的。廠商並未公布本機推論的吞吐量數字——Artificial Analysis 的每秒 110.9 個 token 是在第三方基礎架構上進行的託管服務測量，不是筆電上的數字，兩者不能混為一談。而且，目前也沒有公布各量化版本的最低 RAM 對照表；上述大小是檔案大小，那是下限，不是需求。

模型卡確實記載的是周邊工具鏈，而不是任何單一受認可的執行環境：Hugging Face Transformers、llama.cpp、MLX、SGLang、vLLM 與 Unsloth 用於推論與微調，並以 LM Studio、Ollama 與 LiteRT-LM 作為封裝好的本機途徑，而權重則位於 Hugging Face 與 Kaggle 上。12B 也隨附多詞元預測草稿模型，以獨立的助理檢查點形式發布——這是一項以記憶體換取延遲的小型額外下載。

有一個路由事實必須直白說明，因為這正是比較頁面往往語焉不詳的那類事情：Gemma 4 12B不是 OrcaRouter 提供服務的模型，任何寫法都一樣——不是單純的名稱，不是加上日期的變體，也不是量化版本。我們確實有路由的 Gemma 4 尺寸是 26B A4B 與 31B。所以，如果你想呼叫這個模型，自行託管權重，或使用提供這些權重的第三方主機，才是可行途徑；如果你不想自己運行，誠實的下一步就是確認這個家族的其他尺寸能否滿足你的需求。

許可證，特別是針對這個尺寸的

Gemma 4 模型卡將授權條款標示為 Apache 2.0，並連結至 Gemma 4 授權條款頁面，該頁面提供 Apache 2.0 條文——也就是標準 Apache 授權條款，沒有使用上限、沒有月活躍使用者門檻，也沒有另立的商業層級。Hugging Face 上 12B 指令微調檢查點的儲存庫，也在其中繼資料中帶有相同聲明，並指向相同的授權條款 URL。因此，就這個規模而言，授權條款的問題有個簡短答案：在 Apache 2.0 條款下，無論是否用於商業用途，都可以使用、修改與再散布。

它還有兩份附帶文件，值得了解，而不應與授權條款混為一談。供應商發布了 Gemma 使用條款頁面與 Gemma 禁止使用政策。禁止使用政策是一份行為文件，列出模型不得用於產生的輸出類別。這是政策，不是對權重的授權限制——權重本身採用 Apache 2.0，這正是社群能對這個模型做出衍生版本的根本原因。如果你要重新散布 Gemma 4 12B 或其微調版本，規範你重新散布行為的是授權條款；規範可接受用途的則是政策。

這項區別回答了社群衍生生態系所提出的問題，而不需要刻畫任何人的行為。因為權重是在寬鬆授權條款下開放的，第三方可以也確實會發布 12B 的微調與量化版本——abliterated 變體、領域微調、替代的量化配方。該授權條款所允許的是那些衍生品的再散布；該授權條款也是它們存在的原因。

本頁面位於其後的三個比較

此路徑主幹下的三個上線頁面全都是對戰組合，而每一個都已回答了不同的問題。本頁並不裁決其中任何一個——它就是它們所描述的那個事物。

• Gemma 4 12B 對比 Gemini 3.5 Flash-Lite — 釐清當兩個選項都來自同一家供應商，而比較軸線在於付費方式時會發生什麼事：一個是以 Apache 2.0 授權下載的模型，對上託管 API 中最便宜的計量層級。

• Gemma 4 12B 對上 GLM 5.2 — 徹底了結這場極度不對稱的配對：一個無需編碼器、可直接指向筆電的 12B，對上一個擁有 744B 參數、為長程代理式編碼而打造的開放權重混合專家模型，價格卻是好幾倍。

• Gemma 4 12B 對比 Qwen3.8 Max — 直接解決了裝置端與租用服務之間的取捨問題：你桌上的一台機器，對上同一實驗室以 token 計費提供的旗艦模型。

如果你真正想要的其實是其他 Gemma 4 尺寸之一，而不是另一場 12B 對比，那麼一次涵蓋全部五個的頁面就是 family hub，E2B、E4B、26B A4B 和 31B 都在那裡一起介紹。而如果你已經確定 12B 不是合適的尺寸，最常與它互相比較的模型——GLM 5.2、Qwen3.8 Max 和 Gemini 3.5 Flash-Lite——都能透過 OrcaRouter 以一組金鑰存取，且在供應商自身標價上加價 0%，因此供應商一宣布降價，這裡當天就會同步。

什麼尚未確定？

有兩個缺口值得直接說清楚，而不是加以掩蓋。上方的基準測試表是廠商自行提報的——用的是廠商自家的規格卡與評估設定——而儘管 Artificial Analysis 後來已獨立評測該模型，給出 Intelligence Index 14 的分數，但各項基準測試的數字並沒有廣泛的獨立重現，因此請把列層級的數字視為宣稱。而且目前沒有針對 12B 發布的各量化等級記憶體表，這意味著「16GB 就夠」這句話是廠商宣稱，並有檔案大小作為佐證，而不是你可以照抄的實測配置。

模型本身的定位很容易：一個 Apache 2.0、無編碼器、12B 參數的多模態模型，日期為 2026 年 6 月 3 日，可在筆電上以 4-bit 執行，並且是 Gemma 4 中具備原生音訊的最小尺寸。它不是一個有第一方託管費率的模型，而這正是圍繞它的實際決策先是硬體決策、其次才是價格決策的原因。

如果你是因為某個配對來到這裡，而那個配對並不是你需要的那一個，下一頁就是符合你問題的比較；若那也不是，還有更完整的 Gemma 4 系列——12B 只是五種尺寸之一，而你真正想要的尺寸，可能是你今天就能呼叫的 26B A4B，或是你能在該系列範圍頂端運行的 31B。