Gemma 4：详解 Google 开放权重家族中的每种规模

并不存在某个单一的 Gemma 4 可供查询。DeepMind 当前的开放权重产品线由五个彼此独立的模型组成——Gemma 4 E2B、Gemma 4 E4B、Gemma 4 12B、Gemma 4 26B A4B 和 Gemma 4 31B——它们横跨两种架构和两个上下文窗口层级，而且对于大多数读者带着而来的那个问题，它们的答案彼此并不一致。五者之中有三个支持音频，两个不支持。五者之中有两个属于通过 API 调用的那类模型；12B 则是需要下载的那类。搞错规模，是在这个家族上浪费一个周末最常见的方式，而厂商自家 hub 上没有任何内容能让这种区分一眼就变得显而易见。

这个差距是可衡量的，而这正是本页存在的原因。在我们自己 2026-09-15 至 2026-10-12 的 Search Console 数据中，Gemma 4 这一分面在 47 个查询中获得了 499 次展示和 5 次点击。裸词——也就是有人只输入“gemma 4”——在两个查询上带来了 24 次展示和零次点击。整个查询邻域中最大的六个查询都是比较类查询，而且每一个都是与某个 Qwen 3.8 模型进行对比：gemma 4 vs qwen 3.8（99 次展示）、gemma 4 vs qwen3.8（40 次展示）、gemma 4 vs qwen 3.8 27b（29 次展示）。而实时博客已经详细回答了 12B 的种种对比——三个 gemma-4-12b-vs-* 比较以该模型为首，另有四十个比较把它放在对阵的另一侧。它们每一个都在让同一个无编码器的 Gemma 4 12B 与不同的对手对阵。读者问的并不是 Gemma 4 是什么。他们问的是它能不能胜过某个东西。这个问题应该放在比较页面上。这些比较所需要的——也是尚未被写出来的——是一个能准确说明 Gemma 4 是什么以及存在哪些尺寸的单一页面。

Gemma 4 实际上是什么

Gemma 4 是 DeepMind 的开权重模型系列，同时发布预训练版本和指令微调版本，其中指令微调检查点带有 -it 后缀。该系列涵盖稠密和混合专家设计、五种尺寸，以及一组共享的架构选择：将局部滑动窗口注意力与完整全局注意力交错使用的混合注意力，且最后一层始终为全局注意力；全局层中统一的键和值，外加比例 RoPE 以控制长上下文内存；262,000 词元的词表；可配置的思考模式；原生函数调用；以及对 system 角色的原生支持。模型卡称，这些模型在 140 多种语言上进行了预训练，其中 35 种以上开箱即用支持。

关于这个家庭，有两件事在谈及表现之前，就已经决定了大多数读者的判断。

首先是许可证。该系列中每个 Gemma 4 规模都以 Apache 2.0 发布。这是一种姿态上的变化：Gemma 2 和 Gemma 3 的发布带有自定义的 Gemma 使用条款，而它们在 Hugging Face 上的模型卡仍写着 license: gemma。Gemma 4 的模型卡则指向 Apache 2.0 许可证文本，发布文章将该系列描述为“在商业上宽松的 Apache 2.0 许可证下发布”。对于任何以前不得不仔细考量 Gemma 使用条款的人来说，这就是本页的头条事实。它按每个规模分别适用，并且写在各规模自己的模型卡上——而不是从系列层面的声明中推断出来。

第二点是，“Gemma 4”并不是单一模型，各尺寸之间也不是彼此的等比缩放版本。E2B 和 E4B 使用了一种名为 Per-Layer Embeddings 的技巧：每个解码器层都会为每个 token 配备一张自己的小型嵌入表；这些表体量很大，但只会通过查表读取，这正是说明卡上给出的有效参数数（2.3B 和 4.5B）远低于包含嵌入在内的总量（5.1B 和 8B）的原因。12B 在架构上是个异类——它不含编码器，而是通过轻量线性层把原始图像块和音频波形直接投影进 transformer，而不是经由专用的视觉和音频编码器。31B 是常规的稠密模型。26B A4B 则是稀疏的。四种不同的机器配置，共用同一个家族之名。

尺寸图

以下是该系列在其自身模型卡中的描述。下方的参数、层数和上下文窗口均读取自 Gemma 4 模型卡上的稠密模型和 MoE 规格表。

Gemma 4 E2B.最小的成员：2.3B 有效参数，包含嵌入在内为 5.1B，35 层，512 token 滑动窗口和 128K 上下文。它可处理文本、图像和音频，视觉编码器参数约 150M，音频部分约 300M。它专为手机和 IoT 设备打造，并且它不是本批次中厂商单独为其发布页面的三个尺寸之一——如果你专门为 E2B 而来，本节就是它的全部内容。

Gemma 4 E4B.同样的设计再进一步：45 亿有效参数，包含嵌入层共 80 亿参数，42 层，512 token 滑动窗口，128K 上下文，并且与前者一样覆盖文本、图像和音频，编码器规模也相同。同样是边缘模型，在这里同样没有专属页面。

Gemma 4 12B。家族中统一、无编码器的中端型号：119.5 亿参数、48 层、1,024 token 滑动窗口、256K 上下文，以及文本和图像之外的原生音频——2026 年 6 月 3 日的发布博文称其为首款支持音频的中型 Gemma。厂商对本地部署的定位是 16GB 显存或统一内存。它在本批次中拥有独立页面，而如今该家族在实时搜索中的全部存在，就是三个 gemma-4-12b-vs-* 对比，因此这个页面承载的分量很重。

Gemma 4 26B A4B。这是稀疏模型，也是本页下方符号说明部分所讨论的模型：总参数量 25.2B，30 层，1,024 token 滑动窗口，256K 上下文，仅支持文本和图像——不支持音频——以及 128 个专家中激活 8 个，外加 1 个共享专家。它在本批次中有自己的页面。

Gemma 4 31B。稠密模型中的顶级之作：307 亿参数、60 层、1,024 token 滑动窗口、256K 上下文，支持文本与图像，配备约 5.5 亿参数的视觉编码器，完全不支持音频。它在本批次中有独立的页面。

把五款并排放置，分层在一个方面很清晰，在另一个方面则很混乱。上下文窗口完全跟随规模——12B 以下是 128K，12B 及以上是 256K。音频则不然：两个最小规模和 12B 都有，而两个最大规模都没有。如果你需要语音输入，那么无论你愿意在硬件上花多少钱，31B 都是错误的选择。

解码 26B A4B 中的“A4B”

这个名字里有两个数字，而其中只有一个是你做内存规划时会用到的参数量。26B 是总量：检查点中存有 252 亿个参数。A4B则是激活参数量——推理时每处理一个 token 大约只会触及 38 亿个参数，因为混合专家路由器会为每个 token 从 128 个专家中选出 8 个（外加 1 个共享专家）。模型卡明确说明了其中的“A”：“26B A4B 中的‘A’代表‘激活参数’，与模型所包含的参数总量相对。”

它为你换来的是更接近 4B 模型而非 26B 模型的推理速度，而质量则更接近稠密的 31B——这是该卡自己的描述，也是 26B A4B 作为一个层级存在的原因。它换不来的是小体积下载。你会加载全部 25.2B 参数；只是不会对全部参数做乘法运算。

开放权重、按规模，以及许可证所允许的内容

五个尺寸全部以开放权重形式发布，五张模型卡也都声明采用 Apache 2.0 —— E2B、E4B、12B、26B A4B 和 31B 无一例外。发布博文将该系列描述为“以商业上宽松的 Apache 2.0 许可证发布”，让开发者能够掌控自己的数据、基础设施和模型；而 12B 的发布博文也针对该尺寸重复了 Apache 2.0 的说法。

Apache 2.0 就是这里许可证问题的全部，但值得精确说明这意味着什么，因为它回答的是许可证本身的问题，而不是关于任何托管服务的声明。Apache 2.0 授予永久、全球范围、非排他、免版税的版权许可，以及相应的专利授权，允许再分发和修改，并要求许可证文本随作品一同传递，且被修改的文件须予以标注。如果你就该作品提起专利诉讼，专利授权即告终止。除惯常的描述性使用外，它不授予任何商标权，并且免除担保。对照 Gemma 2 和 3 使用条款来解读，实际差别在于：Apache 2.0 是一种标准的宽松许可证，其权重并不附带单独的可接受使用条款。

因此，该许可证允许对这些权重进行再分发、商业使用、修改和微调，而且这些权重本身也已发布。这就是许可证文本所涵盖的全部范围。任何特定服务在生产中使用模型生成的内容，则是一个单独的问题，受该服务自身条款的约束，而不受 Apache 2.0 授权条款的约束。

下载格式：“QAT”和 GGUF 仓库对你意味着什么

这是一个有真实流量支撑的读者提问，所以在这里作答，而不是只给一个指向别处的指引。厂商为整个系列提供量化感知训练（QAT）检查点，而正是它们，让某个看起来对你的机器来说过大的规格往往并没有那么大。

• 针对每种尺寸，QAT 检查点都以不止一种格式发布：qat-q4_0-gguf，适用于 llama.cpp 风格的本地运行时，qat-w4a16-ct，适用于 4 位权重 / 16 位激活的服务，以及 qat-q4_0-unquantized变体，它们带有未经打包的、经 QAT 训练的权重，因此你可以自行量化它们。

• Gemma 页面将 QAT 描述为“为移动端和笔记本电脑效率而进行的模型压缩”，日期为 2026 年 6 月——正是 12B 问世的同一个月。

• 有意将格式与规模配对。E2B、E4B 和 12B 有 qat-q4_0-gguf 构建版本，面向手机、笔记本电脑和单块消费级 GPU；26B A4B 和 31B 也有 4 位构建版本，但它们是针对拥有真实内存的机器的服务端量化，而不是手机目标。

整个系列中还有-assistant 变体，它们是厂商随模型一同发布的多词元预测草稿器；deepmind.com 的 Gemma 页面将草稿器相关工作的时间标注为 2026 年 5 月。这是一种用于推测解码的提速技术，而不是另一种模型——你仍然需要主检查点。

尺寸在硬件上的位置，以及它们的成本是多少

该系列的发布博文将两个较大的模型描述为未量化的 bfloat16 权重，“可以高效地适配单张 80GB NVIDIA H100 GPU”。在 30.7B 参数下，31B 模型以 bfloat16 表示时略超 60GB，这是对那句话的合理解读。26B A4B 模型总参数为 25.2B，以 bfloat16 表示时约为 50GB，但运行速度符合其 3.8B 活跃参数所预示的水平。

12B 正是厂商明确面向本地使用所宣传的规模——根据 2026 年 6 月的发布帖，“小到只需 16GB VRAM 或统一内存就能在本地运行”，而 4-bit QAT GGUF 构建显然是进入这一预算范围的显而易见途径。这是厂商针对特定配置的宣称，而不是对每一种量化级别的普遍承诺。

在价格方面，最诚实的说法是：这一系列同时横跨两种成本模式。如果自行托管，你的成本就是 GPU 和电费。如果调用托管端点，每 token 的价格由提供该服务的一方设定，而对这一系列中的大多数模型来说，这个数字会随提供商而变化。独立评估机构 Artificial Analysis 将 Gemma 4 12B (Reasoning) 列为每百万输入 token 0.10 美元、每百万输出 token 0.30 美元——并在同一页面上标注该变体“无公开可用的 API”，这是一个有用的独立信号，说明该系列中哪些规模实际上在现实中有托管端点。

附带标签的厂商基准测试

以下数字来自厂商自身，并发布在 Gemma 4 模型卡上，此处未予复现。它们比较的是指令微调模型，并以 Gemma 3 27B（no think）作为上一代基线。

• 推理 — MMLU Pro：31B 85.2%，26B A4B 82.6%，12B 77.2%，E4B 69.4%，E2B 60.0%，相较 Gemma 3 27B 的 67.6%。

• 竞赛数学 — 不使用工具的 AIME 2026：89.2% / 88.3% / 77.5% / 42.5% / 37.5%，基线 20.8%。

• 代码 — LiveCodeBench v6：80.0% / 77.1% / 72.0% / 52.0% / 44.0%，基线 29.1%。Codeforces ELO：2150 / 1718 / 1659 / 940 / 633，基线 110。

• 科学 — GPQA Diamond：84.3% / 82.3% / 78.8% / 58.6% / 43.4%，基线 42.4%。

• 智能体任务 — Tau2，三次运行取平均值：76.9% / 68.2% / 69.0% / 42.2% / 24.5%，基线为 16.2%。

• 长上下文 — MRCR v2，128k 下的 8-needle：66.4% / 44.1% / 43.4% / 25.4% / 19.1%，基线为 13.5%。这一行最能将 31B 与同系列其他模型显著区分开来。

• 视觉 — MMMU Pro：76.9% / 73.8% / 69.1% / 52.6% / 44.2%。MATH-Vision：85.6% / 82.4% / 79.7% / 59.5% / 52.4%。

• 文档解析——OmniDocBench 1.5 的平均编辑距离，越低越好：0.131 / 0.149 / 0.164 / 0.181 / 0.290。

发布文章中的两项厂商说法值得与表格分开保留，因为它们是排名而非测量数据：厂商将 31B 描述为“全球第 3 的开源模型”，将 26B A4B 描述为位列“第 6 名”。这些是厂商针对一组由其自行选定的模型所给出的排位。模型卡还记录称，12B 的音频分数不包含中文。还有一个既非基准也非价格的数字：2026 年 6 月关于 12B 的文章称，Gemma 4 模型已“突破 1.5 亿次下载”。这是厂商报告的数字，未附任何独立审计。

这个系列只出现了一个独立评分。Artificial Analysis 在其指数中收录了 Gemma 4 12B（推理）——明确标注为估算值，独立评测仍有待进行，在 141 个模型中排名第 20——同时还有每秒 110.9 个输出 token 和 2.49 秒的首 token 时间。其指数页面上没有更大尺寸 Gemma 4 的实测评分。请把上表整体视为厂商自家数据，而 12B 的这一评分是目前该系列中唯一的数据点，且本身也只是暂定值。

我们为哪些 Gemma 4 成员提供服务

OrcaRouter 提供三个 Gemma 4 条目，并且它们今天已在实时列表中：

• google/gemma-4-26b-a4b-it — 指令微调的稀疏 26B A4B 模型，在我们的目录中描述为总参数 25.2B、每 token 激活 3.8B，上下文长度为 262,144 token，接受文本、图像和视频输入。标价为每百万输入 token 0.06 美元、每百万输出 token 0.33 美元，缓存输入读取为每百万 0.0075 美元。

• google/gemma-4-31b-it — 经过指令微调的稠密 31B 模型，307 亿参数。标价：每百万输入 token 0.13 美元，每百万输出 token 0.38 美元。

• obsidian/gemma-4-26B-A4B—— 由 Obsidian 托管的同一款稀疏 26B A4B 构建版本，具备 262K token 上下文，支持文本加图像输入，其提供商将其定位为面向创意写作、角色扮演和长上下文助手工作。标价为每百万输入 token 0.25 美元，每百万输出 token 2.90 美元。

三者中的两个是由不同提供商提供的同一基础模型，这对路由层来说是有用的场景，而不是一件稀奇事。如果某个提供商服务质量下降，同一请求会故障转移到另一个 id，而无需更改代码，而且由于我们传递提供商的标价时采用0% 加价，这三者中任何一个的托管价格下调，都会在落地当天触达你，而不是等到一个重新定价周期之后。两个 26B A4B 条目也最清楚地说明了，为什么在你默认选择其中一个之前，值得先看看价格差异：在两个运行相同架构的条目之间，输入价格相差 4 倍，输出价格相差 8.8 倍，这是路由决策，而不是模型决策。

有一点是缺失的，值得直说而不是暗示。我们的列表里没有任何拼写形式的 12B id。这个系列中在线页面最多、对比需求最大的那个尺寸，恰恰是我们不提供服务的那个；所以如果你想通过托管端点使用 12B，这里不是获取它的地方——而如果你想要这个系列中无编码器、支持音频、16GB 级别的成员，自行托管开放权重才是应该规划的方式。

什么尚未确定

有三件事，读者不应视作已有定论。第一，基准表完全来自厂商自报；这个系列唯一可用的独立数字，只是针对其中某一个规模的一个估算 Intelligence Index 分数。第二，这个系列的需求几乎完全是比较性的，而非独立性的——在我们的数据中，Gemma 4 系列的曝光量有 73% 来自带限定词的查询，而其中最大的六个查询全都是与 Qwen 的对比——这意味着读者真正想要的答案，取决于那些仍在测量中的对局。第三，厂商自己的 hub 此后又冒出了名称与本系列十分接近的邻近模型：基于 Gemma 4 构建的 DiffusionGemma、多 token 预测草稿模型，以及 EmbeddingGemma 2。那些是彼此独立的模型，不是 Gemma 4 的规模，把它们混进规模比较中只会得出荒谬结果。

可用性

所有五种规模——E2B、E4B、12B、26B A4B 和 31B——均以 Apache 2.0 许可公开发布，提供预训练和指令微调形式，并附带 QAT 和 GGUF 构建版本，通过供应商自身的分发渠道和常见的模型仓库提供。在托管端点上，可用组合因平台而异，而对于该系列而言，这种差异比通常更大：五种规模中有三种出现在我们的实时列表中，12B 没有出现在我们的列表上，并且至少有一家独立评估机构记录到它根本没有公开可用的 API。请查看你所使用平台的实时目录，以确认你需要的具体规模，而不要假设系列名称就涵盖了它。