生成的标题卡上写着 ZoomGain-9B vs Gemma 4 12B,副标题写着“缺失的那一行”,两张圆角模型卡及二者之间的一条细分割线,置于白色背景上,带有蓝色与青色渐变点缀,右下角有 OrcaRouter 标志。
Guides & Insights

ZoomGain-9B 与 Gemma 4 12B:基准测试中缺失的那一行

作者

Rowan Sterling

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

发布时,共有 28 款模型在 ZoomGain 基准上获得评分:四个闭源前沿系统、四个智能体视觉模型、四个细粒度专家模型,以及十六个开放通用模型。Gemma 不在其中——不是 Gemma 4 12B,不是 Gemma 4 31B,也不是 E 系列中的任何一款。在比较 ZoomGain-9B 与 Gemma 4 12B 时,这一遗漏是最有用的一条事实,因为这意味着你能构建的每一张“ZoomGain vs Gemma”表格都会有一个缺口;而本文讨论的是这两个模型实际上是什么,而不是一个并不存在的数字。

两者在规模上足够接近,因而容易引发比较;但在用途上又相距甚远,使这种比较具有误导性。ZoomGain-9B 是 inclusionAI 的 9B 视觉语言检查点,基于 9,000 个从图像裁剪中挖掘的问题,通过强化学习进行后训练,于 2026 年 11 月 10 日发布,附有论文但未发布公告。Gemma 4 12B 是 Google DeepMind 的 11.95B 无编码器统一多模态模型,于 2026 年 5 月 23 日发布,采用 Apache 2.0 许可,上月获得 180 万次下载和 1,730 个点赞。一个是仅展示出一种能力的研究工具。另一个是产品,拥有许可证、一套文档、六种量化版本,并已有半年的社区使用。

每一个实际上是什么

Gemma 4 12B 是 Gemma 4 家族中在架构上很有意思的一员。E2B、E4B 和 31B 模型使用专用编码器——较小的模型使用约 1.5 亿参数的视觉塔,31B 使用约 5.5 亿参数的视觉塔——并将嵌入传递给语言模型。12B 则不是这样。它通过轻量级线性层,将原始图像块和音频波形直接投影到解码器的嵌入空间中,这正是其名称中“Unified”的含义,也是该模型支持音频而 31B 不支持的原因。

其结构为:48 层,隐藏大小为 3,840,中间层大小为 15,360,在头维度为 256 时,16 个查询头对应 8 个 KV 头,词表大小为 262,144 个 token,最大位置数为 262,144。其 48 层中有 40 层是窗口大小为 1,024 个 token 的滑动窗口注意力;8 层是全注意力,而最后一层始终是全局注意力。三种输入模态、文本输出、256K 上下文,以及原生系统角色。

ZoomGain-9B 的构建方式正好相反。它的文本主干是 Qwen3.5-9B——32 层、隐藏维度 4,096、中间维度 12,288、线性注意力与全注意力按 3:1 配比安排、最大位置数 262,144——并搭载了一个由基础模型加装而来的视觉塔,而非在此处首创。在该主干之上,作者对 9,000 个问题运行了 GRPO,这些问题的答案取决于只有放大到某个区域时才能看到的细节。该模型并非作为通用助手训练,也未以通用助手的定位呈现。

• 参数 — G​emma 4 12B 11.95B 对比 ZoomGain-9B 约 9.4B(BF16 下为 18.82 GB,相较于 12B 的文件大小)。

• 模态支持 —— G​emma 4 12B 可处理文本、图像、视频和音频;ZoomGain-9B 可处理文本和图像。音频并非 ZoomGain 实现中的缺失项,而是根本未出现在其配置中。

• 背景——G​emma 4 12B 的文档标注为 256K。ZoomGain-9B 的模型卡未作任何说明;其配置从 Qwen3.5-9B 主干继承了 262,144 个位置,而这与微调检查点经过测试验证的属性并不等同。

• 许可证 — G​emma 4 12B 采用 Apache 2.0,并附有具名许可证文件。ZoomGain-9B:代码采用 Apache 2.0,检查点条款则推迟到一张未带许可证标签的模型卡上。

• 分发 — G​emma 4 12B 以 BF16 形式发布,并提供大小为 6.98 GB 的 QAT q4_0 GGUF(配有 0.18 GB 投影器),同时提供来自 ggml-org、unsloth 和 litert 的构建版本;ZoomGain-9B 自 11 月 11 日起以 BF16 以及 F16、Q8_0 和 Q4_K_M 的 GGUF 形式发布。

• 文档 — G​emma 4 12B 有发布博客、技术报告、框架实战指南和许可证页面。ZoomGain-9B 有一篇论文、一个代码仓库和一张未注明上下文长度的模型卡。

Generated two-column comparison card headed ZoomGain-9B and Gemma 4 12B, with rows labelled Parameters, Modalities, Context, Licence, Q4 download and ZoomGainBench, carrying values that include roughly 9.4B against 11.95B, text and image against text, image, video and audio, 262K undocumented against 256K documented, Apache 2.0 and six quantisations, 5.63 GB plus a 0.52 GB projector, and 55.48 held-in against not run, with a footer noting the ZoomGain figures are author-reported and unreproduced.

为什么缺失的那一行不是你可以随便挥挥手就打发掉的疏忽

ZoomGain 基准旨在揭示一种失败:模型无法分辨大画面中的微小细节。作者在 1,000 个问题和 941 张图像上,以英文和中文评估属性识别、计数和 OCR,选择题和整数采用精确匹配,OCR 采用下限为 0.7 的 ANLS。在该测试中,二十八个模型中最好的达到 61.08,只有五个超过 50。

G​emma 4 12B 尚未在该基准上运行过。其他任何 G​emma 也都没有。这给你留下两个选项,而其中只有一个诚实。你可以把 G​emma 的 MMMU Pro 69.1 和 MATH-Vision 79.7 与 ZoomGain 的留出集平均值 66.10 并列,称之为比较,但这是把一个广泛的多模态套件与十三个感知基准的平均值相比较,得出的数字毫无意义。或者你可以说出事实:没有人用同一把尺子测量过这两者;如果这个问题对你重要,该基准可以下载,你用一个下午就能自己运行它。

第二种方案比听起来更便宜。ZoomGainBench 以标注、图像和评估器的形式提供;评估接受 OpenAI 兼容的端点或本地检查点,在温度 0 且禁用思考的情况下运行,并报告每个问题的结果。G​emma 4 12B 可在 vLLM 或 llama.cpp 下运行。这是你可以做出的真正正面对比,而基准作者没有纳入 G​emma 这一事实本身就颇具信息量——在该基准发布之前,该模型已经可用六个月了。

G​emma 4 12B 的数字体现在哪里,以及它们意味着什么

这些是 G​oogle 自己在模型卡中给出的数据,尚未由中立实验室复现:

• MMMU Pro 69.1 —— 多模态推理套件,也是 G​emma 的规格卡上最接近视觉能力声明的项目。

• MATH-Vision 79.7 — 基于图表和图像的数学推理。

• OmniDocBench 1.5 平均编辑距离 0.164——文档解析,数值越低越好;31B 达到 0.131。

• MMLU Pro 77.2、GPQA Diamond 78.8、AIME 2026 77.5(不使用工具)——文本方面,而 ZoomGain-9B 对此完全没有宣称。

• τ² 平均 69.0,并支持原生函数调用——智能体工具使用。

• MRCR v2 在 128K 上下文下的八针测试(eight-needle),43.4% —— 长上下文检索,这个数字最能削弱 256K 这一宣传亮点。

最后一点值得强调。256K 的窗口并不等于 256K 的可用注意力,而 G​oogle 公布的一项检索得分在 128K 时降至 43.4%,这比大多数规格卡都更为坦诚。如果你的工作负载是“在一份大文档中找出一个事实”,那么 G​emma 4 12B 的窗口是真实的,但它在深处的召回能力只是中等水平;而 ZoomGain-9B 没有对应的测量数据,因为从未对它进行过长上下文评估。

在 ZoomGain-9B 给出数字的地方,以及附在每个数字上的注意事项

所有作者报告的结果,均基于已发布的测试框架:

• HR-Bench 4K 得分 90.25,较其来源模型 Qwen3.5-9B 的 82.13 有所提升。高分辨率感知,也是本次发布的核心主张。

• V*Bench 93.19,较 86.91 有所提升。杂乱场景中的小目标检测。

• MMVP 70.00,高于此前的 60.00。这项配对图像测试要求对两张几乎完全相同但正确答案不同的图片作出判断——它是现有基准中与 ZoomGain 训练目标最接近的一个。

ZoomGainBench 为 55.48,较 32.13 有所上升。held-in 列因构造方式而虚高,作者也承认了这一点。

• 在十三项基准测试中,留出集平均得分为 66.10,高于此前的 59.75。这个数字才真正有意义。

这些注意事项按它们应让你担忧的程度排序。第一,除了作者名单上的人之外,没有任何人复现过其中任何结果。第二,基准测试和训练数据来自同一条流水线,因此论文将自家基准排除在留出平均值之外——这种严谨值得肯定。第三,训练集只有 9,000 条记录,规模小到即使收益真实存在,也可能很有限。第四,该模型没有托管端点,并且在撰写本文时,Hub 上的 provider mapping 为空。

成本,要用真正决定它的那些因素来衡量

Gemma 4 12B 在 QAT q4_0 下为 6.98 GB,外加 0.18 GB 的投影器。这能装进 16 GB 的笔记本电脑且还有余量,而装进 8 GB 的显卡则需要费些功夫。ZoomGain-9B 在 Q4_K_M 下为 5.63 GB,外加 0.52 GB 的投影器;在 Q8_0 下则为 9.53 GB,外加 0.62 GB。9B 在每种精度下都是更小的下载,因为它是更小的模型,而且其以线性注意力为主的主干意味着在长序列长度下 KV 缓存更短——如果你喂给它的是高分辨率图像而不是长文本,这一点就很重要。

今天这两个模型都无法通过我们调用。G​emma 4 12B 不在 OrcaRouter 的目录中,ZoomGain-9B 也不在,所以实话实说,两者都属于自托管或使用供应商 API 的决定。我们确实托管的是Gemma 4 26B A4B,每百万输入 token 0.06 美元,每百万输出 token 0.33 美元,窗口为 262K——同一系列,活跃参数预算为其四倍,也是在下载任何内容之前判断 G​emma的文档解析特性是否适合你的流水线的一种合理方式。一个密钥即可覆盖该模型以及 200 多个其他模型,均按标价计费、无加价,因此对一个视觉端点和一款低成本文本模型进行对比测试只需一个下午,而不是三份合同。

Screenshot of the OrcaRouter model page for Gemma 4 26B A4B, showing the 262K context figure, text, image and video input, the Vision, Tools, JSON and Reasoning capability tags, a price of $0.06 per million input tokens and $0.33 per million output, a p50 time-to-first-token of 51 ms, zero data retention, the Google attribution dated 2026-04-05, and the 25.2B total / 3.8B active mixture-of-experts figures.

按工作选择,而非按职级

如果任务是大图中的一个小细节——设备上的序列号、远处标牌上的文字、四十个物体中某一个的颜色、立面上窗户的数量——ZoomGain-9B 就是为此而打造的,但有一点需要注意:它的证据是自行报告的,而且它的许可证需要仔细阅读。它的架构正是针对你正遇到的这种失效模式进行了优化。

如果任务属于其他任何视觉任务——读取多页文档、描述场景、回答有关图表的问题、同时接收音频和图像、随后调用函数——G​emma 4 12B 就是成熟成品,比较便不再势均力敌。它具备 140 种语言预训练、原生工具调用、带已发布检索曲线的 256K 窗口、六种量化,以及一份可以直接交给法务、无需解释的许可证。

如果任务是两者兼有,那么诚实的答案是:这两者是一条流水线中的不同层,而不是二选一。现实的 2026 年文档智能体会用通用多模态模型进行解析,并把重要的裁剪区域升级交给感知专家模型处理——而升级环节正是有意思的工程所在,因为这意味着要判断某个细节是否值得再发起一次调用。这是一个路由问题,也正是我们关注它的原因:一条把廉价调用交给廉价模型、把升级交给任何能达到你标准的端点的规则,只需改一处配置;而故障转移意味着某个专家模型卡住时,整条流水线不会跟着停滞。

Screenshot of the first page of the ZoomGain paper on arXiv, showing the title ZoomGain: Mining Global-to-Zoom Perception Gaps for Fine-Grained Visual Supervision, the seven-author list with affiliations at Ant Group, Zhejiang University, Om AI Research and the Binjiang Institute, the abstract, and the identifier arXiv:2611.14076v1 dated 10 November 2026.

按证据所支持的形式陈述的裁决

从除感知基准之外的每一项衡量标准来看,Gemma 4 12B 都是更稳妥的购买选择:许可证、文档、分发、覆盖广度、社区,以及 Google 公布了你可以与之争论的数字这一事实。ZoomGain-9B 是更有意思的模型,而且在一个特定任务上可能是更好的工具,但其依据尚未经过任何未参与该论文撰写的人核查。

正确的下一步取决于你刚才认同的是哪句话。如果是第一句,就下载 QAT GGUF,然后别再往下读了。如果是第二句,就下载 ZoomGainBench 以及权重——941 张图像、1,000 个问题、一个评估器,以及一个你可以自己得出的数字——并让 G​emma 跑一遍。那样你将是第一个这么做的人,而且你会了解到这两个模型的一些情况,而这两家厂商目前都还不了解。