标题卡上写着 ZoomGain-4B 对比 Qwen3.8-27B,副标题是 11 个百分点的领先来自数据集,而非模型;上方有三张标签,分别写着 4.54B 对 27.78B 参数、ZoomGainBench 上 55.81 对 44.81,以及 held-in 对 held-out。OrcaRouter 标志位于右下角。
Guides & Insights

ZoomGain-4B vs Qwen3.8-27B:领先 11 个百分点靠的是数据集,而非模型

作者

Rowan Sterling

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

让这组对比值得专门写上一页的数字,是 55.81 对 44.81。在 ZoomGainBench 上——这个包含 1,000 道题的细粒度基准,与 inclusionAI 的 ZoomGain-4B一同发布——一个 45.4 亿参数的视觉模型,以十一分的优势领先 Qwen3.8-27B,后者是阿里巴巴在 8 月以 Apache 2.0 许可发布的 277.8 亿参数稠密模型,能像读文本一样读取图像和视频。参数是对方的六倍,却输了十一分。读一读产出这两个数字的论文,这个差距就不再是关于视力的论断:ZoomGainBench 是由生成 ZoomGain-4B 训练数据的同一套自动化流水线构建的,作者们自己在消融研究中就是这么说的,而他们真正在竞争的模型根本不是 Qwen3.8-27B——而是另一个数据集。

这并不是在辟谣。它是本次发布中最有用的内容,也正是它让比较变得可判定:它告诉你该选用两个模型中的哪一个,以及当有人要求你为这一选择给出理由时该引用哪个数字。下文将区分这里被捆绑在一起的三项主张——小型专家模型胜过大模型通用模型、一条数据流水线胜过另一条数据流水线,以及其中任何一条都能成为你本月更换技术栈的理由。

发布了什么,又是何等悄无声息

ZoomGain-4B 的仓库于 2026 年 11 月 10 日 11:38 UTC 在 Hugging Face 上创建,并于 11 月 11 日最后修改。论文 arXiv 2611.14076 于 11 月 10 日提交。GGUF 仓库于 11 月 11 日 03:13 UTC 被改动过。截至撰写本文时,两个仓库均显示零下载量和零点赞,没有推理提供商映射到该模型,也没有针对它的厂商发布帖、博客文章或新闻稿。模型卡自身的 Updates 列表日期为 11 月 11 日,是唯一的公告:三行文字说明论文、基准测试、RL 数据集和检查点均已发布。

所以,实事求是的说法是:它是悄然发布的,尚未对外宣布。以下所有来自代码仓库的内容,今天都可以核查;至于模型在作者的测试框架之外表现如何,目前尚未得到确认,因为除蚂蚁集团和浙江大学之外,还没有人运行过它并反馈结果。

在开始比较之前,仓库中有两个细节值得先了解,因为这两点都会限制你能用它做什么。

• 架构。这是 Qwen3.5-4B 的衍生模型——32 层,隐藏维度为 2,560,16 个查询头对 4 个 KV 头,头维度为 256,线性 DeltaNet 与全注意力按 3:1 的比例安排,最大位置数为 262,144,词表大小为 248,320 个 token,以及一个 24 层、隐藏维度为 1,024 的视觉编码器。包含编码器和投影器在内,总参数量为 4,539,265,536。

• 许可证。该模型卡的“许可证”部分涵盖了代码,其许可为 Apache 2.0,随后又将问题推给别处:“有关每个数据集和检查点的条款,请参阅 Hugging Face 模型卡。”检查点模型卡则完全没有许可证标签。Qwen3.8-27B 明确采用 Apache 2.0。如果你需要一份能交给律师的许可证,这种不对称就是你首先会遇到的问题,而发布内容中的任何东西都没有解决它。

Screenshot of the inclusionAI/ZoomGain-4B repository on Hugging Face, captured 11 November 2026, showing the repository header with zero likes, the Safetensors, qwen3_5 and arxiv:2611.14076 tags, the model card beginning with a missing-YAML-metadata warning, and an Inference Providers panel stating the model is not deployed by any provider.

唯一一个让两款模型并排展示的列表

ZoomGainBench 是一个包含 1,000 个问题、覆盖 941 张图像的双语基准:472 个带四到六个选项的属性识别问题、94 个计数问题和 434 个 OCR 问题,每个问题都有英文版和中文版,因此共有 2,000 个评估实例。在同一套测试框架下运行了 28 个模型——相同的系统提示、温度设为 0、每个 Qwen checkpoint 均禁用思考,非智能体模型输出 2,048 个 token。该领域的最佳结果是 GPT-5.6-Sol 的 61.08,只有五个模型超过 50。

Qwen3.8-27B 的总体得分为 44.81:英文 43.84(属性 40.25、计数 54.26、OCR 45.49),中文 45.78。ZoomGain-4B 出现在训练表中而非基准测试表中,得分为 55.81。这两个数字都是在相同评分规则下的双语言总体得分,因此这已是该发布所能提供的最接近受控配对的比较,而在此比较中,4B 以 11.00 分的优势胜出。

• 参数。 4.54B 对 27.78B——6.1 倍的差距,而差距的方向正是让结果出人意料之处。

• 各自的构建用途。ZoomGain-4B 是将 Qwen3.5-4B 在 9,000 个挖掘出的问题上进行一个 epoch 的 GRPO 训练得到的,共 140 步,批次大小为 64,每个问题八次 rollout,学习率为 1e-6,无 KL 项。Qwen3.8-27B 是一个通用稠密模型,具备推理模式、工具调用和视频路径。

• 训练数据。 其中一个有 9,000 个问题。另一个则使用 A​libaba 的整个预训练和后训练语料库,规模未披露。

• 可用性。ZoomGain-4B:三种 GGUF 精度和一个单独的投影器文件,不提供托管端点。Qwen3.8-27B:Apache 2.0 权重、FP8 版本、740 万次下载,以及今天即可调用的端点。

Two-column scoreboard titled ZoomGain-4B vs Qwen3.8-27B, left column ZoomGain-4B with Parameters 4.54B total, Modality text and image, Context 262K positions, Price self-host only, ZoomGainBench 55.81 held-in, Licence none stated on card; right column Qwen3.8-27B with Parameters 27.78B dense, Modality text, image and video, Context 262K extensible to 1M, Price $0.33 in and $2.40 out, ZoomGainBench 44.81, Licence Apache 2.0. The footer reads ZoomGain Bench scores author-reported, unreproduced; ZoomGain-4B figure is held-in; Qwen price per OrcaRouter catalogue.

论文实际确立的对比

这就是当发布被简化为“4B 击败 27B”时丢失的部分。论文需要为自己的数据提供一个基线,并且用了一个:ZwZ,这是一个通过区域到图像蒸馏构建的 ICML 2026 细粒度感知数据集。双方接受了完全相同的处理。采样了 12,000 张图像并生成了 23,610 个问题;基准取用了 1,000 个;其余部分产生了 8,746 个图像匹配的问题对,并且有 254 个在双方重复,使每组达到 9,000 个。相同的图像、相同的基座检查点、相同的超参数、相同的 140 步。唯一的变量是问题。

在论文报告的每一个维度上,ZoomGain 数据都优于 ZwZ 数据。在 Qwen3.5-4B 上,held-in 分数从 40.99 提升到 55.81,十三项基准的 held-out 平均值从 58.94 提升到 63.96;在 Qwen3.5-9B 上,同一组两个数字分别是 44.07 到 55.48 和 62.53 到 66.10。这是一个关于如何生成监督信号的真实的、控制良好的结果,也正是论文标题所体现的贡献。

Qwen3.8-27B 对那个论点毫无贡献。它只出现一次,作为其他 27 个被基准测试的模型中的单独一行。它是一把标尺——一个在其从未接受过训练的分布上接受衡量的、能力尚可的通用模型——而不是竞争者。论文自己的文本明确表示,它所利用的差距是共有的:全局视角错误干扰项在所有 28 个模型的所有错误答案中占 71.7%,高于在选项中随机选择会产生的 54.5%;而未参与构建该基准的四个闭源模型表现出相同行为,为 75.7%,而预期为 57.4%。

消融实验是反对这一核心结论的最有力论据。

作者们对自己做了一个显而易见的合理性检查,其结果构成了论文中最有信息量的一张表。他们在同一批 9,000 个问题上重新训练了两次,每次分别去掉定义其流程的两个设计选择之一:问题只能由完整图像中不可见的细节构建这一规则,以及专门的干扰项生成阶段。

• 完整流程。ZoomGainBench 55.81;消融实验报告的十个留出基准上的平均值为 60.96。

• 专用干扰项已移除。 ZoomGainBench 46.85——在保留测试上损失 8.96 分——十项基准平均值为 59.14,损失 1.82。

• 增量证据已移除。 ZoomGainBench 49.71,下降了 6.10——十项基准的平均值为 58.57,下降了 2.39。

这两种设计选择在 ZoomGainBench 上值六到九分,在其他所有基准上大约值两分。作者直白地给出了原因:去掉专用干扰项“会在 held-in ZoomGainBench 上造成最大跌幅”,因为“该基准的选项是用同一套流水线构造的”。换句话说,在产出那个头条数字的基准上,头条增益中大约四分之三是模型学会了回答这套流水线所写的那类问题,而不是学会了看得更清楚。

仍然保留下来的部分依然相当可观。在训练从未接触过的 13 个基准测试上,Qwen3.5-4B 从 57.86 提升到 63.96——9,000 个样本带来了 6.10 分的提升——而最大增益恰好出现在该流程所针对的族系中:HR-Bench 4K 从 81.25 提升到 87.25,V*Bench 从 81.68 提升到 90.05,VisualProbe 从 43.30 提升到 57.28,O3-Bench 从 54.20 提升到 63.19。有一个基准测试出现回退:TreeBench 从 49.38 降至 49.14,下降了五分之一个点。通用多模态套件 MMStar 从 66.80 变为 72.53,而 BabyVision 仍表现不佳,为 21.13。

这种表现特征是一种范围狭窄的干预所特有的,而你应该围绕这一特征来规划。模型在解析场景中的小细节方面变得更好了。它并没有变成更强的通才,而那些与此相反的计算,是在它自己的基准上做的计算。

基准测试实际要求的是什么,因为那才是你真正要购买的东西

如果预期用途是进行精细细节检查,那么测试的构成比总体得分更重要,而论文的错误分析在这一点上异常具体。

• 小锚点占主导。 随着被查询细节在图像中所占的比例增大,每个模型组的准确率都会上升:对全部 28 个模型组取平均,准确率从最小四分位上的 28.9%(此时锚点覆盖不到图像的 0.4%)上升到最大四分位上的 55.2%。

• 计数是小数字计数。 94 个计数问题中有 67 个的真实答案不超过三,且 71.6% 的错误数值答案恰好相差一。难点在于解决少数几个小实例,而不是枚举大量实例。

• 属性识别是困难类别。在28个模型中,有23个模型在该类别上得分最低,而在各选项间均匀随机猜测就已能获得约21.5%。

• 失效模式是“场景看似合理的替换”。在一个有记录的案例中,56 次评估里有 46 次把卡车仪表台上的一个白色物体称为橙色——而那很可能是站在它前面的工人所穿背心的颜色。在另一个案例中,几乎每次评估都说出了一个冰球装备品牌,而不是衣物上实际印着的标志。模型不会说“我看不到”;它们会依据上下文作答。

这种失败模式为这类训练提供了实际依据,因为正是同一种失败模式会让文档处理流水线在处理扫描发票时悄无声息地出错。它也说明了为什么需要对其进行度量:一个会用看似合理的答案来替代的模型会产生自信的输出,因此下游没有任何环节能发现它。

Qwen3.8-27B 在另一个房间的哪里?

44.81 是真实的,而且它也是本文中 Qwen3.8-27B 在此被评判的唯一一个数字。它自己的卡片所报告的完全是另一组内容,而这些内容没有一项能与 ZoomGain 的数字相比较,因为这两个模型从未在相同的测试框架下运行过这些内容。

• 智能体编码。Terminal Bench 2.1 为 73.0,SWE-bench Pro 61.7,LiveCodeBench v6 90.3,QwenSWEBench 79.0——全部由厂商在 Qwen 自己的模型卡上报告,并同时公布了测试框架说明。

• 推理与计算机使用。 GPQA Diamond 89.2,HLE 30.8,OSWorld-Verified 84.3,WebArena-Verified 64.8。

• 多模态工作。OmniDocBench 1.5 达 91.1,CharXiv 推理在未注入思维链时为 83.7、注入后为 90.2,RealWorldQA 85.9,MathVision 90.0。

• 能力范围。默认开启思考,reasoning_effort 可设为 xhigh、medium 或 low,跨轮次保留思考,原生工具调用,结构化输出,视频输入,原生支持 262,144 个位置,并可扩展至 100 万。

ZoomGain-4B 在以上任何一项上都未接受过评估,也不预期能在其中任何一项上表现良好:其训练从未涉及代码、终端任务、文档或图表。它也没有任何思考模式下的评测报告——该版本自带的测试框架在温度为 0 时关闭思考运行,因此关于它已发布的一切内容描述的都是其直接作答行为。Qwen3.8-27B 的 44.81 也是以同样的方式测得的,采用 enable_thinking=false,而这正是使该比较公平的一点,也正是使 Q​wen 的最佳模式未受检验的一点。

直白地说:在 ZoomGain-4B 被训练所针对的那条轴上,它赢了;而在 Qwen3.8-27B 所擅长的那些轴上,这个 4B 根本不在场。这两点都不意外,而把其中任何一点当成全部故事,正是一张对比页面变得毫无用处的原因。

每一项的启动成本是多少,以及今天就能联系的那一个

这正是两者出现分歧的地方,而这种分歧决定的是实际部署,而非基准测试。

ZoomGain-4B 在任何地方都没有托管端点。实际存在的是 BF16 仓库:一个语言模型加一个独立视觉编码器,共 45.4 亿参数;还有三个 GGUF 构建版本:Q4_K_M 为 2.71 GB、Q8_0 为 4.48 GB、F16 为 8.42 GB,每个都搭配各自的 mmproj 投影器——分别为 0.23 GB、0.36 GB 和 0.67 GB——GGUF 模型卡说明图像输入需要它。运行它意味着使用 llama-mtmd-cli 或 llama-server,并且要来自足够新、能识别 Qwen3.5 多模态的 llama.cpp 构建;以完整精度运行它意味着使用 vLLM 0.19.1 和 transformers 5.7.0。没有 MLX 构建,没有 ONNX,没有用于推测解码的草稿模型,如果你的构建出问题,也没有可回退的服务提供商。

Qwen3.8-27B 已在 OrcaRouter 目录中,我们在自有基础设施上运行这些权重,而不是转售他人的端点——正因如此,我们模型页面上的价格就是最终价格,既没有叠加任何加价,中间也没有供应商标价被加价。每百万输入 token 为 $0.33,每百万输出 token 为 $2.40,支持文本、图像和视频输入,上下文为 262,144 个 token,并且只需一个密钥。同一个密钥还可访问 Qwen3.8-Flash,每百万 token 为 $0.15 和 $0.47,窗口为一百万个 token;也可访问 Qwen3.8-Max,价格为 $2.00 和 $6.00,因此当某个工作负载超出 27B 或需要更长窗口时,无需第二份合同或更改代码即可迁移。对于任何生产级场景,故障转移才是关键:当供应商停滞时,系统会在响应开始前重试,而不是等到你的请求超时后才重试。

Screenshot of the OrcaRouter model page for qwen/qwen3.8-27b, captured 11 November 2026, showing the model title with a 262K token context badge, text, image and video input, the description noting Apache-2.0 weights self-hosted on OrcaRouter, the $0.33 input and $2.40 output per million token figures, a latency readout, and a code sample calling the model through the OpenAI-compatible endpoint at api.orcarouter.ai.

ZoomGain-4B 不在那个目录里,也无法通过我们调用。它只是一个由你自己部署的权重文件夹,而这个建议的诚实版本必须从这一点讲起。

谁应当采取行动,以及哪些事项仍未确认

如果你的工作涉及大量图像,而答案取决于某个小细节——标签上的零件编号、屏幕上的颜色、是两颗螺丝还是三颗——那么一个专门针对这类任务做过 RL 的 4.54B 模型,以 Q4_K_M 在本地运行、占用 2.71 GB,就是一个可信的廉价第二意见,可以与一个托管通用模型并行使用。不是取代它。专家的失败模式是自信地替换,而这正是通用模型检查能捕捉到的失败,反之亦然。

如果你的工作负载是文档、图表、截图、视频、代码或智能体,那么 27B 就是该选的那一个,而在一项没人专门训练过它的细节基准上拿到 44.81 分,并不是让你改变看法的理由。

哪些仍未确认,值得关注而不是想当然:

• 权重许可。Apache 2.0 覆盖代码。检查点没有许可证标签,模型卡把问题推给“每个数据集和检查点的条款”,却没有说明这些条款。在这一点解决之前,商业部署不是勾选一个复选框,而是要和律师谈一谈。

• 任何复现。上方的每个数字均由作者报告,且是在作者自己的评测框架上得出的。基准测试和评估器都是公开的,因此可以核查,但除蚂蚁集团和浙江大学之外,尚无其他人核查过。

• 收益能否推广到流水线之外。真正可信的是留出集上的数字,它们并不算亮眼——比基础模型在十三项基准上的平均值高出 6.10 分——而且这些收益严重偏向训练所瞄准的细粒度类别。这是否能迁移到你的图像上,仍是一个该发布并未回答的开放问题。

• 它在 Q4 下是否依然站得住脚。 GGUF 卡片警告称,量化可能影响精度,而目前没有任何公开资料将量化版本与 BF16 检查点在 ZoomGainBench 上进行比较。对于一个全部价值都在于精细细节的模型来说,这正是你在信任一个 2.71 GB 文件之前应该做的实验。

本文中的对比1

根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新