一张自动生成的标题卡,标题为“ZwZ2-4B 对 Qwen3.8-27B”,上方小标题为“模型对比 - 2026 年 10 月”,副标题为“9 GB 检查点对阵 56 GB 旗舰模型”,并有四个圆角标签,分别写着“4.54B 对 28B”“32 层对 64 层”“两者上下文均为 262,144”“每 100 万次托管调用 $0.33 / $2.40”。页脚写着“ZwZ2-4B 的数据来自其配置;Qwen3.8-27B 的数据来自 Qwen 和 OrcaRouter。”OrcaRouter 标志合成在图像下方的白色条带中。
Guides & Insights

ZwZ2-4B 对比 Qwen3.8-27B:4.5B 专用模型遇上 Qwen 的 28B 旗舰

作者

Elias Hawthorne

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

假设你的图像流水线每天运行 200,000 次查询,而你只有一张 16 GB 显卡。仅这一约束就排除了Qwen3.8-27B,甚至在讨论任何基准测试之前就如此:在 280 亿参数下,仅 BF16 权重就约为 56 GB,而如果不做你尚未纳入预算的量化,再巧妙的服务方式也无法把它们放到 16 GB 上。ZwZ2-4B,拥有 45.4 亿参数和 9.08 GB 的权重文件,则能装得下。所以,诚实的问题不是哪个模型更好。而是这个小型检查点较窄的能力对你的工作负载来说是否真的是约束,还是你本来准备花旗舰级的钱来回答关于产品照片裁剪图的问题。

有一个微妙之处,让这场对决比其简短标题所暗示的更奇怪。Qwen 的 3.8 代从未发布过这一尺寸级别的模型。其成员包括 2026 年 8 月 5 日的 27B 稠密模型、8 月 8 日的 2.4 万亿参数混合专家模型,以及 8 月 24 日的 Flash-Next——尽管名字如此,它实际上是另一个架构系列中的 1800 亿参数模型。27B 以下没有稠密模型。因此,ZwZ2-4B真正同尺寸的对手是 Qwen3.5-4B,即它进行微调时所基于的 2 月检查点。Qwen3.8-27B 是作为上限而非同级对手进入这一比较的。

不存在能让这两者相遇的基准。

先从让大多数对比页面显得不诚实的那一点说起。Qwen3.8-27B 有已公开发布的评测和一个生态系统;ZwZ2-4B 的 25 项基准测试结果只存在于它自己的模型卡中,由训练它的实验室产出,任何地方都没有独立复现。你不能把厂商报告的 54.79 与来自另一个实验室的基准套件并列,然后相减。这两个数字并非在相同任务、相同分辨率、相同测试框架下产生。

所以,这篇文章并不会将它们相互评分对比。它比较的是各自的设计用途、各自的运行成本,以及较小的一方所舍弃的东西。文中出现的每一个数字,都会标注其来源。

差距,逐维度来看

• 参数 — ZwZ2-4B 4,539,265,536 对比 Qwen3.8-27B 在其卡片上标注的 28B

• 磁盘上的权重 — 约 9.08 GB BF16,对比大约 56 GB BF16

• 深度 — 32 层 vs 64 层

• 宽度 — 隐藏大小 2,560 对比 5,120

• 注意力形状——在头维度为 256 时,16 个查询头对应 4 个 KV 头,在两者中均如此

• 注意力调度——两者均采用 3:1 的线性到完整比例

• 上下文窗口 — 两者均有 262,144 个位置

• 词汇 — 两者均为 248,320 个 token

• 视觉塔 — 隐藏维度为 1,024 时是 24 层,而隐藏维度为 1,152 时是 27 层

• 许可证 — ZwZ2-4B 未声明,而 Qwen3.8-27B 为 Apache-2.0

A generated two-column scoreboard card titled 'ZwZ2-4B vs Qwen3.8-27B - the scoreboard' comparing six rows: Parameters 4.54B vs 28B, Layers 32 vs 64, Hidden size 2,560 vs 5,120, Context 262,144 vs 262,144, Vision tower 24 x 1,024 vs 27 x 1,152, and Licence none declared vs Apache-2.0. The footer reads 'ZwZ2-4B figures read from its published config; Qwen3.8-27B figures from Qwen and OrcaRouter.' The OrcaRouter logo is composited in the white strip below the artwork.

那四行匹配项才是有意思的。两个模型都继承了相同的架构标识符,qwen3_5,并具有相同的注意力几何结构和相同的上下文上限。3.8 代并没有重新设计这套栈,而是对它进行了扩展。这就是为什么 4B 的配置看起来像是 27B 的缩小版,而不是一个异类,也是为什么 4B 继承了 27B 的服务特性——线性注意力层正是让 262K 上下文在这个规模下变得可承受的原因。

整场对决中唯一真正可比的数据

ZwZ2-4B 的模型卡报告称,在 25 个基准上,其基座模型为 49.41,自身为 54.79,提升了 5.38 分。这是在相同任务上、由同一实验室按照相同流程训练和测量的两个检查点之间的比较。这仍然是厂商报告,基准选择也由该实验室决定,但至少减法两端是可比的。

由此可以得出两点。第一,这一提升只有在“实验室测到了它”的意义上才算真实;还没有人复现 54.79。第二,也更有用的一点是,这个基线是一个很强的模型。Qwen3.5-4B 每月下载量达 740 万次,并获得 1,145 个点赞——它是一个被广泛部署的检查点,拥有真实的生态系统。如果 ZwZ2-4B 在感知密集型任务上高出 5.38 分,那么相对于人们实际运行的模型,这就是一个有意义的差距。如果它是在专门为奖励其所训练内容而挑选的基准上高出 5.38 分,那么生产环境中的差距会更小。

A screenshot of the Hugging Face files view for Qwen/Qwen3.5-4B showing 1.15K likes, an Apache 2.0 licence tag, a repository size of 9.34 GB, a LICENSE file of 11.5 kB, the weights split across two safetensors shards of 5.33 GB and 3.99 GB, a config.json of 3.16 kB, and five commits from eight months ago.

方法解释了哪种解读更可能。ZwZ2 是在基于 SA-1B 区域裁剪图构建的四选项多项选择题上,用 GRPO 训练的——大约有 20,000 道——并且没有监督微调阶段。模型见过的每一个训练信号,都是关于某个区域是否包含问题所需证据的四选一选择。那种形态的工作负载正是 5.38 应该成立的地方。开放式描述不是那种形态。

28B 旗舰能带来什么,而 4.5B 不能

Qwen3.8-27B 是一个通用视觉语言模型:支持图像、视频和灵活的思考控制,采用 Apache-2.0 许可证,并且拥有足够的参数余量,使其吸收了广泛的预训练数据,而不是一套狭窄的高质量合成课程。其上个月 750 万次下载量和 18,500 个赞,是你在选择骨干模型而非专用模型时所看重的生态信号。适配器、量化、微调及工具链都可用于它,而对于一个零下载的检查点,这些都不存在。

这种广度体现在各类失败模式上。ZwZ2-4B 的卡片列出了幻觉、文本误读、计数错误和空间错误,并指出结果取决于图像分辨率、上下文长度和提示格式。28B 通用模型原则上具有相同的失败类别,但它有更强的能力在更长上下文中保持细节,并且不要求任务类似于四选一。

对于文档提取、多页推理、视频,或任何答案是段落而不是区域的场景,27B 是更合适的工具,而规模差异并不是决定性因素——训练目标才是。

成本算术,用真实价格

至此,对比不再抽象。在 OrcaRouter 上,qwen/qwen3.8-27b按每百万输入 token 0.33 美元、每百万输出 token 2.40 美元收费,上下文长度为 262K。以一次具有代表性的图像查询为例,输入 1,500 个 token、输出 300 个 token。在 27B 上,一千次这样的查询成本约为 1.22 美元。更轻量的qwen/qwen3.8-flash,价格为 0.15 美元和 0.47 美元,同样一千次查询的成本接近 0.37 美元。一个托管的 8B 视觉模型则介于两者之间。

ZwZ2-4B 没有按 token 计价的价格,因为它没有托管端点——Hugging Face 页面显示没有提供商为其提供服务。它的成本等于你的 GPU 小时成本除以吞吐量,而且它是本次比较中唯一能在单张 16 GB 显卡上运行的选项。这就是较小模型的全部经济理由;如果你已经在为硬件付费,这个理由很有说服力。

关于路由有一个结构上的要点,因为它会影响你测试这一点的方式。OrcaRouter 以 0% 加价将提供商的标价原样传递,因此当 Qwen 更改某个托管 Qwen 模型的价格时,上面那个数字会在当天随之变化,而不是等到下一次合同续签时才变。只有在托管侧反映的是当日标价的前提下,在自托管检查点与托管模型之间做成本比较才是诚实的,而这正是此处所描述的特性——并非折扣。

小模型甚至能胜过旗舰模型的地方

三种情况,而且它们比小模型营销通常暗示的范围更窄。

第一个是部署控制。一个 9.08 GB 的 BF16 文件可以被固定、进行版本管理并交付到边缘设备。一个 56 GB 的文件则不行,而托管 API 既不给你权重,也不提供版本保证。如果你的产品约束是“模型随设备一起走”,那么无论价格如何,27B 都不是候选方案。

第二点是规模化下的成本可预测性。自托管推理的成本曲线平坦,没有按 token 计费的计量。每天 20 万次图像查询,按每千次 1.22 美元计算,在 27B 模型按标价的情况下,每天约为 244 美元——每月约 7,300 美元。自托管能否胜过这一成本,完全取决于利用率,而单张未被充分利用的卡往往做不到。

第三点是任务专门化。如果你的工作负载确实是“这四个区域中哪一个包含证据”,那么 ZwZ2-4B 正是针对这种形态训练的,并带有一个过滤步骤,旨在移除无需该区域即可回答的问题。通用模型会把容量花在其他所有事情上。在这种情况下,一个 4.5B 检查点可以击败一个 28B 的检查点,而且这是唯一一种供应商的 5.38 分说法会意味着读者所希望的含义的情况。

A screenshot of the OrcaRouter model page for qwen/qwen3.8-27b showing a Featured badge, a Zero Data Retention badge, a 262K-token context taking text, image and video input and returning text, an input price of $0.33 per million tokens, an output price of $2.40 per million tokens, a p50 time-to-first-token of 2.51 seconds, 144.7M tokens of traffic over 7 days, a release date of 2026-08-13, a description naming it Alibaba's open-weight 27B dense multimodal model with 64 layers and a 5,120 hidden size, and an OpenAI-compatible Python code sample.

如何做决定:按决策实际发生的顺序

• 如果权重必须存放在你控制的硬件上,而硬件规模又很小——那就选 ZwZ2-4B,接受许可证方面的模糊性,并为自行评估预留预算。

• 如果任务是区域定位多项选择或视觉证据检索——在查看卡片上的 5.38 之前,先用你自己的数据将 ZwZ2-4B 与 Qwen3.5-4B 进行对比测试。复现出来的那个差值,才是唯一重要的数字。

• 如果你需要视频、长文档、开放式描述,或者需要一份你的法务团队会签署的许可证——那就选 Qwen3.8-27B,无需再往下读。

• 如果你没有硬件,也没有兴趣自己提供服务,那就选择托管的 Qwen 路线,因为另一条路是一个运维项目,而不是模型选择。

这个对比中令人不舒服的一点是,真正有意思的比较并不是标题里的那个。ZwZ2-4B 对 Qwen3.8-27B,是一场伪装成模型对比的部署类别决策。真正该正面对比的——相同基座、相同规模、相同服务成本,实测差距为 5.38 个百分点——是 ZwZ2-4B 对 Qwen3.5-4B;而这才是在这些数字中的任何一个改变你的架构之前,值得用你自己的图像去跑的实验。