AstaBrief 8B vs Gemma 4 12B：一位专业写手对决一位无所不能的通才

AstaBrief 8B 和 Gemma 4 12B 属于同一规模级别，也采用同一许可证，但除此之外，它们回答的是不同的问题。AstaBrief 8B 是 Ai2 的 8B 开放权重模型，于 2026-10-02 发布，基于 Qwen3-8B 微调而来，只做一件事：将研究问题和检索到的文献摘录转化为一份带引用的报告，一次通过，端到端约 51 秒完成。Gemma 4 12B 是 DeepMind 的 11.95B 统一多模态模型，一个 Apache-2.0 通用模型，原生支持文本、图像、音频和视频，并可处理 256,000 个 token 的上下文。一个是手术刀，完成单一任务比它所取代的通用流程更快；另一个则是整套工具箱，而且就在设备端。

诱惑在于直接宣布专用模型在其本职工作上更胜一筹，然后就此了事。如果你是在一块消费级 GPU 上部署，更有用的问题是：这个窄域模型的优势是否大到足以证明运行两套技术栈而非一套是合理的——而答案取决于一些数字，而这些数字两家实验室都未曾交由独立方验证过。

那些真正重叠的部分

两者都是可以在单张卡上承载的稠密开放权重模型，都采用 Apache-2.0，并且都可下载获取，而不是只能通过 API 访问。这些是实实在在的重叠之处，也正是这个对比值得一做的原因。

除此之外，差异是彻底的，而两行则承担了大部分工作。

• 参数 — AstaBrief 8B：约 8B 稠密参数，BF16 权重，属于单 GPU 级别。Gemma 4 12B：11.95B 稠密参数，无编码器统一架构。

• 模态支持 — AstaBrief 8B：仅文本，具体是一个问题加摘录。Gemma 4 12B：文本、图像、音频和视频，其中音频和视觉通过轻量级线性层直接投影到解码器的嵌入空间，而不是使用单独的编码器。

• 输出模态 — 两者均为：文本。AstaBrief 8B 生成带引用的报告；Gemma 4 12B 则以你要求的任何形式生成纯文本。

• 上下文 — AstaBrief 8B：基础模型的 40,960 token 位置上限，在 32K 下训练。Gemma 4 12B：256,000 个 token，采用混合注意力方案，将局部滑动窗口注意力（1024 token 窗口）与全局注意力交错，并在全局层上使用比例 RoPE，以控制长上下文内存。

• 训练——AstaBrief 8B：在八块 H100 上，先对 47K 条报告示例进行监督微调，然后使用约 6K 个 DPO 对。Gemma 4 12B：Google DeepMind 的通用预训练加指令微调，记录在一份技术报告中。

• 任务 — AstaBrief 8B：单一任务，带引用的报告生成。Gemma 4 12B：推理、编码、智能体工作流、覆盖140多种语言的多语言聊天。

• 独立评分 — 除了 Ai2 自己的表格外，AstaBrief 8B 没有任何独立评分。Gemma 4 12B 出现在公开排行榜上，包括 Artificial Analysis，该发布系列在该平台上获得评分；这些是第三方数据，也是本文中唯一并非由厂商提供的数据。

请把上下文行理解为结构性差异，而不是规格表上的一个参数。AstaBrief 8B 的 40K 上限并不是 Ai2 正在设法绕开的限制；它是设计带来的结果。该模型从不承载语料库，只承载别人选定并确定篇幅的摘录。Gemma 4 12B 的 256K 窗口意味着同一任务完全可以不借助检索层来处理——粘贴大量材料然后提问——这是为达成同一结果而采用的真正不同的架构，而且它把两个系统合而为一。

专家在何处胜出，优势有多大

Ai2 为 AstaBrief 提出的论据是一块时钟，而且这块钟走得很有说服力。其由 Claude 驱动的 Thinking 流程平均每份报告耗时 178.5 秒；而 AstaBrief 一次性写完整份报告平均只需 51.1 秒，大约快 3.5 倍，并且 Ai2 声称，这一简化并未让其跟踪的各项指标在质量上付出代价。

这里真正重要的不是 Claude。而是多步骤脚手架本身——片段摘要、主题聚类和逐节写作——而 AstaBrief 把这一切都删掉了。而如果你想要从中得到一份结构化、带引用的报告，这套脚手架也正是你原本必须在任何通用模型（包括 Gemma 4 12B）之上搭建的同一项工作。一个通用模型在被要求给出“一份带引用的报告”时会生成一份；但要让它按照固定模式生成，并且引用键与来源列表一一对应，这就是你要自己拥有并维护的提示工程。

质量声明正是你必须放慢脚步之处。

• SQABench-CS2 平均值，测试集（厂商报告）——AstaBrief 8B 87.0，其自身 SFT 检查点 83.7，基础 Qwen3-8B 77.3。100 道用户编写的计算机科学问题。

• DeepScholarBench（厂商报告）—— AstaBrief 8B 为 53.50，落后于 Ai2 自家的 Asta ScholarQA（60.25）和 DR-Tulu-8B（56.26）。

• 与 Ai2 的 Claude 驱动流水线进行成对比较（供应商报告）——在开发集上胜率为 55%，在测试集上为 72%。

• 人类研究（供应商报告）——来自三位研究者的14个问题，DR-Tulu总体上更受青睐，三人中有两人提到AstaBrief的引用准确性。

在 SQABench-CS2 上，无论从哪个方向看，Gemma 4 12B 都不存在对等的分数。这种缺失正是这次比较诚实的核心：你无法用数字衡量 Gemma 4 12B 的报告质量与 AstaBrief 8B 相比如何，因为没人让这个通用模型跑过 Ai2 的评测框架，也没人假装跑过。任何告诉你这个专用模型“好了 26 分”的人，都是在拿一个厂商数字和虚无作比较。

通才完胜之处

Gemma 4 12B 的优势并非微不足道，而且很容易被低估。

第一个是广度。AstaBrief 8B 是一个需要你把证据交给它的组件。Gemma 4 12B 能读取截图、聆听音频、观看视频、编写代码，并维持 256K 的对话上下文。如果你的工作涉及论文中的图表、录制的演讲或多模态源材料，那么这个专用模型根本无法参与，这个问题也就没有讨论的必要了。

第二点是，广泛的公开曝光本身就是一种证据。Gemma 4 12B 出现在第三方排行榜上；该系列从 E2B 到 31B 共涵盖五种规模；指令微调版和预训练版均与技术报告一同发布。这是寻常、乏味、可验证的出处——而这恰恰是 AstaBrief 8B 以及更广泛的一类专门研究模型所缺少的。

第三点是第二套技术栈的实际成本。用 AstaBrief 8B 进行报告写作，再外加一个通用模型处理其他所有事情，意味着要常驻两个模型、两套提示格式、两套评估工具链和两条升级路径。在单张 24GB 显卡上以 BF16 运行时，这并非没有代价——而且 AstaBrief 的模型卡警告说，它是针对某一种特定的提示格式进行微调的，该格式作为数据集文件发布，使用不同的格式可能会使行为退化。通用模型则没有这种锁定。

• Gemma 4 12B（厂商报告）——在 Reasoning 配置下智能指数为 9；Ai2 的报告基准中没有可比的 Gemma 数据。

• Gemma 4 系列——从 E2B 到 31B 共五种规模，Apache-2.0 许可，已发布技术报告，并出现在第三方排行榜中。

• Gemma 4 26B A4B，已在我们的目录中提供——每百万输入 token 0.06 美元，每百万输出 token 0.33 美元，上下文窗口为 262,144 个 token。Gemma 4 31B 也已接入路由，价格为 0.13 美元 / 0.38 美元。

• Gemma 4 12B，本地 — 11.95B 稠密，256K 上下文，混合滑动窗口与全局注意力，1024 token 本地窗口。

关于可用性，Gemma 4 模型有商业托管：Gemma 4 26B A4B 是我们目录中的一条在线路由，每百万输入 token 收费 0.06 美元，每百万输出 token 收费 0.33 美元，上下文窗口为 262,144 个 token；Gemma 4 31B 也已接入路由。这一点很重要，因为这意味着你完全无需拥有 GPU 就能评估通用型分支。我们的目录中没有任何提供商提供 AstaBrief 8B，包括我们自己——它是一个下载后自行运行的模型，而使用它的诚实方式是在你可控的硬件上，或在 Ai2 自家的 Asta 产品中使用。

低成本地自己运行比较

这篇文章无法替你做出的决定，是你一个下午就能做出的决定，因为这项实验在成本上是不对称的。AstaBrief 8B 需要本地权重及其公开的提示格式；你可以按 Ai2 文档中的配置，用 vLLM 在单张显卡上把它搭起来，temperature 0.7、top-p 0.95。通用型分支可以是一次托管调用——每百万 token 输入 $0.06、输出 $0.33 的 Gemma 4 26B A4B，在本质上已足够接近，可供校准，而且你可以让自己的测试框架同时对接两者，而无需拥有第二块 GPU。

然后去衡量供应商表格没有衡量的那件事：用你的问题、你的摘录，有多少报告返回时引用正确，以及在你把引用模式粘合层加到通用模型一侧后，整条链路要花多长时间。Ai2 的 3.5x 是相对于 Ai2 自己的流水线测得的，而不是相对于 Gemma 4 12B，这个差距在你的技术栈里会显得不同。

把通用型这一支放在单一端点之后，才让它成为可以低成本反复执行的事，而不是一次性的项目：一个 API 覆盖 200 多个模型，供应商挂牌价以 0% 加价原样透传，所以厂商降价当天就会落到你的账单上，提供商性能劣化时自动故障转移，以及一个路由 DSL，如果你想让多个模型一起作答。关键不在于对哪一个模型忠诚，而在于下个季度重跑这项对比时，它应该只是一次配置变更，因为这两个模型都将被取代。

你到底应该下载哪一个

如果交付物是一份带引文的研究报告，并且你有一个检索层为其提供输入，那就选 AstaBrief 8B。单遍设计是一项真正的工程成就，3.5 倍的生成时间缩减正是它存在的理由，Apache-2.0 加上公开的训练数据使其可审计，而如果没有你自己搭建并维护脚手架，任何通用模型都无法匹配它的输出结构。

如果你的工作范围比报告更广，如果你的来源是多模态的，如果 256K 上下文让你完全不必构建检索层，或者如果你想要一个名字上带有第三方评分、并且拥有你今天就能调用的托管路由的模型，那就选 Gemma 4 12B。

还要注意证据中这种诚实的不对称，因为它对专用模型不利：AstaBrief 8B 的数据，包括它自己那些听起来最漂亮的数据，都来自 Ai2，描述的是一套该实验室称尚未重新运行的 2025 年对比集，并且包含一项只有十四个问题的人类研究。Gemma 4 12B 的数据则来自不在 Google 工作的人。这种来源上的差异，比在一个没人对两者都跑过的基准测试上多出的几分更有价值。