一张为对比生成的标题卡,标题为 Flint v1.0 vs Qwen3.8 27B,副标题是“Recursive 用来对照自身进行基准测试的模型”。Flint 卡片显示总参数为 39.8B,激活参数约 2.5B,运行占用约 24 GB。Qwen3.8 27B 卡片显示 27B 稠密参数,全部 27B 均激活,BF16 下约 55.6 GB。下方一行高亮文字写道,在 Recursive 自己的六项测试平均值上,只有 Qwen3.8 27B 得分更高;页脚注明 Flint 的分数由厂商报告,而 Qwen3.8 27B 的分数由阿里巴巴报告。
Guides & Insights

Flint v1.0 与 Qwen3.8 27B 对比:该模型递归地以自身为基准进行测试

作者

Magnus Corvin

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

Recursive 在其Recursive Flint v1.0的发布材料中写了一句大多数报道都跳过的话:按照该公司自己那套六项测试的平均值,只有Qwen3.8 27B的得分高于 Flint。对厂商而言,在发布日印出这样一句话并不寻常。它也是整份发布材料中最有用的一句话,因为它告诉你该去核对哪一项对比。Qwen3.8 27B 是一个开放权重的稠密模型,于 2026 年 8 月 14 日以 Apache 2.0 许可发布,它是 Recursive 对比集中唯一一个在厂商自己构建的汇总指标上击败 Flint 的模型。所以有趣的问题不是 Flint 好不好,而是 Qwen3.8 27B 究竟在哪些方面更好,以及这一差距在相关评测框架受到审视之后是否依然成立。

在你查看成绩之前,先阅读课程声明。

Flint的核心主张经过了谨慎限定:它在SWE-bench Pro v2、Terminal-Bench 2.1和SWE-bench Verified上领先于总参数低于500亿的混合专家模型。Qwen3.8 27B并不是混合专家模型。它是稠密模型——270亿参数,每个token都会激活全部参数;计入视觉编码器则为280亿参数,共64层,隐藏维度为5,120。因此,从构造上它就落在Flint的比较类别之外,Recursive完全可以将其完全排除在该主张之外。

值得精确说明“稠密”的代价与收益。Qwen 的 270 亿参数中的每一个都参与每个 token 的计算,这正是它在 BF16 下需要约 55.6 GB 显存和一块真正的 GPU 的原因,也是它的激活占用约为 Flint 的 11 倍的原因。这也正是稠密的 27B 模型在准确率上能胜过激活参数量为 2.5B 的稀疏模型的原因:它每个 token 做了更多算术运算,也会让你为此买单。

A screenshot of Recursive's Introducing Flint announcement page, showing the headline Introducing Flint and its subtitle, followed by body text describing Recursive Flint as a mixture-of-experts model for fast agentic coding on local hardware with 40 billion total parameters activating 2.5 billion per token. A paragraph claims it leads mixture-of-experts models with fewer than 50 billion total parameters on SWE-Bench Pro v2, Terminal-Bench 2.1 and SWE-Bench Verified while running more than five times faster than dense models of 25 to 40 billion parameters. Below it, a chart titled Quality and decode speed on M4 Pro, with 48GB unified memory and decode speed normalised AUC through 128K input, plots Qwen3.8 27B at the top of a six-benchmark mean score around 85 percent, above Muse Glimmer, Gemma 4, several Qwen3.5 variants, Laguna XS 21 and Flint at about 80 percent.

Terminal-Bench 2.1:十八个百分点的差距

这是目前最清晰的对比,因为两个实验室报告的是同一基准版本,而且差距足够大,评测框架的噪声不太可能解释全部差距。

• Flint — 在 Terminal-Bench 2.1 上达到 54.9%,使用 Terminus 2 测试框架运行并启用了互联网,但任何通过网页检索获得的解决方案均计为失败。

• Qwen3.8 27B —— 根据阿里巴巴的模型卡,其在 Terminal-Bench 2.1 上的得分为 73.0%。

这是有利于 Qwen 的 18.1 个百分点差距,出现在最接近智能体终端工作的基准测试上——而这正是两款模型所宣传的用途。有两个注意事项指向相反方向,且两者都需要说明。

第一个更有利于 Flint。Recursive 施加了一项其同行可能并未施加的不利条件:如果该智能体在网上找到了答案,Recursive 就把它判为错误。允许搜索并引用的模型在同一测试框架上会得到更高分。高出多少尚不清楚,而且 Recursive 没有公布未加此不利条件的数字。

第二个结果打破了任何简单明了的解读。第三方 PrismML 在 Terminal-Bench 2.1 上给 Qwen3.8 27B 打分为 69.7,而不是 Alibaba 的 73.0。同一模型和基准上 3.3 分的分歧是有用的校准:它告诉你,这张表里几分的差距是噪声,而 18 分的差距很可能不是。

即便采用较低的 Qwen 数值,69.7 对 54.9 仍相差 14.8 个百分点。方向毋庸置疑。

LiveCodeBench v6:在更干净的基准测试上出现的第二处差距

竞技编程是两家实验室所报告的基准中最不依赖评测框架的一个,因为模型拿到题目后生成代码,再由判题器运行。不存在会因框架不同而产生差异的智能体循环。

• Flint — 在 LiveCodeBench v6 上达到 80.3%。

• Qwen3.8 27B — 在 LiveCodeBench v6 上达到 90.3%。

这是一个 10 分的差距,而这正是我会最看重的一项,恰恰因为它最难被辩解过去。对于一款激活 25 亿参数的模型来说,Flint 的 80.3 是一个相当不错的数字。对于一款激活 270 亿参数的模型来说,Qwen 的 90.3 是一个强劲的数字。两者都不令人意外。关键在于,Flint 所宣传的效率优势并非没有代价,而这个基准测试正是代价显现之处。

看似Flint获胜、实则并非如此的基准测试

大多数对比页面正是在这里出错,而这一点值得放慢节奏仔细想想。

Flint 在 SWE-bench Pro v2 上报告了 89.7%。Qwen3.8 27B 在 SWE-bench Pro 上报告了 61.7%。快速扫一眼,这看起来像是 Flint 领先 28 个百分点的胜利。但这根本不是一次对比。“v2”与阿里巴巴所报告的那个基准并非同一个基准,任务集不同,评测协议也不同,这两个数字不能相减。任何把它们并排放进相邻两列并宣布赢家的页面,透露的是作者的信息,而不是模型的信息。

同样的陷阱就在下一行。Flint 报告其在 SWE-bench Verified 上达到 74.2%。Qwen3.8 27B 并未公布 SWE-bench Verified 分数——阿里巴巴的模型卡报告的是 SWE-bench Pro、QwenSWEBench 为 79.0、DeepSWE 1.1 为 42.2、Terminal-Bench 2.1 为 73.0、LiveCodeBench v6 为 90.3,以及 NL2Repo-Bench 为 42.3。没有可与之对比的 Verified 数值。流传的 Qwen3.8 27B 在 Verified 上的数字,要么继承自该系列中较早的模型,要么来自与模型卡在多个其他基准上同时相冲突的二手来源。应将其视为未经核实。

关于 Alibaba 方面还有一点需要补充说明:其 SWE-bench Pro 和 QwenSWEBench 评测运行使用的是外部智能体评测框架,而不是裸模型,因此即使拿它与另一个实验室的 SWE-bench Pro 数值作比较,也并不牢靠。这并非 Alibaba 独有。这是智能体编程基准测试的普遍现状,也正是为什么在这里 Terminal-Bench 和 LiveCodeBench 各行比 SWE-bench 各行更有分量。

Flint 胜出的地方,而且优势明显

准确性并不是唯一的衡量维度,而在其他维度上,排序会发生急剧反转。

• 内存 — Flint 运行占用约 24 GB,磁盘上有一个 22.86 GB 的 NVFP4 构建版本。Qwen3.8 27B 在 BF16 下需要约 55.6 GB。前者能装进高端笔记本或单张消费级显卡;后者则需要真正的 GPU 分配。

• 每个 token 的有效计算量——Flint 激活约 25 亿参数,Qwen 则激活全部 270 亿参数。正是这一比例,造成了二者的速度差距,也是 Flint 在大规模部署时服务成本更低的原因。

• 速度——Recursive 声称在 M4 Pro MacBook Pro 上每秒可输出 125 个以上 token,在短上下文下于 64 GB 的 RTX Spark 上则超过 150 个。同一台笔记本电脑上的稠密 27B 模型达不到这一水平。Qwen3.8 27B 也被报告在本地运行缓慢,且异常消耗 token——Artificial Analysis 在其索引测试中测得约 1.6 亿个输出 token,这在任何 agent 循环中都会成为成本倍增因素。

• 背景——两款文档均原生支持 262,144 个 token,而 Qwen 通过 YaRN 扩展可达到 1,000,000 个 token。Flint 的公告则声称最高支持 512K。从纸面上看,在原生上下文窗口这一项上两者不相上下;但实际上,Flint 在长上下文场景下的吞吐表现是较弱的一环,独立测试报告称,在接近 115,000 个 token 时,其吞吐量会降至大约每秒 9 个 token。

• 多模态——Qwen3.8 27B 除了文本,还能接受图像和视频;它采用混合注意力布局,由 48 层 Gated DeltaNet 线性注意力层与 16 层全注意力层按 3:1 的比例组成,这正是 262K 窗口能够以可承受的成本提供服务的原因。Flint 仅支持文本。

你实际在选择的是什么

• 如果目标是获得最高的编码准确率,并且你具备相应的硬件条件,那么在所有能对两者进行清晰对比的基准测试中,Qwen3.8 27B 都是更强的模型。Recursive 自己的六项测试平均值也表明了这一点。

如果模型必须在笔记本电脑上运行、保持离线、将源代码保留在本机,或者服务量足够大以至于活跃参数主导账单,那么 Flint 会在决定部署的那个维度上胜出。一个以每秒 125 个 token 运行的 2.5B 活跃参数模型,与一个需要 GPU 节点的 27B 稠密模型,是截然不同的产品。

• 如果两者都想要,它们能很好地互补:本地模型负责常规和敏感的工作,托管模型负责困难的任务。这种分工是大多数团队最终会采用的方案,也正是路由层不再只是个细节的地方。

Qwen3.8 27B 是本次对比中 OrcaRouter 直接提供服务的唯一模型——其标识符为qwen/qwen3.8-27b,已列在我们的实时模型列表中,支持文本、图像和视频输入,并具备完整的 262,144 个位置的上下文窗口。由于供应商的标价原样传递,不额外加价,因此阿里巴巴一侧的价格变动当天即会在我们这边生效,而不是等到下一个续约周期。OrcaRouter 不提供 Flint 服务;那个模型需要下载。所以上述混合方案是真正的混合:一条路径通往托管的前沿级模型,另一个本地文件则用于处理所有绝不能离开本机的内容。

A screenshot of the OrcaRouter model page for Qwen3.8 27B, showing the breadcrumb Home over Models over Qwen over Qwen3.8 27B, the identifier qwen/qwen3.8-27b, a Featured badge, tags for Vision, Tools, JSON and Reasoning, the vendor Qwen and a date of 2026-08-13. The description calls it Alibaba's open-weight 27B dense multimodal model under Apache 2.0, accepting text, images and video and returning text with a 256K-token context window built on the Qwen3.5 architecture, 64 layers and a 5120 hidden size with a dedicated vision tower. A spec panel lists 262K tokens of context, text plus image plus video input, text output and a p50 time to first token of 2.98 seconds. A price row shows input at 0.33 dollars and output at 2.40 dollars per one million tokens, with p50 and p95 time to first token and 158.5 million tokens of traffic over seven days, above buttons for getting the API, trying the playground and using the API with an OpenAI-compatible base URL.

没人做过的实验

本文中的每一个数字都来自实验室对自家模型的测量,只有一个例外——PrismML 在 Terminal-Bench 上与阿里巴巴存在 3.3 个百分点的分歧,而这是唯一能说明这些数字在别人掐表计时时会有多大变动的线索。

能定论的做法很直接,而且至今没有发生:两个模型,同一套评测框架,同一组任务,同一台机器,公开的追踪记录。在此之前,站得住脚的立场是那个更窄的:在两家实验室都如实汇报的基准上,Qwen3.8 27B 是更准确的编码模型;在决定一个模型究竟能否跑起来的部署维度上,Flint 是更高效的那个。Recursive 自己先在其发布博文里说了这一点,而这是整场发布中最可信的部分。

A generated comparison scoreboard titled Flint v1.0 vs Qwen3.8 27B, sharing six dimensions across two columns. The Flint column reads parameters 39.8B total, active per token about 2.5B, memory about 24 GB, Terminal-Bench 2.1 54.9, LiveCodeBench v6 80.3, and modality text only. The Qwen3.8 27B column reads parameters 27B dense, active per token all 27B, memory about 55.6 GB BF16, Terminal-Bench 2.1 73.0, LiveCodeBench v6 90.3, and modality text, image and video. A footer notes that Flint is vendor-reported and Qwen Alibaba-reported, that the harnesses differ, and that neither has had an independent re-run.