Clef-Flash vs Qwen3-8B：38 毫秒对抗人人都已在运行的 8B

有一项具体、不起眼的工作，很多团队都会交给Qwen3-8B：读这张工单、这行日志、这份表单，然后告诉我它属于我四个分类桶中的哪一个。这是一项伪装成对话的分类任务，而 Qwen3-8B 做得足够好，以至于没人费心去替换它。2026 年 9 月 30 日，Cloudflare 发布了 Cloudflare/clef-flash的权重。这是一个 9B 模型，专为做那一项工作而生，别无他用。有趣的问题不是它是否比 Qwen3-8B 更聪明，而是你目前从 8B 通用模型那里得到的东西，是否值得按生成的 token 来付费。

Clef-Flash 用结构而非基准来回答那个问题。它接收一个状态和一个最多包含 64 个带类型问题的模式，并在单次非自回归传递中为每个允许选项返回一个 logit——没有中间文本，没有解析，除了概率之外没有任何输出。Cloudflare 测得它的请求延迟中位数为 38.8 毫秒，而作为其对比基准的 TypeSafe 决策模型 Jev 约为 500 毫秒。Qwen3-8B 不在那张表中，因为 Qwen3-8B 不玩这个游戏：它写出一个答案，由你来读。

这组对比之所以值得完整比较，而不只是罗列一页规格参数，是因为这两个模型根本没有任何共同基准。市面上流传的每一个 Clef-Flash 数字，都是 Cloudflare 在一个由竞争对手发布的指数上产出的，而 Cloudflare 之外没有人复现过其中任何一项。Qwen3-8B 则有三代独立使用作为后盾，还有一份你可以拿来争论的公开记录。决定你是否该做这次替换的，是这种不对称，而不是延迟差距。

两个输出契约，而不是两种尺寸

这里的参数量已经接近到足以分散注意力——Clef-Flash 为 9B，Qwen3-8B 为 8.2B，其中 6.95B 属于非嵌入参数。真正重要的区别在于，每个模型被允许输出什么。

Qwen3-8B 是一个因果语言模型。给它一张支持工单，它就会生成 token，并且默认情况下它会先产生一个推理块，因为除非你关闭它，否则思考模式是开启的。它可以分类、解释、升级、起草回复，或者告诉你你的分类体系缺少某个类别——所有这些都来自同一组权重，无需任何模式。它的卡片上标明有 36 层、分组查询注意力为 32 个查询头对 8 个 KV 头、100 多种语言，以及原生 32,768 个 token 的上下文长度，可通过 YaRN 扩展到 131,072。它是大多数团队会选用的模型，因为它是一个能做任何事的模型。

Clef-Flash 是一个后训练模型，而不是对话伙伴。Cloudflare 冻结了 Qwen3.5-9B 主干——包括其视觉编码器——并在其上训练了一个联合模式头：头部权重为 243.5 MB，而四个分片主干文件总计约 18.8 GB。该头部读取主干的最终隐藏状态，将来自该状态的证据路由到每个问题，并一起为所有问题的所有选项打分。约束本身就是特性。Cloudflare 限制它只输出概率，这就是为什么基础模型出现在其谱系中，却从不出现于其输出中。

注意它的血统归属。Clef-Flash 源自 Qwen3.5-9B，也就是 Qwen3-8B 所属的 Qwen3 系列之后的下一代。因此，这并不是一个 9B 衍生模型通常会有的“基于自身底座微调”的故事——它是同一棵家族树上的另一条分支，为了一份不同的契约而重新训练。

同一项任务，两种运行方式

两个模型都能路由工单。它们失败的方式不同，而这些失败模式正是迁移的代价所在。

在 Qwen3-8B 上，工作在于提示词和解析器。你描述自己的类别，要求它返回其中一种，然后处理模型返回“这看起来像账单，不过也可能是技术类”的情况——这是对真实歧义的真实回答，而你的下游代码无法消费。模型卡自身的指引明确指出，对于效率相关工作应禁用思考模式，贪婪解码会降低输出质量，而且当思考模式开启时，你不应在多轮历史中继续携带推理块。这些指令中的每一条，都是通用模型强加给你的决定。

有了 Clef-Flash，工作重心就转移到了 schema 上。对于一道选择题，你需要为每个问题声明 2 到 26 个选项；对于一道评分题，则需要声明 2 到 26 个等级。作为回报，你会得到被选中的选项、每个选项的概率，以及一个置信度值。这份契约里有三个细节，比那个最显眼的延迟数字更有价值。第一，置信度不等于正确性——Cloudflare 的文档说得很明白，它衡量的是概率有多集中，而不是答案正确的可能性。第二，平局按你声明的选项顺序来裁决，所以如果两个选项真的有重叠，你其实已经通过排列列表顺序悄悄做出了决定。第三，也是最容易咬人的一点：除非你自己写进去，否则根本不存在“以上皆非”这个选项。决策模型只会给到手的选项打分；一张关于隐私请求的工单，如果拿到的 schema 只有账单、技术和销售这三类，它只会从这三类里挑出最不坏的那个，而不会拒绝作答。

最后一点是双刃剑，而这正是这场比较中诚实的核心。Qwen3-8B 会告诉你，你的分类体系已经坏了。Clef-Flash 不会，而放在一条流水线里，这就是一种实实在在的退化——那种你一个月后才会在一条错误路由的队列里发现的问题。这笔取舍，是用真实的延迟和真实的确定性，去换一个能揭示你压根没想到要问的问题的模型。

数字能说明什么，不能说明什么

Clef-Flash 的已发布结果来自 Cloudflare 运行的 Jev Decision Index 0.2.1 套件，同一轮运行也为该厂商的博客文章提供了依据。表现出色的单元格值得精确说明：BFCL case-exact 98.8，API-Bank 准确率 93.1，家电模拟器 97.7，ContractNLI macro-F1 84.3，RouterBench 选定质量 79.9。在 TypeSafe 自己的评估套件中的四个端到端业务流程上，Clef-Flash 在客户服务上取得 77.0，而 Jev 为 76.0，更大的 27B Clef 为 76.3；它在发票处理上以 57.1 落败，对手是 Jev 的 61.8 和 Clef 的 64.7。

薄弱项和强项一样具有信息量。在带域外处理（out-of-scope）的 CLINC150 上，Clef-Flash 的 macro-F1 为 66.8，而 27B Clef 为 97.4、Jev 为 89.3——整整三十个百分点的断崖，而且恰好出现在检验模型是否知道何时应弃答的那类基准形态上。When2Call 上为 65.6，Jev 为 81.0。GPQA Diamond 上为 51.0，对 78.3。POP909-CL 仅为 1.6，而模型卡并未解释这个数字。

现在说表格不会告诉你的部分：Qwen3-8B 在其中任何一张表里都没有对应行。这两个模型都没有在对方的基准测试上获得评分。Clef-Flash 自身的 MMLU 分数 91.8 和 GSM8K 分数 67.3，是通过其类型化决策评测框架得出的，而这不是 Qwen 报告其数字时所用的框架；把两者拿来比较，就像把范畴错误装扮成一次比较。所以，诚实的立场是：不存在共同的记分板，本文也不会凭空编造一个。实际存在的是该厂商在自有基础设施上测得的延迟差距、一种结构上不同的成本结构，以及一批 Cloudflare 之外无人复现过的 Decision Index 单元格。

一个决定要付出什么代价

Cloudflare 的 Workers AI 文档将 Clef-Flash 列为每百万输入 token $0.09，且对输出不收取任何费用，因为实际上没有输出——文档中的示例演算针对一个包含三个问题的请求只返回三个输出 token。因此，对一张 1,500 token 的工单进行路由决策，输入成本约为 $0.000135，之后就没有可计量的成本了。每天运行一百万次这样的请求，你的成本大约就是每天 $135，而当工单变得更复杂时，这个数字不会变；只有当工单变得更长时，它才会变。

自回归模型没有与之对等的上限。那上百万个决策中的每一个都会对生成的 token 计费，而如果思考模式处于开启状态——Qwen3-8B 默认就是如此——模型可能会先花上数百个 token 去推理一封密码重置邮件究竟属于四个类别中的哪一个，然后才给出答案。通过 enable_thinking=False 或 /no_think 标签关闭思考，是任何基于该模型构建的分类提示词中杠杆效应最大的一行，而且很容易被遗漏。这一比较并非“廉价模型对昂贵模型”，而是固定的仅输入价格，对一个随模型决定说多少内容而上涨的价格。

背景：来自三个供应商界面的三个数字

Clef-Flash 的可用上下文取决于你读取的是哪个 Cloudflare 界面。Workers AI 模型页面记录的上下文窗口为 65,536 个 token。已发布的 config.json 为文本塔声明了 max_position_embeddings 为 262,144。模型卡自带的编码辅助函数默认使用 max_length=16,384，同时还可以借助 max_state_tokens 单独限定状态的长度。某个第三方运行时列表宣称支持 256K，它读取的是配置中的值，而非服务端的限制——这解释了这一差异，而不是让它成为一个谜团，但对于任何调用托管端点的人来说，实际可用的数字是 65,536。

Qwen3-8B 的数值是它自己的，并且已经稳定了一年半：原生 32,768，启用 YaRN 后为 131,072，而配置默认值为 40,960，其中为输出保留 32,768，为提示保留 8,192。因此，如果原始窗口是你的决定因素，那么这个小型自回归模型可以扩展到大约托管决策模型文档所述长度的两倍——而决策模型所需的窗口要少得多，因为你发送的是状态，而不是一段对话。

谁应该交换，谁不应该交换

• Swap — 你有固定的分类体系、3 到 26 个目标位置，以及一个客服队列、一个分诊步骤或一个代理门控；在这些场景中，38.8 ms 中位数和 122.4 ms p95，相较于半秒的生成时间，会改变你的流水线能做到什么。

• Swap —— 你目前正在从 8B 中解析自然语言输出，并处理那五十分之一不符合你格式的回答。在已声明选项上的概率分布能完全消除这一类失败。

• 不要调换——答案集并非预先已知，或者你需要模型告诉你它不知道。除非你把弃权路径构建到标准中，否则 Clef-Flash 没有弃权路径，而且其已公布的最薄弱单元格恰恰就是超出范围的情况。

• 不要替换——工作负载是推理、从无约束文档中提取、总结或代码。Clef-Flash 写不出一个句子，因此任何期望成句输出的下游环节都保留 Qwen3-8B。

• 先别换用——你需要让供应商以外的人核对这些数字。Clef-Flash 没有独立评估，而产生其分数的测试套件，是由它所击败的模型的供应商发布的。

在哪里运行它们中的每一个

两者均采用 Apache-2.0 许可，因此都可由你自行托管，而资源占用相差不小。bf16 精度的 Qwen3-8B 约为 16 GB，量化构建则小得多——在 Ollama 库中，Q4 构建为 5.2 GB，其中 qwen3:8b列出了 3870 万次下载量和 40K 上下文窗口。Clef-Flash 需要完整的 18.8 GB 主干，外加 243.5 MB 的头部，其 Ollama 库页面在发布后几天内就上线了，带有一个 11 GB 的量化标签，分享数仍只有几百；Ollama 的表格读取的是配置中的 256K，而不是端点的 65,536。这个下载比例并不是对任一模型的定论——一个页面已经上线十八个月，另一个才大约一天——但它公允地反映了每个模型背后有多少运营历史。

如果你想要托管版本，Cloudflare 在 Workers AI 上运行 Clef-Flash，价格就是上文提到的每百万 0.09 美元，其权重也可以从 Hub 下载。这两个模型都会与 Ollama 的 /v1/systemone 端点通信（Clef-Flash 使用该端点，需 Ollama 0.35.1 或更高版本），而 Qwen3 则使用标准 generate 路径——因此更换只是客户端变更，而不是架构变更。

这两个模型目前都不在我们的路由之列：OrcaRouter 的公开目录对 clef-flash 和 Qwen3-8B 同样返回 404，此处的任何内容都不应被解读为我们对其可用性的声明。路由层真正改变的，是流水线中生成的那一半。如果某个决策模型最终为你的 agent 把关，那么执行该决策的模型仍然必须可被访问，而这正是一个 API 密钥即可调用 200+ 模型的统一 API的价值所在——按 0% 加价原样传递供应商标价，因此厂商降价当天这里就会同步，并且具备自动故障转移，让某个供应商一个糟糕的下午不至于拖垮你刚刚重建的路径。Qwen 系列同样已经向前演进：Qwen3.8-27B 在此可以路由，价格为每百万 token 输入 $0.40、输出 $4.21，上下文窗口为 262,144 token。它与 Qwen3-8B 是不同的模型，也并非其替代品，但它是同一系列向上演进的一代。

什么会改变这一解读

三件事，按顺序来说。

对范围外单元格的一次独立运行。Clef-Flash 在家电模拟上的 97.7 与在 CLINC150+OOS 上的 66.8 之间的差距，并不说明它是一个能力均衡的分类器；它说明的是，这个模型在训练时见过的形态内很强，而当正确答案是“以上都不是”时却很弱。如果这在别人的评测框架下也成立，那么它就是关于该模型最重要的实际运行事实，而它却不在任何人的亮点清单上。

一个来自 Cloudflare 边缘之外的实测延迟数字。38.8 毫秒的中位数令人印象深刻，而且它是由供应商在供应商自己控制的基础设施上、针对一个托管在边缘的模型测得的。相对于 Jev 的排序很可能稳健；真正不该信的是那个绝对值。

还有一个共同的基准。在有人用相同的标签、在同一个分类任务上给 Clef-Flash 和一个小型开源 LLM 打分之前，二者之间的取舍取决于输出契约、价格结构，以及你愿意依据谁家的证据来行动。这三项足以决定如今许多流水线的选择——但它们并不是准确率对比，本文也不会假装它们是。