文章《Clef-Flash》的主视觉标题卡,副标题为“一个从不写出任何 token 的 9B 模型”,并带有两枚徽章,分别写着“2026 年 10 月 1 日发布”和“Cloudflare”。OrcaRouter 标志合成在右下角。
Engineering & Research

Clef-Flash 是一个从不写出 Token 的 9B 模型——而 Cloudflare 的博客在权重发布近一天之后才出现

作者

Gideon Frost

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

Cloudflare/clef-flash是一个拥有 90 亿参数的多模态模型,它接收一个状态(state)以及一份由带类型问题构成的 schema,并为每一个允许的答案返回一个概率。它不生成文本。不是"它生成的文本很差"——而是它根本没有文本输出路径。它的代码仓库于 2026 年 9 月 30 日 21:15 UTC 以 Apache-2.0 许可出现在 Hugging Face 上;Cloudflare 发布介绍它的公告文章时,与更大的 27B Cloudflare/clef一同,已是次日 15:34 UTC。在大约十八个小时里,开放权重和托管的 Workers AI 端点都已公开存在,而厂商却只字未提,这种先后顺序是本次发布中最有意思的事实——对于任何正在决定是否要把它接入流水线的人来说,它比任何一行基准测试成绩都更值得关注。

两天后,又出现了第二个、更小的波折。一个第三方运行时为 clef-flash 提供的库页面——本文的雷达最初就是在这里发现该模型的——在其模型表中把它列为“256K 上下文窗口”,却在上面几行显示着 Cloudflare 自己的 readme 文本:“64K 上下文窗口:两倍于 Jev 的 32K 窗口所容纳的状态”。这两个数字不可能同时正确,而厂商的文档裁定较小的那个才是对的。这种偏差值得一开始就指出来,因为本文其余内容都取决于同一个问题:哪些数字是厂商的,哪些是镜像方的,哪些是厂商以外的人核验过的。

实际发生了什么,以及按什么顺序

记录如下,按顺序:

• 2026年9月30日 21:15:35 UTC — Cloudflare/clef,即 27B 模型,已在 Hugging Face 上创建。

• 2026年9月30日 21:15:36 UTC — Cloudflare/clef-flash在一秒后创建完成。两者都是 Qwen 基座模型的微调版本:Clef 基于 Qwen3.8-27B,Clef-Flash 基于 Qwen3.5-9B。

• 2026年10月1日 15:23 UTC —— clef-flash 的仓库最后修改时间,大致也就是我们所引用的模型卡文本写成的时间。

• 2026年10月1日 15:34 UTC —《推出 Clef:我们的开源决策模型,以及全新的 RL 微调平台》一文在 Cloudflare 博客上线,将这两个模型托管于 Workers AI,并围绕它们推出微调服务。

• 2026年10月2–3日——第三方运行时接手这些权重;第三方运行时的库页面与量化社区构建版本出现。

所以这既不是泄密,也不是悄悄上线,更不是一个需要读者当作传闻来对待的未公布检查点。它是一次正式发布(GA),配有博客文章、部署在 Cloudflare 自家边缘 GPU 上的托管 API、权重采用 Apache-2.0 许可,还附带一个商业微调平台。唯一真正蹊跷的地方,是代码仓库比公告早了十八个小时——这个时间窗口长得足以让模型已经公开、而厂商自己的营销页面却还不存在,又短得不足以让 Cloudflare 之外的任何人真正跑过它。

决策模型不是小型语言模型

Cloudflare 文章中的论述框架是:决策模型是一个独立类别,而架构是为这一主张提供支撑,而非装点门面。Clef-Flash 保持 Qwen3.5-9B 主干冻结,包括其视觉编码器。在其之上是一个小型 transformer 头——发布版中权重为 243.5 MB,而大约四个分片主干文件总计达 18.8 GB——它将来自状态的证据路由到每个问题,并在单次传递中为每个问题的每个选项打分。Cloudflare 将其称为“非自回归”:没有逐 token 生成,没有中间推理文本,没有输出解析。你为每个允许的选项得到一个 logit,按问题对其做 softmax,就得到一个分布。

请求的结构由此决定。你需要提供 状态——一个字符串,或一个 JSON 对象或数组——一个可选的图像或视频帧列表,以及一到六十四个命名问题。每个问题声明一个 类型:noul 用于真/假判断,返回为真的概率,选择 用于命名选项集,返回所选选项以及每个选项的概率和置信度,或者 评分 用于有序量表,返回概率加权的级别。对于 noul,标准是可选的,对其他类型则近乎必需,并且文档异常直白地指出一个陷阱:置信度“显示概率的集中程度。它并不是答案正确的几率。”一个自信作答的模型未必回答正确,而校准度量是区分两者的唯一方法。

这一区别正是值得关注的整个理由。如果你曾经让一个通用模型对一张支持工单进行分类,然后试图解析它的回答,你就已经为这种设计所消除的代价买过单了。Clef-Flash 无法生成“这看起来像是账单问题,大概吧?”这样的句子,因为它根本无法生成句子。它返回的是 {"choice": "billing", "probabilities": {"billing": 0.981, ...}, "confidence": 0.924}——这个例子直接来自 Cloudflare 自己的文档——而你的代码只需对它做阈值判断。

A single-column infographic titled 'Clef-Flash — the scoreboard' with six rows: 'Parameters: 9B (frozen Qwen3.5-9B + 243 MB head)', 'Context: 65,536 tokens documented', 'Output: probabilities over your options, no text', 'Input: text, JSON, base64 images', 'Latency: 38.8 ms median, 122.4 ms p95' and 'Licence: Apache 2.0', above a footer reading 'Cloudflare figures, self-run on the Jev Decision Index, unreproduced.' The OrcaRouter logo is composited in the bottom-right corner.

这些数字,以及是谁算出来的

下文中的每一个数字都来自 Cloudflare 的模型卡或那篇博客文章,而且全部由 Cloudflare 运行。该测试套件是 Jev Decision Index——一个由 TypeSafe 发布的排行榜,而 TypeSafe 是 Jev 的供应商,Jev 正是 Clef-Flash 进行基准对比的模型——所以这一比较是拿供应商自家产品在竞争对手的指数上衡量,且由供应商自己运行。目前还没有针对 Clef-Flash 的独立评估,本文也不假装有。

在决策专项基准上,Clef-Flash 的强是实打实的,值得把它和营销宣传区分开:BFCL 案例精确匹配 98.8,API-Bank 93.1,家电模拟 97.7,ContractNLI 宏平均 F1 84.3,RouterBench 79.9。它在 BFCL(98.8 对 98.5)、API-Bank(93.1 对 91.9)和家电套件(97.7 对 83.0)上击败了更大的 27B Clef——最后一项领先十四分,这是整张表中最令人意外的单元格,也是 Cloudflare 之外无人核验过的那一个。

这些损失同样真实,理应放在同一段里。在带越界处理的 CLINC150 上,clef-flash 的 macro-F1 为 66.8,而 27B 为 97.4,Jev 为 89.3——在带有“other”桶的意图检测上出现了三十分的断崖,而这恰恰是路由层最常看到的请求形态。在 ANLI 上,它得到 59.1,而 Jev 为 74.8;在 When2Call 上为 65.6,而 Jev 为 81.0;在 GPQA Diamond 上为 51.0,而 Jev 为 78.3。而在 POP909-CL 这个和弦标注基准上,它得分 1.6——这个数字要么是数据格式不匹配,要么是真正的失败,而卡片没有说明是哪一种。

延迟表正是这款模型证明自己名副其实的地方。请求延迟中位数为 38.8 毫秒,p95 为 122.4 毫秒,而 27B Clef 为 209.3 / 238.6,Jev 为 524.1 / 536.0。Cloudflare 是在自家基础设施上测量的,因此请将绝对毫秒数视为你在其他地方所见延迟的上限,但其排序——Flash 变体大约比自家更大的同级模型快五倍半,中位数上比 Jev 快十三倍——正说明该设计如宣传般奏效。

A screenshot of the Cloudflare blog post 'Introducing Clef: our open-source decision models, and new RL fine-tuning platform', bylined Michelle Chen, Alex Reneau and Kevin Flansburg, whose opening paragraphs situate Clef against TypeSafe AI's Jev System One model and announce two Cloudflare-trained decision models, Clef and Clef-flash, hosted on Workers AI.

各房源信息中唯一存在分歧的那个数字

上下文窗口是那个会让人吃亏的数字,因为它是被抄错的那个。Cloudflare 的 Workers AI 文档针对 @cf/cloudflare/clef-flash 标明上下文窗口为 65,536 个 token。博客文章写道:“我们的模型有 64k 上下文窗口(相比之下 Jev 的是 32k)。”模型卡自己的编码辅助工具默认使用 max_length=16,384 个 token。与此同时,某个第三方运行时的库列表在其表格中宣称 256K。

三个厂商来源一致认为是大约 64K,而一份第三方列表给出的数字是它的四倍。如果你凭借某个库页面,就按 256K 的预算来规划提示词规模,那么到了请求时你就会发现问题。诚实的解读是:有文档记载的上限为 65,536 个 token,但要注意,Cloudflare 自己的发布说明从未将这个数字与该卡片的 16,384 个 token 默认值对齐——那是默认值,不是限制,但如果你按原样使用捆绑的加载器,它会悄然决定你发送多少状态。

你可以在哪里调用它,以及在哪里不能调用它

Clef-Flash 还不是 OrcaRouter 上的路由之一。我们的目录对它返回 404,本文中的任何内容都不应被解读为我们对其可用性的声明——如果你今天就想用上它,Cloudflare 在 Workers AI 上托管它,价格为每百万输入 token 0.09 美元,而 Apache-2.0 权重归你所有,可在本地运行。

这对本文真正要讨论的那个决策意味着什么:一个只能通过某一家厂商的平台访问的评分器,你在得到它准确率的同时,也一并继承了它的延迟和可用性。有路由的托管替代方案是 TypeSafe 的 Jev 1.13,它位于 OrcaRouter 上,每百万输入 token 收费 $0.042,上下文为 65,536 个 token,而且它正是 Cloudflare 选作基准对照的那个模型——这是刻意的,因为两者 API 兼容。Clef-Flash 使用相同的 {{2}}/v1/systemone{{/2}} 请求格式,因此两者可以在一个薄适配层之后互换。{{3}}两者都能通过同一个密钥访问,且{{/3}}{{4}}供应商标价原样透传、不加价{{/4}}{{5}},这正是让这一对比保持常开、而不是把架构押在哪个模型恰好最先发布上的原因。{{/5}}/v1/systemone两者都能通过同一个密钥访问,且供应商标价原样透传、不加价,这正是让这一对比保持常开、而不是把架构押在哪个模型恰好最先发布上的原因。

A screenshot of the OrcaRouter model page for TypeSafe's Jev 1.13 (typesafe/jev-1.13), showing a 65K token context, text input, structured JSON output, a p50 TTFT of 148 ms, a $0.04 per million input token price, 174.0M tokens of throughput, and the POST /v1/systemone request shape that clef-flash is API-compatible with.

什么会改变这个读数

三件事,按它们对局面影响的大小排序。

Cloudflare 之外的某个人需要复现 CLINC150+OOS 和家电控制这两组单元格,因为它们指向相反的方向,而模型卡没有为其中任何一项提供机制。范围外意图检测上的 66.8 与家电控制上的 97.7 并列,并不是一条平滑的能力曲线;它表明,这个模型非常擅长其训练分布中的分类形态,但在正确答案是“以上都不是”时,拒绝分类的能力要弱得多。如果这一点在独立测试下成立,那它就是关于 clef-flash 最重要的操作性事实,而它并不在亮点部分。

64K 与 256K 的清单差异需要有一个来源来纠正,因为它目前正从一面镜像向外扩散,进入人们真正会阅读的地方。要驳倒某个运行时的规格卡,通常并不需要引用厂商文档,而这是一个小案例,情况却正是如此。

而且这个类别必须经受住真实工作负载的考验。Cloudflare 自己的说法是,决策模型位于智能体的热路径中——在他们的 Threat Intelligence 示例中,决策模型抓取、渲染和分类一个网站需要两秒,而他们最快的通用 LLM 完成同一任务需要 4.7 秒。这是一个针对真实且具体工作流的真实且具体主张,而这类主张最终要由实际运行它的人来下结论,而不是靠一张表格。