文章《Clef-Flash vs LFM2.5 2.6B Base》的主视觉标题卡,副标题为“两个被称为小型的模型,相隔两台机器”。OrcaRouter 标志合成在右下角。
Guides & Insights

Clef-Flash 与 LFM2.5 2.6B Base:两个被称为“小”的模型,却相差三个数量级

作者

Elias Hawthorne

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

大多数人实际下载的 clef-flash 构建版本是 11 GB。LiquidAI/LFM2.5-2.6B-Base只需不到 2.5 GB 的内存即可运行。这两个模型都被各自的研发实验室描述为小巧、快速且高效,而这两种描述都是准确的——这正是这一对比之所以有用的原因,因为这两个词在做着完全不同的工作。Cloudflare/clef-flash是一个 9B 多模态决策模型,它以经过校准的概率回答键入的问题,并且从不写出任何一个 token;它需要 H200 级别的 GPU,才能在其自家显卡上达到 38.8 毫秒的中位延迟,而 Cloudflare 对其的卖点是其网络内部的边缘推理。LFM2.5 2.6B Base 是 Liquid AI 于 2026 年 8 月 1 日发布的预训练文本检查点,供他人进行微调之用,其预期的部署目标是笔记本电脑。

它们都不是你会放进聊天窗口的那种语言模型。两者都很便宜。在它们之间做选择,其实并不是一个关于质量的选择——而是要看你有什么样的硬件预算,以及你正在构建的东西是否已经知道它的答案长什么样。

用数字看足迹对话

先从机器实际需要什么开始,因为这正是两者分歧最大的维度。

• 参数 — Clef-Flash 是一个冻结的 Qwen3.5-9B 主干模型,包含其视觉编码器以及一个 243.5 MB 的联合模式头;LFM2.5 2.6B Base 拥有 26.9 亿参数,仅支持文本。

• 磁盘与内存 —— 社区的 clef-flash 构建版本为 11 GB;完整的 Hugging Face 仓库约 18.8 GB,由四个主干分片加一个头部组成。LFM2.5 2.6B Base 标称推理内存占用低于 2.5 GB,并同时发布了量化后的 GGUF、ONNX 和 MLX 构建版本。

• 延迟 — Clef-Flash:中位数 38.8 毫秒,p95 为 122.4 毫秒,由 Cloudflare 在单台 H200 上测得。LFM2.5 2.6B 是该基础检查点的后训练同系列模型,在 Apple M5 Max 上以每秒 220 个 token 运行,在 AMD Ryzen CPU 上为 113 tok/s。

• 上下文——根据 Cloudflare 的 Workers AI 文档,Clef-Flash 为 65,536 个 token;LFM2.5 2.6B Base 为 131,072 个 token。

• 许可证 — clef-flash 采用 Apache-2.0;LFM2.5 采用 LFM 1.0 许可证,该许可证虽为开放权重,但并非经 OSI 认可的开源许可证,而如果你是要发布产品而非做实验,这一区别就很重要。

那两条延迟数据衡量的并不是同一个单位,你不应该把它们相减。但放在一起读,它们说得很明白:Clef-Flash 是一个数据中心组件,其自带的运行时恰好也部署在边缘网络上;而 LFM2.5 2.6B 则是为你桌上那台机器准备的组件。

为什么基础检查点是一种不同类型的对象

名称里的“Base”一词至关重要,Liquid AI 自己发布的模型卡对此也异常坦率。LFM2.5-2.6B-Base 是预训练的纯文本检查点,30 层由 22 个双门控短卷积块和 8 个分组查询注意力块组成,在覆盖十六种语言、12.8 万 token 的词表上以 34 万亿 token 训练而成。它“仅推荐用于需要大量微调的任务”——特定语言的工作、特定领域的助手、基于专有数据的训练。它的模型卡就是这么明说的。

Clef-Flash 恰恰相反。它已经完成。训练已经完成,schema 头已经直接装上,API 契约已经发布,模型也以标价托管在厂商自己的边缘网络上。你不需要调优它;你直接调用它,或者下载下来在本地调用。这个系列还附带一个微调产品——Cloudflare 随这些模型一起发布了一个——但使用 clef-flash 并不需要它,而这就是关键。

所以,坦诚的说法是:它们是两条不同流水线中的两个阶段。一个是原料,一个是组件。如果你的任务是“我有 40,000 条已标注的客服工单,想要一个能在我们自己的机器上运行的快速领域专用分类器”,那么 LFM2.5 2.6B Base 是一个合理的起点,而 clef-flash 不是,因为你无法把 clef-flash 的决策头微调成它并不具备的语言能力——它根本没有语言输出路径。如果你的任务是“我需要把请求在 50 毫秒内路由到六个类别之一,并给出一个我可以设定阈值的概率”,那么 clef-flash 开箱即用就能回答这个问题,而 LFM2.5 2.6B Base 则完全无法以任何形式回答它。

A two-column comparison scoreboard titled 'Clef-Flash vs LFM2.5 2.6B Base — the scoreboard'. The left column, 'Clef-Flash', has rows reading 'Parameters: 9B with vision encoder', 'Context: 65,536 tokens', 'Output: calibrated probabilities', 'Footprint: 18.8 GB, H200-class', 'Latency: 38.8 ms median' and 'Licence: Apache 2.0'. The right column, 'LFM2.5 2.6B Base', has rows reading 'Parameters: 2.69B text only', 'Context: 131,072 tokens', 'Output: generated text', 'Footprint: under 2.5 GB, laptop', 'Latency: 220 tok/s on M5 Max' and 'Licence: LFM 1.0'. The footer reads 'Clef-Flash figures vendor-reported; LFM2.5-2.6B-Base figures per Liquid AI.' The OrcaRouter logo is composited in the bottom-right corner.

真正共享的部分

确实存在一个真正的重合点,值得对此精确说明,因为正是在这里,比较不再平凡。

经过后训练的通才模型——LFM2.5 2.6B,或任何小型指令模型——都可以通过提示让其返回结构化分类。给它一个 JSON schema,要求给出一个标签和一个置信度,然后解析输出。人们一直在这么做。问题是,当你这么做时,得到的是什么。

你得到的是一段 token 序列,它恰好包含一个你可以提取的标签,外加一个模型写下的关于自身的数字。那个置信度是一个采样得到的 token,而不是对候选答案做的 softmax,它并不表示经过校准的概率所表示的含义。Clef-Flash 的模型卡对自身 API 中类似的数值明确保持谨慎——置信度“显示的是概率有多集中。它并不是答案正确的几率”——而它之所以能如此,是因为底层量是你所提供选项上的真实分布。一个经过提示的通用模型没有这样的分布可供暴露。它有的只是一句写着 0.85 的话。

这种区分是否值得 11 GB 和一张 H200,完全取决于你用这个数字做什么。如果这个标签只是进入仪表盘,那么一个经过提示的 2.6B 模型就足够了,而且从各方面衡量都更便宜。如果这个标签决定是否执行一项不可逆操作——发放退款、封禁账户、升级安全事件——那么一个经过校准的分数和一个看似合理的字符串之间的区别,就是你能向审计员证明其合理性的阈值与无法证明的阈值之间的区别。

A screenshot of the Hugging Face model card for LiquidAI/LFM2.5-2.6B-Base, a text-generation checkpoint of 3B parameters under the LFM 1.0 licence, tagged lfm2, liquid, fm2.5, edge and conversational, described as a hybrid model family designed for on-device deployment with quantizations derived from it and a note that no inference provider is deployed for it. A downloads-last-month figure reads 16,541.

你可以在哪里获取它们中的每一个

这两个模型都不在 OrcaRouter 上。我们的目录不包含 clef-flash,也不包含 LFM2.5 2.6B Base 或任何其他 Liquid AI 检查点——你可以通过访问我们的模型 API 并收到 404 来核实这两点。本文中没有任何内容构成我们关于可用性的声明。

Clef-Flash 可通过 Cloudflare Workers AI 访问,价格为每百万输入 token 0.09 美元,也可以使用 Apache-2.0 权重自行运行。LFM2.5 2.6B Base 已在 Hugging Face 上提供,带有适用于 llama.cpp、ONNX Runtime 和 MLX 的量化构建,以及 Liquid AI 面向该系列的自有 playground 和文档。如果你想要一个今天已在我们目录中上线的决策模型,现有可选的就是 TypeSafe 的 Jev 1.13——相同的请求形态、65,536 token 上下文、每百万输入 token 0.042 美元——而 clef-flash 就是为其做即插即用替代而构建的,这意味着尝试两者中的任何一个只是配置更改,而不是重写。两者调用相同的端点类别,所以如果你已经通过一个密钥路由,并按提供商标价透传且不加价,那么比较就是今天下午就能运行的实验,而不是你必须规划的迁移。

A screenshot of the OrcaRouter model page for TypeSafe's Jev 1.13 (typesafe/jev-1.13), showing a 65K token context, text input, structured JSON output, a p50 TTFT of 148 ms, a $0.04 per million input token price, 174.0M tokens of throughput, and the POST /v1/systemone request shape.

哪一个适合你的技术栈?

决策树很短。如果你的答案是一个可以事先写下来的有限列表,而你需要一个真正有意义的概率,并且你有相应的硬件或愿意按调用付费——那么 clef-flash 就是现成的组件,而 LFM2.5 2.6B Base 不是候选。如果你的答案是开放式的,或者你真正需要的是一小语言模型,能用你自己的数据来塑造并在笔记本电脑上运行,那么 LFM2.5 2.6B Base 就是起点,而 clef-flash 完全帮不上你。

人们最容易犯错的是中间那种情况:通过提示一个小型通用模型来构建一个有边界的分类器,因为这是最省力的路径,而且它在演示中能跑通。它在演示中能跑通。可一旦你需要让数字真正成为数字,它就不管用了,而到那时,模式、提示词和解析代码都已经成了承重结构。

关于 clef-flash 这一侧,有一点要直说,因为这是该供应商自身最薄弱的数据:在带超出范围处理的 CLINC150 上——正确答案有时是“这不属于你的任何类别”——clef-flash 的 macro-F1 得分为 66.8,而其更大的 27B 同门模型为 97.4。有界模式是一种优势,直到输入不适合它为止,而模型无论如何都会进行分类。无论你选择哪条路线,都要有意识地构建残差类别,并审查落入其中的内容。