
Clef 与 MathForm-8B:一个回答你的问题,另一个写出证明
- openai新OpenAI: GPT-6.1 Sol2026-09-2952智能
- anthropic新Anthropic: Claude Sonnet 5.52026-09-2856智能
- typesafe新TypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百万 tokens · 219 tok/s
- OpenAI新OpenAI: GPT-6 Luna2026-09-2238智能
- OpenAI新OpenAI: GPT-6 Sol2026-09-2248智能
- Anthropic新Anthropic: Claude Opus 5.52026-09-2258智能
- xAI新Grok 4.72026-09-2146智能
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 每百万 tokens · 114 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 每百万 tokens · 1064 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-09-1040智能
- OpenAIOpenAI: GPT-6 Astra2026-09-0453智能77代码
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241智能76代码
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245智能76代码
- AnthropicAnthropic: Claude Fable 5.12026-09-0153智能82代码
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 每百万 tokens · 41 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 每百万 tokens · 105 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642智能72代码
- DeepSeekDeepSeek: DeepSeek V4 Flash Vision (Exp)2026-08-21$0.22 / $0.66 每百万 tokens · 213 tok/s
- z-aiZ.ai: GLM 5.32026-08-1845智能75代码
- obsidianQwen3.8 27B2026-08-1534智能68代码
把 Cloudflare/clef和 openbmb/MathForm-8B放在一起的原因是,它们是目前开放权重中最容易被混淆的两个东西,而把它们搞混会毁掉一次训练运行。二者分别是在 Qwen3.8-27B 和 Qwen3-8B 检查点上构建的微调模型。二者均为 Apache-2.0。二者均在过去十周内发布。二者都范围狭窄、专为特定目的而构建,且其制作者将其描述为专用而非通用。而且它们彼此毫无关系,因为一个生成的是从你提供的列表中选出的数字,另一个则逐 token 生成 Lean 4 源代码,供证明助手检查。
Clef 是 Cloudflare 的 270 亿参数多模态决策模型:你给它一个状态和一份由带类型问题组成的模式,它就能在单次非自回归前向传播中为每个允许的答案返回一个经校准的概率,整条路径中完全没有文本生成。来自 OpenBMB 的 MathForm-8B 则是一个自动形式化模型——输入一段自然语言的数学陈述,输出 Lean 4,而训练它的流水线描述在一篇 arXiv 预印本中,该预印本于 2026 年 8 月 14 日与权重一同发布。一个模型的天花板是你选项列表的长度。另一个模型的天花板是 Lean 类型论的强度。问哪个更好是一种范畴错误,而两者都是 80 亿到 270 亿参数、Apache-2.0 开放权重的微调模型这一事实,恰恰正是让这种错误容易犯下的原因。
每个模型的界面在物理上禁止什么
要看清这种分歧,最快的方法就是看它们各自能返回什么。
• 输入 — Clef 接收一个状态(文本、JSON、图像或视频帧)以及 1 到 64 个具名类型化问题;MathForm-8B 接收自然语言数学陈述。
• 输出 — Clef 为每个允许的选项返回一个概率,并按问题做 softmax 归一化。MathForm-8B 返回 Lean 4 源代码。
• 问题类型——Clef 的有 noul(真/假,附为真的概率)、choice(2 到 26 个命名选项)以及 score(2 到 26 个有序等级);MathForm-8B 则完全没有问题这一概念。
• 校准 — Clef 为每个答案发布一个置信度字段;MathForm-8B 在语法和一致性检查下发布 Pass@8 比率。
• 服务 — Clef 通过兼容 Jev/SystemOne 的 POST /v1/systemone 请求体提供服务,可托管或自行运行;MathForm-8B 随附 Transformers、vLLM 和 SGLang 的使用说明,所有这些都会在 16,384 个 token 的上下文下提供一个兼容 OpenAI 的补全端点,并将 max_new_tokens 设置为 16,384。
实际后果立竿见影。如果你需要对一段文本作出是/否判断,Clef 是二者中唯一能给出这种判断的——你无法向 MathForm-8B 提出一个并非“为此写出 Lean 4 代码”的问题。如果你需要 Lean 4,Clef 则是二者中唯一完全无法产出它的,而这并非因为能力薄弱:要求一个受模式约束的评分器将定理形式化,不符合其契约,因此这一请求会因构造本身被拒绝,而不是得到糟糕的回答。

他们两人都归属的那个管道
有一种真实的架构,让这两个模型并排放置;它值得逐步梳理,因为它让这种划分变得具体而非抽象。设想一项为研究人员和学生将数学形式化的服务。
陈述以自然语言到来,种类不受限制。在任何内容能够被形式化之前,必须有某个环节判断到来的是什么。这是待证明的定理、待添加的定义、检查已有证明的请求,还是需要先澄清、之后才有人接触 Lean 的问题?它是自包含的,还是依赖用户未提供的上下文?这些符号是常规的,还是系统从未见过的记号?其中每一个都是有界问题,选项集很小——正是 Clef 的形态——而附在每个答案上的校准概率,让服务能够对不确定的那些做出明智处理:把任何低于阈值的内容转交人工,而不是猜测。
第二步属于 MathForm-8B。取一条已被归类为记号已知、自包含的定理的陈述,并输出 Lean 4。这是一个生成问题,而质量层面的问题在于:输出有多频繁能通过编译,又有多频繁与原陈述含义相同——这正是该厂商那两个评估维度所衡量的东西。从这一配对中值得提炼出的普遍模式是:在一个昂贵的专用生成器前面放一个廉价的有界分类器,通常比让生成器自己判断它究竟该不该运行更便宜,也更可靠。
两侧的数字实际测量的是什么
OpenBMB 的 arXiv 摘要报告称,MathForm-8B 在六项基准测试中,语法检查(Syntax Check)下的平均 Pass@8 达到 88.06%,一致性检查(Consistency Check)下达到 72.37%;并且在 FATE-H 和 FATE-X 子集上,它取得的一致性通过率分别为 63% 和 37%,均高于论文所对比的最强专用基线。这一说法中真正有意思的部分是训练流水线:检索规划器在生成之前先从 Mathlib 中抽取相关定义和已有形式化,随后利用编译器诊断信息和语义一致性反馈对生成的陈述进行修订,约 36.7 万条经过验证的 Lean 4 示例所构成的 FormalVerse 数据集正是以这种方式构建的,之后再用于监督微调和强化学习。这些都是论文和模型卡中由厂商自行报告的数字。尚无任何独立第三方复现过它们。
Clef 的数字衡量的是完全不同的东西,不可相提并论。Cloudflare 的 Decision Index 运行报告显示,BANKING77 意图 macro-F1 为 94.2,带范围外处理的 CLINC150 为 97.4,GPQA Diamond 为 48.0——而较旧的 Jev 得分为 78.3——请求延迟中位数为 209.3 毫秒。这是一张关于分类和路由的表格,由厂商在厂商自己的套件上生成,托管在厂商自己的排行榜上,且未经复现。
要就这两列写下的唯一一句诚实的话是:它们不共享任何基准、任何单位,也没有任何评估理念。MathForm-8B 在困难形式化子集上的 37% 和 Clef 在范围外意图检测上的 97.4,都是各自开发者针对不同任务给出的真实说法;把它们并列起来的读者,除了知道这两个数字都存在之外,什么也得不到。
你会运行什么,以及它的成本是多少
这两个模型都不是 OrcaRouter 上的路由,本文也不作任何可用性声明——该目录对 cloudflare/clef以及 MathForm-8B 均返回 404。MathForm 仓库大小约为 16.4 GB,且这两个模型均为 Apache-2.0,因此只要有硬件,任何人都可以在明天自行托管这两个模型。
• Clef on Cloudflare —— 在 Workers AI 上每百万输入 token 仅需 $0.24,其公布的延迟数据基于单块 H200 测得。
• MathForm-8B 自托管 — 不依赖供应商托管,不按 token 收费,并且有文档记录的 16,384 token 上下文;这是一个值得注意的限制:长篇论文的某一节无法在一次处理中容纳。
• 分类器那一半的备选路由方案——TypeSafe 的 Jev 1.13,在 65,536 token 的上下文下,每百万输入 token 收费 $0.042,并通过同一个 POST /v1/systemone 请求体提供服务,而该请求体正是 Clef 所用的,因此它可直接替换上述流程的第一步。
在这种特定搭配中,路由层正是在这里体现出自身价值。这个模式由决策方和生成方构成,而决策方那一半有一个现成的替代方案——一个端点对接 200 多个模型,按服务商标价透传,不按 token 加价,并且自动故障转移,这样某家服务商状态不佳时,也不会卡住你流水线的前门。生成方那一半是你自己运行的 16.4 GB 产物,没有任何端点能改变这一点。

尺码还隐藏着另一件事
参数量会让人忍不住做一种并不成立的比较。Clef 是 27B,MathForm-8B 是 8B,因此人们自然会认为较大的模型能力更强,较小的模型是专用模型。但从性质上说,情况恰恰相反。Clef 之所以大,是因为它承载着一个冻结的多模态骨干,需要用它来读取截图和发票;其上训练的部分只是一个带秩为 256 的适配器的小型 schema 头。MathForm-8B 之所以小,是因为 Lean 4 是一个狭窄的目标,而 Qwen3-8B 基座已足以达成它,真正的工程在于生成其训练数据的检索与验证流水线,而不在于其参数量。
换句话说,规模告诉你的是每个模型不得不承载什么,而不是它所解决的问题有多难。一个 27B 模型读取一张收据并返回“billing, 0.98”,和一个 8B 模型输出可编译的 Lean 代码,两者都正是在做它们被造出来要做的事,而用“八十亿对二百七十亿”这样的框架去衡量,大约有一半的时候会让你选错那一个。

决定,以及两家供应商都未回答的问题
如果你有一条流水线要接收无界的自然语言,并且需要在为其投入算力之前先做路由,那么第一步是使用一个有界分类器——当它的多模态输入很重要、且其指标在你的数据上表现良好时,选 Clef;当你想要相同的请求形态、更低的标价,并且不想把架构绑定到一家其评估无人复现的供应商时,选 Jev 1.13。第二步是专用生成器,而如果那个生成器是 Lean 4,那么 MathForm-8B 就是为此而构建的开放模型,背后有已发布的流水线和语料库。
双方缺失的是同一种证据。Clef 的 Decision Index 运行结果是 Cloudflare 自家的,从未被独立复现;MathForm-8B 的 Pass@8 数据来自它自己的论文。两者都是雄心勃勃的宣称,而在这个领域,诚实的测试描述起来很便宜、执行起来却很昂贵——拿两家供应商都未用于训练的数据,套用同一套流程,然后公布结果。在有人为其中任何一个模型做到这一点之前,这个对比能告诉你的有用之处是一种形态:这两者中的一个属于你流水线的前端,负责决定什么会进来;另一个属于它之后,做艰难而狭窄的工作;而在任何参数量下,两者都不能相互替代。
