Obsidian 3 的“我们所知”卡片将状态列为未发布和未确认,声称高努力得分为 46.77%,声称每项任务成本为 8.62 美元,声称最大努力得分为 45.53%,包含 claude-code 测试框架,并猜测其身份为 Claude Fable 5.5 或 Opus 5.6
Guides & Insights

Obsidian 3:一行隐藏的基准测试、3.6 倍账单,以及 Fable 5.5 之问

作者

Elias Hawthorne

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

本周 Cognition 新推出的编程榜单上最引人注目的那个数字,属于一个谁也叫不出名字的模型。在 FrontierCode 2.0 背后的数据文件里,出现了一个标注为 Obsidian 3 的隐藏条目,其 high-effort 模式得分为 46.77%,高于 Claude Opus 5.5 的 45.5%——而后者正是 Cognition 自己榜单上排在首位的模型。这一行数据是在 claude-code 测试框架下跑出的,而在该榜单上,只有 Anthropic 的模型使用这一框架,于是猜测立刻分成两派:一派认为是 Anthropic 尚未发布的旗舰模型 Claude Fable 5.5,另一派则认为是某位发帖者所称的“Opus 5.6”中期更新版本。这些说法均未得到证实。Anthropic 未作任何表态,也不存在任何模型卡或 API ID,本文中所有 Obsidian 3 的数字都只是来自 X 帖子的未经证实的说法,而非我们能够复现的结果。

能够核查的范围更窄,也更有用:泄露事件所指的公开文件、被归因于隐藏行的投入度曲线,以及“3.6× 成本”说法背后的算术。把这些放在一起,故事就不再是“Anthropic 的下一代模型胜过其当前模型”。它变成了更具体的东西——一行在高投入度下达到峰值,随后回落;一种只有在两边设定不同投入水平时才成立的比较;以及一个根本不包含这一行的数据文件。

泄露了什么,以及何时泄露

Cognition于10月27日发布了FrontierCode 2.0。该基准测试刻意设计得难以被钻空子:132项任务由20多位维护者基于真实开源代码库构建,每项任务大约耗时40小时,评分标准是补丁是否会被实际合并,而不是能否通过测试。每次运行都重复三次,任务不公开,任何一项阻塞性标准未通过即得零分。Cognition自己的榜单将Claude Opus 5.5列为第一,在最大努力设置下得分45.5%,GPT-6 Astra以42.8%位列第二,Claude Sonnet 5.5以41.0%位列第三,且没有任何模型超过50%。Artificial Analysis将该基准以15%的权重纳入其新的Intelligence Index v5,并独立报告了相同的领先者:四舍五入后,Claude Opus 5.5以46%居首。

当晚,UTC 10月27日21:10,@tensorson 发帖称 Cognition 的数据文件中包含一个表格未显示的模型:“Obsidian 3”,得分46.8%,“高于排名第一的 Opus 5.5(45.5%)”。该帖提到了 claude-code 测试框架,并猜测是 Fable 5.5。十二小时后,linux.do 上一个帖子列出了该行五个不同的 effort 分数——low 39.19%、medium 39.84%、high 46.77%、xHigh 45.90%、max 45.53%——并附上了一份数据副本。UTC 10月28日09:12,@teortaxesTex 引用转发并附上成本数据:Opus 5.5 在 high 下以每次 rollout 2.42美元的成本得分34.5%,Opus 5.5 在 max 下以12.82美元得分45.5%,而 Obsidian 3 在 high 下得分46.7%,“据称成本为8.62美元”,即便在 max 下花费47美元也未能更进一步。“FrontierCode 已经不行了吗?”该帖问道,“还是说 Fable 5.5 是个失败之作?”UTC 16:18,@CodexResets1 放大了同样的数字,并询问该模型到底是 Fable 5.5 还是 Opus 5.6。

该文件的 Last-Modified 响应头显示为 10 月 28 日 17:44 UTC。我们一天后下载的版本为 32,055 字节,列出了 24 个模型,并且其结构中任何位置都没有名为 Obsidian 3 的行。一次绕过缓存的请求返回了相同的文件哈希。官方排行榜表格从未显示过该行,BenchLM 的 20 行镜像也没有显示它,而 Anthropic 未发布任何内容。

一行,五个努力等级,三个不同的故事

这份对比中已公布的那一半是可靠的,因为它直接来自 Cognition 的可下载数据。Claude Opus 5.5 的可合并性调整后得分在每一步都有所上升:低档为 14.7%,中档为 30.1%,高档为 34.5%,xHigh 为 43.4%,max 为 45.5%。它的平均任务成本从高档的 $2.42 上升到 max 的 $12.82。这正是那种当你愿意为更长时间思考付费时就会变得更好的模型曲线。

Scoreboard comparing the claimed Obsidian 3 row with published Claude Opus 5.5 figures: 46.77% at high effort and 45.53% at max for $8.62 and about $47 per task, against 34.5% and 45.5% for $2.42 and $12.82, both in the claude-code harness

声称的 Obsidian 3 曲线并非如此表现:

• 低投入——宣称达到 39.19%,已高于 Claude Opus 5.5 高投入的 34.5%。

• 中等投入 — 已领取 39.84%,提升了 0.65 个百分点。

• 高投入——声称占比 46.77%,达到峰值,每项任务声称 $8.62。

• xHigh 努力 — 声称 45.90%,下降 0.87 个百分点。

• 最大努力 — 声称达到 45.53%,又下降了 0.37,声称成本接近 47 美元。

五种投入设置,最佳得分排在第三。花费约 5.5 倍的高投入预算来达到最大值,换来的得分却低了 1.24 分。Cognition 自己也警告这种情况可能发生:更高的推理设置有时会降低得分,因为模型会写更多代码、触及更多文件,而基准测试自带的示例中就包括一次最大投入运行,它在修复竞态条件时删除了一个公共 API 类。但下降的幅度很重要。一个在最高档停滞不前的模型,是早期检查点或蒸馏产物的可能性,远大于它是一个完成的旗舰模型。

现在来说比较,因为标题完全取决于你选择哪一个:

最优对最优——Obsidian 3 在 high 档的 46.77% 对比 Claude Opus 5.5 在 max 档的 45.5%,高出 +1.32 个百分点,价格为 $8.62 对 $12.82,即约便宜 33%。按这种解读,隐藏行在两个维度上都胜出。

• 高对高——46.77% 对 34.5%,即 +12.24 个百分点;$8.62 对 $2.42,即成本的 3.56 倍。按此解读,这是以高昂价格为代价的大幅质量提升。

• Max 对 max——45.53% 对 45.45%,即 +0.08 个百分点,大约 47 美元对 12.82 美元,或者说成本是 3.67 倍。照此解读,这是一场以灾难性价格换来的平局。

这三种说法在算术上都成立。正因如此,X 上的那场争论才各说各话:@tensorson 拿高值对比最大值,称之为领先 1.3 个百分点;@teortaxesTex 则拿高值对比高值,质问这个基准测试是不是坏了。“同等投入下成本为 3.6 倍”这个数字是准确的,“比 Opus 5.5 最佳运行更便宜”也同样准确——它们描述的是不同的运行组合。

在这一切背后,还有一个更大的注意事项。Cognition 的数据为每次运行存储两个数字:原始正确率和经可合并性调整后的得分。已公布的 Claude Opus 5.5 的 45.5% 是调整后的数字;其在 max 下的原始正确率为 49.7%,在 high 下为 37.9%。这一调整让公开的 Claude 各行损失了三到四个百分点。我们不知道泄露的 Obsidian 3 数字来自哪一列。如果 46.77% 是原始正确率,那么其调整后得分将落在 43% 附近——低于 Claude Opus 5.5——而整个“高于 #1”的说法也就消失了。这一个未知因素,比大家争论的 1.3 个百分点差距还要大。

为什么 claude-code 这个标签就是 Anthropic 的全部理由

测试框架只是脚手架,而不是指纹。FrontierCode 会在智能体循环中运行每个模型,数据文件则记录了各模型所使用的循环:OpenAI 的行在 codex 中运行,Google 的行在 devin-cli 中运行,xAI 的行在 grok-build 中运行,Meta 的 Muse Wonder 在 muse 中运行,Cognition 自己的 SWE 模型在 devin-cli-swe1 中运行,而全部六个 Claude 行都在 claude-code 中运行。一行匿名记录出现在 Claude 的测试框架中,这是一个强烈信号,表明它背后的模型是为了与 Anthropic 的工具链配合使用而构建的。但这并不能证明它是 Anthropic 构建的。基准测试运营方可以用任何合适的测试框架来测试合作伙伴的预发布模型,而实验室也可以用一个未公开的代号来测试自己的模型。

Cognition FrontierCode 2.0 score-versus-cost chart showing Claude Opus 5.5, Claude Sonnet 5.5, Claude Fable 5.1, GPT-6 Astra and GPT-6.1 Sol, with a legend mapping the Claude Code, Codex, Grok Build, Devin CLI and Muse Code harnesses

这个名字本身几乎说明不了什么。根据 Anthropic 自己于 10 月 29 日发布的模型概览核对,其公开产品线包括 Claude Fable 5.1、Claude Opus 5.5、Claude Sonnet 5.5 和 Claude Haiku 5.5。并不存在 Fable 5.5,也不存在 Opus 5.6,更没有名为 Obsidian 的产品。“Obsidian 3”是实验室内部常用的一类宝石风格代号,但并没有公开注册表可供核对,而且末尾的“3”也不对应 Anthropic 已发布的任何序列。

这就剩下三种解读,而证据无法在它们之间做出取舍:

• 一个 Fable 级别的构建。Claude Fable 5.1 是定价为 $10 / $50 的旗舰产品,面向高要求的推理任务,于 9 月 1 日发布,而 Fable 系列显然是当前产品阵容中明显的空缺。@tensorson 的猜测以及该帖子下的若干回复都指向这一结论,因为其成本特征看起来更像是高端层级,而非性价比层级。

• 一次中期 Opus 更新。@teortaxesTex 的先前判断是“Obsidian 3 就是 Opus 5.6”,理由是 Anthropic 此前曾发布过推理能力几乎没有提升的中期模型。所声称曲线的平顶符合这一说法,但低努力档位的得分——39.19%,而 Claude Opus 5.5 为 14.7%——看起来像是另一次训练运行,而不是一次小更新。

• 一个蒸馏产物或早期检查点。@teortaxesTex 的另一个假设,也是曲线形状最能支持的那个:在低、中等努力程度下表现强劲,在高努力程度时达到峰值,随后在获得更多空间时反而退步。一个成熟的前沿模型不应在每次增加预算时都变得更差。

IPO 的时机带来了什么——又没带来什么

引发这串讨论的起因是一个关于时机的问题:为什么 Fable 没有在 IPO 之前发布?Anthropic 于10月26日公开提交了 S-1,次日 FrontierCode 2.0 发布;该公司拟在纳斯达克以股票代码 ANT 上市,预计募资750亿美元。据 Renaissance Capital 称,路演预计在11月9日当周进行,定价预计在11月16日当周进行。如果下一代旗舰产品在定价前发布,就会为这次上市提供一个产品故事;如果是在定价后发布,就会为这次上市提供一个路线图故事。

但一个隐藏的基准测试行并不是发布信号。实验室经常与基准测试运营方一起测试预发布模型,通常处于保密状态,而运营方的职责是在供应商另行说明之前让该模型保持匿名。如果 Cognition 测试了 Anthropic 的一个构建版本,正确的解读是 Anthropic 仍在迭代——而不是发布就在几天之后。唯一的官方数据点仍然是 Anthropic 的文档,其中列出了四个当前模型,没有一个是 Obsidian。IPO 解释了为什么人们如此密切地关注 Fable 层级。但这并不能让那一行变成真的。

读者今天实际能做些什么

关于 Obsidian 3,目前没有任何可调用、已定价或有文档的内容,因此它本周不会改变任何决策。如果你现在就需要可获得的最佳可合并性评分,Claude Opus 5.5 已公开:每百万 token 输入 $4、输出 $20,100 万 token 上下文窗口,最大输出 128K,API ID 为 claude-opus-5-5,发布于 9 月 22 日。如果成本是限制因素,GPT-6.1 Sol 在同一榜单上以每任务约 $1.03 的成本获得 39.0% 的分数——这比两次 Claude 运行的单位美元得分划算得多;在你认定榜单顶端是唯一有用的一行之前,这个数字值得一看。

Claude Opus 5.5 可通过 OrcaRouter 按 Anthropic 的标价路由,无任何加价,并与一个 API 上支持自动故障转移的 200 多个其他模型并列。这正是这次泄露真正引出的那个实验的关键所在:在你自己的工作负载上,分别以 high 和 max 档位运行 Claude Opus 5.5,衡量每个被接受补丁的成本。FrontierCode 自己的曲线显示,最后两个 effort 档位每任务多花 10.40 美元,换来 11 分;你的代码库未必会以同样的方式计价。effort 档位设置和每 token 价格都是 Anthropic 自己的,原样透传,因此这一比较只是参数变更,而非第二份合同——而且如果 Anthropic 下调标价,该路由于同一天就会生效下调。

OrcaRouter model page for anthropic/claude-opus-5.5, showing the live Claude Opus 5.5 model with a 1M-token context window, 128K max output, $4.00 input and $20.00 output per million tokens, and a release date of 2026-09-22

什么会让 Obsidian 3 成为事实?

• 该行会以可下载的数据文件形式返回,其中包含一个模型键和全部五个 effort 条目,因此无需截图即可读取这些数字。

• Cognition 会说明它是否测试过预发布模型,以及在何种安排下进行测试。若基准测试运营方确认存在一次禁发期内的运行,便可在不点名供应商的情况下确定其出处。

{{1}}Anthropic{{/1}} 发布模型卡、API ID 或文档条目。这是唯一能把一行基准测试成绩变成产品的事件。

• 价格会呈现出来。没有价格的模型只是一个基准条目,而不是读者可以选择的一个选项。

• 由第二个运营方进行测量。Artificial Analysis 运行着自己的 FrontierCode 2.0 测试框架,并采用不同的外部设置;在那里出现一行 Obsidian,将是佐证,而不是对同一张截图的再次发布。

这一行是收据,不是发布。它记录下的东西比标题更有意思:一个在低投入下就很强、在高投入下达到峰值、随后却花五倍预算反而变得更差的模型。如果这条曲线属于 Anthropic 的下一代旗舰,那么该公司在发布之前就有一个推理扩展问题要解决。如果它属于早期检查点,那么数字会先于名字发生变化。无论如何,46.8 都不是值得关注的数字。值得关注的是这条曲线是否最终会变成单调的。

常见问题

Obsidian 3 发布了吗?

不。Anthropic 的文档或 Cognition 已发布的 FrontierCode 2.0 表格中都没有出现名为 Obsidian 3 的模型,我们也没有找到任何列出它的 API 目录。唯一证据是 10 月 27 日和 28 日 X 帖子中报道的一个隐藏行,以及一个复现了五项 effort 分数的论坛帖子。Anthropic 未作评论,而我们 10 月 29 日下载的公开数据文件不包含该行。

Obsidian 3 是 Claude Fable 5.5 还是 Claude Opus 5.6?

未知。两者都是从 claude-code harness 标签得出的猜测,而非来自任何标识符。Fable 5.5 符合 Anthropic 产品线中 Claude Fable 5.1 上方那个空位;Opus 5.6 则符合 Anthropic 推出低增益中期刷新的理论。这两个名称都未出现在 Anthropic 的文档中,而成本特征更符合高端的 Fable 层级,而非偏价值的 Opus 层级。

为什么 FrontierCode 2.0 里现在没有 Obsidian 3 了?

我们无法确认原因。原帖中链接的文件最后修改时间为 10 月 28 日 17:44 UTC,而我们 10 月 29 日下载的副本列出了 24 个模型,其中没有 Obsidian 3 条目。它可能是在这些帖子流传之后被移除的,也可能公开版本从未包含过它。X 帖子和论坛存档是我们能找到的唯一记录,而两者都不是第一方来源。

3.6 倍成本的说法站得住脚吗?

按 Cognition 公布的 Claude Opus 5.5 成本计算,这笔账是算得通的:8.62 美元是 2.42 美元高强度运行成本的 3.56 倍;而约 47 美元的最高值,约为 12.82 美元最高运行成本的 3.67 倍。无法核实的是账本中 Obsidian 3 这一侧,因为其成本数据只存在于 X 帖子中,不在任何可下载文件中。

本文中的对比1

根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新