一张生成的标题卡,上方写着“Sage-S2.1-Flash 对比 Claude Haiku 5.5”,下方副标题为“一个 token 的成本对比一个上下文窗口的成本”,再下方有两个标签,分别写着“10 万 token 价格断崖”和“八块 H200”。白色背景,蓝色和青色渐变点缀,扁平线条图标。OrcaRouter 标志合成在右下角。
Guides & Insights

Sage-S2.1-Flash 对比 Claude Haiku 5.5:单个 Token 的成本 vs 上下文窗口的成本

作者

jinhao.song

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

Claude Haiku 5.5 和 Sage-S2.1-Flash 都宣称拥有百万 token 的上下文窗口,而二者的相似之处也大致止步于此。Claude Haiku 5.5 由 Anthropic 于 2026 年 10 月 7 日发布,有公开的价目表、独立的排行榜分数和托管 API。Sage-S2.1-Flash 则由上海人工智能实验室于 2026 年 11 月 15 日悄然上传至 Hugging Face,拥有 645 GB 的 MIT 许可权重、一份 21 字节的模型卡,而且互联网上任何地方都找不到它的价格。因此,按每百万 token 对二者进行比较是不可能的——不是困难,而是不可能,因为计量表的一侧是空白的。

方面,真正有效的比较是另一种,也正是本页要讨论的比较:每个模型向你收取多少费用长上下文。在这个维度上,两者相差甚远,而答案并不是标价所暗示的那样。

两个披着同一基准名称外衣的采购问题

先从双方实际是什么说起,因为这种命名容易引发范畴错误。Claude Haiku 5.5 是 Anthropic 小型层级中的专有文本和图像模型——厂商将其定位为适用于“高吞吐量、对延迟敏感的任务,如分类、提取和路由”。它通过 effort 参数进行自适应思考,该参数默认设为 medium,最多返回 128,000 个输出 token,并在 Anthropic 自有平台以及四大云转售渠道上以 claude-haiku-5-5 的形式接入 API。

Sage-S2.1-Flash 是一个开放权重的科学智能体模型:一个 3200 亿参数的混合专家模型,每个 token 激活 180 亿参数,基于 GLM-5.3-Flash 架构构建,以 bfloat16 打包,约 645 GB,分布在 120 个分片中。其配置声明位置上限为 1,048,576 个 token、一个 24 层视觉塔,以及明确的图像、视频、音频和思考 token 类型。它采用 MIT 许可并可下载;截至 11 月 16 日,没有推理服务商提供它,也没有独立测试框架对其进行评分。

其中一个是明细项。另一个是一个周末加一个 GPU 节点。这种不对称正是整个比较的全部,下面的所有内容都是由它推导出的算术。

A generated two-column comparison scoreboard titled 'Sage-S2.1-Flash vs Claude Haiku 5.5 - the scoreboard'. The Sage-S2.1-Flash column reads: Price: none published; Context: 1,048,576 tokens; Weights: MIT, about 645 GB; Hardware: 8xH200 to self-host; Independent score: none; Long-prompt surcharge: none. The Claude Haiku 5.5 column reads: Price: $0.10 / $0.50; Context: 1,000,000 tokens; Weights: proprietary; Hardware: vendor-hosted API; Independent score: AA Index 36.5; Long-prompt surcharge: 5x above 100K. Footer: 'Sage figures the vendor's own, unaudited; Haiku 5.5 price from Anthropic, score per Artificial Analysis.' The OrcaRouter logo is composited in the bottom-right corner.

没人写进标题的 10 万 token 悬崖

Anthropic 公布 Claude Haiku 5.5 的定价分为两档而非一档,而正是在第二档,该模型自己所宣称的上下文才变得代价高昂:

• 提示词最高可达 100,000 个词元 — 输入每百万 ${{1}}0.10{{/1}},输出每百万 ${{2}}0.50{{/2}}

• 超过 100,000 个 token 的提示 — 每百万输入 $0.50,每百万输出 $2.50

• 缓存写入,五分钟档——每百万 $0.125 和 $0.625,按相同的拆分比例

• 缓存读取 — 低于 100K 时每百万 $0.01,超过 100K 后每百万 $0.05

• Batch API — 双方均享 50% 折扣

这是一次五倍的跃升,而且它触发的提示长度,恰好就是长上下文模型开始值得付费的那个长度。一个 150,000 token 的提示加上 5,000 token 的回答,输入费用为 150,000 × $0.50/1M = $0.075,输出费用为 5,000 × $2.50/1M = $0.0125,合计 $0.0875。若按低于 100K 的费率,同样的调用本应是 $0.015 加 $0.0025——即 $0.0175。五倍的上下文窗口,成本并不是 100K 调用的五倍;以你片刻之前还在支付的价格为基准,相同 token 量大约贵五倍,而那次特定调用则贵十一倍。

上面还叠加了第二个乘数,而且很容易被忽略,因为它藏在文档里,而不是价格表中:Claude Haiku 5.5 使用了随 Claude 4.7 引入的 tokenizer,因此同样的文本计为的 token 数会比在 Claude Haiku 4.5 上多出大约 30%。无论你为每份文档做多少预算,在套用费率之前都要乘以 1.3。Anthropic 对此异常明确,这值得肯定,但它对朴素成本模型的影响是真实存在的:一个从 4.5 迁移到 5.5、token 估算却保持不变的工作负载,将会超支近三分之一。

这一切都不足以让 Claude Haiku 5.5 在绝对意义上显得昂贵。每百万输入 0.10 美元是当前任何接近前沿的模型中最便宜的费率,独立排行榜也同意,这一档位并非玩具:Claude Haiku 5.5 在最高努力程度下于 Artificial Analysis Intelligence Index 上得分 36.5,高于 DeepSeek V4.1 Flash 的 32.6 和 Gemini 3.8 Flash 的 30.8。要点更窄,也更有用:在这个模型上,提示词长度才是价格杠杆,而不是模型选择。

当你拥有权重时,长上下文的成本是什么

现在对 Sage-S2.1-Flash 做同样的计算。没有价目表,所以 token 的边际成本为零——但窗口并非免费,因为你总得把权重存放在某处。InternLM 自己的部署指南给出了参考配置:八块 H200 GPU、bfloat16、张量并行度为八。

这笔算术并不光鲜,却具有决定性。645 GB 的权重分布在八张卡上,每张卡约 81 GB。一张 H200 搭载 141 GB HBM,这就为每张卡留下约 60 GB,用于 KV 缓存、激活值以及视觉塔的工作集。指南明确要求不要在 Hopper 上使用 FP8 KV 缓存,因此这 60 GB 是以 bfloat16 消耗的——这是可用的每 token 缓存格式中最昂贵的一种。在该预算范围内可以达到百万 token 上下文,但这只是因为模型的混合注意力让大多数层保持线性:45 层中有 34 层使用配置中称为 kda 的线性注意力类型,只有 11 层使用带有 top-2,048 索引的稀疏注意力。在传统的 45 层 transformer 上,百万 token 的 KV 缓存根本无法容纳。

所以,诚实的成本对比不是“免费对每单位 0.10 美元”,而是“由你按需选型并租用的八块 H200,对一个用量超过 100K 后价格就涨到五倍的按量计费 API”。前者在什么利用率下能胜过后者,完全取决于你为这些 GPU 支付的每小时费率,以及它们一天中有多少时间处于忙碌状态。而由于我们没有公开的 Sage 价格,也没有它独立的吞吐量数据,任何向你给出盈亏平衡点的人,都是在凭空编造一个。

Screenshot of the OrcaRouter model page for anthropic/claude-haiku-4.5. The header shows a 200K-token context, 64K max output, vision, tools, JSON and reasoning tags, a release date of 2025-10-15, and the price row $1.00 input and $5.00 output per million tokens. A context window of 200,000 tokens and an output limit of 64,000 tokens are stated in the page's model description, along with text, image and file inputs.

直白地说,证据缺口

两个模型都有基准测试数据。但其中只有一组能够拿来与任何东西进行核对。

Claude Haiku 5.5 由第三方进行评测。Artificial Analysis 将其在最高 effort 下的 Intelligence Index 得分定为 36.5,并报告输出速度为每秒 257 个 token。这是一个经过审计的数字,来自一个对其列出的每个模型运行相同测试的评测框架,这正是它能用于决策的原因。

Sage-S2.1-Flash 仅由其作者进行评测。InternLM 的数据存放在一个制表符分隔的文件中,该文件位于 11 月 16 日创建的 GitHub 仓库里,并发布到 internlm.github.io/Sage-S2.1-Flash 的静态站点上,而 Hugging Face 模型卡并未链接到该站点。该表有 35 行,将 Sage 与八个模型进行比较。其表现突出的行是科学和视觉类项目——BabyVision 为 75.8,对比 Claude Opus 5 的 63.1;OSWorld-G 为 84.8,对比 DeepSeek-V4.1-Flash-1017 的 61.4;OfficeQA Pro V2 为 72.2,是其自身表格中的最佳数字。其编码类行则平平无奇:SWE-bench Pro 60.6、DeepSWE 67.0,均落后于 DeepSeek V4.1 Flash。

那张表里完全没有出现 Claude Haiku 5.5,也没有 Gemini 3.8 Flash。因此,读者在搜索这组对决时真正想要的那项比较——便宜的托管模型与可下载的科学模型之间的对比——两边都没有厂商数据,而其中一边还没有独立数据。我们能说的是,Sage 已公布的行在科学基准上处于 Opus 级区间,而其编程相关的行则低于一个每百万输入收费 0.30 美元的模型;此外,BabyVision 上二十四分的差距,要么是真实能力,要么是该基准对这个模型采取了不同的解读方式。没有评测框架,你无法判断是哪一种。

Screenshot of Anthropic's Claude Platform documentation page for Claude Haiku 5.5. The page states a 1M-token context window, a 128K max output, and pricing 'from $0.10' input and 'from $0.50' output per million tokens, and notes that the model uses the same newer tokenizer as Claude 4.7 and later models, so the same text counts as approximately 30 percent more tokens than on Claude Haiku 4.5. A 'How it compares' table lists Claude Fable 5.2, Claude Opus 5.5, Claude Sonnet 5.5 and Claude Haiku 5.5 with their context, output, price, latency and default effort.

各自真正胜出的地方

剔除无法比较的部分,就会剩下一个清晰的分割。

• 大批量、对延迟敏感的工作——毫不犹豫选 Claude Haiku 5.5。分类、抽取、路由和子代理调用,以 $0.10/$0.50 的价格、并附有公开评分,这已是成熟解决的问题。Sage-S2.1-Flash 在此无从竞争:那相当于你租用八块 GPU,去做一件按量计费 API 花几分钱就能完成的事。

• 100K 至 1M token 之间的提示词——这一区间确实存在争议,胜负取决于利用率而非优劣。Claude Haiku 5.5 在此区间按基础费率的五倍收费;Sage 则按你已租用硬件的摊销成本计费。如果你的节点繁忙,Sage 在成本上胜出;若不繁忙,则不然。

• 科学多模态输入——Sage-S2.1-Flash,依据其自身声明。分子图、晶体结构、蛋白质序列、谱图、质谱、XRD、ECG、EEG 和光变曲线是 InternLM 称其训练时使用的输入,而在两者之中,它是唯一一个在文档中列出这些输入的模型。应将其视为一项设计声明,而非实测结果。

• 本周任何需要合同的事项——Claude Haiku 5.5。其中一个有定价、状态页,以及不早于 2027 年 10 月 7 日退役的承诺。另一个的模型卡是空白的,而且截至撰写本文时,下载量为零。

• 数据驻留与权重所有权——Sage-S2.1-Flash,无条件适用。可自行持有、审计和微调的 MIT 权重,与 API 属于截然不同的资产类别,任何价格差异都无法改变这一点。

决定大多数迁移成败的那一个底层细节

如果你要在这两者之间迁移一条长上下文流水线,阻塞你的问题不会是质量,而是分词和工具调用。

Claude Haiku 5.5 更换了分词器代际,这意味着你针对 Claude Haiku 4.5 调优过的每一个提示词都需要重新测量,而任何基于 token 预算假设的分块策略现在大约有 30% 是错误的。Anthropic 恰好为此发布了迁移指南,在你动手修改配置文件之前,值得一读。

Sage-S2.1-Flash 存在同一问题的更严重版本,而这是其部署指南中最值得优先阅读的一项。它的分词器必须从仓库加载——vLLM、SGLang 或 LMDeploy 中内置的分词器会把工具调用标记等智能体语法当作控制 token 而不是文本来编码,模型会因此提前结束一轮,且不会显示任何错误。在这背后还有两个陷阱:在 vLLM 上,如果不应用一个单文件补丁,乱序的并行工具调用会把图像附加到错误的结果上;而 SGLang 除非显式传入该文件,否则会覆盖聊天模板。对于迁移而言,实际后果是 token 计数的工作量翻倍——一次针对 Anthropic 的新分词器,一次针对 InternLM 的自定义分词器——而且两者都无法根据对方来估算。

这三项实际上就是“Sage-S2.1-Flash 是我评估过的模型”和“Sage-S2.1-Flash 是我放弃了的模型”之间的差别。它们全都有文档记录,这比大多数悄无声息的发布所能做到的还要多。

在没有价格的情况下做出决定

Claude Haiku 5.5 目前不在 OrcaRouter 的目录中;它存在于 Anthropic 自己的 API 以及各大云转售渠道上,我们不会暗示并非如此。我们路由的是上一代——anthropic/claude-haiku-4.5,输入每百万 $1.00、输出每百万 $5.00,按标价原样传递,不加价——在 5.5 层级将成本削减至十分之一之前,这仍是衡量 Anthropic 小模型层级成本的诚实基准。用你的真实提示词跑 4.5,可以在同一分词器家族上获得实测 token 数,而实测 token 数才是解决上述 100K 悬崖问题的唯一依据:你的流量是在它之下、之上,还是横跨它,将决定整个比较,这是任何基准行都无法做到的。

当供应商最终公布 Sage-S2.1-Flash 的价格,或独立评测框架给出其评分时,透传模式就很重要:价格目录能在供应商降价当天就反映其标价,这正是避免每季度重新谈判这一比较的方式。

什么会改变此页面

一个数字就能完成大部分工作:Sage-S2.1-Flash 的每 token 价格。有了它,一边是 100K 悬崖,另一边是摊销后的节点,就会变成真正的盈亏平衡计算,而不是只停留在形态上。第二个数字几乎同样有帮助——给 Sage 一个独立评分,最好是在把 Claude Haiku 5.5 定为 36.5 的同一套测试框架上,这样两者就可以相减,而不是靠叙述。

在那之前,站得住脚的立场是这样的。Claude Haiku 5.5 是更便宜地完成大量小任务的方式,而它恰好在上下文窗口变得有意思的地方变得昂贵。Sage-S2.1-Flash 是更便宜地拥有一个超大模型的方式,但它还不是购买任何东西的途径。在两者之间做选择,不是关于基准测试的品味问题。这是一个关于你的工作负载是以 token 还是以节点来衡量的问题——如果你还无法回答这一点,诚实的下一步是为你自己的流量定价,而不是再读一篇对比。

本文中的对比1

根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新