
GPT-6.2 保留推理:编辑前缀,付出双倍代价
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百万 tokens · 186 tok/s
- openai新OpenAI: GPT-6.2 Astra2026-11-17$8.00 / $40.00 每百万 tokens · 86 tok/s
- openai新OpenAI: GPT-6.2 Sol2026-11-17$2.00 / $10.00 每百万 tokens · 151 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百万 tokens · 192 tok/s
- Alibaba新Qwen: Qwen4 Max2026-11-16$1.50 / $4.50 每百万 tokens · 86 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 705 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 246 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 97 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 138 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百万 tokens · 85 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百万 tokens · 122 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 102 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 70 tok/s
- openaiOpenAI: GPT-6.1 Terra2026-10-26$1.00 / $5.00 每百万 tokens · 35 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 89 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 38 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 231 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 101 tok/s
2026年11月17日,OpenAI 发布了 GPT-6.2 Astra和 GPT-6.2 Sol,并对 Responses API 做了一项改动,这项改动与模型质量无关,却完全关乎你为它付多少钱。从这两个模型开始,一个推理项会绑定到它前面的对话历史。编辑转录中更早的任何内容——缩短工具结果、重写开发者消息、用摘要替换三个旧轮次——API 就会作为一项保护措施丢弃其后的推理项。然后模型不得不重做它已经做过的工作。请求时没有错误、没有警告,也没有账单明细项。只有稍微更差的答案和更大的账单,而这两者很难联系到一起。
这不是一个可以排期的弃用项。对于今天任何调用 gpt-6.2-astra 或 gpt-6.2-sol 的人来说,这是一种已经生效的行为,而且它会影响到每一个进行升级的团队,因此它值得被当作迁移事项来对待,而不是变更日志里的脚注。
Responses API 实际有哪些变化
早期模型会在前缀编辑后保留其推理项。你可以在轮次之间重写一条开发者消息,或用摘要替换前十次交互,而模型已产生的推理仍会留在上下文中。这种宽容恰恰对应了智能体代码的粗心之处:无论你发送了什么,模型都能受益于其先前的思考。
在新行为下,API 会检查历史记录;当检测到某个推理项前面的前缀已发生变化时,就会移除该项。OpenAI 自己的文档用直白的措辞描述了这一后果——模型“可能需要重做部分推理”,这会“增加 token 用量、成本和延迟”,并且“如果模型无法恢复丢失的推理”,答案质量可能会下降。
OpenAI 列出的四个触发条件值得牢记,因为其中三个看起来像是整洁的代码,而不是行为变化:
• 编辑较早的输入项——裁剪工具结果、删除某一轮次,或用摘要替换一段历史记录。
• 更换工具 — 在对话中途添加、移除或重新排序工具定义。
• 更改 text.format——在会话中途切换输出架构。
• 更改 reasoning.effort——为低成本的后续轮次调低这一参数,这是智能体循环中最常见的一项成本优化。
注意哪些内容不在列表中。在推理项之后追加新内容是可以的。删除整个项也是可以的。这条规则是有方向性的:API 会从每个推理项往回看,任何移到它前面的内容都会使其失效。
前缀编辑是四项普通的代码变更
那四个触发条件中的每一个,都是称职的工程师会有意为之的事情。问题就在这里。前缀编辑并不是你只会犯一次的错误;它是一种你主动采用的设计模式,因为它在其他所有方面都是正确的。
上下文截断的情况最明显。一个长时间运行的智能体会填满它的上下文窗口,于是你丢弃最早的几轮对话,或对它们进行摘要。这是良好的做法,能节省输入 token,而且在 GPT-6 Sol 上这是免费的。在 GPT-6.2 上,这会删除那些轮次之后产生的推理,模型在开始下一步时已经忘了自己当初为什么选择那个工具。
“推理力度旋钮”的情况更糟,因为这是一种会反转的成本控制。自然的优化方式——让常规轮次以低力度运行,在任务变难时升级到高力度——就是在请求之间修改 reasoning.effort。在 GPT-6.2 上,这种编辑会丢弃推理,因此代价高昂的升级会从头重新推导代价高昂的推理。你为高力度付了钱,得到的却是冷启动的高力度,这是另一回事,而且更贵。
丢弃一个推理项会付出什么代价
对于已下架的推理项,并没有公布价格,因此要诚实地估算它的量级,办法是先看推理本身要花多少钱。Artificial Analysis 测量的是整套测试,而每项任务的 token 数量,是最接近于公开衡量前沿模型在困难工作上投入多少思考的指标。
在最高努力程度下,GPT-6.2 Sol 在 Intelligence Index v5.0.1 上生成 6090 万输出 token 来完成九项评估套件,加权成本为每个索引任务 1.01 美元,每项任务耗时 9.3 分钟。GPT-6.2 Astra 为同一套件生成 6580 万输出 token,按每百万输出 token 40 美元计费,每个索引任务 4.00 美元。这些总数是完整评估成本的下限,而且其中每一个 token 都是按完整输出费率购买的。厂商报告的数据也指向同一结论——OpenAI 表示,在其内部 GDPval v2 基准上,GPT-6.2 Astra 使用的输出 token 比 GPT-6 Astra 少 22%——但这是模型之间的比较,而不是对被剔除项目重新加回后增加多少的测量。
这里重要的是机制,而不是确切的倍数。一个必须重新生成的推理项,是你已经付过费的输出 token,被第二次生成出来。在一个任务要跑二十轮的 agent 循环中,在第六轮丢失推理,代价并不是少了一轮的思考;代价是重新推导,以及因上下文变薄而随之产生的任何退化决策。这两者在按请求记录的日志中都是不可见的。

只追加式重写,分五步
OpenAI 的指导是停止修改前缀,改为向其后追加内容。说起来容易,但这会改动五个独立的调用点,所以这里把它们一并列出,并附上确切的字段名。
• 推理强度 — 不要在请求之间更改 reasoning.effort。而应向 input 追加一个 configuration_update 项,携带新的 effort。文档中记录的结构是 {"type": "configuration_update", "reasoning": {"effort": "high"}},放在下一条用户消息之前。该设置会持续生效,直到另一个更新将其覆盖;你可以在同一项中更改 reasoning.effort 和 text.format。
• 输出架构 — 同一项,同样处理。通过 configuration_update 更改 text.format,而不是通过编辑请求来更改。只更新两者中的一个会让另一个保持原样,这是一种隐蔽地得到意外架构的方式。
• 工具 — 通过在 developer 角色下发送 additional_tools 项来添加工具,该项携带一个 tools 数组,并在其原始位置重放。保留现有定义的原顺序,并使用 tool_choice 搭配 allowed_tools 来限制模型可以调用的工具。
• 指令 — 将可复用文本放在 input 内的第一条 developer 消息中,而不是放在顶层 instructions 字段中。要更改它,请追加一条新的 developer 消息。在 GPT-6.2 及更高版本中,顶层 instructions 字段会在 input 之后追加,因此编辑它本身就是一种前缀变更。
• 压缩——使用 OpenAI 自带的压缩功能时,无论是 /responses/compact 端点还是 context_management,推理内容都能在前缀变更后保留。调用 /responses/compact 时请省略 instructions。使用自定义压缩时,请将压缩后的条目放在上下文末尾。注意一个关键限制:自动截断和 /responses/compact 都会拒绝包含 configuration_update 条目的历史记录,因此使用新模式的会话无法通过旧路径进行压缩。
如果你使用 compaction_trigger 项手动进行压缩,请在压缩后添加一个新的 configuration_update,并重新说明你更改过的每一项设置。没有任何内容会为你跨越边界保留下来。
比你的发票更早检测到它
这种行为的改变之所以危险,是因为它会悄无声息地失败。API 返回 200。响应看起来正常。你需要一种能看到这种丢弃的方法,而 OpenAI 提供了一个:将 prompt_cache_options.comparison_response_id 设置为较早的响应 ID,然后读取诊断原因和缓存令牌数。input_transformations 字段列出了哪些推理项被移除以及原因,而 prefix_mismatch 原因会按 id 与较早响应输出中的某个推理项匹配。
关于那个诊断,有两个必须承认的局限。它只能尽最大努力报告第一处差异,也无法验证模型是否真的复用了它保留的推理。所以把它当作烟雾报警器,而不是计量表——它告诉你发生了下降,却没告诉你代价有多大。
监测的另一半是缓存,而这里正是 token 账与成本账交汇之处。提示缓存会从开头匹配请求,因此前缀编辑不仅会丢弃推理项,还会从编辑点开始终止缓存复用。该点之后的所有内容都按未缓存输入费率计费。在 GPT-6.2 Sol 上,每百万为 2.00 美元,而不是 0.10 美元——在受影响的片段上相差二十倍。在 GPT-6.2 Astra 上,则是 8.00 美元而不是 0.40 美元,在贵四倍的价目卡上同样是二十倍的比例。
那才是值得关注的数字,也是发布文章绝不会放进标题的数字:缓存未命中就是账单,被丢弃的推理就是质量回退,而两者都来自同一处修改。GPT-6.2 及更高版本中,顶层 instructions 字段的 token 正是按未缓存输入费率计费——该字段位于缓存前缀之外。

这让 6.1 Sol 部署处于何种境地
所有这些都不构成反对迁移的理由。GPT-6.1 Sol 在 Intelligence Index v5.0.1 上以最高努力程度得分 55,GPT-6.2 Sol 得分 57,每项索引任务为 1.27 美元,对比 1.01 美元;每项任务耗时 24.9 分钟,对比 9.3 分钟——在输入 2 美元、缓存 0.10 美元、输出 10 美元的不变价目表上,这是一个更快、更便宜、略更聪明的模型。这次升级是实打实的。改变之处在于,这次升级现在有一个正确性前提条件,而这个前提条件就是你的会话处理必须是仅追加的。
回答这个问题最便宜的方式是做账单对比,而不是评分对比:把一小部分实时流量发送到 gpt-6.2-sol,并开启现有的仅追加式埋点,一天后读取两组的缓存 token 占比。OrcaRouter 按供应商标价提供 openai/gpt-6.1-sol,不额外加价,且每请求的缓存计费会出现在 usage 块中,因此这条账本中 6.1 这一侧无需另立合同即可读取。故障转移能避免这一小部分流量演变成事故:新路由无法处理的任何请求都会落到已经在应答的模型上。必须直说的一半是:GPT-6.2 Sol 目前还不在本站目录中,因此 6.2 这一组是直接调用 OpenAI,而 6.1 这一组则是调用我们。
接下来要关注的范围比听起来要窄。行为已有文档记录,迁移路径已有文档记录,诊断工具也已存在。尚不存在的是这样一项公开测量:在真实的长时程任务中,一个被丢弃的推理项会以多少输出 token 为代价;在有人发布这项测量之前,对损害的所有估计都只是对机制的建模,而不是仪表读数。如果你在大规模运行智能体,你比任何基准测试都更有条件得出这个数字——而且无论你愿不愿意,你都会得出它,这就是现在就要进行埋点监测的理由。

本文中的对比3
根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新
