一张生成的主视觉卡片,标题为“每秒 126 个 token,而非 4.5 倍”,副标题为“Ultrafast 在 GPT-6.2 Sol 上的首次公开测量”,三张卡片分别写着“实测平均值:126 tok/s”“实测峰值:252 tok/s”和“标准基线:85 tok/s”,页脚写着“一位用户 2026 年 11 月 18 日的 27 分钟视频剪辑;标准基线依据 Artificial Analysis”。
Guides & Insights

GPT-6.2 Sol Ultrafast 实测:每秒 126 个 Token,未见 4.5 倍

作者

jinhao.song

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

首个公开数字是 GPT-6.2 Sol 在开启 Ultrafast 时达到每秒 126 个 token,这一平均值来自一项耗时 27 分钟实际时间、其中约 14 分钟为模型实际响应的任务,峰值突发达到每秒 252 个 token。它来自 X 上的一位视频剪辑师,他让模型剪辑一段八分钟的视频——这是一个真实任务,仅用四行文字报告,没有测试框架、没有重复运行,也没有 Standard 模式作为对照。将这一平均值与 Artificial Analysis 为同一模型在 Standard 模式下公布的数字——每秒 85 个输出 token——相比,OpenAI 称该档位生成 token 的速度“最高可达 Standard 的 4.5 倍”,而在这份报告中实际约为 1.5 倍。 GPT-6.2 Astra 和 GPT-6.1 Sol 是 Ultrafast 列表上的另外两款模型,它们在该独立榜单上的排名更低,分别为每秒 60 和 49 个 token,这就是为什么在这里这个比值比原始数字更重要。

四个数字,以及没人发布的第五个

这条帖子对于社交媒体上的速度宣称来说具体得有些反常,正因如此才值得仔细拆解。它给出了任务(一段八分钟的视频剪辑)、总耗时(27 分钟)、等待模型所花的时间(约 14 分钟)、平均生成速率(每秒 126 个 token)以及最佳单次爆发(252)。OpenAI 官方文档将这一档位称为 Ultrafast;帖子中则称之为"Ultra Fast"。两个名称指的是同一件事——ChatGPT Work 和 Codex 应用的选择器中最快的速度选项。

这篇文章没有给出的,正是能使其成为基准的那另一半:

• 它运行在哪个界面上——ChatGPT Work、Codex 应用还是 API。这三者都会显示该层级;但这些数字不能跨它们进行比较。

• 推理强度设置。Sol at Light 和 Sol at Pro 在生成第一个 token 之前的思考量不同,而思考时间包含在那 14 分钟内。

• 实际生成了多少个 token。这可以从平均值和持续时间推断出来,而且这种推断值得去做——见下文——但它终究只是一种推断。

• Standard 在同样的任务上会得到什么数字。这才是这篇文章真正要讨论的数字,也是这篇帖子无法包含的那个数字,因为那只是一次单独运行,没有任何可比较的对象。

• 这次剪辑第一次是否就能用。“它剪出了一段八分钟的视频”是一种成功性主张,而非质量主张,而且重跑一次会让总时长发生很大变化。

准确陈述的主张,以及该档位的费用

OpenAI 的速度文档对 Ultrafast 的承诺说得很精确:“在 GPT-6.2 Astra 和 GPT-6.2 Sol 上,Ultrafast 在相同模型上的 token 生成速度最高可达 Standard 的 4.5 倍。”注意这里有两个限定条件。这一说法针对的是 token 生成速度,而不是首 token 时间,也不是整个任务所花费的时间。而且它说的是“最高可达”,这是一个上限,而非典型值——当第一份独立读数只有该上限的大约三分之一时,这一区别就变得至关重要了。

在 API 上,它是一个标志,而不是一个模型:将 model 设置为 gpt-6.2-sol,并将 service_tier 设置为 "ultrafast"。OpenAI 建议在智能体工作中使用 WebSockets,以免连接开销抵消性能提升;Ultrafast 有自己的速率限制,与 Standard 和 Fast 分开。对于 GPT-6.2 模型,这些限制并未公布——文档要求你查看自己组织的设置——而 GPT-6.1 Sol Ultrafast 公布在 Build 层级为每分钟 1,000,000 个 token,GPT-6 Astra 公布为 500,000。GPT-6.2 层级的推理驻留仅限美国。在 ChatGPT 中,Pro $200 仅在 Sol 上获得 Ultrafast,而 Pro $500 可获得两个模型。

价格才是那个附有截止期限的部分。GPT-6.2 Sol 上的 Ultrafast 在促销期内为每百万输入 token $6.00、缓存输入 $0.30、输出 $30.00,按标价则为 $12.00 / $0.60 / $60.00——正好是 Standard 费率 $2.00 / $0.10 / $10.00 的 3 倍和 6 倍。OpenAI 给出了切换日期:“在 2027 年 2 月 28 日之前,Ultrafast 按 Standard 费率的 3 倍收费;自 2027 年 3 月 1 日(太平洋时间)起,按 Standard 费率的 6 倍收费。”

A screenshot of OpenAI's ChatGPT speed documentation describing Ultrafast mode, showing the statement that on GPT-6.2 Astra and GPT-6.2 Sol Ultrafast generates tokens at up to 4.5 times the speed of Standard, the recommendation to use WebSockets, and the note that Ultrafast has separate rate limits from Standard and Fast.

让 126 变得清晰可读的基线

没有参照,每秒 token 数毫无意义,而这个模型系列恰好只有一个独立参照。Artificial Analysis 在最高推理强度下测得 GPT-6.2 Sol 为每秒 85 个输出 token、首 token 时间 68 秒、完成一项索引任务耗时 7.9 分钟、每项任务 $1.01,对应的 Intelligence Index 为 57。同一榜单显示,GPT-6.2 Astra 为每秒 60 个 token、Index 为 62、每项任务 $4.00;GPT-6.1 Sol 为每秒 49 个 token、Index 为 55、每项任务 $1.27。

那些是在固定评估集上测得的评估框架中位数,而视频剪辑只是一个人一下午的工作量。它们并不是同一种测量;诚实地把两者放在一起使用时,应将其视为粗略的比例因子,而不是最终裁决:

• 实测平均每秒 126 个 token — 约为 Standard 基线 85 的 1.5 倍。

• 实测峰值为每秒 252 个 token——约为该基线的 3.0 倍,出现于单次最快突发中。

• 将 4.5× 的说法套用到 85 上——略高于每秒 380 个 token,而报告中没有任何内容能接近这一水平。

• Artificial Analysis 自己的 GPT-6.2 Sol 页面完全没有提到 Ultrafast,因此其 85 分默认是标准模式下的数字,而不是明确声明的。

为什么 4.5 倍的 token 并不等于 4.5 倍的工作量

当速度档位按倍数来售卖时,丢失的正是这一部分,而那条视频帖子恰好包含了证据。一个 27 分钟的任务里有 14 分钟是模型响应,意味着 52% 的时间花在生成上,48% 花在其他所有事情上——上传、转码、剪辑师自己的步骤、工具调用,以及流水线在模型轮次之间所做的任何事。把这种拆分看作工作负载的形态,算术就会变得毫不宽容:

• 生成时间意味着大约 106,000 个输出 token,即 14 分钟、每秒 126 个 token。

• 在 Standard 基线为每秒 85 个令牌的情况下,这些令牌大约需要 21 分钟,因此整个任务最终会接近 34 分钟。

• 按完整的 4.5× 声称值——约每秒 383 个 token——它们耗时不到 5 分钟,因此整个任务最终约需 18 分钟。

这次运行实际上花了27分钟,几乎正好介于两者之间。

即使该层级完全兑现了 4.5× 的每一分提升,此工作负载的端到端收益也只会约为 1.5×,因为模型从来只占这项工作的一半。阿姆达尔定律并不关心快的那部分能变得多快。这并不是反对 Ultrafast 的理由;而是主张要根据你自己的流水线形态来衡量该层级,而不是根据倍数来衡量,因为交互式聊天的一轮几乎全是生成,而媒体流水线则不是。

那14分钟究竟代价几何

将促销费率卡套用到推断出的 106,000 个输出 token 上,测量的价格就能在一行内清晰读出:

• Standard:每百万输出 token $10.00——约 $1.06。

• Ultrafast 享受促销价,每百万 $30.00 —— 约合 $3.18。

• Ultrafast 自 2027 年 3 月 1 日起按标价收费:每百万 60.00 美元——约合 6.35 美元。

输出只占账单的一半,而在视频编辑智能体上,它很可能还是较小的一半。每一段帧描述、转录文本和工具结果都会作为输入重新计费;促销期间为每百万 $6.00,而智能体反复循环同一上下文,正是缓存写入档位存在的典型工作负载——30 分钟缓存为每百万 $7.50,12 小时缓存为每百万 $15.00,而缓存读取仅为 $0.30。一条流水线如果重新发送上下文而不使用缓存,其输入花费可能超过它本想加速的输出花费。文章没有报告 token 数量,因此无法算出总额,只能界定上限:这一档位使账单中生成的那一半变为三倍,并将在十四周后变为六倍。

该把层级放在哪个模型上

同样的 4.5× 应用于三个不同的基线,会得到三个截然不同的终点,而最便宜的那个并不是最快的那个。

• GPT-6.2 Sol — 在 Standard 下每秒 85 个 token,因此该说法意味着约 383。Index 57,每项任务 $1.01。

• GPT-6.2 Astra — 标准档下为 60,因此该说法意味着约 270。指数 62,每任务 4.00 美元,成本是四倍,只换来多五个指数点。

• GPT-6.1 Sol — 在 Standard 下为 49,因此该说法意味着约为 220。Index 为 55,每项任务 $1.27,其 Ultrafast 层级按每百万输入 $12.00、输出 $60.00 固定定价,完全没有促销行。

由此可得出两个结果。第一,Astra 上的 Ultrafast 仍比 Sol 上的 Ultrafast 慢,因为它的起点更低——如果目标是吞吐量,更强的模型也无法让你达到目标。第二,GPT-6.1 Sol 的 Ultrafast 当前定价,已经等同于 GPT-6.2 Sol 的 Ultrafast 在二月之后的价格,因此这更像是对账单的合理预览,而非折扣。OpenAI 还指出,GPT-6 Astra 和 GPT-6.1 Sol 上的 Ultrafast 面向所有 API 用户开放,而 GPT-6.2 层级则会指引你查看所在组织的速率限制——在围绕它构建队列之前,值得先确认一下。

A screenshot of the Artificial Analysis model page for GPT-6.2 Sol, showing an Intelligence Index of 57, an output speed of 85 tokens per second, a time to first token of 68 seconds, 7.9 minutes per index task, and a cost of $1.01 per task.

获取自己的号码,而不是借用这个号码

上面的测量结果只是一份单独的报告,应当把它当作一个信号,而不是一项规范。要弄清它,办法是在你自己的负载上做一次受控的 A/B 测试——相同的提示词、相同的任务,在 Standard 上跑三次,另外三次将 service_tier 设为 "ultrafast",分别记录端到端分钟数、总 token 数以及首 token 时间。既要报告平均值,也要报告峰值,因为原帖中 126 与 252 之间的差距,正是“确实有帮助的档位”和“偶尔才有帮助的档位”之间的差别。

OrcaRouter 目前不提供 GPT-6.2 Sol 或 GPT-6.2 Astra;目录中收录了 openai/gpt-6-astra、openai/gpt-6-sol、openai/gpt-6.1-sol 和 openai/gpt-6-luna,而且 GPT-6.2 的模型页面无法解析。所以这并不是在建议你将新模型经由我们路由。目前真正成立的情况范围更窄,但对于这个具体决策仍然有用。GPT-6.1 Sol 已在目录中,它是与被测模型最接近的模型,而通过单个密钥用它运行你的评估集,是在你为一个 3 月将翻倍的档位投入预算之前,了解某个速度档是否会改变你的产品的最便宜方式。定价是 提供商的标价,原样传递且不加价,因此 2027 年 3 月 1 日的涨价会在 OpenAI 那边生效的同一天到达我们这边——没有重新定价周期,也没有重新谈判。

还有一个路由层面的理由,是这一层级所特有的。Ultrafast 有自己独立的速率限制,与 Standard 和 Fast 分开,而 OpenAI 并未公布 GPT-6.2 层级的默认每分钟 token 数——你只有撞到上限时才会知道自己的天花板在哪里。把 Ultrafast 当作唯一路径的流水线会继承这份未知;而能在同一模型上回退到 Standard 的流水线,则只是速度下降,而不是直接失败。这正是把速度层级放在路由器之后、而非硬编码的其中一个结构性优势,而且值得在这一层级进入关键路径之前就具备它。

A generated single-column scoreboard for GPT-6.2 Sol Ultrafast with rows reading 'Measured average: 126 tok/s', 'Measured peak: 252 tok/s', 'Standard baseline: 85 tok/s', 'Vendor claim: up to 4.5x Standard', 'Output price, promo: $30 per MTok' and 'Output price, list: $60 per MTok', with a footer noting that the measured figures are one user's task report, the baseline is per Artificial Analysis, and the claim and prices per OpenAI.

怎样才能了结此事?

一个数字就能让这件事从轶事变成证据:在固定任务上做一次 Standard 对 Ultrafast 的 A/B 测试,并连同 token 数和实际耗时一并公布。在此之前,对 2026 年 11 月 18 日站得住脚的解读是:GPT-6.2 Sol 上的 Ultrafast 确实存在,并且实质上比 Standard 更快——126 对 85 不是噪声,252 个 token 的突发也不是舍入误差——但已公布的倍率是一个公开场合无人接近过的上限,而且任务级加速既取决于你流水线中 token 生成所占的比例,也取决于档位本身。发布这项测量的人用 27 分钟而不是估计的 34 分钟剪完了一段视频,而且是在发布周档位上完成的,而该档位到 3 月价格会翻倍。这是一个好结果,也是一个温和的倍率;在任何人按 4.5× 做预算之前,这两半都值得了解。

本文中的对比1

根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新