一张生成的标题卡,上面写着"Step 5 Preview:分发故事",并配有这样几行文字:"100万 token 上下文。文本、图像和视频输入。2026年9月20日发布。"以及"自上线起即在 StepFun 自有平台上提供服务,自10月16日起在第三方推理托管平台上提供服务。"页脚注明,这些规格来自 StepFun 自家的模型文档。
Guides & Insights

Step 5 Preview 的 1M Token 窗口刚刚离开了 StepFun 自己的 API

作者

Rowan Sterling

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

Step 5 Preview于2026 年 10 月 16 日起不再是单一供应商模型。StepFun 自家的账号当天证实,其百万 token 级旗舰模型现已在第三方推理托管服务上线,这是该模型首次能够触达那些既不想注册 StepFun 账号、也不想准备 StepFun 余额和一张以第二种货币计价的 StepFun 费率表的开发者。这就是这则公告的全部新闻价值,而且值得直白地说出来,因为公告本身没有带来任何新规格、价格变动或基准测试成绩。它带来的是一项分发方式的改变。StepFun 于 2026 年 9 月 20 日发布 Step 5 Preview;10 月 16 日发生的事,是这个模型开始出现在自家平台以外的地方。 记分板所衡量的内容与部署实际遭遇的情况之间的这道落差,正是这份记录之所以重要的原因:围绕这一级别模型的已记录 AI 故障与智能体事故,都汇集在OrcaRouter AI Incident Archive中,其中每一条目都附有各自的来源、严重程度、置信度评级和争议标记。

分发方式的变化很容易被低估,而恰恰是这类变化在推动采购决策。一个只能从唯一一家供应商处获得的模型,就是单点故障,只对应一套速率限制、一套区域端点;对于“要是那家供应商哪天状态不佳会怎样”,诚实的答案是“你的产品也会状态不佳”。一个可从多家彼此独立的主机获得的模型,则是一个路由问题,而路由问题是有解法的。问题在于,Step 5 Preview 并非所有东西都会随权重一起迁移到新主机,而那个不会随之迁移的东西,正是最可能决定你账单的数字。

StepFun 实际说了什么,又省略了什么

这份公告在实质上只有一句话:该模型已在第三方推理平台上线,而被着重强调的是 100 万 token 的上下文窗口这一特性。它没有说明在这些平台上的价格,没有承诺会以完整长度提供上下文窗口,也没有提及提示缓存折扣是否会随模型一同跨越这道边界。这三处省略,正是一个团队在迁移流水线之前应当提出的三个问题,而且它们并非吹毛求疵——每一个都有一个看似成立的错误答案。

正在分发的模型与 StepFun 在 9 月记录的是同一个,且记录中的数据没有变化。来自 StepFun 自己的模型页面:

• 模型 ID — step-5-preview,其中“Preview”是指标识符本身的一部分,而不是本文额外添加的后缀

• 上下文窗口和最大输入 — 各自 1M token,依据 StepFun 的规格表

• 最大输出 — 64k tokens,max_tokens文档中被标注为默认无限制,因此除非你自行设置,否则模型会自行决定停止点

• 输入 — 文本、图像和视频;图像以 URL 或 Base64 形式提供,支持 JPG、PNG、WebP 或静态 GIF,每次请求最多 60 张;视频支持 MP4、QuickTime 或 Matroska

• 输出 — 仅文本,支持流式传输、工具调用、JSON Schema 结构化输出,以及低、中、高三种推理强度

• 架构——一个总参数量为 6000 亿、每个 token 激活 270 亿的稀疏混合专家模型;根据 StepFun 的发布材料以及承载该信息的模型卡镜像,StepFun 自己的文档页面并未列出参数量

• StepFun 自有平台上的价格 —— 每百万输入 token 为 $1.00,每百万缓存命中输入 token 为 $0.10,每百万输出 token 为 $2.70

这些都不是新内容。它是十月公告所分发的基线,值得重申,因为第三方主机可以自由提供不同的量化方式、更短的有效窗口或不同的缓存安排,而这些选择都不会出现在发布帖中。

A screenshot of StepFun's own model documentation page for Step 5 Preview, showing the model ID step-5-preview, a 1M-token context window, a 64k-token maximum output, and the input modalities listed as text, images and video with text output.

为什么 1M 窗口才是被推销的部分

1M token 的上下文,是这款模型之所以还能有分发叙事的根本原因。StepFun 围绕长时程智能体工作打造了 Step 5 Preview,而正是这个窗口让仓库级或文档集级的提示词能够在单次调用中完成,而不必依赖一个需要自行搭建和维护的检索层。在独立榜单上,Artificial Analysis 给 Step 5 Preview 的 Intelligence Index 评分为 44,并估算完成每项索引任务的成本约为 0.71 美元——这一数字把冗长度也折算进了价格,因此不如价目表那么好看。同一页面上的输出速度读数在不同抓取时点之间发生过变化,从每秒 88.1 个输出 token 到 99.8 个输出 token,这本身也提醒人们:托管吞吐量既是模型的属性,也同样取决于托管方。

最后这一点,正因为这份公告才变得重要。一个拥有 6000 亿参数、270 亿激活参数的稀疏模型,在 100 万 token 的上下文下提供服务是昂贵的,因为对于每个并发请求来说,长提示词的 KV 缓存都是一笔实实在在的内存开销。无论谁来提供它的服务,都必须做出决定:这个窗口要兑现多少、同时运行多少请求,以及是否对注意力栈做量化,以便在一块卡上塞进更多请求。StepFun 自家的 FP8 检查点在磁盘上是 650 GB,其 BF16 检查点是 1,215 GB;运行其中任何一个的托管方,运行的都是一台与 StepFun 自己所运行的不同的机器,而厂商为自家集群报出的吞吐量,并不是对别人家集群的承诺。

不随行的数字:缓存折扣

Step 5 Preview 的价目表对缓存输入提供 95% 的折扣,把重新读取的 token 从每百万 $1.00 降到 $0.10。对于单轮请求来说,这无关紧要。但对于这款模型真正要卖的工作负载——智能体循环会在每一轮重新发送相同的系统提示词、工具 schema 和代码库映射——它却是账单中的主导项,也正是 Step 5 Preview 在长时间会话中的实际费率远达不到其标价的原因。

提示缓存是服务栈的实现细节,而不是权重的一种属性。某个主机是否提供它、如何识别缓存命中、前缀能保持热多久,以及读取收费多少,都是主机自己的决定。StepFun 在其平台上记录了缓存机制。一则模型在别处上线的公告对此毫无说明;在假设你基于 StepFun 价目卡建模的经济性仍然成立之前,这才是新主机定价页上要读的那一行。一个每一轮都按全额输入价格收费的主机,在相同工作负载下可能比 StepFun 贵好几倍,尽管在页面上看起来每百万 token 更便宜。

StepFun 自家在发布周的铺开范围,对一家中国实验室的旗舰模型而言格外广泛,而且是分阶段到位、而非一次性推出:该模型于 10 月初出现在第三方编程工具中,提供为期一周的免费试用;而 10 月 16 日宣布的第三方 API 托管,则是更晚、也更通用的一步。把这两件事放在一起看,模式就很清楚了:这家实验室希望模型出现在开发者本就身处的地方,而不是把开发者引向自己的控制台。这是一个连贯的策略,也是一个代价显而易见的策略:每多一个托管方,就多一个模型的边界由别人的实现来界定的地方。

三个值得向新房东提出的问题

对这一公告有用的回应不是切换,而是检查。以下三项决定了新端点是否属于同一产品。

• 量化——询问正在服务的是哪个检查点。StepFun 发布了 FP8、BF16,以及自 10 月 14 日起的 394 GB NVFP4 构建版,这三者在质量和内存占用上并不能互换。在 Blackwell 上运行 NVFP4 的主机,运行的是一个四比特专家堆栈,而注意力层与路由门控则未被量化;这是否会在你的任务上牺牲准确率,只有你自己的评估能回答。

A screenshot of the Hugging Face repository page for the Step 5 Preview NVFP4 checkpoint, showing the stepfun-ai organisation, the StepFun Model License 1.0, 8-bit precision details for a 600-billion-parameter model with 27 billion active parameters and up to a 1M-token context.

• 有效上下文——询问 100万 token 是提供给每个调用者,还是按层级设上限。提供百万 token 的提示词会产生并发成本,这种成本会先以速率限制的形式出现,然后才体现在价格上;而一个宣传这个窗口却限制并发的托管方,宣传的是模型的文档,而不是服务。

• 缓存语义——要问重复前缀的代价是什么。这一行决定了长会话的经济性,也是最容易被省略的一行。

在两端点上针对同一提示词各跑一次,用每个已完成任务的美元成本而非每百万 token 的美元成本来衡量,就能一次回答所有这三个问题,而且只需花一个下午。

这让模型处于何种境地

Step 5 Preview 是一个拥有 6000 亿参数的稀疏混合专家模型,具备百万 token 窗口,支持文本、图像和视频输入,输出上限为 64k,费率卡为 1.00 美元 / 2.70 美元,并在 StepFun 自有平台上享有 95% 的缓存折扣;在唯一覆盖它的独立指数上得分为 44。发布于 2026 年 9 月 20 日。截至 10 月 16 日,它也能以某种形式和某个价格,通过至少一个并非 StepFun 的托管方访问。

值得直说:Step 5 Preview 并不在 OrcaRouter 的在线目录中,因此要调用它,仍然只能走供应商自己的 API 或第三方托管方——而如果你正在评估它,这一缺口恰恰是把技术栈其余部分留在单一端点上的理由。一个 API 以供应商标价、零加价覆盖 200 多个模型,正是它能让针对新模型的两周实验始终只是一次实验:你的退路是一条路由规则,而不是第二套集成,自动故障转移意味着一个陌生的端点不会连带把你的生产链路拖垮;而且由于是原样透传供应商自己的价格,供应商的费率调整在生效当天就会反映到你的账单上,而不是等到下一个合同周期。你正在测试的模型才是风险所在;它周边的管道不该成为第二个风险。

A screenshot of OrcaRouter's model catalogue, showing the filterable model list that spans text, image, video, embeddings and TTS modalities across multiple providers behind one API key, with the catalogue size shown in the page header.

下一个值得关注的并不是又一家主机商,而是第一家在同一页面上公布自身吞吐量、缓存条款和量化方式的主机商,这样,当为 GPU 买单的不是 StepFun 而是别人时,这种比较就不再只是对 1M token 窗口成本的猜测了。