Step 5 Preview 的权重从未缺失:NVFP4 检查点究竟改变了什么

Step 5 Preview自 StepFun 于 2026年9月20日发布之日起便已可供下载——而此后关于该模型的许多文章却说法相反。FP8 仓库 stepfun-ai/S​tep-5-Preview 创建于当天 03:15 UTC，其第一个分片在 36 分钟后提交；BF16 仓库随后于 03:52 出现，其分片于 04:18 落地。两者均为 StepFun 自有，且均无访问门控，合计承载 1.86 TB 权重。十月中旬发生的变化，比重新发布范围更窄，却更有用：StepFun 发布了第三个采用 NVIDIA NVFP4 格式的检查点，并于 2026年10月15日，NVIDIA 公开为其背书——称之为“他们最大的开放权重发布”，称该模型“专为处理持续长达 24 小时的智能体任务而构建”，并给出了一个数字：“在 NVIDIA GB300 上使用 NVFP4 时，接近 8K tokens/秒/GPU。”

这就是新闻。这则更正正是本文以日期开头、而非以公告开头的原因。9月20日写成的报道所依据的仓库当时刚创建几分钟，并且一度空空如也；即便权重在当天上午就已到位，“权重承诺将于稍后日期提供”的说法也依然留存。本网站的一篇相关文章直到10月13日还在重复这一说法。它现在不属实，当时也不属实；这一点之所以重要，是因为开放权重问题是每一篇关于该模型的报道中最大的单一未决事项。

10月14日和15日实际上线了什么

新产物是 stepfun-ai/S​tep-5-Preview-NVFP4。该仓库创建于 2026 年 10 月 14 日 02:59 UTC，权重上传是同一天 07:10 UTC 的一次提交，提交者的账号为 huangyu-nv，该账号还在一个小时后重写了 README，使其与 FP8 和 BF16 仓库保持一致。它包含 394.18 GB 数据，分布在 95 个 safetensors 文件中，由 92 个逐层文件、两个额外文件和一个视觉塔文件组成——这与 FP8 和 BF16 仓库的切分方案不同，后两者都提供 24 个文本分片，外加一个多 token 预测头和一个 ViT。

其中内容值得精确说明，因为“NVFP4”在流传中被宽泛地使用。量化配置块位于config.json中，内容为quant_method: modelopt、quant_algo: NVFP4、group_size: 16，以及kv_cache_quant_algo: null。忽略列表很长且具体：92 个自注意力块、88 个 MoE 门、88 个共享专家、嵌入表、最终范数和语言模型头，外加视觉塔及其投影器。整个列表中只有三项涉及moe.experts。通俗地说，注意力和路由机制保持更高精度，而专家前馈权重——6000 亿参数中的大部分——才是被量化的部分。KV 缓存未受影响，这一细节决定了你的长上下文服务配置能否在切换后继续可用。

Hugging Face 自己在该仓库上的参数统计显示为 3206 亿，拆分为 2824 亿 U8、382 亿 BF16 和 240 万 F32，并且文件页面将“321B params”标为模型大小。同一页面上，StepFun 的模型卡写的是总计 600B、激活 27B。两者都正确，只是统计的是不同的东西：321B 这个数字是对量化元素的存储计数，而不是架构描述所用意义上的参数量。如果你是在估算内存，就用存储数字；如果你是在描述模型，就用模型卡。

三个检查点，三份硬件账单

NVFP4 发布之所以比文件夹里多出第四个文件更重要，是因为它改变了能运行这个模型的最小机器。StepFun 自己在模型卡中给出的部署表列出了两个较旧检查点的形态，而各个仓库给出了大小；这里把它们放在一起，并新增了 NVFP4 那一行。

• 精度 — 磁盘占用：FP8 650.32 GB，BF16 1,214.9 GB，NVFP4 394.18 GB

• 已公布的最小 vLLM 配置——FP8 下 1 台配备 4 块 GPU 的 B300 节点，或 1 台配备 8 块 GPU 的 H200 节点，对比 BF16 下 1 台配备 8 块 GPU 的 B300 节点；又或 2 台配备 16 块 GPU 的 H200 节点，对比尚未出现在 StepFun 表格中的 NVFP4

• 该卡推荐的并行策略 — 在 B300 上使用 FP8 TP4、TEP4 或 DEP4，而 BF16 使用 TP8、TEP8 或 DEP8，NVFP4 则未说明

• 注意力权重和路由权重——FP8 量化为 8 位，而 BF16 为全精度，NVFP4 则因 ModelOpt 忽略列表保持未量化

• KV 缓存——三者中均未量化，因为 NVFP4 配置将 kv_cache_quant_algo 设为 null

• 服务栈 —— 三者全部通过 vLLM 或 SGLang 搭配兼容 OpenAI 的端点，或通过独立的 Transformers 路径离线运行

最后两行里的空缺，是对这个新检查点最坦诚的提醒。NVIDIA 的帖子称，该模型在 GB300 上使用 NVFP4 时，每 GPU 每秒可处理近 8K tokens，但 StepFun 的部署表尚未加入 NVFP4 一行，因此目前还没有厂商发布的并行方案。如果你计划本周就部署，FP8 路径是有文档化配置的那条，而 NVFP4 路径则是那个挂着亮眼数字、却依附于别人硬件的选项。

8K 这个数字是供应商给出的，而且只有一家供应商这么说过。

NVIDIA 10 月 15 日的帖子是此事唯一的一手记录。没有 NVIDIA 开发者博客文章，没有 StepFun 的公告页，也没有第三方对该吞吐量声明的复现可供外部核查。「近 8K tokens/sec/GPU」这种说法，若缺少批大小、序列长度和并发量，同样意义甚微——同一模型配置在这三个维度上可能相差一个数量级，而混合专家模型的服务框架对每个 token 有多少专家处于激活状态尤为敏感。应当将其视为 NVIDIA 就 NVIDIA 硬件所作的陈述——它本身也正是这么说的——而不是一个经过独立验证的吞吐量数字。

24 小时智能体的说法也具有相同的性质。它是一种能力描述，而不是一项测量结果，而 StepFun 自己的模型卡也以同样的措辞描述长时程执行，却没有为其附上任何时长。该厂商为这一模型发布的评估说明确实列出了框架和设置——温度 1.0、top-p 0.95、top-k 0、High 推理设置、用于 DeepSWE v1.1 的 SWE-agent 框架——这比许多发布模型卡所提供的都多，但分数表本身只是一张图片，而 StepFun 在其文档中并未发布任何数值基准表。唯一为这一模型提供实时分数的中立评测机构是 Artificial Analysis，其中 S​tep 5 Preview 在 Intelligence Index 上得分为 44，最初每运行一项索引任务需花费 $1.03。

部署方案已随检查点一同到位，而它正是你将使用的部分

翻阅仓库历史会发现，权重文件和说明文档并不是一起出现的。两个较旧的仓库都在10月13日至14日期间被重写——FP8 仓库在10月13日至15日之间有七次 README 提交——而这些提交所添加的是一份完整的服务指南：已发布的容器镜像位于 vllm/vllm-openai:step-5-preview，涵盖张量并行、专家并行和组合并行的可用命令，该模型所需的标志集，以及一条经过验证的 SGLang 路径。这些标志正是模型专属工作可见之处：--max-model-len 1048576，一个配置为 --spec-method mtp --spec-tokens 3 的推测解码头，以及专用的 --reasoning-parser step5 和 --tool-call-parser step5 解析器，以便模型的推理块和工具调用在经过 OpenAI 风格的 API 往返后仍能保留。在 Blackwell 上，TEP 和 DEP 配置会将 MoE 后端切换为 deep_gemm_mega_moe；而普通的 TP4 配置则不能，因为该后端需要专家并行。

这才是框架支持的真正落地；对于任何正在决定是否要基于这个模型进行构建的人来说，它的价值超过那项吞吐量声明。一个 650 GB 的下载，配上一行未经验证的启动命令，那是一个研究项目。一个 650 GB 的下载，配上固定版本的容器镜像、每种精度下四种经过测试的并行配置，以及一个能读懂该模型自身输出格式的解析器——那才是部署。

如果你不想拥有其中任何一部分，那么这款模型的账算起来并不寻常。S​tep 5 Preview 在 StepFun 自家平台上运行，每百万输入 token 收费 1.00 美元，每百万缓存命中输入 token 收费 0.10 美元，每百万输出 token 收费 2.70 美元；因此，一个月 2 亿输入 token 和 2 亿输出 token 分别计费 200 美元和 540 美元——而为其提供服务的硬件，大约相当于每月一台四 GPU B300 节点的价格。在这里，自托管是关乎控制和数据驻留的决定，而不是成本决定，而权重开放，才使得这成为一个你完全被允许做出的决定。值得直说的一点是，S​tep 5 Preview 不在 OrcaRouter 的实时模型列表中，所以要调用它，应该去厂商自己的 API；一个 API 访问 200 多个模型在这种情况下确实能给你带来的，是问题的另一半——如果自托管部署行不通，你会把工作负载迁移到的那个模型的成本，加价 0%基于每个供应商的标价。

该许可证，按字面解读

“开放权重”在 NVIDIA 的措辞中承担了许可证并不能完全支持的作用，而这是整个故事中最容易被误读的部分。StepFun Model License 1.0 是一项永久、全球范围、免版税、非排他性的授权，允许使用、复制、分发、再许可、修改这些权重并据此创建衍生作品，并配有相应的专利授权。它不是 OSI 认可的开源许可证，在你基于它开展业务之前，有两个条件值得了解。

• 署名 — 如果包含该模型的商业产品或服务在任何自然月内超过 1 亿月活跃用户或 2000 万美元收入，您必须在产品界面和用户协议中显著展示“Powered by StepFun AI”

• 需另行获得商业许可证——如果您是硬件制造商或品牌所有者，将模型能力集成到设备中出货，或者如果您经营模型即服务（model-as-a-service）业务，且在任意十二个月内的合计收入超过 2000 万美元

• 什么明确不属于 MaaS——将模型的能力嵌入到固定的最终用户功能中，或仅仅将请求转发给另一个提供商的模型

• 无需额外协议即明确允许的用途——不会向第三方暴露模型或其能力的内部使用，以及通过 StepFun 认证的分发渠道获得、且在该认证范围内的使用

• 终止——重大违约将终止授权，在书面通知后有三十天的补救期

那么，实际解读是：这些权重确实可以下载，也确实可以使用，包括用于商业用途，只要不超过第 2 节中的门槛。一家为内部文档工作微调该模型的初创公司属于授权范围内。而把该模型作为一项功能随手机出货的手机制造商，或营收超过 2000 万美元的托管推理业务，则不属于。这与 Llama 和 Qwen 许可证所采用的限制形态相同，值得明确说明，而不是把它归入“开放”之列。

这让模型处于何种境地

一个 6000 亿参数的混合专家模型，激活参数 270 亿，上下文长度达 100 万 token，支持文本、图像和视频输入，StepFun 文档中最大输出为 64k，费率表约为 $1.00 / $2.70，在唯一给它打分的中立评估者那里获得 44 的指数分数，并有三个可下载的检查点，分别对应三种精度。发布于 2026 年 9 月 20 日。权重自发布当天上午起开放。10 月 14 日针对 Blackwell 完成量化，10 月 15 日得到 GPU 厂商背书，其吞吐量数字在 NVIDIA 之外无人复现。

下一件值得关注的事不是又一个端点，而是对 NVFP4 检查点的首次独立测量——来自不销售该硬件的人所做的、与 FP8 路径的吞吐量或质量比较。在注意力栈不参与量化的情况下把模型量化到四位，是一种合理的设计，而具体要问的是，专家权重能否经受住这种量化。在有人公布这一点之前，对新检查点的诚实立场就应当和九月报道本应对旧检查点采取的立场一样：权重是真的，配方是真的，而性能声明是厂商的。

这样的结果也提醒我们，模型出错早已有记录：此类模型背后的 AI 事件和智能体故障，均收录于OrcaRouter AI Incident Archive，其中每个条目都附有自己的来源、严重程度、置信度等级和争议标记。