Mistral Large 4 的上下文窗口：宣称 1M，实测 524K，以及为何差额会被计费

Mistral 的模型卡上写的是一个说法，而一项独立测量给出的却是另一个，二者之间的差距并非表面问题。模型卡列出的上下文窗口为 100 万 token。Artificial Analysis 评估了它实际能够运行的配置，测得的结果是 524,288 个 token。你发送的每一个输入 token 都会被计量，因此“我有多少上下文”这个问题，同时也是“我在单个请求中最多能花多少”的问题。

这两个数字之间的差异是2×，对于每百万输入 token 收费 $1.36 的模型来说，这可不是舍入误差。

这些数字分别是什么，以及它们各自来自哪里

• 1,048,576 个 token——这是 Mistral 随权重一同发布的配置文件中设定的值。它是厂商写下的上限，模型卡中也将其重复为“1M”。

• 524,288 tokens——这是 Artificial Analysis 在其测试的配置上实测得到的数值。仅为上限的一半。

• 这要花多少成本——按每百万 $1.36 计算，填充 524K 每个请求约花费 $0.71；填充完整的 1M 将花费 $1.43。两者都是单次调用的输入侧，且发生在任何输出之前。

厂商标称值并非谎言，实测值也不是缺陷。上下文窗口是架构本身的一项能力；而某个具体服务配置实际能接受的量——受其 KV 缓存预算、张量并行度、批大小制约——会更小，两者之间的差距在整个行业中都是正常的。只是它很少与价格写在同一行。

为什么这一点在这里比在其他地方更重要

此型号特有的三个原因。

这是一个万亿参数的 MoE。1.05 万亿参数，每个 token 激活 520 亿，外加一个 16 亿参数的视觉编码器。在这类模型上，长上下文的 KV 缓存才是服务部署的硬性约束，而不是配置文件里写的意图。实测出来的数字才是可用于规划的诚实数字。

它是按 token 计费，而不是按请求计费。在这张卡上发起长上下文请求时，费用会随你发送的内容线性增长。你买的不是“1M 窗口”；你买的是 token，而窗口只决定单次调用中最多能送来多少 token。

权重随配置一起发布。当你下载 1,060.6 GB 的 bf16 并读取 code>config.json/code> 时，你会看到 1,048,576，并会忍不住据此规划。vLLM 方案要求张量并行度为 8，并使用 FP8 KV 缓存，而这正是服务窗口与配置窗口开始不一致的那类配置。

如何在一个下午内测量自家天花板

发送一个超出你认为的上限的请求，然后读取错误信息——在大多数情况下，服务提供商会返回一条 token 计数消息，而不是悄悄截断。这样你就能得到实际所用主机上的实际上限，而这正是你的预算中唯一应该包含的数字。

然后以该上限的 80% 发送一个请求，并观察延迟。一个万亿参数模型读取长上下文时，其首词元时间会随提示长度增长；524K 这个数字是一个窗口，而不是关于速度的承诺。

最后，将得到的上限与你的第95百分位输入长度进行比较，而不是与平均值进行比较。平均值永远不会成为约束；尾部才是你未做预算的分块流水线出现的地方。

竞争对手的窗口是什么样子的

• DeepSeek V4 Pro — 100万上下文，384K输出，非高峰时段输入 $0.66、输出 $1.98。

• Grok 4.7 — 500K 上下文，450K 输出，统一价 $2.00 和 $6.00。

• Qwen3-Max — 262K 上下文，65K 输出，$0.36 和 $1.43。

• Mistral Large 4 —声称 1M，实测 524K，标价 $1.36 和 $4.18。

在这一领域里，Mistral 实测的窗口介于 262K 和 1M 的宣称之间——更靠近中间，而不是上限。如果你关注它是因为上下文，那么实测数字才是应该放进对比表的那个，而它只相当于宣传口径的一半。

Mistral Large 4 不在 OrcaRouter 的目录中，因此这不是我们能提供的路由；它可以通过 Mistral 自己的 API 和第三方托管服务调用。我们通常提供的是覆盖 224 个模型的单一 OpenAI 兼容端点，按提供商标价收费、不加价——厂商的窗口期无论最终是什么样，计费都按它来。