自托管 Mistral Large 4：1.06 TB 究竟要花你多少钱

权重已经发布，且没有访问限制，许可证也允许商业使用。这三个事实让自托管 Mistral Large 4 看起来像是一个可做的决定，而不是幻想。然后你看到文件清单：54 个 safetensors 分片，bf16 格式下共 1,060.6 GB，这还没算上哪怕一个 token 的 KV cache。你据此规划存储和 GPU 的，是这个数字——而不是万亿参数的头条噱头；这也是大多数团队读完这一页后仍会继续留在 API 上的原因。

两个检查点，以及各自的要求

• bf16 —54 个分片，共 1,060.6 GB，其中两个分别为 16.9 GB 和 4.2 GB，其余 52 个介于 19.7 至 20.0 GB 之间。在预留 KV 状态后，它无法有效适配八块 141 GB 加速器，因此请准备更多硬件，或采用量化路径。

• NVFP4 —独立仓库，32 个分片，610.1 GB，Mistral 将其定位为面向具备原生 NVFP4 支持的 Blackwell 硬件。Mistral 自身的建议：四块 B200 或 B300 GPU。其“保持相同性能”的说法是厂商声明，而非实测结果。

• 服务部署方案 —模型卡中的 vLLM 配置要求张量并行度为 8，并采用 FP8 KV-cache 数据类型。这是基准测试应采用的配置，而不是对吞吐量的承诺。

• 上下文 —已配置 1M tokens，在测试配置上实测为 524,288。长上下文会成倍增加 KV 缓存压力；对于一个 16 亿参数的视觉编码器加上一个 1.05 万亿参数的 MoE 而言，这就是能否放得下的差别。

无人经营的盈亏平衡点

以促销价格作为托管服务必须超越的基准：每百万输入 token 0.68 美元，每百万输出 token 2.09 美元。按现实的云服务价格——就算每 GPU 小时 8 到 12 美元——四块 B200 每小时就是 32 到 48 美元，约合每月 23,000 到 35,000 美元，这还不包括存储、网络、工程以及调优服务栈所需的时间。

要以该月度成本、按每百万输出 token 2.09 美元的价格实现收支平衡，你每月需要生成超过 110 亿个输出 token，而且每个月都要如此，并保持满负荷利用率。除了超大规模云服务商之外，几乎没有任何团队实际拥有这样的量级，而且这还没有算上首次部署所耗费的两周工程时间。

换句话说：按每月 1 亿输出 token 计算——这是一个很大但真实的产量数字——API 在促销时花费约 209 美元，按标价则约 418 美元，而托管账单高达数万美元。在那个规模上，自托管并不是折扣，而是购买另一种东西。

那个别的东西究竟是什么

四件事，而它们是下载 1.06 TB 的唯一诚实理由。

数据驻留。模型权重永远不会离开你的边界。对于受监管的工作负载而言，这不是偏好，而是硬性要求，任何 API 价格都无法与之竞争。

许可确定性。 Mistral 的生态系统开放权重许可允许商业使用、修改、进一步训练和衍生作品，但有一项保留条件：将模型作为服务运营——即让第三方对输入、参数或训练数据拥有实质控制权——需要另行签订商业协议。嵌入式功能、内部使用以及单纯的转发则不在此列。拥有该产物就意味着，你所同意的条款即为适用的条款。

微调的权利。你训练出的衍生物归你所有，这是任何托管 API 无论出价多高都无法提供的。

确定性。你验证过的检查点，就是你实际运行的检查点。托管模型可能会在同一名称下被重新指向新版本；而你磁盘上的文件不会。

这四点中没有哪一点是：更低的每 token 成本。上文中的算术已经排除了任何尚未达到超大规模规模的团队，而建立在节省预期之上的计划将无法挺过第一张账单。

托管商必须读两遍的许可条款

如果自行托管的目的是向客户提供模型服务，那么第2条就是决定你的法律结构的段落。为自有产品进行计算没有问题；在未另行签订协议的情况下，本许可证下不存在这样的平台——它向客户交付模型，并让客户对输入、参数或训练拥有实质控制权。关于“仅将请求转发至他人托管的模型”的例外范围很窄，且应按其字面含义理解：向他人的端点转发并不属于托管。

这一区别是本页所有内容中价目表唯一无法回答的一点，而在购买 GPU 之前，它值得你花一小时咨询律师。

哪些人应该下载它

如果监管机构、客户合同或数据分类政策已经明确告诉了你答案，那就下载。如果你打算进行微调并发布衍生模型，那就下载，因为这是 API 并不出售的能力。如果你拥有已经付费却闲置的 Blackwell 算力，那就下载——在四块 B200 上运行的 NVFP4 路径，是唯一能让各项数字接近盈亏平衡的配置。

如果问题在于价格，就继续使用 API。促销价为 $0.68 和 $2.09，目录价为 $1.36 和 $4.18；调用这个模型是市场上获取万亿参数多模态答案的最便宜方式之一——前提是你把促销看作一个窗口期，而不是常规费率。Mistral Large 4 不在 OrcaRouter 的目录中，因此该路线要通过 Mistral 自有 API 和第三方托管方；我们确实提供的总体形态是一个兼容 OpenAI 的端点，覆盖 224 个模型，按提供商目录价、不加价，厂商的价格变动在公布当天生效，而不是等到下一次续约。