一张标题卡写着“Kimi K3.1 Pro——权重已发布”,日期为2026年11月4日,上面有四张统计卡片:1.56 TB,分布在96个safetensors分片中;总参数2.8T,其中激活参数104B;1,048,576 token的上下文窗口;每100万输入token收费$2.00,每100万输出token收费$10.00。
Guides & Insights

Kimi K3.1 Pro 权重发布:磁盘占用 1.56 TB,许可费用高达 2000 万美元

作者

Magnus Corvin

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

从 API 发布到开放下载之间的十一天里,大多数关于Kimi K3.1 Pro的报道都引用了 5.6 TB 的 BF16 权重。Moonshot AI 实际于 2026 年 11 月 4 日在 Hugging Face 上发布的仓库为 1.56 TB,分布在 96 个 safetensors 分片中。这并不是一个比大家所报道的模型更小的模型——它就是同一个由Kimi K3衍生而来的 2.8 万亿参数混合专家模型,以 Moonshot 训练它时所面向的服务精度交付。两个数字之间的差距是理解此次发布时首先值得弄明白的事,因为它决定了一台你已有的机器能否装得下它。

第二件事是许可证:它不是 Apache 2.0,也不是 MIT,尽管开头段落看似宽松,却未获 OSI 批准。它是一份名为 Kimi K3.1-Pro License 的定制法律文书,其中包含一个收入门槛,使免费下载对某一类特定公司而言变成了一场谈判。在 10 月 25 日,这两个事实都无法得到解答,当时权重还是一个附有检查清单的承诺。现在它们已有答案。

实际登陆 Hugging Face 的到底是什么?

该仓库是 moonshotai/Kimi-K3.1-Pro,无需申请访问权限,包含 111 个文件。其中 96 个是权重分片;其余是配置文件、分词器、四个用于自定义架构的 Python 文件、模型卡和许可证。所有文件的总大小为 1,561 GB。

它能装进 1.56 TB 而不是 5.6 TB 的原因,是作为一行规格写在模型卡里,而不是放在脚注里:MXFP4 权重搭配 MXFP8 激活,通过量化感知训练实现。这不是有人在事后跑的 4-bit 量化。它是原生的服务精度,这就是为什么仓库带有 compressed-tensors 标签,也是为什么它旁边没有 BF16 checkpoint。如果你是按 5.6 TB 的下载量来做规划的,那你就是在按 Moonshot 从未发布过的数字做规划。

规格表的其余部分,以便你评估这项工作的规模:

• 总参数量 — 混合专家架构下为 2.8T,每个 token 激活 104B

• 深度——93 层,其中一层为稠密层;注意力堆栈由 69 个 KDA 层加上 24 个 Gated DeepSeek Sparse Attention 层组成,相比 Kimi K3 的全注意力 Gated MLA 层有所改变

• 专家——共 896 个,每个 token 选择 16 个,外加 2 个共享专家,潜在 MoE 维度为 3,584

• 上下文 — 1,048,576 个 token,与 Kimi K3 保持一致

• 模态——输入文本和图像,输出文本;视觉编码器为 MoonViT-V2,拥有 401M 参数

• 词汇量 — 160K 个 token

相对于 Kimi K3,这些数字中只有一个是新的,那就是注意力机制的变化。Moonshot 明确表示,这是基于 K3 底座的后训练发布版,在数百个领域进行了更重的联合强化学习,而不是新架构。替换为 Gated DSA 是为了长上下文效率,而不是为了能力跃升。

The Hugging Face Files and versions listing for moonshotai/Kimi-K3.1-Pro, showing the 1.56 TB repository size, the 'License: kimi-k3.1-pro' tag, the compressed-tensors and 8-bit precision tags, and a shard list running model-00001-of-000096 with sizes around 17 GB each.

该许可证分为三个层级,而中间那一层才是关键。

Kimi K3.1-Pro 许可证的开篇方式,正如你对一份宽松许可证的预期:授予你使用、复制、修改、合并、发布、分发、再许可和销售的权利,运行、部署和微调的权利,以及创作衍生作品的权利。随后它附加了条件,而决策恰恰就存在于这些条件之中。

• 第 2 条,“模型即服务”的准入门槛——如果你或你的关联方经营的业务是向第三方提供推理或微调访问权限,且集团在任意连续 12 个月内的收入超过 2000 万美元,那么你需要在商业使用之前与 Moonshot 单独签订协议。有两项例外情形值得注意:模型被嵌入某个功能或调用框架(harness)之中的终端用户产品不属于“模型即服务”;仅仅将请求转发给由他人托管的模型,也不属于“模型即服务”。

• 第3条,署名条款——月活跃用户超过1亿,或月收入超过2000万美元的商业产品,必须在界面中显著展示"Kimi K3.1-Pro"。这是品牌标识义务,而非付费义务。

• 第4节,豁免——上述两项均不适用于内部使用,即任何不会使软件、其输出或其底层能力可供第三方使用的使用,也不适用于通过Moonshot官方产品和经认证的推理合作伙伴进行的使用。

实际解读是,内部部署是免费且不受限制的,基于该模型为你自己的用户构建产品也同样如此。真正会触发那场 2000 万美元对话的,是大规模转售原始模型访问权。如果你曾希望用这些权重搭建一个有竞争力的推理端点,那么这一段就该拿给律师看;而且它在结构上与 Kimi K3 发布时所采用的许可证相同——因此,现有的针对 K3 的法律审查可以直接沿用,只需改个名字。

该许可证没有做到的一点,是让它成为 OSI 意义上的开源。仓库元数据中的字段显示为 license: other,许可证名称被设为 kimi-k3.1-pro。在发布后的最初几小时里,那些将其描述为修改版 MIT 的媒体,只读了开头的宽松条款就止步于此。

运行需要哪些条件,以及 API 在哪些方面更胜一筹

针对该模型发布的 vLLM 部署方案是目前可获得的最具体的部署指导,而且非常具体。它规定使用 vLLM 0.34.0 或更新版本,基线为一个由 8 块 GPU 组成的张量并行组——两个 GB300 托盘或一个 B300 节点——使用 --tensor-parallel-size 8 并跨 --nnodes 2 部署。可选的长上下文模式 DCP8 将 KV 缓存容量提升至约 1850 万个 token,而在 8 块 B300 上使用 FP8 KV 时约为 260 万个 token,约多七倍。

由此得出两个后果。首先,8×H200 节点不可行:在分配哪怕一个 token 的缓存之前,1.13 TB 的 HBM 也装不下 1.56 TB 的权重。其次,不存在消费级路径。该模型所需的显存超过工作站所能提供,而能让缓慢的 CPU 卸载版本变得可接受的架构,仍在追赶自定义的 kimi_k31 代码——该仓库在其自己的快速入门片段中就带有 trust_remote_code=True,这表明该架构尚未进入已发布的上游库的默认路径。

用输出 token 来理解这笔经济账,比看 GPU 明细项更容易。按每百万输出 token 10 美元计算,一个节点约 55 万至 65 万美元的估算资本成本,按标价通过 API 可以买到大约 550 亿至 650 亿输出 token。自托管节点只有在它被淘汰之前保持足够繁忙、能服务超过这个量时才划算——而且这一比较还未计入电力、运维人员、闲置时间,以及为冗余所需的第二个节点。对读到这里的多数团队而言,诚实的答案是:权重是战略资产,而 API 是更便宜的使用模型的方式。

这也是为什么kimi/kimi-k3.1-pro以每百万输入 $2.00、每百万输出 $10.00 列在我们的目录中,改变的是计算方式,而不是重复同一套计算。相同的 1,048,576 token 上下文和相同的 104B 激活参数可通过 Chat Completions、Responses API 和 Anthropic Messages 使用,无需双节点集群。我们的定价是0% 加价,以提供商标价为基础,因此当 Moonshot 调整价目表时,这里的数字当天就会随之变化,而不是等到下一次合同续约。而且,由于只需一个密钥就能访问该模型以及200 多个其他模型,在实际工作负载上试用它并不需要把生产路径押在它上面——你可以把它放在故障转移后面,让流量来证明它。

The OrcaRouter model page for Kimi K3.1 Pro, showing the model id kimi/kimi-k3.1-pro, a 1M-token context, 943K maximum output, text input with text output, a p50 time-to-first-token of 7.64 seconds, and a price strip reading $2.00 per 1M input tokens and $10.00 per 1M output tokens.

基准表是一把双刃剑

本节中的每个数字均来自模型卡中的厂商报告,运行配置为推理强度 max、温度 1.0 和 top-p 0.95。对比列同样是在启用回退的情况下以最大推理强度取得的;在把一分的差距解读为胜出之前,这一点值得了解。

• Terminal-Bench 4.0 — Kimi K3.1 Pro 65.7%,对手是 Claude Opus 5.5 的 66.4%、GPT-6 Astra 的 58.2% 和 Claude Fable 5.1 的 57.9%。以零点八分之差位列榜单第二,且明显领先于与其对标的两款模型。

• SWE Marathon v1.1 —— 51.7%,而 Claude Opus 5.5 为 46.3%,Claude Fable 5.1 为 45.6%。在长周期软件工作上取得了实打实的领先。

• 使用工具的 HLE-Full 得分为 70.0%,而 Claude Opus 5.5 为 67.7%,Claude Fable 5.1 为 65.6%。BrowseComp 得分为 92.1%,而 GPT-6 Astra 为 91.5%。

Program Bench — 31.5%,而 Claude Opus 5.5 为 65.0%,Claude Fable 5.1 为 53.5%,GPT-6 Astra 为 50.0%。这是表格上差距最悬殊的一项落后,如果你的工作是程序合成而非终端形态的智能体循环,这就是值得关注的那一行。

• Terminal-Bench-Science 0.1——38.1%,而 GPT-6 Astra 为 68.1%,Claude Opus 5.5 为 63.3%。这又是一个该模型差距明显的类别。

• HLE-Full 无工具 — 51.1%,而 Claude Opus 5.5 为 59.8%。工具使用这一列反转了排序,这更能说明评测框架的质量,而非原始推理能力。

这种规律相当一致,因此颇具参考价值:Kimi K3.1 Pro 在智能体操控 shell、浏览器或执行长时间编码任务时表现强劲,而在自成体系的科学类与程序构建类基准测试中则偏弱。如果你要仅凭一个头条数字在它与 Claude Opus 5.5 之间做选择,那么头条数字恰恰是两者差距最小的地方。

独立测量数据很少,值得直说。Artificial Analysis 目前给 Kimi K3.1 Pro 在 Intelligence Index v5.0.1 上的评分为 46,并将其列为开放权重,输出速度为每秒 32 个 token,在其模型页展示的 25 个模型中排名第一。发布周的报道引用的是 55,但那是针对 10 月 27 日 v5 重建之前所用的指数版本——不同的测量工具,两者相减得出的数字毫无意义。

A two-column scoreboard titled 'Kimi K3.1 Pro — the scoreboard'. The 'Ahead' column lists Terminal-Bench 4.0 at 65.7 versus 58.2 for GPT-6 Astra, SWE Marathon v1.1 at 51.7 versus 46.3 for Claude Opus 5.5, and BrowseComp at 92.1 versus 91.5 for GPT-6 Astra. The 'Behind' column lists Program Bench at 31.5 versus 65.0 for Claude Opus 5.5, Terminal-Bench-Science 0.1 at 38.1 versus 68.1 for GPT-6 Astra, and HLE-Full without tools at 51.1 versus 59.8 for Claude Opus 5.5. A footer notes the figures are vendor-reported at max effort and that Artificial Analysis Intelligence Index v5.0.1 scores the model 46.

开放检查点并不是无限制的那个

Moonshot 表示,在发布这些权重之前,它已从部分中期训练和强化学习中移除了网络能力训练数据,而且模型卡提供了证据,而不是只把它当作一句公关说辞。在其内部的 xdev-bench-hard 集合上,发布的检查点得分为 81.0%,而同一模型的未受限检查点为 90.5%。你从该仓库下载到的任何内容都是经过缓解的版本。

绝对数字在另一个方向上也不好看。在 ExploitBench 上,该模型得分为 74.7,而 GPT-6 Astra 为 100,Claude Opus 5.5 为 91.0;在 ExploitGym 上,它得分为 20.7,而 GPT-6 Astra 为 42.4。因此,已发布的模型既弱于其自身不受限制的变体,又在漏洞利用任务上落后于前沿——对于一个可公开下载的 2.8 万亿参数模型来说,这种组合是合理期望具备的,而且如果你的威胁模型曾假定开放权重意味着不受限制的能力,那么这一点值得了解。

谁应该下载这个,谁又不应该?

如果你有理由自己持有模型权重,就下载它:数据驻留要求排除了任何第三方推理;微调项目需要把基础模型留在内部;研究团队要审计其行为而不是租用它;或者持续用量足够大,使专用节点比按 token 计费更划算。你会想要两个节点而不是一个,并且如果你打算使用接近一百万 token 的上下文,还要为 KV 缓存做好规划。

如果目的是在中等工作负载上省钱,或者是在已有硬件上运行前沿级模型,就不要下载它。1.56 TB 是下限,而不是要求;要求是 B300 或 GB300 级集群。如果你的工作负载是程序合成或硬科学,也请跳过它——Program Bench 和 Terminal-Bench-Science 正是该模型与替代方案差距最大的地方,再宽松的许可证也无法弥合这一差距。

对于介于两者之间的所有人来说,权重发布仍然是更重要的消息,而且重点不在于它们让你能运行什么,而在于可下载的检查点可以接受审计,而 API 不能——一个在 Terminal-Bench 4.0 上距 Claude Opus 5.5 仅差一分的 2.8 万亿参数模型,如今成了外部研究者可以检查、而不必只能信任的东西。这正是 11 月 4 日那件事中不依赖于拥有数据中心的部分。

本文中的对比4

根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新