Ling-3.1-flash-1019 现已开源：574 GB、MIT 许可，以及 256K 的现实检验

10月27日 05:46 UTC，蚂蚁集团 Ling 团队在 Hugging Face 上创建了一个名为Ling-3.1-flash-1019的仓库，并在 MIT 许可证下填充了 54 个 safetensors 分片，总计 573.8 GB。其旁边是Ling-3.1-flash-base，这是一个 1.14 TB 的 BF16 检查点，用于进一步训练；而在这两者背后则是Ling-3.1-flash，本次构建正是该模型的后训练修订版。五天前，蚂蚁只公布了分数：在 Artificial Analysis Intelligence Index v4.3.2 上为 44，高于此前的 41，并承诺会提供权重和 API。如今这一承诺有了文件列表，这使得今天成为蚂蚁评估流程之外的任何人第一次能够核验这个数字，而不是仅仅阅读它。

这个差距本身就是故事，而且它有两面。一个实验室在产品发布之前就公布基准测试成绩，是在要求人们凭信任接受；而随后又在五天后以 574 GB、宽松许可证发布该产品，至少交出了提出异议的手段。有趣的问题不再是分数，而是下载内容里有什么、提供服务要花多少成本，以及模型卡上的 1M token 上下文是否真的是你实际获得的上下文。

仓库里实际上有什么

1019 仓库并不是轻量适配器或增量补丁。它是一个完整检查点：54 个权重文件，每个约 10.7 GB，另有一个分词器、一个聊天模板，以及自定义建模代码（BailingMoeV3ForCausalLM），该代码需要 trust_remote_code。随附配置在 Ling 系列自 3.1 起一直使用的混合线性 MoE 架构之上，声明了 FP8 量化方案（E4M3，128×128 块缩放）：

• 总参数与激活参数 — 总计 560B，每个 token 激活 25B，与 Ling-3.1-flash 的数字相同。

• 层——共 72 层：63 个 KDA 线性注意力层与 9 个门控 MLA 层，比例为 7:1，另有 4 个稠密层。

• 专家 — 512 个路由专家，每个 token 激活 8 个，1 个共享。

• 词表 — 157,184 个 token；隐藏层大小 4,096。

• 占用空间——573.8 GB 的 safetensors，分布在 54 个分片中，根据我们于 10 月 27 日从仓库文件列表中的统计。

基础模型是另一种类型的产物。Ling-3.1-flash-base于10月25日创建，包含121个文件和1.14 TB的BF16权重——大约是对齐检查点的两倍大小，因为它尚未量化到FP8。其模型卡将其描述为Ling-3.1-flash的基础检查点，用于继续预训练、领域适应和后训练研究，并明确表示它不打算在未经对齐的情况下用于直接聊天或安全关键用途。两个仓库都带有MIT标签。

44，以及 Ant 没有测量的部分

Artificial Analysis 将 Ling-3.1-flash-1019在其 Intelligence Index 上列为 44 分，在我们今天查看的页面上于 122 个模型中排名第四，其模型页面称评估由 Artificial Analysis 独立测量。这是该数字迄今所呈现的最强形式，值得与发布表格的其余部分区分开来。

各项基准的差值来自 Ant 自己的模型卡，而不是独立复跑：AA-Briefcase 从约 1,400 Elo 升至 1,524 Elo，AutomationBench-AA 从 62% 升至 68%，CritPt 从 18% 升至 26%，SciCode 从 54% 升至 57%。其中两个基准——AA-Briefcase 和 AutomationBench-AA——是 Artificial Analysis 指数的组成部分，因此该指数数值和厂商表格并不是彼此独立的证据。它们只是同一主张的两种分辨率。在有人发布测试框架和随机种子之前，应把 44 视为由 AA 测得，而把前后对比数据对视为厂商报告的结果。

还有第二种不对称。测量时，Artificial Analysis 没有记录到 1019 构建版本有公开可用的 API，而且该模型的输出速度字段仍然空白。因此，如今要复现这项基准测试，只能下载 574 GB 并自行运行。这不是对此次发布的抱怨；而是在描述“开放”改变了什么。在今天之前，没有人能复现这个分数。今天之后，任何拥有相应硬件的人都可以。

这三个积分是用代币购买的。

该指数是一项质量衡量指标，而非效率指标，而本次发布的效率方面是其中最不讨喜的部分。Artificial Analysis 测得，1019 运行版本输出 350M token，而 Ling-3.1-flash 为 220M——完成同一套测试多生成了约 59% 的 token——并在冗长度上将该新版本排在 48 个中的第 48 位，中位数模型为 140M。其运行该指数的成本为每任务 1.49 美元，而前代为 1.01 美元。

其中一些是你可以根据 Ant 自己的价目表算出来的算术。按每百万输出 token 0.90 美元计算，3.5 亿 token 的输出费用是 315 美元，而 2.2 亿 token 是 198 美元——在还没算任何一个输入 token 或缓存读取之前，就已经差了 117 美元。对于按任务而非按 token 做预算的团队来说，这项“免费”的检查点升级，更接近于为了三个点的指数提升而让账单增加 47%。这笔交易是否划算，完全取决于一次失败任务会给你带来多少成本，而这是任何排行榜都无法回答的问题。

配置中的上下文窗口为 256K

模型卡上写的是 100 万 token 上下文，而实际发布的配置却另有说法。在全部三个仓库——1019、Ling-3.1-flash 和 base——中，config.json 都将 max_position_embeddings 设为 262,144，将 rope_scaling 设为 null，RoPE theta 为 6,000,000。因此，使用原版 SGLang 或 vLLM 加载这些权重时，实际服务的是 256K 个位置，而不是一百万，除非操作者提供该仓库中并不包含的缩放配置。

这是我们基于已发布配置文件的解读，并非 Ant 作出的声明。托管的 Ling API 有可能在服务端采用某种缩放方案，并确实提供 1M；开放权重版本并未附带这样的方案。这也不是新出现的差异——10 月 15 日发布的 Ling-3.1-flash 在同样 262,144 的设置下也带有相同的 1M 宣称。任何要围绕百万 token 工作负载来选配硬件的人，都应在正式投入前在自己的技术栈上测试这一上限，因为真正重要的是服务器接受的那个数字，而不是引言里的那个数字。

部署它：八块 H200、四块 GB300，以及一个复制粘贴陷阱

Ant 推荐 SGLang，并发布了一个 day-0 镜像 lmsysorg/sglang:dev-ling-3.1-flash，其中包含 MTP 推测解码和 Hopper 解码优化。文档记录的参考配置是八块 H200 GPU，采用 TP8 加 EP8；在四块 GB300 上，说明卡指出应使用 --tp 4 --ep 4。还包含一份 vLLM 配方，采用张量并行度 8、专家并行、前缀缓存和三个推测 token。两个环境标志——SGLANG_ENABLE_FP8_BLOCK_GEMV 和 SGLANG_ENABLE_FUSED_KDA_OUTPUT_QUANT——据称可在 Hopper 上使批大小为 1 的解码速度提升约 10%。

这一占用规模解释了这份硬件清单。在 FP8 权重为 573.8 GB 的情况下，该检查点在八张 H200（1,128 GB HBM）上留下约 550 GB 余量，在四张 GB300（1,152 GB）上留下约 578 GB 余量。这足以容纳权重和一个可用的 KV 缓存，但不足以在长上下文场景下掉以轻心。

快速入门里还有一个陷阱值得提醒，因为它会让人白白浪费一天。1019 模型卡自带的 SGLang 命令传入的是 --model-path inclusionAI/Ling-3.1-flash，而其客户端示例发送的是 "model": "Ling-3.1-flash"。如果逐字照做，这套配方加载的是 41 分的前代模型，而不是 44 分的构建版本。请将路径显式指向 inclusionAI/Ling-3.1-flash-1019，并固定所服务的模型名称，否则你对 "1019" 的首次基准测试，测的将是旧检查点。

Ling-3.1-flash-base 的用途——以及它不是什么

对于训练模型而非调用模型的人来说，两个版本中基础版的影响更大。一个以 MIT 许可证发布、大小为 1.14 TB 的 BF16 检查点，采用相同的 560B/25B 架构，为实验室提供了一个合理的起点，可用于继续预训练、领域适应、监督微调、偏好优化、蒸馏实验和长上下文 MoE 研究，而不必从一个聊天对齐的模型开始，再不得不撤销其拒答行为。

它没有给你的，是 44 的配方。卡片将 base 描述为 Ling-3.1-flash 的基座检查点，而不是 1019 构建版本在后训练前的快照；而且两个仓库都不附带后训练数据、偏好集或 RL 配置。如果你想要实测过的模型，就下载实测过的模型。如果你想自己构建，基座能帮你省下预训练开销，但省不了对齐工作——而一个调得好的基座与厂商最佳后训练检查点之间的差距，通常比基准指数上三个点的差值所暗示的更大。

你应该选择 574 GB 吗？

• 如果你已经运行着八块 H200 或四块 GB300，你的工作负载属于智能体式或多步骤类型，并且 MIT 许可证能为你实际存在的法律障碍扫清道路，那就下载它。

如果你需要自己复现这 44 个，就下载它——现在这已经可能，而在 10 月 22 日时还不可能。

• 如果你指望开箱即用就能获得 1M 上下文，那就跳过它；请先测试 256K 配置。

• 如果你的成本模型是按任务计费且对延迟敏感，那就跳过它。59% 的 token 增长是实打实的吞吐成本，而且目前还没有关于 1019 的独立输出速度数据。

• 只有在拥有后训练流水线时，才从基础模型开始。它是基础，不是捷径。

诚实说明 OrcaRouter 在这里的角色：我们不提供 Ling-3.1-flash-1019。我们卖的是这个决策的另一面——一个密钥即可覆盖 200+ 托管模型，按提供商标价、0% 加价，因此，“1019 是否胜过我已在运行的方案”这个问题，无需为每个基线分别签合同就能回答。自动故障转移和路由 DSL 在你选定赢家之后才重要；它们不能帮你做出选择。

接下来看什么

三件事将决定这次发布能否经得起时间考验。第一是独立吞吐量：Artificial Analysis 没有 1019 的输出速度数据，而首家公布每秒 token 数的第三方提供商，会比再一个指数数据点更能说明其生产适用性。第二是代码仓库或 SGLang cookbook 中是否会出现 1M 上下文的扩展配置；在它出现之前，模型卡上的头条数字只是一个说法，其底层实现仍是 256K。第三是社区会如何利用这个基座——若微调模型在某个狭窄领域超过 44，那将是最有力的证据，证明开放这些权重比它发布时附带的分数更有价值。