ERNIE Light DT 1.0 对比 ERNIE 5.5 Flash Base：许可证才是产品

ERNIE Light DT 1.0和ERNIE 5.5 Flash Base是同一实验室对两个不同问题的回答，二者于 2026 年 11 月相隔五天发布。Light DT 是一个 API：没有权重，没有模型卡，输入价格为每百万 token 1.13 美元，输出上限为 131,072 个 token。Flash Base 则是一个可下载模型：2800 亿参数，每个 token 激活 140 亿参数，训练 token 数达 33.5 万亿，而且 Baidu 完全没有提供托管端点。二者之间的选择其实与基准测试无关——两者都没有值得争论的已发布分数——关键在于，你是想租用一套模型服务栈，还是想拥有一个可在其上构建的许可证。

而许可证正是这一比较不再对称的地方，因为 Flash Base 的许可证对于你可以在哪里使用它以及必须告知谁，规定得异常具体。

两件文物，同一个实验室，相隔五天

Flash Base 于 2026 年 11 月 5 日发布，同时带来了一份技术报告，并在 Hugging Face 上以 FP8 和 BF16 两种精度开放了权重，依据 ERNIE 5.5 Flash Base Model License v1.0 发布。它是一个预训练检查点，也就是说，你拿到的权重就是预训练直接产出的那一版，尚未经过任何指令微调或偏好对齐工作。它没有值得一提的对话模板，也没有同期发布任何 instruct 版本。

Light DT 于 2026 年 11 月 10 日作为国际 API 端点上线。百度称，它基于开源 G​LM 模型，并融合了该公司搜索“Lightning”产品线的研究成果，围绕 Baidu Sparse Attention 以及反馈驱动的历史压缩方案构建；厂商表示，该方案可减少 KV-cache 存储和计算。它经过后训练，能够回答问题、调用工具，且并不以可下载文件的形式存在。

这么说来，这对组合在显而易见的方向上显得一边倒：一个是成品，另一个是起点。但价格却说明并非如此，而许可证又另有一番说法。

方向反了的费率卡

Light DT 每个 token 的成本高于一个活跃参数量是其二十倍的模型。这是阅读本文其他内容之前需要先消化的事实：

输入价格——ERNIE Light DT 1.0 为每百万 token 1.13 美元，而 ERNIE 5.5 Flash Base 为 0 美元，因为百度没有端点，因此没有标价。这个 0 美元是真实的：托管它属于资本成本，而不是发票上的一行。

• 输出价格——Light DT 每百万 3.94 美元；Flash Base 则按您自己的 GPU 小时数计费。

• 缓存输入 — 在 Light DT 上为每百万 $0.113，缓存读取价格仅为其十分之一。Flash Base 没有对应方案，因为缓存的经济性会变成你的调度器要处理的问题。

• 每 token 活跃参数——Light DT 未披露；Flash Base 为 140 亿。

• 上下文 — Light DT 为 1,024,000 个 token；Flash Base 在微调和推理中为 1,000,000 个 token，最大训练上下文为 128,000 个 token。

• 最大输出 — Light DT 为 131,072 个 token；受你针对 Flash Base 的服务配置限制。

• 权重 — Light DT 无；Flash Base 为 280B（FP8 或 BF16），在 FP8 仓库中拆分为 128 个 safetensors 分片。

• 服务栈——Light DT 使用百度的服务栈；Flash Base 使用 SGLang 或 vLLM 搭配百度自有插件。已公布的 SGLang 配置要求张量并行度为 4、注意力数据并行大小为 4，这意味着在尚未加载任何请求之前，最低就需要四块 GPU。

自托管 280B 模型每百万 token 的实际成本是多少

这是决定这场对决的计算，值得用整数而不是凭感觉来做。

已公布配置的下限是四块 GPU，但在 FP8 精度下，280B 参数在未计入任何缓存前大约就是 280 GB 的权重，因此一个现实的生产节点需要八块加速卡，以便为 KV 缓存和批处理留出空间。按八块 H100 级显卡、每卡每小时 2 美元的混合租赁价格来算——这是 2026 年的市场中位数字，并非报价——该节点每小时成本约为 16 美元；如果持续运行，每月大约为 11,700 美元。

现在看吞吐量问题。一个稀疏 MoE 每 token 触发 140 亿参数，其单 token 速度很快，所有稀疏模型都是如此；但一个批次上的总吞吐量才决定你的单位成本，而 Baidu 并未公布该检查点的每秒 token 数。保守假设该节点在完整批次下可持续每秒输出 4,000 个 token。这相当于每小时 1,440 万个输出 token，按每小时 16 美元计算，约为每百万输出 token 1.11 美元——这还未计入利用率损失，未计入负责该部署的工程师成本，也未计入流量低谷时的空闲时段。

以三分之一容量运行，这正是大多数真实部署在非高峰时段的做法，而有效成本会变成三倍。坦率的总结是，自托管 Flash Base 的成本大约在每百万输出 token 一到三美元之间，具体取决于你把节点利用得有多充分——这个区间横跨 Light DT 的 3.94 美元，并且在利用率高时可以轻松胜过它。

这意味着 Light DT 的溢价并不是对无知的征税。它是百度为让你无需进行那项计算而收取的费用，也是为其声称的一种压缩方案收取的费用——该方案能让缓存小到足以使百万 token 窗口的 serving 成本可负担。如果你的流量具有突发性、体量低，或者主要是长上下文，那么支付 $3.94、把利用率问题交给别人去解决，才是理性的选择。

许可证——这正是 Flash Base 变得复杂的地方

Flash Base 的许可证并非标准的宽松型许可证，其中有三项条款比任何基准测试都更为重要。

• 地域。该授权适用于“全球除欧盟、英国和韩国以外的所有地理区域”。在该地域之外使用权重或分发衍生品，不属于所授予权利的范围。如果你有欧盟用户、欧盟推理区域，或接触该模型的欧盟员工，这是一个需要与律师仔细审阅的重大障碍，而不是脚注。

• 营收门槛。与使用本模型的产品或服务相关的年收入低于 5000 万美元的，商业使用免费，但须向百度发出一次性通知。超过该金额的，须在开始使用前另行取得书面商业授权；若你的收入增长跨过该门槛，须在跨越之前取得授权，否则须暂停受影响的使用。

• 署名。商业产品必须在便于访问的位置显示确切的文字“{{1}}Powered by ERNIE{{/1}}”——可以是 UI、关于页面，或者对于 API 和后端服务，则是开发者文档。

还有一条条款值得提醒任何计划进行蒸馏的人：许可证禁止使用这些材料或其输出，去改进除该模型本身或其衍生模型之外的任何其他 AI 模型。用 Flash Base 的输出训练一个更小的学生模型属于授权范围；用这些输出训练不同架构的模型则不属于。

Light DT 不存在这些问题，因为它没有需要许可的权重。你得到的是一份服务条款协议和一份价目表，这对法务团队而言涉及的范畴要小得多，对雄心壮志而言可施展的空间也小得多。

能力：每一款在开箱即用状态下会做什么、不会做什么

• 推理控制 — Light DT 提供四个努力等级（max、high、low、none），默认使用 max。Flash Base 完全没有推理模式；它是一个补全模型，任何推理行为都需要你通过训练来获得。

• 工具调用 — Light DT 支持函数调用，并支持强制工具选择、结构化输出和 JSON 响应格式。Flash Base 则支持你围绕它实现的任何功能。

• 模态 — 两者都是文本输入、文本输出。二者都不接受图像，也都不会替你读取扫描文档。

• 长上下文——Light DT 通过其压缩缓存设计宣称支持 1,024,000 个 token。Flash Base 在微调和推理期间支持 1M，但在八张卡上达到该长度时，你的 KV 缓存预算会成为硬约束，而百度内置于 Flash 自身注意力机制中的压缩——其 43 层中有 37 层采用 Heavily Compressed Attention——正是让这一目标得以实现的关键。

• 评测 — Flash Base 公布了完整的厂商表格：MMLU 93.3、MMLU-Pro 78.4、GPQA 60.2、HumanEval+ 82.3、LiveCodeBench 40.1、HELMET-RAG 71.5、LongBench-v2 48.7，这些结果是在同一套流程下与 DeepSeek-V4-Flash-Base、Hy3-preview-Base 和 MiMo-V2.5-Base 对比测得的。这些是百度自己的数据，由百度运行，也应据此理解。Light DT 则完全没有公布任何内容。

最后那句话，对买家而言是最重要的不对称之处。Flash Base 至少让你可以核验其说法——下载权重、运行自己的评估，看看厂商的表格在你的数据上是否成立。Light DT 则要求你凭信念接受其机制，因为唯一可得的证据只有一段产品宣传文案。

路由器适用于哪些场景，以及不适用于哪些场景

这两款模型目前都不在 OrcaRouter 的目录中；若说它们在，那就是会让读者白白浪费一周的那类错误。路由器真正改变的是决策的形态。

如果你选择 Flash Base 路线，就是在把资金和人力投入到一个质量可衡量、但服务成本无法解决的模型上——而合理的架构是：将托管模型放在同一接口之后作为回退方案，以应对节点满载、批处理处于冷状态或评估运行占满显卡的情况。如果你选择 Light DT 路线，就是在承诺使用单一厂商的端点，背后没有第二家提供商，价格变化时也没有可迁移的权重。

无论哪种情况，失效模式都一样：长上下文工作负载被固定在一个模型上，却无法比较替代方案原本会带来多少成本。而带有按模型定价表的路由端点解决的正是这个问题——它不是替你做出选择，而是让选择的成本按请求可见，而不是按季度可见。

该选哪一个

如果你面临的是训练问题而非服务问题，就选择 ERNIE 5.5 Flash Base：你需要一个 280B 的稀疏起点，打算对它进行微调，你的用户和基础设施位于欧盟、英国和韩国之外，并且你低于收入门槛或准备向百度申请授权。厂商基准表为你提供了一个站得住脚的基线，而权重意味着没有人能把模型从你手中夺走。

如果关键就在于上下文窗口，那就选 ERNIE Light DT 1.0。通过压缩缓存提供一百万 token，并具备可调的推理预算和工具调用能力，这是一款为特定任务打造的特定产品——长检索文档、长智能体记录、长时间运行的会话——而为每 token 支付溢价以避免自行承担缓存预算，是一种合理的取舍。

如果你的提示词很短，这两个都别选。每次请求 8,000 个 token 时，双方关于架构的整套说辞都无关紧要；而每百万输入 token 1.13 美元，不过是用昂贵的方式去做一个价格只有十分之一的模型也能同样做好的事。