Mercury 3 与 NVIDIA Nemotron 3.5 Super VL 120B-A12B：一项速度声明经过实测，另一项则没有

Mercury 3 和 NVIDIA Nemotron 3.5 Super VL 120B-A12B 都以速度快为卖点。但这些速度声明中，只有一项经过了制造商之外人士的核验。Artificial Analysis 在其自有测试框架上测得 Nemotron 3.5 Super VL 的输出速度为每秒 434.3 个 token。Inception Labs 于 2026 年 10 月 19 日发布的 Mercury 3 声称达到每秒 1,068 个 token——而截至 10 月 20 日，该指数中根本没有 Mercury 3 的页面，因此这一数字没有任何第三方背书。在这场对比中，真正的决策依据是这种不对称，而不是规格表。像此次发布这样的产品背后有据可查的 AI 故障和智能体事件，收录于OrcaRouter AI Incident Archive其中每条记录都附有各自的信息来源、严重程度、置信度等级和争议标记。

还存在第二种不对称，对某些团队来说更为重要。Nemotron 可下载，可在你自己的硬件上运行，并且可以进行后训练。Mercury 3 是 API 产品，不提供权重。其中一个是采购决策，另一个是部署项目，而基准测试表并不能很好地指导你实际需要哪一个。

两家供应商都认同的数字，以及他们不认同的那个数字

从两者看起来不再有区别的那些行开始，因为其中有几行确实是相同的。

• 上下文——两者均指定为 100 万 tokens。Mercury 3 将其与 131,072 token 的输出上限搭配；Nemotron 的规格卡则列出最高 100 万 token 的共享窗口，涵盖提示、图像、历史、工具结果和回答。

• 输出 — 两者都只输出文本。两者都不生成图像或音频。

• 输入——这是两者分道扬镳之处。Nemotron 接受文本、RGB 图像以及最长两分钟的 MP4 视频。Mercury 3 只接受文本，且仅限文本。

• 价格——Mercury 3 在发布窗口期内为每百万输入 $0.10、每百万输出 $0.35，之后将恢复至标价 $0.20 和 $0.70。Nemotron 则完全没有厂商价目表；实际存在的是 Artificial Analysis 的成本核算表，目前将其记为每百万输入 $0.225、输出 $0.575，缓存折扣为 78%，每项 Intelligence Index 任务成本为 $0.19。

• 权重——Mercury 3 的权重尚未发布，Inception 也未承诺会发布它们。Nemotron 的权重以 OpenMDW-1.1 许可发布在 Hugging Face 上，并提供全精度和 NVFP4 检查点。

最后一行才是决定大多数真实评测的关键，而它与每秒令牌数毫无关系。

解读独立指数而不过度解读

NVIDIA 于 2026 年 10 月 15 日发布了 Nemotron 3.5 Super VL。当第一份独立排行榜在同一周出现时，它的 Intelligence Index 为 26，而速度栏本应出现的位置却是一片空白。该页面现在同时列出了两项数据：在 Index v4.3.2 上为 26，以及每秒 434.3 个输出 token，这使其在其对比类别中的 28 个模型里排名第一。它在整个指数评测运行中还生成了 170M 个 token，而中位数为 100M；页面称这有些冗长。

这些是该指数自身的测量结果，通过其自有评测框架运行得出，其价值与任何单一基准测试套件完全相同：一个由非 NVIDIA 员工收集的可复现数字。注意 26 意味着什么、不意味着什么。页面自身的对比文本将其与 40B–150B 级别中可比开放权重模型的中位数 8 进行对比，因此它在同等权重级别内是一个很强的结果，而相对于任何规模的前沿模型则只是一个不算突出的结果。页面顶部出现的“67 个中排名第一”是筛选后类别内的排名，而非总体排名。任何不提及筛选条件却引用“第一名”的人，实际上引用的是筛选条件本身。

现在看另一边。Inception 的发布帖提出了三项量化声明：在 NVIDIA GPU 上每秒 1,068 个 token、1M 上下文，以及仅为标价一半的发布价。它完全没有提出数值化的质量主张。相反，它说 Mercury 3“优于 GPT-6 Luna 和 Claude Haiku 5.5”——这两个都是速度优化模型，对于一款低延迟产品而言这是正确的比较对象，但未说明领先幅度、基准名称或逐任务结果。它还报告称，Mercury 3 在 Inception 自有的 Web agent 测试框架内完成了 50 个实时 Mind2Web 导航任务中的 50%，“显著多于 GPT-6.1-Sol”。在厂商自有测试框架上跑五十个任务是一个信号，而不是一个可以与 26.0 并列的测量值。

所以，对质量证据的诚实比较是这样的：一个模型有第三方指数评分，另一个只有供应商的一句话。这并不会让 Mercury 成为更弱的模型。这只会让它成为未被衡量的那个，而“未被衡量”与“低分”属于不同的风险类别。

开放权重那一半的实际运行成本是多少

Nemotron 3.5 Super VL 是一个 1200 亿参数的混合专家模型，每个 token 激活 120 亿参数，每个 MoE 层包含 512 个路由专家；其混合骨干网络将 Mamba-2、注意力层与 MoE 层交错堆叠，并通过一个连接器外挂了 C-RADIO 视觉编码器。NVIDIA 以两个精度档位发布该模型，而两者之间的差距是此次发布中最有用的数字。

• BF16 — 64 个 safetensors 分片，约 231.8 GiB。NVIDIA 官方的部署方案是在四块 H100 上采用张量并行度 4，或在两块 GB200 上采用 TP2。

• NVFP4 — 4 位权重和激活值，采用量化感知蒸馏。该卡列出了在单台 DGX Spark、单台 H200、两台 H100 或单台 GB200 上的部署。

一个120B模型在4-bit下只需两块H100就能装下，而BF16下需要四块——这是完全不同的采购考量，也正是厂商在推荐高效推理服务时会指向量化检查点的原因。NVIDIA没有公布的，是这两个层级之间的准确率对比。这一说法属于训练方法层面的主张——即训练期间的蒸馏能弥合量化差距——而非经过实测的比较；如果你的决策取决于这一差距，那么答案并不在代码仓库里。

许可证值得越过营销宣传去读。博客文章说的是“开放权重”；模型卡的 frontmatter 写的是license: other，license_name: openmdw-1.1，并受 OpenMDW License Agreement 1.1 约束。允许商业使用，模型卡也明确说明了这一点。它不是 Apache 2.0；如果你的组织维护着一份获批许可证清单，那么在询价 GPU 之前，该清单才是需要核对的东西。

两者不再互为替代品之处

这种错配不在于质量，而在于工作的形态。

Mercury 3 是一种扩散语言模型——Inception 将其称为 dLLM——它并行生成 token，而不是一次生成一个，这正是“四位数吞吐量”说法的最初来源。它面向的工作负载是人类正在旁观的那类场景：辅导提示、搜索生成、必须让人感觉像对话的客服回复。Inception 自己引用的客户评价都属于这一类，而它们正是对产品的恰当检验。错误的提示可以补救。两秒的停顿则不行。

Nemotron 3.5 Super VL 是为相反的另一端打造的。它能读取屏幕截图、扫描文档、图表和两分钟的视频片段，调用工具，并运行在你掌控的硬件上。它为之设计的工作负载，是一条持续运行数分钟并回报结果的流水线——在这里，一次错误的提取代价高昂，而五秒的等待却无人察觉。它自己的规格卡也坦承：多模态基准测试的各行并非全部通过 NVIDIA 公开的工具链运行得出，而且其中若干行背后的内部脚手架被承诺将在未来版本中提供。这一保留说明并不构成对该模型的否定；它只是告诉你，在依赖这些行之前，哪些行需要你自己重新运行验证。

这种重合范围比规格表所暗示的要窄。如果你的输入是一叠发票、一段产品视频或一张仪表盘截图，Mercury 3 都无法识别。如果你需要的是在纯文本上实现亚秒级对话轮次，那么在自有 GPU 上运行 120B 多模态检查点，是一种代价非常高昂的实现方式。

这两个模型都不在我们的目录中，这会改变路由建议。

这两者都是如实说明的否定结果。我们的模型 API 不返回任何 Inception 模型，也没有 NVIDIA Nemotron 条目，因此无论是 Mercury 3 还是 Nemotron 3.5 Super VL，目前都无法通过我们调用。任何想要 Mercury 3 的人可以去 Inception 自己的平台，该平台为新账户提供 1 亿个免费 token；任何想要 Nemotron 的人可以从 Hugging Face 下载检查点，或使用第三方托管方。我们宁愿把这一点写清楚，也不愿暗示一条我们并不拥有的途径。

在这里，路由层仍然有用的地方，是实验周边的部分。双路径安排是评估未评测模型的稳妥方式：把延迟关键层级通过 Inception 的密钥发送到 Mercury 3，而把回退和疑难情况放在我们确实提供的模型上——超过 200 个模型，统一置于一个 OpenAI 兼容端点之后，按提供商标价、0% 加价，并在提供商性能下降时自动故障转移。如果新路径最终比发布文章所说的更差，回退已经接好，切换只需一条路由规则，而不是一个集成项目。对比中自托管的那一半从中得不到任何好处，因为没有什么可路由的。

决策规则

当模型必须“看见”某些东西——一页文档、一张扫描件、一段视频片段——或者数据不能离开你的基础设施，或者你打算用自己的样本做后训练时，就选 Nemotron 3.5 Super VL 120B-A12B。要诚实地为硬件做预算：BF16 下四块 H100，或 NVFP4 下两块 H100，都是实打实的资本投入；而榜单上的 26 分是同类相对评分，不是前沿水平。要接受这一点：它的指令遵循和长上下文两项，是它自己表格里较弱的部分。

当有人在等一条文字回复、且重试不产生任何费用时，选择 Mercury 3。在基于它构建之前，先接受两件事：1,068 tokens 每秒是供应商给出的数字，没有独立复现；默认 effort 设置为“low”——因此你自己跑的任何基准测试，只有在你明确固定为 instant、low、medium 或 high 时，才能与别人的结果相比较。按标价 $0.20 和 $0.70 做预算，因为发布折扣没有公布结束日期，而基于 $0.10 和 $0.35 构建的成本模型有一个你看不见的到期日。

最能最快改变答案的，是双方都做同一件事：由第二方运行同样的测试。如果 Artificial Analysis 发布 Mercury 3 的页面，吞吐量声明就变得可核查，质量问题也不再只是发布博文里的一句话。如果 NVIDIA 公布 BF16 与 NVFP4 之间的准确率差值，低成本部署层级就不再是盲目信任。在这两者任一落地之前，诚实的总结是：其中一个模型已被测量，另一个只是被描述，而再多的规格表对比也弥合不了这个差距。