Nemotron 3.5 Super VL 以不到一半的权重媲美 Inkling Small

本周有两个模型在 Artificial Analysis Intelligence Index 上并列 26 分，而有趣之处在于它们各自为达到这一分数投入了什么。NVIDIA Nemotron 3.5 Super VL是一个拥有 1200 亿参数、激活参数为 120 亿的混合专家模型。Inkling Small是 Thinking Machines 七月发布的一款拥有 2660 亿参数、激活参数为 120 亿的混合专家模型。相同分数，相同激活预算，磁盘上的权重却不到一半。基准测试表说明了模型能得多少分；事故记录则说明了这类发布在生产环境中会如何失败，而这些案例都收录在OrcaRouter AI Incident Archive中，每条记录都带有自己的来源、严重程度、置信度评级和争议标记。

这就是上周美国开放权重模型的格局，而且比 NVIDIA 于10月15日星期四发布的发布文章所讲的故事更精彩。这篇公告将Nemotron 3.5 Super VL与Nemotron 3.5 Bolt 74B-A9B 24GB搭配在一起——一个被压缩进 24 GB 内存的 740 亿参数模型——并预告了第三款 Nemotron 3.5 Bolt E4B 4GB，将于10月23日推出。八天内推出三款模型、覆盖三种内存占用，这不是发布节奏；这是一种产品组合论证，而这个论证就是：每 GB 能力现在才是真正重要的数字。

发布了什么，以及是在哪一天

这些日期值得精确说明，因为NVIDIA自己的材料之间相差三天，而这种差异具有启发意义，而非丑闻。

• 权重 — BF16 仓库 nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 于 2026-10-12T15:32:06Z 在 Hugging Face 上创建；24 秒后创建了对应的 NVFP4 仓库，而一个后训练前的基础检查点则比它早 17 秒创建。

• 公告——NVIDIA 新闻室发布的文章所载发布日期为 2026 年 10 月 15 日。模型卡自身的发布字段显示为 10/15/2026，版本 1.0 GA。

• Bolt 74B — 其 24 GB 仓库远早于公告就已存在，创建于 10 月 7 日，当晚 Hub 上还出现了 GGUF 构建。博客将其描述为于 15 日与 Super VL 一同发布。

• Bolt E4B — 已宣布将于10月23日发布，截至撰写本文时尚未公布权重。

所以，公开的产物先于公开的叙述文字抵达。任何依据新闻稿来为某次部署定日期的人，都会比一个早已可下载的模型晚三天；而任何依据代码仓库来定日期的人，引用的则是 NVIDIA 从未承认过的时间戳。两者都站得住脚；但只写"10 月 15 日发布"而不提及 12 日，才是那个会丢失信息的版本。

分数是无聊的部分。分母才是故事所在。

NVIDIA 对 Super VL 的宣传卖点是速度——“与同级别其他模型相比，吞吐量最高可提升至 5 倍”，该说法引用自 Artificial Analysis 排行榜。这一说法目前仍未得到完全验证，下文将对此进行讨论。而关于此次发布，有一项更经得起检验的事实：在同一评测面板上，该模型得分为 26，而其 3 月的前代产品 NVIDIA Nemotron 3 Super 120B A12B 仅得 13 分，且两者的模型规模实际上完全相同。

• 参数——总计 120B，激活 12B，每个 MoE 层有 512 个路由专家。3 月的模型总计 120.6B，激活 12.7B。这并不是一个更大的模型。

• 智能指数——26 对 13，据 Artificial Analysis，两者均标注为非估算值。在相同的参数预算下，大约翻倍。

• 每个 Index 任务的输出 token 数——约 49,000 对约 114,000。新模型以大约少 57% 的 token 完成同一评估，这正是这一跃升很大一部分背后的机制：它不再过度思考。

• 对比 Inkling Small——两者均为 26。Super VL 以 120B 总参数实现这一表现，而 Inkling Small 为 266B，且两者每个 token 均激活约 12B。

• 对比 Nemotron 3 Ultra 550B A55B — 23。NVIDIA 的新中型模型比自家 5500 亿参数的旗舰模型高出三个点，而规模大约只有后者的四分之一。

这两条效率轴经常被混为一谈，因此值得把它们区分开来。活跃参数决定生成一个 token 的成本。总参数决定检查点存储、加载和常驻所需的成本。Super VL 在两方面都有改进：它将活跃参数稳定保持在 12B，同时总参数相对 Inkling Small 大约减半；并且它将总参数稳定保持在 120B，同时得分相对自身前代大约翻倍。一个只在一条轴上有所改进的模型仍然会值得注意。而这一次在同一发布中同时做到了两者。

Bolt 是这次发布中较为低调的那一半，它没有独立评分

24 GB 模型是大多数团队实际能在自有硬件上运行的模型。Nemotron 3.5 Bolt 74B-A9B 24GB 是一个拥有 740 亿参数的专家混合模型，其中 90 亿为激活参数；它在训练期间而非训练后就将每个专家量化到约 2.06 比特，具有 262,144 个 token 的上下文，并与其更大的同系列模型采用相同的 OpenMDW-1.1 条款。它是 Mamba-2 与 Transformer 的混合架构，配备 C-RADIO v4-H 视觉编码器，因此可接受文本、图像和视频输入，并返回文本。

NVIDIA 的显卡在其自有测试框架上报告：GPQA-Diamond 86.43，无工具 HLE 25.30，Terminal-Bench 2.1 50.98，SciCode 41.02，BrowseComp 66.75，PinchBench 87.82，WebArena 视觉 50.86。所有这些均由厂商运行且未经复现。在独立评测小组中，该模型的总指数为 21——对于能装进单张 24 GB 显卡的东西来说，这是确实强劲的结果，同时也提醒要谨慎对待厂商数据表，因为 GPQA-Diamond 上的 86.43 与 21 的综合指数并列出现，容易诱使人们对单行数据过度解读。

下载分布本身就说明了问题：Bolt 的 GGUF 版本下载量已超过 87,000 次，而 BF16 Super VL 仓库约为 18,700 次。人们能在一台笔记本上跑起来的模型，才是人们真正在下载的模型。这并非对模型质量的评价，而是对"开放权重"究竟为何存在的评价。

美国实际处于什么位置

效率提升是真实的，但“领先地位”这一说法需要一个限定条件，而 NVIDIA 的帖子并未提供。在独立评测小组中的美国实验室开放权重模型中，Meta Muse Spark Open 得分为 39，领先于 NVIDIA 上周发布的所有模型。它还在 Hub 上以定制商业许可证实行受限访问，这使其与可根据 OpenMDW-1.1 无需向任何人申请即可下载的检查点处于不同的采用类别。

• Muse Spark Open — 39，需授权访问，定制许可证。

• Nemotron 3.5 Super VL — 26，无门槛限制，OpenMDW-1.1，总参数 120B / 激活参数 12B。

• Inkling Small — 26，宽松许可，总计 266B / 活跃 12B。

• Nemotron 3.5 Bolt 74B-A9B — 21，无需申请授权，占用 24 GB 空间。

• GPT-5.5 Instant — 26，已关闭。

中国开放权重领域仍是另一个话题。在同一评测面板上，MiMo-V2.6-Pro 为 46，GLM-5.3 为 45，Kimi K3 为 44，因此美国最强的宽松许可模型大约落后中国最强模型 20 分。NVIDIA 对这一差距的回应不是更大的模型，而是用你自己的数据进行后训练，并随权重一同发布数据集、配方和强化学习环境。这是否能弥合任何差距，本次发布并未给出答案；任何声称能的人，都是在从基准测试中读出意图。

本周衡量了什么、宣称了什么，以及什么发生了变化

发布时，5倍吞吐量的说法毫无依据：Artificial Analysis 当时列出该模型时根本没有给出速度数据。如今情况已经改变。该榜单现在记录的输出速度约为每秒430个token，在其对比集合的28个模型中排名第一。因此，这一说法的一部分如今有了第二方佐证：该模型确实很快，而且不是略快。仍未得到验证的是倍数。“比次优者快5倍”需要明确指出次优者是谁，并配以相匹配的测试框架，而博客文章和模型卡都没有提供其中任何一项。

价格形势也发生了变化，而且其变化方式比整体通胀率更重要。

各提供商的中位数为每百万输入 token $0.225、每百万输出 token $0.575，并享有 78% 的缓存折扣（据 Artificial Analysis）。

• 在公布费率的提供商之间存在价差——同一检查点的输入价格为 $0.10 至 $0.20，输出价格为 $0.40 至 $0.50。

• 每个 Index 任务的成本 — 0.19 美元，这正是低廉价格与高 token 用量交汇之处。

• 冗长程度——在 Index 运行期间消耗了 1.7 亿个输出 token，而中位数为 1 亿，因此被标记为略显冗长。低成本输出加上长输出并不自动意味着低成本。

相同权重下输入价格出现 2 倍价差，是本周的实际发现。模型在任何地方都是同一个文件；计价表却不是。这支持把提供商选择当作路由决策，而不是采购决策——而这正是我们自己的产品恰好能处理的故事中的一部分，且这一说法的诚实版本范围很窄。Nemotron 3.5 Super VL 不在我们的目录中：OrcaRouter 模型列表返回略多于 200 个模型 ID，今天没有 NVIDIA 条目。路由器在这里的价值在于，一旦某个检查点真正落地，它 就会以提供商标价、0% 加价上线，而如此新的模型可以置于自动故障转移之后，而不是放在生产路径的根部。这两点都不是购买该模型的理由。它们是不签合同去试用它的理由。

有三件事值得关注，其中一件还有九天就到了

第一个是 10 月 23 日发布的 Bolt E4B。一款 4 GB 的视觉语言模型，如果得分能接近其 24 GB 的同类产品，那它将是三者中更具影响力的发布，因为它改变了“什么样的硬件才算够用”的标准。

第二点是对量化检查点的独立评估。本文中所有来自 NVIDIA 的数字，都是在全精度或厂商测试框架构建上测得的。NVFP4 文件是大多数人实际会部署的版本，而它没有已发布的第三方评分。NVIDIA 自己的说法是，相对于 BF16 的中位准确率恢复率为 99.62%——这是厂商数据、来自厂商测试框架，也是此次发布中最关键、最承重的未经核实数字。

第三点是价差是否会收窄。对于同一个开放检查点，最便宜和最贵的服务器之间存在 2 倍差距，这表明市场尚未稳定；而它最终朝哪个方向稳定下来，将比任何单条基准测试结果更能说明开放权重推理在未来六个月的走向。

分数是头条。具有相同激活预算的半尺寸检查点，才是一年后仍然重要的东西。