一张生成的标题卡,对比 NVIDIA Nemotron 3.5 Super VL 与 NVIDIA Nemotron 3 Ultra 550B-A55B,分为四个面板:参数方面,120B 总量和 12B 激活,对比 550B 总量和 55B 激活;注意力机制方面,混合 Mamba-2 与 MoE,对比 LatentMoE;硬件门槛方面,4xH100 或 2xGB200,对比 16xH100 或 8xGB200;模态方面,Super VL 支持文本、图像和视频,对比 Nemotron 3 Ultra 仅支持文本。页脚注明,所有数据均来自 NVIDIA 自家的模型卡,且没有任何第三方发布过独立对比。OrcaRouter 标志合成在右下角。
Engineering & Research

Nemotron 3.5 Super VL 对比 Nemotron 3 Ultra:比旗舰更便宜,还是只是更小?

作者

Gideon Frost

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

NVIDIA 有三档 Nemotron 3.5,其中一档对规划者来说是个陷阱。NVIDIA Nemotron 3 Ultra 550B-A55B于 2026 年 6 月 4 日发布,是该系列的旗舰:5500 亿总参数、每 token 激活 550 亿参数、带多 token 预测(Multi-Token Prediction)的 LatentMoE 层、100 万 token 上下文,并明确要求至少 16 块 H100 或 8 块 GB200。NVIDIA Nemotron 3.5 Super VL的权重于 2026 年 10 月 12 日登陆 Hugging Face,NVIDIA 随后在 10 月 15 日发布公告;它是低一档的型号:1200 亿总参数、120 亿激活参数、同样 100 万 token 的上下文、一个 C-RADIO 视觉编码器,最低配置为 4 块 H100 或 2 块 GB200。NVIDIA 自己为 Super VL 制作的规格页直接拿它与 Ultra 对标,并声称在参数量约为其五分之一的情况下,准确率已接近 Ultra 的水平。这一说法是厂商自报、未经复现,而整个对比就系于这一句话。

真正决定部署的算术

从这两个检查点在物理上需要什么开始,因为那才是预算负责人签字批准的数字。

• 总参数量——Super VL 为 120B,Ultra 为 550B。权重占用约为其 4.6 倍,而占满 GPU 的正是这些权重。

• 每个 token 的激活参数——12B 对 55B。每个 token 的计算量随它扩展,而不是随总量扩展,这就是为什么两个模型的运行成本都远低于其规模所暗示的水平——也是为什么它们之间的差距在内存上是 4.6×,在每 token 的算术量上同样是 4.6×。

• 最低硬件配置——Super VL 需要 4×H100 或 2×GB200;Ultra 需要 16×H100 或 8×GB200。实际来说,就是一个节点对一整个机架。

• 模态——Super VL 支持输入文本、图像和视频;Ultra 为文本输入、文本输出。Ultra 完全没有视觉通路。

• 注意力设计 —— Super VL 是交错式 Mamba-2、专家混合与注意力的混合架构,每个 MoE 层有 512 个路由专家;Ultra 采用 NVIDIA 的 LatentMoE 方案。两者都带有用于推测解码的 MTP 头。

• 许可证 — OpenMDW-1.1,权重与配方两者均可商用、均开放。

这六行所呈现的模式是:Super VL 并不是缩水版的 Ultra。它是一种不同形态的模型:具备视觉能力,内存占用小得多,而且——尤为关键的是——可部署在中等规模团队可能已经拥有的硬件上。Ultra 的入门门槛是数据中心级的议题。Super VL 的入门门槛是一台正经的推理节点。

A generated two-column scoreboard for NVIDIA Nemotron 3.5 Super VL against NVIDIA Nemotron 3 Ultra 550B-A55B across six dimensions. The Super VL column reads: total parameters 120B; active per token 12B; hardware floor 4x H100 or 2x GB200; modalities text, image and video; attention scheme Mamba-2 and MoE hybrid; licence OpenMDW-1.1. The Ultra column reads: total parameters 550B; active per token 55B; hardware floor 16x H100 or 8x GB200; modalities text only; attention scheme LatentMoE; licence OpenMDW-1.1. A footer states that all figures are NVIDIA-reported from NVIDIA's own model cards and unaudited by any third party, and that the claim Super VL matches Ultra's accuracy is vendor-reported and unreproduced. The OrcaRouter logo is composited in the bottom-right corner.

多出的430亿活跃参数能换来什么

一般推理情况

Ultra 的定位是居于 NVIDIA 产品阵容顶端,专为纯文本推理打造;NVIDIA 在 6 月发布时,将其与六款当代前沿模型在知识、数学、编程和长上下文测试套件上进行了基准对比。这些数字,如同本比较中的每一个数字一样,都来自 NVIDIA 的评测框架,而非独立评估方,因此它们说明的是 NVIDIA 测到了什么,而不是第三方会测到什么。

A screenshot of NVIDIA's own announcement page for the Nemotron 3.5 family, the vendor document that both model cards in this comparison are drawn from, showing the announcement header and the opening of the vendor's description of the release, including the parameter counts and hardware floors the article cites.

多模态案例

这正是对比发生反转的地方。Ultra 无法读取页面。如果工作涉及文档、表格、图表、截图或视频帧,那么旗舰模型根本不在候选之列,而家族中最大的模型无论其推理指数有多好,都与你的问题无关。Super VL 的视觉编码器和连接器正是为这类工作负载而存在,而其公开的强项——OCR、从视觉文档中进行结构化提取、多步骤业务工作流——所描述的是一项与 Ultra 所调优的任务不同的工作。

长上下文场景

两者都能达到 1M token。NVIDIA 用一个专门的 350 亿 token 阶段扩展了 Super VL 的上下文,随后又做了一轮长上下文恢复,这比单看最大长度是更强的信号:它意味着长输入被视为一种需要保留的能力,而不是一个用来宣传的缓冲区。Ultra 通过自己的训练流程达到了同样的窗口。在没有对二者进行独立长上下文评估的情况下,就把它当作平局,只不过可合理认为,你自己的检索轨迹显示能在超过 200k 后仍撑住的模型略占优势。

服务一方或双方,以及层级陷阱

陷阱在于假定这一家族是一架你向上攀爬的梯子。它更像是一种分区,而分区的划分依据是每任务成本,而非能力。一个需要两块 GB200、完成文档任务比同级别快五倍的 12B 激活参数模型——如果 NVIDIA 的吞吐量说法成立——在该任务上胜过 55B 激活参数模型,无论哪一个更聪明,因为更聪明的那一个只能空等着更快的那一个把队列清空。把任务换成不含像素的长时程编程或数学问题,Ultra 多出来的参数就在做真正的工作。

这两者都不在我们的目录中,而这一点值得明确说明,而不是用一句含糊的话让人误以为相反:OrcaRouter 不提供 NVIDIA Nemotron 3.5 Super VL、Nemotron 3 Ultra 550B-A55B,也不提供任何其他 NVIDIA 检查点。它们是需要你自己部署的权重。在这样一个决策中,路由层所贡献的是测量能力,而非访问权限。路由 DSL 让你可以把同一个提示词交给两个上游模型,并排阅读它们的回答,因此,用 12B 激活参数的候选模型去评测 55B 激活参数的现有模型,只需改一次配置,而不是两个集成项目。自动故障转移之所以重要,原因正好相反:如果你所路由到的托管模型在流水线中途性能下降,请求会被转移而不是失败,这为那些将 Super VL 自托管作为主路径的团队保留了一条可用的回退通道。而对于那些不应由任何自托管层承担的部分工作负载——突发流量、罕见模态、一次性的大上下文任务——一个密钥背后即可访问的目录,超过两百个模型,按提供商标价 0% 加价,正是这些请求的去处。

对那段话最诚实的表述是:这两个模型,我们都不是供应商。我们是那一层——让对比跑起来成本很低,让升级路径维持下去成本也很低。

A screenshot of the Artificial Analysis model page for NVIDIA Nemotron 3.5 Super VL, showing an Intelligence Index of 26 in the third-party panel alongside that page's parameter, context-window and licence fields. No comparison row against Nemotron 3 Ultra is present on the page.

承诺前需要验证的说法

上述一切归结为一个未经证实的句子:一个拥有120B参数、其中12B活跃的模型,在参数数量大约只有五分之一的情况下,就能与NVIDIA最大的推理模型相匹敌。如果这一点成立,那么对于混合工作负载,Super VL是更好的默认选择,而Ultra则保留给那些真正需要它的少数尾部问题。如果它不成立——而且在发布一天后,NVIDIA之外还没有人进行过测量——那么这两个层级就只是同一事物的不同规模而已,选择就退回到你的任务需要什么:是像素还是无像素,是一个节点还是一个机架。

这个测试成本低且针对性强。从你自己的任务队列中取出五十个有可核查答案的真实任务,分别在两者上运行,并按完成情况打分,而不是按基准分数。决定你为哪个档位购买硬件的,是那个数字,而不是 NVIDIA 的数字——而且当下一个 Nemotron 版本发布、这个页面被重置时,仍然成立的就是这个数字。