一张为 NVIDIA Nemotron 3.5 Super VL 生成的标题卡,标注为“开放权重——2026 年 10 月 15 日发布”,主标题为“120B 开放视觉语言 MoE”,副标题为一个采用 C-RADIO 视觉编码器的 Mamba-2 混合专家模型,上方有四张规格卡,分别写着:参数 120B 总量 / 12B 激活,上下文最高 1M tokens,输入为文本、图像、视频到文本,以及许可证 OpenMDW-1.1 商业使用;脚注说明所有数字均由 NVIDIA 厂商报告,且该检查点尚无已发布的独立基准测试,右下角带有 OrcaRouter 标志。
Guides & Insights

Nemotron 3.5 Super VL:NVIDIA 的 120B 开放视觉模型发布,而 5 倍的说法还没有记分牌

作者

Rowan Sterling

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

NVIDIA Nemotron 3.5 Super VL 于2026年10月15日发布——一个开放的1200亿参数视觉语言模型,具有开放权重、开放数据集和训练配方,并附带一个目前无人能够核实的说法。该公司的发布文章称其为“同类中最快的开放智能体模型——比排名第二的快5倍”,并将这一数字归因于 Artificial Analysis Intelligence Index 排行榜。截至本文撰写时,Artificial Analysis 根本没有列出 Super VL;其 Nemotron 3.5 条目止步于 Nemotron 3.5 Lightning。这并不能使该说法成为假的。它只说明这是厂商自行报告的说法,在第三方运行该检查点之前,都应当这样理解。

另一件值得先说清楚的事,是中间存在三天的空档。权重在 2026-10-12T15:32Z 上传到 Hugging Face——BF16 后训练版本、基础模型和 NVFP4 版本彼此相差不到一分钟——而公告文章直到 10 月 15 日 15:00Z 才出现,模型卡自己的发布日期字段也仍写着 10/15/2026。N​VIDIA 是先上传、后公告。这如今已是开放权重发布的常态形态:仓库才是第一手来源,博客文章只是解说。

实际发布了什么,以及什么没有发布

三个 Super VL 检查点现已全部上线:

• N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16 —— 全精度后训练模型,即参考版本,也是用于微调的基础模型。

• N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4 — 量化部署版本,使用 N​VIDIA Model Optimizer 并通过量化感知蒸馏从 BF16 模型生成。

• N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 —— 后训练前的基础版本,适合想自行进行后训练、而不是在 N​VIDIA 的后训练版本上做适配的用户。

还有第四个仓库,N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr,它不是一个你向其发送提示的模型。它是一个投机解码草稿检查点:将其与 NVFP4 目标模型一起加载,它会在主模型之前提出 token。它自己的模型卡将其日期标为 10/15/2026,并描述它面向为 DGX Spark 和低并发数据中心工作负载调优的 LiLiCorr 部署。

有两样东西没有一并交付,而每一样都很重要。没有价格。NVIDIA 的公告称,该模型以 NVIDIA NIM 微服务的形式提供——公司称这是一种生产级微服务,每两周就会通过安全补丁和性能优化进行更新——但公告中任何地方都没有公布按 token 计费的数字,无论是对 NIM 还是对承载它的第三方平台而言皆是如此。而且由于上述原因,也没有独立测得的速度数据。接下来两节中的所有内容均出自 NVIDIA 自己的说法。

用一段话讲清楚架构,因为它能说明部署的来龙去脉。

Super VL 是一种 Mamba-2–Transformer 混合专家模型:交错堆叠的 Mamba-2、MoE 与注意力层,每个 MoE 层有 512 个路由专家,另有一个 C-RADIO 视觉编码器和一个视觉-语言连接器,挂接在语言主干上。总参数量 120B,每个 token 激活 12B。上下文长度最高达 1M token,并原生内置多 Token 预测,LiLiCorr 草稿检查点正是利用了这一特性。输入为文本、图像和视频——视频为不超过两分钟的 MP4,按帧采样——文档可作为页面图像连同文本一起输入。输出仅为文本。

这个形态正是部署表成为文档中最有用部分的原因。NVIDIA 的 BF16 版本需要 4× H100 或 2× GB200。NVFP4 版本则需要 1× DGX Spark、1× H200、2× H100 或 1× GB200。这两行之间的差距,正是量化检查点存在的全部理由,它也是"你租来的 120B 模型"与"摆在桌上的 120B 模型"之间的区别。

N​VIDIA 公布的基准测试,以及它们存在的两个问题

将这一切都标注为厂商自报。NVIDIA 通过 NeMo Gym 评估了 Super VL,并公开了配方、容器、提示词和评分设置——这比大多数实验室做得都多——但模型由 NVIDIA 自己训练,基线由它挑选,测试框架也由它运行。这里没有任何一项在公司外部得到过复现。

A generated two-column scoreboard titled 'NVIDIA Nemotron 3.5 Super VL - the scoreboard'. The left column, headed 'Stated by NVIDIA' and labelled vendor-reported and unreproduced, lists 120B total / 12B active parameters, up to 1M tokens context, text plus image plus video to text, SWE-bench Pro 51.78, GPQA-Diamond 89.52, NVFP4 accuracy recovery 99.62% median, 4,856 tokens per second per GPU on one GB200, and the OpenMDW-1.1 licence. The right column, headed 'Not yet established' and labelled that no third party has measured it, lists no published independent benchmark, Terminal-Bench 2.1 conflicting at 66.70 versus 60.67, no published price on any platform, the 5x-faster claim unverifiable, document accuracy untested, latency under production load untested, vLLM and SGLang named as supported runtimes, and a first checkpoint dated 2026-10-12.

此次发布所倚重的是智能体指标。SWE-bench Verified 71.10、SWE-bench Multilingual 67.72、SWE-bench Pro 51.78、tau2-bench 零售 69.24、航空 76.50、电信 73.19、BrowseComp 78.91,以及 GraphWalks 89.71(在超过 100 万 token 的设置下)。在推理方面,GPQA-Diamond 89.52,无工具的 HLE 31.79,使用工具时升至 46.01——N​VIDIA 指出,最后一个数字来自一套独立的内部测试框架,而非标准路径。

在视觉方面,相对于 8 月的纯文本 Nemotron 3.5 Lightning,新增能力为:CharXiv-RQ 80.82、MathVision 78.16、V* 85.60、OCR-Reasoning 65.08、OCRBench-v2 英文 68.12、中文 59.15、MMLongBench-Doc 62.82、OSWorld 52.14,以及 Video-MME-v2 32.85。

现在这两个问题。

首先,Terminal-Bench 2.1 的那个数字被提了两次,却自相矛盾。模型卡片给出的是 66.70。技术报告的汇总表给出的则是 60.67。这两份文件里的其他内容都能对得上,所以这并不是两个不同的模型——而是同一个数字在 N​VIDIA 自己的文件里带着两个取值,在那些配方被重新跑过之前,引用哪一个都不安全。这种事,一次独立复现一个下午就能定论,而这恰恰就是本周缺了这么一次复现之所以要紧的原因。

第二,主打的效率宣称与主打的智能宣称彼此背道而驰,而其中只有一个是可验证的。NVIDIA 称,Super VL 在多模态智能体任务上的准确率“在参数量约为 NVIDIA 最大推理模型五分之一的情况下可与之媲美”——Nemotron 3 Ultra 550B A55B 有 55B 激活参数,而 Super VL 为 12B,比值是 4.6×;报告称,Super VL 在 SWE-bench Pro 上的 51.78 分确实超过了 Ultra。好吧。

但看看 Super VL 确实落后的那几列。MMLU-ProX 76.91,对比 Qwen3.5-122B-A10B 的 83.2 和 Qwen3.8-Flash-Next 的 83.0。AA-Omniscience 准确率 26.20,接近该基准的下限,也低于 DeepSeek-V4-Flash-0731 的 45.0。Video-MME-v2 32.85,对比 Qwen3.8-Flash-Next 的 45.1。BabyVision 29.60,对比 46.8。Agentic-terminal 为 60.67 或 66.70,对比 85.80。在这个权重级别中,Super VL 在大多数行上都不是准确率领先者;它是一款 12B 激活参数的模型,NVIDIA 推销它靠的是速度和单次调用所能摄入内容的广度,而不是在每一项上都击败一切。

A generated six-row table card titled 'Where Nemotron 3.5 Super VL trails, on NVIDIA's own table', comparing NVIDIA's reported figures against Qwen3.8-Flash-Next on the same evaluation suite: Video-MME-v2 32.85 versus 45.1, BabyVision 29.60 versus 46.8, Terminal-Bench 2.1 60.67 or 66.70 versus 85.80, MMLU-ProX 76.91 versus 83.0, SWE-bench Pro 51.78 versus 60.37, and V* 85.60 versus 93.0, footnoted that all figures are vendor-reported by NVIDIA from a single NeMo Gym evaluation suite and that neither model has been independently re-run on these rows.

效率数据,那些才是真正有意思的

撇开那些智能方面的比较不谈,工程数据是实实在在的:

• 投机解码——N​VIDIA 的训练后 MTP 增强将贪心解码下的平均接受长度从 4.287 个 token 提升至 4.718 个,并将概率性草稿采样下的平均接受长度从 3.787 个提升至 4.612 个。

• 量化——已发布的 NVFP4 检查点在 36 项基准测试中的中位数恢复了 99.62% 的 BF16 精度,因此按 NVIDIA 自己的衡量标准,部署版本几乎是无损的。

• 吞吐量——在单个 GB200 上,于 20 轮智能体代理工作负载下,最高可达 4,856 个输出 token/s/GPU,同时保持每用户至少 50 tokens/s;相同条件下,NVFP4 的吞吐量是 BF16 的 2.43 倍。

相对吞吐量 —— 在该工作负载下,达到 Qwen3.5-122B-A10B 的 2.34 倍,以及 Qwen3.8-Flash-Next 的 1.90 倍。

• 服务栈 — 在 NVIDIA Dynamo 上,NVIDIA 声称并发用户数最多可提升 8 倍,延迟降低 85%。

这些全都是厂商给出的数字。其中任何人都最容易伪造的是 4,856 tokens/s/GPU 这个数字,因为它是特定 GPU 和特定工作负载的属性,而不是在评分测试框架下执行的一次基准测试运行的属性。

提供它的服务,以及这两种配置在硬件上会花费你多少

vLLM 和 SGLang 均被列为受支持的运行时,NVIDIA 还提供了可用的启动配置:在 BF16 下于 4× H100 上采用四路张量并行与三个 MTP 草稿 token,在 2× GB200 上采用两路张量并行与五个草稿 token。硬件覆盖范围为 Hopper 和 Blackwell,仅限 Linux;NVIDIA 在客户端侧列出了 DGX Spark、DGX Station、RTX PRO、RTX 和 Jetson——这正是该模型所对标的同一芯片阵容。

对于在发布日阅读此内容的团队来说,实际的决策是拉取哪个检查点。如果你在进行微调,BF16 版本是唯一合理的起点,因为 NVFP4 版本已经经过了量化感知蒸馏,进一步的训练无法与之干净地组合。如果你在进行推理服务,NVFP4 版本是能适配单个 H200 或 DGX Spark 的那个,并且 99.62% 的中位恢复率使其成为默认选择,除非你测量到了特定的回归。只有当你打算编写自己的训练后流水线时,拉取基础模型才有意义,而那是另一个项目。

Super VL 实际上是用来做什么的

阅读 N​VIDIA 自己的表述,目标明确而具体:能够消化视觉文档的常驻企业智能体。公告中的示例是一个网页——提取文本、读取图表、返回发现——同样的主张也延伸到 PDF、表格和结构化文档。用一个模型取代文本模型加独立视觉流水线的理由在于上下文连续性:文档、数据和决策留在同一个窗口内,而不是在系统之间传递。

这一说法在规格表上站得住脚,因为上下文窗口有 1M tokens,而且视觉编码器是联合训练的,并非事后硬加上去。它在 1M tokens 下面对真实文档时是否还成立,正是 GraphWalks 和 MMLongBench-Doc 这两组数字所针对的问题,而两者都是由厂商报告的。

N​VIDIA 在发布帖中还列出了一长串采用者名单——Scale AI 为 Skydance 和 EY 构建智能体,AfterQuery 用于 Hebbia 的信贷协议分析,AI21 和 Alice 负责网络安全,Mercor 负责编程智能体,此外还有 Atlassian、CrowdStrike、Dassault Systèmes、Perplexity、Salesforce 和 Synopsys 等集成方。这些是新闻稿中点名的合作伙伴关系,属于意向声明,而非生产流量的证据。应将该名单视为 N​VIDIA 瞄准哪些垂直领域的信号,而非可靠性声明。

如何在不拿生产路径冒险的情况下试用它

本周诚实的立场是,Super VL 是一个有趣、文档齐全、完全未经证实的开放模型,而评估一个未经证实的开放模型的正确方式,并不是在第一天就把生产流量路由到它上面。

在本地,单块 H200 或一台 DGX Spark 上的 NVFP4 构建版本就是低成本的测试:拉取检查点,用你自己的文档集跑一遍,再与你现在使用的任何视觉模型对比。这只花费 GPU 时间,没有其他成本,而且这是获得非 NVIDIA 数字的唯一途径。NVIDIA 自己的文档给了你一个免费的先发优势:模型卡和技术报告都规定文本使用 temperature 1.0 和 top_p 0.95,视觉使用 temperature 0.6 和 top_p 0.95——这个起点,否则你得花一天时间才能重新摸索出来。

如果你更想通过 API 来测试它,那么可用性这一点就很关键:Super VL 已上架 Hugging Face,也作为 NVIDIA 自家的 NIM 微服务提供,还可通过多家第三方平台使用。NVIDIA 并未公布上述任何渠道的价格,因此你本周看到的任何按 token 计费的数值,都是平台定的,而非厂商定的。在 OrcaRouter 这边,Nemotron 3.5 Super VL 并不在我们的目录中——我们目前不提供它,所以这里暂时没有可供试用它的途径,而我们宁愿直说,也不愿暗示并非如此。我们确实提供的所有模型,都只需一个密钥即可调用,涵盖 200 多个模型,按供应商标价提供,零加价;而且当某个模型可从多个供应商获取时,跨供应商的自动故障转移让你可以把一小部分流量导向新模型,一旦它出问题就回退到原有模型。这正是这类发布所需要的机制;但它并不代表我们承诺提供这个特定的 checkpoint。

A screenshot of NVIDIA's own launch post for Nemotron 3.5 Super VL and the Bolt edge models, showing the headline '5x faster, accurate and customizable Nemotron 3.5 Super VL expands NVIDIA's open models for always-on agents', the October 15, 2026 dateline and Kari Briski byline, the opening paragraph announcing the 120-billion-parameter release, and the section heading 'Nemotron 3.5 Super VL: Frontier Accuracy at One-Fifth the Size'.

这次发布中还有一点值得一看,无论你是否想要这个模型:NVIDIA 同时发布了其训练后数据集——涵盖智能体工具使用、金融、指令遵循、长上下文、公平性以及视觉语言理解——以及 NeMo Gym 中的 RL 环境。数据集的发布往往比检查点更具可复用性,而且它是这次发布中 NVIDIA 最舍不得拱手相让的部分。

看什么

四件事会改变这篇文章,大致按它们的重要性排序。

第一个独立基准测试——无论是出自 Artificial Analysis 还是别的任何一方——要么给出 5 倍宣称所隐含的那个 Super VL 条目,要么就交不出来。在那之前,此次发布的核心效率宣称,不过是一句挂着某个排行榜名头的新闻稿措辞;而那句限定说明,本该和这个数字在同一口气里说出来。

价格。N​VIDIA 已经告诉了你硬件、运行时和许可,却唯独扣下了买家用来将其与闭源模型作比较时所需要的那一个数字。等到 NIM 的定价出现时,这种比较就会变成算术,而不是定位。

Terminal-Bench 2.1 的差异——模型卡上的 66.70,技术报告中的 60.67。无论哪个正确,NVIDIA 的两份主要文档中必有一份是错的,而一次修正后的重跑将同时解决其他几行。

以及从“现已可用”到“真正被服务”之间的那段路。Super VL 的基准测试各项将其与 Qwen3.5-122B-A10B、Qwen3.8-Flash-Next、DeepSeek-V4-Flash-0731、GLM-5.3-Flash 和 N​emotron 3 Ultra 550B A55B 进行对比——这些模型都已足够成熟,拥有实测吞吐量、真实价格和生产环境中的实绩。一个激活参数量为 12B、能在单次处理中接收视频、100 万 token 文档和工具调用的模型,是一种确实有用的形态。它能否赢得一条路由规则,取决于负载下的延迟和价格稳定性,而 N​VIDIA 只在自己的硬件上、按自己的工作负载、以自己定义的单位公布了其中第一项数据。

基准测试会过时,价格会变动,但失败记录不会:这一类模型背后有据可查的 AI 事故与智能体故障,均收录于OrcaRouter AI 事故档案库,其中每条记录都带有各自的来源、严重程度、置信度评级和争议标记。

本文中的对比1

根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新