一张生成的标题卡,标题为“新闻——权重提前三天上线”,正文为“NVIDIA Nemotron 3.5 Super VL 现已成为许可最宽松的美国开放权重模型”,并带有四个统计面板:Artificial Analysis 智能指数为 26.49,而 Nemotron 3 Super 为 12.83;每项指数任务输出 49,174 个 token,而后者为 113,823 个;总参数 120B、激活参数 12B,每个 MoE 层有 512 个路由专家;权重于 10 月 12 日上线 Hugging Face,而 NVIDIA 的公告日期为 10 月 15 日。OrcaRouter 标志合成在右下角。
Guides & Insights

NVIDIA Nemotron 3.5 Super VL 是美国顶级的宽松许可开放权重模型,其权重比自身公告提前三天发布

作者

Gideon Frost

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

时间戳是没人写下来的那部分。BF16 仓库对应NVIDIA Nemotron 3.5 Super VL——全名 nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16——于 2026 年 10 月 12 日 15:32:06 UTC 在 Hugging Face 上创建,同时还有一个二十四秒后出现的 NVFP4 构建,以及一个比它早十九秒的基础检查点。NVIDIA 宣布该模型的博客文章日期为 10 月 15 日。因此,在大约七十二小时里,NVIDIA 最强的开放视觉语言模型的权重可供下载、被索引,并被第三方量化,而训练它的公司却完全没有发布任何东西。这既不是泄露,也不是丑闻。这是一种发布流水线:制品先于文案发布;这一点值得直说,因为本文其余部分都是关于数字,而数字有自己的时间戳。在 Artificial Analysis Intelligence Index 上,NVIDIA Nemotron 3.5 Super VL 得分为 26.49,非估算值。它的前代,NVIDIA Nemotron 3 Super 120B A12B,于 2026 年 3 月 11 日发布,在同一评测中得分为 12.83。这是得分的 2.06 倍,而且它每个任务以 49,174 个输出 token 完成,而不是 113,823 个。

关于那项对比,在进入细节之前有两点需要先铺垫。第一,26.49 是第三方数字,是在别人的测试框架上测得的,并附有公开的 token 预算,而且在面板上被标记为非估算值。这一点在这里比通常更重要,因为 NVIDIA 自家的基准测试表是与七个竞争对手并排列出的,而这两组数字并不总是一致。第二,标题中的领先声明是刻意限定得很窄的。在美国构建的开放权重模型中,Meta Muse Spark Open 得分更高——38.87,同样是非估算值——但它以定制商业许可发布,且位于受限访问的仓库之后,这使它与今天就能在 OpenMDW-1.1 下下载并部署的检查点处于不同的采用类别。在该面板上采用宽松许可的美国开放权重模型中,NVIDIA Nemotron 3.5 Super VL 位列第一,紧随其后的条目是 Inkling Small,得分为 25.66。

仓库所确立的内容,以及只有面板才能做到的事

对于一个比自身新闻稿还早三天发布的产品来说,这份模型卡详尽得不太寻常,并且它清晰地回答了结构层面的问题。NVIDIA Nemotron 3.5 Super VL 是一个 Mamba-2、专家混合与注意力机制的混合架构,配备 C-RADIO 视觉编码器和一个视觉-语言连接器,每个 MoE 层有 512 个路由专家,总参数量 120B,每个 token 激活 12B,上下文窗口最高可达 1M token。原生多 Token 预测(Native Multi-Token Prediction)使其无需单独下载草稿模型即可实现推测解码。输入为文本、图像(JPEG、PNG)和视频(MP4,最长两分钟,按帧采样);输出仅为文本。许可证为 OpenMDW-1.1,模型卡声明该模型可用于商业或非商业用途,NVIDIA 报告称其训练使用了约 26 万亿 token,包含约 380 万个后训练样本,并在数十个环境中进行了强化学习。

• 总参数 / 激活参数——120B / 12B,对比 3 月模型的 120.6B / 12.7B。两者几乎完全相同,而这正是关键所在:提升并非来自更大的模型。

• 智能指数——26.49 对比 12.83,两者均为非估算值,两者均依据 Artificial Analysis。

• 每个索引任务的输出 token 数 — 49,174 对比 113,823。新模型完成同一任务时,token 用量减少了 56.8%。

• 上下文与输出——100万 token,仅输出文本,两者皆然。两者都不是图像生成器。

• 部署下限 — 在 NVIDIA Nemotron 3.5 Super VL 上以 BF16 运行需 4×H100 或 2×GB200;另有 NVFP4 版本,适用于更小的部署规模。

• 公众热度——截至本文撰写时,BF16 仓库获得了 142 次下载和 32 个点赞,而三月份的前代版本下载量已超过一百万次。造成这一差距的是三天的发布时长,而非三天的需求。

A generated two-column scoreboard titled 'Nemotron 3.5 Super VL vs its predecessor - the scoreboard', with seven rows: Intelligence Index 26.49 against 12.83, both marked not estimated; output tokens per task 49,174 against 113,823; parameters 120B total / 12B active against 120.6B total / 12.7B active; inputs text, image and video against text only; context 1M tokens with a 4xH100 or 2xGB200 BF16 floor against 1M tokens; OpenMDW-1.1 commercial use on both; and Hub traction 142 downloads and 32 likes at three days old against 1,045,001 downloads and 437 likes. The OrcaRouter logo is composited in the bottom-right corner.

能力细分面板正是26.49不再是一个单一数字的地方。Super VL在经济学上得分38.47,工程学30.11,法律28.11,金融与会计27.19,但在战略与运营上仅为22.57。它的全知指数为负4.22——面对该面板的知识探测,模型答错的比答对的多,准确率为23.3%,而幻觉率为35.8%。这并不是这一版本独有的缺陷;当你衡量一个未加防护的开源模型是否会拒绝回答时,它呈现出的就是这样。在评估已完成专业交付成果而非答案的GDPval-AA上,它得分1,162.41;而在AA-Briefcase-Lite评分标准下,它的Elo为998.76。未来一个月值得关注的就是这两行,因为它们衡量的是工作而非知识,而且它们是120B开源模型通过后训练有可能持续提升的行。

“五倍”的说法,以及为什么 token 计数并不等于秒数

NVIDIA 的博客把速度作为卖点:“比次优者快 5 倍”,并且该模型“相比同类其他模型,吞吐量最高快 5 倍”。这是厂商的宣称,NVIDIA 之外没有人复现过。而且就当前证据来看,它也无法核实——给该模型打分的同一家第三方评测机构,没有公布它的价格和延迟数据,因此没有东西可以用来检验这一说法。能够核实的是另一项指标,而它常常被报道得好像和前者是一回事。每任务输出 token 数衡量的是模型说了多少话,而不是服务器跑得多快。49,174 对 113,823 是真实的,也是真正的效率提升——推理密集型模型会把预算耗在生成上——但一个少输出 57% token 的模型,并不会因此就快 57%,当然更不是快 5 倍。它少的是 57% 的 token。把这两者区分开。

A screenshot of NVIDIA's own launch blog post, titled 'Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models', bylined Kari Briski and dated October 15 2026, with the Nemotron hero artwork and the opening paragraphs of the announcement visible and an unexpanded cookie consent banner across the lower portion of the capture.

供应商基准测试表还有第二个较小的问题,细心的读者大约十秒钟就能发现。它的第一列标的是“Nemotron 3.5 SuperGA BF16”,而不是“Super VL”。考虑到该卡片的“模型版本”部分写的是 v1.0 —— GA,这很可能是一个遗留到公开文档里的候选发布标签,而非另一个模型。无论哪种情况,这都属于那种能说明文档整理是在权重上线之后才做的瑕疵,这与三天的间隔相符。对应那一列,NVIDIA 报告的成绩为 GPQA-Diamond 89.52、HLE 纯文本 31.79、Terminal-Bench 2.1 66.70、SWE-bench Verified 71.10、BrowseComp 78 以及 Video-MME v2 32.85,完整对比列则一直排到 Qwen3.5-122B-A10B、Qwen3.8-Flash-Next、DeepSeek-V4-Flash-0731、Nemotron 3 Ultra、Inkling-Small 和 GLM-5.3-Flash。所有这些都经由 NeMo Gym 由供应商自行报告,而 NVIDIA 公开了配方、提示词、解析器和评分设置,让任何人都能重跑一遍。这比大多数厂商的做法都更好,但它依然不是一项独立结果。

它在美国开放权重模型中实际处于什么位置

按来自美国实验室的开放权重模型来排序这个榜单,格局就清晰了。Meta Muse Spark Open 以 38.87 领先,但它是 Muse Model License 下的 816B 参数模型,在 Hub 上设有门控,采用起来是另一回事。在 NVIDIA Nemotron 3.5 Super VL 的 26.49 之下,是 Thinking Machines 的 Inkling Small(25.66)和 Inkling(24.98),两者均为宽松许可。接着是 NVIDIA 自家的 NVIDIA Nemotron 3 Ultra 550B A55B,为 22.93,以及 NVIDIA Nemotron 3.5 Bolt 74B-A9B——与 Super VL 同日发布——以 21.41 分位列其后,而这是一个能装进 24GB 内存的 74B 模型。有趣的结构性事实是,Super VL 比自家公司的 550B 旗舰高出 3.6 个指数点,而磁盘大小和活跃参数数量都不到后者的四分之一。这正是整个混合 MoE 计划所追求的结果,而在这个榜单上,它实现了。

A screenshot of the Artificial Analysis comparison leaderboard, cropped from the left so the filter rail is missing while the page's right edge is intact. Visible are the site's top navigation, a strapline about ranking over 250 AI models across intelligence, price, performance and speed, four highlight boxes that name the fastest, lowest-latency and lowest-cost models in prose, an 'Expand columns' control, the filter state 'Reasoning: All' and 'Status: Current', and a ranking table whose columns are Intelligence Index, Price USD, Cost per Task, Speed Tokens/s, Latency First Chunk (s), End-to-End Response Time, Median Latency Total Response (s) and model and provider counts. The model names in the ranking column render as vendor logo marks rather than legible text, so only the brand glyphs - Anthropic, Meta, OpenAI and Google - and the numeric columns are readable; the Intelligence Index column runs from 58 down to 52 across the visible rows.

这也为接下来几个月设定了真正的标杆。与 Muse Spark Open 的差距是 12.4 分,而与中国领先开放权重模型的差距还要更大——MiMo-V2.6-Pro 为 46.32,GLM-5.3 为 44.78,Kimi K3 为 43.59。NVIDIA 对这一差距的回应不是更大的模型,而是后训练:在你的数据上、在你的机架上,并随权重一同发布数据集和 NeMo Gym 环境。这是否能弥合差距仍是一个悬而未决的问题,而本次发布并未给出答案。

它的运行成本是多少,以及那个缺失的数字

BF16 检查点可在 4×H100 或 2×GB200 上提供服务,NVIDIA 发布了 vLLM 和 SGLang 的部署配方,并锁定了具体的容器标签——vLLM v0.32.0 或某个指定 nightly 版本、SGLang v0.5.20——这是一个有用的信号,能说明相关内核落地的时间有多近。NVFP4 构建版才是大多数团队实际会运行的版本。但没有人公布过价格。面板上没有按 token 计费的费率,公告里没有 NIM 标价,也没有买家可以对比的第三方服务费率。对于处在这种位置的模型,实际可行的路径就是我们采用的这条:OrcaRouter 以 0% 加价、通过一个密钥接入 200 多个模型,直接透传厂商的标价,因此当 NVIDIA 或某家供应商为这个检查点公布费率时,它会以成本价而非加价后的差价出现,而 自动故障转移意味着一个刚上线一天的检查点可以承载一部分流量,同时由经过验证的模型承担其余流量。要说清楚这在今天并不意味着什么:在其权重上线三天后,这个具体模型仍未进入我们的目录,因为目前还没有人能可靠地提供它的服务。这是关于可用性的陈述,而不是关于该模型的陈述。

接下来看什么

有三件事将决定这次发布在六个月后会被解读为一次阶跃式变革,还是一条脚注。第一,是第二次独立评估——专家小组评分只是一次,而一次并不构成趋势。第二,是 5× 吞吐量声明能否经得起中立基准测试方的检验,因为 token 计数证据支持的是效率,而对延迟只字未提。第三,是后训练生态系统:NVIDIA 列出了 Scale AI、AfterQuery、AI21、Mercor、Atlassian、CrowdStrike、Dassault Systèmes、Salesforce 以及其他在其基础上构建的公司,而对于一个开放模型来说,有趣的问题很少是厂商发布了什么——而是之后其他人用它做了什么。就截至 2026 年 10 月 16 日可获得的证据而言,NVIDIA Nemotron 3.5 Super VL 是美国实验室推出的、以宽松许可证发布的最强开放权重模型;它是在参数量不变的情况下,通过把自己的推理预算削减一半以上而达到这一位置的,而且它做得足够低调,以至于最先注意到它的是那些量化者。