一张标题卡,标题为“正面交锋:厂商选择的基线,以及它没有选择的基线”,上方带有标题“Nemotron 3.5 Super vs DeepSeek V4 Pro”,其下的一行文字指出,NVIDIA 自己的评估表将新检查点与 DeepSeek 的低价 flash 档位进行基准对比,而 1.6 万亿参数的旗舰型号并未出现在其中。四个统计面板分别显示:DeepSeek V4 Pro 总计 1.6T、激活 49B,仅支持文本输入,上下文为 1M token,最大输出为 384K;NVIDIA 的表中有约 40 项基准测试,基线为 flash 档位,且没有一项针对旗舰型号;每百万 token 输入 $0.66、输出 $1.98,缓存读取为 $0.022;V4 Pro 接受的图像输入为零,而 NVIDIA 检查点支持文本、图像和视频。来源行引用 NVIDIA 模型卡以及 DeepSeek 公布的定价和 0813 修订说明,并指出两家厂商的基准测试行均为自行报告。
Engineering & Research

Nemotron 3.5 Super 与 DeepSeek V4 Pro:NVIDIA 没有公布的基准测试表

作者

Magnus Corvin

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

打开 NVIDIA 的NVIDIA Nemotron 3.5 Super VL模型卡——这是厂商同时以NVIDIA Nemotron 3.5 Super之名列出的 1200 亿参数开放权重检查点,Ollama 则以 nemotron-3.5-super 之名发布——然后向下滚动到评估表。你会看到大约四十个基准测试和七个基线列。其中一列就是 DeepSeek:它被标注为DeepSeek-V4-Flash0731。这是 DeepSeek 自家的低价档位。DeepSeek V4 Pro,这款 1.6 万亿参数的旗舰模型在 0813 修订版中取代了 4 月的预览版,却完全没有出现在表格中的任何位置。

这种缺席是本次对比中最有用的事实,而且并非疏忽。V4 Pro 每个词元激活 490 亿个参数。把它和激活参数量为 120 亿的模型放进同一张表,只会得出一组既不能让谁显得好看、也不能给谁提供有效信息的数字,因为这两款模型并不是同一种产品。厂商反而做了这件事的诚实版本:对标你真正打算取代的那一档。

所以这个页面做了两件事。它解读了 NVIDIA 发布的对比——Nemotron 3.5 Super 对 DeepSeek 的 flash 档位——然后,在两个模型真正竞争的领域,明确说明了关于旗舰模型可以得出、以及不能得出哪些结论。

两件文物,并排放在一起

• 总参数与激活参数 — Nemotron 3.5 Super VL 总参数 120B,每个 token 激活 12B,每个 MoE 层 512 个路由专家,Mamba-2 与 Transformer 混合架构 · DeepSeek V4 Pro 总参数 1.6T,激活 49B,仅支持文本。

• 上下文与输出上限 — Super VL 拥有 1,048,576 个 token 的上下文,未公布输出上限 · V4 Pro 拥有 1,048,576 个 token 的上下文,最大输出为 384,000 个 token。

• 模态 — 文本、图像和视频输入,文本输出,经由 C-RADIO 视觉编码器和视觉语言连接器 · 文本输入,文本输出。完全没有图像通路。

• 权重与许可 — NVIDIA 检查点采用 OpenMDW-1.1,允许商业使用 · DeepSeek 也发布自己的权重,并同样允许商业使用。

• 计量端点上的价格 —— 未公布;该模型仅支持自托管 · 每百万输入 token 0.66 美元,每百万输出 token 1.98 美元,缓存读取为 0.022 美元。

• 发布足迹——权重于 2026 年 10 月 12 日上线 Hugging Face,厂商公告于 2026 年 10 月 15 日发布 · V4 Pro 作为旗舰型号提供服务,需要锁定版本的调用方可选用标注日期为 0813 的修订版。

其中两项决定了大多数实际部署。第一项是模态:如果你的输入是截图、扫描合同、图表或视频帧,那么这场对比还没开始就已经结束了一半,因为 DeepSeek V4 Pro 没有图像路径,也没有公布相关计划。第二项是价格,而且它比表面看起来更有意思——NVIDIA 根本没有公布这款模型的任何费率,这意味着,想要知道你的成本,唯一办法就是知道你的 token 用量和你的硬件账单。

A two-column scoreboard titled 'Nemotron 3.5 Super vs DeepSeek V4 Pro'. The left column is NVIDIA Nemotron 3.5 Super VL, 120B total and 12B active with open weights uploaded 12 October 2026; the right column is DeepSeek V4 Pro, a 1.6T mixture of experts in its 0813 revision. Rows carry no published meter price for the NVIDIA side against $0.66 in, $1.98 out and $0.022 cache reads; 120B total and 12B active with 512 experts against 1,600B total and 49B active; text, image, video and page images against text only with no vision path; a 1M-token context with no stated output cap against 1M tokens and a 384,000 maximum output; a benchmark comparison run against DeepSeek-V4-Flash 0731 against a flagship that is absent from NVIDIA's table entirely; Terminal-Bench 2.1 at 66.70 vendor-run against 87.9 from DeepSeek's own notes for the 0813 revision; and a deployment floor of one 96 GB card at the 4-bit default against no single machine that holds it. A footer states that every benchmark row on both sides is vendor-reported and that the only independent number in the article is the mid-twenties index.

阅读 NVIDIA 实际发布的表格

flash 级别的对比比参数数量所显示的更为接近,而且它对 NVIDIA 并非一概不利。在两者最接近的几行上,情况是知识方面真正打平,而在智能体执行方面存在实实在在的差距。

• 在研究生水平的科学题上打成统计平手——GPQA-Diamond 上 Super VL 为 89.52,DeepSeek-V4-Flash 为 89.6。在这一项上,一个 120B 模型与 1e12 级别的基线之间仅相差 0.04 分,且两者均由厂商自行运行。

• 在最难的推理任务上存在差距——Humanity's Last Exam 纯文本部分为 31.79 对 35.8,MMLU-ProX 为 76.91 对 85.5。

• 竞技编程方面的短板——LiveCodeBench v6 得分 88.22,相比之下为 94.6。

• 在智能体软件任务上存在差距——SWE-bench Verified 为 71.10,对比 75.4;Terminal-Bench 2.1 为 66.70,对比 76.80;DeepSWE 为 24.65,对比 42.3。

• 长上下文检索上的明显短板——AA-LCR v1.1 得分为 68.62,而对手为 79.7。两款模型都宣称支持一百万 token;但在唯一一行独立风格的召回测试中,flash 档位领先超过 11 个百分点。对于任何打算真正用上所宣称的上下文、而不只是让它闲置在那里的人来说,这是全场最关键的一个数字。

• NVIDIA 胜出的行——GraphWalks 89.71 对 65.4,LMArena v3 代理 52.67 对 49.8,而 tau2-bench 零售上 69.24 对 73.8,在噪声如此之大的基准测试上,这已接近噪声范围。AA-Omniscience 是更能说明问题的胜出:NVIDIA 的幻觉率为 30.0,而 DeepSeek 为 95.9;正指数为 4.03,而对方为 -7.8。一个会选择弃答的模型,价值高于一个会妄下断言的模型,而在这一行上,差距绝非微不足道。

• Agentic 工具 — tau2-bench 航空领域 76.50 对 83.5,电信领域 73.19 对 98.2,两场均落败。在电信领域,flash 层级几乎全胜。

这些结果中的每一项,都是由供应商通过 NVIDIA 自家的 NeMo Gym 评测框架、并附上公开可复现的配方上报的。这比空口宣称的标准更高,但比独立第三方重跑的标准更低;而在这张特定的表格上,大多数行的倾向都对即将发布的这款模型不利——这至少说明该框架没有被调校成刻意讨好。

关于 V4 Pro,无法得出哪些结论,以及为什么这依然重要

你不能把上述任何内容解读为对这场旗舰对决的预测,原因有三,值得阐明而非含糊带过。

首先,基线版并非旗舰版。DeepSeek 自己公布的 V4 Pro 0813 修订版的智能体成绩完全处于另一个量级:Terminal Bench 2.1 上为 87.9,Cybergym 上为 83.3,Toolathlon Verified 上为 74.1,DeepSWE 上为 62.7,NL2Repo 上为 61.5,而在 Humanity's Last Exam 上,不使用工具时为 42.7,使用工具后升至 60.0。相较 NVIDIA 在 Terminal-Bench 2.1 上的 66.70 和 HLE 纯文本上的 31.79,旗舰级差距远大于 flash 层级差距,而且这一差距正被另一款模型的厂商拉大,这并不会让它更可信——只会让它更尖锐。

其次,flash 层级那一列,所反映的是一个本身就在变动的层级的快照。今天读起来不错的一行,到下个月可能就显得糟糕,而两个模型本身都没有任何变化,因为这种对比取决于厂商选择运行的是哪个检查点。

第三,NVIDIA 检查点的独立情况单薄到几乎无法作为打破平局的依据:为这些模型打分的第三方评测小组在其指数上把它排在二十几分中段,每项任务的输出 token 数异常高,并附注称该模型有些啰嗦。这是权重发布四天后、来自一个评测小组的一个数据点。

所以,这个基准案例的诚实总结是:按厂商自己跑出的数字,一个 12B 激活参数的开源视觉模型在知识上大致与 DeepSeek 的廉价档持平,而在智能体执行和长上下文召回上落后于它;那张表里没有任何内容能说明旗舰模型的情况,而旗舰模型自己公布的数字,在二者至少还能比较的所有维度上都更好。

The OrcaRouter catalogue page for DeepSeek V4 Pro, with a breadcrumb reading Models, DeepSeek, DeepSeek V4 Pro, a creation date of August 13 2026 and an update one day earlier, an input modalities row reading Text, pricing of $0.66 per million input, $1.98 per million output and $0.022 per million cache reads, a 1,000,000-token context, a 384,000-token maximum output, a line reading 'Serving on 5 providers', and the per-million-token pricing table.

唯一一个比较不值一提的维度

图像。这并不是因为 Nemotron 擅长视觉——没有人发布过对其视觉路径的独立评测,而且随附的运行时默认按该卡片的 文本温度采样,而非其视觉温度,这对第一个尝试它的人来说是个现成的陷阱——而是因为 DeepSeek V4 Pro 不接受它们。

这种不对称性有一个很容易被忽视的成本后果。一个具备视觉能力的托管模型会按 token 数量对扫描文档的一页计费,而 300 dpi 的一页可不是一个小数目的 token。一个自托管的 120B 检查点则以 GPU 秒为单位对同一页计费。在每月几千页的工作负载下,这种差异微不足道;而在几十万页的规模下,它就是整个预算讨论的核心。英伟达自家的视觉各项成绩——MMLongBench-Doc 上 62.82、MathVision 上 78.16、CharXiv 推理上 80.82、OCRBench v2 英文上 68.12——虽是厂商数据,但它们表明这项能力是真实存在的,而并非名义上的。

对比发生反转的另一个维度,是人人都会问、却很少有人测量的那个:内存。V4 Pro 总参数达 1.6 万亿,远远装不进单台机器。Super VL 在其默认 4-bit 标签下为 82.3 GiB,能装进一张 96 GB 的卡,还留得下工作上下文的空间。这不是在争论质量高低。它决定了区别在于:一个模型你的团队今晚就能拉取并运行,另一个则是你只能租用的模型。

The NVIDIA Newsroom announcement post, with the masthead across the top, the headline 'Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models', a 15 October 2026 dateline, and the opening section of the announcement text beneath it.

进行运算而非基准

在阅读下一张表之前,有一项计算值得先做。假设工作负载是一百万个 token 的输入和十万个 token 的输出——对文档流水线来说不过是轻松的一个月,对聊天产品而言却是繁重的一天。

按 DeepSeek V4 Pro 公布的费率,那就是 0.66 美元输入加 0.198 美元输出:不到一美元,而这还没算上缓存折扣对输入侧的进一步拉低。在 NVIDIA 检查点上则没有费率,因为没有端点。成本就是该用量所消耗的 GPU 小时中的那一小部分,而在这些用量下,结果四舍五入后几乎为零——但它背后的固定成本不会。四块 H100 不会因为你第一个月的流量很小就变得便宜。

这才是这场对比的真实格局,而且它是个用量问题,不是质量问题。低于某个吞吐量时,按量计费的开放权重 API 就是比电费加上硬件摊销更便宜,尽管两个模型都是开放的。高于某个吞吐量时,固定成本就会反转,自托管检查点会在成本上胜出,不管哪一个在 Terminal-Bench 上得分更高。交叉点取决于你的利用率,而不是任何一家供应商。

这就带来了路由上的问题:如果你根本不想跑集群,DeepSeek V4 Pro 可以在 OrcaRouter 上按供应商的标价获取,原样透传、不按 token 加价——$0.66 和 $1.98,与 DeepSeek 公布的数字一致,因为我们不在其上再加价。供应商调价当天就会在我们这边生效,而不是等到下一次合同续签。Nemotron 3.5 Super 不在我们的密钥里;我们路由了两百多个模型,它不在其中,所以如果你特别需要那个 checkpoint,供应商自己的渠道和本地拉取就是你的路径。

实际该做什么

如果你的输入是文本,而你的工作负载是智能体式的——长长的工具链、仓库级编辑、终端会话——那么 DeepSeek V4 Pro 是更好的模型,也是更便宜的那个,而 NVIDIA 的检查点在厂商自己公布的各项数据上都不是它的有力竞争者。先让工作负载跑在 V4 Pro 上,得出真实的单位工作成本,然后才去判断是否需要一个集群。

如果你的输入是图像、视频或长篇文档,那么这种比较就归结为一个关于体量的问题,因为 V4 Pro 根本无法接收这类输入。每月几千页以下,就继续用托管方案。超过这个量,单张 96 GB 卡上的 4-bit 检查点就是一套可信的基础设施——但有两点值得反复提醒:大多数人会用的那个版本没有公开的评测,而且运行时自身的采样默认值,是针对厂商所宣称的视觉模型中文本那一半来调的。

如果你确实要把一个四天前的检查点放在请求路径后面,那也要在它后面加一个回退方案。对于一个没有任何运行历史的模型来说,最便宜的保险就是在同一次调用中再挂一个第二模型。

这一切都不构成回避该模型的理由,而只是一个了解其历史的理由:这一类模型背后有据可查的 AI 事件与智能体故障,均收录于 OrcaRouter AI 事故档案,其中每一条目都附有自己的来源、严重程度、置信度评级以及争议标记。

本文中的对比1

根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新