Nemotron 3.5 Super 对比 Claude Opus 5.5：120 亿活跃参数对阵一米的距离

这个数字决定了这场比较的胜负，而它并不出现在任何一张基准测试表上。N​VIDIA N​emotron 3.5 Super——由 N​VIDIA 以更完整的名称发布：N​VIDIA N​emotron 3.5 Super VL，并在 Ollama 库中列为 nemotron-3.5-super/ —— 它每生成一个 token，便会激活其 1200 亿参数中的约 120 亿。Claude Opus 5.5则完全不公布参数数量，且每百万输入 token 收费 4 美元、每百万输出 token 收费 20 美元。因此，这两个模型之中，一个的每 token 边际成本是电费的函数，另一个的每 token 边际成本则是一项列支账目。两个数字都是真实的。但两者都无法告诉你哪个模型的运营成本更低，因为它们是以不同的货币计价的。

现在值得写这件事的原因：N​VIDIA 的权重于 2026 年 10 月 12 日悄悄上传到了 Hugging Face，所在的仓库名为 N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16，比 N​VIDIA 自家新闻编辑室 10 月 15 日发文正式公布早了三天。在那份公告之前，N​emotron 3.5 Super 作为一个可运行之物存在的唯一公开佐证，只有一组注册表产物——以及这样一个事实：那些产物上的部分规格，与厂商模型卡上的规格并不一致。从该仓库可以确知的东西着实不少：字节数、量化格式、版本门限、许可证。而从任何仓库都无法确知的，是它在你的工作负载上与某个托管的前沿模型相比表现如何。这一页要谈的，正是这道鸿沟。

首先，仓库实际包含什么

10月12日，三个可用检查点在六十秒内相继落地：BF16 参考权重、一个 Base 变体和一个 NVFP4 构建版本。另一个独立的 LiLiCorr 草稿模型仓库早一天上线，时间是10月11日，这是该层级最早的公开足迹。模型卡描述了一个混合 Mamba-2 与 Transformer 的专家混合模型，每个 MoE 层有 512 个路由专家，配备 C-RADIO 视觉编码器和视觉-语言连接器，总参数 1200 亿、激活参数 120 亿，上下文最高达 100 万 token，输入支持文本、图像和视频，输出文本，并通过多 token 预测头实现原生推测解码。许可证为 OpenMDW-1.1，允许商业使用。部署方面，BF16 指定需要四块 H100 或两块 GB200。

Ollama 列表是大多数人最先接触到的版本，也正是规范开始出现偏差的地方。它暴露了九个标签。其中四个——:latest/、:120b/、:120b-a12b/ 和 :120b-a12b-q4_K_M/——都解析到同一个 q4_K_M 层，因此默认拉取的是 4 位量化版本，而 “120b” 这个名字并不是你实际得到的文件。每个标签，包括最小的那个，都带有一个 1.6 GiB 的视觉投影器，因为图像路径不是可选项。随附的默认采样是 temperature 1.0 和 top_p 0.95，这是该模型卡的文本推荐——该模型卡的视觉设置是 temperature 0.6。并且运行时门槛是强制执行的：配置声明了 requires: 0.40.5/，因此在较旧的 Ollama 上，拉取根本无法进行。

这些都不是缺陷。这只是厂商的发布说明与社区对其打包整理之间常见的差距，而这也正是两份文档都该读、而不是只读其中一份的原因。

12B 激活参数的坦诚算术

稀疏激活是这款模型的全部商业理由，而它究竟买到了什么、没买到什么，值得精确说明。

它带来了什么：在推理时，一个 token 只触及网络的大约十分之一。因此在固定硬件上，其吞吐量远更接近 12B 的稠密模型，而非 120B 的模型；而内存占用是完整的 1200 亿参数唯一显露之处。NVIDIA 自家的显卡声称吞吐量最高可达同级别其他产品的 5 倍，并且在厂商的 Dynamo 技术栈上运行时，并发用户数最高可提升 8 倍，延迟降低 85%。这些都是在厂商硬件上得出的厂商数据，它们是一份规格说明，而非独立审计——但这一说法的方向是架构的直接结果，至少是一个自洽的说法。

它换不来的是：权重仍然必须完整常驻内存。BF16 GGUF 层为 230.4 GiB。q4_K_M 默认配置为 82.3 GiB，外加投影器。这两个数字都不会因为每个 token 只激活 120 亿参数而缩小。因此，硬件下限由内存决定，而吞吐量则由激活量决定——这正是为什么单张 96 GB 显卡能轻松容纳 4 比特模型，并仍以令同总规模的稠密模型难堪的速率产出 token，也正是为什么同一张显卡根本无法容纳全精度模型。

现在把 Opus 5.5 放在那旁边。Anthropic 的模型具有 100 万 token 的上下文、128,000 token 的最大输出，接受文本、图像和文件输入，定价为 $4/$20，缓存读取为每百万 $0.20。无需下载，无需做量化决策，无需修正采样默认值，也无需固定版本。它也是一个经过充分审计的模型：它位于大多数人用来比较这些事物的第三方榜单的顶端，远高于这个 Nemotron 层级。

所以，这个比较并不是“哪个更好”。在实测的通用能力上，托管旗舰版本胜出，若假装并非如此，对即将做出购买决定的读者来说是一种误导。这个比较的关键在于两条成本曲线在哪里相交。

1200亿参数的开源模型在何处赢得一席之地

三个地方，而且很具体。

• 固定账单下的用量。自托管的检查点把边际成本变成了固定成本。在低流量下，按量计费完胜——四块 H100 每月的开销比大多数团队花在 token 上的钱还多。在高且稳定的流量下，固定成本被摊薄，而按量计费则不会。交叉点是这里唯一重要的计算，它取决于你的 token 用量，而不是两种模式各自的质量。

• 页面数量成为成本驱动因素的视觉任务。 ​NVIDIA 的资料显示，MMLongBench-Doc 上为 62.82，MathVision 上为 78.16，CharXiv 推理上为 80.82，OCRBench v2 英文为 68.12、中文为 59.15，均为厂商自报数据。在 O​pus 5.5 上，同样的输入按 token 计费，而一页扫描报告就是一大堆 token。如果你的工作负载每天要处理数千页文档，那么算起账来，变化速度可比任何质量差异都快。

• 固定（Pinning）。存放在你自己掌控的磁盘上的检查点，不会在你脚下发生变化。在受监管的流水线中，这一点能带来实实在在的收益，而这是托管模型无论出多高的价钱都无法提供的特性。

有两个地方它配不上自己的位置，而这两点都值得公开说出来。第一是长时程的智能体任务：NVIDIA 的规格页显示，它在 Terminal-Bench 2.1 上得分 66.70，在 SWE-bench Verified 上得分 71.10，在 SWE-bench Pro 上得分 51.78——成绩尚可，却无人复现，且落后于托管服务的前沿水平。第二则是任何一次失败请求都代价高昂的场景，因为一个权重只有四天大的模型，背后只有全世界四天的关注，而毫无实际运行的历史。

你还不该相信的数字，以及原因

Nemotron 3.5 Super 整张已发布的基准测试表都出自厂商自己，是通过 NVIDIA 的 NeMo Gym 测试框架收集的。GPQA-Diamond 89.52。Humanity's Last Exam 纯文本 31.79。LiveCodeBench v6 88.22。IFBench 70.86。tau2-bench 零售 69.24、航空 76.50、电信 73.19。BrowseComp 78。LMArena v3 代理 52.67。其中每一项都是厂商的宣称，并附有可复现的方案，这比空口宣称要好，但仍然不是独立测量。

独立评测所呈现的图景要单薄得多，而这本身就是这一页上最有价值的事实。给这些模型打分的第三方榜单把这个检查点排在智能指数二十多分的中段——大约26分——而 Opus 5.5 约为58分。该榜单还记录到，这次指数评测的输出 token 消耗异常之高，它将其解读为啰嗦，而在任何按 token 付费或按 token 等待的部署中，啰嗦是一项成本，而不是脚注。一个独立数据点算不上定论，但它是唯一一个不是由售卖该模型的公司产出的数据点。

没有人公布过的是：4 位量化会如何改变那些分数。Ollama 的默认标签是 q4_K_M。所有已公布的数据都针对 BF16 或 NVFP4。因此，大多数人实际会体验到的那个数值尚未被测量，而它正是未来几周值得关注的那个。

今天你可以怎么称呼，不可以怎么称呼

有必要直白地说清楚，因为这是像这样的页面上最常见的误解。Nemotron 3.5 Super 并不在 OrcaRouter 上。我们路由了两百多个模型，其中并没有 NVIDIA Nemotron 这一项，所以如果你需要这个特定的 checkpoint，你的途径应该是厂商自己的构建与分发渠道，以及本地运行时的拉取——而不是我们。

相比之下，Opus 5.5 在我们的密钥上，按供应商的标价原样传递，不按 token 加价，这意味着供应商一改价，我们这边当天就会生效，而不是等到下一次合同续签。这种不对称性对你面前的决策确实有用：成本更低的第一步，是先把你原本要在四块 H100 上运行的工作负载，通过一个 API 对托管模型跑一遍，无需采购。如果托管模型能以可接受的价格完成任务，你就省下了一整个集群。如果它做不到——而在大规模下误读一份密集技术文档，正是它可能做不到的一种情形——那么你现在拥有的是证据，而不是一张基准测试表，你可以把下载留给那些幸存下来的用例。

部署方案具体要花多少钱

这张卡自带的 vLLM 方案值得当作一份预算文档来读。张量并行度为 4，GPU 显存利用率为 0.85，最多 32 个并发序列，每个提示词一张图像和一个视频，视频剪枝为 0.5，并通过 MTP 头进行投机解码，使用三个投机 token。四块 H100 以 0.85 的利用率运行、并发序列上限为 32，这算不上大型服务——而是一套正经的单节点部署，而这一并发上限也说明了厂商期望单个副本能承载多少负载。

那个配方里有两个细节，其重要性远超表面看起来的样子。视频配置每个提示只接受一个视频，并以半速率进行剪枝，这强烈暗示了在长输入上视觉预算的去向。而推理解析器名为 nemotron_v3/，工具调用解析器则是 qwen3_coder/ —— 厂商复用了并非自己发明的工具调用格式，这对任何已有工具调用代码的人来说都是好消息，也值得在你编写新的解析逻辑之前了解。

相比之下，托管模型的运维接触面就是一个 API 密钥。把“四块 H100 加一套 vLLM 配方”和“一个密钥加一个计费表”放在一起比，论投入的工夫根本不在一个量级。只有在成本上才接近，而且还得是在足够大的用量下。

还有一件事可以从仓库中得知，却很容易被忽略：推荐的采样参数会因模态而异。文本需要 temperature 1.0 和 top_p 0.95；视觉需要 0.6 和 0.95。一个部署如果全局设置同一组参数，然后处理图表和扫描页面，就等于用文本那一半的设置来运行视觉模型的视觉那一半。如果你对模型处理文档的第一印象很差，这就是第一个该检查的旋钮——在你就检查点得出任何结论之前。

那么，是哪一个？

如果你的工作是长时程智能体编程，或者任何要求首次尝试就必须达到前沿级推理的任务，那么答案就是 Claude Opus 5.5，Nemotron 这一档并不能替代它。这一点毫无悬念，厂商自己公布的智能体评测数据也没有声称相反。

如果你的工作是高吞吐量的文档与图像理解，其中成本驱动因素是页数而非推理难度，那么这是今年出现的最有意思的开放检查点之一：1200 亿参数、120 亿激活参数、宽松的许可证、一条真正原生存在而非事后硬加上去的视觉通路，以及一个能装进单张 96 GB 显卡的 4 位默认配置。问题在于，大家实际会运行的那个版本——默认的 q4_K_M——在任何地方都没有公开发表的评测，这个模型才问世四天，而且运行时公布的规格与厂商公布的规格并不完全一致。

这两点都是尝试它的理由，而不是信任它的理由。先把工作负载交给托管模型跑一跑，看看它是不是那种前沿模型能解决、而中端模型解决不了的工作负载。然后再判断那些幸存下来的用例是否值得搭一个集群、下一次下载，或者花一晚上做配置。而如果你真要把一个四天前的检查点放进请求链路里，就把它放在兜底路由之后，因为对于没有运行历史的模型来说，最便宜的保险就是在同一次调用背后再放第二个模型。

数字无法告诉你的是，这一切在实际应用中是否已经出了问题：围绕这一类模型的有据可查的人工智能事故和智能体故障，都收录在OrcaRouter AI 事故档案中，其中每一条记录都附有各自的来源、严重程度、置信度等级和争议标记。