一张生成的标题卡,将 NVIDIA Nemotron 3.5 Super VL 与 Qwen3.8-Max 在四个面板中进行对比:参数量为 120B 总量与 12B 激活,对比 2.4 万亿总量与 95B 激活;价格为未公布定价,对比每百万输入 2 美元和每百万输出 6 美元,并附带 88% 缓存折扣;权重为可下载的 OpenMDW-1.1,对比专有托管端点;硬件为在 4xH100 或 2xGB200 上自托管,对比无需部署。页脚注明 Qwen3.8-Max 的指数数据来自 Artificial Analysis,而 Nemotron 的数据由 NVIDIA 报告。OrcaRouter 标志合成在右下角。
Guides & Insights

Nemotron 3.5 Super VL vs Qwen3.8-Max:开放权重梯队对阵按量计费前沿

作者

Magnus Corvin

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

本季度正在规划文档处理流水线的人,恰好只有两种形态可选,而它们并非同一种形态。NVIDIA Nemotron 3.5 Super VL是一个 120B 参数、12B 激活的视觉语言检查点,采用 OpenMDW-1.1 许可,其权重于 2026 年 10 月 12 日上线,比 NVIDIA 自己在 10 月 15 日的发布还早三天:你下载它、你托管它,你用 GPU 和电费来买单。Qwen3.8-Max是阿里巴巴的专有旗舰模型——一个 2.4 万亿参数的混合专家模型,95B 激活参数,支持视觉输入,拥有 1M token 的上下文窗口,按 token 计费,输入每百万 2 美元、输出每百万 6 美元,并享有 88% 的缓存折扣。前者是资本支出,换来完全掌控;后者是运营支出,附一张价目表。这一对比中其余的一切,都是这一分野的下游结果。

两种商业模式披着基准比较的外衣

很容易按能力把两者排在一起,然后宣布谁胜出。但这种框架掩盖了真正的决策:关键在于谁来承担失效模式。使用 Super VL 时,如果吞吐量不尽如人意,你可以重新训练、重新量化,或者购买不同的硬件——上限由你自己抬高。使用 Qwen3.8-Max 时,如果吞吐量不尽如人意,你要么改模型字符串,要么去谈判;上限属于 Alibaba,路线图也属于 Alibaba。

这种差异在两家厂商各自发布的内容中清晰可辨。NVIDIA 发布了一份技术报告、训练配方、开放数据集、强化学习环境,以及该系列三条各自独立的投机解码路径——这是一套意在供部署和修改的模型所配备的完整装置。Qwen 发布的则是一个 API,附带一份价目表和一项缓存折扣,这属于一种意在供人直接调用消费的模型的装置。

Super VL 能提供哪些托管端点无法提供的东西

NVIDIA Nemotron 3.5 Super VL 是一款混合架构模型:交错的 Mamba-2 层、每个 MoE 层配备 512 个路由专家的混合专家结构,以及少量注意力层,它们与 C-RADIO 视觉编码器和视觉语言连接器相连接。输入文本、图像和视频帧,输出文本。其语言主干网络从 Nemotron 3 Super Base 初始化,后者从 Nemotron 3 Ultra Base 蒸馏了 1 万亿个 token,随后又经过 350 亿个 token 的扩展,将上下文提升至 100 万,并经历了软件工程中期训练和长上下文恢复阶段。原生多 Token 预测无需单独的草稿模型即可提供投机解码。它以 BF16 精度在 4×H100 或 2×GB200 上运行,并提供 NVFP4 版本以及用于生产部署的 NIM 微服务。

• 你拥有什么——权重、分词器、视觉编码器、后训练流水线和审计追踪。每一条提示词都留在你的边界之内,对于保险、信贷、医疗或国防工作而言,这不是一种偏好,而是一项要求。

• 你付出的成本——加速器。四块全精度的 H100 是入场门槛,而成本曲线取决于利用率:闲置时昂贵,饱和时近乎免费。

• 你放弃的是什么——一份费率表。截至2026年10月16日,没有任何一方公布过Super VL的价格,因此你今天所做的任何总成本比较,都只能基于你自己的吞吐量测量数据,而非供应商给出的数字。

Qwen3.8-Max 能给你什么,而检查点不能?

Qwen3.8-Max 每个 token 从 2.4 万亿参数的池中激活 95B 参数,既能处理图像也能处理文本,默认上下文窗口接近一百万个 token。在 Artificial Analysis 上,它的 Intelligence Index 为 45,比 NVIDIA Nemotron 3.5 Super VL 在同一指数上录得的 26 高出十九分——而且与本页大多数数字不同,这两个都是第三方测量结果,而非厂商宣称。

• 你将获得——一个前沿级别的通用模型,包含视觉能力,今天下午拿上 API 密钥就能调用。无需硬件,无需运维,无需容量规划。

• 你需要支付的费用——每百万 token 输入 $2、输出 $6,缓存输入可享 88% 折扣,这改变了任何具有大型稳定前缀的工作负载的经济账:一段很长的系统提示词、一份固定文档、一个持久化的工具 schema。

• 你放弃的是什么——权重。没有下载,没有本地部署,无法微调服务模型,也无法将数据保留在你自己的硬件上。

A generated two-column scoreboard for NVIDIA Nemotron 3.5 Super VL against Qwen3.8-Max across six dimensions. The Super VL column reads: parameters 120B total and 12B active; compute per token 12B active; weights OpenMDW-1.1, downloadable; hardware 4x H100 or 2x GB200; price no published rate; context window 1M tokens. The Qwen3.8-Max column reads: parameters 2.4 trillion total and 95B active; compute per token 95B active; weights proprietary, API only; hardware nothing to deploy; price $2 per million input and $6 per million output; context window 1M tokens. A footer notes the index and price figures come from Artificial Analysis and Alibaba's rate card including an 88 percent cached-input discount, and that the Nemotron figures are NVIDIA-reported. The OrcaRouter logo is composited in the bottom-right corner.

缓存折扣值得特别说明,因为它是两列中最常被错误建模的数字。对缓存输入削减 88% 并不意味着账单便宜 88%;它意味着提示词中重复的部分成本约为标价价的九分之一,而收益的规模取决于每次请求中有多少内容与上一次真正完全相同。那些反复发送一大段静态前置内容的流水线获益巨大。那些每次调用都发送一份全新文档的流水线则几乎毫无获益。

A screenshot of NVIDIA's own announcement page for the Nemotron 3.5 family, the vendor document behind every Nemotron figure in this article, showing the announcement header and the opening of the release description with the parameter counts and deployment guidance the piece cites.

价格线,诚信运营

本能是去算一个盈亏平衡点——到多少 token 时自托管才划算?这种计算会得出一个数字,而这个数字通常是错的,因为它忽略了两项占主导地位的成本:让自托管推理栈保持不落伍所需的工程时间,以及在困难任务上使用更小模型的机会成本。

一个更有用的版本:把你真实的流量画像套用到 Qwen3.8-Max 公布的价格上,算出一个精确的月度数字,因为那边有一张价目表。然后问,一个 12B 激活参数的模型能按你的标准处理其中多大比例,并只按这个比例来估算 GPU 成本。在大多数文档抽取流水线中,答案是:绝大部分量都是机械性的——发票、表单、图表、重复版式——而一小段长尾才承载着判断。批量部分正是自托管胜出的地方;长尾部分则是像 Qwen3.8-Max 这样的前沿模型胜出的地方。

这一区分正是我们自家路由层存在的意义所在,而相关事实足够明确,可以直接说清楚。Qwen3.8-Max 已收录在我们的目录中,即 qwen/qwen3.8-max/,按阿里云的标价、0% 加价——供应商收多少,你就付多少,而且供应商降价当天就生效,而不是等到下一个计费周期。NVIDIA Nemotron 3.5 Super VL 不在我们的目录中,也永远不会以端点形式存在,因为它是一个由你自己托管的检查点,而不是任何人都能转售给你的服务。介于两者之间的是组合编排:路由 DSL 让单次调用可以扇出,因此机械性的页面可以交给任何你指定的廉价模型处理,而需要判断力的页面则向上升级,并且当原本要发往的上游性能退化时,自动故障转移会把请求改发到健康的上游。托管的这一半用一个密钥,另一半用你自己的 GPU,由一套策略决定哪个请求发往哪里。

A screenshot of the OrcaRouter model page for Qwen3.8-Max, listed under the identifier qwen/qwen3.8-max and attributed to qwen, showing a release date of 19 September 2026, a 1M-token context window, input pricing of $2.00 and output pricing of $6.00 per million tokens with an 88 percent cached-input discount, and latency figures of 6.82 seconds p50 and 9.64 seconds p95 time to first token.

一个具体的实例,而非假设:同一条流水线可以通过目录将一页表单发送给小型文本模型,把图表密集的年度报告路由给视觉模型,并将 Qwen3.8-Max 留作备用,用于处理少数确实存在歧义的文档。备用模型每百万输出 token 收费 6 美元,闲置时不产生任何费用——相比为一个每月仅出现两次峰值的工作负载再配置一块 H100,这种安排要划算得多。

从本周开始,谁应该做什么

如果你的工作涉及受监管数据——任何一类把页面发送给第三方都需要经过法律审查的数据——那么决定已经替你做好了,那就是 Super VL,硬件底线什么的全都算上。如果你的工作是在常规隐私姿态下进行大体量的文档与屏幕理解,那么对大多数团队来说,眼下最便宜且正确的答案就是按量计费的前沿模型,因为它今天就能用,而且价格是已知的。如果你处在两者之间——大多数真实的流水线正位于此处——那么这两者根本就不是竞争关系:用 Qwen3.8-Max 处理困难的长尾,用自托管的 Super VL 处理大体量,再由一个路由器逐请求做决定。

会改变这个页面的,是任何服务提供商为 Super VL 公布的价格。一旦某个 Nemotron 检查点出现在按量计费的端点背后,关于部署门槛的顾虑就会烟消云散,比较就变成了价格对价格,而有趣的问题也从选哪个模型变成了选哪个提供商。在那之前,这两列仍然在回答不同的问题——而对“哪个更好”的诚实回答是:一个有价格的模型和一个有许可证的模型,并不是同一种对象。