一张生成的标题卡,标题为“Qwen4-Max vs Nemotron 3.5 Bolt 74B”,横幅写着“不存在共享的独立基准”,左侧卡片将 Qwen4-Max 列为托管 API,上下文长度为 1,000,000 token,每百万 token 输入 1.50 美元、输出 4.50 美元,智能指数为 43,且未公开权重;右侧卡片将 Nemotron 3.5 Bolt 74B 列为可下载的检查点,上下文长度为 262,144 token,以 2.06 比特实现 24GB 占用,智能指数为 N/A,许可证为 OpenMDW-1.1。
Guides & Insights

Qwen4-Max 与 Nemotron 3.5 Bolt 74B:这个对比中缺少一个数字

作者

jinhao.song

发布日期

最新模型 · 20查看全部模型 →
基准测试:Artificial Analysis · 每日更新
返回全部文章

把 Qwen4-Max 和 NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 并排放在一起,你首先注意到的是,对比网站根本没有什么可对比的。BenchLM 说得很直白——目前还没有共同的基准测试结果——然后转而邀请你去看价格。原因在于结构性问题,而非暂时现象:Qwen4-Max 在 Artificial Analysis Intelligence Index v5.0.1 上得分为 43,而 Nemotron 3.5 Bolt 74B-A9B 24GB 根本没有 Intelligence Index 分数。不是分数低,而是 N/A——在一个早在两者发布之前就已开始运行模型的榜单上,因为该模型没有公开可用的 API,独立测评框架也无从调用。

那一处缺失会重新组织这场对比中的其他一切。你不能把参数量为 740 亿、可装进 24 GB 的检查点,和参数量为 2.4 万亿的托管模型,通过把它们的数字放进相邻单元格来排名,因为两者中只有一个有数字。你能做、而聚合页面不做的是:把各厂商各自提出的说法分开,注明是谁测量的,并弄清决策实际取决于哪一列。结果这与其说是能力问题,不如说是你是在买一个文件,还是在租一项服务。

一个是文件,另一个是仪表。

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 于 2026 年 10 月 15 日发布,并以可下载权重的形式托管在 Hugging Face 上,采用允许商业使用的 OpenMDW-1.1 许可证。它是一个混合 Mamba-Transformer 的专家混合模型:总参数量 740 亿,每个 token 激活 90 亿。名字里的“24GB”正是整个工作的核心所在。NVIDIA 通过一个名为 Star Elastic 的路由引导搜索框架,压缩其 120B-A12B 的父模型,将专家 top-K 从 22 削减到 9,然后应用量化感知蒸馏,使专家层停留在 2.0625 比特。随附一个 11.3 亿参数的投机解码器,在贪心解码下平均接受长度为 4.68,在采样下为 4.25。推荐的运行时是 vLLM,运行于 Ampere、Hopper 或 Blackwell 上,张量并行规模为一。

Qwen4-Max 则是相反的构造,不仅是因为规模。阿里巴巴第四代旗舰模型于 2026 年 11 月 16 日在新加坡全面可用,价格为每百万输入 token 1.50 美元、每百万输出 token 4.50 美元,具有 1,000,000 token 的上下文窗口、原生图像和视频输入,以及三个可配置的推理级别。没有发布任何检查点。微调、模型部署和批量推理在 Model Studio 文档中均列为不支持。每个为其提供服务的端点提供的都是阿里巴巴的部署。

所以,这两个模型并不是在争夺你架构里的同一个位置。一个是你自己运行的;一个是你去调用的。任何不以此为起点的比较,测的都是错误的东西。

供应商表格将 Bolt 与另一个 Qwen 进行比较,而不是这个 Qwen。

NVIDIA 自己的基准测试表是双方记录最详尽的一组数字,值得仔细阅读,因为它没有包含的内容同样重要。其对比列分别是 BF16 的 Qwen3.6-35B-A3B、BF16 的 Gemma 4 26B-A4B-IT,以及 Nemotron 3.5 Lightning 30B-A3B。Qwen4-Max 不在表中。表中所测的 Qwen 是两代之前的 350 亿参数开放权重模型,原因一说就明白:对比集合是由内存占用定义的,而一个托管的 2.4 万亿参数 API 没有可供比较的占用。

这张表格确实能说明的是——所有这些数据都来自厂商自报、且未经复现——一个 24GB 的文件在智能体任务上,足以与规模大得多的本地选项相竞争。而这一切,仅限于 NVIDIA 挑选出来的那几行:

• BrowseComp — Nemotron 3.5 Bolt 74B 为 66.75,而 Qwen3.6-35B-A3B 为 48.74,Gemma 4 26B-A4B 为 26.30

• Terminal-Bench 2.1 — 50.98,对比 44.38 和 37.22

• 视觉模式下的 WebArena — 50.86,对比 36.60 和 38.20

• GPQA Diamond — 86.43,对比 83.40 和 79.61

• HLE 无工具 — 25.30,对比 19.56 和 17.42

• GDPVal-AA-V2 — 28.47,对比 25.75 和 15.33

• MCP-Atlas — 52.20,对比 51.20 和 48.4

• Tau3 Banking — 17.01,相较于 10.52 和 14.02

Screenshot of the Hugging Face model card for NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB captured 19 November 2026, showing the 15 October 2026 release date, the 74B total and 9B active parameter configuration, a context length of up to 256K tokens, the OpenMDW-1.1 licence, and the vendor benchmark table comparing Bolt against Qwen3.6-35B-A3B, Gemma 4 26B-A4B-IT and Nemotron 3.5 Lightning 30B-A3B.

它落后的那两行值得点明,因为厂商表格很少包含它们。在 AA-Omniscience 准确率上,Gemma 4 26B-A4B 得分为 22.17,而 Bolt 为 16.90;在 AA-Omniscience 非幻觉上,Nemotron 3.5 Lightning 以 68.81 领先,而 Bolt 为 61.27。Bolt 披露的最弱属性是知道自己不知道。

脚注与表格各行同样重要。NVIDIA 将 MCP-Atlas 记为 51.20,对象是 Qwen3.6-35B-A3B,同时指出 Qwen 自己在同一基准上报告的是 62.8,且是在 500 个公开任务上测得的。两个实验室,同一个基准,相差十一点五分。这不是丑闻;当中间没有人为双方运行测试框架时,厂商报告的数字就是这样。而这正是 Intelligence Index 为 Qwen4-Max 扮演、却无法为 Bolt 扮演的角色。

Screenshot of the Artificial Analysis page for Nemotron 3.5 Bolt 74B-A9B captured 19 November 2026, showing the Intelligence Index, time per task, cost per task and verbosity panels reading N/A, 'No publicly available API' across the provider charts, and technical specifications listing 74B total parameters, 9B active, a 262k context window and the OpenMDW-1.1 licence.

独立委员会如何评价Qwen4-Max——以及为何这并不能定论

Qwen4-Max 的独立评测记录虽然不多,但确实存在。Artificial Analysis 在 Intelligence Index v5.0.1 上给它打出 43 分,并在该版本榜单的 96 个模型中排名第 51 位。它每个索引任务的计算成本为 3.27 美元;整个运行期间共生成 1.27 亿个输出 token,而中位数为 6510 万个,因此表现依然站得住;每个任务耗时 31.3 分钟,而中位数为 12.4 分钟。输出速度为每秒 56 个 token;首个答案 token 的延迟为 146 秒。该模型在榜单上的上下文窗口显示为 984k,这是思考模式输入上限 983,616 四舍五入后的结果,并非另一个模型。

Screenshot of the Artificial Analysis page for Qwen4 Max captured 19 November 2026, showing an Intelligence Index v5.0.1 score of 43 at rank 51 of 96, time to first answer token of 146.14 seconds, output speed of 56 tokens per second, 31.3 minutes per index task, $3.27 cost per task, 127M output tokens from the index run, and $1.50/$4.50 per million token pricing with a 984k context window.

要把这些行当作部署配置来读,而不是当作判决。一个每个任务思考半小时、输出的 token 数量是中位数两倍的模型,它慢并不是因为服务得不好;它慢是因为每个任务做了更多工作,并且按工作量向你收费。按每个任务计算,3.27 美元是 Qwen4-Max 给出答案的诚实成本,也是在与你自己托管的模型做任何比较时应当采用的数字——在那种情况下,一个任务的边际成本是电费和排队时间。

现在试着把 Bolt 的 24GB 放到那旁边。你有一张厂商表格,声称它在智能体浏览方面击败了 35B 开放权重的 Qwen;你还有一个独立榜单,称它实际被拿来对比的托管版 Qwen 得分为 43,每项任务成本为 3.27 美元。这两个事实对不上。没有人让 Nemotron 3.5 Bolt 74B 跑过 Intelligence Index,而在有人这样做之前,任何把这两个模型放在能力轴上的图表,都是在把一个实测点和一个假设点连成一条线。

在比较可判定的地方:内存、延迟和账单

可以诚实地比较三行数据,因为双方都会公布它们,且都不需要第三方介入。

• 内存 — Nemotron 3.5 Bolt 74B-A9B 24GB 在 2.0625 位专家量化下需要 24 GB 本地内存;Qwen4-Max 则不需要,因为你从不持有权重。代价是,托管模型的内存上限会变成上下文上限:NVIDIA 检查点为 262,144 个 token,Qwen4-Max 为 1,000,000 个 token,思考模式下输入限制为 983,616 个 token,推理与回答共享 262,144 个 token。

• 速度——NVIDIA 声称解码速度至少为每秒 80 个 token,并报告使用草稿模型时达到 84 个;Artificial Analysis 测得 Qwen4-Max 为每秒 56 个 token,首个回答 token 耗时 146 秒。本地模型每个 token 更快,并且更早开始回答。托管模型仍可能更快完成任务,因为它进行的思考量不同。

• 价格——在独立测试框架上,一项 Qwen4-Max 任务花费 3.27 美元,或者按计量为每百万 token 1.50 美元和 4.50 美元。Nemotron 3.5 Bolt 74B 完全没有公布按计量计费的价格,因为没有供应商在出售它。它的成本就是 GPU 让你付出的代价:一张已经装在工作站里的 24GB 显卡,按你每月通过它运行的任务数量进行摊销。

最后一行才是决策真正所在,也正是“哪个更聪明”这种框架屡屡失效的原因。如果你的工作负载是每月一百万次简短的智能体轮次,那么本地检查点在单位经济性上的优势,是任何基准测试行都无法超越的;而 262k 上下文则是你需要围绕其进行设计的约束。如果你的工作负载是几千个长周期任务,输入中包含视频,并附带一份 900,000 token 的文档,那么任何 24GB 检查点都根本无法回答这个问题;此时 Qwen4-Max 每任务 3.27 美元就是现有最便宜的答案,而不是昂贵的答案。

为什么诚实的答案是“两者都要,用于不同的任务”

一个诱人的做法是直接宣布赢家,而搜索结果页里到处都是这样做的页面,却并没有共享数据。更有用的结论是:这两个模型正从相反的方向收敛到同一个架构理念上。Qwen4-Max 是一个稀疏混合专家模型,每个 token 激活其 2.4 万亿参数中的 710 亿,并且倚重 token 效率——厂商自己未经复现的说法是,它在最多减少约 50% token 的情况下优于 Qwen3.8-Max,平均每任务成本从 4.43 美元降至 1.67 美元。Nemotron 3.5 Bolt 74B 是一个稀疏混合专家模型,每个 token 激活其 740 亿参数中的 90 亿,并且倚重压缩,凭借 2 比特专家权重和一个小型投机草稿模型,换来了 24GB 的占用空间。两者回答的是同一个问题:每个 token 你最少能触碰模型的多少部分,而不至于让质量崩塌?

这种表述有一个实际后果。能从二者中获益最多的团队,衡量的是每完成一个任务所消耗的 token,而不是每秒消耗的 token。在本地侧,这意味着要关注草稿模型的接受长度,因为在贪心解码下每步接受 4.68 个 token、在采样下每步接受 4.25 个 token 的推测解码器,正是吞吐量的来源,而采样设置会改变这一数字。在托管侧,这意味着要记录思考加答案的合计总量,并与 262,144 个 token 的上限对照,因为推理力度默认是高,而一个请求 medium 的 OpenAI 风格客户端会悄悄收到 high。这两种衡量都不需要基准测试,而且都比基准测试更有信息量。

怎样才能了结此事?

缺的就是一次评测框架运行。如果让 Nemotron 3.5 Bolt 74B-A9B 24GB 以其发布时的量化版本跑一遍 Intelligence Index v5.0.1,这两个模型就能在双方都能被衡量的唯一维度上变得可比,而每个目前写着“尚无共享基准结果”的聚合页面也就有内容可登。NVIDIA 已发布检查点,运行时是 vLLM,工具也已具备。在那之前,有用的做法是不要再把它当作一场对决,而是开始把它当作一个自建还是购买的决策:一边是记录在案的成本,另一边是记录在案的资源占用。

就我们自己的账目而言,关于可用性要说准确:OrcaRouter 对这两款模型都不提供路由。Nemotron 3.5 Bolt 74B 是一个由你自己部署运行的下载项,而 Qwen4-Max 则是在当前免费窗口期内从阿里巴巴或通过合作伙伴平台租用。我们目录中的 Qwen 家族成员是 Qwen3.8-Max,每百万 token 输入 $2.00、输出 $6.00,上下文为 1M token;如果你想要用一把密钥贯通混合技术栈,以及遵循厂商自身标价、而非加价转售的价格,那么它就是自然的后备选择。对于这样的决策——两个候选分别位于自建与购买光谱的两端——路由器能提供的有用之处并不是一个赢家。而是让你在弄清本地路线做不到什么的同时,保持托管路线开放的能力。

如果你这个月就要做选择,那就根据你无法让步的约束来选。上下文、模态和按任务付费,是 Qwen4-Max 需要满足的约束。内存、离线运行和每次请求零边际成本,是 Nemotron 3.5 Bolt 74B 需要满足的约束。它们之间的基准差距确实存在,但决定你架构的并不是这个差距——而且在有人实际运行测试框架之前,做再多并排对比表也无法消除它。

本文中的对比1

根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新