
Qwen4-Max 与 Nemotron 3.5 Bolt 74B:这个对比中缺少一个数字
- Orca新OrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 每百万 tokens · 184 tok/s
- tencent新Tencent: Hy4 Flash2026-11-16$0.02 / $0.07 每百万 tokens · 215 tok/s
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百万 tokens · 87 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百万 tokens · 97 tok/s
- orca新Orca: OrcaC2 1.02026-11-079 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百万 tokens · 90 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百万 tokens · 131 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 每百万 tokens · 76 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 每百万 tokens · 109 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百万 tokens · 114 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百万 tokens · 68 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 94 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百万 tokens · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百万 tokens · 209 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百万 tokens · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 每百万 tokens · 311 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
把 Qwen4-Max 和 NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 并排放在一起,你首先注意到的是,对比网站根本没有什么可对比的。BenchLM 说得很直白——目前还没有共同的基准测试结果——然后转而邀请你去看价格。原因在于结构性问题,而非暂时现象:Qwen4-Max 在 Artificial Analysis Intelligence Index v5.0.1 上得分为 43,而 Nemotron 3.5 Bolt 74B-A9B 24GB 根本没有 Intelligence Index 分数。不是分数低,而是 N/A——在一个早在两者发布之前就已开始运行模型的榜单上,因为该模型没有公开可用的 API,独立测评框架也无从调用。
那一处缺失会重新组织这场对比中的其他一切。你不能把参数量为 740 亿、可装进 24 GB 的检查点,和参数量为 2.4 万亿的托管模型,通过把它们的数字放进相邻单元格来排名,因为两者中只有一个有数字。你能做、而聚合页面不做的是:把各厂商各自提出的说法分开,注明是谁测量的,并弄清决策实际取决于哪一列。结果这与其说是能力问题,不如说是你是在买一个文件,还是在租一项服务。
一个是文件,另一个是仪表。
NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 于 2026 年 10 月 15 日发布,并以可下载权重的形式托管在 Hugging Face 上,采用允许商业使用的 OpenMDW-1.1 许可证。它是一个混合 Mamba-Transformer 的专家混合模型:总参数量 740 亿,每个 token 激活 90 亿。名字里的“24GB”正是整个工作的核心所在。NVIDIA 通过一个名为 Star Elastic 的路由引导搜索框架,压缩其 120B-A12B 的父模型,将专家 top-K 从 22 削减到 9,然后应用量化感知蒸馏,使专家层停留在 2.0625 比特。随附一个 11.3 亿参数的投机解码器,在贪心解码下平均接受长度为 4.68,在采样下为 4.25。推荐的运行时是 vLLM,运行于 Ampere、Hopper 或 Blackwell 上,张量并行规模为一。
Qwen4-Max 则是相反的构造,不仅是因为规模。阿里巴巴第四代旗舰模型于 2026 年 11 月 16 日在新加坡全面可用,价格为每百万输入 token 1.50 美元、每百万输出 token 4.50 美元,具有 1,000,000 token 的上下文窗口、原生图像和视频输入,以及三个可配置的推理级别。没有发布任何检查点。微调、模型部署和批量推理在 Model Studio 文档中均列为不支持。每个为其提供服务的端点提供的都是阿里巴巴的部署。
所以,这两个模型并不是在争夺你架构里的同一个位置。一个是你自己运行的;一个是你去调用的。任何不以此为起点的比较,测的都是错误的东西。
供应商表格将 Bolt 与另一个 Qwen 进行比较,而不是这个 Qwen。
NVIDIA 自己的基准测试表是双方记录最详尽的一组数字,值得仔细阅读,因为它没有包含的内容同样重要。其对比列分别是 BF16 的 Qwen3.6-35B-A3B、BF16 的 Gemma 4 26B-A4B-IT,以及 Nemotron 3.5 Lightning 30B-A3B。Qwen4-Max 不在表中。表中所测的 Qwen 是两代之前的 350 亿参数开放权重模型,原因一说就明白:对比集合是由内存占用定义的,而一个托管的 2.4 万亿参数 API 没有可供比较的占用。
这张表格确实能说明的是——所有这些数据都来自厂商自报、且未经复现——一个 24GB 的文件在智能体任务上,足以与规模大得多的本地选项相竞争。而这一切,仅限于 NVIDIA 挑选出来的那几行:
• BrowseComp — Nemotron 3.5 Bolt 74B 为 66.75,而 Qwen3.6-35B-A3B 为 48.74,Gemma 4 26B-A4B 为 26.30
• Terminal-Bench 2.1 — 50.98,对比 44.38 和 37.22
• 视觉模式下的 WebArena — 50.86,对比 36.60 和 38.20
• GPQA Diamond — 86.43,对比 83.40 和 79.61
• HLE 无工具 — 25.30,对比 19.56 和 17.42
• GDPVal-AA-V2 — 28.47,对比 25.75 和 15.33
• MCP-Atlas — 52.20,对比 51.20 和 48.4
• Tau3 Banking — 17.01,相较于 10.52 和 14.02

它落后的那两行值得点明,因为厂商表格很少包含它们。在 AA-Omniscience 准确率上,Gemma 4 26B-A4B 得分为 22.17,而 Bolt 为 16.90;在 AA-Omniscience 非幻觉上,Nemotron 3.5 Lightning 以 68.81 领先,而 Bolt 为 61.27。Bolt 披露的最弱属性是知道自己不知道。
脚注与表格各行同样重要。NVIDIA 将 MCP-Atlas 记为 51.20,对象是 Qwen3.6-35B-A3B,同时指出 Qwen 自己在同一基准上报告的是 62.8,且是在 500 个公开任务上测得的。两个实验室,同一个基准,相差十一点五分。这不是丑闻;当中间没有人为双方运行测试框架时,厂商报告的数字就是这样。而这正是 Intelligence Index 为 Qwen4-Max 扮演、却无法为 Bolt 扮演的角色。

独立委员会如何评价Qwen4-Max——以及为何这并不能定论
Qwen4-Max 的独立评测记录虽然不多,但确实存在。Artificial Analysis 在 Intelligence Index v5.0.1 上给它打出 43 分,并在该版本榜单的 96 个模型中排名第 51 位。它每个索引任务的计算成本为 3.27 美元;整个运行期间共生成 1.27 亿个输出 token,而中位数为 6510 万个,因此表现依然站得住;每个任务耗时 31.3 分钟,而中位数为 12.4 分钟。输出速度为每秒 56 个 token;首个答案 token 的延迟为 146 秒。该模型在榜单上的上下文窗口显示为 984k,这是思考模式输入上限 983,616 四舍五入后的结果,并非另一个模型。

要把这些行当作部署配置来读,而不是当作判决。一个每个任务思考半小时、输出的 token 数量是中位数两倍的模型,它慢并不是因为服务得不好;它慢是因为每个任务做了更多工作,并且按工作量向你收费。按每个任务计算,3.27 美元是 Qwen4-Max 给出答案的诚实成本,也是在与你自己托管的模型做任何比较时应当采用的数字——在那种情况下,一个任务的边际成本是电费和排队时间。
现在试着把 Bolt 的 24GB 放到那旁边。你有一张厂商表格,声称它在智能体浏览方面击败了 35B 开放权重的 Qwen;你还有一个独立榜单,称它实际被拿来对比的托管版 Qwen 得分为 43,每项任务成本为 3.27 美元。这两个事实对不上。没有人让 Nemotron 3.5 Bolt 74B 跑过 Intelligence Index,而在有人这样做之前,任何把这两个模型放在能力轴上的图表,都是在把一个实测点和一个假设点连成一条线。
在比较可判定的地方:内存、延迟和账单
可以诚实地比较三行数据,因为双方都会公布它们,且都不需要第三方介入。
• 内存 — Nemotron 3.5 Bolt 74B-A9B 24GB 在 2.0625 位专家量化下需要 24 GB 本地内存;Qwen4-Max 则不需要,因为你从不持有权重。代价是,托管模型的内存上限会变成上下文上限:NVIDIA 检查点为 262,144 个 token,Qwen4-Max 为 1,000,000 个 token,思考模式下输入限制为 983,616 个 token,推理与回答共享 262,144 个 token。
• 速度——NVIDIA 声称解码速度至少为每秒 80 个 token,并报告使用草稿模型时达到 84 个;Artificial Analysis 测得 Qwen4-Max 为每秒 56 个 token,首个回答 token 耗时 146 秒。本地模型每个 token 更快,并且更早开始回答。托管模型仍可能更快完成任务,因为它进行的思考量不同。
• 价格——在独立测试框架上,一项 Qwen4-Max 任务花费 3.27 美元,或者按计量为每百万 token 1.50 美元和 4.50 美元。Nemotron 3.5 Bolt 74B 完全没有公布按计量计费的价格,因为没有供应商在出售它。它的成本就是 GPU 让你付出的代价:一张已经装在工作站里的 24GB 显卡,按你每月通过它运行的任务数量进行摊销。
最后一行才是决策真正所在,也正是“哪个更聪明”这种框架屡屡失效的原因。如果你的工作负载是每月一百万次简短的智能体轮次,那么本地检查点在单位经济性上的优势,是任何基准测试行都无法超越的;而 262k 上下文则是你需要围绕其进行设计的约束。如果你的工作负载是几千个长周期任务,输入中包含视频,并附带一份 900,000 token 的文档,那么任何 24GB 检查点都根本无法回答这个问题;此时 Qwen4-Max 每任务 3.27 美元就是现有最便宜的答案,而不是昂贵的答案。
为什么诚实的答案是“两者都要,用于不同的任务”
一个诱人的做法是直接宣布赢家,而搜索结果页里到处都是这样做的页面,却并没有共享数据。更有用的结论是:这两个模型正从相反的方向收敛到同一个架构理念上。Qwen4-Max 是一个稀疏混合专家模型,每个 token 激活其 2.4 万亿参数中的 710 亿,并且倚重 token 效率——厂商自己未经复现的说法是,它在最多减少约 50% token 的情况下优于 Qwen3.8-Max,平均每任务成本从 4.43 美元降至 1.67 美元。Nemotron 3.5 Bolt 74B 是一个稀疏混合专家模型,每个 token 激活其 740 亿参数中的 90 亿,并且倚重压缩,凭借 2 比特专家权重和一个小型投机草稿模型,换来了 24GB 的占用空间。两者回答的是同一个问题:每个 token 你最少能触碰模型的多少部分,而不至于让质量崩塌?
这种表述有一个实际后果。能从二者中获益最多的团队,衡量的是每完成一个任务所消耗的 token,而不是每秒消耗的 token。在本地侧,这意味着要关注草稿模型的接受长度,因为在贪心解码下每步接受 4.68 个 token、在采样下每步接受 4.25 个 token 的推测解码器,正是吞吐量的来源,而采样设置会改变这一数字。在托管侧,这意味着要记录思考加答案的合计总量,并与 262,144 个 token 的上限对照,因为推理力度默认是高,而一个请求 medium 的 OpenAI 风格客户端会悄悄收到 high。这两种衡量都不需要基准测试,而且都比基准测试更有信息量。
怎样才能了结此事?
缺的就是一次评测框架运行。如果让 Nemotron 3.5 Bolt 74B-A9B 24GB 以其发布时的量化版本跑一遍 Intelligence Index v5.0.1,这两个模型就能在双方都能被衡量的唯一维度上变得可比,而每个目前写着“尚无共享基准结果”的聚合页面也就有内容可登。NVIDIA 已发布检查点,运行时是 vLLM,工具也已具备。在那之前,有用的做法是不要再把它当作一场对决,而是开始把它当作一个自建还是购买的决策:一边是记录在案的成本,另一边是记录在案的资源占用。
就我们自己的账目而言,关于可用性要说准确:OrcaRouter 对这两款模型都不提供路由。Nemotron 3.5 Bolt 74B 是一个由你自己部署运行的下载项,而 Qwen4-Max 则是在当前免费窗口期内从阿里巴巴或通过合作伙伴平台租用。我们目录中的 Qwen 家族成员是 Qwen3.8-Max,每百万 token 输入 $2.00、输出 $6.00,上下文为 1M token;如果你想要用一把密钥贯通混合技术栈,以及遵循厂商自身标价、而非加价转售的价格,那么它就是自然的后备选择。对于这样的决策——两个候选分别位于自建与购买光谱的两端——路由器能提供的有用之处并不是一个赢家。而是让你在弄清本地路线做不到什么的同时,保持托管路线开放的能力。
如果你这个月就要做选择,那就根据你无法让步的约束来选。上下文、模态和按任务付费,是 Qwen4-Max 需要满足的约束。内存、离线运行和每次请求零边际成本,是 Nemotron 3.5 Bolt 74B 需要满足的约束。它们之间的基准差距确实存在,但决定你架构的并不是这个差距——而且在有人实际运行测试框架之前,做再多并排对比表也无法消除它。
本文中的对比1
根据本文内容识别 · 基准测试:Artificial Analysis · 每日更新
