Ripple 65B Preview 对比 Nemotron 3.5 Bolt 74B：显存账单先行

这两个模型都建立在同一个承诺之上——你可以在自己拥有的硬件上运行一个正经的智能体编程器。Ripple 65B Preview 在尚未加载任何上下文 token 之前，BF16 下就需要约 130 GB 内存。Nemotron 3.5 Bolt 74B-A9B 则需要 24 GB，因为 NVIDIA 将其压缩到了 2.0625 比特。这意味着你必须购买的硬件存在五倍差异，而且在基准测试表还没来得及插上一句话之前，它就已经决定了这场比较。

耐人寻味的地方正在于此：在两家实验室都按同一版本公布结果的唯一一项基准测试上，小体量模型并不是赢家。NVIDIA 的 Nemotron 3.5 Bolt 74B-A9B 在 Terminal-Bench 2.1 上报告 50.98 分。Ricursive 的 Ripple 65B Preview 在同一修订版本上报告 80.5 分。相差三十分，同一场考试——但考试条件差异如此之大，以至于诚实的解读比标题所暗示的要有限得多。

算术，先于一切。

Ripple 65B Preview 是稠密模型。全部 650 亿参数在每个 token 上都会生效，因此在 BF16 下，仅权重就有 65 × 2 字节 = 130 GB，这还没算上 KV 缓存。Ricursive 确实提供了一个 NVFP4 变体，可将权重大致降到上述的四分之一——也就是约 33 GB 加缓存——正是这个版本让单 GPU 或 DGX Spark 部署变得现实可行。该公司宣称的目标是 DGX Spark，在批大小为 8 时，于两块 B200 上达到每秒 250 个 token，这还是在未使用自定义内核的情况下。

Nemotron 3.5 Bolt 74B-A9B 是一个混合专家模型，拥有 9B 激活参数，它通过公司称为 Star Elastic 的路由引导搜索，将专家 top-K 从 22 降至 9，从而从 NVIDIA 的父模型 Nemotron 3.5 Super VL 120B-A12B 衍生而来。在 IQ2_XXS 下以 2.0625 比特量化时，其权重大约为 19 GB，可在批大小为 1 时装入 24 GB 显卡。这就是整个设计目标，而且已经达成。

• 内存 — 约 130 GB BF16 / 约 33 GB NVFP4，而 2.06 位下约 19 GB；批大小为 1 时，24 GB 显卡

• 形态 — 65B 稠密模型 vs 总参数 74B / 激活 9B 的 MoE

• 背景 —— 宣传为 1M，实际为 262,144，而 vLLM 的配置方案建议在 28 GB 显卡上使用 64K

• 模态 — 仅文本 vs 文本、图像和视频输入

• 许可证 — Apache 2.0 与 OpenMDW-1.1 对比

• 价格 — 首个托管端点为每百万 $0.20 / $0.60，而对方完全没有托管式的按 token 计费价格

相同的装置，不同的条件

Terminal-Bench 2.1 属于少见的情况：两家实验室引用的都是同一版本，这使得 80.5 对 50.98 的比较在大多数跨模型基准讨论并不具备的意义上站得住脚。但站得住脚并不等于公平，而且有两个不对称之处你必须牢记在心。

首先是量化。NVIDIA 的 50.98 是厂商报告的数字，针对的是主要以 2 比特版本分发的模型；该显卡的标志性 GPQA 数字 86.43 是在那个压缩检查点上测得的。Ricursive 明确说明，其分数是在“BF16 下以最大努力水平”取得的——即全精度版本。将 2 比特运行与 BF16 运行相比，就是在比较两个恰好共享同一个仓库的不同模型。

第二点是，NVIDIA 给出的数字是更保守的说法。该公司在 Terminal-Bench 上公布了颇为保守的 50.98，同时在 GPQA Diamond 上公布了 86.43；而独立评估者此后在 Artificial Analysis 的 Intelligence Index 上给该模型打出 21 分——这一评分基于 v4.3.2，而该指数版本不同于同价位其他模型所引用的 v5 重构版。不要把这个 21 与 v5 的数字并列相减。指数版本不可互换，混用版本是本周各类对比文章中最常见的错误。

24 GB 型号彻底胜出之处

GPQA Diamond 是最清楚的例子。Ripple 65B Preview 报告为 85.2。Nemotron 3.5 Bolt 74B-A9B 报告为 86.43。能装进单张消费级显卡的模型在研究生水平的科学问题上领先 1.2 分——这个差距小到可能只是噪声，但并不是有利于 Ripple 的差距。一个从头开始、在 12 万亿 token 上训练的 65B 稠密模型，并没有在知识上领先于一个从更大母模型蒸馏而来的压缩 74B MoE，而且它也没有理由会领先。

Nemotron 还能接收图像和视频，Ripple 只能处理文本。如果你的智能体需要查看渲染后的页面、图表，或失败 CI 任务的截图，那就不是靠提示词就能绕过的基准差异了。

Ripple 的优势也体现在它自己的模型卡上的其他地方：SWE-bench Verified 上为 76.5，MCP Atlas 上为 71.67，IFBench 上为 79.2，FORTRESS Adversarial 上为 83.8。对于 65B 模型来说，这些数字很亮眼，而且它们与 Terminal-Bench 分数指向同一结论——这是一个专门针对工具使用和智能体编程进行后训练的模型，代价是牺牲了广度。

无法比较的速度宣称

Ricursive 的每秒 250 个 token 是两台 B200 在批大小为 8 时的结果。NVIDIA 的每秒 83.99 个 token 是一台笔记本级 RTX Spark 机器配备推测式起草器，在 AIPerf 的编程基准测试上的结果。这些并非在同一硬件上的同一种测量，把它们放在一句话里引用会是不诚实的。可以说的是方向性的：Ripple 需要数据中心级加速器才能达到其数字，而 Nemotron 经过调优，能在一台可以塞在书桌下的机器上产出可用的速率。

实际换算下来就是每美元硬件的吞吐量，而两个模型都没有人公布过这个数字。如果你要在这两者之间做选择，那这个数字应该由你自己测出来，因为它取决于你的批大小、上下文长度，以及你运行的是 NVFP4 版本还是 BF16 版本。

两个宽松许可证，一个实质性差异

Ripple 采用 Apache 2.0 许可证，无需额外说明，也不设任何门槛。Nemotron 3.5 Bolt 以 OpenMDW-1.1 发布，这是 NVIDIA 自有的开放模型许可证，允许商业使用，但并非法务团队已预先审核通过的 OSI 标准默认许可证。实际使用中两者都可以用；但在采购环节，其中一个会多花两周时间。

Nemotron 的知识截止时间是 2026 年 5 月，其语言覆盖范围以英语和代码为先，同时支持西班牙语、法语、德语、意大利语和日语。Ripple 的卡片上说，它的语料库以英语和代码为主，仅此而已。两者都不是多语言模型；如果多语言是你的要求，那么两者都不应进入候选名单。

何时不应自行运行其中任何一个

反对两者的实在理由都在运维层面。跑在自有 GPU 上的模型，是需要你打补丁、监控、做容量规划并保持热备的模型；而一张 24 GB 显卡以 batch size 1 运行 2-bit MoE，并不是生产服务层级，而是一台能力很强的开发机。一旦流量具有突发性或面向多租户，按 token 计费的托管即便单价更差，在总成本上也会胜出，因为你不必再为闲置显存付费。

这正是 OrcaRouter 为你的技术栈中确实需要托管的那部分所填补的空白：一个 API 密钥即可使用 200 多款模型，按提供商标价、0% 加价，因此供应商降价当天就能惠及你，而不是等到下一次合同续约；当某个提供商服务劣化时还能自动故障转移。这两款模型目前都不在我们的目录中——Nemotron 3.5 Bolt 根本没有发布按量计费端点，而 Ripple 通过 Ricursive 自有端点和第三方平台接入 API。路由器为你提供的是退出通道：先在权重上本地做原型，然后将生产路径迁移到托管模型，而无需重写客户端。

经验法则

如果机器是限制因素，那就买 24 GB 版本。Nemotron 3.5 Bolt 74B-A9B 是这两者中唯一无需你自己量化就能在单张消费级显卡上运行的模型，它能读取图像，并且在 GPQA 上与 Ripple 的差距不到一分。你要放弃大约三十分的 Terminal-Bench 2.1，还要接受一个 2-bit 检查点——这对智能体可靠性来说是实实在在的代价，而基准测试的差距很可能低估了这一点。

如果工作是纯文本的智能体式编程，并且你拥有相应硬件或便宜的自托管端点，那就购买 130 GB 型号。Ripple 65B Preview 在 Terminal-Bench 2.1 上的 80.5 是两家实验室本月提出的最强智能体式编程主张，而其 Apache 2.0 许可证是你所能找到的阻力最小的选择。只需运行 NVFP4 构建，为内存做好预算，并在相信这个数字之前，在你自己的任务集上复现它——模型卡本身警告称，复现一直很困难。