Ripple 65B Preview 對決 Nemotron 3.5 Bolt 74B：先算 VRAM 這筆帳

這兩款模型都以同一個承諾作為賣點——你能在自行擁有的硬體上運行一個真正堪用的代理式編碼模型。Ripple 65B Preview 在 BF16 下，還沒載入任何一個上下文 token 之前，就需要約 130 GB 的記憶體。Nemotron 3.5 Bolt 74B-A9B 則只需 24 GB，因為 NVIDIA 把它壓縮到 2.0625 位元。這代表你必須採購的硬體相差五倍，而在基準測試表還沒來得及插話之前，這就已經決定了這場比較。

這才是耐人尋味的地方，因為在兩家實驗室都發表了同一版本的唯一一項基準測試上，小體積模型並不是贏家。NVIDIA 的 Nemotron 3.5 Bolt 74B-A9B 在 Terminal-Bench 2.1 上回報 50.98。Ricursive 的 Ripple 65B Preview 在同一修訂版本上回報 80.5。相差三十分，同一場考試——但應考條件差異之大，以致誠實的解讀比標題所暗示的更為有限。

先算清楚這筆帳，其他再說

Ripple 65B Preview 是稠密模型。全部 650 億個參數在每個 token 上都會啟用，因此以 BF16 計算，光權重就是 65 × 2 bytes = 130 GB，而這還不包含 KV 快取。Ricursive 確實有推出 NVFP4 變體，可將權重降到約四分之一——大約 33 GB 加上快取——而正是這個版本讓單 GPU 或 DGX Spark 部署變得實際可行。該公司公開宣稱的目標是 DGX Spark，在尚未使用自訂 kernel 之前，於兩張 B200 上以 batch size 8 達到每秒 250 個 token。

Nemotron 3.5 Bolt 74B-A9B 是一個混合專家（Mixture-of-Experts）模型，擁有 9B 活躍參數，衍生自 NVIDIA 的 Nemotron 3.5 Super VL 120B-A12B 母模型，透過該公司稱為 Star Elastic 的路由器引導式搜尋，將專家的 top-K 從 22 削減至 9。在 IQ2_XXS 下以 2.0625 位元量化，權重約為 19 GB，在批次大小為 1 時可容納於一張 24 GB 的顯示卡。這就是全部的設計目標，而它達成了。

• 記憶體 — 約 130 GB BF16 / 約 33 GB NVFP4，相較於 2.06 bits 時的約 19 GB；24 GB 顯示卡、批次 1

• 形態 — 65B 稠密模型 vs 74B 總參數／9B 啟用參數 MoE

• 上下文 — 標稱 1M 對比 262,144，而 vLLM 配方建議在 28 GB 顯示卡上使用 64K

• 模態 — 僅文字 vs 文字、圖片與影片輸入

• 授權 — Apache 2.0 對比 OpenMDW-1.1

• 價格 — 第一個代管端點為每百萬 $0.20 / $0.60，相較之下完全沒有代管的每權杖（token）價格

同樣的測試框架，不同的條件

Terminal-Bench 2.1 是罕見的情況：兩個實驗室都引用同一個版本，這使得 80.5 對 50.98 的比較具有正當性，而大多數跨模型基準測試的討論並非如此。但正當性不等於公平性，而你必須牢記兩個不對稱之處。

第一個是量化。NVIDIA 的 50.98 是廠商回報的數字，針對主要以 2-bit 版本發佈的模型；該顯示卡的主打 GPQA 數字 86.43，是在那個壓縮檢查點上測得的。Ricursive 明確指出，其分數是在「BF16 的最高努力等級」下取得——也就是全精度版本。拿 2-bit 執行結果與 BF16 執行結果相比，等於是在比較兩個恰好共用同一個儲存庫的不同模型。

第二點是，NVIDIA 的數字是較保守的說法。該公司公布了 Terminal-Bench 上審慎的 50.98，同時也公布了 GPQA Diamond 上的 86.43，而獨立評測者後來在 Artificial Analysis 的 Intelligence Index 上將該模型評為 21 分——該分數是基於 v4.3.2 評定，這與這個價格區間其他模型所引用的 v5 重建版本是不同的索引版本。不要把那 21 分拿來和 v5 的數字並列相減。索引版本不能互換，而混用版本是本週撰寫的比較文章中最常見的錯誤。

24 GB 模型徹底勝出之處

GPQA Diamond 是最明顯的案例。Ripple 65B Preview 報告 85.2。Nemotron 3.5 Bolt 74B-A9B 報告 86.43。能放進單張消費級顯卡的模型，在研究生程度的科學題目上領先 1.2 分——這個差距小到可能是雜訊，但並不是對 Ripple 有利的差距。一個從零開始、在 12 兆個 token 上訓練的 65B 稠密模型，並未在知識上領先一個由更大母模型蒸餾而來、經壓縮的 74B MoE，而且也沒有理由它應該領先。

Nemotron 也能處理影像和影片。Ripple 則處理文字。如果你的 agent 需要查看渲染後的頁面、圖表，或失敗的 CI 任務的螢幕截圖，那就不是靠提示詞就能繞過的基準差異。

Ripple 的優勢也展現在它自己的卡片上的其他地方：SWE-bench Verified 上 76.5、MCP Atlas 上 71.67、IFBench 上 79.2、FORTRESS Adversarial 上 83.8。對一個 65B 模型來說，這些都是很強的分數，而它們指向的正是 Terminal-Bench 分數所指向的同一件事——這是一個專門針對工具使用與代理式編碼進行後訓練的模型，代價是廣度。

無法比較的速度宣稱

Ricursive 的每秒 250 個 token，是兩張 B200 在批次大小為 8 時的結果。NVIDIA 的每秒 83.99 個 token，則是筆電級的 RTX Spark 機器搭配推測式草稿模型，在 AIPerf 的程式設計基準測試上的結果。這兩者並不是在同一種硬體上進行的相同測量，若把它們放在同一句話裡引用，會是不誠實的。可以說的是方向性：Ripple 需要資料中心級加速器才能達到它的數字，而 Nemotron 則是經過調校，以便在能放在桌下的機器上產生可用的速率。

實務上的換算指標就是每美元硬體所能達到的吞吐量，而這兩個模型都沒有公開這個數字。如果你正要在兩者之間做選擇，這個數字應該由你自己實測得出，因為它取決於你的批次大小、上下文長度，以及你執行的是 NVFP4 版本還是 BF16 版本。

兩種寬鬆授權條款，一個有意義的差異

Ripple 採用 Apache 2.0，無須多加解釋，也不設任何門檻。Nemotron 3.5 Bolt 以 OpenMDW-1.1 發布，這是 NVIDIA 自家的開放模型授權，允許商業使用，但並非法務團隊已預先核准的 OSI 標準預設授權。實務上兩者都能用；但在採購流程中，其中一款會多花兩週時間。

Nemotron 的知識截止時間為 2026 年 5 月，其語言涵蓋範圍以英文與程式碼為優先，並支援西班牙文、法文、德文、義大利文與日文。Ripple 的說明卡則寫得很明白：它的語料庫以英文與程式碼為主，就這樣。兩者都不是多語言模型，而如果這正是你的需求，那兩者都不該列入候選名單。

什麼情況下不應自行執行其中任何一個

坦白說，反對這兩者的理由都在營運層面。放在你自己 GPU 上的模型，是需要你修補、監控、做容量規劃並保持熱備的模型——而一張 24 GB 顯卡以批次大小 1 執行 2-bit MoE，並不是生產服務層級，而是一台效能很強的開發機。一旦你的流量具突發性或屬於多租戶，按 token 計價的託管即使費率較差，也會在總成本上勝出，因為你不再為閒置的 VRAM 付費。

這正是 OrcaRouter 為你技術堆疊中確實需要託管的那一部分所填補的缺口：一組 API 金鑰即可存取 200 多個模型，價格為供應商定價、零加成，因此供應商降價當天就能反映到你身上，而不必等到下一次合約續約；當某家供應商效能下降時，也會自動故障轉移。這兩款模型目前都不在我們的型錄中——Nemotron 3.5 Bolt 完全沒有公布任何計量端點，而 Ripple 則是透過 Ricursive 自家的端點與第三方平台來提供 API 存取。路由器提供給你的是退場通道：先在本地用權重做原型開發，接著再把正式環境的存取路徑移到託管模型，而不必重寫客戶端。

經驗法則

如果機器是限制因素，就買 24 GB 版本。Nemotron 3.5 Bolt 74B-A9B 是這兩者中唯一能在單張消費級顯示卡上運行、且無需自行量化的模型；它能讀取影像，且在 GPQA 上與 Ripple 只差一分。你會放棄 Terminal-Bench 2.1 大約三十分，並接受 2-bit 檢查點，這是代理可靠性上的實質成本，而基準測試的差距很可能低估了這項成本。

如果工作內容是純文字的代理式編碼，而且你手上有硬體或便宜的託管端點，那就買 130 GB 模型。Ripple 65B Preview 在 Terminal-Bench 2.1 拿下 80.5，是兩家實驗室這個月提出的代理式編碼主張中最強的一個，而它的 Apache 2.0 授權也是你到處都找不到更低摩擦的選擇。只要跑 NVFP4 版本、把記憶體算進預算，並在你自己的任務集上重現那個數字之後再相信它——那張卡本身就警告過，複現一直很困難。