一張生成的標題卡,在四個面板中比較 NVIDIA Nemotron 3.5 Super VL 與 NVIDIA Nemotron 3 Ultra 550B-A55B:參數為 120B 總量與 12B 活躍量,對比 550B 總量與 55B 活躍量;注意力機制為混合 Mamba-2 與 MoE,對比 LatentMoE;硬體門檻為 4xH100 或 2xGB200,對比 16xH100 或 8xGB200;以及在 Super VL 上的文字、圖像與視訊模態,對比 Nemotron 3 Ultra 上的文字。頁尾指出,每一項數據都來自 NVIDIA 自家的模型卡,且沒有任何第三方發表過獨立比較。OrcaRouter 標誌合成於右下角。
Engineering & Research

Nemotron 3.5 Super VL 對上 Nemotron 3 Ultra:比旗艦更便宜,還是只是規模較小?

作者

Gideon Frost

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

NVIDIA 的 Nemotron 3.5 共有三個等級,而其中一個是規劃者的陷阱。NVIDIA Nemotron 3 Ultra 550B-A55B於 2026 年 6 月 4 日發布,是該系列的旗艦:總參數 5,500 億、每個 token 啟用 550 億,具備搭配多 Token 預測的 LatentMoE 層、100 萬 token 上下文,並註明最低需要十六張 H100 或八張 GB200。NVIDIA Nemotron 3.5 Super VL其權重於 2026 年 10 月 12 日在 Hugging Face 上發布,NVIDIA 的公告則於 10 月 15 日跟進,是低於旗艦的等級:總參數 1,200 億、啟用 120 億,同樣具備 100 萬 token 上下文、C-RADIO 視覺編碼器,以及最低四張 H100 或兩張 GB200 的需求。NVIDIA 自家的 Super VL 產品卡直接將其與 Ultra 進行基準比較,並聲稱在參數約為五分之一的條件下,準確度達到 Ultra 的鄰近水準。該說法由供應商自行報告、未經重現,而整個比較就繫於這一句話。

真正決定部署的算術

先從這兩個檢查點實際上需要什麼開始,因為那才是預算負責人會簽核的數字。

• 總參數量 — Super VL 為 120B,而 Ultra 為 550B。權重佔用量大約是 4.6 倍,而填滿 GPU 的正是這些權重。

• 每個 token 的活躍參數 — 12B 對上 55B。每個 token 的運算量取決於這個數字,而非總參數量,這就是為什麼這兩個模型的實際執行成本都遠低於其規模所暗示——也是為什麼它們之間的差距在記憶體上是 4.6 倍,但在每 token 運算量上同樣是 4.6 倍。

• 最低硬體需求 — Super VL 為 4×H100 或 2×GB200;Ultra 為 16×H100 或 8×GB200。實際上來說,就是一個節點對上一座機架。

• 模態 — Super VL 支援文字、圖像與影片輸入;Ultra 則是文字輸入、文字輸出。Ultra 完全沒有視覺路徑。

• 注意力設計 — Super VL 是交錯式的 Mamba-2、專家混合與注意力混合架構,每個 MoE 層有 512 個路由專家;Ultra 則採用 NVIDIA 的 LatentMoE 配置。兩者均配備 MTP 頭部以進行推測解碼。

• 授權 — OpenMDW-1.1,兩者皆允許商業使用,權重與配方在兩者上皆開放。

那六行所顯示的模式是:Super VL 並不是精簡版的 Ultra。它是另一種形態的模型:具備視覺能力、記憶體佔用遠小得多,而且——關鍵在於——可部署在中型團隊可能早已擁有的硬體上。Ultra 的門檻是一場資料中心等級的討論。Super VL 的門檻則是一台正式的推論節點。

A generated two-column scoreboard for NVIDIA Nemotron 3.5 Super VL against NVIDIA Nemotron 3 Ultra 550B-A55B across six dimensions. The Super VL column reads: total parameters 120B; active per token 12B; hardware floor 4x H100 or 2x GB200; modalities text, image and video; attention scheme Mamba-2 and MoE hybrid; licence OpenMDW-1.1. The Ultra column reads: total parameters 550B; active per token 55B; hardware floor 16x H100 or 8x GB200; modalities text only; attention scheme LatentMoE; licence OpenMDW-1.1. A footer states that all figures are NVIDIA-reported from NVIDIA's own model cards and unaudited by any third party, and that the claim Super VL matches Ultra's accuracy is vendor-reported and unreproduced. The OrcaRouter logo is composited in the bottom-right corner.

多出來的430億活躍參數換來了什麼

一般推理案例

Ultra 的打造目標是登上 NVIDIA 產品陣容的頂端,專攻純文字推理;而 NVIDIA 在六月發布的資料中,將它與六個當代前沿模型進行基準比較,涵蓋知識、數學、程式設計與長上下文測試套件。這些數據,如同這份比較中的每一項數據,都來自 NVIDIA 自家的測試框架,而非獨立評估者,因此它們確立的是 NVIDIA 所測量到的結果,而不是第三方會測量到的結果。

A screenshot of NVIDIA's own announcement page for the Nemotron 3.5 family, the vendor document that both model cards in this comparison are drawn from, showing the announcement header and the opening of the vendor's description of the release, including the parameter counts and hardware floors the article cites.

多模態案例

這正是比較出現反轉的地方。Ultra 無法讀取頁面。如果工作涉及文件、表格、圖表、螢幕截圖或影片畫面,這款旗艦模型根本不會是候選方案,而家族中最大的模型無論其推理指數有多好,都與你的問題無關。Super VL 的視覺編碼器與連接器正是為這類工作負載而存在,而其已公布的強項——OCR、從視覺文件進行結構化擷取、多步驟業務工作流程——所描述的是與 Ultra 所調校的任務不同的另一種工作。

長上下文案例

兩者都達到 100 萬個 token。NVIDIA 以一個專門的 350 億 token 階段延伸了 Super VL 的上下文,隨後再進行長上下文復原階段;這比單看最大長度是更強烈的訊號:這表示長輸入被視為要保留的能力,而不是用來宣傳的緩衝區。Ultra 透過自身的訓練流程達到了相同的視窗。在沒有對兩者進行獨立長上下文評估的情況下,請將其視為平手,並對你自己的檢索軌跡顯示能在超過 20 萬之後仍維持住的模型,給予看似合理的優勢。

服務其中一個或兩者,以及層級陷阱

陷阱在於假設這個家族是一座你不斷往上爬的梯子。它更像是分區,而分區界線是依每項任務的成本、而非能力來劃定的。一個需要兩顆 GB200、完成文件任務速度比同級快五倍的 12B 活躍參數模型,若 NVIDIA 的吞吐量說法成立,在該任務上會勝過 55B 活躍參數模型,不論哪一個更聰明——因為較聰明的那個只能閒置等待較快者的佇列消化完。把任務換成不含像素的長時程程式設計或數學問題,Ultra 多出來的參數就真正在發揮作用。

這兩者都不在我們的目錄上,而且值得把話說清楚,而不是用一句含糊的話語暗示相反的情況:OrcaRouter 並不提供 NVIDIA Nemotron 3.5 Super VL、Nemotron 3 Ultra 550B-A55B,或任何其他 NVIDIA 檢查點。它們是你自行部署的權重。路由層在這類決策中所貢獻的是量測,而非存取權。路由 DSL 讓你能把同一個提示詞送到兩個上游模型面前,並排閱讀它們的回答,因此要評估一個 12B 活躍參數的候選模型對上 55B 活躍參數的現行模型,只需改一項設定,而不是進行兩個整合專案。自動容錯移轉之所以重要,原因恰恰相反:如果你路由到的託管模型在流程中途效能衰退,請求會轉移而不是失敗,這讓那些把 Super VL 自架為主要方案的團隊仍保有可用的備援路徑。而對於不該由任何自架層吸收的那部分工作負載——突發流量、罕見模態、一次性的長脈絡工作——藏在單一金鑰背後、以供應商定價 0% 加成提供兩百多個模型的目錄,正是那些請求的去處。

對那段話誠實的定調是:我們在這裡並不是這兩個模型任何一方的供應商。我們是讓比較得以低成本運行、讓升級路徑得以低成本維持的那一層。

A screenshot of the Artificial Analysis model page for NVIDIA Nemotron 3.5 Super VL, showing an Intelligence Index of 26 in the third-party panel alongside that page's parameter, context-window and licence fields. No comparison row against Nemotron 3 Ultra is present on the page.

在你做出承諾前,應該先檢驗的主張

以上種種全都歸結為一句未經證實的話:一個擁有 120B 參數、12B 活躍參數的模型,能以大約五分之一的參數量,匹敵 NVIDIA 最大的推理模型。如果這句話成立,Super VL 就是混合工作負載下更好的預設選擇,而 Ultra 則保留給真正需要它的那一小部分極端問題。如果這句話不成立——而且在發布一天之後,NVIDIA 之外還沒有任何人實際測量過——那麼這兩個層級就只是同一樣東西的不同規模,選擇也就回歸到你的任務需要什麼:要像素還是不用像素,一個節點還是一座機架。

這個測試便宜又具體。從你自己的待辦佇列中挑出五十個有可檢查答案的真實任務,將它們同時跑在兩者上,並以完成度而非基準測試分數來評分。那個數字,而非 NVIDIA 的數字,才是決定你要為哪個等級購買硬體的依據——而且當下一個 Nemotron 版本發布、重設這頁時,那個數字仍會成立。