Nemotron 3.5 Super VL vs Nemotron 3.5 Lightning：同一家族的兩個層級，以及決定該選哪一個的 Token

這兩個模型並非競爭對手，而把它們當成同一類，正是規格表所誘發的錯誤。NVIDIA Nemotron 3.5 Super VL 是擁有 120B 參數、12B 活化參數的視覺語言模型，需要四張 H100 或兩台 GB200 才能以完整精度運行。NVIDIA Nemotron 3.5 Lightning 30B-A3B 則是 30B 參數、3B 活化參數的文字模型，可裝在單一台 DGX Spark 或一張 H100 上運行。兩者共用同一套授權——OpenMDW-1.1，可商業使用、開放權重與開放訓練配方——也共享同一種設計哲學：以 Mamba-2 和稀疏專家來壓低每詞元的運算量。但它們不共用輸入模態、硬體門檻或任務定位。Lightning 是兩者中較早推出的一款，早了約兩個月，於 2026 年 8 月 11 日發布；Super VL 的權重則在 2026 年 10 月 12 日上線，NVIDIA 接著於 10 月 15 日發布公告，因此其中一款是已塵埃落定的正式版本，另一款則才剛問世一天。

這道閘門，簡單來說

兩個模型都以可下載的檢查點形式存在，並附有已發佈的評估配方。兩者皆由廠商評估：下方表格中的每個數字都來自 NVIDIA 自家的 NeMo Gym 或 NeMo Evaluator 測試框架，而非第三方，而且兩者背後都沒有獨立的輸送量或準確度審計。這項注意事項適用於整個比較，且不會在每一行重複。

Lightning 更佔優勢的地方：NVIDIA 表示，Lightning 30B-A3B NVFP4 檢查點在 Hugging Face 上已被下載約 907,000 次，而才發布一天的 BF16 Super VL 檢查點大約只有 142 次。這不是品質訊號——而是模型能否在筆電級加速器上執行的差別。

這兩個檢查點包含的內容

Nemotron 3.5 Lightning 30B-A3B 是一款混合式專家模型，由交錯的 Mamba-2 與 MoE 層構成，並夾雜少數注意力層，總參數量 30B、每個 token 啟用 3B，具備 1M token 的上下文，且唯一輸入模態為文字。NVIDIA 以 NVFP4 預訓練配方在超過 20 兆個 token 上訓練它，加入 Multi-Token Prediction 頭，接著以合成程式碼、數學、科學、工具呼叫與指令遵循資料進行微調，最後再經過 GRPO 強化學習階段。它隨附三種各自獨立的推測解碼策略——用於低併發資料中心與 DGX Spark 工作負載的 DSpark，以及 MTP 和 DFlash——這對一款 30B 模型而言是罕見的大量推論工程投入，也透露了它鎖定的使用者是誰：那些在本機執行代理並緊盯牆上時鐘的人。

NVIDIA Nemotron 3.5 Super VL 沿用相同骨架，並加上眼睛。同樣的交錯式 Mamba-2、MoE 與注意力混合架構，但每個 MoE 層有 512 個路由專家，具備 C-RADIO 視覺編碼器與視覺語言連接器，總參數 120B、啟用參數 12B，並支援文字、圖像與影片輸入。其語言主幹以 Nemotron 3 Super Base 初始化，接著先從 Nemotron 3 Ultra Base 蒸餾一兆個 token，再進行持續預訓練、以 350 億 token 擴展至 1M 上下文、軟體工程中期訓練，以及長上下文復原階段。這兩個發布版本也共用一份技術報告——NVIDIA 將 Super 與 Lightning 的成果一起發表。

• 活躍參數 — Super VL 每個 token 為 12B，而 Lightning 則為 3B。每生成一個 token 的運算量即為四倍，而這還是在計入視覺編碼器之前。

• 模態 — 將文字、圖像與取樣的視訊影格輸入至 Super VL；Lightning 則為文字輸入、文字輸出。Lightning 支援的語言包括英文、西班牙文、法文、德文、義大利文與日文。

• 硬體門檻 — Super VL 在 BF16 精度下需 4×H100 或 2×GB200，正式環境另搭配 NVFP4 版本與 NIM 微服務；Lightning 則需一台 DGX Spark、一張 H100、一張 RTX 5090，或透過 W4A16 使用 Ampere 等級晶片。

• 背景 — 兩者皆為 1M tokens，且兩者都有公開的配方，而非單一宣稱的最大值。

• 推測解碼 — Super VL 原生使用自己的 MTP 頭，無需下載草稿模型；Lightning 以獨立檢查點形式提供 DSpark、MTP 與 DFlash 變體。

• 授權條款 — 兩者皆為 OpenMDW-1.1，允許商業使用，並於 Hub 上提供開放資料集與 RL 環境。

數字說了什麼，又沒說什麼

在 NVIDIA 自家的測試框架上，兩者差距並不小，而這是預料中的事：活躍參數 12B 的模型理應勝過活躍參數 3B 的模型。以 NVIDIA 公布的表格來佐證這個差距：GPQA-Diamond 為 Super VL 的 89.52，對上 Lightning 的 75.44；HLE 純文字為 31.79，對上 11.72；SWE-bench Verified 為 71.10，對上 51.56；Terminal-Bench 2.1 為 66.70，對上 24.58；AA-LCR 為 68.62，對上 52.00。

那些列內部的模式比列本身更有用。Super VL 在長上下文與代理式執行基準上的領先幅度極為巨大，而在一般知識方面則相對有限——MMLU-Pro 為 76.91，對上 Lightning 的 81.94，這是較小模型在某一列勝出的罕見案例。這正是那種刻意以軟體工程資料進行中期訓練、並賦予長上下文恢復階段的模型所呈現的樣貌：它更擅長把任務貫徹到底，而非回想事實。如果你的工作負載是針對短文本的事實性問答，30B 模型的劣勢大致上會消失，而且它做到這點只需四分之一的每 token 運算量。

NVIDIA 在 Lightning 卡上列出一項但書，值得在實質上逐字重述：這些數字是以官方 NVFP4 檢查點測量，並適用於該官方 NVFP4 檢查點；NVIDIA 也指出，其自家評估可能與競爭模型供應商所報告的數字不同。這是異常誠實的一句話，而這同樣適用於 Super VL 的表格。

選擇層級，以及在其之上會發生什麼

決策規則取決於模態與下限，而非索引。任何必須讀取頁面的工作——一張發票、一張圖表、一份掃描表單、一個應用程式的螢幕截圖、一格影片畫面——都只能交給 Super VL，因為 Lightning 完全沒有處理像素的路徑。任何文字進、文字出、持續運行，且存在於你早已擁有的硬體上的工作，都屬於 Lightning，因為在單一加速器上以 NVFP4 運行的 30 億活躍參數模型，與橫跨四張 GPU 的 120 億活躍參數，是完全不同的成本基礎。

在兩者之上的是 NVIDIA Nemotron 3 Ultra 550B-A55B，Super VL 卡直接以它為基準進行評測，而它需要八顆 GB200 或十六顆 H100。三個層級、三種硬體等級、一份授權。這個系列在設計上讓單一組織能夠部署全部三款，並在它們之間調度工作；而真正有趣的工程問題不是挑選其中一款，而是那具負責決定哪個請求該送往何處的路由器。

那個路由層正是平台（而非檢查點）證明自身價值的地方，而且值得精確說明我們在這裡做什麼、不做什麼。OrcaRouter 不提供 NVIDIA Nemotron 3.5 Super VL、Nemotron 3.5 Lightning 30B-A3B 或 Nemotron 3 Ultra 550B-A55B；這三者都不在我們的目錄中，而自架檢查點按定義就不是 API 供應商能交給你的東西。我們提供的是圍繞混合本地與託管機群的周邊部分：將多個模型組合成單一呼叫的路由 DSL，因此管線可以把機械性的頁面送到小型便宜模型，只升級困難的頁面，並且跨上游供應商的自動容錯移轉，讓某個託管相依性效能下降時不會連帶拖垮管線。那個等式的目錄端——目前有兩百多個模型可透過單一金鑰使用，且相對供應商定價零加成——正是升級分支所呼叫的對象。由自架的 Lightning 處理流量、並由經路由的託管模型處理例外，是比任何一半單獨運作都更小且更安全的系統。

看什麼

Lightning 的相對成熟度是那個被低估的變數。它自八月起就已公開，有第三方量化版本，並支援 llama.cpp、Ollama、LM Studio 與 vLLM，而且下載基數夠大，各種故障模式都已為人所知。Super VL 有模型卡、技術報告、一份 vLLM 零日配方，以及才上線一天的下載次數。這個月要把它投入生產，就意味著你得當那個找出粗糙邊角的人。

真正要留意的是，NVFP4 Super VL 這個版本能否把硬體落差縮小到足以產生實質影響。如果一個量化後的 120B-A12B 模型能在少量加速器上實際堪用——不是一顆，而是少於四顆——那麼分級界線就會移動，整個三模型家族作為一個單位部署起來也會更便宜。在那之前，區分方式是按模態：Lightning 負責在自家硬體上大量處理文字，Super VL 處理任何帶有像素的東西，Ultra 則用於任務確實需要 NVIDIA 所販售最大模型的時候。