NVIDIA Nemotron 3.5 Super VL：在自家部落格文章發布前就已推出的 120B 開源模型

的權重N​VIDIA N​emotron 3.5 Super VL早在 NVIDIA 撰文談論它們的三天前，就已經在 Hugging Face 上。完整精度的儲存庫，nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16建立於 2026-10-12T15:32:06Z。它的量化版本，nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4晚 24 秒上線。NVIDIA 自己解釋該模型的開發者部落格文章日期為 2026 年 10 月 15 日——同一天，其模型卡寫著「Hugging Face - 10/15/2026」。因此，公開產物與公開公告在不同日子出現，而這個差距小到兩個日期都沒有錯，且兩者都值得知道。

以下是該儲存庫與 N​VIDIA 貼文實際上對這個 120B 參數、12B 活躍參數的視覺語言模型所說的內容：架構、部署數學、它自家公布的表格顯示它在哪裡落敗，以及那篇部落格文章從未提及的授權陷阱。

N​emotron 3.5 Super VL 究竟是什麼

N​VIDIA 在其自家文章中將其描述為「一個開放、可自訂的多模態模型」，專為專門的代理工作流程打造——推理、指令遵循與工具使用，並在一組權重中結合文字、圖像、文件與影片理解。正如 N​VIDIA 所闡述，這種組合的重點在於，團隊「能夠處理文字與視覺任務，而不必部署分別的文字與視覺語言模型，或在它們之間傳遞任務脈絡。」

架構，根據模型卡：

• 形狀 — 總參數量 120B，每個 token 啟用 12B。這是一個混合專家模型，每個 MoE 層有 512 個路由專家。

• Backbone — 交錯排列的 Mamba-2、注意力與 MoE 層，這套 Nemotron 混合式設計承襲自 Nemotron 3 系列。

• 視覺 — 一個 C-RADIO 視覺編碼器加上視覺語言連接器。transformers 架構字串為 NemotronH_Omni_Reasoning_V3，模型類型為 nemotron_h_omni。

• 上下文 — 最多 1M 個權杖，提示、圖像、對話記錄、工具結果與生成的回應全都共用這個視窗。

• 推測解碼 — 原生的多詞元預測（Multi-Token Prediction）頭，因此使用 N​VIDIA 所發布的 vLLM 與 SGLang 配方時，無需另外下載草稿模型。

• 推理模式 — 可透過聊天範本中的 enable_thinking 切換，中間有 medium_effort 設定。推理權杖與答案共用相同的 max_tokens 預算，卡片明確標示這點，因為這通常是代理輸出遭到截斷的原因。

• 輸入 — 文字、RGB 影像（JPEG、PNG）及最長兩分鐘的 MP4 影片。vLLM 配方中建議的影片取樣為 2 FPS 與 256 個影格，修剪率為 0.5；針對 1080p，卡片上寫明降至 1 FPS 與 128 個影格。

• 語言 — 卡片 frontmatter 中的英文、西班牙文、法文、德文、義大利文與日文。NVIDIA 也表示，訓練語料涵蓋英文以及其他 19 種口語語言和 43 種程式語言。

兩種精度等級，以及它們所換得的記憶體

N​VIDIA 把這款模型推出了兩次，而兩次之間的記憶體躍升，是這次發布中最具決策參考價值的單一數字。

• BF16 —— 全精度參考。該儲存庫內含 64 個 safetensors 分片，總計約 231.8 GiB。NVIDIA 自家的服務配置為 --tensor-parallel-size 4，用於 4× H100，或在 2× GB200 上使用 TP2。

• NVFP4 — 4 位元權重與激活值，搭配量化感知蒸餾，N​VIDIA 表示這「縮小了量化所帶來的準確度差距」。同一個檢查點可在非 Blackwell 硬體上以 4 位元權重與 16 位元激活值執行，而 QAD 也允許 KV 快取以 NVFP4 而非 FP8 儲存。由於量化是在訓練期間而非訓練後進行，N​VIDIA 表示這不會增加推論額外負擔。NVFP4 卡列出可部署於 1× DGX Spark、1× H200、2× H100 或 1× GB200。

最後那句才是實際的那一句。一個 120B 模型能以 FP4 塞進兩張 H100，而不是以 BF16 佔用四張，這是完全不同的採購考量，也正是為什麼談到高效率推論服務時，NVIDIA 指向的是量化版本的那個 repo。還有第三個同門版本，NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr，在主要那兩個模型前一天出現在 Hugging Face 上，而且沒有附帶任何公告；NVIDIA 的部落格後來把 LiLiCorr 解釋為一種開放式推測解碼（speculative decoding）技術，並在 DGX Spark 上稱它是「Nemotron 3.5 Super VL 低延遲推論的推薦草擬器」。它的 repo 比那番解釋早了四天出現，這正好說明了這次發佈是怎麼浮上檯面的。

在那個跳躍背後，確實有個合理的問題——相較於 BF16 參考基準，NVFP4 層級捨棄了什麼——但 N​VIDIA 自己的回答是一項訓練方法論上的主張，而不是針對這兩個檢查點所發布的並排準確度表。如果你的決定取決於精度選擇，那麼那項比較並不在該儲存庫中。

在它自家基準測試表顯示它落敗的地方

這份模型卡附有一張大型的廠商自行執行基準測試表——約 40 列——涵蓋推理、程式編碼、代理式任務、長上下文、多語言與多模態工作。N​VIDIA 在這裡異常坦率：它明確列出比較對象，而其中幾項並不美化該模型。它自身與同規格中最接近的開源競爭對手 Qwen3.5-122B-A10B 相較的數據如下：

• GPQA-Diamond — Nemotron 3.5 Super VL 89.52 對比 Qwen3.5-122B-A10B 86.7（Nemotron 領先）

• HLE，純文字 — 31.79 對 24.2（N​emotron 領先）

• MMLU-ProX — 76.91 對 83.2（Qwen 領先超過六分）

• CritPt — 10.86 對 1.1（N​emotron 大幅領先）

• LiveCodeBench v6 — 88.22 vs 76.7（N​emotron 在此測試框架上領先）

• SWE-bench Verified — 71.10 對 71.9（平手，在誤差範圍內）

• SWE-bench Pro — 51.78 對 44.9（N​emotron 領先）

• tau2-bench retail — 69.24 對 55.4（N​emotron 領先）

• tau2-bench 電信 — 73.19 對 87.2（Qwen 領先 14 分）

• AA-LCR v1.1 — 68.62 對 75.1（Qwen 在長上下文方面領先）

• BabyVision — 29.60 vs 35.7（Qwen 領先）

• MathVision — 78.16 對 83.3（Qwen 領先）

• OCRBench v2，英文 — 68.12 對 68.3（基本上持平）

• OCRBench v2，中文 — 59.15 對 67.3（Qwen 領先八分）

• V* — 85.60 對 91.1（Qwen 領先）

• IFBench — 70.86 對 67.6（Nemotron 領先）

• AA-Omniscience 指數 — 4.03 對 -36.1（兩者皆弱；N​emotron 的負面程度遠低得多）

關於這張表，有三件事值得說明，而不是任由這些勝績自行發聲。

首先，其中的每一個數字——無論是 Nemotron 的還是每個基線模型的——都是由廠商自行報告，並透過 NVIDIA 自家的測試框架收集而來。模型卡直接這麼說：「Nemotron 3.5 Super 與基線模型的所有評估結果都是透過 NeMo Gym 收集的」，並在 NeMo Gym 的儲存庫中發布了可重現性說明。這比大多數實驗室做到的揭露程度更好，但它仍然不是獨立的分數。請把這些欄位視為單一實驗室對數個模型的測量結果，而非中立的排行榜。

第二，NVIDIA 本身列出了未納入其開放工具中的基準測試——BabyVision、CharXiv-RQ、MathVision、MMLongBench-Doc、OCR-Reasoning、OCRBench-v2、V* 與 Video-MME-v2——並表示這些使用了官方實作，或「一套我們計劃在未來開源的內部鷹架」。表中的每一個多模態列都帶有這項但書。

第三，這些落後項目所呈現的模式是有條理的，而非隨機的。缺口出現在中文 OCR、長脈絡推理，以及視覺數學與圖表判讀上。領先的部分則集中在工具呼叫基準與短時程的代理式任務——CritPt、tau2-bench 零售與航空、APEX、Terminal-Bench 2.1 以 66.70 對上 Qwen 的 48.70、SWE-bench Pro。對於一款 N​VIDIA 定位為多模型代理堆疊中執行者的模型而言，這是個站得住腳的表現輪廓。如果你的工作負載是中文文件解析或極長的分析脈絡，同一張表告訴你的卻是另一回事。

後訓練勝過基礎，而 N​VIDIA 以此領先

NVIDIA 部落格文章中最具體的準確度宣稱，並不是某項基準測試分數，而是關於客製化的一項說法：對基礎版 Nemotron 3.5 Super VL 進行後訓練，能讓某個特定專業工作負載超越 Claude Opus 5。NVIDIA 所舉的例子是醫療保險理賠，並在其中引用後訓練帶來的 44% 增益。

關於 NVIDIA 如何報告這件事，有兩點很重要。這個數字被歸因於後訓練所宣稱的增益，而不是公開基準測試上的模型對模型比較——那是另一種、也更薄弱的證據。而且 NVIDIA 自家的文章也謹慎說明，這些增益附帶但書：「這個基礎模型本身並沒有超越專有的前沿模型」才是這句話誠實的版本，而其定調是：開放權重的優勢在於企業能用自家資料進行後訓練，並在自家基礎設施上執行成果。

同一則報導中，供應商那一方的說法很單薄。NVIDIA 點名 Scale AI、Ramp 與 AI21 是對該模型進行後訓練的機構；Ramp 被引述預期，在收據轉 JSON 擷取上可達到「吞吐量最高提升 50%，延遲降低至十分之一」，Scale AI 則預期在供應商信用處理上可將推論成本降低 40 倍、延遲改善 5 倍。這些都是客戶自述的預期與成果，由供應商發布，背後並無獨立量測佐證。它們很可能成立。但這些公司以外，無人查核過。

NVID​IA 確實有公開、而且有幫助的，是 recipe 這一塊：用於 SFT 與 LoRA 的 NeMo AutoModel、用於強化學習與環境式評估的 NeMo RL 與 NeMo Gym、用於多模態資料生成的 NeMo Data Designer，再加上 45 個視覺語言資料集，以及 Hugging Face 上一系列代理式工具使用、金融推理與指令遵循資料集。已發布基準的可重現性教學就放在 NeMo Gym 儲存庫裡。最後這部分確實很有用——這代表你可以嘗試重新執行 NVID​IA 自己的評估，而不是只能相信那張表。

這項授權並非行銷宣傳所暗示的那樣。

這是值得閱讀 repo 而非部落格文章的細節。

NVIDIA 的貼文稱該模型為「一個開放、可自訂的多模態模型」，並提到「該模型的開放權重」。這兩項說法就權重而言都屬準確。但兩者都不是關於授權條款的陳述。模型卡的前置資料（frontmatter）寫道 license: other，其中 license_name: openmdw-1.1，而具約束力的條款是 OpenMDW 授權條款第 1.1 版，網址為 openmdw.ai/license/1-1/。模型卡明白指出，該模型「已可供商業或非商業用途使用」，而 NVIDIA 自身的部署說明則提到可在「受支援的本機、資料中心或雲端環境」中執行。

所以：據 NVIDIA 所述，這是可商業使用的。但這裡的「開放」指的是 OpenMDW-1.1，而非 Apache 2.0，也不是 MIT。如果你的組織有一份預先核准的開源授權條款清單，那份清單就是最先該查核的東西——而「開放權重」與具名授權條款之間的實際差異，正是那種若太晚發現、就得付出一個發布週期代價的落差。這並非對該模型的批評，而且 OpenMDW 也不是限制性授權條款。這是在提醒：部落格文章裡的形容詞，其作用不如模型卡 frontmatter 來得大。

試用它，但不把正式環境路徑押注在它身上

已發佈的部署配方明確屬於單機設計，而這也決定了這項評估的進行方式。兩張卡上的 NVIDIA vLLM 指令，分別以 TP4 在 4× H100 上執行，或以 TP2 在 2× GB200 上搭配 --trust-remote-code 執行——該模型隨附自訂建模程式碼——而 SGLang 配方則在兩台 GB200 上使用 lmsysorg/sglang:v0.5.20。針對 DGX Spark，有一個專用的 LiLiCorr drafter 檢查點，NVIDIA 建議在所有 Spark 情境中採用；該公司宣稱，其詞元生成速度最高可達不使用推測解碼時的 2.3 倍。在 16 台 B200 搭配 Dynamo 的情況下，NVIDIA 表示最多可服務達 8 倍的使用者數量，且在每位使用者每秒 50 個詞元時，首詞元延遲降低 85%。上述每一項都是廠商內部測量數據。

這對一個才推出三天、沒有獨立評分榜，而且其多模態列還附帶一項「輔助框架尚未公開」但書的模型來說，是實實在在的評測成本。想低成本審視它，並不是先架起四張 H100。

要看這麼新的發布，最省錢的方式是透過單一閘道，而不是再下第二筆硬體訂單。在 OrcaRouter 上，這代表用一把金鑰就能取用 200 多個模型，並以供應商定價計費、零加成，無須另外簽約，也不用改程式碼，而且可在各家供應商之間自動容錯移轉，因此你尚未驗證過的模型不會成為正式環境路徑上的單點故障。這個特定模型目前還未上架——NVIDIA 幾天才剛推出——所以現階段只能透過該廠商自家的 API，或提供它的第三方平台來取得。這麼做能為你換得的，是現在就能實際執行的比較：把它聲稱能擊敗的候選模型放在同一把金鑰之下，用你自己的任務跑過它們，也拿來跟你們已在使用的模型對照，然後讓路由層把替換變成一次設定變更，而不是一次遷移。唯有到了那時，4× H100 還是 2× GB200 的問題，才會是一項採購決策，而不是憑空猜測。

重點不在於路由能取代基準測試。重點在於，你今天就能做出決定：這個模型該在你的技術堆疊中負責哪些任務；而這個決定不需要硬體訂單。

什麼尚未確立？

坦誠的未知清單雖然簡短，卻影響重大；該依據的是這份清單，而不是行銷說詞：

• 目前並不存在獨立的評估結果。上述引用的每一項分數都來自 N​VIDIA 的 NeMo Gym 執行結果。N​VIDIA 的部落格引用了 Artificial Analysis 的基準測試，以及 EXO Labs 的一項獨立評估，將該模型置於 DGX Spark 的準確度與任務完成度帕雷托前沿上；然而，該模型卡本身並未發布任何第三方評分，且在撰寫本文時，主要彙整平台上也沒有它的獨立模型頁面。

• BF16 與 NVFP4 的準確度差異尚未量化。 N​VIDIA 的 NVFP4 論點，是建立在量化感知蒸餾能縮小差距之上。這是一項方法論主張，而不是針對你可實際下載的這兩個檢查點所發布的準確度比較。

• 這項基準測試活動有一部分是在 NVIDIA 自家工具上進行的。八項多模態基準測試採用了官方實作，或是 NVIDIA 表示「計劃未來開源」的內部框架——這意味著那些結果原則上可以重現，但要等到某一天，而不是現在。

• 後訓練增益是由供應商與客戶回報的。 44% 的宣稱增益，以及 Ramp 和 Scale AI 的數據，都是由 NVIDIA 就其自家客戶所述。沒有人獨立測量過這些數據。

• 完整 1M 視窗下的長上下文行為，在供應商之外尚未經過測試。這套架構正是為此而打造，NVIDIA 也為此發布了部署配方。但在真實文件上橫跨整整一百萬個 token 時，召回能力是否仍能維持，正是那種會出現在獨立測試中、卻不會出現在供應商表格裡的問題。

你現在應該對此採取行動嗎？

如果你正在打造文件、圖表、影片或多工具型的 agent，而且已經為 120B 等級的推論編列了預算，那麼這款值得你這週認真研究一下：NVFP4 這個等級讓它只需兩張 H100 就能跑，授權允許商業使用，而 NVIDIA 表格中的工具呼叫欄位正是它最強的部分。12B 活躍參數的形態也意味著它的每 token 成本比 120B 總參數所暗示的更低——而且在 OrcaRouter 這邊，供應商對它的價格變動是當天就生效，而不是等過了一個帳務週期之後，因為供應商定價是原價轉嫁、不額外加成。

如果你的工作負載偏重中文 OCR、超長分析上下文或視覺數學，NVIDIA 自家的表格給了你三個具體理由，讓你等待獨立數據，而不是根據行銷宣傳來推論。

無論如何，值得關注的不是另一篇廠商貼文，而是第一個在同一測試框架上讓 NVFP4 檢查點對上 BF16 檢查點的獨立評估，以及第一個並非透過 NeMo Gym 收集的第三方評分。在這些出現之前，這是一個文件完善、授權寬鬆、真正高效的開放模型，其最強的主張完全建立在自家開發者的量測之上——而且其開發者本身也足夠坦率，公布了它落敗的那些列。

計分板衡量的項目與部署實際遭遇的狀況之間的落差，正是這份紀錄之所以重要的原因：與此類模型相關的已記錄 AI 失效與代理事件，都收錄在 OrcaRouter AI 事件檔案庫，其中每一筆條目都附有自己的來源、嚴重程度、可信度等級與爭議旗標。