一張生成的標題卡,標題為「新聞——權重提前三天上線」,內容寫著「NVIDIA Nemotron 3.5 Super VL 現已是美國授權條款最寬鬆的頂尖開放權重模型」,並附有四塊數據面板:Artificial Analysis 智慧指數 26.49,對比 Nemotron 3 Super 的 12.83;每項指數任務 49,174 個輸出 token,對比 113,823;總參數 120B、啟用參數 12B,每層 MoE 配備 512 個路由專家;權重於 10 月 12 日在 Hugging Face 上線,對比 NVIDIA 於 10 月 15 日發布的公告。OrcaRouter 標誌合成於右下角。
Guides & Insights

NVIDIA Nemotron 3.5 Super VL 是美國頂尖的寬鬆授權開放權重模型,而其權重比自家公告早三天推出。

作者

Gideon Frost

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

時間戳記是沒有人寫下來的那個部分。BF16 儲存庫是為NVIDIA Nemotron 3.5 Super VL——全名 nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16——而設,於 2026 年 10 月 12 日 15:32:06 UTC 在 Hugging Face 上建立,同時一個 NVFP4 建置版本在二十四秒後出現,而一個基礎檢查點則在此前十九秒建立。NVIDIA 宣布該模型的部落格文章日期為 10 月 15 日。因此,在大約七十二小時期間,NVIDIA 最強大的開放式視覺語言模型權重可供下載、被索引,並正被第三方量化,而訓練它的公司卻什麼都沒發布。那不是洩漏,也不是醜聞。這是一條發布流程:成品先於說明文字出貨,而這值得直說,因為本文其餘部分談的是數字,而數字有它們自己的時間戳記。在 Artificial Analysis Intelligence Index 上,NVIDIA Nemotron 3.5 Super VL 得分 26.49,非估計值。其前身,NVIDIA Nemotron 3 Super 120B A12B,於 2026 年 3 月 11 日發布,在同一評測面板上得分 12.83。那是分數的 2.06 倍,而且每項任務的輸出 token 數為 49,174,而非 113,823。

在進入細節之前,關於那項比較有兩件事值得先說明。首先,26.49 是第三方數字,是在別人的測試框架上、依據已公布的 token 預算測得的,而且在面板上被標示為非估計值。這點在這裡比平常更重要,因為 NVIDIA 自家的基準測試表是與七家競爭對手並列呈現,而這兩組數字並不總是對得上。其次,標題中的領先宣稱是刻意限縮範圍的。在美國打造的開放權重模型中,Meta Muse Spark Open 的分數更高——38.87,同樣是非估計值——但它是以客製化商業授權發布,且位於需經審核開放的儲存庫中,這使它與你今天就能在 OpenMDW-1.1 下載並部署的 checkpoint 屬於不同的採用類別。在那個面板上、採寬鬆授權的美國開放權重模型中,NVIDIA Nemotron 3.5 Super VL 排名第一,而下一個條目是 25.66 的 Inkling Small。

儲存庫所確立的是什麼,以及只有面板才能做到的是什麼

這份模型卡異常完整——畢竟它比自家新聞稿還早三天推出——而且清楚俐落地回答了架構上的問題。NVIDIA Nemotron 3.5 Super VL 採用 Mamba-2、混合專家與注意力混合架構,搭配 C-RADIO 視覺編碼器與視覺語言連接器,每個 MoE 層有 512 個路由專家,總參數 120B,每個 token 啟用 12B,上下文視窗最高可達 1M token。原生多 Token 預測讓它無需另外下載草稿模型,就能進行推測解碼。輸入為文字、圖像(JPEG、PNG)與影片(MP4,最長兩分鐘,以影格取樣);輸出僅限文字。授權條款為 OpenMDW-1.1,模型卡載明該模型已可供商業或非商業使用,而 NVIDIA 表示訓練涵蓋約 26 兆個 token、約 380 萬個後訓練樣本,並在數十個環境中進行強化學習。

• 總參數/活躍參數 — 120B/12B,對比三月模型的 120.6B/12.7B。幾乎完全相同,而這正是重點:提升並非來自更大的模型。

• 智慧指數 — 26.49 對上 12.83,兩者皆非估計值,兩者皆依據 Artificial Analysis。

• 每個索引任務的輸出 token 數 — 49,174 對比 113,823。新模型以少 56.8% 的 token 完成相同任務。

• 上下文與輸出 —— 兩者皆為 100 萬個詞元(token),僅輸出文字。兩者都不是圖像生成器。

• 部署門檻 — 在 NVIDIA Nemotron 3.5 Super VL 上以 BF16 運行需 4×H100 或 2×GB200;另有 NVFP4 版本,適合更小的佔用需求。

• 公開熱度——撰寫本文時,BF16 儲存庫有 142 次下載和 32 個讚,相較之下,三月的前身版本有超過一百萬次下載。這個落差是三天資歷造成的,而不是三天需求造成的。

A generated two-column scoreboard titled 'Nemotron 3.5 Super VL vs its predecessor - the scoreboard', with seven rows: Intelligence Index 26.49 against 12.83, both marked not estimated; output tokens per task 49,174 against 113,823; parameters 120B total / 12B active against 120.6B total / 12.7B active; inputs text, image and video against text only; context 1M tokens with a 4xH100 or 2xGB200 BF16 floor against 1M tokens; OpenMDW-1.1 commercial use on both; and Hub traction 142 downloads and 32 likes at three days old against 1,045,001 downloads and 437 likes. The OrcaRouter logo is composited in the bottom-right corner.

測評面板上的能力細分,正是 26.49 不再只是一個單一數字的地方。Super VL 在經濟學得分 38.47,工程學 30.11,法律 28.11,金融與會計 27.19,但在策略與營運僅有 22.57。它的全知指數為負 4.22——該模型對測評面板知識探測題答錯的比答對的多,準確率 23.3%,幻覺率則為 35.8%。這不是這個版本獨有的缺陷;當你衡量一個未加防護的開放模型是否會拒答時,它看起來就是這樣。在 GDPval-AA 上,此評測衡量的是完成的專業交付成果而非答案,它得分 1,162.41;而在 AA-Briefcase-Lite 評分標準上,它的 Elo 為 998.76。接下來一個月值得關注的就是這兩列資料,因為它們衡量的是工作而非知識,而且它們是 120B 開放模型能透過後訓練合理持續改善的項目。

五倍說法,以及為什麼 token 計數不等於秒數

NVIDIA 的部落格主打速度:「比第二名快 5 倍」,而該模型「相較同級其他模型,吞吐量最高可達 5 倍」。這是廠商自家的說法,NVIDIA 以外沒有人重現過。而且以目前的證據來看,這也無從檢核——為該模型評分的同一家第三方評測機構,並未公布它的價格,也沒有公布任何延遲數字,因此根本沒有東西可以用來對照這項說法。真正可以檢核的,是另一項經常被當成同一件事來報導的數據。每項任務的輸出 token 數,衡量的是模型有多「多話」,而不是伺服器跑得多快。49,174 對上 113,823 是真的,也確實是效率上的實質提升——推理吃重的模型會把預算燒在生成上——但一個輸出 token 少了 57% 的模型,並不因此就快了 57%,更絕對不是快 5 倍。它就是少了 57% 的 token。這兩件事請分清楚。

A screenshot of NVIDIA's own launch blog post, titled 'Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models', bylined Kari Briski and dated October 15 2026, with the Nemotron hero artwork and the opening paragraphs of the announcement visible and an unexpanded cookie consent banner across the lower portion of the capture.

廠商基準測試表還有第二個、較小的問題,細心的讀者大約十秒內就會注意到。它的第一欄標示為「Nemotron 3.5 SuperGA BF16」,而非「Super VL」。考量到該卡的模型版本區塊寫的是 v1.0 — GA,那很可能是一個發布候選標籤殘留到公開文件中,而不是另一個不同的模型。無論如何,這類瑕疵說明文件編修的環節是在權重上線之後才進行的,這與那三天的落差相符。相對於該欄,NVIDIA 回報 GPQA-Diamond 89.52、HLE 純文字 31.79、Terminal-Bench 2.1 66.70、SWE-bench Verified 71.10、BrowseComp 78 以及 Video-MME v2 32.85,完整的比較欄位組涵蓋 Qwen3.5-122B-A10B、Qwen3.8-Flash-Next、DeepSeek-V4-Flash-0731、Nemotron 3 Ultra、Inkling-Small 與 GLM-5.3-Flash。這些全都由廠商透過 NeMo Gym 自行回報,而 NVIDIA 也公開了相關的配方、提示詞、解析器與評分設定,讓任何人都能重新執行。這比大多數做法都來得好,但它依然不是獨立驗證的結果。

它在美國開放權重模型中實際處於什麼位置

若以來自美國實驗室的開放權重模型來排序這個面板,整體格局便清晰可見。Meta Muse Spark Open 以 38.87 領先,但它是個 816B 參數模型,依 Muse Model License 授權,在 Hub 上需經審核才能取得,採用起來是截然不同的考量。在 26.49 的 NVIDIA Nemotron 3.5 Super VL 之下,則是 Thinking Machines 的 Inkling Small(25.66)與 Inkling(24.98),兩者皆為寬鬆授權。接著是 NVIDIA 自家的 NVIDIA Nemotron 3 Ultra 550B A55B,得分 22.93,以及與 Super VL 同日發布的 NVIDIA Nemotron 3.5 Bolt 74B-A9B,一款能塞進 24GB 記憶體的 74B 模型,得分 21.41。有趣的結構性事實是,Super VL 以 3.6 個指數點之差擊敗自家公司的 550B 旗艦,同時在磁碟占用大小與活躍參數數量上都不及其四分之一。這正是整個混合 MoE 計畫所瞄準的結果,而在這個面板上,它達成了。

A screenshot of the Artificial Analysis comparison leaderboard, cropped from the left so the filter rail is missing while the page's right edge is intact. Visible are the site's top navigation, a strapline about ranking over 250 AI models across intelligence, price, performance and speed, four highlight boxes that name the fastest, lowest-latency and lowest-cost models in prose, an 'Expand columns' control, the filter state 'Reasoning: All' and 'Status: Current', and a ranking table whose columns are Intelligence Index, Price USD, Cost per Task, Speed Tokens/s, Latency First Chunk (s), End-to-End Response Time, Median Latency Total Response (s) and model and provider counts. The model names in the ranking column render as vendor logo marks rather than legible text, so only the brand glyphs - Anthropic, Meta, OpenAI and Google - and the numeric columns are readable; the Intelligence Index column runs from 58 down to 52 across the visible rows.

它同時也為接下來幾個月立下了真正的標竿。與 Muse Spark Open 的差距是 12.4 分,而與領先中國開放權重模型之間的差距甚至更大——MiMo-V2.6-Pro 為 46.32,GLM-5.3 為 44.78,Kimi K3 為 43.59。NVIDIA 對這個差距的答案並不是更大的模型;而是後訓練——用你的資料、在你的機架上進行,並搭配與權重一同發布的資料集和 NeMo Gym 環境。那是否能縮小差距仍是未知數,而這次發布並未給出定論。

運作成本是多少,以及那個唯一缺失的數字

BF16 檢查點可在 4×H100 或 2×GB200 上提供服務,NVIDIA 發布了 vLLM 與 SGLang 的部署配方,並固定特定容器標籤——vLLM v0.32.0 或指定的 nightly、SGLang v0.5.20——這是有助判斷這些 kernel 多近期才落地的實用訊號。NVFP4 版本才是大多數團隊實際上會執行的版本。沒有人公布的是價格。面板上沒有每 token 費率,公告中沒有 NIM 定價,也沒有買家可比較的第三方服務費率。對處於這種情況的模型而言,實用做法就是我們所採用的:OrcaRouter 會將供應商的定價以0% 加價、橫跨 200 多個模型的方式在單一金鑰上提供,因此當 NVIDIA 或供應商公布這個檢查點的費率時,會以成本價而非價差出現,且自動容錯移轉意謂上線僅一天的檢查點可以承載一部分流量,而由經過驗證的模型承接其餘流量。精確來說,這在今天不代表什麼:這個特定模型在權重上線三天後仍未列入我們的目錄,因為目前還沒有人能可靠地提供服務。這是關於可用性的陳述,不是關於模型本身。

接下來要看什麼

有三件事將決定這次發布在六個月後會被解讀為一次躍進,還是一則註腳。第一是第二份獨立評估——評審團分數只有一個,而單一數據不成趨勢。第二是 5× 吞吐量的說法能否經得起中立基準測試者的檢驗,因為 token 計數證據支持的是效率,對延遲則隻字未提。第三是後訓練生態系:NVIDIA 列出 Scale AI、AfterQuery、AI21、Mercor、Atlassian、CrowdStrike、Dassault Systèmes、Salesforce 等正在其基礎上開發,而關於開放模型的有趣問題,很少是供應商發布了什麼——而是其他人之後拿它做了什麼。根據截至 2026 年 10 月 16 日可取得的證據,NVIDIA Nemotron 3.5 Super VL 是美國實驗室推出、採用寬鬆授權的最強開放權重模型;它在參數數量不變的情況下達成此點,方式是將自身的推理預算削減超過一半,而且它做得夠低調,以至於最先注意到的是量化者。