Nemotron 3.5 Super VL 以不到一半的權重，就能與 Inkling Small 匹敵

本週有兩款模型在 Artificial Analysis Intelligence Index 上同為 26 分，而有趣的是，兩者為了達到這個成績各自付出了什麼。NVIDIA Nemotron 3.5 Super VL 是一款 1,200 億參數的混合專家模型，其中 120 億為活躍參數。Inkling Small 是 Thinking Machines 七月發布的模型，為 2,660 億參數的混合專家模型，活躍參數同為 120 億。分數相同、活躍參數預算相同，磁碟上的權重卻不到一半。基準測試表說明模型拿到幾分；事故紀錄則說明這類發布在生產環境中如何失敗，而那些案例都收錄在 OrcaRouter AI Incident Archive 中，每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。

這就是上週美國開放權重領域的樣貌，而且它比 NVIDIA 於 10 月 15 日（週四）發布的發布貼文所說的故事更好。該公告將Nemotron 3.5 Super VL與Nemotron 3.5 Bolt 74B-A9B 24GB搭配——一款被塞進 24 GB 記憶體的 740 億參數模型——並預告第三款，Nemotron 3.5 Bolt E4B 4GB，將於 10 月 23 日推出。八天內推出三款模型、涵蓋三種記憶體佔用量，這不是發布節奏；這是一套產品組合論證，而這個論證是：每 GB 的能力如今才是真正重要的數字。

出貨了什麼，以及是在哪一天

這些日期值得精確說明，因為 NVIDIA 自家的資料本身就相差三天，而這項出入具有資訊價值，而非醜聞。

• 權重 — BF16 儲存庫 nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 於 2026-10-12T15:32:06Z 在 Hugging Face 上建立，24 秒後出現了一個 NVFP4 對應版本，而在此之前 17 秒則有一個後訓練前的基礎檢查點。

• 公告 — NVIDIA 新聞室文章的刊載日期為 2026 年 10 月 15 日。模型卡本身的發行欄位則記載為 10/15/2026，版本 1.0 GA。

• Bolt 74B — 其 24 GB 儲存庫遠早於公告出現，建立於 10 月 7 日，當晚 Hub 上還出現了 GGUF 建置版本。部落格將其描述為與 Super VL 一同於 15 日推出。

• Bolt E4B — 已宣布將於 10 月 23 日發布，截稿時尚未公布權重。

所以公開產物比公開文字說明更早出現。任何依據新聞稿來判定部署日期的人，對於一個早已可下載的模型來說會晚三天；而任何依據儲存庫來判定日期的人，引用的則是 NVIDIA 從未承認的時間戳。兩者都站得住腳；寫「10 月 15 日發布」卻不註明 12 日，才是會流失資訊的版本。

分數是無趣的部分，分母才是重點所在。

NVIDIA 對 Super VL 的宣傳重點是速度——「吞吐量最高可達同級其他模型的 5 倍」，並歸因於 Artificial Analysis 排行榜。這項說法仍未完全獲得驗證，下文將討論此事。這次發布真正持久不變的事實則是另一回事：該模型在同一評測面板上得分 26，而其三月的前代模型 NVIDIA Nemotron 3 Super 120B A12B 僅拿下 13 分，且兩者模型規模實際上幾乎相同。

• 參數 — 總計 120B、活躍 12B，每個 MoE 層有 512 個路由專家。三月模型總計 120.6B、活躍 12.7B。這不是一個更大的模型。

• Intelligence Index — 26 對 13，依據 Artificial Analysis，兩者皆標記為非估算。在相同參數預算下，約為兩倍。

• 每個 Index 任務的輸出 token 數——約 49,000，對比約 114,000。新模型以少約 57% 的 token 完成同一項評估，而這正是大幅躍升很大一部分背後的機制：它不再過度思考。

• 對比 Inkling Small——兩者皆為 26。Super VL 以總計 120B 做到，而 Inkling Small 為 266B，且兩者每 token 約啟用 12B。

• 對比 Nemotron 3 Ultra 550B A55B — 23。NVIDIA 的新款中型模型在規模約為其四分之一的情況下，以 3 分之差擊敗自家 5500 億參數的旗艦模型。

兩條效率軸線經常被混為一談，因此值得把它們分開來看。活躍參數決定生成一個 token 的成本。總參數決定檢查點在儲存、載入與常駐上的成本。Super VL 在兩者上都有改善：它將活躍參數持平於 12B，同時總參數相較 Inkling Small 約減半；並將總參數持平於 120B，同時分數相較其前代約翻倍。只在一條軸線上改善的模型仍然值得注意。而這個模型在同一次發布中做到了兩者兼顧。

Bolt 是這次發行中較低調的那一半，而且它沒有獨立評分。

24 GB 模型是大多數團隊實際上能在自有硬體上執行的版本。Nemotron 3.5 Bolt 74B-A9B 24GB 是一個 740 億參數的混合專家模型，其中 90 億為活躍參數，並在訓練期間而非訓練後即以每位專家約 2.06 位元量化；其上下文長度為 262,144 個 token，且與其較大型同系列模型採用相同的 OpenMDW-1.1 條款。它是 Mamba-2 與 Transformer 的混合架構，搭載 C-RADIO v4-H 視覺編碼器，因此可接受文字、圖像與影片輸入並回傳文字。

NVIDIA 的顯示卡在其自家測試框架上回報的成績為：GPQA-Diamond 86.43、無工具 HLE 25.30、Terminal-Bench 2.1 50.98、SciCode 41.02、BrowseComp 66.75、PinchBench 87.82，以及 WebArena vision 50.86。這些全都是廠商自行執行，且尚未被複現。在獨立評測面板上，該模型位於 21——對一個能容納於單張 24 GB 顯示卡的模型而言，這是相當強勁的結果，同時也提醒我們要謹慎看待廠商提供的表格，因為 GPQA-Diamond 的 86.43 與整體指數 21 並列，容易讓人過度解讀單一列數據。

下載次數的分布本身就說明了一切：Bolt 的 GGUF 版本已吸引超過 87,000 次下載，而 BF16 Super VL 儲存庫則約有 18,700 次。人們能在筆記型電腦上執行的模型，正是人們正在下載的模型。這不是在評論品質；這是在說明「開放權重」真正的用途是什麼。

美國實際所處的位置

效率提升是真的，但領導地位的主張需要一個 NVIDIA 貼文未提供的限定條件。在獨立評測小組中的美國實驗室開放權重模型裡，Meta Muse Spark Open 得分 39，領先 NVIDIA 上週發布的所有模型。它在 Hub 上也以量身打造的商業授權設有存取門檻，這使它與可依 OpenMDW-1.1 下載、無需向任何人申請的檢查點處於不同的採用類別。

• Muse Spark Open — 39，受限，定製授權。

• Nemotron 3.5 Super VL — 26，無限制，OpenMDW-1.1，總計 120B／啟用 12B。

• Inkling Small — 26，寬鬆授權，總計 266B／12B 啟用。

• Nemotron 3.5 Bolt 74B-A9B — 21，無需審核、佔用空間 24 GB。

• GPT-5.5 Instant — 26，已關閉。

中國的開放權重領域依然是另一回事。MiMo-V2.6-Pro 在同一評測面板上得分 46，GLM-5.3 為 45，Kimi K3 為 44，因此美國最強的寬鬆授權模型大約落後最強的中國模型 20 分。NVIDIA 對這一差距的答案不是更大的模型——而是用你自己的資料進行後訓練，並將資料集、配方和強化學習環境與權重一同發布。這是否能縮小任何差距，是本次發布並未解答的問題，任何聲稱不是如此的人都是在把意圖解讀進一個基準測試中。

本週衡量了什麼、宣稱了什麼，以及有什麼變動

發表之初，5 倍吞吐量的說法毫無依據：Artificial Analysis 當時列出該模型時，完全沒有提供速度數據。情況已經改變。該評測面板現在記錄的輸出速度約為每秒 430 個 token，在其 28 個比較對象中排名第一。因此，這項說法的一部分現在已有另一方佐證：該模型確實很快，而且並非小幅領先。尚未驗證的是倍數。「比次佳者快 5 倍」需要指名次佳者，並搭配相符的測試框架，而部落格文章和模型卡都沒有提供。

價格形勢也發生了變化，而其變化方式比整體通膨率更為重要。

• 各供應商之間的中位數 — 每百萬輸入 token 為 $0.225、每百萬輸出 token 為 $0.575，並享有 78% 快取折扣，根據 Artificial Analysis。

• 在公布費率的供應商之間存在價差——同一檢查點的輸入為 $0.10 至 $0.20，輸出為 $0.40 至 $0.50。

• 每個 Index 任務的成本 — $0.19，這正是低價格與高 token 數量交會之處。

• 冗長度 — 在 Index 執行期間消耗了 1.7 億個輸出 token，而中位數為 1 億，被標記為略顯冗長。輸出單價低加上輸出量大，並不代表整體成本就低。

相同權重下，輸入價格出現 2 倍價差，是本週最實際的發現。模型在各家都是同一個檔案；計價錶卻不是。這說明應該把供應商選擇視為路由決策，而非採購決策——而這正是我們自家產品恰好能處理的部分，只是這個說法的誠實版本範圍很窄。Nemotron 3.5 Super VL 並不在我們的目錄中：OrcaRouter 的模型清單回傳略超過 200 個模型 ID，而且今天沒有 NVIDIA 的項目。路由器在這裡的價值在於：一旦某個 checkpoint 真的上架，它就會以供應商定價、0% 加成上架，而這麼新的模型可以放在自動容錯移轉之後，而不是擺在生產路徑的根節點。這兩點都不是購買該模型的理由，而是不必為了試用它而簽下合約的理由。

三件值得關注的事，其中一件還有九天就要發生

第一个是 10 月 23 日的 Bolt E4B。一个 4 GB 的视觉语言模型，若表现能接近其 24 GB 的同系列版本，将是三者中更具影响力的发布，因为它改变了什么样的硬件才算够用。

第二項是對量化檢查點的獨立評估。本文中每個來自 NVIDIA 的數字，都是在全精度或廠商測試框架的組建上測得的。NVFP4 檔案是大多數人實際會部署服務的版本，而它沒有已公布的第三方評分。NVIDIA 自己的說法是，相對於 BF16 的中位準確度恢復率為 99.62%——這是廠商數字，出自廠商測試框架，也是此次發布中最關鍵、卻未經核實的單一數字。

第三點是價差是否縮小。同一個開放檢查點最便宜與最貴的伺服器之間出現兩倍差距，代表這是個尚未穩定的市場；而它最終往哪個方向穩定下來，對未來六個月開放權重推論的意義，會比任何單一基準測試列都來得多。

分數是新聞標題。真正一年後仍然重要的，是那個具有相同有效預算的半尺寸檢查點。