
NVIDIA Nemotron 3.5 Super VL Base BF16:NVIDIA 列出卻從未提供連結的 249 GB 檢查點
- Google新Google: Gemini 4 Carbon2026-11-10$2.00 / $10.00 每百萬 tokens · 247 tok/s
- Anthropic新Anthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 每百萬 tokens · 104 tok/s
- orca新Orca: OrcaC2 1.02026-11-0722 tok/s
- Orca新OrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 每百萬 tokens · 138 tok/s
- Orca新OrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 每百萬 tokens · 413 tok/s
- Orca新OrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 每百萬 tokens · 43 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 每百萬 tokens · 130 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 每百萬 tokens · 57 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 98 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 每百萬 tokens · 40 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447智能
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 每百萬 tokens · 165 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929智能
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 每百萬 tokens · 106 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733智能
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740智能
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 每百萬 tokens · 69 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955智能
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855智能
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 每百萬 tokens · 414 tok/s
nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16 是 NVIDIA Nemotron 3.5 Super VL 發行版中的成品,而 NVIDIA 從未連結該發行版。該公司 10 月 15 日的公告貼文用一個子句表示:「該發行版包含基礎、後訓練與 NVFP4 量化的檢查點,以及訓練配方、資料和強化學習環境。」該頁面上的每個儲存庫連結都指向 nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4。字串「Base-BF16」完全沒有出現在該貼文中。
該儲存庫真實且公開。Hugging Face 記錄其初始提交時間為 2026-10-12T15:31:49Z,權重分片上傳時間為 2026-10-13T04:55Z,而模型卡本身的發布日期欄位寫著「Hugging Face - 10/15/2026」。它並未設閘門,下載不需要權杖,而且重量與後訓練版nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16建置完全相同:248.9 GB、橫跨 63 個 BF16 分片,對比後訓練版建置的 248.9 GB、橫跨 64 個分片,兩個索引檔相差 16 位元組。權重上架三天後,它已被下載 4 次,而後訓練全精度儲存庫為 142 次,NVFP4 同系列版本為 81 次。這些都是 Hugging Face 自家的計數器,於 10 月 16 日讀取。
所以這不是外洩,也不是謠言。權重是最不該出錯的地方——它們只不過是在一場其他方面都聲勢浩大的發布中,宣傳最少的產物;而它們背後的模型卡自相矛盾,若你正是那種會下載 249 GB 後訓練前檢查點的人,這個矛盾就事關重大。那個矛盾就在下方。
什麼送到了,以及提到它的那句話
三個主要儲存庫和一個草稿模型在同一時段上線,全都是 NVIDIA 第一方,全部採用 OpenMDW-1.1 授權,皆未設存取限制:
• Base BF16 — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16,儲存庫建立於 2026-10-12T15:31:49Z,權重 2026-10-13T04:55Z,README 最後修改於 2026-10-15T15:22:08Z。
• 後訓練 BF16 — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16,建立於 2026-10-12T15:32:06Z,比基礎儲存庫晚十七秒。
• 經後訓練的 NVFP4 — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4,建立於 2026-10-12T15:32:30Z,總計 75.1 GB,而非 248.9 GB。
• 一個 NVFP4 草擬器——nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr,更早一天建立,時間為 2026-10-11T20:20:59Z。
那些儲存庫與 NVIDIA 文案之間的對應關係,正是在這裡顯得不一致,而這件事值得實際查核,而非憑空假設。公告中的部署錨點全都指向 NVFP4 建置版本。基礎模型卡自己的開頭說明則向外指向另外兩者——「想找經過後訓練的模型嗎?客製化請見 BF16 版本,最佳化部署請見 NVFP4 版本」——因此基礎儲存庫反倒會在第一行就告訴你該往哪裡去。反向則不成立。經過後訓練的 BF16 模型卡在任何地方都沒有連向基礎儲存庫的連結,NVFP4 模型卡也沒有。基礎檢查點是這次發布中唯一一個 NVIDIA 自家文件從不引導你前往的產出物;你得讀到公告裡那九個字構成的子句,然後翻查該組織的檔案清單才找得到——這裡就是這樣找到的。NVIDIA 的文案中沒有任何內容解釋,為什麼基礎檢查點公布的規格是 249 GB,與實際經過後訓練的模型相同,也沒有解釋你該拿它做什麼,而那是經過後訓練的模型做不到的。
那種缺席本身就是重點。一次開放權重發布中,廠商連結了三個檢查點中的兩個,並用九個字描述第三個,這並不是在隱藏什麼——權重就在那裡——但這確實意味著你需要的文件不在公告裡。它在儲存庫裡。

「base」在此版本中是什麼意思?
這兩份模型卡回答了這個問題,而它們之間的差異,正好清楚說明了後訓練在這裡帶來了什麼。
基礎卡記錄了三個訓練階段。階段 1 在 Nemotron 3 Super Base 之上建構語言主幹,並以 100B 個 token 針對凍結的主幹訓練共享 MTP 頭,接著從 Nemotron 3 Ultra Base 蒸餾 1T 個 token。階段 2 是 100B 個 token 的 Indic 持續預訓練、擴展至 1M 上下文的 35B 個 token 延伸、在 256K 上下文下進行 67B 個 token 的軟體工程中期訓練,以及 9B 個 token 的長上下文恢復階段。階段 3 加裝 C-RADIO 視覺編碼器與視覺語言連接器。
後訓練卡片記錄了六個階段,而基礎卡片所缺的那三個,正是讓模型真正可用的三個:第 4 階段是在視覺、推理、程式碼、工具、聊天、安全與長上下文資料上進行監督式微調,並使用長達 524,288 個符元的打包序列;第 5 階段是結合可驗證獎勵的強化學習、RLHF,以及多教師同策略蒸餾;第 6 階段則是針對凍結的後訓練主幹來強化 MTP 頭,讓推測解碼真正發揮效益。
基礎模型卡本身在推論(Inference)一節中就這麼寫道:「基礎模型旨在作為進一步訓練的起點。若要用於對話、推理和工具呼叫應用,請使用後訓練的 BF16 或 NVFP4 版本及其部署說明。」其載明的使用情境是「透過持續預訓練、監督式微調、強化學習與蒸餾來打造自訂視覺語言模型的開發者與研究人員」。
那是一個異常直接的免責聲明,而這是對這件產物的正確解讀。這裡以「base」名義發布的,並不是較弱的聊天模型。它是 Stage 4 到 Stage 6 所運行於其上的基底,並與它們一同發布,好讓其他人能夠跑一套不同的 Stage 4 到 6——在他們自己的資料上、依他們自己的授權條款——而不必重新執行一次 20 兆個 token 的預訓練。
設定並未承載的 1M token 宣稱
這就是值得你投入 249 GB 注意力去關注的落差。
基礎模型卡在其說明中表示,該模型「支援的上下文長度最高可達 1M 個 token」,並在「模型設計」區段中重複此點:「該模型支援最高 1M 個 token 的上下文。」訓練方法論也佐證了這項意圖——第 2 階段明確包含「以 35B 個 token 擴展至 1M 上下文,接著進行 9B 個 token 的長上下文恢復階段。」
隨附的 config.json 說的卻是另一回事。它的 max_position_embeddings 是 262,144——256K,不是 1M。沒有 rope_scaling 區塊,也沒有 original_max_position_embeddings 欄位,因此位置方案也未宣告任何擴展。相較之下,後訓練儲存庫的 config 則宣告 max_position_embeddings 為 1,048,576。兩個姊妹檢查點,相同架構字串、相同層配置,位置上限卻有四倍差距,而基礎卡片的說明文字並未提及此事。
把這三個事實放在一起看,最站得住腳的結論並不是基礎模型屬於短上下文,而是基礎儲存庫出廠時附帶了一個保守的宣告上限,並預期你會去修改它。那 1M 的擴充確實訓練過。已發布的設定檔卻沒有把它暴露出來。如果你的持續預訓練計畫假設開箱即是 1M token 的序列長度,那麼這個假設來自模型卡,而不是執行環境實際會讀取的那個檔案——而修正方式是一項你必須知道要去做的設定檔編輯。

基於同樣理由,值得點出:基礎卡片的「模型摘要」表根本就不存在。後訓練卡片則有一張——總參數量、架構、精度、上下文長度、部署目標、推測解碼、推理模式、建議取樣、最適合用途、授權。基礎卡片直接從「描述」跳到「授權」,然後再到基準測試表。任何地方都沒有建議取樣列,也沒有部署列,因此基礎卡片上沒有任何內容能告訴你它需要什麼硬體。
架構,從出貨的設定檔中讀出
由於廠商對基礎架構的描述只是一段文字,而真正的樣貌在檔案裡,以下是該檔案的內容。這一切都直接來自 config.json在基礎儲存庫中,而非來自任何摘要。
• 深度與組成 — 語言主幹中有 88 個區塊。其中 40 個是 Mamba-2 層,40 個是專家混合層,8 個是完整注意力層,分別位於索引 7、16、25、36、47、58、69 和 78。大約每九層就有一個注意力區塊,這就是整個長上下文機制。
• MoE — 每個 MoE 層有 512 個路由專家,每個 token 會選取 22 個,另外有一個共享專家,潛在大小為 1024,且共享專家的中間大小為 5376,而路由專家則為 2688。這就是「120B 總計、12B 活躍」這個標題背後的算術。
• 注意力 — 32 個查詢頭對 2 個鍵值頭,頭維度為 128,因此是比例 16:1 的分組查詢注意力。隱藏大小為 4096。
• MTP — 一層下一詞元預測層,本身由一個注意力區塊與一個 MoE 區塊組成,風格仿效 DeepSeek 的多詞元預測頭。一次預測步驟,而非數次。
• Vision — 一個 C-RADIO ViT-H 塔:32 層、隱藏大小 1280、16 個注意力頭、patch 大小 16、7 個 register token、3 個 class token、最大影像尺寸 2048,以及介於 1024 到 13312 之間的 patch 預算。連接器投影至 20,480,接著 0.5 的降採樣比例與強制影像尺寸 512 再把 token 數量壓回來。
• 影片——時間區塊大小為 2,且宣告的剪枝率為 0.7。
• 兩個怪異之處——設定檔宣告了一個 <audio> 上下文 token,但其 sound_config 為 null,因此音訊的底層管線在這套架構中存在,而這個檢查點並未帶上任何相關內容。而且 tie_word_embeddings 為 false,這對這個規模的模型來說是標準做法,如果你打算調整詞彙表大小,這點值得知道。
作為規模參照:該儲存庫自身的 safetensors 中介資料總計 124,453,395,974 個參數,是一個位元組一個位元組數出來的張量,對比 NVIDIA 所公布的 120B 總量/12B 啟用參數。這兩個數字是基於不同的計算基礎:廠商數字是語言模型的路由加共享運算量,檔案數字則是儲存庫中儲存的一切,包含視覺塔與 MTP 頭。不要把這個落差當成不一致;請以檔案本身來編列預算。
基準表實際上衡量的究竟是什麼
這張基礎卡公布了 24 列基準測試資料,而且值得讚許 NVIDIA 的是,還有一欄說明每一列分別是什麼:
• MMLU 84.14 精確匹配 · MMLU-Pro 76.25 · AGIEval-En 75.65 CoT · SuperGPQA 47.65 CoT · GPQA Diamond 66.16 於 5-shot CoT 精確匹配
• GSM8K 91.74 於 8-shot CoT · Minerva MATH 87.66 · MATH-500 81.56 取樣 pass@1 n=32 · HumanEval 81.31 EvalPlus 淨化版 · MBPP-Sanitized 79.06 · LiveCodeBench CodeGen 47.61 · BigCodeBench 48.42 完整版與 49.39 指令版
• ARC-Challenge 95.99 · HellaSwag 88.96 · TruthfulQA MC2 71.18 · WinoGrande 79.08 · PIQA 85.09 · CommonsenseQA 85.26 · OpenBookQA 48.80 · SocialIQA 49.03 · RACE 91.39
• 全球 MMLU 86.56,在 8 種語言上平均 · MGSM 87.53,在 6 種語言上以 8-shot 原生 CoT 達到
關於那張表,有兩件事很容易被忽略,而兩者都很重要。
首先,這張模型卡自己的框架說明句指出,這些結果「評估 Nemotron 3.5 Super 純文字基礎主幹,在視覺語言訓練之前」。無論這還意味著什麼,它都意味著這些數字不是一份多模態評分卡——基礎模型卡上任何地方都沒有 OCR 基準、沒有文件理解列、沒有視訊列,儘管視訊與文件輸入在前兩節就已描述。如果你想要基礎檢查點的理由是它的視覺塔,這張卡沒有提供任何可供規劃的實證依據。
第二,表格沒有基線欄位。後訓練模型卡的表格橫跨七欄——Nemotron 3.5 Super GA 對比 Qwen3.5-122B-A10B、Qwen3.8-Flash-Next、DeepSeek-V4-Flash0731、Nemotron 3 Ultra、Inkling-Small 和 GLM-5.3-Flash。基礎模型卡則恰好只有一欄。而且實際執行的項目組合很能說明問題:後訓練模型卡完全捨棄 MMLU,改用 MMLU-ProX,而基礎模型卡同時跑 MMLU 和 MMLU-Pro,卻既沒有 MMLU-ProX,也沒有後訓練模型卡所仰賴的代理式與測試框架層級套件。你無法從卡片回答「這個基礎模型比那個基礎模型更好嗎」。你得把兩者都跑過一遍。
上方每一項數據都是 NVIDIA 的,且是透過 NVIDIA 自家的 NeMo Gym 測試框架產生——後訓練版模型卡明確如此表示,而基礎版模型卡則完全沒有公布任何測試框架說明。兩張表上的任何內容都未經獨立重現。
基礎模型與後訓練模型,在它們唯一共用的基準測試中
這兩張卡沒有共用的基準測試表,但恰好有一列可以並排比較,而這一列正是最重要的。
• GPQA Diamond — 基礎版模型卡上為 66.16,採 5-shot 思維鏈精確匹配。後訓練版模型卡上為 89.52。相差 23.36 分,出自 NVIDIA 自家的兩份文件,且基礎數據被明確標示為純文字主幹。

這就是第 4 到第 6 階段在研究所程度科學推理上價值的誠實標題:後訓練並非對這個模型進行打磨修飾,而是大約再增加一半的能力。這也告訴你取捨的方向。如果你打算自行對基礎檢查點進行後訓練,你一開始就落後 NVIDIA 正在販售的模型 23 個百分點,並且押注你的資料與獎勵訊號能在你的領域中弭平這個差距——而這正是 NVIDIA 自家客戶數據所描述的押注:Scale AI 回報供應商信用處理的推論成本降低 40 倍,Ramp 預期收據轉 JSON 擷取的輸送量提高最多 50%、延遲降低 10 倍。這些是供應商與客戶陳述的成果,並未經獨立量測,而它們是唯一已發表的證據,顯示弭平這個差距是可以達成的。
請注意將這兩張卡片放在一起解讀時的陷阱。基礎卡片的「MMLU-Pro」為 76.25,而後訓練卡片的「MMLU-ProX」為 76.91,看起來像是 0.66 分的差距,但兩者不可比較——它們是不同的基準測試,其中一個還註明了 TigerLab 的提取方法。基礎卡片的「MMLU」為 84.14,在後訓練卡片上完全沒有對應項。如果你想要同基準測試的差異值,GPQA Diamond 是你能得到的,而 LiveCodeBench 則不是:基礎卡片報告 CodeGen 為 47.61,而後訓練卡片報告 LiveCodeBench v6 為 88.22,這是同一基準測試家族的不同版本,並非差異值。
249 GB 能換到什麼,以及換不到什麼
下載本身只需一個指令,而它是整個基礎模型卡中唯一的指令:
• hf download nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16 --local-dir ./models/super-vl-base-bf16
這就是完整的快速入門。基礎卡片包含一個程式碼區塊;後訓練卡片則包含二十二個。這裡沒有 vllm serve 這一行,沒有 SGLang 啟動方式,沒有張量平行指引,沒有 --max-num-seqs,沒有推理解析器旗標,沒有用於推測解碼的 MTP 設定,也沒有 API 用戶端範例。後訓練卡片則全部都有,包括一個使用 --enable-mamba-shared-prefix-checkpoint 的 4×H100 配方,以及一個 TP2 的 2×GB200 配方。
• 執行階段引擎——基礎卡片列出 PyTorch、Megatron-LM 與 NeMo,而其中的推論章節僅列出 PyTorch。後訓練卡片則列出 vLLM 與 SGLang。那些在一邊是訓練框架名稱,另一邊是服務執行階段名稱,而這種區分是刻意的,並非偶然。
• 測試硬體 — Hopper H100 與 H200、Grace Blackwell GB200 與 GB300、Blackwell B200 與 B300。部署時,後訓練卡則縮減為 4×H100 或 2×GB200。
• 磁碟 — 跨 63 個分片共 248.9 GB,與經過後訓練的全精度版本相同。NVFP4 的對應版本為 75.1 GB。如果你下載基礎版本是為了檢視或調適,而不是為了執行,那麼你付的是 NVFP4 下載量的 3.3 倍,換來的卻是沒有推論服務配方。
你確實能取得的、真正可用的內容是:這個儲存庫附帶了一個完整的 chat_template.jinja,大小為 12,513 位元組,其中包含了 enable_thinking 開關,也包括 medium-effort 變體。它還附帶了一個 generation_config.json,其中 temperature 為 1.0、top_p 為 0.95,而 do_sample 為 true。將該範本與後訓練版本進行比對,會得到 414 位元組的差異,全都落在圖片與影片佔位符周圍的空白處理上——除此之外,這兩個範本基本上是同一個檔案。
所以,用來與基礎檢查點以聊天模型方式對話的管線已經存在,而且與已發布的聊天模型幾乎完全相同。缺席的是任何表明你應該這麼做的說明。基礎模型卡上沒有建議取樣列,沒有推理模式列,在聊天配置中也沒有針對它的基準測試。你可以在大約十分鐘內把它當作聊天模型來提供服務。輸出是否值得離開測試框架是另一個問題,而模型卡的答案是不值得。
沒有人談論的語料庫披露
這是基礎版本中可說比權重更有用的部分,而它幾乎未受關注,因為它存在於一個從未被連結的 repo 裡的表格中。
基礎模型卡詳細公開了後訓練模型卡未載明的訓練語料庫:一個超過 20 兆個符元的基礎語料庫,蒐集於 2013 年至 2025 年 12 月之間,並依來源逐項列出——Nemotron-CC-v2 與 v2.1 為 9.1T,Nemotron-CC-Code-v1 為 427.9B,Nemotron-Pretraining-Code 系列合計 1.7T,Nemotron-CC-Math-v1 為 133.3B,專用與 SFT 合成資料集為 660B,以及法律資料集為 4.3B。英語、其他 19 種口說語言、43 種程式語言。
接著是兩張多數開放權重發布根本不會公開的表。其中一張列出由第三方擁有、私人且無法公開存取的資料集,並列出產生其標籤的模型——Qwen3.5-122B-A10B 用於大量 OCR 與視覺問答重新標註工作、DeepSeek-OCR 用於經過篩選的中文 OCR 子集、Qwen3.5 用於經驗證正確的子集、Gemini 3 與 GPT-5 用於搜尋的 RL 資料。另一張列出 NVIDIA 自家的私人資料集,同樣列出產生者:Kimi K3 用於數學思維鏈 SFT 資料、DeepSeek-V4-Pro 用於競技程式設計 OCR、gpt-oss-120b 用於結構化輸出 RL、GLM-5.2 用於精煉、MiniMax-M2 用於搜尋圖走訪,以及一長串其他模型。
接著是兩份大多數開放權重發布根本不會公開的表。其中一份列出 第三方擁有、非公開取用的私有資料集,並指名產生其標籤的模型——在廣泛的 OCR 與視覺問答重新標註工作上使用的 Qwen3.5-122B-A10B、用於經過篩選的中文 OCR 子集的 DeepSeek-OCR、用於經驗證正確子集的 Qwen3.5,以及用於搜尋 RL 資料的 Gemini 3 與 GPT-5。另一份列出 NVIDIA 自家的私有資料集,同樣指名其生成者:用於數學思維鏈 SFT 資料的 Kimi K3、用於競技程式設計 OCR 的 DeepSeek-V4-Pro、用於結構化輸出 RL 的 gpt-oss-120b、用於精修的 GLM-5.2、用於搜尋圖走訪的 MiniMax-M2,以及一長串其他模型。這兩份成對的表提醒了我們這個產業實際上是怎麼運作的——前沿模型的訓練訊號經常包含競爭對手模型的輸出,而 NVIDIA 是極少數會說明是哪些模型、用於什麼用途的實驗室之一。
該儲存庫亦隨附一份Nemotron_3.5_Super_VL_EU_Training_Content_Summary.pdf,於 10 月 15 日新增,這是面向歐盟的訓練內容揭露文件。中期訓練混合資料的揭露粒度相同,而其中有一行與你直接相關——若你打算針對軟體工作進行微調:67B token 的軟體工程階段中,20% 為完整儲存庫、41% 為 issue 與 pull request 配對、3% 為提交差異、1% 為建置與 CI 日誌、10% 為代理軌跡、20% 為預訓練回放,以及 5% 為長上下文資料;其來源已針對 SWE-bench 與 Terminal-Bench 儲存庫進行去汙染處理。這句去汙染聲明,正是模型卡中唯一告訴你這兩項基準測試分數究竟值多少的一句話。
授權條款,以及基礎檢查點是為誰而設
OpenMDW-1.1,與後訓練版本相同的授權條款,模型卡並直白寫明:「本模型已可供商業或非商業用途使用。」該儲存庫未設存取限制,下載時也不需要 Hugging Face 權杖,不過此系列其他地方的 NVIDIA 自家容器配方則假設需要一個。
把授權條款放在使用案例旁邊,目標受眾便清楚無疑。沒有人會下載 249 GB 的後訓練前檢查點來省下推論成本——NVFP4 版本小了 3.3 倍、速度更快,而且在 GPQA Diamond 上高出 23 分。基礎檢查點是給打算主導後訓練階段的團隊用的:他們要的是與 NVIDIA 所跑的不同領域、不同獎勵訊號,或不同資料政策。在 OpenMDW-1.1 之下,允許商業使用且權重不設限,這確實是可以用來打造產品的正當基礎,而這正是為什麼缺少文件要付出代價。
而且值得在這裡區分兩種讀者。如果你的問題是「這週我該選用哪個來做文件解析或影片理解」,基礎檢查點不是你的答案,從來都不是;後訓練模型才是,而那裡待解的問題是基準驗證,而非可用性。如果你的問題是「我能否取得一個 120B 等級、採用寬鬆授權的混合 Mamba-MoE 視覺語言主幹,作為我自己訓練執行的起點」,那麼這個儲存庫就是答案,而它自 10 月 12 日以來一直未被連結。
如果你打算評估它的話
像這樣的一個檢查點,代價高昂的錯誤就是把下載當成測試。事實並非如此:249 GB、63 個分片,以及在第一次前向傳遞之前修改設定,這些都無法告訴你視覺塔是否能遷移到你的文件類別。
便宜的測試作法是先在一個已部署服務的模型上釐清能力問題,之後才花磁碟空間。路由閘道在這件事上有用,但在這個決策中除此之外別無用處——一把金鑰、一個端點,涵蓋兩三百個模型,以供應商定價、0% 加價原樣計費意味著你可以把後訓練的 Nemotron 3.5 Super VL 版本,拿來跟你已經在用的任何視覺模型,在你自己的圖片上比一比,一個下午就能完成,成本就是那些 token 的費用。跨供應商的自動容錯移轉在這裡之所以重要,有個狹窄的理由:一趟在 5,000 筆請求中第 4,000 筆就掛掉的評估執行,會讓你賠掉整趟;而一個在供應商出錯時會改到別處重試的閘道,就是一個下午與兩個下午的差別。
直接說清楚那件否則會有歧義的事:NVIDIA Nemotron 3.5 Super VL 不在我們的目錄中。我們目前不提供這個模型,而且尤其是基礎檢查點本身,託管端點根本不太可能提供,因為基礎檢查點不是推論產品。閘道能給你的是這個實驗中便宜的那一半——也就是那項比較,告訴你付出 249 GB 是否值得。
什麼仍然尚未確立
四件事,以缺口而非風險來陳述。
• 哪一個上下文長度限制才是真的。規格卡上寫的是 1M,出貨的設定檔宣告的是 262,144,而訓練說明則表示曾執行過一次 1M 的延伸。目前沒有任何公開聲明能釐清這三者。任何打算進行長上下文持續預訓練的人,都應把設定檔中的數值視為預設值,並以實際執行環境來驗證,而非採信規格卡。
• 視覺塔能做到什麼。 基礎卡並未發布任何形式的多模態評估。沒有 OCR、沒有文件、沒有圖表、沒有影片列——而這是該系列中唯一以針對這些模態進行微調為全部目的的檢查點。這是已發布證據中最大的缺口。
• 基礎模型與任何事物相比如何。單欄基準測試表,沒有基線,沒有測試框架註記。66.16 的 GPQA Diamond 數值原則上可透過 NeMo Gym 重現,且尚未被 NVIDIA 以外的任何人重現過。
• 基礎模型是否在任何地方隨附 1M 部署配方。 後訓練模型卡包含涵蓋完整視窗的 4×H100 與 2×GB200 啟動命令。基礎模型卡則包含一個 hf download。目前不清楚這是文件缺漏,還是表明 NVIDIA 不打算支援以 1M 提供基礎模型服務的聲明。
這些都不會讓這次發布變得比較不有趣。它反而讓基礎檢查點成為該系列中文件記載最少的產物,而對某一狹窄且特定類型的團隊來說,卻是最有用的那一個——差別在於你的下一步是 API 呼叫,還是一次訓練執行。
對於一個失效模式仍未被記錄的模型來說,有用的對照資料是其他地方已經出錯的紀錄:這類模型的已記錄 AI 事件與代理失效,都收錄在 OrcaRouter AI Incident Archive,其中每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。
