一張為 NVIDIA Nemotron 3.5 Super VL Base BF16 生成的標題卡,標題為「Nemotron 3.5 Super VL Base BF16 —— NVIDIA 從未連結的檢查點」,副標題寫著「總計 120B/啟用 12B · 63 個 BF16 分片 · 248.9 GB · OpenMDW-1.1」,並有三個標籤寫著「權重上線:2026 年 10 月 12 日」、「公告:2026 年 10 月 15 日」以及「該貼文中的儲存庫連結:0」,腳註說明每一項數字皆取自 NVIDIA 自家的模型卡,以及 2026 年 10 月 16 日讀取的 Hugging Face Hub API,OrcaRouter 標誌則位於右下角。
Engineering & Research

NVIDIA Nemotron 3.5 Super VL Base BF16:NVIDIA 列出卻從未提供連結的 249 GB 檢查點

作者

Alistair Wren

發佈日期

最新模型 · 20查看全部模型 →
基準測試:Artificial Analysis · 每日更新
返回全部文章

nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 是 N​VIDIA N​emotron 3.5 Super VL 發行版中的成品,而 N​VIDIA 從未連結該發行版。該公司 10 月 15 日的公告貼文用一個子句表示:「該發行版包含基礎、後訓練與 NVFP4 量化的檢查點,以及訓練配方、資料和強化學習環境。」該頁面上的每個儲存庫連結都指向 nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4。字串「Base-BF16」完全沒有出現在該貼文中。

該儲存庫真實且公開。Hugging Face 記錄其初始提交時間為 2026-10-12T15:31:49Z,權重分片上傳時間為 2026-10-13T04:55Z,而模型卡本身的發布日期欄位寫著「Hugging Face - 10/15/2026」。它並未設閘門,下載不需要權杖,而且重量與後訓練版nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16建置完全相同:248.9 GB、橫跨 63 個 BF16 分片,對比後訓練版建置的 248.9 GB、橫跨 64 個分片,兩個索引檔相差 16 位元組。權重上架三天後,它已被下載 4 次,而後訓練全精度儲存庫為 142 次,NVFP4 同系列版本為 81 次。這些都是 Hugging Face 自家的計數器,於 10 月 16 日讀取。

所以這不是外洩,也不是謠言。權重是最不該出錯的地方——它們只不過是在一場其他方面都聲勢浩大的發布中,宣傳最少的產物;而它們背後的模型卡自相矛盾,若你正是那種會下載 249 GB 後訓練前檢查點的人,這個矛盾就事關重大。那個矛盾就在下方。

什麼送到了,以及提到它的那句話

三個主要儲存庫和一個草稿模型在同一時段上線,全都是 N​VIDIA 第一方,全部採用 OpenMDW-1.1 授權,皆未設存取限制:

• Base BF16 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16,儲存庫建立於 2026-10-12T15:31:49Z,權重 2026-10-13T04:55Z,README 最後修改於 2026-10-15T15:22:08Z。

• 後訓練 BF16 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16,建立於 2026-10-12T15:32:06Z,比基礎儲存庫晚十七秒。

• 經後訓練的 NVFP4 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4,建立於 2026-10-12T15:32:30Z,總計 75.1 GB,而非 248.9 GB。

• 一個 NVFP4 草擬器——nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr,更早一天建立,時間為 2026-10-11T20:20:59Z。

那些儲存庫與 NVIDIA 文案之間的對應關係,正是在這裡顯得不一致,而這件事值得實際查核,而非憑空假設。公告中的部署錨點全都指向 NVFP4 建置版本。基礎模型卡自己的開頭說明則向外指向另外兩者——「想找經過後訓練的模型嗎?客製化請見 BF16 版本,最佳化部署請見 NVFP4 版本」——因此基礎儲存庫反倒會在第一行就告訴你該往哪裡去。反向則不成立。經過後訓練的 BF16 模型卡在任何地方都沒有連向基礎儲存庫的連結,NVFP4 模型卡也沒有。基礎檢查點是這次發布中唯一一個 NVIDIA 自家文件從不引導你前往的產出物;你得讀到公告裡那九個字構成的子句,然後翻查該組織的檔案清單才找得到——這裡就是這樣找到的。NVIDIA 的文案中沒有任何內容解釋,為什麼基礎檢查點公布的規格是 249 GB,與實際經過後訓練的模型相同,也沒有解釋你該拿它做什麼,而那是經過後訓練的模型做不到的。

那種缺席本身就是重點。一次開放權重發布中,廠商連結了三個檢查點中的兩個,並用九個字描述第三個,這並不是在隱藏什麼——權重就在那裡——但這確實意味著你需要的文件不在公告裡。它在儲存庫裡。

A screenshot of the Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16, showing the repository name, the tags image-text-to-text, safetensors, nemotron_h_omni, custom_code and conversational, the note pointing readers to the post-trained BF16 and NVFP4 releases, the Description naming it the base vision-language checkpoint of the Nemotron 3.5 Super family and stating it provides a starting point for continued training and domain adaptation, the Model Overview heading with Model Developer NVIDIA Corporation, the paragraph describing a Mamba-2 hybrid with a C-RADIO vision encoder, 120B total and 12B active parameters and context lengths up to 1M tokens, the sentence that the model is ready for commercial or non-commercial use, a 'What is Nemotron?' heading, and the start of the Benchmarks table showing MMLU 84.14, MMLU-Pro 76.25, AGIEval-En 75.65, SuperGPQA 47.65, GPQA Diamond 66.16, GSM8K 91.74 and Minerva MATH 87.66.

「base」在此版本中是什麼意思?

這兩份模型卡回答了這個問題,而它們之間的差異,正好清楚說明了後訓練在這裡帶來了什麼。

基礎卡記錄了三個訓練階段。階段 1 在 N​emotron 3 Super Base 之上建構語言主幹,並以 100B 個 token 針對凍結的主幹訓練共享 MTP 頭,接著從 N​emotron 3 Ultra Base 蒸餾 1T 個 token。階段 2 是 100B 個 token 的 Indic 持續預訓練、擴展至 1M 上下文的 35B 個 token 延伸、在 256K 上下文下進行 67B 個 token 的軟體工程中期訓練,以及 9B 個 token 的長上下文恢復階段。階段 3 加裝 C-RADIO 視覺編碼器與視覺語言連接器。

後訓練卡片記錄了六個階段,而基礎卡片所缺的那三個,正是讓模型真正可用的三個:第 4 階段是在視覺、推理、程式碼、工具、聊天、安全與長上下文資料上進行監督式微調,並使用長達 524,288 個符元的打包序列;第 5 階段是結合可驗證獎勵的強化學習、RLHF,以及多教師同策略蒸餾;第 6 階段則是針對凍結的後訓練主幹來強化 MTP 頭,讓推測解碼真正發揮效益。

基礎模型卡本身在推論(Inference)一節中就這麼寫道:「基礎模型旨在作為進一步訓練的起點。若要用於對話、推理和工具呼叫應用,請使用後訓練的 BF16 或 NVFP4 版本及其部署說明。」其載明的使用情境是「透過持續預訓練、監督式微調、強化學習與蒸餾來打造自訂視覺語言模型的開發者與研究人員」。

那是一個異常直接的免責聲明,而這是對這件產物的正確解讀。這裡以「base」名義發布的,並不是較弱的聊天模型。它是 Stage 4 到 Stage 6 所運行於其上的基底,並與它們一同發布,好讓其他人能夠跑一套不同的 Stage 4 到 6——在他們自己的資料上、依他們自己的授權條款——而不必重新執行一次 20 兆個 token 的預訓練。

設定並未承載的 1M token 宣稱

這就是值得你投入 249 GB 注意力去關注的落差。

基礎模型卡在其說明中表示,該模型「支援的上下文長度最高可達 1M 個 token」,並在「模型設計」區段中重複此點:「該模型支援最高 1M 個 token 的上下文。」訓練方法論也佐證了這項意圖——第 2 階段明確包含「以 35B 個 token 擴展至 1M 上下文,接著進行 9B 個 token 的長上下文恢復階段。」

隨附的 config.json 說的卻是另一回事。它的 max_position_embeddings 是 262,144——256K,不是 1M。沒有 rope_scaling 區塊,也沒有 original_max_position_embeddings 欄位,因此位置方案也未宣告任何擴展。相較之下,後訓練儲存庫的 config 則宣告 max_position_embeddings 為 1,048,576。兩個姊妹檢查點,相同架構字串、相同層配置,位置上限卻有四倍差距,而基礎卡片的說明文字並未提及此事。

把這三個事實放在一起看,最站得住腳的結論並不是基礎模型屬於短上下文,而是基礎儲存庫出廠時附帶了一個保守的宣告上限,並預期你會去修改它。那 1M 的擴充確實訓練過。已發布的設定檔卻沒有把它暴露出來。如果你的持續預訓練計畫假設開箱即是 1M token 的序列長度,那麼這個假設來自模型卡,而不是執行環境實際會讀取的那個檔案——而修正方式是一項你必須知道要去做的設定檔編輯。

A generated three-card graphic titled 'The 1M-token claim the shipped config does not carry', with the kicker 'Same architecture string, same layer layout, a factor of four apart'. The first card, headed 'Base model card says' and tinted amber, reads '1M tokens of context' with the note that it is stated in the Description and repeated in Model Design. The second card, headed 'Base config.json declares' and tinted blue, reads '262,144 max_position_embeddings' with the note that there is no rope_scaling block and no original_max_position_embeddings. The third card reads '1,048,576 max_position_embeddings' for the post-trained sibling repository, same family, same release week. The footer states that all three figures are as published by NVIDIA, from the base model card and each repository's shipped config.json read October 16, 2026, with no independent reproduction, and the OrcaRouter logo sits bottom-right.

基於同樣理由,值得點出:基礎卡片的「模型摘要」表根本就不存在。後訓練卡片則有一張——總參數量、架構、精度、上下文長度、部署目標、推測解碼、推理模式、建議取樣、最適合用途、授權。基礎卡片直接從「描述」跳到「授權」,然後再到基準測試表。任何地方都沒有建議取樣列,也沒有部署列,因此基礎卡片上沒有任何內容能告訴你它需要什麼硬體。

架構,從出貨的設定檔中讀出

由於廠商對基礎架構的描述只是一段文字,而真正的樣貌在檔案裡,以下是該檔案的內容。這一切都直接來自 config.json在基礎儲存庫中,而非來自任何摘要。

• 深度與組成 — 語言主幹中有 88 個區塊。其中 40 個是 Mamba-2 層,40 個是專家混合層,8 個是完整注意力層,分別位於索引 7、16、25、36、47、58、69 和 78。大約每九層就有一個注意力區塊,這就是整個長上下文機制。

• MoE — 每個 MoE 層有 512 個路由專家,每個 token 會選取 22 個,另外有一個共享專家,潛在大小為 1024,且共享專家的中間大小為 5376,而路由專家則為 2688。這就是「120B 總計、12B 活躍」這個標題背後的算術。

• 注意力 — 32 個查詢頭對 2 個鍵值頭,頭維度為 128,因此是比例 16:1 的分組查詢注意力。隱藏大小為 4096。

• MTP — 一層下一詞元預測層,本身由一個注意力區塊與一個 MoE 區塊組成,風格仿效 DeepSeek 的多詞元預測頭。一次預測步驟,而非數次。

• Vision — 一個 C-RADIO ViT-H 塔:32 層、隱藏大小 1280、16 個注意力頭、patch 大小 16、7 個 register token、3 個 class token、最大影像尺寸 2048,以及介於 1024 到 13312 之間的 patch 預算。連接器投影至 20,480,接著 0.5 的降採樣比例與強制影像尺寸 512 再把 token 數量壓回來。

• 影片——時間區塊大小為 2,且宣告的剪枝率為 0.7。

• 兩個怪異之處——設定檔宣告了一個 <audio> 上下文 token,但其 sound_config 為 null,因此音訊的底層管線在這套架構中存在,而這個檢查點並未帶上任何相關內容。而且 tie_word_embeddings 為 false,這對這個規模的模型來說是標準做法,如果你打算調整詞彙表大小,這點值得知道。

作為規模參照:該儲存庫自身的 safetensors 中介資料總計 124,453,395,974 個參數,是一個位元組一個位元組數出來的張量,對比 N​VIDIA 所公布的 120B 總量/12B 啟用參數。這兩個數字是基於不同的計算基礎:廠商數字是語言模型的路由加共享運算量,檔案數字則是儲存庫中儲存的一切,包含視覺塔與 MTP 頭。不要把這個落差當成不一致;請以檔案本身來編列預算。

基準表實際上衡量的究竟是什麼

這張基礎卡公布了 24 列基準測試資料,而且值得讚許 NVIDIA 的是,還有一欄說明每一列分別是什麼:

• MMLU 84.14 精確匹配 · MMLU-Pro 76.25 · AGIEval-En 75.65 CoT · SuperGPQA 47.65 CoT · GPQA Diamond 66.16 於 5-shot CoT 精確匹配

• GSM8K 91.74 於 8-shot CoT · Minerva MATH 87.66 · MATH-500 81.56 取樣 pass@1 n=32 · HumanEval 81.31 EvalPlus 淨化版 · MBPP-Sanitized 79.06 · LiveCodeBench CodeGen 47.61 · BigCodeBench 48.42 完整版與 49.39 指令版

• ARC-Challenge 95.99 · HellaSwag 88.96 · TruthfulQA MC2 71.18 · WinoGrande 79.08 · PIQA 85.09 · CommonsenseQA 85.26 · OpenBookQA 48.80 · SocialIQA 49.03 · RACE 91.39

• 全球 MMLU 86.56,在 8 種語言上平均 · MGSM 87.53,在 6 種語言上以 8-shot 原生 CoT 達到

關於那張表,有兩件事很容易被忽略,而兩者都很重要。

首先,這張模型卡自己的框架說明句指出,這些結果「評估 N​emotron 3.5 Super 純文字基礎主幹,在視覺語言訓練之前」。無論這還意味著什麼,它都意味著這些數字不是一份多模態評分卡——基礎模型卡上任何地方都沒有 OCR 基準、沒有文件理解列、沒有視訊列,儘管視訊與文件輸入在前兩節就已描述。如果你想要基礎檢查點的理由是它的視覺塔,這張卡沒有提供任何可供規劃的實證依據。

第二,表格沒有基線欄位。後訓練模型卡的表格橫跨七欄——Nemotron 3.5 Super GA 對比 Qwen3.5-122B-A10B、Qwen3.8-Flash-Next、DeepSeek-V4-Flash0731、Nemotron 3 Ultra、Inkling-Small 和 GLM-5.3-Flash。基礎模型卡則恰好只有一欄。而且實際執行的項目組合很能說明問題:後訓練模型卡完全捨棄 MMLU,改用 MMLU-ProX,而基礎模型卡同時跑 MMLU 和 MMLU-Pro,卻既沒有 MMLU-ProX,也沒有後訓練模型卡所仰賴的代理式與測試框架層級套件。你無法從卡片回答「這個基礎模型比那個基礎模型更好嗎」。你得把兩者都跑過一遍。

上方每一項數據都是 N​VIDIA 的,且是透過 N​VIDIA 自家的 NeMo Gym 測試框架產生——後訓練版模型卡明確如此表示,而基礎版模型卡則完全沒有公布任何測試框架說明。兩張表上的任何內容都未經獨立重現。

基礎模型與後訓練模型,在它們唯一共用的基準測試中

這兩張卡沒有共用的基準測試表,但恰好有一列可以並排比較,而這一列正是最重要的。

• GPQA Diamond — 基礎版模型卡上為 66.16,採 5-shot 思維鏈精確匹配。後訓練版模型卡上為 89.52。相差 23.36 分,出自 N​VIDIA 自家的兩份文件,且基礎數據被明確標示為純文字主幹。

A generated six-row comparison card titled 'Nemotron 3.5 Super VL Base BF16 vs Post-trained BF16', with the kicker 'Two cards from the same release, read side by side', contrasting the two model cards on GPQA Diamond (66.16 for the base, labelled text-only backbone 5-shot chain-of-thought, against 89.52), context declared in the shipped config.json (262,144 against 1,048,576), training stages documented on the card (3 against 6), baseline columns in the benchmark table (1 against 7), MMLU-family rows published (MMLU 84.14 and MMLU-Pro 76.25 against MMLU-ProX 76.91), and the model summary table (not published against published), footnoted that all figures are vendor-reported from NVIDIA's own two model cards and each repository's shipped config.json read October 16, 2026 with nothing independently reproduced, and the OrcaRouter logo bottom-right.

這就是第 4 到第 6 階段在研究所程度科學推理上價值的誠實標題:後訓練並非對這個模型進行打磨修飾,而是大約再增加一半的能力。這也告訴你取捨的方向。如果你打算自行對基礎檢查點進行後訓練,你一開始就落後 NVIDIA 正在販售的模型 23 個百分點,並且押注你的資料與獎勵訊號能在你的領域中弭平這個差距——而這正是 NVIDIA 自家客戶數據所描述的押注:Scale AI 回報供應商信用處理的推論成本降低 40 倍,Ramp 預期收據轉 JSON 擷取的輸送量提高最多 50%、延遲降低 10 倍。這些是供應商與客戶陳述的成果,並未經獨立量測,而它們是唯一已發表的證據,顯示弭平這個差距是可以達成的。

請注意將這兩張卡片放在一起解讀時的陷阱。基礎卡片的「MMLU-Pro」為 76.25,而後訓練卡片的「MMLU-ProX」為 76.91,看起來像是 0.66 分的差距,但兩者不可比較——它們是不同的基準測試,其中一個還註明了 TigerLab 的提取方法。基礎卡片的「MMLU」為 84.14,在後訓練卡片上完全沒有對應項。如果你想要同基準測試的差異值,GPQA Diamond 是你能得到的,而 LiveCodeBench 則不是:基礎卡片報告 CodeGen 為 47.61,而後訓練卡片報告 LiveCodeBench v6 為 88.22,這是同一基準測試家族的不同版本,並非差異值。

249 GB 能換到什麼,以及換不到什麼

下載本身只需一個指令,而它是整個基礎模型卡中唯一的指令:

• hf download nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 --local-dir ./models/super-vl-base-bf16

這就是完整的快速入門。基礎卡片包含一個程式碼區塊;後訓練卡片則包含二十二個。這裡沒有 vllm serve 這一行,沒有 SGLang 啟動方式,沒有張量平行指引,沒有 --max-num-seqs,沒有推理解析器旗標,沒有用於推測解碼的 MTP 設定,也沒有 API 用戶端範例。後訓練卡片則全部都有,包括一個使用 --enable-mamba-shared-prefix-checkpoint 的 4×H100 配方,以及一個 TP2 的 2×GB200 配方。

• 執行階段引擎——基礎卡片列出 PyTorch、Megatron-LM 與 NeMo,而其中的推論章節僅列出 PyTorch。後訓練卡片則列出 vLLM 與 SGLang。那些在一邊是訓練框架名稱,另一邊是服務執行階段名稱,而這種區分是刻意的,並非偶然。

• 測試硬體 — Hopper H100 與 H200、Grace Blackwell GB200 與 GB300、Blackwell B200 與 B300。部署時,後訓練卡則縮減為 4×H100 或 2×GB200。

• 磁碟 — 跨 63 個分片共 248.9 GB,與經過後訓練的全精度版本相同。NVFP4 的對應版本為 75.1 GB。如果你下載基礎版本是為了檢視或調適,而不是為了執行,那麼你付的是 NVFP4 下載量的 3.3 倍,換來的卻是沒有推論服務配方。

你確實能取得的、真正可用的內容是:這個儲存庫附帶了一個完整的 chat_template.jinja,大小為 12,513 位元組,其中包含了 enable_thinking 開關,也包括 medium-effort 變體。它還附帶了一個 generation_config.json,其中 temperature 為 1.0、top_p 為 0.95,而 do_sample 為 true。將該範本與後訓練版本進行比對,會得到 414 位元組的差異,全都落在圖片與影片佔位符周圍的空白處理上——除此之外,這兩個範本基本上是同一個檔案。

所以,用來與基礎檢查點以聊天模型方式對話的管線已經存在,而且與已發布的聊天模型幾乎完全相同。缺席的是任何表明你應該這麼做的說明。基礎模型卡上沒有建議取樣列,沒有推理模式列,在聊天配置中也沒有針對它的基準測試。你可以在大約十分鐘內把它當作聊天模型來提供服務。輸出是否值得離開測試框架是另一個問題,而模型卡的答案是不值得。

沒有人談論的語料庫披露

這是基礎版本中可說比權重更有用的部分,而它幾乎未受關注,因為它存在於一個從未被連結的 repo 裡的表格中。

基礎模型卡詳細公開了後訓練模型卡未載明的訓練語料庫:一個超過 20 兆個符元的基礎語料庫,蒐集於 2013 年至 2025 年 12 月之間,並依來源逐項列出——Nemotron-CC-v2 與 v2.1 為 9.1T,Nemotron-CC-Code-v1 為 427.9B,Nemotron-Pretraining-Code 系列合計 1.7T,Nemotron-CC-Math-v1 為 133.3B,專用與 SFT 合成資料集為 660B,以及法律資料集為 4.3B。英語、其他 19 種口說語言、43 種程式語言。

接著是兩張多數開放權重發布根本不會公開的表。其中一張列出由第三方擁有、私人且無法公開存取的資料集,並列出產生其標籤的模型——Qwen3.5-122B-A10B 用於大量 OCR 與視覺問答重新標註工作、DeepSeek-OCR 用於經過篩選的中文 OCR 子集、Qwen3.5 用於經驗證正確的子集、Gemini 3 與 GPT-5 用於搜尋的 RL 資料。另一張列出 NVIDIA 自家的私人資料集,同樣列出產生者:Kimi K3 用於數學思維鏈 SFT 資料、DeepSeek-V4-Pro 用於競技程式設計 OCR、gpt-oss-120b 用於結構化輸出 RL、GLM-5.2 用於精煉、MiniMax-M2 用於搜尋圖走訪,以及一長串其他模型。

接著是兩份大多數開放權重發布根本不會公開的表。其中一份列出 第三方擁有、非公開取用的私有資料集,並指名產生其標籤的模型——在廣泛的 OCR 與視覺問答重新標註工作上使用的 Qwen3.5-122B-A10B、用於經過篩選的中文 OCR 子集的 DeepSeek-OCR、用於經驗證正確子集的 Qwen3.5,以及用於搜尋 RL 資料的 Gemini 3 與 GPT-5。另一份列出 NVIDIA 自家的私有資料集,同樣指名其生成者:用於數學思維鏈 SFT 資料的 Kimi K3、用於競技程式設計 OCR 的 DeepSeek-V4-Pro、用於結構化輸出 RL 的 gpt-oss-120b、用於精修的 GLM-5.2、用於搜尋圖走訪的 MiniMax-M2,以及一長串其他模型。這兩份成對的表提醒了我們這個產業實際上是怎麼運作的——前沿模型的訓練訊號經常包含競爭對手模型的輸出,而 NVIDIA 是極少數會說明是哪些模型、用於什麼用途的實驗室之一。

該儲存庫亦隨附一份Nemotron_3.5_Super_VL_EU_Training_Content_Summary.pdf,於 10 月 15 日新增,這是面向歐盟的訓練內容揭露文件。中期訓練混合資料的揭露粒度相同,而其中有一行與你直接相關——若你打算針對軟體工作進行微調:67B token 的軟體工程階段中,20% 為完整儲存庫、41% 為 issue 與 pull request 配對、3% 為提交差異、1% 為建置與 CI 日誌、10% 為代理軌跡、20% 為預訓練回放,以及 5% 為長上下文資料;其來源已針對 SWE-bench 與 Terminal-Bench 儲存庫進行去汙染處理。這句去汙染聲明,正是模型卡中唯一告訴你這兩項基準測試分數究竟值多少的一句話。

授權條款,以及基礎檢查點是為誰而設

OpenMDW-1.1,與後訓練版本相同的授權條款,模型卡並直白寫明:「本模型已可供商業或非商業用途使用。」該儲存庫未設存取限制,下載時也不需要 Hugging Face 權杖,不過此系列其他地方的 NVIDIA 自家容器配方則假設需要一個。

把授權條款放在使用案例旁邊,目標受眾便清楚無疑。沒有人會下載 249 GB 的後訓練前檢查點來省下推論成本——NVFP4 版本小了 3.3 倍、速度更快,而且在 GPQA Diamond 上高出 23 分。基礎檢查點是給打算主導後訓練階段的團隊用的:他們要的是與 NVIDIA 所跑的不同領域、不同獎勵訊號,或不同資料政策。在 OpenMDW-1.1 之下,允許商業使用且權重不設限,這確實是可以用來打造產品的正當基礎,而這正是為什麼缺少文件要付出代價。

而且值得在這裡區分兩種讀者。如果你的問題是「這週我該選用哪個來做文件解析或影片理解」,基礎檢查點不是你的答案,從來都不是;後訓練模型才是,而那裡待解的問題是基準驗證,而非可用性。如果你的問題是「我能否取得一個 120B 等級、採用寬鬆授權的混合 Mamba-MoE 視覺語言主幹,作為我自己訓練執行的起點」,那麼這個儲存庫就是答案,而它自 10 月 12 日以來一直未被連結。

如果你打算評估它的話

像這樣的一個檢查點,代價高昂的錯誤就是把下載當成測試。事實並非如此:249 GB、63 個分片,以及在第一次前向傳遞之前修改設定,這些都無法告訴你視覺塔是否能遷移到你的文件類別。

便宜的測試作法是先在一個已部署服務的模型上釐清能力問題,之後才花磁碟空間。路由閘道在這件事上有用,但在這個決策中除此之外別無用處——一把金鑰、一個端點,涵蓋兩三百個模型,以供應商定價、0% 加價原樣計費意味著你可以把後訓練的 N​emotron 3.5 Super VL 版本,拿來跟你已經在用的任何視覺模型,在你自己的圖片上比一比,一個下午就能完成,成本就是那些 token 的費用。跨供應商的自動容錯移轉在這裡之所以重要,有個狹窄的理由:一趟在 5,000 筆請求中第 4,000 筆就掛掉的評估執行,會讓你賠掉整趟;而一個在供應商出錯時會改到別處重試的閘道,就是一個下午與兩個下午的差別。

直接說清楚那件否則會有歧義的事:NVIDIA Nemotron 3.5 Super VL 不在我們的目錄中。我們目前不提供這個模型,而且尤其是基礎檢查點本身,託管端點根本不太可能提供,因為基礎檢查點不是推論產品。閘道能給你的是這個實驗中便宜的那一半——也就是那項比較,告訴你付出 249 GB 是否值得。

什麼仍然尚未確立

四件事,以缺口而非風險來陳述。

• 哪一個上下文長度限制才是真的。規格卡上寫的是 1M,出貨的設定檔宣告的是 262,144,而訓練說明則表示曾執行過一次 1M 的延伸。目前沒有任何公開聲明能釐清這三者。任何打算進行長上下文持續預訓練的人,都應把設定檔中的數值視為預設值,並以實際執行環境來驗證,而非採信規格卡。

• 視覺塔能做到什麼。 基礎卡並未發布任何形式的多模態評估。沒有 OCR、沒有文件、沒有圖表、沒有影片列——而這是該系列中唯一以針對這些模態進行微調為全部目的的檢查點。這是已發布證據中最大的缺口。

• 基礎模型與任何事物相比如何。單欄基準測試表,沒有基線,沒有測試框架註記。66.16 的 GPQA Diamond 數值原則上可透過 NeMo Gym 重現,且尚未被 NVIDIA 以外的任何人重現過。

• 基礎模型是否在任何地方隨附 1M 部署配方。 後訓練模型卡包含涵蓋完整視窗的 4×H100 與 2×GB200 啟動命令。基礎模型卡則包含一個 hf download。目前不清楚這是文件缺漏,還是表明 NVIDIA 不打算支援以 1M 提供基礎模型服務的聲明。

這些都不會讓這次發布變得比較不有趣。它反而讓基礎檢查點成為該系列中文件記載最少的產物,而對某一狹窄且特定類型的團隊來說,卻是最有用的那一個——差別在於你的下一步是 API 呼叫,還是一次訓練執行。

對於一個失效模式仍未被記錄的模型來說,有用的對照資料是其他地方已經出錯的紀錄:這類模型的已記錄 AI 事件與代理失效,都收錄在 OrcaRouter AI Incident Archive,其中每筆條目都附有自己的來源、嚴重程度、信心等級與爭議標記。