NVIDIA Nemotron 3.5 Super VL Base BF16: il checkpoint da 249 GB che NVIDIA ha elencato ma non ha mai linkato

nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 è l'artefatto nella N​VIDIA N​emotron 3.5 Super VL release che N​VIDIA non ha mai collegato. Il post di annuncio dell'azienda del 15 ottobre dice, in una singola clausola, che "la release include checkpoint base, post-trained e quantizzati NVFP4 con ricette di training, dati e ambienti di reinforcement learning." Ogni link ai repository su quella pagina punta a nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4. La stringa "Base-BF16" non compare affatto nel post.

Il repository è reale e pubblico. Hugging Face registra il suo commit iniziale in data 2026-10-12T15:31:49Z, i suoi shard dei pesi caricati in data 2026-10-13T04:55Z e il campo release-date della sua model card che riporta "Hugging Face - 10/15/2026". Non è soggetto a gating, non richiede alcun token per il download e pesa esattamente quanto la build post-trained nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16 pesa: 248,9 GB su 63 shard BF16 contro i 248,9 GB su 64 della build post-trained, con i due file di indice a 16 byte di distanza. Tre giorni dopo l'arrivo dei pesi era stato scaricato 4 volte, contro le 142 del repository post-trained a piena precisione e le 81 della controparte NVFP4. Questi sono i contatori di Hugging Face stesso, letti il 16 ottobre.

Quindi non si tratta di una fuga di notizie né di una voce. I pesi non sono ciò su cui si dovrebbe sbagliare: sono semplicemente l’artefatto meno pubblicizzato in un rilascio per il resto rumoroso, e la scheda del modello che li accompagna si contraddice in un modo che conta se sei il tipo di persona che scaricherebbe un checkpoint pre-post-training da 249 GB. Quella contraddizione è qui sotto.

Che cosa è atterrato, e la frase che lo menziona

Tre repository principali e un drafter sono stati pubblicati nella stessa finestra temporale, tutti first-party N​VIDIA, tutti con licenza OpenMDW-1.1, nessuno ad accesso limitato:

• Base BF16 — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-Base-BF16, repository creato il 2026-10-12T15:31:49Z, pesi 2026-10-13T04:55Z, README modificato l'ultima volta il 2026-10-15T15:22:08Z.

• BF16 post-addestrato — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, creato il 2026-10-12T15:32:06Z, diciassette secondi dopo il repository di base.

• NVFP4 post-addestrato — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4, creato il 2026-10-12T15:32:30Z, e 75,1 GB in totale invece di 248,9 GB.

• Un drafter NVFP4 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, creato ancora un giorno prima, alle 2026-10-11T20:20:59Z.

La corrispondenza tra quei repository e il testo di N​VIDIA è il punto in cui le cose diventano disomogenee, e vale la pena verificarla invece di darla per scontata. Tutti i riferimenti di deployment dell'annuncio rimandano alla build NVFP4. La nota iniziale della card di base stessa punta verso le altre due — «Cerchi un modello post-addestrato? Vedi la release BF16 per la personalizzazione o la release NVFP4 per un deployment ottimizzato» — quindi il repository di base, già alla prima riga, ti dirà invece dove andare. Il contrario non vale. La card BF16 post-addestrata non contiene alcun link al repository di base da nessuna parte, e nemmeno la card NVFP4. Il checkpoint di base è l'unico artefatto della release verso cui la documentazione di N​VIDIA non ti indirizza mai; lo trovi leggendo la clausola di nove parole dell'annuncio e poi sfogliando l'elenco dei file dell'organizzazione, ed è così che è stato trovato qui. Nulla nel testo di N​VIDIA spiega perché un checkpoint di base venga pubblicato con gli stessi 249 GB del modello che è effettivamente post-addestrato, né cosa dovresti farne che quello post-addestrato non possa fare.

Quell'assenza è la storia. Un rilascio open-weights in cui il fornitore collega due checkpoint su tre e descrive il terzo in nove parole non nasconde nulla — i pesi sono proprio lì — ma significa che la documentazione di cui hai bisogno non è nell'annuncio. È nel repository.

Cosa significa "base" in questa versione?

Le due schede modello rispondono a questo, e la differenza tra loro è una lettura chiara di ciò che il post-addestramento ha apportato qui.

La scheda base documenta tre fasi di addestramento. La fase 1 costruisce la backbone linguistica su Nemotron 3 Super Base e addestra una testa MTP condivisa per 100B token con backbone congelata, poi distilla per 1T token da Nemotron 3 Ultra Base. La fase 2 comprende 100B token di pre-addestramento continuato Indic, un'estensione di 35B token a contesto 1M, 67B token di mid-training di ingegneria del software a contesto 256K e una fase di recupero long-context da 9B token. La fase 3 innesta l'encoder visivo C-RADIO e il connettore visione-linguaggio.

La scheda post-trained ne documenta sei, e le tre che mancano alla scheda base sono proprio quelle che rendono utilizzabile un modello: la Fase 4, fine-tuning supervisionato su visione, ragionamento, codice, strumenti, chat, sicurezza e dati a contesto lungo, usando sequenze packed fino a 524.288 token; la Fase 5, reinforcement learning con ricompense verificabili più RLHF più distillazione on-policy multi-teacher; e la Fase 6, il potenziamento della testa MTP rispetto al backbone post-trained congelato, così che la decodifica speculativa dia davvero i suoi frutti.

La card del modello Base lo dice essa stessa, nella sezione Inference: "Il modello Base è pensato come punto di partenza per ulteriori addestramenti. Per applicazioni di chat, ragionamento e tool calling, utilizzare la release post-addestrata BF16 o NVFP4 e le relative istruzioni di deployment." Il suo caso d'uso dichiarato è "sviluppatori e ricercatori che costruiscono modelli visione-linguaggio personalizzati tramite pre-addestramento continuato, fine-tuning supervisionato, apprendimento per rinforzo e distillazione."

Quella è una dichiarazione di non responsabilità insolitamente diretta, ed è la lettura corretta dell'artefatto. Ciò che qui viene distribuito come "base" non è un modello di chat più debole. È il substrato sul quale sono stati eseguiti gli Stage 4-6, pubblicato insieme a essi così che qualcun altro possa eseguire degli Stage 4-6 diversi — sui propri dati, secondo i propri termini di licenza, senza rieseguire un pre-addestramento da 20 trilioni di token.

L'affermazione di 1M token che la config non supporta

Questa è la discrepanza che merita i 249 GB della tua attenzione.

La scheda del modello base afferma, nella sua Descrizione, che il modello "supporta lunghezze di contesto fino a 1M token", e lo ripete nella sezione Progettazione del Modello: "Il modello supporta fino a 1M token di contesto." La metodologia di addestramento conferma l'intento — la Fase 2 include esplicitamente "un'estensione di 35B token a 1M di contesto, seguita da una fase di recupero del contesto lungo da 9B token."

distribuitoconfig.json dice qualcosa di diverso. Il suo max_position_embeddings è 262,144 — 256K, non 1M. Non c'è alcun blocco rope_scaling e nessun campo original_max_position_embeddings, quindi neanche lo schema di posizione dichiara un'estensione. La configurazione del repository post-addestrato, al contrario, dichiara max_position_embeddings di 1,048,576. Due checkpoint fratelli, stessa stringa di architettura, stesso layout dei layer, e una differenza di un fattore quattro nel limite di posizione che la prosa della scheda base non menziona.

Leggi i tre fatti insieme e la conclusione più difendibile non è che il modello base abbia un contesto breve. È che il repository di base fornisce un limite dichiarato conservativo e si aspetta che tu lo modifichi. L'estensione da 1M è stata addestrata. La configurazione pubblicata non la espone. Se il tuo piano di pre-training continuato presuppone una lunghezza di sequenza di 1M token fin da subito, quell'assunzione deriva dalla scheda, non dal file che il runtime leggerà effettivamente — e la correzione è una modifica alla configurazione che devi sapere di dover apportare.

Vale la pena segnalarlo per lo stesso motivo: la tabella Model Summary della scheda base semplicemente non esiste. La scheda post-trained ne contiene una — parametri totali, architettura, precisione, lunghezza del contesto, target di deployment, decodifica speculativa, modalità di ragionamento, campionamento consigliato, best-for, licenza. La scheda base passa direttamente dalla Descrizione alla Licenza, poi a una tabella di benchmark. Non c'è da nessuna parte una riga per il campionamento consigliato, e non c'è una riga per il deployment, quindi nulla sulla scheda base ti dice quale hardware richieda.

L'architettura, ricavata dalla configurazione distribuita

Poiché la descrizione del fornitore dell'architettura di base è un paragrafo e la vera forma è nel file, ecco cosa dice il file. Tutto ciò proviene direttamente da config.json nel repository di base, non da alcun riassunto.

• Profondità e composizione — 88 blocchi nella spina dorsale linguistica. 40 sono layer Mamba-2, 40 sono layer mixture-of-experts e 8 sono layer di full attention, agli indici 7, 16, 25, 36, 47, 58, 69 e 78. Un blocco di attenzione all'incirca ogni nove layer costituisce l'intero meccanismo di contesto lungo.

• MoE — 512 esperti instradati per layer MoE, 22 selezionati per token, un esperto condiviso, una dimensione latente di 1024 e una dimensione intermedia dell'esperto condiviso di 5376 contro 2688 per gli esperti instradati. Questa è l'aritmetica dietro il titolo "120B totali, 12B attivi".

• Attenzione — 32 head di query contro 2 head chiave-valore con dimensione della head pari a 128, quindi grouped-query attention con un rapporto 16:1. Dimensione nascosta 4096.

• MTP — uno strato di predizione del token successivo, esso stesso composto da un blocco di attenzione e un blocco MoE, nello stile della testa di predizione multi-token di D​eepSeek. Un solo passo di predizione, non diversi.

• Visione — una torre C-RADIO ViT-H: 32 livelli, dimensione nascosta 1280, 16 teste, dimensione delle patch 16, 7 token di registro, 3 token di classe, una dimensione massima dell'immagine di 2048 e un budget di patch compreso tra 1024 e 13312. Il connettore proietta a 20.480, poi un rapporto di downsampling di 0,5 e una dimensione dell'immagine forzata di 512 riportano il numero di token sotto controllo.

• Video — una dimensione della patch temporale pari a 2 e un tasso di pruning dichiarato di 0,7.

• Due stranezze — la configurazione dichiara un <audio> token di contesto mentre il suo sound_config è null, quindi l'infrastruttura per l'audio esiste in questa architettura e questo checkpoint non ne contiene alcuna. E tie_word_embeddings è false, il che è standard per un modello di queste dimensioni e vale la pena saperlo se prevedi di ridimensionare un vocabolario.

Per dare un'idea della scala: i metadati safetensors del repository ammontano in totale a 124,453,395,974 parametri, contati un byte di tensore alla volta, rispetto alla cifra di riferimento di NVIDIA di 120B totali / 12B attivi. I due numeri sono riportati su basi diverse — la cifra del fornitore è l'aritmetica routed-plus-shared del modello linguistico, la cifra del file è tutto ciò che è memorizzato nel repository, torre di visione e testa MTP incluse. Non trattare il divario come una discrepanza; prevedi un budget per il file.

Che cosa misura davvero la tabella di benchmark

La scheda base pubblica 24 righe di benchmark e, a merito di N​VIDIA, una colonna che dice cosa sia ciascuna:

• MMLU 84.14 corrispondenza esatta · MMLU-Pro 76.25 · AGIEval-En 75.65 CoT · SuperGPQA 47.65 CoT · GPQA Diamond 66.16 a 5-shot CoT corrispondenza esatta

• GSM8K 91,74 con CoT 8-shot · Minerva MATH 87,66 · MATH-500 81,56 pass@1 con campionamento n=32 · HumanEval 81,31 EvalPlus sanitizzato · MBPP-Sanitized 79,06 · LiveCodeBench CodeGen 47,61 · BigCodeBench 48,42 complete e 49,39 instruct

• ARC-Challenge 95,99 · HellaSwag 88,96 · TruthfulQA MC2 71,18 · WinoGrande 79,08 · PIQA 85,09 · CommonsenseQA 85,26 · OpenBookQA 48,80 · SocialIQA 49,03 · RACE 91,39

• MMLU globale 86,56 come media su 8 lingue · MGSM 87,53 con CoT nativo a 8-shot su 6 lingue

Ci sono due cose di quella tabella che è facile non notare, ed entrambe contano.

Innanzitutto, la frase di inquadramento della scheda stessa dice che i risultati «valutano la backbone base solo testo di N​emotron 3.5 Super, prima dell'addestramento vision-linguaggio». Qualunque altro significato abbia, significa che questi numeri non sono una scheda di valutazione multimodale — non c'è alcun benchmark OCR, nessuna riga di comprensione dei documenti, nessuna riga video da nessuna parte sulla scheda base, anche se gli input video e documenti sono descritti due sezioni prima. Se il motivo per cui vuoi il checkpoint base è la sua torre di visione, la scheda non ti offre nulla di empirico su cui pianificare.

In secondo luogo, la tabella non ha colonne di baseline. La tabella della scheda del modello post-addestrato si estende su sette colonne — N​emotron 3.5 Super GA contro Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash0731, N​emotron 3 Ultra, Inkling-Small e GLM-5.3-Flash. La scheda del modello base ha esattamente una colonna. E il mix di ciò che è stato eseguito è rivelatore: la scheda del modello post-addestrato elimina completamente MMLU a favore di MMLU-ProX, mentre la scheda del modello base esegue sia MMLU sia MMLU-Pro e non esegue né MMLU-ProX né le suite agentiche e a livello di harness su cui fa affidamento la scheda del modello post-addestrato. Non puoi rispondere a "questa base è migliore di quella base" basandoti sulla scheda. Dovresti eseguirle entrambe.

Ogni cifra riportata sopra è di NVIDIA, prodotta tramite l'harness NeMo Gym di NVIDIA stesso — la card del modello post-addestrato lo dichiara esplicitamente, mentre la card del modello base non pubblica alcuna nota sull'harness. Nulla di quanto compare in entrambe le tabelle è stato riprodotto in modo indipendente.

Base versus post-addestrato, nell'unico benchmark che condividono

Le due schede non condividono una tabella di benchmark, ma condividono esattamente una riga che puoi mettere a confronto fianco a fianco, ed è quella che conta di più.

• GPQA Diamond — 66,16 sulla scheda base, con corrispondenza esatta in modalità 5-shot chain-of-thought. 89,52 sulla scheda post-addestrata. Un divario di 23,36 punti, dai due documenti della stessa NVIDA, con il valore della base esplicitamente etichettato come backbone solo testo.

Questo è il titolo onesto di quanto valgono le fasi da 4 a 6 sul ragionamento scientifico di livello post-laurea: il post-training non è una passata di rifinitura su questo modello, è all'incirca un'altra metà della capacità. Ti dice anche la direzione del trade-off. Se il tuo piano è fare il post-training del checkpoint di base da solo, parti 23 punti indietro rispetto al modello che N​VIDIA sta vendendo e scommetti che i tuoi dati e il tuo segnale di ricompensa colmino quel divario nel tuo dominio — che è esattamente la scommessa descritta dai numeri dei clienti di N​VIDIA stesso: Scale AI riporta una riduzione dei costi di inferenza di 40 volte per l'elaborazione dei crediti fornitori, Ramp prevede fino al 50% in più di throughput e una latenza 10 volte inferiore per l'estrazione da ricevute a JSON. Sono risultati dichiarati da fornitori e clienti senza misurazione indipendente, e sono l'unica prova pubblicata che colmare il divario sia realizzabile.

Nota la trappola nel leggere le due schede insieme. Il "MMLU-Pro" della scheda base a 76,25 e il "MMLU-ProX" della scheda post-addestrata a 76,91 sembrano un divario di 0,66 punti e non sono comparabili — benchmark diversi, uno dei quali con un metodo di estrazione TigerLab dichiarato. Il "MMLU" della scheda base a 84,14 non ha alcun corrispettivo sulla scheda post-addestrata. Se vuoi un delta sullo stesso benchmark, GPQA Diamond è quello che ottieni, e LiveCodeBench è quello che non ottieni: la scheda base riporta CodeGen a 47,61 mentre la scheda post-addestrata riporta LiveCodeBench v6 a 88,22, che è una versione diversa della stessa famiglia di benchmark e non un delta.

Cosa si può ottenere con 249 GB, e cosa no

Il download stesso è un unico comando, ed è l'unico comando presente nell'intera scheda del modello base:

• hf download nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 --local-dir ./models/super-vl-base-bf16

Questo è l'intero Quick Start. La scheda base contiene un blocco di codice; la scheda post-trained ne contiene ventidue.vllm servenessun avvio di SGLang, nessuna indicazione sul parallelismo tensoriale, nessun --max-num-seqs, nessun flag per il parser di reasoning, nessuna configurazione MTP per la decodifica speculativa e nessun esempio di client API. La scheda post-trained li contiene tutti, tra cui una ricetta 4×H100 con --enable-mamba-shared-prefix-checkpoint e una ricetta 2×GB200 a TP2.

• Motori di runtime — la scheda base cita PyTorch, Megatron-LM e NeMo, mentre la sua sezione Inference cita solo PyTorch. La scheda post-trained cita vLLM e SGLang. Quelli sono nomi di framework di training da un lato e nomi di runtime di serving dall'altro, e la separazione è deliberata, non accidentale.

• Hardware di test — Hopper H100 e H200, Grace Blackwell GB200 e GB300, Blackwell B200 e B300. La scheda post-addestrata si riduce a 4×H100 o 2×GB200 per il deployment.

• Disco — 248,9 GB su 63 shard, lo stesso della build post-addestrata a piena precisione. La versione gemella NVFP4 è di 75,1 GB. Se stai scaricando la base per ispezionarla o adattarla invece che per eseguirla, stai pagando 3,3 volte il download NVFP4 per il privilegio di non ottenere alcuna ricetta di serving.

Quello che ottieni che è veramente utilizzabile: il repository fornisce un file completo chat_template.jinja di 12.513 byte, e contiene l'enable_thinking switch, inclusa la variante a sforzo medio. Fornisce anche un generation_config.json con temperature 1.0, top_p 0.95 e do_sample true. Confrontando quel template con quello post-addestrato si ottiene una differenza di 414 byte, tutta gestione di spazi bianchi attorno ai segnaposto per immagini e video — i due template sono altrimenti lo stesso file.

Quindi l'infrastruttura per comunicare con il checkpoint base come modello di chat è presente ed è quasi identica al modello di chat rilasciato. Ciò che manca è qualsiasi affermazione che dovresti farlo. Non c'è alcuna riga di campionamento consigliato sulla scheda del modello base, nessuna riga per la modalità di ragionamento e nessun benchmark per esso nella configurazione chat. Puoi servirlo come modello di chat in circa dieci minuti. Se l'output meriti di lasciare un ambiente di test è una questione diversa, e la risposta della scheda è che non lo merita.

La divulgazione del corpus di cui nessuno parla

Ecco la parte della release di base che è probabilmente più utile dei pesi, e ha ricevuto quasi nessuna attenzione perché vive in tabelle su un repo che non è mai stato collegato.

La scheda base pubblica in dettaglio il corpus di addestramento che la scheda post-addestrata non riporta: un corpus di fondazione di oltre 20 trilioni di token raccolti tra il 2013 e dicembre 2025, dettagliato per fonte — N​emotron-CC-v2 e v2.1 a 9,1T, N​emotron-CC-Code-v1 a 427,9B, i set N​emotron-Pretraining-Code a 1,7T complessivi, N​emotron-CC-Math-v1 a 133,3B, i set sintetici specializzati e SFT a 660B, e un set legale a 4,3B. Inglese, altre 19 lingue parlate, 43 linguaggi di programmazione.

Poi due tabelle che la maggior parte delle release open-weights semplicemente non pubblica. Una elenca dataset privati, non accessibili pubblicamente, di proprietà di terzi, e indica i modelli che hanno prodotto le relative etichette — Qwen3.5-122B-A10B su un'ampia serie di lavori di rietichettatura OCR e visual-question-answering, D​eepSeek-OCR su un sottoinsieme OCR cinese filtrato, Qwen3.5 su un sottoinsieme verificato come corretto, Gemini 3 e GPT-5 sui dati RL per la ricerca. L'altra elenca i dataset privati di N​VIDIA, e anche qui indica i generatori: Kimi K3 per i dati SFT di catena di pensiero matematica, DeepSeek-V4-Pro per l'OCR di programmazione competitiva, gpt-oss-120b per il RL a output strutturato, GLM-5.2 per il refinement, MiniMax-M2 per le camminate sui grafi di ricerca, e una lunga coda di altri.

Poi due tabelle che la maggior parte delle release open-weights semplicemente non pubblica. Una elenca dataset privati, non accessibili pubblicamente, di proprietà di terzi, e nomina i modelli che hanno prodotto le loro etichette — Qwen3.5-122B-A10B su un'ampia serie di lavori di rietichettatura OCR e visual question answering, DeepSeek-OCR su un sottoinsieme OCR cinese filtrato, Qwen3.5 su un sottoinsieme verificato come corretto, Gemini 3 e GPT-5 su dati RL per la ricerca. L'altra elenca i dataset privati di NVIDIA, e di nuovo nomina i generatori: Kimi K3 per dati SFT di catene di pensiero matematiche, DeepSeek-V4-Pro per OCR di coding competitivo, gpt-oss-120b per RL con output strutturato, GLM-5.2 per il refinement, MiniMax-M2 per le camminate sui grafi di ricerca, e una lunga coda di altri. Le tabelle appaiate sono un promemoria di come funziona realmente l'industria — il segnale di addestramento di un modello di frontiera include regolarmente output dei modelli dei concorrenti, e NVIDIA è uno dei pochissimi laboratori che dicono quali e per cosa.

Il repository include anche un Nemotron_3.5_Super_VL_EU_Training_Content_Summary.pdf, aggiunto il 15 ottobre, che è l'informativa sul contenuto di addestramento rivolta all'UE. La miscela di mid-training è divulgata con lo stesso livello di dettaglio, e una riga è direttamente rilevante se intendi fare fine-tuning per il lavoro software: la fase di ingegneria del software da 67B token è composta per il 20% da repository interi, per il 41% da coppie issue e pull request, per il 3% da diff di commit, per l'1% da log di build e CI, per il 10% da tracce di agenti, per il 20% da replay di pre-training e per il 5% da dati a contesto lungo, e le sue fonti sono decontaminate rispetto ai repository di SWE-bench e Terminal-Bench. Quella dichiarazione di decontaminazione è l'unica riga della scheda che ti dice quanto vale un punteggio su uno dei due benchmark.

La licenza e a chi è destinato il checkpoint di base

OpenMDW-1.1, la stessa licenza delle build post-addestrate, con la scheda del modello che dichiara chiaramente: "Questo modello è pronto per uso commerciale o non commerciale." Il repository non è ad accesso limitato e non è richiesto alcun token di Hugging Face per il download, sebbene le ricette container di N​VIDIA altrove nella famiglia ne presuppongano uno.

Affianca la licenza al caso d'uso e il pubblico previsto è inequivocabile. Nessuno scarica un checkpoint pre-post-training da 249 GB per risparmiare sull'inferenza — la build NVFP4 è 3,3 volte più piccola, più veloce e superiore di 23 punti su GPQA Diamond. Il checkpoint di base è per un team che intende gestire in proprio la fase di post-training: un dominio diverso, un segnale di ricompensa diverso o una politica dei dati diversa da quella seguita da NVIDIA. Con OpenMDW-1.1, che consente l'uso commerciale e pesi senza restrizioni, è una base legittima su cui costruire un prodotto, ed è proprio per questo che la documentazione mancante ha un costo.

E qui vale la pena distinguere le due tipologie di lettore. Se la tua domanda è "quale modello dovrei chiamare questa settimana per il parsing di documenti o la comprensione video", il checkpoint base non è la tua risposta e non lo è mai stato; lo è il modello post-addestrato, e la questione aperta lì è la verifica dei benchmark più che la disponibilità. Se la tua domanda è "posso ottenere una backbone ibrida Mamba-MoE visione-linguaggio di classe 120B con una licenza permissiva come punto di partenza per il mio run di addestramento", allora questo repository è la risposta ed è rimasto senza link dal 12 ottobre.

Se dovessi valutarlo

L'errore costoso con un checkpoint come questo è trattare il download come se fosse il test. Non lo è: 249 GB, 63 shard e una modifica alla configurazione prima del primo forward pass non ti dicono nulla sul fatto che la vision tower si trasferisca alla tua classe di documenti.

Il test economico consiste nello stabilire prima la questione della capacità su un modello servito e solo dopo spendere il disco. Un gateway di routing è utile per questo e per nient'altro in questa decisione — una sola chiave e un solo endpoint su un paio di centinaia di modelli al prezzo di listino del provider, con lo 0% di ricarico ribaltato tal quale significa che puoi mettere la build post-trained di N​emotron 3.5 Super VL contro qualunque modello di visione tu stia già usando, sulle tue immagini, in un pomeriggio e al costo dei token. Il failover automatico tra provider qui conta per una ragione ristretta: una run di valutazione che muore alla richiesta 4.000 su 5.000 ti costa l'intera run, e un gateway che ritenta altrove in caso di errore del provider è la differenza tra un pomeriggio e due.

Per essere diretti sull'unica cosa che altrimenti sarebbe ambigua: N​VIDIA N​emotron 3.5 Super VL non è nel nostro catalogo. Oggi non serviamo questo modello, e il checkpoint base in particolare non è qualcosa che un endpoint ospitato sarebbe probabilmente in grado di offrire, perché i checkpoint base non sono prodotti di inferenza. Quello che un gateway ti dà è la metà economica dell'esperimento — il confronto che ti dice se vale la pena pagare i 249 GB.

Che cosa non è ancora stabilito

Quattro cose, presentate come lacune anziché rischi.

• Quale limite di contesto è reale. La scheda dice 1M, la configurazione distribuita dichiara 262.144, e la descrizione dell'addestramento dice che è stata eseguita un'estensione a 1M. Non esiste alcuna dichiarazione pubblicata che risolva le tre. Chiunque pianifichi un'esecuzione di continued pretraining a contesto lungo dovrebbe considerare il valore della configurazione come quello predefinito e verificarlo rispetto al proprio runtime anziché sulla scheda.

• Cosa può fare la torre della visione. La scheda base non pubblica alcuna valutazione multimodale di alcun tipo. Nessuna riga per OCR, documenti, grafici o video — per l'unico checkpoint della famiglia il cui scopo precipuo è essere sottoposto a fine-tuning su tali modalità. È la lacuna più grande nelle prove pubblicate.

• Come si confronta la base con qualsiasi altra cosa. Tabella di benchmark a colonna singola, nessuna baseline, nessuna nota sull'harness. Il valore 66,16 di GPQA Diamond è riproducibile in linea di principio tramite NeMo Gym e non è stato riprodotto da nessuno al di fuori di N​VIDIA.

• Se la base fornisca da qualche parte le ricette di deployment da 1M. La scheda post-addestrata contiene i comandi di avvio per 4×H100 e 2×GB200 per l'intera finestra. La scheda base ne contiene uno hf download. Non è chiaro se si tratti di una lacuna nella documentazione o di un'affermazione che servire la base a 1M non sia qualcosa che N​VIDIA intenda supportare.

Niente di tutto ciò rende il rilascio meno interessante. Rende il checkpoint base l'artefatto meno documentato della famiglia e, per un tipo ristretto e specifico di team, quello più utile — la differenza sta nel fatto che il tuo prossimo passo sia una chiamata API o un'esecuzione di addestramento.

Per un modello le cui modalità di guasto non sono ancora documentate, il contraltare utile è il registro di ciò che è già andato storto altrove: gli incidenti AI documentati e i fallimenti degli agenti relativi ai modelli di questa classe sono raccolti in OrcaRouter AI Incident Archive, dove ogni voce riporta le proprie fonti, il livello di gravità, il grado di confidenza e il flag di contestazione.