NVIDIA Nemotron 3.5 Super VL arriva: pesi aperti da 120B, un claim di 5 volte e un rovescio della medaglia da 249 GB

NVIDIA Nemotron 3.5 Super VL è disponibile, e la specifica che dovrebbe decidere se vale la pena usarlo non è quella con cui si apre l'annuncio. Il modello è un sistema vision-linguaggio da 120B parametri con 12B parametri attivi, un contesto da 1M token, decodifica speculativa nativa e supporto per testo, immagini, documenti e video. Il post di lancio di NVIDIA è datato 15 ottobre 2026 e lo presenta come il modello agentico open più veloce della sua categoria — "fino a 5 volte il throughput rispetto ad altri modelli della sua categoria", misurato sulla classifica dell'Artificial Analysis Intelligence Index. Ciò che il post non ti mette davanti è che il rilascio consiste in due checkpoint, che la differenza tra loro è di 174 GB di VRAM e che quello più piccolo paga quel risparmio in modo non uniforme.

Cosa è stato effettivamente rilasciato il 15 ottobre

Due cose sono accadute in giorni diversi, e il divario conta se stai cercando di datare un deployment. I pesi sono arrivati su Hugging Face il 12 ottobre alle 15:32 UTC. L'annuncio è seguito il 15 ottobre. La model card di NVIDIA stessa indica il rilascio come 10/15/2026 alla versione 1.0 GA, quindi il fornitore considera il 15 la data di rilascio; i timestamp del repository dicono il contrario. Nessuna delle due date ha più di una settimana, ed entrambe sono abbastanza recenti che nulla di questo rilascio ha avuto il tempo di essere riprodotto in modo indipendente.

La release è più ampia del modello da cui l'annuncio prende il nome:

• Nemotron 3.5 Super VL — il modello di punta, 120B totali / 12B attivi, in una build BF16 e una build NVFP4, entrambe pubblicate il 12 ottobre.

• Nemotron 3.5 Super VL Base — il checkpoint pre-post-training, pubblicato insieme alla build instruct, il che è importante perché la licenza ti consente di eseguire il tuo post-training.

• Nemotron 3.5 Bolt 74B-A9B 24GB — un modello edge che sta in 24 GB grazie alla quantizzazione nativa a 2 bit, pubblicato il 7 ottobre.

• Nemotron 3.5 Bolt E4B 4GB — il più piccolo della famiglia, datato 23 ottobre.

L'architettura è un ibrido Mamba-2/Transformer Mixture-of-Experts con Multi-Token Prediction, 512 esperti instradati per livello MoE, un encoder visivo C-RADIO e un connettore visione-linguaggio. La gestione multimodale copre OCR, tabelle, grafici, documenti multipagina e visual grounding; il video è accettato come MP4 fino a due minuti, campionato a 2 FPS e fino a 256 fotogrammi, oppure 1 FPS e 128 fotogrammi a 1080p. La licenza è OpenMDW-1.1, che la model card dichiara pronta per uso commerciale o non commerciale — un insieme di termini davvero permissivo, e una parte reale del motivo per cui questo rilascio ha attirato attenzione.

Due checkpoint, e i 174 GB tra loro

È qui che il rilascio diventa interessante per chiunque debba pagare per le GPU. NVIDIA ha pubblicato lo stesso modello due volte, a due livelli di precisione, e le due build non hanno dimensioni affatto simili. Entrambe le cifre riportate di seguito sono ricavate dagli elenchi dei file del repository Hugging Face, che indicano le dimensioni dei singoli shard dei pesi:

• Checkpoint BF16 — 248,94 GB su 63 shard. L'intestazione safetensors riporta un numero di parametri pari a 124,45 miliardi.

• Checkpoint NVFP4 — 75,06 GB su 88 shard. L'inferenza viene eseguita in W4A4 su Blackwell e in W4A16 su qualsiasi hardware precedente.

• Hardware, precisione completa — la scheda di NVIDIA elenca 4× H100 o 2× GB200 per testo, immagine e video.

• Hardware, quantizzato — 1× H200, 2× H100, 1× GB200 o un singolo DGX Spark, con il percorso Spark che richiede un drafter LiLiCorr per la decodifica speculativa.

• Il risparmio — 173,88 GB, ovvero circa 3,3× più piccolo su disco, e la differenza tra un nodo con quattro GPU e un singolo acceleratore.

Leggilo come una domanda di economia, perché è quello che è. Passare da quattro H100 a una H200 non è una decisione di tuning; è la differenza tra un modello che puoi mettere dietro a un prodotto questo trimestre e uno che non puoi. La ricetta di quantizzazione usata da NVIDIA è anche più attenta del solito: l'encoder visivo, il connettore, le convoluzioni Mamba e gli embedding restano in BF16, il router MoE resta in FP32, e il resto è prodotto tramite distillazione consapevole della quantizzazione dal modello BF16, con in aggiunta 200 iterazioni di distillazione basata su SFT.

A cosa rinuncia la build quantizzata

NVIDIA ha pubblicato una tabella appaiata che confronta i due checkpoint mantenendo invariati tutti gli altri parametri, che è il modo onesto di eseguire questo confronto e più raro di quanto dovrebbe essere. Le coppie riportate di seguito sono i numeri della stessa NVIDIA, tratti dalla model card di NVFP4, e non vanno tutte nella stessa direzione.

Dove la build quantizzata perde:

• Terminal-Bench 2.1 — 66,70 in BF16 contro 60,80 in NVFP4. Un calo di 5,9 punti, la più grande regressione singola della tabella.

• WebVoyager, offline — 77,72 contro 66,31. Un calo di 11,4 punti sul lavoro con gli agenti browser.

• DeepSWE, offline — 24,65 contro 18,20.

• MMLU-ProX — 76,91 contro 73,76.

• tau3-bench banking — 18,88 contro 17,78.

Dove guadagna, o mantiene:

• GPQA-Diamond — 89,52 contro 89,90.

• Lista ristretta APEX — 88.36 contro 89.36.

• Tasso di allucinazione di AA-Omniscience — 30,0 contro 27,7, ovvero la versione quantizzata allucina leggermente meno secondo la misura di NVIDIA stessa.

• tau2-bench telecom — 73.19 su entrambi i lati, identico.

• OCRBench v2 EN — 68,12 rispetto a 68,34.

• MMLongBench-Doc — 62,82 su entrambi i lati.

Il pattern è leggibile senza uno statistico. I carichi di lavoro su documenti, OCR e recupero di conoscenze si muovono a malapena, e alcuni migliorano. I carichi di lavoro agentici a lungo orizzonte si muovono molto. Se la tua applicazione legge documenti depositati, ricevute o immagini di pagine e restituisce output strutturato, il checkpoint da 75 GB è quello che dovresti servire e non stai rinunciando quasi a nulla. Se la tua applicazione è un agente che esegue un terminale o pilota un browser per dozzine di passi consecutivi, stai scambiando circa il nove per cento di Terminal-Bench con tre quarti della tua bolletta GPU, e questa è una decisione che vale la pena prendere sulla base della tua valutazione piuttosto che su una tabella di un fornitore.

Il 5x, e rispetto a cosa viene misurato

Il titolo di NVIDIA è il throughput, e merita di essere letto con precisione anziché liquidato o ripetuto. L'affermazione è "fino a 5 volte più veloce in termini di throughput rispetto ad altri modelli della sua classe", e la classe non è definita nel post. La misurazione è di NVIDIA, sullo stack di serving di NVIDIA, con qualunque livello di concorrenza e mix di sequenze abbia scelto la ricetta — le tabelle di deployment della model card stessa specificano 32 sequenze concorrenti e 5 o 3 token draft speculativi a seconda dell'hardware, e il throughput su un proxy agentico a 20 turni è un numero molto diverso dal throughput su prompt one-shot.

Niente di tutto ciò rende falsa l'affermazione. La rende un'affermazione di un fornitore relativa a un carico di lavoro configurato dal fornitore, che è esattamente ciò che dice l'etichetta. Ciò che vale la pena notare è che in questa release non c'è un contrappeso: non è stata pubblicata alcuna misurazione indipendente del throughput di questi checkpoint, quindi gli unici numeri in circolazione sono quelli di NVIDIA. Un valore di throughput senza un modello di riferimento identificato per nome, un livello di concorrenza dichiarato e una configurazione hardware dichiarata non è una base su cui pianificare la capacità. Se il 5x è determinante per la tua decisione, riproducilo sul tuo traffico prima di firmare una prenotazione di GPU.

Dove il modello è forte, secondo la tabella di NVIDIA stessa

La scheda del modello singolo elenca anche come il checkpoint BF16 si confronta con i suoi pari, e vale la pena leggere le colonne alla destra di quelle di NVIDIA, perché sono anch'esse di NVIDIA. Rispetto a Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash, Nemotron 3 Ultra, Inkling-Small e GLM-5.3-Flash:

• Video-MME v2 — 32,85, rispetto a Qwen3.8-Flash-Next a 45,1 e GLM-5.3-Flash a 14,8. A metà del gruppo, e la dispersione più ampia di qualsiasi riga.

• OCRBench v2 EN — 68,12, all'incirca allo stesso livello di Qwen3.8-Flash-Next a 67,9 e Qwen3.5-122B-A10B a 68,3.

• Ragionamento CharXiv — 80.82, dietro entrambi i modelli Qwen.

• MathVision — 78.16, dietro Qwen3.8-Flash-Next a 87.5.

• MMLU-ProX — 76.91, dietro ogni colonna peer in quella riga.

• Tasso di allucinazione AA-Omniscience — 30,0, contro Qwen3.5-122B-A10B a 84,5 e DeepSeek-V4-Flash a 95,9. Su questa riga, più basso è meglio, e il margine non è piccolo.

• Terminal-Bench 2.1 — 66,70, contro Qwen3.8-Flash-Next a 85,8 e GLM-5.3-Flash a 82,7.

• SWE-bench Verified — 71,10, contro GLM-5.3-Flash a 79,10.

• OSWorld-Verified — 51,14, rispetto a GLM-5.3-Flash a 14,78.

Il profilo di questi risultati è coerente con quello per cui NVIDIA dice che il modello è pensato. Non è il leader nel ragionamento puro o nella scrittura di codice, e non pretende di esserlo — l'annuncio lo posiziona rispetto al suo stesso modello più grande, a circa un quinto del numero di parametri, non contro la frontiera. È forte sulla disciplina anti-allucinazione, sull'estrazione di documenti e sul lavoro con agenti desktop, nella media sul video, e indietro sui benchmark più difficili di terminale agentico. Se sei arrivato a questo rilascio perché la "comprensione video" era nella prima riga dell'annuncio, i numeri sul video sono quelli da guardare attentamente.

Quanto costa

Non esiste un prezzo di listino, e non è un'omissione da parte di NVIDIA — è la natura di un rilascio di pesi aperti. NVIDIA non vende questo modello per token a una tariffa pubblicata; pubblica i pesi con licenza OpenMDW-1.1 e un container NIM con configurazioni validate, e tu paghi le GPU. Quindi la questione del costo è una questione di GPU-ore, e le due risposte accettabili sono 4× H100 per BF16 oppure una H200 o una singola DGX Spark per NVFP4.

Questa è la parte dell'aritmetica che la maggior parte dei team sbaglia quando confronta un modello aperto con un'API ospitata. Il lato ospitato indica una tariffa per token che contiene già la curva di utilizzo di qualcun altro. Il lato aperto indica un checkpoint e una lista minima di hardware, e il numero reale dipende interamente dalla capacità di mantenere la GPU occupata. Un singolo H200 che esegue un checkpoint da 75 GB e che serve un flusso di lavoro interno qualche centinaio di volte al giorno è enormemente più costoso per chiamata rispetto allo stesso checkpoint su un deployment condiviso. Noleggia prima di acquistare e misura i token al secondo sui tuoi prompt, non su un carico di lavoro proxy.

Provarlo prima di puntarci un prodotto

La prima mossa onesta su un modello la cui documentazione ha un giorno è una valutazione, non una migrazione, ed è qui che un gateway fa un lavoro reale anziché retorico. Una sola chiave per oltre 200 modelli al prezzo di listino del provider con 0% di markup significa che il confronto che vuoi davvero — Nemotron 3.5 Super VL contro il modello testuale o di visione che esegui oggi — è una modifica a una stringa di modello anziché un secondo rapporto con un fornitore, e il failover automatico tra provider significa che un carico di lavoro che stai solo testando può girare insieme al traffico di produzione senza che l'uno dipenda dall'altro. Questo, qui, conta più del solito: i due checkpoint si comportano in modo sufficientemente diverso sul lavoro agentico che l'esperimento utile non è "questo modello è buono?" ma "quale di queste due build, su quale dei miei benchmark, a quale costo GPU."

La sequenza che evita di sprecare un GPU-mese: scegli prima il carico di lavoro di tipo documentale, perché è lì che il divario tra BF16 e NVFP4 è più contenuto e dove i numeri del modello stesso sono migliori. Eseguilo sul checkpoint più piccolo. Valutalo con un'eval che hai scritto tu. Solo allora decidi se i carichi di lavoro agentici — quelli in cui la build quantizzata perde 5,9 punti su Terminal-Bench e 11,4 su WebVoyager — giustificano la build da 249 GB e quattro GPU.

Cosa è ancora senza risposta

Tre lacune meritano attenzione perché cambiano la decisione, non il marketing.

Il primo è la valutazione indipendente. Ogni numero in questo articolo che proviene da NVIDIA è etichettato come tale e, in questa release, lo sono tutti. Nessuna terza parte ha pubblicato una misurazione di throughput, una riproduzione di accuratezza o un confronto di evals harness per nessuno dei due checkpoint. L'affermazione di un throughput 5x e la tabella di quantizzazione abbinata sono internamente coerenti e chiaramente prodotte con cura, e restano dichiarate dal fornitore e non riprodotte. Considerale un limite superiore finché qualcuno al di fuori di NVIDIA non pubblicherà gli stessi esperimenti.

Il secondo è il percorso video. Il modello accetta MP4 e l'annuncio mette in primo piano la comprensione video, ma sull'unico benchmark video nella tabella di NVIDIA stessa si ferma a 32,85, mentre Qwen3.8-Flash-Next arriva a 45,1. I dati di addestramento coprivano video da 10.000 a un milione di ore, un intervallo ampio che non dice nulla sulla densità né sul dominio. Se il video è il tuo caso d'uso, questa è la riga da testare per prima e quella che con ogni probabilità deluderà una presentazione d'acquisto costruita sull'annuncio.

Il terzo è il checkpoint di base. La sua pubblicazione con la stessa licenza è la parte di questo rilascio con la coda più lunga, perché consente a un team con i propri dati di eseguire il post-training invece di fare prompting attorno a quello del fornitore. Anche il corpus di post-training di NVIDIA per questa famiglia è aperto, e le dimensioni dell'effetto nel rapporto di NVIDIA arrivano a decine di punti all'interno dell'harness di NVIDIA. Nessuno ha ancora pubblicato un fine-tuning indipendente credibile basato su quella base. Quando qualcuno lo farà, ti dirà di più sul tetto reale di questo modello di quanto non faccia il post di lancio.

I pesi sono scaricabili oggi e la licenza ti consente di usarli commercialmente. Le due cose che non puoi scaricare sono un benchmark indipendente e un dato di throughput con una baseline nominata — ed entrambe sono ciò che ti servirebbe prima di impegnare un percorso di produzione su un modello che attualmente ha quattro giorni.