Una card del titolo generata che mette a confronto NVIDIA Nemotron 3.5 Super VL con NVIDIA Nemotron 3.5 Lightning 30B-A3B su quattro pannelli: parametri 120B totali e 12B attivi contro 30B totali e 3B attivi; deployment 4xH100 o 2xGB200 contro un singolo DGX Spark o una H100; modalità di input testo, immagini e video contro solo testo; e licenza OpenMDW-1.1 su entrambi i lati. Una nota a piè di pagina segnala che ogni valore di benchmark nell'articolo è riportato dal fornitore, dall'harness NeMo Gym di NVIDIA stessa. Il logo OrcaRouter è stato inserito in composizione nell'angolo in basso a destra.
Guides & Insights

Nemotron 3.5 Super VL vs Nemotron 3.5 Lightning: due livelli di una stessa famiglia, e il token che decide quale

Autore

Magnus Corvin

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Questi due modelli non sono rivali, e trattarli come un unico modello è l'errore che le schede tecniche invitano a commettere. NVIDIA Nemotron 3.5 Super VL è un modello visione-linguaggio da 120B di parametri, con 12B attivi, che richiede quattro H100 o due GB200 per funzionare a piena precisione. NVIDIA Nemotron 3.5 Lightning 30B-A3B è un modello testuale da 30B di parametri, con 3B attivi, che sta su un singolo DGX Spark o su una H100. Condividono una licenza — OpenMDW-1.1, uso commerciale, pesi aperti e ricette aperte — e condividono una filosofia progettuale di attenuazione del calcolo per token con Mamba-2 ed esperti sparsi. Non condividono una modalità di input, una soglia hardware o un compito. Lightning è il più vecchio dei due di circa due mesi, essendo stato rilasciato l'11 agosto 2026; i pesi di Super VL sono arrivati il 12 ottobre 2026, con l'annuncio di NVIDIA che è seguito il 15 ottobre, quindi uno di questi è un rilascio consolidato e l'altro è vecchio di un giorno.

Il gate, in parole semplici

Entrambi i modelli esistono come checkpoint scaricabili con ricette di valutazione pubblicate. Entrambi sono valutati dal fornitore: ogni numero nelle tabelle seguenti proviene dall'harness NeMo Gym o NeMo Evaluator di NVIDIA, non da terze parti, e nessuno dei due ha alle spalle un audit indipendente di throughput o accuratezza. Questo avvertimento vale per l'intero confronto e non viene ripetuto su ogni riga.

Dove Lightning si colloca meglio: NVIDIA afferma che il checkpoint Lightning 30B-A3B NVFP4 è stato scaricato circa 907.000 volte su Hugging Face, contro circa 142 per il checkpoint BF16 Super VL a un giorno di vita. Non è un segnale di qualità — è la differenza tra un modello che puoi eseguire su un acceleratore di classe laptop e uno che non puoi.

A screenshot of the Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, showing the repository header, the Model Card, Files and Community tabs, and a Model Summary describing NVIDIA Nemotron 3.5 Lightning 30B-A3B as a hybrid Mamba-Transformer and a 30B text-generation model with 3B activated parameters, noting the model is ready for commercial use.

Cosa contengono i due checkpoint

Nemotron 3.5 Lightning 30B-A3B è un modello ibrido mixture-of-experts costruito da strati Mamba-2 e MoE interlacciati con alcuni strati di attenzione, 30B parametri totali e 3B attivi per token, 1M token di contesto e testo come unico input. NVIDIA lo ha addestrato su oltre 20 trilioni di token con una ricetta di pre-training NVFP4, ha aggiunto teste Multi-Token Prediction, quindi ha eseguito il fine-tuning su dati sintetici di codice, matematica, scienza, tool-calling e instruction-following prima di una fase di reinforcement learning GRPO. Viene distribuito con tre strategie separate di speculative decoding — DSpark per carichi di lavoro a bassa concorrenza su data center e DGX Spark, più MTP e DFlash — il che rappresenta una quantità insolita di ingegneria dell'inferenza per un modello da 30B, e ti dice chi è l'utente previsto: qualcuno che esegue agenti in locale e tiene d'occhio il tempo reale.

NVIDIA Nemotron 3.5 Super VL condivide lo scheletro e aggiunge gli occhi. Stesso ibrido interlacciato di Mamba-2, MoE e attention, ma con 512 esperti instradati per ogni layer MoE, un encoder visivo C-RADIO e un connettore visione-linguaggio, 120B di parametri totali e 12B attivi, e input testuali, di immagini e video. Il suo backbone linguistico è stato inizializzato da Nemotron 3 Super Base, poi distillato per un trilione di token da Nemotron 3 Ultra Base prima del pre-training continuato, di un'estensione da 35 miliardi di token a 1M di contesto, del mid-training di ingegneria del software e di una fase di recupero del contesto lungo. Le due release condividono anche un report tecnico — NVIDIA ha pubblicato insieme il lavoro su Super e Lightning.

• Parametri attivi — 12B per token per Super VL rispetto a 3B per Lightning. Quattro volte il calcolo su ogni token generato, prima che venga conteggiato l'encoder visivo.

• Modalità — testo, immagini e fotogrammi video campionati in Super VL; per Lightning, input di testo e output di testo. Le lingue supportate da Lightning sono inglese, spagnolo, francese, tedesco, italiano e giapponese.

• Hardware minimo — 4×H100 o 2×GB200 in BF16 per Super VL, con una build NVFP4 e un microservizio NIM per la produzione; una DGX Spark, una H100, una RTX 5090 o silicio di classe Ampere tramite W4A16 per Lightning.

• Contesto — 1M token su entrambi, entrambi con ricette pubblicate anziché un unico massimo pubblicizzato.

• Decodifica speculativa — Super VL utilizza nativamente la propria testa MTP, senza dover scaricare alcun drafter; Lightning fornisce le varianti DSpark, MTP e DFlash come checkpoint separati.

• Licenza — OpenMDW-1.1 per entrambi, uso commerciale consentito, con dataset aperti e ambienti RL sull'Hub.

Cosa dicono e non dicono i numeri

Sull'harness proprietario di NVIDIA i due non sono vicini, ed è prevedibile: un modello con 12B attivi dovrebbe battere uno con 3B attivi. Ancorando il divario alle tabelle pubblicate da NVIDIA: GPQA-Diamond 89,52 per Super VL contro 75,44 per Lightning; HLE solo testo 31,79 contro 11,72; SWE-bench Verified 71,10 contro 51,56; Terminal-Bench 2.1 66,70 contro 24,58; AA-LCR 68,62 contro 52,00.

Lo schema all'interno di quelle righe è più utile delle righe stesse. Il vantaggio di Super VL è enorme sui benchmark di long-context e di esecuzione agentica e relativamente modesto sulla conoscenza generale: MMLU-Pro è 76,91 contro 81,94 di Lightning, un raro caso in cui il modello più piccolo vince una riga. Questa è la forma di un modello che è stato intenzionalmente addestrato in fase intermedia su dati di ingegneria del software e a cui è stata data una fase di recupero del long-context: è più bravo a portare avanti un compito che a ricordare fatti. Se il tuo carico di lavoro consiste nel rispondere a domande fattuali su testi brevi, lo svantaggio del modello 30B per lo più svanisce, e lo fa con un quarto del calcolo per token.

A generated two-column scoreboard for NVIDIA Nemotron 3.5 Super VL against NVIDIA Nemotron 3.5 Lightning 30B-A3B across six dimensions. The Super VL column reads: parameters 120B total and 12B active; modalities text, image and video; hardware floor 4x H100 or 2x GB200; context window 1M tokens; GPQA-Diamond 89.52; MMLU-Pro 76.91. The Lightning column reads: parameters 30B total and 3B active; modalities text in and text out; hardware floor 1x DGX Spark or 1x H100; context window 1M tokens; GPQA-Diamond 75.44; MMLU-Pro 81.94. A footer states that all figures are NVIDIA-reported from NVIDIA's own NeMo Gym harness, measured on the official NVFP4 checkpoints and unaudited by any third party. The OrcaRouter logo is composited in the bottom-right corner.

NVIDIA riporta un'avvertenza sulla scheda Lightning che vale la pena ripetere fedelmente nella sostanza: i numeri sono stati misurati con il checkpoint ufficiale NVFP4 e si applicano a esso, e NVIDIA osserva che la propria valutazione può differire dai numeri riportati dai fornitori dei modelli concorrenti. È una nota insolitamente onesta, e vale allo stesso modo per la tabella di Super VL.

A screenshot of NVIDIA's own launch blog page for the Nemotron 3.5 family, showing the announcement that the release covers NVIDIA Nemotron 3.5 Super VL and NVIDIA Nemotron 3.5 Lightning 30B-A3B, together with the vendor's stated framing around always-on agents and the efficiency claims discussed in this article.

Scegliere il livello, e cosa succede al di sopra di esso

La regola decisionale deriva dalla modalità e dai requisiti minimi, non dall’indice. Tutto ciò che deve leggere una pagina — una fattura, un grafico, un modulo scansionato, uno screenshot di un’applicazione, un fotogramma video — può andare solo su Super VL, perché Lightning non ha alcun percorso per i pixel. Tutto ciò che è testo in ingresso e testo in uscita, viene eseguito in modo continuo e risiede su hardware che già possiedi, appartiene a Lightning, perché un modello con 3B di parametri attivi in NVFP4 su un singolo acceleratore rappresenta una base di costo completamente diversa da dodici miliardi di parametri attivi distribuiti su quattro GPU.

Al di sopra di entrambi si colloca NVIDIA Nemotron 3 Ultra 550B-A55B, che la scheda Super VL prende direttamente come termine di confronto nei benchmark e che richiede otto GB200 o sedici H100. Tre livelli, tre classi hardware, una sola licenza. La famiglia è progettata in modo che una singola organizzazione possa distribuire tutte e tre e spostare il lavoro tra di loro, e il problema ingegneristico interessante non è sceglierne una — è il router che decide quale richiesta va dove.

Quel livello di routing è dove una piattaforma, anziché un checkpoint, si guadagna il proprio valore, e vale la pena essere precisi su ciò che facciamo e non facciamo qui. OrcaRouter non serve NVIDIA Nemotron 3.5 Super VL, Nemotron 3.5 Lightning 30B-A3B o Nemotron 3 Ultra 550B-A55B; nessuno dei tre è nel nostro catalogo, e un checkpoint self-hosted per definizione non è qualcosa che un provider API può fornirti. Ciò che forniamo è la parte che circonda una flotta mista, locale e hosted: il DSL di routing che compone diversi modelli in un'unica chiamata, così una pipeline può inviare le sue pagine meccaniche a un modello piccolo ed economico e scalare solo quelle difficili, e il failover automatico tra provider upstream, così che il degrado di una dipendenza hosted non porti giù anche la pipeline. Il lato catalogo di quell'equazione — attualmente più di duecento modelli dietro un'unica chiave con 0% di markup rispetto al prezzo di listino del provider — è ciò a cui ricorre il ramo di escalation. Un Lightning self-hosted che gestisce il volume e un modello hosted instradato che gestisce le eccezioni è un sistema più piccolo e più sicuro di ciascuna delle due metà da sola.

Cosa guardare

La relativa maturità di Lightning è la variabile sottovalutata. È pubblico da agosto, dispone di quantizzazioni di terze parti, del supporto di llama.cpp, Ollama, LM Studio e vLLM, e di una base di download abbastanza ampia da rendere note le modalità di errore. Super VL ha una model card, un report tecnico, una recipe vLLM day-zero e un totale di download di appena un giorno. Metterlo in produzione questo mese significa essere la persona che ne scopre le asperità.

La cosa specifica da tenere d'occhio è se la build NVFP4 Super VL colma il divario hardware abbastanza da contare. Se un modello quantizzato 120B-A12B gira in modo utile su un piccolo numero di acceleratori — non uno, ma meno di quattro — allora il confine tra i livelli si sposta e l'intera famiglia di tre modelli diventa più economica da distribuire come unità. Finché ciò non accade, la suddivisione è per modalità: Lightning per il testo ad alto volume sul proprio hardware, Super VL per qualsiasi cosa contenga un pixel, Ultra quando il compito richiede davvero il modello più grande che NVIDIA vende.