Una card di titolo generata che confronta NVIDIA Nemotron 3.5 Super VL con NVIDIA Nemotron 3 Ultra 550B-A55B su quattro pannelli: parametri 120B totali e 12B attivi contro 550B totali e 55B attivi; schema di attenzione ibrido Mamba-2 e MoE contro LatentMoE; requisiti hardware minimi 4xH100 o 2xGB200 contro 16xH100 o 8xGB200; e modalità testo, immagini e video su Super VL contro testo su Nemotron 3 Ultra. Un piè di pagina afferma che ogni cifra proviene dalle model card di NVIDIA e che nessuna terza parte ha pubblicato un confronto indipendente. Il logo OrcaRouter è composto nell'angolo in basso a destra.
Engineering & Research

Nemotron 3.5 Super VL vs Nemotron 3 Ultra: più economico del modello di punta o solo più piccolo?

Autore

Gideon Frost

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

NVIDIA ha tre livelli di Nemotron 3.5 e uno di essi è una trappola per i pianificatori. NVIDIA Nemotron 3 Ultra 550B-A55B, rilasciato il 4 giugno 2026, è l'ammiraglia della famiglia: 550 miliardi di parametri totali con 55 miliardi attivi per token, livelli LatentMoE con Multi-Token Prediction, 1M token di contesto, e un minimo dichiarato di sedici H100 o otto GB200. NVIDIA Nemotron 3.5 Super VL, i cui pesi sono arrivati su Hugging Face il 12 ottobre 2026 con l'annuncio di NVIDIA il 15 ottobre, è il livello sottostante: 120B in totale, 12B attivi, lo stesso contesto di 1M token, un encoder visivo C-RADIO e un minimo di quattro H100 o due GB200. La scheda di NVIDIA per Super VL lo confronta direttamente con Ultra e dichiara un'accuratezza vicina a quella di Ultra con circa un quinto dei parametri. Questa affermazione è riportata dal fornitore, non riprodotta, ed è l'unica frase su cui si basa l'intero confronto.

L'aritmetica che decide davvero il deployment

Parti da ciò che i due checkpoint richiedono fisicamente, perché è quello il numero che un responsabile di budget approva.

• Parametri totali — 120B per Super VL contro 550B per Ultra. Circa 4,6 volte l'ingombro dei pesi, e sono i pesi a riempire le GPU.

• Parametri attivi per token — 12B contro 55B. Il calcolo per token scala in base a questo, non al totale, ed è per questo che entrambi i modelli sono molto più economici da eseguire di quanto suggerisca la loro dimensione — e perché il divario tra loro è di 4,6× sulla memoria ma anche di 4,6× sull'aritmetica per token.

• Hardware minimo — 4×H100 o 2×GB200 per Super VL; 16×H100 o 8×GB200 per Ultra. In termini pratici, un nodo contro un rack.

• Modalità — testo, immagini e video in ingresso per Super VL; testo in ingresso, testo in uscita per Ultra. Ultra non ha alcun percorso di visione.

• Progettazione dell'attenzione — Super VL è l'ibrido intercalato di Mamba-2, mixture-of-experts e attenzione con 512 esperti instradati per layer MoE; Ultra utilizza la disposizione LatentMoE di NVIDIA. Entrambi hanno teste MTP per la decodifica speculativa.

• Licenza — OpenMDW-1.1 con uso commerciale su entrambi, pesi e ricette aperti su entrambi.

Lo schema in quelle sei righe è che Super VL non è un Ultra ridotto. È una forma diversa di modello: con capacità visive, molto più piccolo in memoria e — cosa cruciale — distribuibile su hardware che un team di medie dimensioni potrebbe già possedere. Il livello minimo di Ultra è una conversazione da data center. Il livello minimo di Super VL è un serio nodo di inferenza.

A generated two-column scoreboard for NVIDIA Nemotron 3.5 Super VL against NVIDIA Nemotron 3 Ultra 550B-A55B across six dimensions. The Super VL column reads: total parameters 120B; active per token 12B; hardware floor 4x H100 or 2x GB200; modalities text, image and video; attention scheme Mamba-2 and MoE hybrid; licence OpenMDW-1.1. The Ultra column reads: total parameters 550B; active per token 55B; hardware floor 16x H100 or 8x GB200; modalities text only; attention scheme LatentMoE; licence OpenMDW-1.1. A footer states that all figures are NVIDIA-reported from NVIDIA's own model cards and unaudited by any third party, and that the claim Super VL matches Ultra's accuracy is vendor-reported and unreproduced. The OrcaRouter logo is composited in the bottom-right corner.

Cosa ti fanno ottenere i 43 miliardi extra di parametri attivi

Il caso di ragionamento generale

Ultra è stato creato per collocarsi al vertice dello stack NVIDIA per il puro ragionamento testuale, e i benchmark della release di giugno di NVIDIA lo confrontano con sei modelli di frontiera contemporanei su conoscenza, matematica, coding e suite a contesto lungo. Quei numeri, come ogni numero in questo confronto, provengono dall'harness di NVIDIA anziché da un valutatore indipendente, quindi stabiliscono ciò che NVIDIA ha misurato, non ciò che misurerebbe una terza parte.

A screenshot of NVIDIA's own announcement page for the Nemotron 3.5 family, the vendor document that both model cards in this comparison are drawn from, showing the announcement header and the opening of the vendor's description of the release, including the parameter counts and hardware floors the article cites.

Il caso multimodale

È qui che il confronto si inverte. Ultra non è in grado di leggere una pagina. Se il lavoro riguarda documenti, tabelle, grafici, screenshot o fotogrammi video, il modello di punta semplicemente non è un candidato, e il modello più grande della famiglia è irrilevante per il tuo problema, per quanto buono possa essere il suo indice di ragionamento. L'encoder visivo e il connettore di Super VL esistono proprio per quel carico di lavoro, e i suoi punti di forza dichiarati — OCR, estrazione strutturata da documenti visivi, flussi di lavoro aziendali a più passaggi — descrivono un lavoro diverso da quello per cui Ultra è stato messo a punto.

Il caso del contesto lungo

Entrambi raggiungono 1M token. NVIDIA ha esteso il contesto di Super VL con una fase dedicata da 35 miliardi di token seguita da un passaggio di recupero per il contesto lungo, il che è un segnale più forte di una semplice lunghezza massima: significa che l'input lungo è stato trattato come una capacità da preservare anziché come un buffer da pubblicizzare. Ultra ha raggiunto la stessa finestra attraverso la propria pipeline di addestramento. In assenza di una valutazione indipendente del contesto lungo per entrambi, consideralo un pareggio con un possibile vantaggio per il modello che la tua stessa traccia di retrieval indica come resistente oltre i 200k.

Servire uno o entrambi, e la trappola dei livelli

La trappola sta nel presumere che la famiglia sia una scala da salire. È più simile a una partizione, e la partizione è definita dal costo per compito anziché dalla capacità. Un modello a 12B attivi che necessita di due GB200 e completa un compito documentale cinque volte più velocemente della sua categoria, se la dichiarazione di throughput di NVIDIA è vera, batte un modello a 55B attivi su quel compito indipendentemente da quale dei due sia più intelligente — perché quello più intelligente è inattivo in attesa che la coda di quello più veloce si svuoti. Sposta il compito su un problema di programmazione o matematico a lungo termine senza pixel e i parametri extra di Ultra svolgono un lavoro reale.

Nessuno dei due è nel nostro catalogo, e vale la pena essere espliciti invece di lasciare che una frase vaga suggerisca il contrario: OrcaRouter non serve NVIDIA Nemotron 3.5 Super VL, Nemotron 3 Ultra 550B-A55B, né qualsiasi altro checkpoint NVIDIA. Sono pesi che si distribuiscono autonomamente. Ciò che un livello di routing apporta a una decisione come questa è la misurazione, non l'accesso. Il DSL di routing ti permette di mettere lo stesso prompt davanti a due modelli upstream e leggere le risposte affiancate, così una valutazione di un candidato con 12B attivi rispetto a un incumbent con 55B attivi è un cambio di configurazione invece di due progetti di integrazione. Il failover automatico conta per la ragione opposta: se un modello ospitato verso cui instradi si degrada a metà pipeline, la richiesta viene spostata invece di fallire, il che mantiene viva una via di fallback per i team che tengono Super VL in self-hosting come loro opzione primaria. E per le parti del carico di lavoro che nessun tier self-hosted dovrebbe assorbire — picchi, modalità rare, job una tantum a contesto ampio — il catalogo dietro una sola chiave, più di duecento modelli con 0% di ricarico rispetto al prezzo di listino del provider, è dove vanno quelle richieste.

La lettura onesta di quel paragrafo è che qui non siamo il fornitore di nessuno dei due modelli. Siamo lo strato che rende il confronto economico da eseguire e il percorso di escalation economico da mantenere.

A screenshot of the Artificial Analysis model page for NVIDIA Nemotron 3.5 Super VL, showing an Intelligence Index of 26 in the third-party panel alongside that page's parameter, context-window and licence fields. No comparison row against Nemotron 3 Ultra is present on the page.

L'affermazione da testare prima di impegnarti

Tutto quanto sopra si riduce a una sola frase non verificata: che un modello da 120B parametri con 12B attivi eguagli il più grande modello di ragionamento di NVIDIA a circa un quinto del numero di parametri. Se regge, Super VL è l'opzione predefinita migliore per un carico di lavoro misto e Ultra è riservato alla stretta coda di problemi che ne hanno davvero bisogno. Se non regge — e un giorno dopo il rilascio nessuno al di fuori di NVIDIA ha misurato — allora i due livelli sono semplicemente dimensioni diverse della stessa cosa, e la scelta si riduce di nuovo a ciò di cui ha bisogno il tuo compito: pixel o niente pixel, un nodo o un rack.

Il test è economico e specifico. Prendi cinquanta attività reali dalla tua coda che abbiano una risposta verificabile, eseguile su entrambi e valuta il completamento invece dei punteggi dei benchmark. Quel numero, non quello di NVIDIA, è quello che decide per quale fascia acquistare l'hardware — ed è il numero che sarà ancora valido quando la prossima release di Nemotron reimposterà questa pagina.