Nemotron 3.5 Super vs Claude Opus 5.5: 12 miliardi di parametri attivi contro un metro

Ecco il numero che decide questo confronto, e non compare in nessuna delle due tabelle di benchmark. N​VIDIA N​emotron 3.5 Super — pubblicato da N​VIDIA con il nome più completo N​VIDIA N​emotron 3.5 Super VL, e indicato nella libreria Ollama come nemotron-3.5-super/ — attiva circa 12 miliardi dei suoi 120 miliardi di parametri per ogni token che genera. Claude Opus 5.5non pubblica alcun numero di parametri e fa pagare 4 $ per milione di token in input e 20 $ per milione di token in output. Uno di questi modelli ha quindi un costo marginale per token che è una funzione dell'elettricità, e l'altro ha un costo marginale per token che è una voce di costo. Entrambi i numeri sono reali. Nessuno dei due ti dice quale modello sia più economico da gestire, perché sono prezzati in valute diverse.

Il motivo per cui vale la pena scriverne ora: i pesi N‌VIDIA sono comparsi su Hugging Face il 12 ottobre 2026, in silenzio, in un repository chiamato N‌VIDIA-N‌emotron-3.5-Super-VL-120B-A12B-BF16, tre giorni prima che il post della newsroom di N‌VIDIA del 15 ottobre lo rendesse ufficiale. Prima di quell'annuncio, l'unica conferma pubblica che N‌emotron 3.5 Super esistesse come qualcosa di eseguibile era un insieme di artefatti di registro — e il fatto che parte delle specifiche presenti su quegli artefatti non corrisponda alle specifiche riportate sulla scheda del fornitore. Ciò che si può sapere dal repository è una quantità concreta: conteggi di byte, formati di quantizzazione, un controllo di versione, una licenza. Ciò che non si può sapere da nessun repository è come si comporti rispetto a un modello di frontiera ospitato sul tuo carico di lavoro. È di questo divario che si occupa questa pagina.

Ciò che il repository contiene effettivamente, prima di ogni altra cosa

Tre checkpoint utilizzabili sono arrivati nell'arco di sessanta secondi l'uno dall'altro il 12 ottobre: i pesi di riferimento BF16, una variante Base e una build NVFP4. Un repository separato di drafter LiLiCorr era comparso un giorno prima, l'11 ottobre, che rappresenta la più antica traccia pubblica della fascia. La scheda descrive un mixture of experts ibrido Mamba-2 e Transformer con 512 esperti instradati per layer MoE, un encoder visivo C-RADIO e un connettore visione-linguaggio, 120 miliardi di parametri totali con 12 miliardi attivi, contesto fino a 1 milione di token, input di testo, immagini e video con output di testo e decodifica speculativa nativa tramite una testa Multi-Token Prediction. La licenza è OpenMDW-1.1, che consente l'uso commerciale. Per il deployment sono specificati quattro H100 o due GB200 per BF16.

Il listing Ollama è la versione che la maggior parte delle persone incontrerà per prima, ed è qui che la specifica inizia a divergere. Espone nove tag. Quattro di essi — :latest/, :120b/, :120b-a12b/ e :120b-a12b-q4_K_M/ — puntano allo stesso layer q4_K_M, quindi il pull predefinito è una quantizzazione a 4 bit e il nome "120b" non è il file che si ottiene. Ogni tag, incluso il più piccolo, porta un vision projector da 1,6 GiB, perché il percorso immagine non è opzionale. Il campionamento predefinito fornito è temperature 1.0 con top_p 0.95, che è la raccomandazione text della scheda — l'impostazione vision della scheda è temperature 0.6. E il gate di runtime è applicato: la configurazione dichiara requires: 0.40.5/, quindi su una versione più vecchia di Ollama il pull non funziona affatto.

Niente di tutto ciò è un difetto. È il normale divario tra le note di rilascio di un fornitore e il confezionamento che ne fa la comunità, ed è il motivo per cui conviene leggere entrambi i documenti invece di uno solo.

L'onesta aritmetica di 12B attivi

L'attivazione sparsa è l'intero argomento commerciale a favore di questo modello, e vale la pena essere precisi su ciò che offre e ciò che non offre.

Cosa comporta: in fase di inferenza, un token tocca circa un decimo della rete. Il throughput su hardware fisso è quindi molto più vicino a quello di un modello denso da 12B che a uno da 120B, e l'occupazione di memoria è l'unico ambito in cui compaiono tutti i 120 miliardi di parametri. La scheda di NVIDIA stessa dichiara un throughput fino a 5 volte superiore rispetto ad altre della stessa classe e, servita sullo stack Dynamo del fornitore, fino a 8 volte più utenti concorrenti con una latenza inferiore dell'85%. Quelli sono dati del fornitore prodotti su hardware del fornitore e sono una specifica, non un audit — ma la direzione dell'affermazione è la diretta conseguenza dell'architettura, il che è quantomeno una storia coerente.

Cosa non si guadagna: i pesi devono comunque risiedere per intero. Il layer BF16 GGUF è 230,4 GiB. Il default q4_K_M è 82,3 GiB più il proiettore. Nessuno dei due numeri diminuisce perché solo 12 miliardi di parametri si attivano per token. Quindi il limite minimo hardware è fissato dalla memoria, mentre il throughput è fissato dall'attivazione — ecco perché una singola scheda da 96 GB può contenere comodamente il modello a 4 bit e comunque produrre token a una velocità che farebbe arrossire un modello denso della stessa dimensione totale, e anche perché la stessa scheda non può contenere affatto il modello a piena precisione.

Ora metti Opus 5.5 accanto a quello. Il modello di Anthropic ha 1 milione di token di contesto, 128.000 token di output massimo, accetta input di testo, immagini e file, e ha un prezzo di $4/$20 con letture dalla cache a $0,20 per milione. Non c'è alcun download, nessuna decisione di quantizzazione, nessun default di campionamento da correggere e nessuna versione da fissare. È anche un modello ben verificato: si trova in cima al panel di terze parti che la maggior parte delle persone usa per confrontare queste cose, molto al di sopra di questo livello Nemotron.

Quindi il confronto non è "quale sia migliore". In termini di capacità generale misurata, il modello di punta in hosting vince, e fingere il contrario sarebbe un torto a un lettore che sta per prendere una decisione d'acquisto. Il confronto riguarda il punto in cui le due curve di costo si incrociano.

Dove il modello aperto da 120 miliardi di parametri si guadagna il suo posto

Tre luoghi, e sono specifici.

• Volume con una bolletta fissa. Un checkpoint self-hosted trasforma un costo marginale in un costo fisso. Con traffico basso vince nettamente il contatore — quattro H100 costano al mese più di quanto la maggior parte dei team spenda in token. Con traffico elevato e costante, il costo fisso si ammortizza e il contatore no. Il punto di pareggio è l'unico calcolo che conti qui, ed è funzione del tuo volume di token, non della qualità di nessuno dei due modelli.

• Lavoro di visione in cui il numero di pagine è il fattore determinante dei costi. La scheda di N​VIDIA riporta 62,82 su MMLongBench-Doc, 78,16 su MathVision, 80,82 su CharXiv reasoning e 68,12 su OCRBench v2 in inglese contro 59,15 in cinese, tutti dichiarati dal produttore. Su O​pus 5.5 quegli stessi input vengono fatturati a token, e una pagina di un report scansionato comporta molti token. Se il tuo carico di lavoro è di migliaia di pagine di documenti al giorno, l'aritmetica cambia più in fretta di qualsiasi differenza di qualità.

• Pinning.Un checkpoint su un disco che controlli non cambia sotto di te. Vale soldi veri in una pipeline regolamentata, ed è una proprietà che il modello hosted non può offrire a nessun prezzo.

Due punti in cui non si merita il suo posto, ed entrambi vale la pena dirli ad alta voce. Il primo è il lavoro agentico a lungo orizzonte: la scheda di N​VIDIA riporta 66.70 su Terminal-Bench 2.1, 71.10 su SWE-bench Verified e 51.78 su SWE-bench Pro — rispettabile, non riprodotto e dietro la frontiera dei modelli ospitati. Il secondo è qualsiasi cosa in cui una richiesta fallita è costosa, perché un modello i cui pesi hanno quattro giorni ha alle spalle quattro giorni dell'attenzione del mondo e nessuno storico operativo.

I numeri di cui non dovresti ancora fidarti, e perché

L'intera tabella di benchmark pubblicata per N​emotron 3.5 Super è quella del fornitore stesso, raccolta tramite l'harness NeMo Gym di N​VIDIA. GPQA-Diamond 89,52. Humanity's Last Exam solo testo 31,79. LiveCodeBench v6 88,22. IFBench 70,86. tau2-bench 69,24 retail, 76,50 airline, 73,19 telecom. BrowseComp 78. LMArena v3 proxy 52,67. Ognuno di questi è un'affermazione del fornitore con una ricetta riproducibile allegata, il che è meglio di una semplice affermazione, e comunque non una misurazione indipendente.

Il quadro indipendente è molto più esile, e questo è di per sé il fatto più utile di questa pagina. Il panel di terze parti che assegna i punteggi a questi modelli colloca questo checkpoint a un valore dell'Intelligence Index nella fascia dei venticinque — circa 26 — contro circa 58 di Opus 5.5. Quel panel registra anche un consumo di token di output insolitamente elevato per l'esecuzione dell'indice, che interpreta come verbosità, e la verbosità è una voce di costo, non una nota a piè di pagina, in qualsiasi distribuzione in cui paghi per token o attendi per token. Un singolo punto dati indipendente non è un verdetto, ma è l'unico che non è stato prodotto dall'azienda che vende il modello.

Quello che nessuno ha pubblicato: come la quantizzazione a 4 bit sposta quei punteggi. Il tag predefinito di Ollama è q4_K_M. Ogni valore pubblicato è per BF16 o NVFP4. Il numero che la maggior parte delle persone sperimenterà effettivamente è quindi non misurato, ed è quello da tenere d'occhio nelle prossime settimane.

Cosa puoi e non puoi chiamare oggi

Vale la pena dirlo chiaramente, perché è il malinteso più comune su pagine come questa. N​emotron 3.5 Super non è su OrcaRouter. Instradiamo poco più di duecento modelli e non c'è alcuna voce N​VIDIA N​emotron tra questi, quindi se ti serve questo checkpoint specifico, i tuoi percorsi sono i canali di build e distribuzione del fornitore stesso e il pull del runtime locale — non noi.

Opus 5.5, al contrario, è sulla nostra chiave, al prezzo di listino del fornitore passato senza markup per token, il che significa che una variazione di prezzo del fornitore è attiva dalla nostra parte lo stesso giorno invece che al rinnovo contrattuale successivo. Questa asimmetria è davvero utile per la decisione che hai davanti: la prima mossa economica è prendere il carico di lavoro che avresti eseguito su quattro H100 e provarlo prima contro il modello ospitato, su una sola API, senza procurement. Se il modello ospitato fa il lavoro a un prezzo tollerabile, ti sei risparmiato il cluster. Se non lo fa — e leggere male un documento tecnico denso su larga scala è un modo plausibile per non farlo — ora hai prove invece di una tabella di benchmark, e puoi spendere il download sui casi che sono sopravvissuti.

Quanto costa concretamente la ricetta di deployment

La ricetta vLLM della scheda vale la pena di essere letta come documento di budget. Parallelismo tensoriale pari a 4, utilizzo della memoria GPU 0,85, un massimo di 32 sequenze concorrenti, un'immagine e un video per prompt, pruning video a 0,5 e decodifica speculativa tramite l'head MTP con tre token speculativi. Quattro H100 con utilizzo 0,85 e un limite di 32 sequenze non sono un servizio di grandi dimensioni — è un deployment serio su singolo nodo, e il tetto di concorrenza ti dice cosa il fornitore si aspetta che gestisca una singola replica.

Due dettagli in quella ricetta contano più di quanto sembri. La configurazione video accetta un video per prompt con pruning a velocità dimezzata, il che è un forte indizio su dove vada il budget della visione sugli input lunghi. E il parser di reasoning si chiama nemotron_v3/, mentre il parser delle tool call è qwen3_coder/ — il vendor sta riutilizzando un formato di tool call che non ha inventato, il che è una buona notizia per chiunque abbia già codice di tool calling e vale la pena saperlo prima di scrivere nuova logica di parsing.

Di contro, la superficie operativa di un modello hosted è una chiave API. Il confronto tra "quattro H100 e una ricetta vLLM" e "una chiave e un contatore" non è nemmeno vicino quanto a sforzo. Lo è soltanto sul costo, e solo a volume.

Un'altra cosa che si può sapere da un repository ed è facile da trascurare: il campionamento consigliato varia a seconda della modalità. Il testo vuole temperature 1.0 con top_p 0.95; la visione vuole 0.6 con 0.95. Un deployment che imposta una sola coppia a livello globale e poi elabora grafici e pagine scansionate sta eseguendo la metà visione di un modello di visione con le impostazioni della metà testo. Se la tua prima impressione di questo modello sui documenti è scarsa, quella è la prima manopola da controllare — prima di concludere qualsiasi cosa sul checkpoint.

Quindi quale

Se il tuo lavoro è coding agentico a lungo orizzonte, o qualsiasi cosa in cui il ragionamento debba essere di livello frontier al primo tentativo, Claude Opus 5.5 è la risposta e il livello N​emotron non è un suo sostituto. Non c'è partita, e le righe agentiche pubblicate dal fornitore stesso non affermano il contrario.

Se il tuo lavoro consiste nella comprensione di documenti e immagini ad alto volume, dove il fattore di costo è il numero di pagine piuttosto che la difficoltà del ragionamento, questo è uno dei checkpoint aperti più interessanti comparsi quest'anno: 120 miliardi di parametri con 12 miliardi attivi, una licenza permissiva, un percorso di visione genuinamente presente anziché aggiunto a posteriori, e un default a 4 bit che entra in una singola scheda da 96 GB. Il problema è che la versione che tutti eseguiranno effettivamente — il default q4_K_M — non ha alcuna valutazione pubblicata da nessuna parte, il modello ha quattro giorni di vita, e la specifica pubblicata dal runtime non corrisponde del tutto a quella pubblicata dal fornitore.

Entrambe sono ragioni per provarlo, non ragioni per fidarsi. Metti prima il carico di lavoro sul modello ospitato per scoprire se è un carico che un modello di frontiera risolve e uno di fascia media no. Poi decidi se i casi superstiti valgono un cluster, un download o una serata di configurazione. E se metti un checkpoint vecchio di quattro giorni in un percorso di richieste, instradalo dietro un fallback, perché l'assicurazione più economica contro un modello senza storico operativo è un secondo modello dietro la stessa chiamata.

Ciò che i numeri non possono dirti è se qualcosa è andato storto sul campo: gli incidenti documentati di IA e i fallimenti degli agenti relativi ai modelli di questa classe sono raccolti in l'Archivio degli incidenti di IA di OrcaRouter, dove ogni voce riporta le proprie fonti, la gravità, il grado di attendibilità e il flag di contestazione.