Nemotron 3.5 Bolt 74B vs Nemotron 3 Ultra: 1,5 punti indice, sette volte i parametri

Il numero più sorprendente della famiglia N​VIDIA N​emotron 3.5 non è la dimensione del suo modello di punta. È che N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB, un checkpoint da 74 miliardi di parametri compresso in 24 gigabyte a due bit per peso, si colloca entro 1,5 punti da N​emotron 3 Ultra, il modello da 550 miliardi di parametri da cui è stato distillato il resto della famiglia, sull'Intelligence Index eseguito indipendentemente da Artificial Analysis — 21,4 contro 22,9. Sette volte i parametri, sei volte il calcolo attivo per token, e un divario che si potrebbe perdere nei margini di errore di un benchmark. I pesi di Bolt sono apparsi su Hugging Face il 7 ottobre 2026, con l'annuncio di N​VIDIA il 15 ottobre successivo; Ultra è stato rilasciato il 4 giugno 2026.

I due modelli non sono intercambiabili, e i punti in cui differiscono sono più istruttivi del punteggio principale. Ciò che la compressione ha preservato e ciò che ha scartato sono entrambi visibili nei numeri pubblicati, e non si tratta delle stesse righe.

Che cosa è ciascuno

Ultra è il modello di punta della generazione precedente e il modello insegnante al centro della pipeline di distillazione di N​VIDIA. È un ibrido Mamba-2 da 550B totali e 55B attivi, con Multi-Token Prediction, rilasciato sotto OpenMDW-1.1 insieme ai suoi dati di addestramento e alle sue ricette, progettato per attività agentiche di lunga durata con fino a un milione di token di contesto e un limite di output di 65.000 token per richiesta. La stessa N​VIDIA lo ha descritto come il modello open-weights statunitense più intelligente della sua finestra di rilascio, e il record indipendente lo conferma in larga misura: il panel gli assegna 22,9 nella sua configurazione di ragionamento, con una velocità misurata di 156 token di output al secondo, 1,29 secondi al primo token e un tempo di risposta end-to-end mediano di 19 secondi.

Bolt è il tier edge della nuova generazione, e non è un Ultra distillato in senso diretto. Il suo parent è N​emotron 3.5 Super VL 120B-A12B, il modello multimodale da 120 miliardi di parametri che N​VIDIA ha lanciato insieme a esso. La compressione è stata operata da Star Elastic, la ricerca architetturale guidata da router di N​VIDIA, che ha ottimizzato per la più bassa perdita di knowledge distillation in grado di soddisfare un vincolo rigido di footprint inferiore a 24GB con batch size 1 e contesto da 128K — portando l'expert top-K da 22 a 9 e quantizzando i pesi degli expert a IQ2-XXS a 2,0625 bit per elemento, con distillation quantization-aware per recuperare accuratezza. Porta un vision encoder C-RADIO v4-H perché il suo parent era multimodale.

Le righe indipendenti, su entrambi i lati

Tutto quanto segue proviene da Artificial Analysis, salvo diversa indicazione, ed è proprio questo a rendere utilizzabile il confronto: entrambi i modelli sono stati eseguiti dallo stesso valutatore con lo stesso harness.

• Indice di intelligenza — Bolt 21.4; Ultra 22.9. Misurato in modo indipendente per entrambi.

• GDPval-AA (normalizzato) — Bolt 0,240; Ultra 0,257. Un divario di 1,7 punti su un benchmark costruito a partire da deliverable occupazionali reali.

• SciCode — Bolt 0.397; Ultra 0.403. Sostanzialmente allo stesso livello.

• Humanity's Last Exam, senza strumenti — Bolt 24,7 per cento; Ultra 28,4 per cento. Il divario di quattro punti qui è il più ampio di questa lista in termini relativi.

• AA-LCR, recupero su contesto lungo — Bolt 69,7 per cento; Ultra 79,3 per cento. Dieci punti, e la prova più chiara di quanto costi la compressione a 2 bit.

• AA-Omniscience — Bolt: 17,1% di accuratezza con il 56,3% di non allucinazione; Ultra: 22,6% di accuratezza con il 70,3% di non allucinazione. Il modello di punta è sia più competente sia meglio calibrato, il che è il risultato meno sorprendente della pagina.

• Terminal-Bench 4.0 (set più difficile) — entrambi ottengono zero. Nessuno dei due modelli risolve quel livello, flagship incluso.

• Finestra di contesto — Bolt: fino a 256.000 token secondo la scheda del modello, e 262.144 sul record del pannello. Ultra: fino a 1.000.000 secondo NVIDIA, con un output massimo di 65.000 token.

• Input — Bolt: testo, immagini e video in ingresso, testo in uscita. Ultra: testo in ingresso, testo in uscita. Nei materiali di lancio del modello di punta non si dichiara alcuna torre di visione.

• Prezzo — Bolt: nessuno. Non esiste una tariffa a consumo pubblicata per il checkpoint da 24GB, e il pannello non elenca alcuna cifra di input o output per esso. Ultra: 0,60 $ per milione di token di input e 2,50 $ per milione di output, con input in cache a 0,16 $, e una spesa misurata di 0,60 $ per attività dell'Intelligence Index.

• Velocità — Bolt: nessuna misurazione indipendente. Ultra: 156,1 token di output al secondo, 1,29 secondi al primo token, tempo di ragionamento mediano di 14,6 secondi per risposta.

• Ingombro — Bolt: 24GB in IQ2, implementabile su una singola A100, H100 o unità Blackwell. Ultra: un deployment multi-acceleratore; la ricetta di NVIDIA stessa per i checkpoint del teacher in questa famiglia indica quattro B200 o otto H100 come base minima, e Ultra è il membro più grande.

Perché il divario dell'indice è più piccolo del divario di dimensione, e cosa significa

Ci sono due spiegazioni oneste ed entrambe sono probabilmente vere in parte.

Il primo è che l'Intelligence Index è un indice composito che premia la procedura più della memoria. Bolt ha perso i fatti memorizzati a causa della quantizzazione a 2 bit — lo si vede nelle righe di accuratezza — ma ha mantenuto abbastanza del comportamento di catena di pensiero, chiamata di strumenti e output strutturato da ottenere un punteggio nei compiti compositi. Nota che il vantaggio di Ultra si concentra esattamente dove la memoria conta: recupero su contesto lungo, accuratezza onnisciente, tasso di allucinazione, domande scientifiche difficili che richiedono un fatto piuttosto che un metodo.

La seconda è che la ricerca di architetture su un parent forte rappresenta un uso migliore di un budget fisso rispetto all'addestramento di modelli piccoli da zero, che è l'argomento esplicito di NVIDIA nella documentazione di Bolt. Prendere un teacher multimodale da 120B e cercare lo student più ampio che entri in 24GB è un esercizio diverso dal preaddestrare un modello da 30B, e il checkpoint risultante da 74B/9B si colloca dove si collocherebbe un 74B insolitamente efficiente.

Ciò non significa che Bolt sostituisca Ultra. Un modello che ammette l'incertezza più spesso (56,3 contro 70,3 per cento di non allucinazione, nella direzione sbagliata) e che recupera dal contesto lungo in modo meno affidabile è un assistente peggiore per le domande che le persone pongono davvero. È un assistente migliore per le attività che sono per lo più procedurali: chiamare strumenti, compilare moduli, modificare file, leggere uno screenshot e cliccare la cosa giusta.

Le due cose che Ultra non può fare

I vantaggi di Bolt sono limitati, ed entrambi sono strutturali anziché numerici.

Ci sta. Un checkpoint da 24GB gira su hardware di proprietà di una persona, senza rete, senza contatore per token e senza negoziazione di capacità. L'intelligenza di Ultra è raggiungibile solo tramite un'API, a $0,60 in entrata e $2,50 in uscita per milione di token e circa $0,60 di spesa per attività di indicizzazione. Quel prezzo è davvero basso per un modello della sua classe, ed è per questo che la via ospitata è un'opzione reale anziché un compromesso — ma resta comunque una via che richiede connettività e fiducia nell'uptime di qualcun altro.

Vede. Il vision encoder C-RADIO v4-H di Bolt gli fornisce input di immagini e video, e la model card di N​VIDIA riporta 50,86 su WebArena vision e 66,75 su BrowseComp. Ultra è un modello testuale. Se il lavoro dell'agente comporta screenshot, PDF, lettura di dashboard o automazione del browser con stato visivo, il flagship della generazione precedente non può essere sostituito a nessun prezzo.

Come scegliere

Scegli Ultra se il carico di lavoro è incentrato sul ragionamento ed è solo testuale: analisi in più passaggi, grandi insiemi di documenti, programmazione su repository di grandi dimensioni o qualsiasi attività in cui sbagliare costa caro. I suoi punteggi indipendenti superano Bolt quasi ovunque, il prezzo è tra i più bassi della fascia ad alta intelligenza e il suo throughput è misurato, non presunto.

Scegli Bolt se il carico di lavoro gira su hardware che controlli, deve vedere, o deve continuare a funzionare quando la rete non è disponibile. Il divario di 1,5 punti nell'indice è reale e abbastanza stretto da far sì che la decisione venga di solito presa sul deployment più che sulla qualità — e il fatto che N​VIDIA abbia distribuito un file da 24GB che si posiziona entro due punti dal suo stesso flagship da 550B è il fatto più degno di nota dei due rilasci.

C'è un percorso intermedio che vale la pena nominare, perché è come N​VIDIA posiziona la famiglia anziché come farebbe un acquirente di un singolo modello: un piccolo esecutore locale che esegue chiamate agli strumenti e lettura dello schermo, con un modello ospitato più grande che gestisce la pianificazione e il ragionamento complesso. Quell'architettura ha bisogno di un modo affidabile per raggiungere la metà ospitata attraverso più di un provider, che è a questo che serve il failover di OrcaRouter — ritentativi automatici tra provider dietro un unico endpoint, su una chiave che raggiunge anche oltre 200 modelli al prezzo di listino del provider con uno 0 percento di ricarico aggiunto. Non ospitiamo alcun modello N​VIDIA; la famiglia N​emotron non è nel nostro catalogo, e nulla di quanto detto qui costituisce una rivendicazione di servirla. Il punto è solo che un design agente a due livelli ha bisogno che il secondo livello sia instradabile, e un singolo endpoint fornitore codificato in modo fisso è il modo usuale in cui quel design fallisce.

Cosa cambierebbe questa pagina

Due misurazioni. La prima è una prova indipendente di throughput e latenza sul checkpoint da 24 GB, che confermerebbe o distruggerebbe la tesi di usarlo come esecutore locale a velocità interattiva; oggi l'unico dato disponibile è quello di NVIDIA stessa, 83,99 token al secondo su AIPerf SPEED-Bench-Coding, misurato su una macchina di classe laptop e non comparabile alla configurazione hardware del panel. La seconda è una ri-esecuzione indipendente dei benchmark agentici sui pesi a 2 bit a una quantizzazione controllata da una terza parte — nella tabella del fornitore Bolt batte Ultra su Terminal-Bench 2.1 di quasi 27 punti, e quell'affermazione sta facendo un enorme lavoro senza conferma esterna.

Nulla di tutto ciò è un motivo per evitare il modello, ma solo un motivo per conoscerne la storia: gli incidenti documentati legati all'IA e i fallimenti degli agenti alle spalle dei modelli di questa classe sono raccolti in l'Archivio degli incidenti IA di OrcaRouter, dove ogni voce riporta le proprie fonti, il livello di gravità, il grado di affidabilità e il contrassegno di controversia.