Nemotron 3.5 Bolt vs Nemotron 3.5 Lightning: cosa dice la tabella della stessa NVIDIA quando leggi entrambe le colonne

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB e NVIDIA Nemotron 3.5 Lightning 30B-A3Bsono due livelli della stessa famiglia, rilasciati a dieci settimane di distanza, e il fornitore ha già pubblicato una tabella che li mette testa a testa. Questo è insolito e utile: la maggior parte delle tabelle testa a testa che si leggono sono assemblate da un giornalista o da un fornitore che sceglie confronti lusinghieri, mentre questa è di un laboratorio che confronta il proprio modello più recente con il proprio più vecchio, in pubblico, con il più vecchio indicato come baseline. È comunque riportato dal fornitore e nessuno al di fuori di NVIDIA ne ha riprodotto una riga — ma l'intento che vi è dietro non è in dubbio, e nemmeno la direzione del risultato. Bolt si aggiudica dodici delle tredici righe. Vale la pena capire esattamente quale perde e perché quella riga è quella interessante.

La struttura della famiglia conta prima dei numeri. Nemotron 3.5 Lightning è stato rilasciato l'11 agosto 2026 come livello di esecuzione di uno stack di agenti: un ibrido da 30B totali e 3B attivi che NVIDIA ha distillato dal ben più grande Nemotron 3 Ultra proprio perché un modello frontier potesse occuparsi della pianificazione mentre Lightning macina chiamate di strumenti su una singola GPU. Bolt appartiene a una discendenza del tutto diversa: è stato compresso dal modello 120B‑A12B Nemotron 3.5 Super VL, non da Ultra, ed esiste per essere un generalista vision‑linguaggio che entra in 24GB. Entrambi sono open‑weight sotto OpenMDW‑1.1, entrambi sono mixture of experts sparse su backbone ibridi Mamba‑2, ed entrambi includono la decodifica speculativa — Lightning con teste Multi‑Token Prediction più i drafter DFlash e DSpark, Bolt con un drafter LiLiCorr guidato tramite DFlash che propone sette token in anticipo.

La discendenza condivisa smette di essere utile nel momento in cui devi decidere, perché i due modelli rispondono a domande diverse. Uno è un esecutore economico. L'altro è un generalista locale.

Leggere la tabella per ruolo, non per punteggio

Ogni cifra riportata di seguito proviene dalla scheda del modello ufficiale di NVIDIA per il checkpoint Bolt 24GB, che elenca Lightning come baseline. La colonna Bolt è IQ2, un artefatto quantizzato a 2 bit. La colonna Lightning è BF16, non quantizzato. Questa asimmetria è la cosa più importante in assoluto da sapere sulla tabella, e gioca a favore di Bolt — sta vincendo quelle righe pur essendo compresso di circa otto volte rispetto al suo modello genitore.

• Ragionamento agentico generale — GDPVal-AA-V2: Bolt 28,47, Lightning 18,26. Un divario di dieci punti, e la riga più vicina a «quanto è bravo in questo nel lavoro quotidiano di tipo impiegatizio per cui il modello è stato creato».

• Lavoro da terminale — Terminal-Bench 2.1: Bolt 50,98, Lightning 23,46. Questo è il divario più ampio della classifica e non è una sorpresa, perché le indicazioni della stessa NVIDIA per Lightning dicono che non dovrebbe essere l'agente principale. Una valutazione indipendente ha registrato circa 24,6 per Lightning sullo stesso benchmark, un valore abbastanza vicino al 23,46 del fornitore da suggerire che il numero sia reale.

• Ragionamento scientifico e basato sulla conoscenza — GPQA Diamond: Bolt 86,43, Lightning 75,57. SciCode: Bolt 41,02, Lightning 31,38. Humanity's Last Exam senza strumenti: Bolt 25,30, Lightning 10,47. Coerenza su tre diverse tipologie di domande difficili.

• Ragionamento su contesto lungo — AA-LCR: Bolt 64,06, Lightning 49,19. Quindici punti, e qui il vincolo di memoria non è il fattore limitante per nessuno dei due modelli.

• Agenzia web e di navigazione — BrowseComp: Bolt 66,75, Lightning 36,81. Trenta punti. Il divario singolo più ampio della tabella, e quello che contraddice più direttamente l'idea di Lightning come esecutore autonomo.

• Densità d'uso degli strumenti — MCP-Atlas: Bolt 52,20, Lightning 46,4. PinchBench: Bolt 87,82, Lightning 83,43. Entrambi più vicini rispetto ai divari sopra, il che è coerente con il brief di progettazione effettivo di Lightning: passaggi di utilizzo degli strumenti brevi e ad alta frequenza.

• Visione — visione WebArena: Bolt 50,86, Lightning non ha alcuna voce. Non si tratta di una lacuna di rendicontazione. Lightning è testo in entrata, testo in uscita; non ha alcun encoder visivo da valutare.

L'unica riga in cui Lightning vince, e perché non è rumore

Non-allucinazione di AA-Omniscience: Nemotron 3.5 Lightning 68,81, Nemotron 3.5 Bolt 61,27. Nella metà relativa all'accuratezza della stessa valutazione, i due sono entro un terzo di punto l'uno dall'altro — 16,90 per Bolt contro 16,63 per Lightning — il che rende il divario nella metà relativa alla non-allucinazione la spiegazione completa, più che un artefatto di arrotondamento. Il modello più piccolo, più vecchio e non quantizzato è misurabilmente più prudente nel dire cose che non sa.

Questo è un risultato reale e ha un meccanismo plausibile. Bolt ha raggiunto la sua impronta grazie a un’aggressiva quantizzazione a 2 bit con distillazione consapevole della quantizzazione; la parte con perdita di quella pipeline è esattamente la parte che governa l’incertezza calibrata. Lightning è più piccolo ma si colloca a piena precisione BF16, e il suo obiettivo di distillazione era un modello di ragionamento piuttosto che un rapporto di compressione. Se la modalità di errore del tuo agente è una risposta errata data con sicurezza che si propaga in un’azione, questa è la riga da pesare di più — e nessuna dose di astuzia nel routing può correggere un modello che inventa di più.

I produttori raramente pubblicano una tabella che contenga una riga in cui il loro nuovo modello perde. Il fatto che questa lo faccia è un piccolo indizio che la tabella non è puramente promozionale.

Il costo di serving è il vero secondo asse

I punteggi sopra non costituiscono l'intera decisione, perché questi due modelli non sono ugualmente costosi da eseguire.

• Parametri attivi — Bolt attiva 9B per token; Lightning ne attiva circa 3B. Il triplo del calcolo per token per il modello più grande, su ogni token, per sempre.

• Budget di memoria — Bolt è un file da 24GB con tutto già compresso; Lightning è un checkpoint BF16 da 30B che richiede una singola GPU e si adatta comodamente su una RTX 5090, una DGX Spark o un dispositivo Jetson.

• Contesto — entrambi sono specificati per 1M token, ed entrambi in pratica sono più ristretti. Lightning serve 256K su una singola H100 prima che i calcoli sulla memoria diventino complicati; la finestra pubblicata di Bolt è 262.144, e quella finestra condivide gli stessi 24GB con la KV cache, le immagini e i risultati degli strumenti.

• Dichiarazioni sulla velocità — NVIDIA dichiara fino a 4x la velocità di output rispetto a modelli di dimensioni simili per Lightning attraverso i suoi drafter MTP e DFlash/DSpark, e almeno 80 token al secondo di decodifica come obiettivo di progetto per Bolt, con 84 misurati su AIPerf SPEED-Bench su RTX Spark e 83.99 in un'esecuzione di llama.cpp su un Surface Laptop Ultra con 128GB. Entrambi sono dati del produttore. Nessuno dei due è stato riprodotto da nessuno al di fuori di NVIDIA.

• Misurazione — nessuno dei due ha un prezzo in hosting da parte nostra né da qualsiasi piattaforma che possiamo indicarti. Il costo è comunque il tuo hardware, ed è proprio per questo che il numero di parametri attivi conta più di quanto conti in un confronto in hosting.

Ciò che il panel poteva e non poteva misurare

Artificial Analysis ha una voce per Nemotron 3.5 Bolt 74B-A9B e gli assegna 21 sull'Intelligence Index, quarto di 67 nella sua classe di footprint rispetto a una mediana di classe di 8. I suoi campi velocità e costo per attività riportano N/A, perché non c'è un endpoint ospitato da chiamare. Quei due spazi vuoti sono lo stato onesto del modello: il suo livello minimo di intelligenza è verificato in modo indipendente, mentre il suo tetto di prestazioni no.

Al momento della stesura non esiste una voce di Artificial Analysis per Nemotron 3.5 Lightning, il che lascia l'intero confronto basato sulla scheda di NVIDIA stessa. L'unico dato indipendente che esiste davvero — una verifica di LLM Stats di circa 24,6 su Terminal-Bench 2.1, coerente con il 23,46 del fornitore — supporta i numeri del fornitore anziché contraddirli. Ciò è rassicurante riguardo alla tabella, ma non sostituisce un secondo harness.

Come scegliere davvero

L'intento progettuale decide la maggior parte dei casi prima che lo facciano i benchmark. Lightning è un esecutore per costruzione: le linee guida di NVIDIA stessa sono di lasciare che un modello di frontiera pianifichi e che Lightning esegua il ciclo, e le sue righe migliori nella tabella sono quelle delle chiamate di strumenti ad alta frequenza piuttosto che quelle degli agenti autonomi. Bolt è un generalista per costruzione: la stessa tabella lo mostra nettamente in vantaggio sull'autonomia di navigazione e sul lavoro da terminale, che sono i compiti più da pianificatore che Lightning non è mai stato pensato per gestire — ed è l'unico dei due che può vedere.

La composizione per cui entrambi i modelli sono stati costruiti è un planner, un executor e uno specialista locale. Poiché nessuno dei due checkpoint comporta un prezzo di hosting, la suddivisione ricade sul tuo hardware e un unico endpoint davanti ad esso fa il lavoro utile: una regola di routing che invia i brevi cicli di tool-call a un deployment Lightning, le richieste che richiedono visione e che guidano il browser a Bolt, e qualsiasi cosa che necessiti di un vero ragionamento di frontiera a un modello ospitato — tutto dietro un'unica chiave, con failover tra i provider upstream quando una tratta ospitata si degrada. La regola risiede nella configurazione anziché in ogni servizio, che è la differenza tra un livello di routing e una riscrittura.

La questione aperta è una singola esecuzione indipendente. Se una terza parte riproduce i divari di Terminal-Bench e BrowseComp su Bolt, il checkpoint da 24GB è davvero il generalista più forte e la tesi a favore della fascia 30B si riduce a pura economia di throughput. In caso contrario, la lettura onesta è che un 74B quantizzato a 2 bit e un 30B in BF16 sono più vicini di quanto implichi la tabella di un singolo fornitore — e che la riga della non-allucinazione, quella in cui Lightning vince, merita più peso di quanto suggerisca la sua posizione in fondo alla scheda.