Data di uscita di Nemotron 3.5 Bolt 74B: NVIDIA comprime un modello agent da 74B in 24GB

NVIDIA Nemotron 3.5 Bolt 74B-A9B arriverà giovedì 15 ottobre 2026, mentre NVIDIA Nemotron 3.5 Bolt E4B seguirà venerdì 23 ottobre. Quelle due date sono la risposta a un teaser: il 14 ottobre, l'account AI di NVIDIA ha pubblicato "Tanti modelli in arrivo questa settimana! E ne abbiamo uno nostro in arrivo...⌛️" senza indicare alcun nome. Controllare quel teaser vale i due minuti, perché si risolve in modo insolito — l'annuncio a cui il tweet allude era già stato pubblicato, integralmente, il giorno prima, in un post del blog NVIDIA datato 13 ottobre che nomina entrambi i modelli, entrambe le date, l'occupazione di memoria e i runtime di inferenza. Quindi non è una fuga di notizie, e non è una voce. È un lancio poco pubblicizzato, e il teaser era la spinta, non lo scoop.

Quello che segue separa ciò che NVIDIA ha effettivamente messo per iscritto da ciò che nessuno al di fuori dell'azienda ha ancora misurato — che, per un modello che esce oggi, è la maggior parte della colonna interessante.

L'anticipazione, e ciò a cui si è risolta

Due cose vanno fissate prima di ogni altra, perché sono esattamente il tipo di dettaglio che viene appiattito nell'aggregazione. Primo, l'ordine cronologico. Il post sul blog di NVIDIA "All Systems Go: Global PC App Ecosystem Ready for NVIDIA RTX Spark" ha timestamp 2026-10-13T12:00Z. Il post "one of our own coming" è arrivato alle 2026-10-14T20:29Z — circa trentadue ore dopo. Il tweet è un rimando, non la fonte primaria, e qualunque resoconto che consideri il tweet come l'annuncio sta partendo dal documento sbagliato.

Secondo, la frase "uno dei nostri" sta facendo un lavoro vero e proprio. NVIDIA non è solo il fornitore qui; è il fornitore della piattaforma per la settimana. Lo stesso post del 13 ottobre distribuisce laptop RTX Spark il 16 ottobre, un modello AI DLSS 5 ricostruito che debutta in NBA 2K27 lo stesso giorno, NVIDIA PAIR fuori dalla beta, e Broadcast 2.3. Bolt 74B è il modello linguistico in una settimana in cui NVIDIA annuncia diversi modelli di tipi molto diversi. Se sei venuto cercando un solo prodotto, ecco perché la copertura è confusa.

Gli impegni che NVIDIA ha preso, con le sue stesse parole

L'affermazione centrale è breve e specifica. NVIDIA descrive Nemotron 3.5 Bolt 74B-A9B come "un nuovo LLM progettato appositamente per eseguire agenti locali su RTX Spark", costruito come "un modello mixture-of-experts (MoE) con 74 miliardi di parametri e 9 miliardi di parametri attivi" che è "compresso in 24 GB utilizzando la quantizzazione a 2 bit con tecniche avanzate di addestramento consapevole della quantizzazione per mantenere la qualità."

Tre cose in quella frase stanno facendo il lavoro:

• 9B attivi, non 74B. Questo è un MoE sparso. Il costo di routing per token segue il percorso attivo, non il numero totale di parametri, ed è per questo che un modello da 74B viene addirittura proposto per un laptop.

• 2-bit, di proposito. Non una quantizzazione comunitaria di una release BF16, ma un modello che NVIDIA afferma essere stato addestrato con tecniche di quantizzazione consapevole volte a mantenere la qualità a quella larghezza. Che regga o meno è una misurazione, non una dichiarazione — vedi il registro qui sotto.

• 24GB è il target di riferimento. NVIDIA presenta il compromesso come "l'equilibrio ottimale tra velocità e intelligenza, essendo più veloce della maggior parte dei modelli dense più diffusi e al contempo più intelligente della maggior parte dei modelli MoE più diffusi con un'impronta di memoria simile". Questo è il posizionamento di NVIDIA, che nessuno ha riprodotto.

Quanto all'accesso, NVIDIA nomina esplicitamente i runtime: llama.cpp, vLLM, Ollama, Unsloth e LM Studio al lancio, oltre all'uso diretto tramite agenti tra cui Hermes e OpenClaw. E sulla licenza, il post afferma che Bolt 74B è "completamente open source... inclusi dati di addestramento, pesi e ricette" — la stessa impostazione che NVIDIA applica al resto della linea Nemotron.

Perché 24GB è il numero che conta, non 74B

Il numero intero di punta qui è 74B. Quello che regge davvero è 24GB, e per una ragione semplice: 24GB è una dotazione da acceleratore di classe desktop. È la capacità di una singola scheda consumer di fascia alta, e sul fronte laptop è il quadro attorno a cui NVIDIA sta costruendo la settimana — le macchine RTX Spark arrivano fino a 128GB di memoria unificata e 1 petaflop di calcolo AI, e i laptop stessi arrivano il 16 ottobre.

Mettendo insieme questi elementi, la proposta diventa chiara. Una MoE da 9B attivi i cui pesi stanno in 24GB a 2 bit significa che la stessa build che entra in una scheda da workstation entra anche nel laptop che viene spedito il giorno dopo, con margine residuo per l'applicazione e un secondo modello piccolo. Questa è una storia di deployment sostanzialmente diversa da quella di un modello frontier ospitato dietro un'API, ed è il motivo per cui «local agent» figura nella descrizione in una riga di NVIDIA stessa anziché «cheap inference».

Il contrappeso è che un target a 2 bit è un vincolo su ciò che il modello può essere. Qualsiasi confronto di qualità con un modello BF16 di dimensioni totali simili è un confronto tra artefatti diversi, e NVIDIA ha scelto l'artefatto di proposito. Valuta Bolt 74B rispetto ad altre build locali di classe 24GB, non rispetto a un checkpoint a piena precisione che non sarebbe mai entrato.

Il registro: confermato, dichiarato ma non misurato, e sconosciuto

Essere precisi su in quale colonna si trovi un dato è tutto il valore di leggere questo nella prima settimana anziché nella terza.

• Confermato da NVIDIA: il nome del modello, l'architettura MoE da 74B totali / 9B attivi, l'occupazione di 24 GB a 2 bit, la data del 15 ottobre, i cinque runtime citati, l'accesso degli agenti tramite Hermes e OpenClaw e l'affermazione che pesi, dati di addestramento e ricette sono aperti.

• Dichiarato ma non misurato: l'affermazione stessa sulla qualità. "Più intelligente dei modelli MoE più diffusi con un footprint di memoria simile" e "più veloce dei modelli densi più diffusi" arrivano senza una tabella di benchmark nell'annuncio. Non sembra ancora esistere alcuna valutazione indipendente di Bolt 74B.

• Non noto al momento della stesura: la finestra di contesto; la licenza denominata (NVIDIA dice open source senza nominarne una in questo post); il throughput di inferenza esatto al livello da 24 GB; se il rilascio consista solo in pesi scaricabili o sia servito anche dietro un'API; se 2-bit sia l'unica precisione pubblicata; e quanto strettamente l'architettura discenda dalla linea Nemotron 3.5 Lightning che NVIDIA ha già distribuito in build BF16 e NVFP4.

Quell'ultima incognita è quella da tenere presente. La denominazione stessa di NVIDIA riporta entrambi i numeri — "74B-A9B" e il precedente "30B-A3B" — quindi i due sono confrontabili sulla carta: all'incirca 2,5× i parametri totali del modello Lightning e 3× quelli attivi. Se quel rapporto sopravviva alla compressione a 2 bit è esattamente ciò che chiarirebbe un primo benchmark indipendente.

Bolt E4B è l'altra metà della famiglia, ed è un prodotto diverso.

Nemotron 3.5 Bolt E4B, in uscita il 23 ottobre, non è un cugino più piccolo del 74B come suggerisce il nome. NVIDIA lo definisce "il modello linguistico di piccole dimensioni (SLM) di terza generazione per NVIDIA ACE", la suite che usa per i personaggi AI nei videogiochi — una discendenza che l'azienda fa risalire a una beta di PUBG per la prima generazione e a un'anteprima di Aniimo al Gamescom per la seconda.

I suoi obiettivi di progettazione dichiarati sono orientati al gaming piuttosto che agli agenti: un ingombro di 4GB, "tempo rapido al primo token", "una nuova modalità conversazionale [che] aiuta a mantenere le risposte concise e pronte per il parlato", un interruttore per il ragionamento, e l'ancoraggio allo stato dell'applicazione per l'uso di strumenti multi-turno. NVIDIA abbina il rilascio a un test drive all'interno di SkyrimNET, una piattaforma di modding per NPC di Skyrim che supporta sia l'inferenza cloud che locale, a partire dallo stesso giorno.

Quindi, se sei arrivato dal tweet aspettandoti un solo modello, ne riceverai due in date diverse, in buste diverse, per lavori diversi: il 15 ottobre per l'agente locale da 24 GB, il 23 ottobre per il personaggio di gioco da 4 GB.

Come valutarlo senza scommettere una roadmap su di esso

La parte scomoda di un modello locale al day-one è che non puoi ancora rispondere all'unica domanda che conta — il checkpoint a 2 bit regge sul tuo carico di lavoro? — e non puoi nemmeno rispondere alla seconda, cioè se esista una via hosted con cui confrontarsi. Entrambe le lacune sono temporanee, e nessuna delle due è un motivo per pianificare in base a una tabella di benchmark che non esiste.

La strada pratica è tenere separate le due decisioni. Esegui Bolt 74B in locale come esperimento nell'involucro da 24 GB che hai già, e mantieni il percorso di produzione su qualunque cosa sia richiamabile oggi. È in questa seconda metà che l'infrastruttura di routing si guadagna il suo posto: una sola chiave per oltre 200 modelli al prezzo di listino del provider con 0% di ricarico significa che provare un secondo o un terzo candidato costa una modifica di configurazione anziché un secondo contratto, e il failover automatico tra provider significa che una build locale non ancora collaudata non diventa mai il singolo punto di guasto per un agente in produzione.

È anche il modo onesto di leggere l'inquadramento dato da NVIDIA stessa. «Progettato appositamente per eseguire agenti locali su RTX Spark» è un'affermazione su dove viene eseguito il modello, non su quali punteggi ottenga. Considera la data del 15 ottobre come il momento in cui diventa possibile rispondere a una domanda — non come una risposta.

Cosa cambierebbe questo articolo

Tre cose, in ordine approssimativo di quanto sposterebbero il quadro.

• Una licenza con nome e un repository pubblico dei pesi."Completamente open source, inclusi i dati di addestramento, i pesi e le ricette" è l'affermazione più forte nel post di NVIDIA e la più facile da verificare. Finché la licenza non avrà un nome e i file non saranno scaricabili, quell'affermazione è una promessa.

• Un primo benchmark indipendente. Il confronto interessante non è Bolt 74B contro un modello a piena precisione di classe 70B con cui non è mai stato in competizione. È Bolt 74B a 2 bit contro ogni altra build che rientra in 24 GB, misurata sullo stesso harness.

• Un endpoint ospitato. Senza di esso non c'è alcun prezzo su cui discutere, né alcun modo per instradarvi il traffico. Se compare una versione erogata, il confronto dei prezzi rispetto ai modelli già presenti nella tua shortlist diventa concreto, e vale la pena verificare lo stesso giorno il prezzo pass-through.

Finché almeno uno di questi non si concretizza, la posizione corretta è l'interesse, non l'impegno. L'anticipazione era reale, le date sono reali e il modello è reale. La valutazione non lo è.

Domande che meritano una risposta adeguata

Nemotron 3.5 Bolt 74B è lo stesso modello di Nemotron 3.5 Lightning 30B-A3B?

No. Sono voci diverse nella stessa generazione con forme diverse: Bolt è 74B totali con 9B attivi, Lightning è 30B totali con 3B attivi secondo la denominazione di NVIDIA stessa. Bolt viene inoltre distribuito con un footprint a 2 bit da 24 GB, mentre NVIDIA ha pubblicato la linea Lightning in build BF16 e NVFP4. L'annuncio non dice se condividano un'architettura.

Puoi eseguire Bolt 74B su una scheda desktop da 24 GB, o solo su un portatile RTX Spark?

Il vincolo dichiarato da NVIDIA è l'occupazione di memoria, non la macchina — 24GB a 2 bit — e i runtime menzionati sono llama.cpp, vLLM, Ollama, Unsloth e LM Studio, che non sono esclusivi di NVIDIA. RTX Spark è dove NVIDIA indirizza il marketing, ma nulla nell'annuncio lo rende un requisito.

OrcaRouter ospita Nemotron 3.5 Bolt 74B?

Non oggi, e non c'è ancora nulla da ospitare — NVIDIA non ha pubblicato alcun endpoint servito né un prezzo per esso. Se ciò cambia, il modello diventa richiamabile tramite la stessa chiave di tutto il resto del catalogo, al prezzo di listino del fornitore senza alcun ricarico aggiunto.

Per un modello i cui modi di fallire non sono ancora documentati, la controparte utile è il registro di ciò che è già andato storto altrove: gli incidenti AI documentati e i fallimenti degli agenti relativi ai modelli di questa classe sono raccolti in l'Archivio degli incidenti AI di OrcaRouter, dove ogni voce riporta le proprie fonti, la gravità, il grado di confidenza e il flag di contestazione.