Nemotron 3.5 Bolt E4B 4GB vs Nemotron 3.5 Bolt 74B-A9B 24GB: stesso nome, macchine opposte

NVIDIA ha rilasciato due modelli chiamati Bolt a otto giorni di distanza. NVIDIA-Nemotron-3.5-Bolt-E4B-4GB è arrivato il 23 ottobre 2026: un modello conversazionale solo testuale da 8B totali, post-addestrato da Gemma-4-E4B-it. NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB — il modello che la maggior parte delle persone intende quando dice Nemotron 3.5 Bolt — è arrivato il 15 ottobre: un agente multimodale da 74B totali e 9B attivi, compresso a due bit per peso di esperto.

Condividono un badge, una licenza e una finestra di lancio. Non condividono un'architettura madre, una modalità, una finestra di contesto, una suite di benchmark o un lavoro. Leggere «Bolt» come una scala dimensionale è l'errore che questo confronto vuole prevenire.

Uno è un derivato di Gemma. L'altro è un agente 120B compresso.

Il lignaggio spiega quasi tutto il resto.

L'E4B è nato come Gemma-4-E4B-it, il modello piccolo ottimizzato per le istruzioni di Google, e NVIDIA lo ha addestrato successivamente con apprendimento per rinforzo da ricompense verificabili e feedback umano tramite NeMo-RL e NeMo-Gym. L'architettura è quella di Gemma: 8B parametri totali con 4B effettivi, un percorso di input e output solo testo e una finestra di contesto di 64K. Il contributo di NVIDIA è il comportamento, non la struttura portante.

Il 74B è partito da Nemotron 3.5 Super VL 120B-A12B, il modello multimodale parent di NVIDIA. NVIDIA ha eseguito una ricerca architetturale guidata da router chiamata Star Elastic con un budget di memoria di 24 GB e ha prodotto un ibrido da 74 miliardi di parametri con 9 miliardi di parametri attivi per token, combinando livelli Mamba-2 e Transformer in un design LatentMoE, con un encoder visivo C-RADIO v4-H. Accetta testo, immagini e video e gestisce 256K token di contesto.

Detto chiaramente: l'E4B è un modello conversazionale che NVIDIA ha messo a punto. Il 74B è un modello agente che NVIDIA ha compresso. Il nome "Bolt" descrive l'obiettivo di deployment — intelligenza per gigabyte — non un'architettura condivisa.

Le specifiche, a confronto

• Parametri totali e attivi — 8B totali con 4B effettivi per l'E4B; 74B totali con 9B attivi per il 74B.

• Architettura — Gemma-4-E4B per il modello piccolo; Mamba-2 più Transformer ibrido LatentMoE per quello grande, con compressione Star Elastic dal genitore Super VL.

• Modalità — testo in ingresso, testo in uscita per l'E4B; testo, immagini e video in ingresso, testo in uscita per il 74B.

• Finestra di contesto — 64K token in ingresso e 64K in uscita per l'E4B; fino a 256K token per il 74B.

• Precisione — Q4_K_M per il GGUF distribuito di E4B; IQ2 a circa 2,0625 bit per peso degli esperti per il 74B, con NVFP4 su alcuni layer Mamba e embedding Q8_0.

• Pesi pubblicati — 6,18 GB Q4_K_M e 15,88 GB BF16 per l'E4B; 23,75 GB di pesi GGUF più proiettore visivo, 24,12 GB di safetensors pronti per vLLM e 149,8 GB in BF16 per il 74B.

• Licenza — OpenMDW-1.1 per entrambi, con il componente Gemma 4 con licenza Apache 2.0 nello stack dell'E4B.

• Data di uscita — 23 ottobre 2026 per l'E4B; 15 ottobre 2026 per il 74B.

• Runtime — llama.cpp per l'E4B, con la scheda che contrassegna la ricetta come "in sospeso" nonostante fornisca comandi di avvio rapido; vLLM per il 74B, con una ricetta di riferimento che fissa un container nightly tramite hash di commit.

Vale la pena segnalare una trappola nei metadati prima che provochi un errore di acquisto. Il widget file di Hugging Face sul repository 74B riporta "22B params", mentre la model card specifica 74B totali e 9B attivi. La card ha ragione: 22B è un campo obsoleto della barra laterale, non una terza variante, e chiunque dimensioni l'hardware basandosi sul widget anziché sulla card si sbaglierà gravemente nella direzione opposta.

Le tabelle di benchmark non condividono una singola riga

Questa è la cosa più importante da capire prima di confrontare i due, ed è quella che la maggior parte delle trattazioni tralascia.

NVIDIA ha valutato il modello 74B su GDPVal-AA-V2, Terminal-Bench 2.1, Tau3 Banking, HLE, AA-Omniscience, SciCode, GPQA Diamond, AA-LCR, PinchBench, MCP-Atlas, BrowseComp e WebArena. Ha valutato il modello E4B su MultiChallenge, RoleBench, RoleMRC, EQ-Bench v3, Brevity, BFCL-v3, When2Call, ToolSandbox, Tau2-Bench, IHEval, AgentIF, StructEval-T, IFBench, InverseIFEval, RULER, LongMemEval, LongBench v2, SysBench, GaRAGe, RAGTruth e RelyToolBench.

Non c'è alcuna sovrapposizione. Nessuna riga compare in entrambe le tabelle. Le due suite utilizzano persino versioni diverse del benchmark agentico — Tau2 per l'E4B, Tau3 Banking per il 74B — quindi anche la coppia che sembra più simile non è confrontabile.

Ciò significa che qualsiasi affermazione del tipo "il 74B è superiore di X punti all'E4B" è inventata. NVIDIA non ha pubblicato un harness comune e nessuna terza parte ne ha eseguito uno. Ciò che le tabelle supportano è un'affermazione sull'intenzione progettuale:

• Il 74B è stato misurato su attività che sembrano lavoro — uso del terminale, navigazione web, programmazione scientifica, domande di livello post-laurea, ragionamento su contesti lunghi. Le sue righe pubblicate più forti sono BrowseComp 66.75, Terminal-Bench 2.1 50.98, GPQA Diamond 86.43 e AA-LCR 64.06.

• L'E4B è stato misurato su attività che assomigliano a una conversazione: mantenimento della persona, gerarchia delle istruzioni, sapere quando chiamare uno strumento, ancoraggio all'output dello strumento. Le righe più forti sono IHEval 84,79, RoleBench 67,05, RelyToolBench 63,16 e When2Call 63,36.

Entrambi i set sono dichiarati dal fornitore e non riprodotti. La scheda del 74B presenta un'ulteriore complicazione degna di nota: NVIDIA descrive il modello come il miglior modello aperto della sua categoria su PinchBench, ma la sua stessa tabella mostra Qwen3.6-35B-A3B a 88,07 contro l'87,82 del Bolt. Si tratta di uno scarto di 0,25 punti e di un'affermazione che non regge del tutto alla sua stessa nota a piè di pagina.

Velocità dichiarate, con l'hardware allegato

Il throughput è l’unico ambito in cui entrambe le schede pubblicano numeri, eppure non è ancora possibile allinearli.

• E4B su una RTX 5070 12GB — da 106,2 a 133,4 token al secondo, da 548 a 1.238 ms al primo token, da 3,5 a 4,3 GB di VRAM, misurato con llama.cpp e CUDA con batch 1.

• E4B su un Jetson Orin Nano 8GB — da 13,0 a 15,5 token al secondo e da 5,8 a 6,3 secondi al primo token. Lo stesso modello, sull'hardware a cui si riferisce davvero la proposta dei "4GB".

• 74B su una RTX Spark — 83,99 token al secondo su AIPerf SPEED-Bench-Coding, con il drafter LiLiCorr collegato e sette token speculativi per passo.

Il dato dei 74B presuppone un checkpoint drafter separato da 1,13B, un benchmark specifico e hardware diverso da entrambe le esecuzioni E4B. Il dato E4B presuppone l'assenza di un drafter. Confrontare 133 con 84 e concludere che il modello piccolo è più veloce è tecnicamente vero e praticamente privo di significato: uno è un modello con quattro miliardi di parametri effettivi su una GPU desktop, l'altro è un modello con nove miliardi di parametri attivi su una macchina diversa con un decoder speculativo aggiunto.

Ciò che i numeri stabiliscono è la forma del compromesso. L'E4B è progettato per il tempo al primo token; il 74B è progettato per un lavoro agentico sostenuto, dove 84 token al secondo sono sufficienti. La riga Orin Nano è l'avvertimento: un modello da 4 GB su hardware embedded non è automaticamente un conversatore in tempo reale.

Memoria: 4GB e 24GB sono contenitori, non file

Entrambi i nomi utilizzano un target di memoria, e nessuno dei due numeri è il download.

• E4B — un GGUF Q4_K_M da 6,18 GB. NVIDIA misura da 3,1 a 4,3 GB di VRAM nelle proprie esecuzioni batch-1 su hardware RTX. La scheda non pubblica un file da 4 GB.

• 74B: 22,02 GB di pesi GGUF più un proiettore visivo separato da 1,73 GB, per un totale di 23,75 GB, oppure 24,12 GB nella build safetensors pronta per vLLM. La quantizzazione degli esperti a 2,0625 bit è ciò che rende possibile rientrare nel limite di 24 GB.

• Build BF16 — 15,88 GB per l'E4B, 149,8 GB distribuiti su 63 shard per il 74B. Le varianti a piena precisione sono per il post-training, non per il deployment, e la scheda del 74B lo afferma esplicitamente.

Il divario di archiviazione è di circa quattro a uno con la precisione di deployment, e di circa nove a uno con la precisione completa. Il divario di VRAM è inferiore al divario di parametri perché il 74B paga la propria compressione in bit, non in dimensioni.

La modalità e il contesto contano più del numero di parametri

Una finestra di testo da 64K e una finestra multimodale da 256K non sono lo stesso prodotto con limiti diversi.

Il 74B può guardare un'immagine o un video e agire di conseguenza. La sua scheda specifica input RGB JPEG o PNG, video MP4 fino a due minuti e un'indicazione di un frame al secondo a 1080p o due frame al secondo a 720p. Può leggere uno screenshot, un grafico, un modulo o un feed della fotocamera e poi chiamare strumenti in base a ciò che ha visto. È questa la capacità che lo rende un agente per la navigazione e il lavoro desktop.

L'E4B non è in grado di vedere. Riceve testo e restituisce testo, e la sua finestra da 64K è esplicitamente più debole di quella dei suoi pari nel recupero delle informazioni: RULER 86,99 contro 95,15 di Qwen3.5 4B, LongBench v2 50,50 contro 59,93. Se la tua applicazione ha bisogno di tenere sotto controllo un documento lungo o uno screenshot, l'E4B è il modello sbagliato, indipendentemente da quanto siano buoni i suoi punteggi di persona.

Per chi è ciascuno

L'E4B è pensato per il livello di interfaccia. Personaggi interattivi, assistenti vocali, agenti per dispositivi embedded, robot che devono selezionare uno script e parlare, e qualsiasi applicazione in cui il modello deve rispondere in poche centinaia di millisecondi su hardware che costa meno di una workstation. Le demo di NVIDIA rendono concreto l'intento: un robot Reachy Mini su un Jetson Orin Nano che usa l'E4B per scegliere gli script di animazione mentre un modello di visione separato gestisce la percezione, e un PNG fabbro che verifica il pagamento, cerca una ricetta, raccoglie gli ingredienti e consegna un oggetto.

Il 74B è per il livello di lavoro. Agenti personali sempre attivi che navigano, programmano, analizzano dati, monitorano attività in background e chiamano API. Gira su RTX Spark, DGX Spark, workstation RTX PRO e schede GeForce RTX con memoria sufficiente, ed è progettato per affiancare altre applicazioni entro un budget di 24GB. Il suo profilo di benchmark — BrowseComp, Terminal-Bench, GPQA, AA-LCR — è il profilo di un modello che porta a termine i compiti, non di uno che sostiene una conversazione.

Nessuno dei due sostituisce l'altro. Uno studio di videogiochi che vuole NPC credibili non ha bisogno di un agente multimodale da 74B; una piattaforma di agenti che deve leggere una pagina web ed eseguire un comando da terminale non può usare un modello conversazionale solo testuale da 4B.

Che cosa implica per il deployment una famiglia composta da due modelli

La conseguenza architetturale interessante è che NVIDIA ha rilasciato un portafoglio anziché una progressione a scalini. L'E4B gestisce il livello riflesso, il 74B gestisce il livello di lavoro locale e Super VL 120B-A12B gestisce i casi multimodali più impegnativi. Si tratta di tre diversi budget di memoria e tre diversi compiti, tutti all'interno di un'unica famiglia di licenze.

La maggior parte delle applicazioni avrà comunque bisogno di un quarto livello che non può scaricare: un modello frontier per le richieste che superano l'hardware locale, o un secondo fornitore per la modalità che manca al modello locale. Instradarli attraverso un'unica API — oltre 200 modelli, 0% di ricarico sul prezzo di listino del fornitore, failover automatico quando un fornitore si degrada — consente al Bolt locale di restare il percorso rapido e al modello ospitato di restare l'eccezione. L'alternativa è un'integrazione, una chiave e una fattura separate per ogni modello al di sopra del livello locale.

Cosa risolverebbe la questione familiare

Un'unica esecuzione. Sottoponi entrambi i Bolts allo stesso harness sugli stessi task — un set conversazionale, un set agentico e un set multimodale — e pubblica le righe. NVIDIA ha i checkpoint, lo stack di valutazione e l'incentivo; ha invece scelto di pubblicare due tabelle separate.

Finché non esisterà, la lettura difendibile è questa: il 74B è il modello più capace per concezione e per evidenza, sui compiti che NVIDIA ha scelto di misurare. L'E4B è il modello più appropriato per un'ampia classe di interfacce in cui un agente da 24 GB è assurdo e un modello conversazionale da 4 GB è esattamente giusto. Il nome sulla confezione è lo stesso. La macchina all'interno no.