Nemotron 3.5 Bolt E4B 4GB vs Nemotron 3.5 Bolt 74B-A9B 24GB: Zelfde naam, tegenovergestelde machines

NVIDIA bracht twee modellen met de naam Bolt acht dagen na elkaar uit. NVIDIA-Nemotron-3.5-Bolt-E4B-4GB verscheen op 23 oktober 2026: een conversationeel model met 8B totaal dat alleen tekst verwerkt, nagetraind op basis van Gemma-4-E4B-it. NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB — het model dat de meeste mensen bedoelen als ze Nemotron 3.5 Bolt zeggen — verscheen op 15 oktober: een multimodale agent met 74B totaal en 9B actief, gecomprimeerd tot twee bits per expertgewicht.

Ze delen een badge, een licentie en een lanceringsvenster. Ze delen geen bovenliggende architectuur, geen modaliteit, geen contextvenster, geen benchmarksuite en geen taak. "Bolt" lezen als een groottereeks is de fout die deze vergelijking beoogt te voorkomen.

De ene is een Gemma-derivaat. De andere is een gecomprimeerde 120B-agent.

De afstamming verklaart bijna al het andere.

De E4B begon zijn leven als Gemma-4-E4B-it, Googles kleine model dat is afgestemd op instructies, en NVIDIA heeft het verder getraind met reinforcement learning op basis van verifieerbare beloningen en menselijke feedback via NeMo-RL en NeMo-Gym. De architectuur is die van Gemma: 8B totale parameters met 4B effectief, een invoer- en uitvoerpad dat alleen tekst verwerkt, en een contextvenster van 64K. De bijdrage van NVIDIA is gedrag, niet de backbone.

De 74B begon bij Nemotron 3.5 Super VL 120B-A12B, NVIDIA's eigen multimodale moedermodel. NVIDIA voerde een door een router geleide architectuurzoektocht uit, Star Elastic genaamd, binnen een geheugenbudget van 24 GB en produceerde een hybride met 74 miljard parameters en 9 miljard actieve parameters per token, die Mamba-2- en Transformer-lagen combineert in een LatentMoE-ontwerp, met een C-RADIO v4-H vision-encoder. Het accepteert tekst, afbeeldingen en video en verwerkt 256K tokens aan context.

Simpel gezegd: de E4B is een gespreksmodel dat NVIDIA heeft afgestemd. De 74B is een agentmodel dat NVIDIA heeft gecomprimeerd. De naam "Bolt" beschrijft het implementatiedoel — intelligentie per gigabyte — niet een gedeelde architectuur.

De specificaties, naast elkaar

• Totale en actieve parameters — 8B totaal met 4B effectief voor de E4B; 74B totaal met 9B actief voor de 74B.

• Architectuur — Gemma-4-E4B voor het kleine model; Mamba-2 plus Transformer-hybride LatentMoE voor het grote model, met Star Elastic-compressie van het Super VL-parentmodel.

• Modaliteit — tekst in, tekst uit voor de E4B; tekst, afbeeldingen en video in, tekst uit voor de 74B.

• Contextvenster — 64K tokens in en 64K uit voor de E4B; tot 256K tokens voor de 74B.

• Precisie — Q4_K_M voor de meegeleverde GGUF van de E4B; IQ2 met ongeveer 2,0625 bits per expertgewicht voor de 74B, met NVFP4 op sommige Mamba-lagen en Q8_0-embeddings.

• Gepubliceerde gewichten — 6,18 GB Q4_K_M en 15,88 GB BF16 voor de E4B; 23,75 GB aan GGUF-gewichten plus vision-projector, 24,12 GB aan vLLM-klare safetensors, en 149,8 GB in BF16 voor de 74B.

• Licentie — OpenMDW-1.1 voor beide, met de Gemma 4-component onder Apache 2.0 in de stack van de E4B.

Releasedatum — 23 oktober 2026 voor de E4B; 15 oktober 2026 voor de 74B.

{{1}}Runtime{{/1}} — llama.cpp voor de {{2}}E4B{{/2}}, waarbij de kaart het recept als "in afwachting" markeert ondanks dat er snelstartcommando's worden meegeleverd; vLLM voor de {{3}}74B{{/3}}, met een referentierecept dat een nightly-container via commit-hash vastpint.

Eén metadata-valkuil is het vermelden waard voordat hij tot een aankoopfout leidt. De Hugging Face-bestandswidget op de 74B-repository vermeldt "22B params", terwijl de modelkaart 74B totaal en 9B actief aangeeft. De kaart heeft gelijk: 22B is een verouderd zijbalkveld, geen derde variant, en iedereen die hardware dimensionert op basis van de widget in plaats van de kaart, zit er in de andere richting ernstig naast.

De benchmarktabellen hebben geen enkele rij gemeenschappelijk.

Dit is het belangrijkste om te begrijpen voordat je de twee met elkaar vergelijkt, en het is precies wat de meeste berichtgeving overslaat.

NVIDIA evalueerde de 74B op GDPVal-AA-V2, Terminal-Bench 2.1, Tau3 Banking, HLE, AA-Omniscience, SciCode, GPQA Diamond, AA-LCR, PinchBench, MCP-Atlas, BrowseComp en WebArena. Het evalueerde de E4B op MultiChallenge, RoleBench, RoleMRC, EQ-Bench v3, Brevity, BFCL-v3, When2Call, ToolSandbox, Tau2-Bench, IHEval, AgentIF, StructEval-T, IFBench, InverseIFEval, RULER, LongMemEval, LongBench v2, SysBench, GaRAGe, RAGTruth en RelyToolBench.

Er is geen overlap. Geen enkele rij komt in beide tabellen voor. De twee suites gebruiken zelfs verschillende versies van de agentic benchmark — Tau2 voor de E4B, Tau3 Banking voor de 74B — dus het paar dat er het meest op lijkt, is ook niet vergelijkbaar.

Dat betekent dat elke bewering van de vorm "de 74B is X punten beter dan de E4B" verzonnen is. NVIDIA heeft geen gemeenschappelijke harness gepubliceerd, en geen enkele derde partij heeft er een uitgevoerd. Wat de tabellen wel ondersteunen, is een uitspraak over de ontwerpintentie:

• De 74B is gemeten op taken die op werk lijken — terminalgebruik, browsen, wetenschappelijk programmeren, vragen op graduate-niveau, redeneren over lange context. De sterkste gepubliceerde rijen zijn BrowseComp 66.75, Terminal-Bench 2.1 50.98, GPQA Diamond 86.43 en AA-LCR 64.06.

• De E4B is gemeten op taken die op een gesprek lijken — behoud van persona, instructiehiërarchie, weten wanneer een tool moet worden aangeroepen, grounding in tooloutput. De sterkste resultaten zijn IHEval 84.79, RoleBench 67.05, RelyToolBench 63.16 en When2Call 63.36.

Beide sets zijn door de leverancier gerapporteerd en niet gereproduceerd. De kaart van de 74B bevat een extra complicatie die het vermelden waard is: NVIDIA beschrijft het model als het beste open model in zijn klasse op PinchBench, maar de eigen tabel toont Qwen3.6-35B-A3B op 88,07 tegenover 87,82 voor de Bolt. Dat is een verschil van 0,25 punt en een bewering die niet helemaal standhoudt naast de eigen voetnoot.

Snelheidsclaims, met de hardware erbij

Doorvoer is het enige punt waarop beide kaarten cijfers publiceren, en toch zijn ze niet met elkaar te vergelijken.

• E4B op een RTX 5070 12GB — 106,2 tot 133,4 tokens per seconde, 548 tot 1.238 ms tot het eerste token, 3,5 tot 4,3 GB VRAM, gemeten met llama.cpp en CUDA bij batch 1.

• E4B op een Jetson Orin Nano 8GB — 13,0 tot 15,5 tokens per seconde en 5,8 tot 6,3 seconden tot het eerste token. Hetzelfde model, op de hardware waar de "4GB"-pitch eigenlijk over gaat.

• 74B op een RTX Spark — 83,99 tokens per seconde op AIPerf SPEED-Bench-Coding, met de LiLiCorr-drafter gekoppeld en zeven speculatieve tokens per stap.

Het 74B-cijfer gaat uit van een afzonderlijk drafter-checkpoint van 1,13B, een specifieke benchmark en andere hardware dan bij elk van beide E4B-runs. Het E4B-cijfer gaat uit van geen drafter. 133 met 84 vergelijken en concluderen dat het kleine model sneller is, is technisch waar en praktisch betekenisloos: het ene is een model met vier miljard effectieve parameters op een desktop-GPU, het andere is een model met negen miljard actieve parameters op een andere machine met een speculatieve decoder eraan vastgeschroefd.

Wat de cijfers wel vaststellen, is de vorm van de afweging. De E4B is gebouwd voor tijd tot eerste token; de 74B is gebouwd voor aanhoudend agentisch werk waarbij 84 tokens per seconde genoeg is. De Orin Nano-rij is de waarschuwing: een 4GB-model op embedded hardware is niet automatisch een realtime gesprekspartner.

Geheugen: 4GB en 24GB zijn enveloppen, geen bestanden

Beide namen gebruiken een geheugendoel, en geen van beide nummers is de download.

• E4B — een 6,18GB Q4_K_M GGUF. NVIDIA meet 3,1 tot 4,3GB VRAM in zijn eigen batch-1-runs op RTX-hardware. De kaart publiceert geen 4GB-bestand.

• 74B — 22,02 GB aan GGUF-gewichten plus een afzonderlijke visieprojector van 1,73 GB, samen 23,75 GB, of 24,12 GB in de vLLM-klare safetensors-build. De expertkwantisatie van 2,0625 bits is wat de 24GB-envelop mogelijk maakt.

• BF16-builds — 15,88 GB voor de E4B, 149,8 GB verdeeld over 63 shards voor de 74B. De varianten met volledige precisie zijn bedoeld voor post-training, niet voor deployment, en op de kaart van de 74B staat dat expliciet.

Het opslagverschil is ongeveer vier tegen één bij deploymentprecisie, en ongeveer negen tegen één bij volledige precisie. Het VRAM-verschil is kleiner dan het parameterverschil, omdat de 74B voor zijn compressie betaalt in bits, niet in grootte.

Modaliteit en context bepalen meer dan het aantal parameters

Een tekstvenster van 64K en een multimodaal venster van 256K zijn niet hetzelfde product met andere limieten.

De 74B kan naar een afbeelding of een video kijken en daarop actie ondernemen. De specificaties vermelden RGB JPEG- of PNG-invoer, MP4-video van maximaal twee minuten en een richtlijn van één frame per seconde bij 1080p of twee frames per seconde bij 720p. Het kan een schermafbeelding, een grafiek, een formulier of een camerabeeld lezen en vervolgens tools aanroepen op basis van wat het heeft gezien. Dat is het vermogen dat er een agent van maakt voor browsen en desktopwerk.

De E4B kan niet zien. Hij neemt tekst en retourneert tekst, en zijn venster van 64K is expliciet zwakker dan dat van zijn concurrenten bij retrieval: RULER 86,99 tegen Qwen3.5 4B's 95,15, LongBench v2 50,50 tegen 59,93. Als je applicatie een lang document of een schermafbeelding in beeld moet houden, is de E4B het verkeerde model, ongeacht hoe goed zijn persona-scores zijn.

Voor wie elk van hen bedoeld is

De E4B is voor de interfacelaag. Interactieve personages, spraakassistenten, agents op embedded apparaten, robots die een script moeten selecteren en spreken, en elke toepassing waarbij het model binnen een paar honderd milliseconden moet antwoorden op hardware die minder kost dan een workstation. NVIDIA's demo's maken de bedoeling concreet: een Reachy Mini-robot op een Jetson Orin Nano die de E4B gebruikt om animatiescripts te kiezen, terwijl een afzonderlijk visiemodel de waarneming verzorgt, en een smid-NPC die de betaling verifieert, een recept opzoekt, ingrediënten verzamelt en een voorwerp overhandigt.

De 74B is voor de werklayer. Persoonlijke agents die altijd aan staan en browsen, coderen, data analyseren, achtergrondtaken monitoren en API's aanroepen. Hij draait op RTX Spark, DGX Spark, RTX PRO-workstations en GeForce RTX-kaarten met voldoende geheugen, en is ontworpen om naast andere applicaties binnen een budget van 24GB te passen. Het benchmarkprofiel — BrowseComp, Terminal-Bench, GPQA, AA-LCR — is het profiel van een model dat taken afmaakt, niet van een model dat een gesprek gaande houdt.

Geen van beide is een vervanging voor de andere. Een gamestudio die overtuigende NPC's wil, heeft geen 74B multimodale agent nodig; een agentplatform dat een webpagina moet lezen en een terminalcommando moet uitvoeren, kan geen 4B-conversatiemodel gebruiken dat alleen tekst aankan.

Wat een familie van twee modellen betekent voor de implementatie

De interessante architectonische consequentie is dat NVIDIA een portfolio heeft geleverd in plaats van een ladder. De E4B behandelt de reflexlaag, de 74B behandelt de laag voor lokaal werk, en Super VL 120B-A12B behandelt de zwaardere multimodale gevallen. Dat zijn drie verschillende geheugenbudgetten en drie verschillende taken, allemaal onder één licentie familie.

De meeste applicaties hebben nog steeds een vierde laag nodig die ze niet kunnen downloaden: een frontiermodel voor de verzoeken die de lokale hardware te boven gaan, of een tweede leverancier voor de modaliteit die het lokale model mist. Die via één API routeren — 200+ modellen, 0% opslag op de lijstprijs van de provider, automatische failover wanneer een provider degradeert — laat het lokale Bolt het snelle pad blijven en het gehoste model de uitzondering. Het alternatief is een aparte integratie, sleutel en factuur voor elk model boven de lokale laag.

Wat zou de familiekwestie beslechten?

Eén run. Haal beide Bolts door dezelfde harness op dezelfde taken — een conversationele set, een agentische set en een multimodale set — en publiceer de rijen. NVIDIA heeft de checkpoints, de evaluatiestack en de prikkel; toch koos het ervoor om in plaats daarvan twee afzonderlijke tabellen te publiceren.

Totdat dat bestaat, is de verdedigbare lezing dit: de 74B is het capabelere model, zowel door ontwerp als door bewijs, op de taken die NVIDIA koos te meten. De E4B is het geschiktere model voor een grote categorie interfaces waarbij een 24GB-agent absurd is en een 4GB-gespreksmodel precies goed. De naam op de doos is dezelfde. De machine binnenin niet.