Nemotron 3.5 Bolt E4B 4GB mot Nemotron 3.5 Bolt 74B-A9B 24GB: Samma namn, motsatta maskiner

NVIDIA släppte två modeller som heter Bolt med åtta dagars mellanrum. NVIDIA-Nemotron-3.5-Bolt-E4B-4GB lanserades den 23 oktober 2026: en textbaserad konversationsmodell med totalt 8B parametrar, eftertränad från Gemma-4-E4B-it. NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB – modellen som de flesta menar när de säger Nemotron 3.5 Bolt – lanserades den 15 oktober: en multimodal agent med totalt 74B parametrar och 9B aktiva, komprimerad till två bitar per expertvikt.

De delar en badge, en licens och ett lanseringsfönster. De delar inte en moderarkitektur, en modalitet, ett kontextfönster, en benchmarksvit eller en uppgift. Att läsa "Bolt" som en storleksstege är misstaget som den här jämförelsen finns för att förhindra.

Den ena är ett Gemma-derivat. Den andra är en komprimerad 120B-agent.

Släktlinjen förklarar nästan allt annat.

E4B började sitt liv som Gemma-4-E4B-it, Googles instruktionstränade småmodell, och NVIDIA eftertränade den med förstärkningsinlärning från verifierbara belöningar och mänsklig återkoppling via NeMo-RL och NeMo-Gym. Arkitekturen är Gemmas: 8B totala parametrar med 4B effektiva, en in- och utdataväg för enbart text samt ett kontextfönster på 64K. NVIDIAs bidrag är beteende, inte stomme.

74B började från Nemotron 3.5 Super VL 120B-A12B, NVIDIAs egen multimodala föräldramodell. NVIDIA körde en routerstyrd arkitektursökning som heter Star Elastic mot en minnesbudget på 24 GB och tog fram en hybrid med 74 miljarder parametrar och 9 miljarder aktiva parametrar per token, som kombinerar Mamba-2- och Transformer-lager i en LatentMoE-design, med en C-RADIO v4-H-visionencoder. Den tar emot text, bilder och video och hanterar 256K tokens kontext.

Enkelt uttryckt: E4B är en konversationsmodell som NVIDIA har finjusterat. 74B är en agentmodell som NVIDIA har komprimerat. Namnet "Bolt" beskriver distributionsmålet – intelligens per gigabyte – inte en gemensam arkitektur.

Specifikationerna, sida vid sida

• Totalt antal och aktiva parametrar – 8B totalt med 4B effektiva för E4B; 74B totalt med 9B aktiva för 74B.

• Arkitektur — Gemma-4-E4B för den lilla modellen; Mamba-2 plus Transformer-hybrid LatentMoE för den stora, med Star Elastic-komprimering från Super VL-föräldern.

• Modalitet — {{1}}text som indata, text som utdata för E4B; text, bilder och video som indata, text som utdata för 74B.{{/1}}

• Kontextfönster — 64K tokens in och 64K ut för E4B; upp till 256K tokens för 74B.

• Precision — Q4_K_M för E4B:s medföljande GGUF; IQ2 på ungefär 2,0625 bitar per expertvikt för 74B, med NVFP4 på vissa Mamba-lager och Q8_0-inbäddningar.

• Publicerade vikter – 6,18 GB Q4_K_M och 15,88 GB BF16 för E4B; 23,75 GB GGUF-vikter plus visionsprojektor, 24,12 GB vLLM-redo safetensors och 149,8 GB i BF16 för 74B.

• Licens — OpenMDW-1.1 för båda, med Gemma 4-komponenten under Apache 2.0 i E4B:ns stack.

• Releasedatum – 23 oktober 2026 för E4B; 15 oktober 2026 för 74B.

• Runtime — llama.cpp för E4B, där kortet markerar receptet som "pending" trots att det levereras med snabbstartskommandon; vLLM för 74B, med ett referensrecept som låser en nightly-container via commit-hash.

En metadatafälla är värd att uppmärksamma innan den orsakar ett köpmisstag. Hugging Face-filwidgeten på 74B-repositoriet visar "22B params" medan modellkortet anger 74B totalt och 9B aktiva. Kortet har rätt: 22B är ett inaktuellt fält i sidofältet, inte en tredje variant, och den som dimensionerar hårdvara utifrån widgeten i stället för kortet kommer att ha rejält fel åt andra hållet.

Benchmarktabellerna har inte en enda rad gemensam

Detta är det viktigaste att förstå innan man jämför de två, och det är just det som de flesta genomgångar hoppar över.

NVIDIA utvärderade 74B på GDPVal-AA-V2, Terminal-Bench 2.1, Tau3 Banking, HLE, AA-Omniscience, SciCode, GPQA Diamond, AA-LCR, PinchBench, MCP-Atlas, BrowseComp och WebArena. Företaget utvärderade E4B på MultiChallenge, RoleBench, RoleMRC, EQ-Bench v3, Brevity, BFCL-v3, When2Call, ToolSandbox, Tau2-Bench, IHEval, AgentIF, StructEval-T, IFBench, InverseIFEval, RULER, LongMemEval, LongBench v2, SysBench, GaRAGe, RAGTruth och RelyToolBench.

Det finns ingen överlappning. Inte en enda rad förekommer i båda tabellerna. De två sviterna använder till och med olika versioner av den agentiska benchmarken – Tau2 för E4B, Tau3 Banking för 74B – så inte heller det mest lika paret är jämförbart.

Det innebär att varje påstående av formen "74B är X poäng bättre än E4B" är påhittat. NVIDIA har inte publicerat ett gemensamt testramverk, och ingen tredje part har kört ett sådant. Vad tabellerna däremot ger stöd för är ett uttalande om designavsikt:

• 74B mättes på uppgifter som ser ut som arbete – terminalanvändning, webbläsning, vetenskaplig kodning, frågor på forskarnivå och resonemang över lång kontext. Dess starkaste publicerade resultat är BrowseComp 66,75, Terminal-Bench 2.1 50,98, GPQA Diamond 86,43 och AA-LCR 64,06.

• E4B mättes på uppgifter som liknar samtal – personabevarande, instruktionshierarki, att veta när ett verktyg ska anropas, förankring i verktygsutdata. Dess starkaste rader är IHEval 84,79, RoleBench 67,05, RelyToolBench 63,16 och When2Call 63,36.

Båda uppsättningarna är leverantörsrapporterade och ej reproducerade. Kortet för 74B innehåller en extra hake som är värd att flagga: NVIDIA beskriver modellen som den främsta öppna modellen i sin klass på PinchBench, men dess egen tabell visar Qwen3.6-35B-A3B på 88,07 mot 87,82 för Bolt. Det är en differens på 0,25 punkter och ett påstående som inte riktigt överlever sin egen fotnot.

Hastighetspåståenden, med hårdvaran bifogad

Genomströmning är det enda området där båda korten publicerar siffror, och ändå går de inte att jämföra.

• E4B på ett RTX 5070 12GB — 106,2 till 133,4 tokens per sekund, 548 till 1 238 ms till första token, 3,5 till 4,3 GB VRAM, uppmätt med llama.cpp och CUDA vid batch 1.

• E4B på en Jetson Orin Nano 8GB – 13,0 till 15,5 token per sekund och 5,8 till 6,3 sekunder till första token. Samma modell, på den hårdvara som "4GB"-argumentet egentligen handlar om.

• 74B på ett RTX Spark – 83,99 tokens per sekund på AIPerf SPEED-Bench-Coding, med LiLiCorr-draftaren ansluten och sju spekulativa tokens per steg.

Siffran 74B förutsätter en separat 1.13B drafter-checkpoint, ett specifikt benchmark och annan hårdvara än vid någon av E4B-körningarna. Siffran för E4B förutsätter ingen drafter. Att jämföra 133 med 84 och dra slutsatsen att den lilla modellen är snabbare är tekniskt sett sant och praktiskt taget meningslöst: den ena är en modell med fyra miljarder effektiva parametrar på en stationär GPU, den andra är en modell med nio miljarder aktiva parametrar på en annan maskin med en spekulativ dekoder påmonterad.

Det siffrorna faktiskt fastställer är avvägningens form. E4B är byggd för tid till första token; 74B är byggd för uthålligt agentiskt arbete där 84 tokens per sekund räcker. Raden för Orin Nano är varningen: en 4GB-modell på inbyggd hårdvara är inte automatiskt en realtidssamtalspartner.

Minne: 4 GB och 24 GB är kuvert, inte filer.

Båda namnen använder ett minnesmål, och inget av numren är nedladdningen.

• E4B — en 6,18 GB Q4_K_M GGUF. NVIDIA mäter 3,1 till 4,3 GB VRAM i sina egna batch-1-körningar på RTX-hårdvara. Kortet publicerar ingen 4 GB-fil.

• 74B — 22,02 GB GGUF-vikter plus en separat visionsprojektor på 1,73 GB, vilket ger 23,75 GB totalt, eller 24,12 GB i den vLLM-redo safetensors-versionen. Det är expertkvantiseringen på 2,0625 bitar som gör 24 GB-utrymmet möjligt.

• BF16-byggen – 15,88 GB för E4B, 149,8 GB fördelade över 63 shardar för 74B. Varianterna med full precision är avsedda för efterträning, inte driftsättning, och 74B:s modellkort säger det uttryckligen.

Lagringsgapet är ungefär fyra mot ett vid driftsättningsprecision och ungefär nio mot ett vid full precision. VRAM-gapet är mindre än parametergapet eftersom 74B betalar för sin komprimering i bitar, inte i storlek.

Modalitet och kontext avgör mer än parameterantalet

Ett textfönster på 64K och ett multimodalt fönster på 256K är inte samma produkt med olika gränser.

74B kan titta på en bild eller en video och agera utifrån den. Dess kort anger RGB-JPEG- eller PNG-indata, MP4-video på upp till två minuter och vägledning om en bildruta per sekund vid 1080p eller två bildrutor per sekund vid 720p. Den kan läsa en skärmbild, ett diagram, ett formulär eller en kameraström och sedan anropa verktyg baserat på vad den såg. Det är förmågan som gör den till en agent för webbläsning och skrivbordsarbete.

E4B kan inte se. Den tar emot text och returnerar text, och dess 64K-fönster är uttryckligen svagare än jämförbara modellers vid informationsåtervinning: RULER 86,99 mot Qwen3.5 4B:s 95,15, LongBench v2 50,50 mot 59,93. Om din applikation behöver hålla ett långt dokument eller en skärmbild i vy är E4B fel modell oavsett hur bra dess persona-poäng är.

Vem var och en är till för

E4B är till för gränssnittslagret. Interaktiva karaktärer, röstassistenter, agenter för inbyggda enheter, robotar som behöver välja ett manus och tala, och alla applikationer där modellen måste svara inom några hundra millisekunder på hårdvara som kostar mindre än en arbetsstation. NVIDIA:s demos gör avsikten konkret: en Reachy Mini-robot på en Jetson Orin Nano som använder E4B för att välja animationsskript medan en separat visionsmodell hanterar perception, och en smeds-NPC som verifierar betalning, slår upp ett recept, samlar in ingredienser och överlämnar ett föremål.

74B är för arbetslagret. Alltid påslagna personliga agenter som surfar, kodar, analyserar data, övervakar bakgrundsuppgifter och anropar API:er. Den körs på RTX Spark, DGX Spark, RTX PRO-arbetsstationer och GeForce RTX-kort med tillräckligt minne, och den är utformad för att ligga vid sidan av andra program inom en budget på 24GB. Dess benchmarkprofil – BrowseComp, Terminal-Bench, GPQA, AA-LCR – är profilen för en modell som slutför uppgifter, inte en som håller en konversation.

Ingendera är en ersättning för den andra. En spelstudio som vill ha trovärdiga NPC:er behöver inte en multimodell agent på 74B; en agentplattform som behöver läsa en webbsida och köra ett terminalkommando kan inte använda en textbaserad konversationsmodell på 4B.

Vad en tvåmodellsfamilj innebär för driftsättning

Den intressanta arkitektoniska konsekvensen är att NVIDIA har levererat en portfölj snarare än en stege. E4B hanterar reflexskiktet, 74B hanterar det lokala arbetslagret och Super VL 120B-A12B hanterar de tyngre multimodala fallen. Det är tre olika minnesbudgetar och tre olika arbetsuppgifter, alla under en och samma licensfamilj.

De flesta applikationer kommer fortfarande att behöva ett fjärde lager som de inte kan ladda ner: en frontier-modell för de förfrågningar som överstiger den lokala hårdvaran, eller en andra leverantör för den modalitet som den lokala modellen saknar. Att routa dem genom ett enda API – 200+ modeller, 0 % påslag på leverantörens listpris, automatisk failover när en leverantör försämras – gör att den lokala Bolt kan förbli den snabba vägen och den hostade modellen undantaget. Alternativet är en separat integration, nyckel och faktura för varje modell ovanför den lokala nivån.

Vad skulle avgöra familjefrågan

En enda körning. Kör båda Bolt genom samma testrigg på samma uppgifter – en samtalsuppsättning, en agentisk uppsättning och en multimodaluppsättning – och publicera raderna. NVIDIA har checkpunkterna, utvärderingsstacken och incitamentet; ändå valde företaget att publicera två separata tabeller i stället.

Till dess att det finns är den försvarbara tolkningen denna: 74B är den mer kapabla modellen till sin utformning och enligt bevisen, på de uppgifter som NVIDIA valde att mäta. E4B är den mer lämpliga modellen för en stor klass av gränssnitt där en 24GB-agent är absurd och en 4GB-konversationsmodell är precis rätt. Namnet på lådan är detsamma. Maskinen inuti är det inte.