Nemotron 3.5 Bolt 74B Releasedatum: NVIDIA perst een 74B-agentmodel in 24GB

NVIDIA Nemotron 3.5 Bolt 74B-A9B verschijnt op donderdag 15 oktober 2026, en NVIDIA Nemotron 3.5 Bolt E4B volgt op vrijdag 23 oktober. Die twee datums zijn het antwoord op een teaser: op 14 oktober plaatste het AI-account van NVIDIA "Er komen deze week zo veel modellen uit! En we hebben er zelf ook een op komst...⌛️", zonder dat er een naam bij stond. Het is de twee minuten waard om die teaser te checken, want de ontknoping is ongebruikelijk: de aankondiging waarnaar de tweet verwijst, was de dag ervoor al volledig gepubliceerd, in een NVIDIA-blogbericht van 13 oktober dat beide modellen noemt, beide datums, de geheugenvoetafdruk en de inferentieruntimes. Dit is dus geen lek, en het is geen gerucht. Het is een onvoldoende gepromote lancering, en de teaser was het zetje, niet de primeur.

Wat volgt scheidt wat NVIDIA daadwerkelijk heeft opgeschreven van wat niemand buiten het bedrijf nog heeft gemeten — wat, voor een model dat vandaag uitkomt, het grootste deel van de interessante kolom is.

De teaser, en waar het op uitdraaide

Twee dingen zijn het waard om vóór alles vast te leggen, want het zijn precies het soort detail dat in aggregatie wordt afgevlakt. Ten eerste de volgorde. De blogpost van NVIDIA, "All Systems Go: Global PC App Ecosystem Ready for NVIDIA RTX Spark", heeft als tijdstempel 2026-10-13T12:00Z. De post "one of our own coming" kwam binnen op 2026-10-14T20:29Z — ongeveer tweeëndertig uur later. De tweet is een verwijzing, niet de primaire bron, en elk artikel dat de tweet als de aankondiging behandelt, gaat uit van het verkeerde document.

Ten tweede doet de uitdrukking "een van ons" echt werk. NVIDIA is hier niet alleen de leverancier; het is dé platformleverancier van de week. Dezelfde post van 13 oktober kondigt het volgende aan: RTX Spark-laptops die op 16 oktober uitkomen, een herbouwd DLSS 5 AI-model dat debuteert in NBA 2K27 op dezelfde dag, NVIDIA PAIR uit bèta, en Broadcast 2.3. Bolt 74B is het taalmodel in een week waarin NVIDIA meerdere modellen van zeer uiteenlopende aard aankondigt. Als je op zoek was naar één product, is dat de reden waarom de berichtgeving verwarrend is.

Waartoe NVIDIA zich heeft verbonden, in zijn eigen woorden

De kernbewering is kort en specifiek. NVIDIA beschrijft Nemotron 3.5 Bolt 74B-A9B als "een nieuwe LLM die speciaal is gebouwd voor het draaien van lokale agents op RTX Spark", gebouwd als "een mixture-of-experts (MoE)-model met 74B parameters en 9B actieve parameters" dat "in 24GB is gepropt met behulp van 2-bits kwantisatie met geavanceerde quantization-aware training-technieken om de kwaliteit te behouden."

Drie dingen in die zin doen het werk:

• 9B actief, niet 74B. Dit is een sparse MoE. De routeringskosten per token volgen het actieve pad, niet het totale aantal parameters, en daarom wordt een 74B-model überhaupt voor een laptop gepresenteerd.

• 2-bits, bewust. Geen communitykwantisatie van een BF16-release, maar een model waarvan NVIDIA zegt dat het is getraind met kwantisatiebewuste technieken die erop gericht zijn de kwaliteit bij die breedte te behouden. Of dat standhoudt is een meting, geen bewering — zie het overzicht hieronder.

• 24GB is de beoogde omvang. NVIDIA positioneert de afweging als "de optimale balans tussen snelheid en intelligentie: sneller dan de meeste populaire dense modellen en tegelijk slimmer dan de meeste populaire MoE-modellen met een vergelijkbare geheugenvoetafdruk." Dat is de eigen positionering van NVIDIA, die door niemand is gereproduceerd.

Qua toegang noemt NVIDIA de runtimes expliciet: llama.cpp, vLLM, Ollama, Unsloth en LM Studio bij de lancering, plus direct gebruik via agents, waaronder Hermes en OpenClaw. En wat de licenties betreft, zegt het bericht dat Bolt 74B "volledig open source... inclusief trainingsdata, gewichten en recepten" is — dezelfde framing die NVIDIA toepast op de rest van de Nemotron-lijn.

Waarom 24GB het getal is waar het om gaat, niet 74B

Het opvallende getal hier is 74B. Het dragende getal is 24GB, en om een voor de hand liggende reden: 24GB is een accelerator-envelop van desktopklasse. Het is de capaciteit van één high-end consumentenkaart, en aan de laptopkant is het het kader waar NVIDIA de week omheen bouwt — RTX Spark-machines gaan tot maximaal 128GB unified memory en 1 petaflop aan AI-rekenkracht, en de laptops zelf verschijnen op 16 oktober.

Zet je die bij elkaar, dan is de propositie duidelijk. Een MoE met 9B actieve parameters waarvan de gewichten bij 2-bit in 24GB passen, betekent dat dezelfde build die op een workstationkaart past ook past op de laptop die de volgende dag wordt geleverd, met ruimte over voor de applicatie en een tweede klein model. Dat is een wezenlijk ander deploymentverhaal dan een gehost frontier-model achter een API, en het is de reden dat "local agent" in NVIDIA's eigen omschrijving van één regel staat in plaats van "cheap inference."

Het tegenwicht is dat een 2-bit-doel een beperking vormt op wat het model kan zijn. Elke kwaliteitsvergelijking met een BF16-model van vergelijkbare totale grootte is een vergelijking tussen verschillende artefacten, en NVIDIA heeft dat artefact bewust gekozen. Beoordeel Bolt 74B ten opzichte van andere lokale builds in de 24GB-klasse, niet ten opzichte van een checkpoint met volledige precisie dat er nooit in zou hebben gepast.

Het grootboek: bevestigd, beweerd maar ongemeten, en onbekend

Precies zijn over in welke kolom een feit staat, is de hele waarde ervan om dit in de eerste week te lezen in plaats van in de derde.

• Bevestigd door NVIDIA: de modelnaam, de MoE-vorm met 74B totaal / 9B actief, de 24GB 2-bit-voetafdruk, de datum 15 oktober, de vijf genoemde runtimes, agenttoegang via Hermes en OpenClaw, en de bewering dat gewichten, trainingsgegevens en recepten open zijn.

• Beweerd maar niet gemeten: de kwaliteitsclaim zelf. "Slimmer dan de meeste populaire MoE-modellen met een vergelijkbare geheugenvoetafdruk" en "sneller dan de meeste populaire dense modellen" worden in de aankondiging gepresenteerd zonder benchmarktabel. Een onafhankelijke evaluatie van Bolt 74B lijkt nog niet te bestaan.

• Onbekend op het moment van schrijven: het contextvenster; de genoemde licentie (NVIDIA zegt open source zonder er in deze post een te noemen); de exacte inferentiedoorvoer in de 24GB-klasse; of de release alleen downloadbare gewichten betreft of ook achter een API wordt aangeboden; of 2-bit de enige gepubliceerde precisie is; en hoe nauw de architectuur afstamt van de Nemotron 3.5 Lightning-lijn die NVIDIA al heeft uitgebracht in BF16- en NVFP4-builds.

Die laatste onbekende is degene om aan vast te houden. NVIDIA's eigen naamgeving bevat beide getallen — "74B-A9B" en het eerdere "30B-A3B" — dus op papier zijn de twee vergelijkbaar: ongeveer 2,5× het totale aantal parameters van het Lightning-model en 3× het aantal actieve. Of die verhouding 2-bitscompressie overleeft, is precies wat een eerste onafhankelijke benchmark zou beslechten.

Bolt E4B is de andere helft van de familie, en het is een ander product.

Nemotron 3.5 Bolt E4B, dat op 23 oktober verschijnt, is niet het kleinere broertje van de 74B zoals de naamgeving suggereert. NVIDIA noemt het "het kleine taalmodel (SLM) van de derde generatie voor NVIDIA ACE", de suite die het bedrijf gebruikt voor AI-personages in games — een lijn die het bedrijf terugvoert via een PUBG-bèta voor de eerste generatie en een Aniimo-preview op Gamescom voor de tweede.

De aangegeven ontwerpdoelen zijn gaming-vormig in plaats van agent-vormig: een voetafdruk van 4 GB, "snelle tijd tot eerste token", "een nieuwe gespreksmodus [die] helpt reacties beknopt en spraakklaar te houden", een schakelaar voor redeneren, en grounding in applicatiestatus voor multi-turn toolgebruik. NVIDIA combineert de release met een testrit in SkyrimNET, een Skyrim NPC-moddingplatform dat zowel cloud- als lokale inferentie ondersteunt, die dezelfde dag van start gaat.

Dus als je via de tweet kwam en één model verwachtte, krijg je er twee op verschillende data, in verschillende enveloppen, voor verschillende taken: 15 oktober voor de 24GB lokale agent, 23 oktober voor het 4GB-spelpersonage.

Hoe evalueer je het zonder er een roadmap op te wedden?

Het ongemakkelijke van een lokaal model op dag één is dat je nog geen antwoord kunt geven op de enige vraag die ertoe doet — houdt de 2-bit checkpoint stand onder jouw workload — en je kunt ook de tweede niet beantwoorden: of er een gehoste route is om mee te vergelijken. Beide hiaten zijn tijdelijk, en geen van beide is een reden om te plannen rond een benchmarktabel die niet bestaat.

De praktische aanpak is om de twee beslissingen gescheiden te houden. Draai Bolt 74B lokaal als experiment binnen de 24GB-ruimte die je al hebt, en houd het productiepad op wat vandaag aanroepbaar is. Dat tweede deel is waar routeringsinfrastructuur zijn bestaansrecht verdient: één sleutel voor meer dan 200 modellen tegen de lijstprijs van de provider met 0% opslag betekent dat het proberen van een tweede of derde kandidaat een configuratiewijziging kost in plaats van een tweede contract, en automatische failover tussen providers betekent dat een onbewezen lokale build nooit het single point of failure wordt voor een live agent.

Het is ook de eerlijke manier om NVIDIA's eigen framing te lezen. "Speciaal gebouwd voor het draaien van lokale agents op RTX Spark" is een uitspraak over waar het model draait, niet over wat het scoort. Behandel de datum van 15 oktober als het moment waarop een vraag beantwoordbaar wordt — niet als een antwoord.

Wat zou dit artikel veranderen

Drie dingen, ruwweg in de volgorde van hoeveel ze het beeld zouden veranderen.

• Een licentie die bij naam wordt genoemd en een openbare repository met gewichten. "Volledig open source, inclusief trainingsdata, gewichten en recepten" is de sterkste bewering in NVIDIA's post en het gemakkelijkst te verifiëren. Totdat de licentie bij naam wordt genoemd en de bestanden downloadbaar zijn, is die bewering een belofte.

• Een eerste onafhankelijke benchmark. De interessante vergelijking is niet Bolt 74B tegen een 70B-klassemodel met volledige precisie waarmee het nooit concurreerde. Het is Bolt 74B op 2-bit tegen elke andere build die in 24GB past, gemeten op dezelfde harness.

• Een gehost endpoint.Zonder zo'n endpoint valt er geen prijs te betwisten, en is er geen manier om ernaartoe te routeren. Als er een geserveerde versie verschijnt, wordt de prijsvergelijking met de modellen die al op je shortlist staan concreet, en wordt het de moeite waard om pass-through-prijsstelling dezelfde dag nog te controleren.

Totdat ten minste één daarvan werkelijkheid wordt, is de juiste houding interesse, niet toezegging. De teaser was echt, de datums zijn echt, en het model is echt. De evaluatie niet.

Vragen die een goed antwoord verdienen

Is Nemotron 3.5 Bolt 74B hetzelfde model als Nemotron 3.5 Lightning 30B-A3B?

Nee. Het zijn verschillende entries in dezelfde generatie, met verschillende vormen: Bolt telt 74B totaal met 9B actief, Lightning telt 30B totaal met 3B actief volgens de eigen naamgeving van NVIDIA. Bolt komt ook uit met een 2-bit-, 24GB-voetafdruk, terwijl NVIDIA de Lightning-lijn in BF16- en NVFP4-builds heeft gepubliceerd. Of ze een architectuur delen, zegt de aankondiging niet.

Kun je Bolt 74B draaien op een 24GB-desktopkaart, of alleen op een RTX Spark-laptop?

De door NVIDIA genoemde beperking is de voetafdruk, niet de machine — 24GB bij 2-bit — en de genoemde runtimes zijn llama.cpp, vLLM, Ollama, Unsloth en LM Studio, die niet exclusief voor NVIDIA zijn. RTX Spark is waar NVIDIA de marketing op richt, maar niets in de aankondiging maakt het tot de vereiste.

Host OrcaRouter Nemotron 3.5 Bolt 74B?

Vandaag niet, en er is nog niets om te hosten — NVIDIA heeft er geen geserveerd endpoint of prijs voor gepubliceerd. Als dat verandert, wordt het model aanroepbaar via dezelfde sleutel als al het andere in de catalogus, tegen de lijstprijs van de provider zonder extra opslag.

Voor een model waarvan de faalmodi nog niet gedocumenteerd zijn, is de nuttige tegenhanger de registratie van wat elders al is misgegaan: de gedocumenteerde AI-incidenten en agentfouten rond modellen in deze klasse zijn verzameld in het OrcaRouter AI Incident Archive, waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en betwistingsmarkering bevat.