Nemotron 3.5 Bolt vs Kimi K3: een 24GB-download tegenover een lezer met 2,8 biljoen parameters

Het eerlijke korte antwoord is dat deze twee modellen niet om dezelfde taak concurreren, en de reden is meetbaar in één getal. Kimi K3 heeft een context van 1.048.576 tokens. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB heeft 262.144 tokens. Als je taak is "lees dit hele corpus en antwoord in één doorgang", dan is het 24GB-checkpoint al uitgesloten nog voordat iets anders erover ertoe doet — en als je taak is "draaien op een workstation zonder netwerk, zonder meter en zonder leverancier in de keten", dan is Kimi K3 ook niet in beeld. Kimi K3 is een mixture-of-experts-model met 2,8 biljoen parameters, gepubliceerd door Moonshot AI op 15 juli 2026 onder een propriëtaire gehoste API. Nemotron 3.5 Bolt 74B-A9B 24GB is een open-weight-bestand dat voor elk gegeven token 9 miljard van zijn 74 miljard parameters besteedt en in 24GB geheugen past.

De Bolt-checkpoint werd op 7 oktober 2026 op Hugging Face geplaatst, zonder dat er een aankondiging aan hing. NVIDIA's eigen bericht waarin het model bij naam wordt genoemd — en zijn 4GB-tegenhanger, Nemotron 3.5 Bolt E4B — verscheen op 15 oktober, acht dagen later. Die volgorde is de moeite waard om te weten, omdat ze bepaalt wat controleerbaar is: de publieke informatie over die acht dagen bestaat uit een downloadbaar bestand en een modelkaart, en de tekst die er uitleg aan geeft, kwam pas daarna.

Wat elk model is gebouwd om te doen

Kimi K3 is Moonshots vlaggenschip en diens meest capabele release tot nu toe: een sparse mixture-of-experts-model met 2,8 biljoen parameters, waarvan ongeveer 104 miljard parameters per token actief zijn, gebouwd voor langdurige codeertaken en end-to-end kenniswerk; het accepteert tekst en afbeeldingen en retourneert tekst. Het wordt geserveerd, niet verzonden. Er is geen download, geen gekwantiseerde build om lokaal te draaien, en geen versie die klein genoeg is voor een laptop.

Nemotron 3.5 Bolt is de tegenovergestelde constructie. NVIDIA nam zijn 120B-A12B Nemotron 3.5 Super VL-model, paste daarop een door een router gestuurde compressie toe die het Star Elastic noemt om 74B-A9B te bereiken, en kwantiseerde het resultaat vervolgens naar 2,0625 bits per expert-element — een IQ2_XXS-formaat — met kwantisatiebewuste distillatie om de nauwkeurigheid te herstellen die het prijskaartje kost. De backbone is een hybride van Mamba-2 en Transformer die de leverancier LatentMoE noemt, met een C-RADIO v4-H visie-encoder voor beeld- en video-invoer. Het draait onder vLLM op Ampere-, Hopper- en Blackwell-chips, en op RTX Spark- en DGX Spark-hardware via llama.cpp, onder de OpenMDW-1.1-licentie die commercieel gebruik toestaat.

Het lezen van een lang corpus, geprijsd

Dit is waar de vergelijking rekenwerk wordt in plaats van voorkeur. Kimi K3 wordt via OrcaRouter gerouteerd tegen de listprijs van Moonshot, zonder dat er iets bij komt: $3,00 per miljoen inputtokens, $15,00 per miljoen outputtokens, en gecachte reads tegen $0,30. De p50-tijd tot het eerste token in onze catalogus is 7,02 seconden met een p95 van 10,00 seconden, en het verwerkte de afgelopen zeven dagen 990,6 miljoen tokens aan gerouteerd verkeer via onze catalogus — grootschalig lezen met lange context is een echte workload in plaats van een gedachte-experiment.

Nemotron 3.5 Bolt heeft geen prijs, omdat er niets te prijzen valt. Er is geen gehoste endpoint voor, geen leveranciers-API, geen tariefkaart, en Artificial Analysis vermeldt zowel de snelheid als de kosten per Intelligence Index-taak als N/A, precies om die reden. Wat het in plaats daarvan heeft, is een geheugenplafond dat je eenmalig koopt, en marginale kosten die afgerond neerkomen op de energierekening. Voor een pipeline die elke nacht een vast corpus leest, is het verschil tussen $3 per miljoen inputtokens en nul geen korting — het is een ander boekhoudmodel, en het break-evenpunt is een vraagstuk van kapitaaluitgaven dat je financiële team beantwoordt, niet dit artikel.

Visie is niet de beslissende factor die mensen veronderstellen.

Beide modellen accepteren afbeeldingen. Daar houdt de gelijkenis op.

• Invoer — Kimi K3 accepteert tekst en afbeeldingen; Nemotron 3.5 Bolt accepteert tekst, afbeeldingen en video. Voor een agent die een schermopname bekijkt of frames uit een camerafeed bemonstert, kan slechts één van deze het bestand rechtstreeks krijgen.

• Precisie van het vision-pad — Bolt beschikt over een speciaal voor dit doel gebouwde C-RADIO v4-H vision-encoder en erft het multimodale gedrag van de Super VL-client waaruit het is gecomprimeerd; het visuele begrip van Kimi K3 is gedocumenteerd als native, maar is niet het onderdeel van het model waarmee Moonshot vooroploopt. De eigen tabel van NVIDIA vermeldt een WebArena-visionscore van 50,86 voor Bolt; beschouw dit als door de leverancier gerapporteerd.

• Redeneercontrole — Kimi K3 biedt geen temperature, geen top_p en geen seed; de redeneerdiepte wordt uitsluitend bepaald door een reasoning-effort-parameter; Bolt's redeneermodus is een schakelaar in de chat-template, enable_thinking true of false, overgenomen van dezelfde Super VL-client.

• Speculatie — Bolt wordt geleverd met een LiLiCorr-drafter die via DFlash wordt aangestuurd en per stap zeven tokens vooruit voorstelt, het mechanisme achter NVIDIA's claim van 84 tokens per seconde op AIPerf SPEED-Bench. Er is geen gelijkwaardige hefboom op een gehost endpoint; je krijgt wat de operator voorziet.

De gemeten kloof, en waar die uit bestaat

Artificial Analysis plaatst Kimi K3 op 43,6 op zijn Intelligence Index en Nemotron 3.5 Bolt op 21. Dat valt onmogelijk als dicht bij elkaar te interpreteren. De ondersteunende rijen van Kimi K3 zijn sterk op de plekken waar een lezer met een lange context ze nodig heeft — een AA Coding Index van 76,2, goed voor een negende plaats van de 138 gemeten modellen, een GPQA Diamond-score van 93,5, en een long-context-recallwaarde van 88,7, het getal dat je vertelt dat het venster van een miljoen tokens bruikbaar is en niet louter aangekondigd.

Bolt's 21 is een ander soort resultaat. Het is de op drie na hoogste score onder 67 modellen in zijn op voetafdruk gefilterde klasse, tegenover een klassemediaan van 8, en Artificial Analysis beschrijft het als een van de toonaangevende open-weight modellen van vergelijkbare grootte. De juiste manier om beide cijfers te bezien is dat het ene meet wat een frontierlab zonder geheugenbeperking kan doen en het andere meet wat 24GB kan bevatten. Tweeëntwintig indexpunten is de prijs van de beperking, niet het bewijs dat het kleinere model slecht is gebouwd.

Wat aan de kant van Bolt ontbreekt, is een onafhankelijke meting van hoe snel het is. NVIDIA meldt ten minste 80 tokens per seconde bij het decoderen als ontwerpdoel en 84 op zijn eigen bench, met 83,99 tokens per seconde in een llama.cpp-run op een Surface Laptop Ultra met 128GB. Op het moment van schrijven heeft geen enkele derde partij een doorvoer- of latentiecijfer gepubliceerd voor de 24GB-gewichten. De latentie van Kimi K3 daarentegen is gemeten en openbaar — 7,02 seconden p50 tot het eerste token, 10,00 seconden p95 — en dat zijn de cijfers waarmee je moet rekenen, niet die van de leverancier.

Waar een routeringslaag het antwoord verandert

Kimi K3 staat in onze catalogus als kimi/kimi-k3 tegen Moonshot's listprijs met 0% markup erbovenop, achter dezelfde sleutel als 200-plus andere modellen, met automatische failover tussen upstreamproviders wanneer er één verslechtert. Nemotron 3.5 Bolt staat niet in onze catalogus — we hosten geen enkele NVIDIA-checkpoint en er is geen Bolt-endpoint om aan te roepen — dus de routingvraag hier is niet welke van de twee wij aanbieden. Het is hoe de twee helften van een echte pipeline met elkaar praten.

Het patroon dat werkt, is een lokale lezer en een gehoste redeneerder. Bolt draait op je hardware en handelt de hoogfrequente passes af waarbij de data het gebouw niet mag verlaten en het volume facturering per token pijnlijk zou maken. Kimi K3 handelt de verzoeken af die een venster van een miljoen tokens of redeneren op frontier-schaal nodig hebben, tegen $3 en $15 per miljoen tokens. Zet een routeringsregel vóór beide en de splitsing wordt één regel configuratie in plaats van een refactor: een verzoek dat het lokale contextbudget overschrijdt, gaat naar Kimi K3, al het andere blijft op het werkstation. Modelfusie is de variant die het kennen waard is als de dure aanroepen de belangrijke zijn — meerdere modellen beantwoorden samen dezelfde prompt en je neemt de overeenstemming.

Wat te kijken

Het specifieke bewijs dat deze koppeling zou beslechten is beperkt en ophanden. Een eerste onafhankelijke doorvoer- en latentietest op de 24GB Bolt-gewichten zou NVIDIA's 84 tokens per seconde ofwel bevestigen ofwel naar beneden bijstellen; een gepubliceerde gehoste prijs voor Bolt zou de kostenhelft van deze vergelijking tot rekenwerk maken; en een tweede recallmeting bij lange context voor Kimi K3 zou bevestigen dat de 88,7 een eigenschap van het model is en niet van één harness.

Tot die tijd is de samenvatting beperkter dan de framing van beide leveranciers. Kimi K3 is het betere model op elke as die een benchmark kan meten, en het is de enige van de twee die je vanmiddag kunt aanroepen. Nemotron 3.5 Bolt is de enige van de twee die blijft werken wanneer het netwerk dat niet doet, en de enige waarvan de marginale kosten per token nul zijn. Kies de tweede voor het werk dat nooit ergens naartoe had mogen worden gestuurd, en de eerste voor het werk dat bereik nodig heeft.