Nemotron 3.5 Bolt vs GPT-5.6 Sol: Een van deze twee modellen heeft een prijs

Je kunt deze twee modellen niet op kosten vergelijken, en dat is juist het nuttigste aan de vergelijking. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB is een bestand van 24GB: download het, en de marginale prijs van het miljoenste token is de elektriciteit. GPT-5.6 Sol is een gehost vlaggenschipmodel dat wordt afgerekend tegen $4,00 per miljoen inputtokens en $20,00 per miljoen outputtokens, met een gepubliceerde p50-tijd tot het eerste token van 1,63 seconden en 535,5 miljoen tokens aan verkeer in de afgelopen zeven dagen. Een van die twee heeft een tariefkaart. De andere heeft een hardwarevereiste, wat een ander soort rekening is die één keer komt.

Beide modellen zijn echt en beide zijn verkrijgbaar. NVIDIA's Nemotron 3.5 Bolt 74B-A9B 24GB-checkpoint stond vanaf 7 oktober 2026 op Hugging Face met niets anders eraan verbonden dan een modelkaart, en de eigen aankondiging van de leverancier van de Bolt-lijn volgde op 15 oktober — acht dagen later, in een bericht waarin zowel dit model als een 4GB-variant bij naam wordt genoemd. GPT-5.6 Sol staat sinds 9 juli 2026 op de prijslijst van OpenAI. Als je deze week tussen hen moet kiezen, gaat de beslissing niet over welke slimmer is. Het gaat erom of de workload je machine kan verlaten.

Wat de kloof van eenentwintig tegen negenenvijftig meet

Artificial Analysis geeft Nemotron 3.5 Bolt 74B-A9B een score van 21 op zijn Intelligence Index, waarmee het vierde van de 67 modellen is in de vergelijkingsklasse waarin het is ingedeeld. GPT-5.6 Sol zit in de hoge vijftig op dezelfde versie van de index. Een verschil van ergens rond de veertig punten is enorm, en zo gesteld beslecht het de discussie voordat die begint.

De kloof is ook twee verschillende metingen die één getal dragen. De 21 is de beste score die een open-weightmodel bij deze omvang heeft behaald — Artificial Analysis registreert de mediaan voor vergelijkbare open-weightmodellen op 8, en merkt op dat Bolt "tot de leidende modellen op het gebied van intelligentie behoort in vergelijking met andere open-weightmodellen van vergelijkbare grootte". De ongeveer 59 is wat een frontierlab produceert wanneer geheugen geen beperking vormt. Geen van beide getallen is fout. Ze beantwoorden verschillende vragen: hoeveel intelligentie er in 24GB past, en hoeveel intelligentie geld kan kopen.

Wat het panel niet kon meten, is interessanter dan wat het wel kon. De Artificial Analysis-pagina voor Bolt vermeldt snelheid als N/A en kosten per Intelligence Index-taak als N/A, om de simpele reden dat er geen gehoste endpoint is om aan te roepen. Elk snelheidscijfer dat voor dit model bestaat, komt van NVIDIA's eigen bench: de onderzoeksnotitie noemt een ontwerpdoel van ten minste 80 tokens per seconde bij het decoderen en meldt 84 tokens per seconde op de AIPerf SPEED-Bench op RTX Spark, met 83,99 tokens per seconde in een llama.cpp-run op een Surface Laptop Ultra met 128GB. Die kunnen heel goed kloppen. Niemand buiten NVIDIA heeft ze gereproduceerd, en je moet ze als een leveranciersclaim beschouwen totdat iemand dat wel doet.

Waar het gehoste model structureel vooroploopt

Drie verschillen gaan helemaal niet over intelligentie, en elk daarvan diskwalificeert het lokale bestand voor een categorie werk.

• Context — GPT-5.6 Sol biedt een venster van 1.050.000 tokens met een maximale uitvoer van 128.000 tokens; Nemotron 3.5 Bolt gaat tot 262.144 tokens. Een vier keer zo breed venster is geen luxefunctie wanneer de taak een repository of een contractarchief in één verzoek is. Het venster van Bolt moet ook 24GB delen met de KV-cache, de afbeeldingen, de videoframes en de gespreksgeschiedenis, wat betekent dat het praktische plafond eerder wordt bereikt dan de specificatie suggereert.

• Invoertypen — GPT-5.6 Sol accepteert tekst, afbeeldingen en bestanden; Nemotron 3.5 Bolt accepteert tekst, afbeeldingen en video en retourneert tekst. Dat is een echt voordeel voor Bolt bij video en een echte tekortkoming bij documenten, want een PDF die als bestand wordt doorgegeven hoeft niet te worden gerasterd, gepagineerd of frame voor frame te worden geanalyseerd.

• Beschikbaarheid — GPT-5.6 Sol is een URL. Nemotron 3.5 Bolt is een vLLM-implementatie die Ampere-, Hopper- of Blackwell-silicium vereist, of een llama.cpp-run op een RTX Spark- of DGX Spark-apparaat. Een van die twee kun je binnen vier minuten gebruiken.

Er is een vierde verschil dat minder met capaciteit te maken heeft en meer met verbruiksmeting: elke aanroep naar het gehoste model levert een factuurregel op, en elke aanroep naar het lokale model niet. Voor een grootschalige classificatie- of extractielus is die omkering belangrijker dan veertig indexpunten.

Wat het bezitten van het bestand daadwerkelijk oplevert

Nemotron 3.5 Bolt 74B-A9B is een sparse mixture-of-experts-model met 74 miljard parameters en 9 miljard actief per token, gebouwd op een hybride backbone van Mamba-2 en Transformer die NVIDIA LatentMoE noemt, met een C-RADIO v4-H vision-encoder eraan vastgeschroefd voor het multimodale werk. Het is een compressie-artefact in de meest letterlijke zin: NVIDIA nam het 120B-A12B Nemotron 3.5 Super VL-model, paste een router-gestuurde zoektocht toe die het Star Elastic noemt om het te verkleinen tot 74B-A9B, en voerde vervolgens quantization-aware distillation uit tot 2,0625 bits per expertgewicht — een IQ2_XXS-formaat — om binnen 24GB te passen zonder vanaf nul opnieuw te trainen. De licentie is OpenMDW-1.1, die commercieel en niet-commercieel gebruik toestaat.

Dit heeft twee consequenties. De eerste is dat het model naast andere applicaties op een workstation draait in plaats van ze te vervangen, wat een lokale agent überhaupt levensvatbaar maakt. De tweede is dat het wordt geleverd met ingebouwde speculatie: een LiLiCorr-drafter die via DFlash wordt aangestuurd, stelt zeven tokens vooruit voor, en dat is waar een betekenisvol deel van die 84 tokens per seconde vandaan komt.

De eigen benchmarktabel van de leverancier, die niemand buiten NVIDIA heeft gereproduceerd, zet het 24GB-checkpoint vóór elke baseline in dezelfde tabel — een Qwen3.6 35B, een Gemma 4 26B en NVIDIA's eigen Nemotron 3.5 Lightning 30B-A3B — op GDPVal-AA-V2 (28,47), Terminal-Bench 2.1 (50,98), GPQA Diamond (86,43), SciCode (41,02) en BrowseComp (66,75). Lees die als beweringen over hoe een gecomprimeerd 74B-model zich verhoudt tot ongecomprimeerde modellen die een derde zo groot zijn — precies wat ze beogen te tonen — en niet als een vergelijking met een gehost vlaggenschipmodel.

De twee helften eerlijk op waarde schatten

Het gehoste deel heeft een ondubbelzinnige prijs. GPT-5.6 Sol staat in de catalogus van OrcaRouter als openai/gpt-5.6-sol tegen de lijstprijs van OpenAI's provider doorgegeven met 0% markup — $4,00 per miljoen inputtokens en $20,00 per miljoen outputtokens, dezelfde cijfers op onze pagina als bij de leverancier, wat betekent dat een wijziging aan leverancierszijde dezelfde dag nog bij ons doorwerkt in plaats van bij de volgende contractvernieuwing. Een input van 20.000 tokens met 3.000 tokens output kost $0,08 aan input en $0,60 aan output, of ongeveer $0,68 per aanroep.

Het lokale deel heeft geen prijs die wij bereid zijn te verzinnen. Er is geen gehost endpoint voor Nemotron 3.5 Bolt, geen tariefkaart, en geen platform van derden dat het gebruik ervan meet en waarnaar we u kunnen verwijzen. Er een prijs aan hangen betekent een prijs hangen aan een GPU, een stroomverbruik en een afschrijvingsperiode — rekenwerk dat in uw spreadsheet thuishoort en niet in het onze, want het antwoord hangt volledig af van hoeveel u het draait.

Die asymmetrie is waar een routeringslaag iets concreets doet in plaats van iets decoratiefs. Nemotron 3.5 Bolt staat niet in onze catalogus en wij bieden het niet aan; niets hier is een aanbod om NVIDIA's checkpoint te hosten. Wat één endpoint wél oplevert, is de mogelijkheid om de lokale en gehoste helften van een workflow onder één sleutel te houden, zodat een verzoek naar GPT-5.6 Sol kan worden gestuurd wanneer het een venster van een miljoen tokens of een bestandsinvoer nodig heeft, en naar je eigen Bolt-implementatie wanneer dat niet het geval is — met de regel die bepaalt welke welke is, één keer geschreven in plaats van hardgecodeerd in elke service. Als de gehoste provider degradeert, verplaatst automatische failover het verzoek in plaats van dat het verzoek mislukt.

Welke moet je kiezen?

• Kies Nemotron 3.5 Bolt 74B-A9B 24GB wanneer de data het gebouw niet mag verlaten, wanneer de workload video bevat, wanneer het volume hoog genoeg is dat betaling per token de dominante kostenpost is, of wanneer je een agent wilt laten draaien op hardware die je al bezit. Accepteer een venster van 262K en een indexscore die ongeveer een derde is van die van het gehoste model. Verifieer de doorvoerclaims op je eigen apparaat voordat je je capaciteitsplanning erop baseert.

• Kies GPT-5.6 Sol wanneer de taak de breedste context, bestandsinvoer, het sterkste beschikbare redeneervermogen en een supportcontract daarachter vereist. Betaal $4 en $20 per miljoen tokens voor dat voorrecht, en let op dat de maximale uitvoer van 128K een langere enkele respons is dan een geheugenbudget van 24GB comfortabel toestaat.

• Draai beide wanneer de workflow zich netjes opsplitst, wat voor de meeste agentsystemen het geval is. Het lokale bestand verwerkt de helft met hoge frequentie, laag risico en privacygevoeligheid; het gehoste model verwerkt de verzoeken die bereik nodig hebben.

De openstaande vraag is dezelfde die de laatste gecomprimeerde Nemotron opwierp en die niemand beantwoordde: een eerste onafhankelijke meting van doorvoer en latentie van de 24GB-gewichten, uitgevoerd door iemand die niet bij NVIDIA werkt. Zolang die niet bestaat, is de intelligentieondergrens van dit model extern geverifieerd en het snelheidsplafond niet — en bij een lokale implementatie is de snelheid de helft die je voelt.