NVIDIA Nemotron 3.5 Super VL uitgebracht: 120B open gewichten, een claim van 5x en een addertje onder het gras van 249 GB

NVIDIA Nemotron 3.5 Super VL is verschenen, en de specificatie die zou moeten bepalen of je ermee aan de slag gaat, is niet degene waarmee de aankondiging opent. Het model is een vision-language-systeem met 120B parameters, 12B actieve parameters, een context van 1M tokens, native speculative decoding en ondersteuning voor tekst, afbeeldingen, documenten en video. Het lanceringsbericht van NVIDIA is gedateerd op 15 oktober 2026 en presenteert het als het snelste open agentische model in zijn klasse — "tot 5x snellere doorvoer vergeleken met andere modellen in zijn klasse," gemeten op de ranglijst van de Artificial Analysis Intelligence Index. Wat het bericht je niet voorhoudt, is dat de release uit twee checkpoints bestaat, dat het verschil daartussen 174 GB VRAM is, en dat de kleinere onevenredig veel betaalt voor die besparing.

Wat er daadwerkelijk op 15 oktober is uitgeleverd

Er gebeurden twee dingen op verschillende dagen, en dat verschil is van belang als je de datum van een deployment wilt vaststellen. De weights verschenen op 12 oktober om 15:32 UTC op Hugging Face. De aankondiging volgde op 15 oktober. In de eigen model card van NVIDIA wordt de release vermeld als 10/15/2026 met versie 1.0 GA, dus de leverancier beschouwt de 15e als de uitgiftedatum; de tijdstempels van de repository zeggen iets anders. Geen van beide data is meer dan een week oud, en beide zijn recent genoeg dat niets van deze release de tijd heeft gehad om onafhankelijk te worden gereproduceerd.

De release is breder dan het model waarnaar de aankondiging is vernoemd:

• Nemotron 3.5 Super VL — het vlaggenschip, 120B totaal / 12B actief, in een BF16-build en een NVFP4-build, beide gepubliceerd op 12 oktober.

• Nemotron 3.5 Super VL Base — het checkpoint vóór post-training, gepubliceerd naast de instruct-versie, wat van belang is omdat de licentie je in staat stelt je eigen post-training uit te voeren.

• Nemotron 3.5 Bolt 74B-A9B 24GB — een edge-model dat dankzij native 2-bit-kwantisatie in 24 GB past, gepubliceerd op 7 oktober.

• Nemotron 3.5 Bolt E4B 4GB — de kleinste van de familie, gedateerd 23 oktober.

De architectuur is een Mamba-2/Transformer-hybride Mixture-of-Experts met Multi-Token Prediction, 512 gerouteerde experts per MoE-laag, een C-RADIO-visie-encoder en een visie-taalconnector. Multimodale verwerking omvat OCR, tabellen, grafieken, documenten van meerdere pagina's en visuele grounding; video wordt geaccepteerd als MP4 tot een maximale duur van twee minuten, bemonsterd op 2 FPS en tot 256 frames, of 1 FPS en 128 frames bij 1080p. De licentie is OpenMDW-1.1, waarvan de modelkaart aangeeft dat deze geschikt is voor commercieel of niet-commercieel gebruik — een werkelijk permissieve set voorwaarden, en een wezenlijk deel van waarom deze release aandacht trok.

Twee controlepunten, en de 174 GB daartussen

Dit is waar de release interessant wordt voor iedereen die voor GPU's moet betalen. NVIDIA heeft hetzelfde model twee keer gepubliceerd, met twee precisieniveaus, en de twee builds liggen qua grootte niet dicht bij elkaar. Beide onderstaande cijfers zijn overgenomen uit de bestandslijsten van de Hugging Face-repository, die de groottes van de afzonderlijke weight-shards vermelden:

• BF16-checkpoint — 248,94 GB verdeeld over 63 shards. De safetensors-header zet het aantal parameters op 124,45 miljard.

• NVFP4 checkpoint — 75,06 GB verdeeld over 88 shards. Inferentie draait W4A4 op Blackwell en W4A16 op alles wat ouder is.

• Hardware, volledige precisie — NVIDIA's kaart vermeldt 4× H100 of 2× GB200 voor tekst, beeld en video.

• Hardware, gequantiseerd — 1× H200, 2× H100, 1× GB200, of een enkele DGX Spark, waarbij het Spark-pad een LiLiCorr-drafter nodig heeft voor speculatieve decoding.

• De besparing — 173,88 GB, of ongeveer 3,3× kleiner op schijf, en het verschil tussen een node met vier GPU's en één enkele accelerator.

Lees dat als een economische kwestie, want dat is het. Van vier H100's naar één H200 gaan is geen tuningbeslissing; het is het verschil tussen een model dat je dit kwartaal achter een product kunt zetten en een model dat je dat niet kunt. Het kwantisatierecept dat NVIDIA gebruikte, is ook zorgvuldiger dan gebruikelijk: de vision-encoder, de connector, de Mamba-convoluties en de embeddings blijven in BF16, de MoE-router blijft in FP32, en de rest wordt geproduceerd door kwantisatiebewuste distillatie uit het BF16-model, met daarbovenop 200 iteraties van SFT-gebaseerde distillatie.

Wat de gekwantiseerde build inlevert

NVIDIA heeft een gepaarde tabel gepubliceerd waarin de twee checkpoints worden vergeleken terwijl elke andere instelling constant werd gehouden, wat de eerlijke manier is om deze vergelijking uit te voeren en zeldzamer is dan het zou moeten zijn. De onderstaande paren zijn de eigen cijfers van NVIDIA, afkomstig uit de NVFP4-modelkaart, en ze wijzen niet allemaal in dezelfde richting.

Waar de gekwantiseerde build verliest:

• Terminal-Bench 2.1 — 66,70 in BF16 tegen 60,80 in NVFP4. Een daling van 5,9 punten, de grootste individuele regressie in de tabel.

• WebVoyager, offline — 77,72 tegen 66,31. Een daling van 11,4 punten bij browser-agent-werk.

• DeepSWE, offline — 24,65 tegen 18,20.

• MMLU-ProX — 76,91 tegen 73,76.

• tau3-bench banking — 18,88 tegen 17,78.

Waar het wint, of standhoudt:

• GPQA-Diamond — 89,52 tegen 89,90.

• APEX shortlist — 88,36 tegen 89,36.

• AA-Omniscience hallucinatiepercentage — 30,0 tegen 27,7, d.w.z. de gekwantiseerde build hallucineert iets minder volgens NVIDIA's eigen maatstaf.

• tau2-bench telecom — 73,19 aan beide kanten, identiek.

• OCRBench v2 EN — 68,12 tegen 68,34.

• MMLongBench-Doc — 62,82 aan beide zijden.

Het patroon is leesbaar zonder statisticus. De workloads voor documenten, OCR en knowledge-recall veranderen nauwelijks, en sommige verbeteren zelfs. De agentische workloads met een lange horizon veranderen sterk. Als je applicatie officiële documenten, bonnetjes of pagina-afbeeldingen leest en gestructureerde output retourneert, is de checkpoint van 75 GB wat je zou moeten serveren, en je levert bijna niets in. Als je applicatie een agent is die een terminal draait of een browser aanstuurt voor tientallen opeenvolgende stappen, ruil je ongeveer negen procent van Terminal-Bench voor driekwart van je GPU-rekening, en dat is een beslissing die je beter op je eigen evaluatie kunt baseren dan op een leverancierstabel.

De 5x, en waartegen die wordt afgezet

De hoofdboodschap van NVIDIA is doorvoer, en die verdient het om precies te worden gelezen in plaats van te worden weggewuifd of herhaald. De claim is "tot 5x snellere doorvoer vergeleken met andere modellen in zijn klasse", en de klasse wordt in het bericht niet gedefinieerd. De meting is van NVIDIA, op de servingstack van NVIDIA, bij welke gelijktijdigheid en sequentiemix het recept ook koos — de deploymenttabellen van de modelkaart zelf specificeren 32 gelijktijdige sequenties en 5 of 3 speculatieve concepttokens, afhankelijk van de hardware, en doorvoer bij een agentische proxy met 20 beurten is een heel ander getal dan doorvoer bij single-shotprompts.

Niets daarvan maakt de bewering onwaar. Het maakt er een leveranciersclaim van over een door de leverancier geconfigureerde workload, precies wat het label zegt. Wat wel opvalt, is dat er bij deze release geen tegenwicht is: er is geen onafhankelijke doorvoermeting van deze checkpoints gepubliceerd, dus de enige cijfers die in omloop zijn, zijn die van NVIDIA. Een doorvoercijfer zonder een genoemd baseline-model, een opgegeven concurrency en een opgegeven hardwareconfiguratie is niet iets waarop je capaciteit kunt plannen. Als de 5x doorslaggevend is voor je beslissing, reproduceer die dan op je eigen verkeer voordat je een GPU-reservering ondertekent.

Waar het model sterk is, volgens NVIDIA's eigen tabel

De kaart voor één model vermeldt ook hoe het BF16-checkpoint zich verhoudt tot vergelijkbare modellen, en het is de moeite waard de kolommen rechts van die van NVIDIA zelf te lezen, want ze zijn ook van NVIDIA. Tegenover Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash, Nemotron 3 Ultra, Inkling-Small en GLM-5.3-Flash:

• Video-MME v2 — 32,85, tegenover Qwen3.8-Flash-Next met 45,1 en GLM-5.3-Flash met 14,8. Midden in het veld, en de grootste spreiding van alle rijen.

• OCRBench v2 EN — 68,12, ongeveer op hetzelfde niveau als Qwen3.8-Flash-Next met 67,9 en Qwen3.5-122B-A10B met 68,3.

• CharXiv-redenering — 80,82, achter beide Qwen-modellen.

• MathVision — 78,16, achter Qwen3.8-Flash-Next met 87,5.

• MMLU-ProX — 76,91, achter elke concurrentiekolom in die rij.

• AA-Omniscience-hallucinatiepercentage — 30,0, tegenover Qwen3.5-122B-A10B met 84,5 en DeepSeek-V4-Flash met 95,9. In deze rij is lager beter, en het verschil is niet klein.

• Terminal-Bench 2.1 — 66,70, tegenover Qwen3.8-Flash-Next met 85,8 en GLM-5.3-Flash met 82,7.

• SWE-bench Verified — 71,10, tegenover GLM-5.3-Flash met 79,10.

• OSWorld-Verified — 51,14, tegenover GLM-5.3-Flash met 14,78.

Dat profiel komt overeen met waarvoor NVIDIA zegt dat het model bedoeld is. Het is niet de koploper op het gebied van puur redeneervermogen of programmeren, en dat beweert het ook niet te zijn — de aankondiging positioneert het tegenover zijn eigen grootste model met ongeveer een vijfde van het aantal parameters, niet tegenover de absolute top. Het is sterk in het beheersen van hallucinaties, documentextractie en werk met desktopagents, zit in de middenmoot bij video en loopt achter op de moeilijkste agentische terminalbenchmarks. Als je op deze release afkwam omdat "video understanding" in de eerste regel van de aankondiging stond, zijn de videocijfers de cijfers die je goed moet bekijken.

Wat het kost om te draaien

Er is geen lijstprijs, en dat is geen weglating van de kant van NVIDIA — het is de vorm van een open-weights-release. NVIDIA verkoopt dit model niet per token tegen een gepubliceerd tarief; het publiceert gewichten onder OpenMDW-1.1 en een NIM-container met gevalideerde configuraties, en je betaalt voor de GPU's. Dus de kostenkwestie is een kwestie van GPU-uren, en de twee acceptabele antwoorden zijn 4× H100 voor BF16 of één H200 of één enkele DGX Spark voor NVFP4.

Dat is het deel van de rekensom dat de meeste teams verkeerd doen wanneer ze een open model vergelijken met een gehoste API. De gehoste kant noemt een tarief per token dat al iemands anders bezettingscurve bevat. De open kant noemt een checkpoint en een minimale hardwarelijst, en het echte getal hangt volledig af van of je de GPU bezig kunt houden. Een enkele H200 die een checkpoint van 75 GB draait en één interne workflow een paar honderd keer per dag bedient, is per aanroep enorm veel duurder dan hetzelfde checkpoint in een gedeelde deployment. Huur voordat je koopt, en meet tokens per seconde op je eigen prompts in plaats van op een proxy-workload.

Het uitproberen voordat je er een product op waagt

De eerlijke eerste stap bij een model waarvan de documentatie een dag oud is, is een evaluatie, niet een migratie, en dat is waar een gateway echt werk verricht in plaats van retorisch werk. Eén sleutel voor meer dan 200 modellen tegen de listprijs van de provider met 0% opslag betekent dat de vergelijking die je echt wilt — Nemotron 3.5 Super VL tegen het tekst- of visionmodel dat je vandaag draait — een wijziging van een modelstring is in plaats van een tweede leveranciersrelatie, en automatische failover tussen providers betekent dat een workload die je alleen test naast productieverkeer kan draaien zonder dat de een van de ander afhankelijk is. Dat is hier meer dan anders van belang: de twee checkpoints gedragen zich op agentisch werk dusdanig anders dat het nuttige experiment niet luidt "is dit model goed", maar "welke van deze twee builds, op welke benchmark van mij, tegen welke GPU-kosten."

De volgorde die voorkomt dat je een GPU-maand verspilt: kies eerst de documentvormige workload, want daar is het verschil tussen BF16 en NVFP4 het kleinst en zijn de cijfers van het model zelf het best. Draai die tegen de kleinere checkpoint. Scoor die tegen een eval die je zelf hebt geschreven. Besluit pas daarna of de agentische workloads — degene waarbij de gekwantiseerde build 5,9 punten verliest op Terminal-Bench en 11,4 op WebVoyager — de build van 249 GB en vier GPU's rechtvaardigen.

Wat is er nog onbeantwoord?

Drie hiaten zijn het volgen waard, omdat ze de beslissing veranderen in plaats van de marketing.

Het eerste is onafhankelijke evaluatie. Elk cijfer in dit artikel dat van NVIDIA afkomstig is, is als zodanig gelabeld, en in deze release zijn dat ze allemaal. Geen enkele derde partij heeft een doorvoermeting, een nauwkeurigheidsreproductie of een vergelijking van evaluatieharnassen gepubliceerd voor een van beide checkpoints. De bewering van 5x doorvoer en de bijbehorende kwantisatietabel zijn intern consistent en duidelijk met zorg gemaakt, en ze blijven door de leverancier gerapporteerd en niet gereproduceerd. Behandel ze als een bovengrens totdat iemand buiten NVIDIA dezelfde experimenten publiceert.

De tweede is het videopad. Het model accepteert MP4 en de aankondiging begint met videobegrip, maar op de enige videobenchmark in NVIDIA's eigen tabel komt het uit op 32,85, terwijl Qwen3.8-Flash-Next op 45,1 staat. De trainingsdata bestreken video van 10.000 tot een miljoen uur, een breed bereik dat niets zegt over dichtheid of domein. Als video uw gebruiksscenario is, is dit de rij die u eerst moet testen en de rij die het meest waarschijnlijk een inkoopdeck op basis van de aankondiging teleurstelt.

De derde is het basis-checkpoint. De publicatie ervan onder dezelfde licentie is het deel van deze release met de langste staart, omdat het een team met eigen data in staat stelt post-training uit te voeren in plaats van rond het model van de leverancier heen te prompten. Het eigen post-trainingcorpus van NVIDIA voor deze familie is ook open, en de effectgroottes in het rapport van NVIDIA bedragen binnen de harness van NVIDIA tientallen punten. Niemand heeft nog een geloofwaardige onafhankelijke fine-tune vanaf die basis gepubliceerd. Wanneer iemand dat wel doet, zal dat je meer vertellen over het echte plafond van dit model dan het lanceringsbericht doet.

De gewichten zijn vandaag te downloaden en de licentie staat commercieel gebruik toe. De twee dingen die je niet kunt downloaden, zijn een onafhankelijke benchmark en een doorvoercijfer met een genoemde baseline — en dat zijn beide precies wat je nodig zou hebben voordat je een productiepad aan een model toevertrouwt dat momenteel vier dagen oud is.