NVIDIA Nemotron 3.5 Super VL: het 120B open model dat eerder verscheen dan zijn eigen blogpost

De gewichten voor N​VIDIA N​emotron 3.5 Super VL stonden drie dagen op Hugging Face voordat N​VIDIA erover schreef. De repo met volledige precisie, nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, werd aangemaakt op 2026-10-12T15:32:06Z. De gekwantiseerde tegenhanger, nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4, verscheen 24 seconden later. N​VIDIA's eigen developerblogpost waarin het model wordt uitgelegd, is gedateerd op 15 oktober 2026 — dezelfde dag die op de modelkaarten staat: "Hugging Face - 10/15/2026". Dus de openbare artefacten en de openbare aankondiging kwamen op verschillende dagen, en de kloof is klein genoeg dat geen van beide datums fout is en beide het weten waard zijn.

Wat volgt is wat de repo en N​VIDIA's post daadwerkelijk zeggen over dit 120B-parameter, 12B-actieve vision-language model: de architectuur, de deployment-wiskunde, waar de eigen gepubliceerde tabel laat zien dat het verliest, en het addertje onder het gras op het gebied van licenties dat de blogpost nooit noemt.

Wat N​emotron 3.5 Super VL eigenlijk is

N​VIDIA beschrijft het in zijn eigen bericht als "een open, aanpasbaar multimodaal model" dat is gebouwd voor gespecialiseerde agent-workflows — redeneren, instructies volgen en toolgebruik, gecombineerd met tekst-, beeld-, document- en videobegrip in één set gewichten. Het doel van die combinatie, zoals N​VIDIA het formuleert, is dat teams "tekst- en visuele taken aankunnen zonder aparte tekst- en visie-taalmodellen in te zetten of taakcontext tussen beide door te geven."

De architectuur, volgens de modelkaart:

• Shape — 120B totale parameters, 12B actief per token. Een mixture-of-experts-model met 512 routed experts per MoE-laag.

• Backbone — afgewisselde Mamba-2-, attention- en MoE-lagen, een hybride Nemotron-ontwerp dat is overgenomen uit de Nemotron 3-lijn.

• Vision — een C-RADIO vision-encoder plus een vision-language-connector. De transformers-architectuurstring is NemotronH_Omni_Reasoning_V3, het modeltype is nemotron_h_omni.

• Context — tot 1M tokens, waarbij de prompt, afbeeldingen, gespreksgeschiedenis, toolresultaten en het gegenereerde antwoord allemaal dat venster delen.

• Speculatieve decoding — een native Multi-Token Prediction-head, zodat er voor de vLLM- en SGLang-recepten die NVIDIA publiceert geen aparte drafter-download nodig is.

• Redeneermodus — schakelbaar via de chat-template met enable_thinking, met daartussen een medium_effort-instelling. Redeneertokens en het antwoord delen hetzelfde max_tokens-budget, wat de kaart expliciet vermeldt omdat dit de gebruikelijke oorzaak is van afgekapte agent-uitvoer.

• Invoer — tekst, RGB-afbeeldingen (JPEG, PNG) en MP4-video van maximaal twee minuten. De aanbevolen videobemonstering in het vLLM-recept is 2 FPS en 256 frames met een snoeipercentage van 0,5; voor 1080p vermeldt de kaart dat je moet terugschakelen naar 1 FPS en 128 frames.

• Talen — Engels, Spaans, Frans, Duits, Italiaans en Japans in de frontmatter van de kaart. N​VIDIA zegt ook dat het trainingscorpus Engels plus 19 andere gesproken talen en 43 programmeertalen omvat.

Twee precisieniveaus, en het geheugen dat ze opleveren

NVIDIA heeft het model twee keer uitgebracht, en de geheugensprong tussen de twee is het meest beslissingsrelevante getal in de release.

• BF16 — de referentie op volledige precisie. De repo bevat 64 safetensors-shards met in totaal ongeveer 231,8 GiB. NVIDIA's eigen servingrecept is --tensor-parallel-size 4 op 4× H100, of TP2 op 2× GB200.

• NVFP4 — 4-bits gewichten en activaties met quantization-aware distillation, waarvan NVIDIA zegt dat het "de nauwkeurigheidskloof dicht die kwantisatie introduceert". Dezelfde checkpoint draait op niet-Blackwell-hardware met 4-bits gewichten en 16-bits activaties, en QAD maakt het ook mogelijk om de KV-cache op te slaan in NVFP4 in plaats van FP8. Omdat de kwantisatie tijdens de training plaatsvindt en niet erna, stelt NVIDIA dat dit geen inference-overhead toevoegt. De NVFP4-kaart vermeldt deployment op 1× DGX Spark, 1× H200, 2× H100 of 1× GB200.

Die laatste regel is de praktische. Een 120B-model dat in FP4 op twee H100's past in plaats van op vier in BF16, is een ander gesprek over aanschaf, en daarom is de gekwantiseerde repo degene waar N​VIDIA naar verwijst voor efficiënte serving. Een derde broertje, N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, verscheen een dag vóór het belangrijkste tweetal op Hugging Face zonder enige aankondiging; de blog van N​VIDIA legt LiLiCorr later uit als een open techniek voor speculatief decoderen en noemt het "de aanbevolen drafter voor inferentie met lage latentie bij N​emotron 3.5 Super VL" op DGX Spark. De repo ervan is vier dagen ouder dan die uitleg, wat een goede illustratie is van hoe deze release opdook.

Er schuilt een legitieme vraag onder die sprong — wat het NVFP4-niveau moet inleveren ten opzichte van de BF16-referentie — maar het eigen antwoord van NVIDIA is een bewering over trainingsmethodologie, geen gepubliceerde tabel met de nauwkeurigheid van de twee checkpoints naast elkaar. Als de precisiekeuze bepalend is voor je beslissing, staat die vergelijking niet in de repo.

Waar zijn eigen benchmarktabel laat zien dat het verliest

De modelkaart bevat een grote benchmarktabel met door de leverancier uitgevoerde benchmarks — ongeveer 40 rijen — die redeneren, coderen, agentische taken, lange context, meertalig en multimodaal werk omvat. NVIDIA is hier ongewoon openhartig: het noemt de vergelijkingen, en verschillende daarvan stellen het model niet in een gunstig daglicht. Zijn eigen cijfers tegenover de dichtstbijzijnde open concurrent met dezelfde vorm, Qwen3.5-122B-A10B:

• GPQA-Diamond — Nemotron 3.5 Super VL 89,52 vs Qwen3.5-122B-A10B 86,7 (Nemotron ligt voor)

• HLE, alleen tekst — 31,79 vs 24,2 (N​emotron loopt voor)

• MMLU-ProX — 76,91 vs 83,2 (Qwen ligt meer dan zes punten voor)

• CritPt — 10,86 vs 1,1 (N​emotron met een ruime voorsprong)

• LiveCodeBench v6 — 88,22 vs 76,7 (Nemotron ligt voorop op deze testbank)

• SWE-bench Verified — 71,10 vs. 71,9 (een gelijkspel, binnen de ruismarge)

• SWE-bench Pro — 51,78 vs 44,9 (N​emotron aan kop)

• tau2-bench retail — 69,24 vs 55,4 (Nemotron ligt voor)

• tau2-bench telecom — 73,19 vs 87,2 (Q​wen staat 14 punten voor)

• AA-LCR v1.1 — 68,62 vs 75,1 (Qwen voorop bij lange context)

• BabyVision — 29.60 vs 35.7 (Q​wen aan kop)

• MathVision — 78.16 vs 83.3 (Qwen ligt voor)

• OCRBench v2, Engels — 68.12 vs 68.3 (in wezen gelijk)

• OCRBench v2, Chinees — 59,15 vs. 67,3 (Qwen ligt acht punten voor)

• V* — 85.60 vs 91.1 (Qwen ligt voor)

• IFBench — 70,86 vs 67,6 (N​emotron ligt voor)

• AA-Omniscience-index — 4,03 versus -36,1 (beide zwak; Nemotron veel minder negatief)

Er zijn drie dingen die gezegd moeten worden over deze tabel, in plaats van de overwinningen voor zich te laten spreken.

Ten eerste, elk cijfer erin — dat van Nemotron en dat van elke baseline — is door de leverancier gerapporteerd en verzameld via de eigen harness van NVIDIA. De kaart zegt het direct: "Alle evaluatieresultaten voor Nemotron 3.5 Super en baselines zijn verzameld via NeMo Gym," met reproduceerbaarheidsnotities die in de NeMo Gym-repository zijn gepubliceerd. Dat is een betere openbaarmaking dan de meeste labs voor elkaar krijgen, en het is nog steeds geen onafhankelijke score. Lees de kolommen als metingen van één lab aan verschillende modellen, niet als een neutraal leaderboard.

Ten tweede noemt N​VIDIA zelf de benchmarks die niet in zijn open tooling zijn opgenomen — BabyVision, CharXiv-RQ, MathVision, MMLongBench-Doc, OCR-Reasoning, OCRBench-v2, V* en Video-MME-v2 — en zegt dat daarvoor officiële implementaties of "een interne scaffolding die we in de toekomst open source willen maken" zijn gebruikt. Elke multimodale rij in de tabel bevat dat voorbehoud.

Ten derde, het patroon in de verliezen is samenhangend in plaats van willekeurig. De hiaten zitten in Chinese OCR, redeneren met lange context, en visuele wiskunde en het lezen van grafieken. De overwinningen clusteren in tool-calling benchmarks en agentische taken met korte horizon — CritPt, tau2-bench retail en airline, APEX, Terminal-Bench 2.1 met 66,70 tegenover Qwen's 48,70, SWE-bench Pro. Voor een model dat NVIDIA positioneert als de uitvoerder in een multi-model agent-stack, is dat een verdedigbaar profiel. Als je workload het parsen van Chinese documenten of zeer lange analytische context betreft, vertelt dezelfde tabel je iets anders.

Post-trained verslaat base, en NVIDIA loopt daarin voorop.

De meest concrete nauwkeurigheidsclaim in N​VIDIA's blogpost is geen benchmarkscore. Het is een bewering over maatwerk: dat het post-trainen van een basis-N​emotron 3.5 Super VL een gespecialiseerde workload voorbij Claude Opus 5 kan brengen. N​VIDIA's voorbeeld is medische verzekeringsclaims, waar het een winst van 44% door post-training aanhaalt.

Twee dingen zijn van belang bij hoe N​VIDIA dit rapporteert. Het cijfer wordt toegeschreven aan een geclaimde winst door post-training, niet aan een model-tegen-modelvergelijking op een publieke benchmark — wat een ander en zwakker soort bewijs is. En N​VIDIA's eigen post is er zorgvuldig in om te zeggen dat deze winsten met kanttekeningen komen: "het basismodel overtrof op eigen kracht de propriëtaire frontier-modellen niet" is de eerlijke versie van de zin, en de framing is dat het voordeel van open gewichten is dat een bedrijf kan post-trainen op zijn eigen data en het resultaat op zijn eigen infrastructuur kan draaien.

De leverancierszijde van hetzelfde verhaal is mager. NVIDIA noemt Scale AI, Ramp en AI21 als organisaties die het model post-training hebben gegeven; Ramp wordt geciteerd met de verwachting van "tot 50% hogere doorvoer en 10x lagere latentie" voor het extraheren van bonnetjes naar JSON, Scale AI een 40x lagere inferentiekosten en 5x betere latentie voor het verwerken van leverancierskredieten. Dat zijn door klanten geuite verwachtingen en resultaten, gepubliceerd door de leverancier, zonder enige onafhankelijke meting erachter. Ze kunnen best kloppen. Niemand buiten die bedrijven heeft het gecontroleerd.

Wat N​VIDIA wél publiceert en wat helpt, is het receptoppervlak: NeMo AutoModel voor SFT en LoRA, NeMo RL en NeMo Gym voor reinforcement learning en omgevingsgebaseerde evaluatie, NeMo Data Designer voor multimodale datageneratie, plus 45 vision-language-datasets en een reeks agentische datasets voor toolgebruik, financieel redeneren en instructieopvolging op Hugging Face. Een tutorial over reproduceerbaarheid voor de gepubliceerde benchmarks staat in de NeMo Gym-repository. Het laatste deel is echt nuttig — het betekent dat je kunt proberen N​VIDIA's eigen evaluaties opnieuw uit te voeren in plaats van de tabel te vertrouwen.

De licentie is niet wat de marketing suggereert

Dit is het detail waarvoor het de moeite waard is de repo te lezen in plaats van de blogpost.

Het bericht van NVIDIA noemt het model "een open, aanpasbaar multimodaal model" en verwijst naar "de open gewichten van het model." Beide uitspraken zijn juist wat de gewichten betreft. Geen van beide is een uitspraak over de licentie. De frontmatter van de modelkaart luidt license: other, met license_name: openmdw-1.1, en de geldende voorwaarden zijn de OpenMDW License Agreement versie 1.1 op openmdw.ai/license/1-1/. De kaart vermeldt duidelijk dat het model "gereed is voor commercieel of niet-commercieel gebruik" en de eigen deploymenttaal van NVIDIA verwijst naar het draaien ervan in "ondersteunde lokale, datacenter- of cloudomgevingen."

Dus: commercieel bruikbaar, volgens N​VIDIA. Maar "open" betekent hier OpenMDW-1.1, niet Apache 2.0 en niet MIT. Als je organisatie een lijst met vooraf goedgekeurde open-source-licenties heeft, is die lijst het eerste dat je moet controleren — en het praktische verschil tussen "open weights" en een genoemde licentie is precies het soort kloof dat je een releasecyclus kost als je het te laat ontdekt. Dit is geen kritiek op het model, en OpenMDW is geen beperkende licentie. Het is een herinnering dat het bijvoeglijk naamwoord van de blogpost minder werk verzet dan de frontmatter van de kaart.

Het uitproberen zonder er een productiepad op in te zetten

De gepubliceerde deploymentrecepten zijn expliciet single-machine, en dat bepaalt hoe dit wordt geëvalueerd. NVIDIA's vLLM-commando's in beide kaarten draaien op TP4 op 4× H100 of TP2 op 2× GB200 met --trust-remote-code — het model wordt geleverd met aangepaste modelcode — en het SGLang-recept gebruikt lmsysorg/sglang:v0.5.20 op twee GB200's. Voor DGX Spark is er een speciaal LiLiCorr-drafter-checkpoint, en NVIDIA raadt het aan in alle Spark-scenario's; het bedrijf claimt tot 2,3x snellere tokengeneratie dan decoderen zonder speculatie. Op 16 B200's met Dynamo noemt NVIDIA het bedienen van tot 8x zoveel gebruikers, met een 85% lagere latentie voor het eerste token bij 50 tokens per seconde per gebruiker. Elk daarvan is een leveranciersinterne meting.

Dat zijn reële evaluatiekosten voor een model dat drie dagen oud is, geen onafhankelijk scorebord heeft en waarvan de multimodale rijen met een voorbehoud over ongeopende scaffolding komen. De goedkope manier om ernaar te kijken is niet eerst vier H100's op te zetten.

De goedkope manier om naar een release die zo jong is te kijken, is via één enkele gateway in plaats van een tweede hardware-order. Bij OrcaRouter betekent dat één sleutel voor meer dan 200 modellen tegen de listprijs van de provider met 0% markup, geen apart contract en geen codewijziging, en automatische failover tussen providers zodat een model dat je nog niet hebt gevalideerd geen single point of failure vormt in een productiepad. Dit specifieke model staat nog niet in de catalogus — NVIDIA heeft het een paar dagen geleden uitgebracht — dus vandaag komt het van de eigen API van de leverancier of van de platforms van derden die het aanbieden. Wat je daarmee krijgt, is de vergelijking die je nu daadwerkelijk kunt uitvoeren: zet de kandidaten die het naar eigen zeggen verslaat achter dezelfde sleutel, laat je eigen taken erdoorheen lopen en tegen de modellen die je al gebruikt, en laat de routeringslaag de wissel een configuratiewijziging maken in plaats van een migratie. Pas dan wordt de vraag 4× H100 of 2× GB200 een aankoopbeslissing in plaats van een gok.

Het gaat er niet om dat routing een benchmark vervangt. Het gaat erom dat de beslissing die je vandaag kunt nemen, is welke taken dit model in jouw stack op zich moet nemen, en die beslissing vereist geen hardwarebestelling.

Wat is er nog niet vastgesteld

De eerlijke lijst van onbekendheden is kort maar niet zonder gevolgen, en het is de lijst om van uit te gaan in plaats van de marketing:

• Er bestaat geen onafhankelijke evaluatie.Elke hierboven aangehaalde score is afkomstig uit de NeMo Gym-run van N​VIDIA. De blog van N​VIDIA verwijst naar benchmarktests van Artificial Analysis en een onafhankelijke evaluatie door EXO Labs die het model op een DGX Spark-Paretofrontier van nauwkeurigheid versus taakvoltooiing plaatst, maar de modelkaart publiceert zelf geen enkele score van derden, en er is op het moment van schrijven geen onafhankelijke modelpagina voor het model op de belangrijkste aggregators.

• Het nauwkeurigheidsverschil tussen BF16 en NVFP4 is niet gekwantificeerd. NVIDIA's pleidooi voor NVFP4 is gebaseerd op kwantisatiebewuste distillatie die het verschil dicht. Dat is een methodologische claim, geen gepubliceerde nauwkeurigheidsvergelijking tussen de twee checkpoints die je daadwerkelijk kunt downloaden.

• De benchmarkcampagne werd deels uitgevoerd met NVIDIA's eigen tooling. Voor acht multimodale benchmarks werden officiële implementaties of interne scaffolding gebruikt waarvan NVIDIA zegt dat het "van plan is [die] in de toekomst open source te maken" — wat betekent dat die resultaten in principe reproduceerbaar zijn, ooit, en niet vandaag.

• Winsten na de training worden gerapporteerd door leveranciers en klanten. De 44%-winst op claims en de cijfers van Ramp en Scale AI worden door NVIDIA zelf genoemd over zijn eigen klanten. Niemand heeft ze onafhankelijk gemeten.

• Long-contextgedrag bij het volledige venster van 1M is buiten de leverancier niet getest. De architectuur is ervoor gebouwd en N​VIDIA publiceert er deployment-recepten voor. Of het ophalen standhoudt over een volledig miljoen tokens op echte documenten is precies het soort ding dat opduikt bij onafhankelijke tests en niet in een leverancierstabel verschijnt.

Moet u hier nu actie op ondernemen?

Als je document-, grafiek-, video- of multi-tool-agents bouwt en je al een budget hebt uitgetrokken voor inference in de 120B-klasse, is dit deze week echt de moeite waard om te bekijken: de NVFP4-tier laat hem op twee H100's draaien, de licentie staat commercieel gebruik toe, en de tool-calling-rijen in de tabel van N​VIDIA zijn het sterkste onderdeel ervan. De 12B-actieve vorm betekent ook dat hij per token goedkoper is dan zijn totaal van 120B doet vermoeden — en aan de OrcaRouter-kant is een prijswijziging van een leverancier voor dit model dezelfde dag live in plaats van na een factureringscyclus, omdat de lijstprijs van de provider wordt doorgegeven zonder dat er een opslag wordt toegevoegd.

Als je workload leunt op OCR voor Chinese teksten, zeer lange analytische context of visuele wiskunde, geeft de eigen tabel van NVIDIA je drie specifieke redenen om te wachten op onafhankelijke cijfers in plaats van te redeneren vanuit de marketing.

Hoe dan ook, waar je op moet letten is niet nog een bericht van een leverancier. Het is de eerste onafhankelijke evaluatie die het NVFP4-checkpoint tegen het BF16-checkpoint draait op dezelfde testomgeving, en de eerste score van een derde partij die niet via NeMo Gym is verzameld. Zolang die niet bestaan, is dit een goed gedocumenteerd, ruim gelicentieerd, oprecht efficiënt open model waarvan de sterkste claims volledig op de eigen metingen van de maker rusten — en waarvan de maker zelf duidelijk genoeg was om de rijen te publiceren waarin het verliest.

Die kloof tussen wat een scorebord meet en wat een deployment in de praktijk tegenkomt, is de reden dat het register ertoe doet: de gedocumenteerde AI-fouten en agentincidenten rond modellen in deze klasse zijn verzameld in het OrcaRouter AI Incident Archive, waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en betwist-markering bevat.