NVIDIA Nemotron 3.5 Super VL Base BF16: het 249 GB grote checkpoint dat NVIDIA vermeldde, maar nooit van een link voorzag

nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 is het artefact in de N​VIDIA N​emotron 3.5 Super VL-release die N​VIDIA nooit heeft gelinkt. In de aankondigingspost van het bedrijf van 15 oktober staat, in één zinsnede, dat "de release base-, post-trained- en NVFP4-gekwantiseerde checkpoints bevat met trainingsrecepten, data en reinforcement-learning-omgevingen." Elke repositorylink op die pagina verwijst naar nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4. De tekenreeks "Base-BF16" komt helemaal niet voor in de post.

De repository is echt en openbaar. Hugging Face vermeldt de eerste commit op 2026-10-12T15:31:49Z, de gewichtsshardes die op 2026-10-13T04:55Z zijn geüpload, en het eigen release-datumveld van de modelkaart dat "Hugging Face - 10/15/2026" luidt. Hij is niet gated, er is geen token nodig om te downloaden, en hij weegt precies evenveel als de post-getrainde nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16 build weegt: 248,9 GB verdeeld over 63 BF16-shards tegenover 248,9 GB verdeeld over 64 van de post-getrainde build, waarbij de twee indexbestanden 16 bytes van elkaar verschillen. Drie dagen nadat de gewichten waren verschenen, was hij 4 keer gedownload, tegenover 142 voor de post-getrainde full-precision-repo en 81 voor de NVFP4-tegenhanger. Dat zijn de eigen tellers van Hugging Face, uitgelezen op 16 oktober.

Dit is dus geen lek of gerucht. De gewichten zijn het verkeerde ding om je in te vergissen — ze zijn simpelweg het minst gepubliceerde artefact in een release die verder luidruchtig is, en de modelkaart erachter spreekt zichzelf tegen op een manier die ertoe doet als je het soort persoon bent dat een pre-post-training-checkpoint van 249 GB zou downloaden. Die tegenstrijdigheid staat hieronder.

Wat is er geland, en de zin die het vermeldt

Drie hoofdrepositories en één draftmodel kwamen in hetzelfde tijdsbestek online, allemaal first-party N​VIDIA, allemaal onder de OpenMDW-1.1-licentie, geen enkele met beperkte toegang:

• Base BF16 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16, repository aangemaakt op 2026-10-12T15:31:49Z, gewichten 2026-10-13T04:55Z, README voor het laatst gewijzigd op 2026-10-15T15:22:08Z.

• Post-trained BF16 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, aangemaakt op 2026-10-12T15:32:06Z, zeventien seconden na de basisrepository.

• Post-getrainde NVFP4 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4, aangemaakt op 2026-10-12T15:32:30Z, en in totaal 75,1 GB in plaats van 248,9 GB.

• Een NVFP4-drafter — nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, nog een dag eerder gemaakt, op 2026-10-11T20:20:59Z.

De mapping tussen die repositories en NVIDIA's proza is waar het ongelijkmatig wordt, en het is de moeite waard om dat te controleren in plaats van aan te nemen. De deployment-ankers van de aankondiging verwijzen allemaal naar de NVFP4-build. De eigen openingsnotitie van de base-kaart wijst naar buiten, naar de andere twee — "Op zoek naar een post-getraind model? Zie de BF16-release voor aanpassing of de NVFP4-release voor geoptimaliseerde deployment" — dus de base-repository vertelt je in de eerste regel waar je in plaats daarvan naartoe moet. Het omgekeerde geldt niet. De post-getrainde BF16-kaart bevat nergens een link naar de base-repository, en de NVFP4-kaart evenmin. De base-checkpoint is het enige artefact in de release waarnaar NVIDIA's eigen documentatie je nooit verwijst; je vindt het door de clausule van negen woorden in de aankondiging te lezen en vervolgens de bestandslijst van de org te bekijken, en zo is het hier gevonden. Niets in NVIDIA's tekst legt uit waarom een base-checkpoint met dezelfde 249 GB wordt gepubliceerd als het model dat daadwerkelijk post-getraind is, of wat je ermee moet doen wat het post-getrainde model niet kan.

Die afwezigheid is het verhaal. Een open-weights-release waarin de leverancier twee van de drie checkpoints linkt en het derde in negen woorden beschrijft, verbergt niets — de weights staan er gewoon — maar het betekent wel dat de documentatie die je nodig hebt niet in de aankondiging staat. Die staat in de repository.

Wat "base" betekent in deze release

De twee modelkaarten beantwoorden dit, en het verschil tussen beide geeft een helder beeld van wat post-training hier heeft opgeleverd.

De basiskaart documenteert drie trainingsfasen. Fase 1 bouwt de taalbackbone bovenop N​emotron 3 Super Base en traint een gedeelde MTP-head voor 100B tokens met een bevroren backbone, en distilleert vervolgens 1T tokens uit N​emotron 3 Ultra Base. Fase 2 bestaat uit 100B tokens aan voortgezette Indic-pretraining, een uitbreiding van 35B tokens naar 1M context, 67B tokens software-engineering-midtraining bij 256K context, en een herstelfase voor lange context van 9B tokens. Fase 3 voegt de C-RADIO visie-encoder en de visie-taalconnector toe.

De post-trained kaart documenteert er zes, en de drie die de basiskaart mist, zijn precies de drie die een model bruikbaar maken: Fase 4, supervised fine-tuning op visie-, redeneer-, code-, tool-, chat-, veiligheids- en long-contextdata, met gepakte sequenties tot 524.288 tokens; Fase 5, reinforcement learning met verifieerbare beloningen plus RLHF plus multi-teacher on-policy distillation; en Fase 6, het versterken van de MTP-kop tegen de bevroren post-trained backbone, zodat speculative decoding daadwerkelijk loont.

De basiskaart zegt het zelf, in de sectie Inference: "Het Base-model is bedoeld als startpunt voor verdere training. Gebruik voor chat-, redeneer- en tool-calling-toepassingen de nagetrainde BF16- of NVFP4-release en de bijbehorende deploymentinstructies." Het opgegeven gebruiksscenario is "ontwikkelaars en onderzoekers die aangepaste vision-language-modellen bouwen via voortgezette pre-training, supervised fine-tuning, reinforcement learning en distillatie."

Dat is een ongewoon directe disclaimer, en het is de juiste lezing van het artefact. Wat hier als "base" wordt geleverd, is geen zwakker chatmodel. Het is het substraat waartegen Stage 4 tot en met Stage 6 zijn uitgevoerd, samen daarmee gepubliceerd zodat iemand anders een andere Stage 4 tot en met 6 kan uitvoeren — op eigen data, onder eigen licentievoorwaarden, zonder een pre-training van 20 biljoen tokens opnieuw te hoeven uitvoeren.

De 1M-tokenclaim die de config niet bevat

Dit is de discrepantie die je 249 GB aan aandacht waard is.

De modelkaart van het basismodel vermeldt in de Beschrijving dat het model "ondersteunt contextlengtes tot 1M tokens", en herhaalt het in de sectie Modelontwerp: "Het model ondersteunt tot 1M tokens context." De trainingsmethodologie schraagt de intentie — Fase 2 bevat expliciet "een uitbreiding van 35B tokens naar 1M context, gevolgd door een lange-context herstelfase van 9B tokens."

De meegeleverde config.json zegt iets anders. De max_position_embeddings daarvan is 262,144 — 256K, niet 1M. Er is geen rope_scaling-blok en geen original_max_position_embeddings-veld, dus het positieschema kondigt ook geen extensie aan. De config van de post-getrainde repository daarentegen specificeert max_position_embeddings van 1,048,576. Twee zustercheckpoints, dezelfde architectuurstring, dezelfde laagindeling, en een verschil van een factor vier in de positielimiet dat de tekst van de basiscard niet vermeldt.

Lees de drie feiten samen, en de meest verdedigbare conclusie is niet dat het basismodel een korte context heeft. Ze is dat de basisrepository een conservatieve opgegeven limiet meelevert en verwacht dat je die wijzigt. De 1M-uitbreiding is getraind. De gepubliceerde configuratie stelt die niet beschikbaar. Als je plan voor voortgezette pretraining uitgaat van een sequentielengte van 1M tokens direct uit de doos, komt die aanname van de kaart, niet van het bestand dat de runtime daadwerkelijk zal lezen — en de oplossing is een configuratiewijziging die je moet kennen om te kunnen maken.

Om dezelfde reden het vermelden waard: de Modelsamenvatting-tabel van de basismodelkaart bestaat simpelweg niet. De post-trained-modelkaart bevat er wel een — totale parameters, architectuur, precisie, contextlengte, deploymenttarget, speculatieve decoding, reasoningmodus, aanbevolen sampling, best voor, licentie. De basismodelkaart gaat rechtstreeks van Beschrijving naar Licentie, en dan naar een benchmarktabel. Er staat nergens een rij met aanbevolen sampling, en er is geen deploymentrij, dus niets op de basismodelkaart vertelt je welke hardware hij wil.

De architectuur, afgelezen uit de meegeleverde config

Omdat de beschrijving van de leverancier van de basisarchitectuur één alinea is en de werkelijke vorm in het bestand staat, staat hier wat het bestand zegt. Het is allemaal rechtstreeks afkomstig van config.json in de basisrepository, niet uit een samenvatting.

• Diepte en samenstelling — 88 blokken in de taal-backbone. 40 zijn Mamba-2-lagen, 40 zijn mixture-of-experts-lagen en 8 zijn volledige attention-lagen, op indices 7, 16, 25, 36, 47, 58, 69 en 78. Eén attentionblok per ongeveer negen lagen vormt het volledige lange-contextmechanisme.

• MoE — 512 gerouteerde experts per MoE-laag, 22 geselecteerd per token, één gedeelde expert, een latente grootte van 1024, en een tussenliggende grootte van de gedeelde expert van 5376 tegen 2688 voor de gerouteerde experts. Dat is de rekensom achter de kop "120B totaal, 12B actief".

• Attention — 32 query-heads tegen 2 key-value-heads bij een head-dimensie van 128, dus grouped-query attention met een verhouding van 16:1. Hidden size 4096.

• MTP — één next-token-voorspellingslaag, zelf samengesteld uit een attentionblok en een MoE-blok, in de stijl van de multi-token-voorspellingshead van DeepSeek. Eén voorspellingsstap, niet meerdere.

• Visie — een C-RADIO ViT-H-toren: 32 lagen, verborgen grootte 1280, 16 heads, patchgrootte 16, 7 registertokens, 3 class-tokens, een maximale afbeeldingsgrootte van 2048 en een patchbudget tussen 1024 en 13312. De connector projecteert naar 20.480, waarna een downsample-ratio van 0,5 en een geforceerde afbeeldingsgrootte van 512 het aantal tokens weer terugdringen.

• Video — een temporele patchgrootte van 2 en een opgegeven pruningratio van 0,7.

• Twee eigenaardigheden — de config declareert een <audio> contexttoken terwijl zijn sound_config null is, dus de infrastructuur voor audio bestaat in deze architectuur en deze checkpoint bevat er niets van. En tie_word_embeddings is false, wat standaard is voor een model van deze grootte en goed om te weten als je van plan bent een vocabulaire te herschalen.

Ter vergelijking: de eigen safetensors-metadata van de repository telt op tot 124.453.395.974 parameters, waarbij elke tensorbyte afzonderlijk is geteld, tegenover het 120B-totaal / 12B-actief-kerncijfer van N​VIDIA. De twee getallen worden op verschillende grondslagen gerapporteerd — het leverancierscijfer is de routed-plus-shared-rekensom van het taalmodel, het bestandscijfer is alles wat in de repository is opgeslagen, inclusief vision tower en MTP-head. Behandel het verschil niet als een discrepantie; begroot op basis van het bestand.

Wat de benchmarktabel eigenlijk meet

De basiscard publiceert 24 benchmarkrijen en, alle eer aan NVIDIA, een kolom die zegt wat elk ervan is:

• MMLU 84,14 exacte match · MMLU-Pro 76,25 · AGIEval-En 75,65 CoT · SuperGPQA 47,65 CoT · GPQA Diamond 66,16 bij 5-shot CoT exacte match

• GSM8K 91,74 bij 8-shot CoT · Minerva MATH 87,66 · MATH-500 81,56 gesampled pass@1 n=32 · HumanEval 81,31 EvalPlus gesanitiseerd · MBPP-Sanitized 79,06 · LiveCodeBench CodeGen 47,61 · BigCodeBench 48,42 complete en 49,39 instruct

• ARC-Challenge 95.99 · HellaSwag 88.96 · TruthfulQA MC2 71.18 · WinoGrande 79.08 · PIQA 85.09 · CommonsenseQA 85.26 · OpenBookQA 48.80 · SocialIQA 49.03 · RACE 91.39

• Global MMLU 86,56 gemiddeld over 8 talen · MGSM 87,53 bij 8-shot native CoT over 6 talen

Twee dingen aan die tabel zie je makkelijk over het hoofd, en beide doen ertoe.

Ten eerste zegt de eigen kaderzin van de kaart dat de resultaten 'de N​emotron 3.5 Super text-only base backbone evalueren, vóór vision-language training.' Wat dat verder ook betekent, het betekent dat deze cijfers geen multimodale scorekaart zijn — er staat nergens op de basiskaart een OCR-benchmark, geen rij voor documentbegrip, geen videorij, ook al worden video- en documentinvoer twee secties eerder beschreven. Als je reden om het basischeckpoint te willen de vision tower is, biedt de kaart je niets empirisch om je plannen op te baseren.

Ten tweede heeft de tabel geen baselinekolommen. De tabel op de post-trained kaart beslaat zeven kolommen breed — N​emotron 3.5 Super GA tegenover Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash0731, N​emotron 3 Ultra, Inkling-Small en GLM-5.3-Flash. De base-kaart heeft precies één kolom. En de mix van wat is uitgevoerd is veelzeggend: de post-trained kaart laat MMLU helemaal vallen ten gunste van MMLU-ProX, terwijl de base-kaart zowel MMLU als MMLU-Pro draait en noch MMLU-ProX noch de agentic- en harness-level-suites waarop de post-trained kaart leunt. Je kunt de vraag "is deze base beter dan die base" niet op basis van de kaart beantwoorden. Je zou beide moeten draaien.

Elk cijfer hierboven is van NVIDIA, geproduceerd via NVIDIA's eigen NeMo Gym-harness — de nagetrainde modelkaart zegt dit expliciet, en de basismodelkaart publiceert helemaal geen harness-notitie. Niets in een van beide tabellen is onafhankelijk gereproduceerd.

Base versus post-trained, in de enige benchmark die ze delen

De twee kaarten delen geen benchmarktabel, maar ze delen precies één rij die je naast elkaar kunt leggen, en dat is juist degene die er het meest toe doet.

• GPQA Diamond — 66,16 op de basiskaart, bij 5-shot chain-of-thought exact match. 89,52 op de post-trained kaart. Een kloof van 23,36 punten, uit de twee eigen documenten van NVIDIA, waarbij het basiscijfer expliciet als de text-only backbone wordt bestempeld.

Dat is de eerlijke kop voor wat Fase 4 tot en met 6 waard zijn voor wetenschappelijk redeneren op masterniveau: post-training is geen afwerkingsronde voor dit model, het voegt ruwweg nog eens de helft van de capaciteit toe. Het vertelt je ook welke kant de afweging opgaat. Als je van plan bent om het basischeckpoint zelf te post-trainen, begin je 23 punten achter op het model dat N​VIDIA verkoopt en wed je erop dat jouw data en jouw beloningssignaal die kloof in jouw domein dichten — precies de weddenschap die de eigen klantcijfers van N​VIDIA beschrijven: Scale AI meldt een 40x-reductie van de inferentiekosten voor de verwerking van leverancierscredits, Ramp verwacht tot 50% hogere doorvoer en 10x lagere latentie voor het extraheren van bonnen naar JSON. Dat zijn door leveranciers en klanten opgegeven resultaten zonder onafhankelijke meting, en het is het enige gepubliceerde bewijs dat het dichten van de kloof haalbaar is.

Let op de valkuil bij het samen lezen van de twee kaarten. De "MMLU-Pro" van 76,25 op de basiskaart en de "MMLU-ProX" van 76,91 op de post-trained kaart lijken een verschil van 0,66 punt te zijn en zijn niet vergelijkbaar — verschillende benchmarks, waarvan één met een vermelde TigerLab-extractiemethode. De "MMLU" van 84,14 op de basiskaart heeft helemaal geen tegenhanger op de post-trained kaart. Als je een delta voor dezelfde benchmark wilt, is GPQA Diamond degene die je wel krijgt, en LiveCodeBench degene die je niet krijgt: de basiskaart rapporteert CodeGen op 47,61, terwijl de post-trained kaart LiveCodeBench v6 op 88,22 rapporteert, wat een andere versie van dezelfde benchmarkfamilie is en geen delta.

Wat je voor 249 GB krijgt, en wat niet

De download zelf is één commando, en het is het enige commando in de hele basismodelkaart:

• hf download nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 --local-dir ./models/super-vl-base-bf16

Dat is de hele Quick Start. De basiskaart bevat één codeblok; de post-trained kaart bevat er tweeëntwintig. Er is geen vllm serve-regel, geen SGLang-launch, geen tensor-parallel-richtlijn, geen --max-num-seqs, geen reasoning-parser-flag, geen MTP-configuratie voor speculative decoding, en geen API-clientvoorbeeld. De post-trained kaart bevat dat allemaal, inclusief een 4×H100-recept met --enable-mamba-shared-prefix-checkpoint en een 2×GB200-recept op TP2.

• Runtime-engines — de basiskaart noemt PyTorch, Megatron-LM en NeMo, en de sectie Inference noemt alleen PyTorch. De post-getrainde kaart noemt vLLM en SGLang. Dat zijn namen van trainingsframeworks aan de ene kant en namen van serving-runtimes aan de andere, en de splitsing is doelbewust en niet toevallig.

• Testhardware — Hopper H100 en H200, Grace Blackwell GB200 en GB300, Blackwell B200 en B300. De post-trained kaart beperkt zich tot 4×H100 of 2×GB200 voor deployment.

• Schijf — 248,9 GB verdeeld over 63 shards, hetzelfde als de post-getrainde volledige-precisiebuild. De NVFP4-tegenhanger is 75,1 GB. Als je de basis downloadt om hem te inspecteren of aan te passen in plaats van om hem te draaien, betaal je 3,3 keer de NVFP4-download voor het voorrecht om geen servingrecept te krijgen.

Wat je wél krijgt en echt bruikbaar is: de repository levert een complete chat_template.jinja van 12.513 bytes, en deze bevat de enable_thinking-schakelaar, inclusief de variant met gemiddelde inspanning. De repository levert ook een generation_config.json met temperature 1.0, top_p 0.95 en do_sample true. Als je die template vergelijkt met de post-getrainde versie, levert dat een verschil van 414 bytes op, dat volledig zit in de behandeling van witruimte rond de placeholders voor afbeeldingen en video's — de twee templates zijn verder hetzelfde bestand.

Dus de infrastructuur om met het basis-checkpoint als chatmodel te communiceren is aanwezig en vrijwel identiek aan het meegeleverde chatmodel. Wat ontbreekt, is elke uitspraak dat je dat zou moeten doen. Er staat geen rij met aanbevolen sampling op de basiskaart, geen rij voor de reasoning-modus, en er is geen benchmark daarvoor in de chatconfiguratie. Je kunt het in ongeveer tien minuten als chatmodel serveren. Of de output het verdient om een testharnas te verlaten, is een andere vraag, en het antwoord van de kaart is dat het dat niet verdient.

De corpusopenbaarmaking waar niemand het over heeft

Hier is het deel van de base-release dat misschien wel nuttiger is dan de gewichten, en er is bijna geen aandacht aan besteed omdat het in tabellen staat op een repo die nooit gelinkt is.

De modelkaart van het basismodel publiceert in detail het trainingscorpus dat de modelkaart van het post-getrainde model niet bevat: een basiscorpus van meer dan 20 biljoen tokens, verzameld tussen 2013 en december 2025, uitgesplitst per bron — N​emotron-CC-v2 en v2.1 met 9,1T, N​emotron-CC-Code-v1 met 427,9B, de N​emotron-Pretraining-Code-sets met in totaal 1,7T, N​emotron-CC-Math-v1 met 133,3B, de gespecialiseerde en SFT-synthetische sets met 660B, en een juridische set met 4,3B. Engels, 19 andere gesproken talen, 43 programmeertalen.

Dan twee tabellen die de meeste open-weights-releases simpelweg niet publiceren. De ene bevat privédatasets van derden die niet openbaar toegankelijk zijn, en noemt de modellen die hun labels hebben geproduceerd — Qwen3.5-122B-A10B voor een breed scala aan OCR- en visual-question-answering-herlabeltaken, D​eepSeek-OCR op een gefilterde Chinese OCR-subset, Qwen3.5 op een geverifieerd correcte subset, Gemini 3 en GPT-5 op RL-data voor zoeken. De andere vermeldt N​VIDIA's eigen privédatasets, en noemt opnieuw de generatoren: Kimi K3 voor wiskundige chain-of-thought-SFT-data, DeepSeek-V4-Pro voor OCR van competitief programmeren, gpt-oss-120b voor structured-output-RL, GLM-5.2 voor verfijning, MiniMax-M2 voor wandelingen door zoekgrafen, en een lange staart van andere generatoren.

Dan twee tabellen die de meeste open-weights-releases simpelweg niet publiceren. De ene somt privédatasets op die niet openbaar toegankelijk zijn en eigendom zijn van derden, en noemt de modellen die hun labels hebben geproduceerd — Qwen3.5-122B-A10B voor een breed scala aan OCR- en visual-question-answering-herlabeltaken, DeepSeek-OCR op een gefilterde Chinese OCR-subset, Qwen3.5 op een geverifieerd-correcte subset, Gemini 3 en GPT-5 op RL-data voor zoeken. De andere somt NVIDIA's eigen privédatasets op, en noemt opnieuw de generatoren: Kimi K3 voor wiskundige chain-of-thought-SFT-data, DeepSeek-V4-Pro voor OCR van competitief programmeren, gpt-oss-120b voor RL voor gestructureerde output, GLM-5.2 voor verfijning, MiniMax-M2 voor het doorlopen van zoekgrafen, en een lange staart van andere. De bij elkaar horende tabellen zijn een herinnering aan hoe de industrie daadwerkelijk werkt — de trainingssignalen van een frontiermodel bevatten steevast outputs van modellen van concurrenten, en NVIDIA is een van de zeer weinige labs die zal zeggen welke en waarvoor.

De repository levert ook een Nemotron_3.5_Super_VL_EU_Training_Content_Summary.pdf mee, toegevoegd op 15 oktober, de EU-gerichte openbaarmaking van de trainingsinhoud. De mid-trainingmix wordt tot op hetzelfde detailniveau bekendgemaakt, en één regel daarvan is direct relevant als je van plan bent te fine-tunen voor softwarewerk: de software-engineeringfase van 67B tokens bestaat voor 20% uit volledige repositories, 41% uit issue-en-pull-request-paren, 3% uit commit-diffs, 1% uit build- en CI-logs, 10% uit agenttraces, 20% uit pre-training-replay en 5% uit lang-contextdata, en de bronnen ervan zijn gedecontamineerd tegen SWE-bench- en Terminal-Bench-repositories. Die decontaminatieverklaring is de ene regel in de kaart die je vertelt wat een score op een van beide benchmarks waard is.

De licentie, en voor wie het basis-checkpoint bedoeld is

OpenMDW-1.1, dezelfde licentie als de post-getrainde builds, waarbij de modelkaart duidelijk vermeldt: "Dit model is klaar voor commercieel of niet-commercieel gebruik." De repository is niet afgeschermd en er is geen Hugging Face-token nodig voor de download, hoewel NVIDIA's eigen containerrecepten elders in de familie er wel een veronderstellen.

Zet de licentie naast het gebruiksscenario en de beoogde doelgroep is ondubbelzinnig. Niemand downloadt een pre-post-training-checkpoint van 249 GB om geld te besparen op inferentie — de NVFP4-build is 3,3 keer kleiner, sneller en 23 punten beter op GPQA Diamond. Het basischeckpoint is voor een team dat de post-trainingsfase in eigen beheer wil nemen: een ander domein, een ander beloningssignaal of een ander databeleid dan NVIDIA heeft gehanteerd. Onder OpenMDW-1.1, met commercieel gebruik toegestaan en gewichten zonder toegangsbeperking, is dat een legitieme basis om een product op te bouwen, en dat is precies waarom de ontbrekende documentatie iets kost.

En het loont hier de twee soorten lezers uit elkaar te houden. Als je vraag is "wat moet ik deze week inzetten voor documentparsering of videobegrip", dan is het basischeckpoint niet je antwoord en is dat nooit geweest; het nagetrainde model is dat wel, en de open vraag daar is benchmarkverificatie in plaats van beschikbaarheid. Als je vraag is "kan ik een hybride Mamba-MoE vision-language-backbone van de 120B-klasse met een permissieve licentie krijgen als startpunt voor mijn eigen trainingsrun", dan is deze repository het antwoord en die staat sinds 12 oktober zonder link.

Als je het zou gaan evalueren

De dure fout bij een checkpoint als dit is dat je de download als de test behandelt. Dat is het niet: 249 GB, 63 shards en een config-aanpassing vóór de eerste forward pass zeggen je niets over of de vision tower naar jouw documentklasse kan worden overgedragen.

De goedkope test is om de capaciteitsvraag eerst op een geserveerd model vast te stellen en pas daarna de schijfruimte te besteden. Een routing-gateway is daarvoor nuttig en voor niets anders in deze beslissing — één sleutel en één endpoint voor een paar honderd modellen tegen de lijstprijs van de provider met 0% markup doorgegeven betekent dat je de post-trained N​emotron 3.5 Super VL-build kunt afzetten tegen welk visionmodel je al gebruikt, op je eigen afbeeldingen, in een middag en voor de kosten van de tokens. Automatische failover tussen providers is hier om een smalle reden van belang: een evaluatierun die sterft bij verzoek 4.000 van 5.000 kost je de hele run, en een gateway die bij een providerfout elders opnieuw probeert is het verschil tussen één middag en twee.

Om direct te zijn over het ene ding dat anders dubbelzinnig zou zijn: NVIDIA Nemotron 3.5 Super VL staat niet in onze catalogus. We serveren dit model vandaag niet, en juist de base checkpoint is iets wat een gehost endpoint waarschijnlijk helemaal niet zal aanbieden, omdat base checkpoints geen inferentieproducten zijn. Wat een gateway je geeft, is de goedkope helft van het experiment — de vergelijking die je vertelt of het betalen van de 249 GB het waard is.

Wat is er nog niet vastgesteld?

Vier dingen, geformuleerd als lacunes in plaats van risico's.

• Welke contextlimiet is echt. De kaart zegt 1M, de meegeleverde configuratie verklaart 262.144, en de trainingsbeschrijving zegt dat er een 1M-uitbreiding is uitgevoerd. Er is geen gepubliceerde uitspraak die de drie met elkaar verzoent. Iedereen die een langdurige voortgezette pretrainingsrun met lange context plant, moet de configuratiewaarde als de standaard beschouwen en deze aan de hand van hun runtime verifiëren in plaats van de kaart.

• Wat de vision tower kan. De basiskaart publiceert geen enkele vorm van multimodale evaluatie. Geen OCR, geen document, geen grafiek, geen videorij — voor het enige checkpoint in de familie waarvan het hele doel is om op die modaliteiten te worden finegetuned. Dat is het grootste gat in het gepubliceerde bewijs.

• Hoe de basis zich tot wat dan ook verhoudt.Benchmarktabel met één kolom, geen baselines, geen vermelding van de harness. Het cijfer van 66,16 voor GPQA Diamond is in principe reproduceerbaar via NeMo Gym en is door niemand buiten NVIDIA gereproduceerd.

• Of de base ergens de 1M-deploymentrecepten meelevert. De post-trained kaart bevat 4×H100- en 2×GB200-startcommando's voor het volledige venster. De base-kaart bevat één hf download. Het is niet duidelijk of dat een hiaat in de documentatie is of een verklaring dat het serveren van de base op 1M niet iets is dat N​VIDIA van plan is te ondersteunen.

Niets daarvan maakt de release minder interessant. Het maakt de base checkpoint het minst gedocumenteerde artefact van de familie en, voor een specifiek en nauw afgebakend type team, het nuttigste — het verschil is of je volgende stap een API-aanroep of een trainingsrun is.

Voor een model waarvan de faalmodi nog niet gedocumenteerd zijn, vormt het verslag van wat elders al is misgegaan de nuttige tegenhanger: de gedocumenteerde AI-incidenten en agentstoringen rond modellen in deze klasse zijn verzameld in the OrcaRouter AI Incident Archive, waarbij elke vermelding zijn eigen bronnen, ernstgraad, betrouwbaarheidsgraad en betwist-markering bevat.