NVIDIA Nemotron 3.5 Super VL lanseras: 120B öppna vikter, ett 5x-påstående och en hake på 249 GB

NVIDIA Nemotron 3.5 Super VL har släppts, och den specifikation som borde avgöra om du ens ska röra den är inte den som tillkännagivandet lyfter fram först. Modellen är ett vision-språksystem med 120B parametrar och 12B aktiva parametrar, en kontext på 1M tokens, inbyggd spekulativ avkodning samt stöd för text, bilder, dokument och video. NVIDIAs lanseringsinlägg är daterat den 15 oktober 2026 och utmålar den som den snabbaste öppna agentiska modellen i sin klass – ”upp till 5x snabbare genomströmning jämfört med andra modeller i samma klass”, mätt på leaderboarden Artificial Analysis Intelligence Index. Det som inlägget inte lägger framför dig är att utgåvan består av två checkpoints, att skillnaden mellan dem är 174 GB VRAM, och att den mindre betalar för den besparingen på ett ojämnt sätt.

Vad släpptes faktiskt den 15 oktober?

Två saker hände på olika dagar, och tidsskillnaden har betydelse om du ska datera en driftsättning. Vikterna landade på Hugging Face den 12 oktober kl. 15:32 UTC. Tillkännagivandet kom den 15 oktober. NVIDIAs eget modellkort anger släppet som 10/15/2026 i version 1.0 GA, så leverantören anser att den 15:e är leveransdatumet; tidsstämplarna i repot säger något annat. Inget av datumen är mer än en vecka gammalt, och båda är så pass nya att inget kring den här utgivningen har hunnit reproduceras oberoende.

Släppet är bredare än den modell som tillkännagivandet har fått sitt namn efter:

• Nemotron 3.5 Super VL — flaggskeppet, 120B totalt / 12B aktiva, i en BF16-version och en NVFP4-version, båda publicerade den 12 oktober.

• Nemotron 3.5 Super VL Base — checkpointen före efterträning, publicerad tillsammans med instruct-bygget, vilket spelar roll eftersom licensen låter dig köra din egen efterträning.

• Nemotron 3.5 Bolt 74B-A9B 24GB — en edge-modell som får plats i 24 GB genom inbyggd 2-bitars kvantisering, publicerad den 7 oktober.

• Nemotron 3.5 Bolt E4B 4GB — den minsta i familjen, daterad 23 oktober.

Arkitekturen är en Mamba-2/Transformer-hybrid Mixture-of-Experts med Multi-Token Prediction, 512 routade experter per MoE-lager, en C-RADIO-visionencoder och en vision-language-konnektor. Multimodal hantering täcker OCR, tabeller, diagram, dokument med flera sidor och visuell grundning; video accepteras som MP4 upp till två minuter, samplad med 2 FPS och upp till 256 bildrutor, eller 1 FPS och 128 bildrutor vid 1080p. Licensen är OpenMDW-1.1, som modellkortet anger är redo för kommersiell eller icke-kommersiell användning — en genuint tillåtande uppsättning villkor, och en verklig del av varför det här släppet fick uppmärksamhet.

Två kontrollpunkter, och de 174 GB mellan dem

Det är här släppet blir intressant för alla som måste betala för GPU:er. NVIDIA publicerade samma modell två gånger, i två precisioner, och de två byggena är inte ens nära varandra i storlek. Båda siffrorna nedan är hämtade från filförteckningarna i Hugging Face-repositoriet, som rapporterar storlekarna på de enskilda viktshardarna:

• BF16-checkpoint — 248,94 GB fördelat på 63 shards. Safetensors-huvudet anger parameterantalet till 124,45 miljarder.

• NVFP4-checkpoint — 75,06 GB fördelat över 88 shards. Inferens körs med W4A4 på Blackwell och W4A16 på allt som är äldre.

• Hårdvara, full precision — NVIDIAs kort listar 4× H100 eller 2× GB200 för text, bild och video.

• Hårdvara, kvantiserad — 1× H200, 2× H100, 1× GB200 eller en enda DGX Spark, där Spark-vägen kräver en LiLiCorr-drafter för spekulativ avkodning.

• Besparingen — 173,88 GB, eller ungefär 3,3× mindre på disk, och skillnaden mellan en nod med fyra GPU:er och en enda accelerator.

Läs det som en ekonomisk fråga, för det är precis vad det är. Att gå från fyra H100 till en H200 är inte ett beslut om tuning; det är skillnaden mellan en modell som du kan sätta bakom en produkt det här kvartalet och en som du inte kan. Kvantiseringsreceptet som NVIDIA använde är också mer omsorgsfullt än vanligt: visionskodaren, anslutningsmodulen, Mamba-konvolutionerna och embeddingarna förblir i BF16, MoE-routern förblir i FP32, och resten produceras genom kvantiseringsmedveten destillation från BF16-modellen med 200 iterationer av SFT-baserad destillation ovanpå.

Vad den kvantiserade builden ger upp

NVIDIA publicerade en parvis tabell som jämför de två checkpoints med alla andra inställningar oförändrade, vilket är det ärliga sättet att göra denna jämförelse och ovanligare än det borde vara. Paren nedan är NVIDIAs egna siffror, från NVFP4-modellkortet, och de är inte alla i samma riktning.

Där den kvantiserade byggversionen förlorar:

• Terminal-Bench 2.1 — 66,70 i BF16 mot 60,80 i NVFP4. Ett tapp på 5,9 punkter, den största enskilda försämringen i tabellen.

• WebVoyager, offline — 77,72 mot 66,31. En nedgång på 11,4 punkter i browser-agent-arbete.

• DeepSWE, offline – 24,65 mot 18,20.

• MMLU-ProX — 76,91 mot 73,76.

• tau3-bench banking — 18,88 mot 17,78.

Där det vinner, eller håller:

• GPQA-Diamond — 89,52 mot 89,90.

• APEX-kortlista — 88,36 mot 89,36.

• AA-Omniscience hallucineringsfrekvens — 30,0 mot 27,7, dvs. den kvantiserade versionen hallucinerar något mindre enligt NVIDIAs egen mätning.

• tau2-bench telecom — 73.19 på båda sidor, identiskt.

• OCRBench v2 EN — 68,12 mot 68,34.

• MMLongBench-Doc — 62,82 båda sidorna.

Mönstret går att läsa utan statistiker. Arbetsbelastningarna för dokument, OCR och kunskapsåterkallning rör sig knappt, och några av dem förbättras. De långsiktiga agentiska arbetsbelastningarna rör sig mycket. Om din applikation läser handlingar, kvitton eller sidbilder och returnerar strukturerad utdata, är 75 GB-checkpointen vad du bör servera, och du avstår från nästan ingenting. Om din applikation är en agent som kör en terminal eller styr en webbläsare under dussintals steg i följd, byter du bort ungefär nio procent av Terminal-Bench mot tre fjärdedelar av din GPU-kostnad, och det är ett beslut som är värt att köra på din egen eval i stället för på en leverantörstabell.

5x, och vad det mäts mot

NVIDIAs rubrik är genomströmning, och den förtjänar att läsas exakt i stället för att avfärdas eller upprepas. Påståendet är "upp till 5x snabbare genomströmning jämfört med andra modeller i sin klass", och klassen definieras inte i inlägget. Mätningen är NVIDIAs, på NVIDIAs serveringsstack, oavsett vilken samtidighets- och sekvensmix receptet valde – modellkortets egna driftsättningstabeller anger 32 samtidiga sekvenser och 5 eller 3 spekulativa draft-tokens beroende på hårdvara, och genomströmning för en agentisk proxy med 20 turer är ett helt annat tal än genomströmning för single-shot-prompter.

Inget av detta gör påståendet falskt. Det gör det till ett leverantörspåstående om en leverantörskonfigurerad arbetsbelastning, vilket är exakt vad etiketten säger. Vad som är värt att notera är att det i den här versionen inte finns någon motvikt: ingen oberoende genomströmningsmätning av dessa checkpoints har publicerats, så de enda siffror som cirkulerar är NVIDIA:s. En genomströmningssiffra utan en namngiven baslinjemodell, en angiven samtidighet och en angiven hårdvarukonfiguration är inget man kan planera kapacitet utifrån. Om 5x är avgörande för ditt beslut bör du reproducera det på din egen trafik innan du tecknar en GPU-reservation.

Där modellen är stark, enligt NVIDIAs egen tabell

Det enskilda modellkortet listar också hur BF16-checkpointen står sig mot sina jämlikar, och det är värt att läsa kolumnerna till höger om NVIDIAs egna, eftersom de också är NVIDIAs. Mot Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash, Nemotron 3 Ultra, Inkling-Small och GLM-5.3-Flash:

• Video-MME v2 — 32,85, mot Qwen3.8-Flash-Next på 45,1 och GLM-5.3-Flash på 14,8. Mitt i fältet, och den bredaste spridningen av alla rader.

• OCRBench v2 EN — 68,12, ungefär i nivå med Qwen3.8-Flash-Next på 67,9 och Qwen3.5-122B-A10B på 68,3.

• CharXiv-resonemang — 80,82, bakom båda Qwen-modellerna.

• MathVision — 78,16, efter Qwen3.8-Flash-Next på 87,5.

• MMLU-ProX — 76,91, bakom varje kolumn för jämförbara modeller på den raden.

• AA-Omniscience-hallucinationsfrekvens — 30,0, mot Qwen3.5-122B-A10B på 84,5 och DeepSeek-V4-Flash på 95,9. På den här raden är lägre bättre, och marginalen är inte liten.

• Terminal-Bench 2.1 — 66,70, mot Qwen3.8-Flash-Next på 85,8 och GLM-5.3-Flash på 82,7.

• SWE-bench Verified — 71,10, mot GLM-5.3-Flash på 79,10.

• OSWorld-Verified — 51,14, jämfört med GLM-5.3-Flash på 14,78.

Inriktningen på det stämmer överens med vad NVIDIA säger att modellen är till för. Den är inte ledande på rå resonemangsförmåga eller kodning, och gör inte anspråk på att vara det – tillkännagivandet positionerar den mot företagets egen största modell vid ungefär en femtedel av parameterantalet, inte mot frontlinjen. Den är stark på hallucinationdisciplin, dokumentextraktion och arbete med desktop-agenter, ligger i mittfältet på video och är efter på de svåraste agentiska terminalbenchmarkarna. Om du kom till den här lanseringen för att ”videoförståelse” stod i första raden i tillkännagivandet, är det siffrorna för video som du bör titta närmare på.

Vad det kostar att driva

Det finns inget listpris, och det är inte något som NVIDIA har utelämnat — det är formen för en lansering med öppna vikter. NVIDIA säljer inte den här modellen per token till en publicerad taxa; i stället publiceras vikterna under OpenMDW-1.1 och en NIM-container med validerade konfigurationer, och du betalar för GPU:erna. Så kostnadsfrågan är en GPU-timmarsfråga, och de två godtagbara svaren är 4× H100 för BF16 eller en H200 eller en enda DGX Spark för NVFP4.

Det är den delen av kalkylen som de flesta team får fel när de jämför en öppen modell med ett hostat API. Den hostade sidan anger en per-token-kostnad som redan innehåller någon annans utnyttjandekurva. Den öppna sidan anger en checkpoint och en minimilista över hårdvara, och den verkliga siffran beror helt på om du kan hålla GPU:n upptagen. En enda H200 som kör en 75 GB checkpoint och betjänar ett internt arbetsflöde några hundra gånger om dagen är enormt mycket dyrare per anrop än samma checkpoint i en delad driftsättning. Hyr innan du köper, och mät tokens per sekund på dina egna prompter i stället för på en proxy-arbetsbelastning.

Testa det innan du satsar en produkt på det

Det ärliga första steget för en modell vars dokumentation är en dag gammal är en utvärdering, inte en migrering, och det är där en gateway gör verkligt arbete snarare än retoriskt arbete. En nyckel över över 200 modeller till leverantörens listpris med 0 % påslag innebär att den jämförelse du faktiskt vill göra — Nemotron 3.5 Super VL mot den text- eller bildmodell du kör i dag — är en ändring av en modellsträng snarare än en andra leverantörsrelation, och automatiskt failover mellan leverantörer innebär att en arbetsbelastning som du bara testar kan köras vid sidan av produktionstrafiken utan att någon av dem är beroende av den andra. Det spelar större roll här än vanligt: de två checkpunkterna beter sig tillräckligt olika i agentiskt arbete för att det användbara experimentet inte är "är den här modellen bra" utan "vilken av dessa två byggen, på vilket av mina benchmarks, till vilken GPU-kostnad".

Sekvensen som undviker att slösa bort en GPU-månad: välj först den dokumentformade arbetsbelastningen, eftersom det är där gapet mellan BF16 och NVFP4 är som minst och där modellens egna siffror är bäst. Kör den mot den mindre checkpointen. Poängsätt den mot en eval som du själv har skrivit. Först därefter bör du avgöra om de agentiska arbetsbelastningarna – de där den kvantiserade byggversionen tappar 5,9 poäng på Terminal-Bench och 11,4 på WebVoyager – motiverar 249 GB-bygget och fyra GPU:er.

Vad är fortfarande obesvarat?

Tre gap är värda att bevaka eftersom de förändrar beslutet snarare än marknadsföringen.

Det första är oberoende utvärdering. Varje siffra i den här artikeln som kommer från NVIDIA är märkt som sådan, och i den här utgåvan är det samtliga. Ingen tredje part har publicerat en genomströmningsmätning, en reproduktion av noggrannhet eller en jämförelse av evals-harness för någon av checkpointarna. Påståendet om 5x genomströmning och den tillhörande kvantiseringstabellen är internt konsekventa och uppenbart framtagna med omsorg, och de är fortfarande leverantörsrapporterade och icke-reproducerade. Behandla dem som en övre gräns tills någon utanför NVIDIA publicerar samma experiment.

Det andra är videospåret. Modellen accepterar MP4 och tillkännagivandet inleder med videoförståelse, men på det enda videobenchmarket i NVIDIAs egen tabell landar den på 32,85 medan Qwen3.8-Flash-Next ligger på 45,1. Träningsdata omfattade video från 10 000 till en miljon timmar, vilket är ett brett spann och inte säger något om densitet eller domän. Om video är ditt användningsfall är detta raden du bör testa först och raden som med störst sannolikhet gör en inköpspresentation byggd på tillkännagivandet besviken.

Den tredje är bascheckpointen. Att den publiceras under samma licens är den del av den här utgåvan med den längsta svansen, eftersom den låter ett team med egna data köra efterträning i stället för att prompta runt leverantörens. NVIDIA:s egen efterträningskorpus för den här familjen är också öppen, och effektstorlekarna i NVIDIA:s rapport ligger på tiotals poäng inom NVIDIA:s testramverk. Ingen har ännu publicerat en trovärdig oberoende finjustering utifrån den basen. När någon gör det kommer det att säga dig mer om den här modellens verkliga tak än lanseringsinlägget gör.

Vikterna går att ladda ner i dag och licensen låter dig använda dem kommersiellt. De två saker du inte kan ladda ner är ett oberoende riktmärke och en genomströmningssiffra med en namngiven baslinje — och båda är precis vad du skulle behöva innan du binder en produktionsväg till en modell som för närvarande är fyra dagar gammal.