NVIDIA Nemotron 3.5 Super VL ist verfügbar: 120B offene Gewichte, ein 5x-Versprechen und ein 249-GB-Haken

NVIDIA Nemotron 3.5 Super VL ist da, und die Spezifikation, die entscheiden sollte, ob du es in Betracht ziehst, ist nicht die, mit der die Ankündigung beginnt. Das Modell ist ein Vision-Language-System mit 120 Mrd. Parametern, davon 12 Mrd. aktive, einem 1-Mio.-Token-Kontext, nativem spekulativem Decoding und Unterstützung für Text, Bilder, Dokumente und Video. NVIDIAs Ankündigungsbeitrag ist auf den 15. Oktober 2026 datiert und preist es als das schnellste offene agentische Modell seiner Klasse an – „bis zu 5x schnellerer Durchsatz im Vergleich zu anderen Modellen seiner Klasse“, gemessen im Leaderboard des Artificial Analysis Intelligence Index. Was der Beitrag dir nicht vor Augen führt, ist, dass es sich bei der Veröffentlichung um zwei Checkpoints handelt, dass der Unterschied zwischen ihnen 174 GB VRAM beträgt und dass der kleinere für diese Einsparung einen ungleichmäßigen Preis zahlt.

Was wurde am 15. Oktober tatsächlich ausgeliefert?

Zwei Dinge geschahen an verschiedenen Tagen, und die Differenz ist wichtig, wenn man ein Deployment datiert. Die Gewichte landeten am 12. Oktober um 15:32 UTC auf Hugging Face. Die Ankündigung folgte am 15. Oktober. NVIDIAs eigene Modellkarte gibt die Veröffentlichung als 10/15/2026 bei Version 1.0 GA an, also betrachtet der Anbieter den 15. als Auslieferungsdatum; die Zeitstempel des Repositorys sagen etwas anderes. Keines der beiden Daten ist älter als eine Woche, und beide sind neu genug, dass nichts an dieser Veröffentlichung Zeit hatte, unabhängig reproduziert zu werden.

Das Release ist umfassender als das Modell, nach dem die Ankündigung benannt ist:

• Nemotron 3.5 Super VL — das Flaggschiff, 120B insgesamt / 12B aktiv, in einem BF16-Build und einem NVFP4-Build, beide veröffentlicht am 12. Oktober.

• Nemotron 3.5 Super VL Base — der Checkpoint vor dem Post-Training, veröffentlicht zusammen mit dem Instruct-Build, was wichtig ist, weil die Lizenz es dir erlaubt, dein eigenes Post-Training durchzuführen.

• Nemotron 3.5 Bolt 74B-A9B 24GB — ein Edge-Modell, das durch native 2-Bit-Quantisierung in 24 GB passt, veröffentlicht am 7. Oktober.

• Nemotron 3.5 Bolt E4B 4GB — das kleinste der Familie, datiert auf den 23. Oktober.

Die Architektur ist ein Mamba-2/Transformer-Hybrid-Mixture-of-Experts mit Multi-Token-Vorhersage, 512 gerouteten Experten pro MoE-Schicht, einem C-RADIO-Vision-Encoder und einem Vision-Language-Connector. Die multimodale Verarbeitung deckt OCR, Tabellen, Diagramme, mehrseitige Dokumente und visuelles Grounding ab; Video wird als MP4 mit bis zu zwei Minuten akzeptiert, abgetastet mit 2 FPS und bis zu 256 Frames oder mit 1 FPS und 128 Frames bei 1080p. Die Lizenz ist OpenMDW-1.1, die laut Modellkarte für kommerzielle oder nichtkommerzielle Nutzung bereit ist – ein wirklich permissives Bedingungswerk und ein wesentlicher Grund, warum diese Veröffentlichung Aufmerksamkeit erregte.

Zwei Checkpoints und die 174 GB dazwischen

Spannend wird diese Veröffentlichung für alle, die für GPUs bezahlen müssen. NVIDIA hat dasselbe Modell zweimal veröffentlicht, in zwei Präzisionen, und die beiden Builds unterscheiden sich deutlich in ihrer Größe. Die beiden unten stehenden Werte stammen aus den Dateiauflistungen des Hugging Face-Repositorys, in denen die Größen der einzelnen Weight-Shards angegeben sind:

• BF16-Checkpoint — 248,94 GB verteilt auf 63 Shards. Der safetensors-Header gibt die Parameteranzahl mit 124,45 Milliarden an.

• NVFP4-Checkpoint — 75,06 GB verteilt auf 88 Shards. Die Inferenz läuft mit W4A4 auf Blackwell und mit W4A16 auf älterer Hardware.

• Hardware, volle Präzision — NVIDIAs Datenblatt führt 4× H100 oder 2× GB200 für Text, Bild und Video auf.

• Hardware, quantisiert — 1× H200, 2× H100, 1× GB200 oder ein einzelner DGX Spark, wobei der Spark-Pfad einen LiLiCorr-Drafter für spekulatives Decoding benötigt.

• Die Einsparung — 173,88 GB oder etwa 3,3× kleiner auf der Festplatte und der Unterschied zwischen einem Vier-GPU-Knoten und einem einzelnen Beschleuniger.

Lies das als Wirtschaftsfrage, denn genau das ist es. Von vier H100 auf eine H200 zu wechseln ist keine Tuning-Entscheidung; es ist der Unterschied zwischen einem Modell, das man dieses Quartal hinter ein Produkt stellen kann, und einem, bei dem das nicht geht. Das Quantisierungsrezept, das NVIDIA verwendet hat, ist zudem sorgfältiger als üblich: Der Vision-Encoder, der Connector, die Mamba-Faltungen und die Embeddings bleiben in BF16, der MoE-Router bleibt in FP32, und der Rest entsteht durch quantisierungsbewusste Destillation aus dem BF16-Modell mit 200 Iterationen SFT-basierter Destillation obendrauf.

Was der quantisierte Build aufgibt

NVIDIA hat eine gepaarte Tabelle veröffentlicht, die die beiden Checkpoints vergleicht, während alle anderen Einstellungen konstant gehalten werden – die ehrliche Art, diesen Vergleich durchzuführen, und seltener, als es sein sollte. Die unten stehenden Paare sind die eigenen Zahlen von NVIDIA aus der NVFP4-Modellkarte, und sie weisen nicht alle in dieselbe Richtung.

Wo der quantisierte Build verliert:

• Terminal-Bench 2.1 — 66,70 in BF16 gegenüber 60,80 in NVFP4. Ein Rückgang um 5,9 Punkte, die größte einzelne Regression in der Tabelle.

• WebVoyager, offline — 77,72 gegenüber 66,31. Ein Rückgang um 11,4 Punkte bei der Browser-Agent-Arbeit.

• DeepSWE, offline — 24,65 gegen 18,20.

• MMLU-ProX — 76,91 gegenüber 73,76.

• tau3-bench banking — 18,88 gegenüber 17,78.

Wo es zulegt oder hält:

• GPQA-Diamond — 89,52 gegenüber 89,90.

• APEX Shortlist — 88,36 gegenüber 89,36.

• AA-Omniscience-Halluzinationsrate — 30,0 gegenüber 27,7, d. h. der quantisierte Build halluziniert nach NVIDIAs eigenem Maßstab etwas weniger.

• tau2-bench telecom — 73.19 auf beiden Seiten, identisch.

• OCRBench v2 EN — 68,12 gegen 68,34.

• MMLongBench-Doc — 62,82 auf beiden Seiten.

Das Muster ist auch ohne Statistiker erkennbar. Die Workloads für Dokumente, OCR und Wissensabruf bewegen sich kaum, und einige von ihnen verbessern sich. Die agentischen Long-Horizon-Workloads bewegen sich stark. Wenn Ihre Anwendung Dokumente, Belege oder Seitenbilder liest und strukturierte Ausgaben zurückgibt, ist der 75-GB-Checkpoint das, was Sie ausliefern sollten, und Sie verzichten auf nahezu nichts. Wenn Ihre Anwendung ein Agent ist, der ein Terminal ausführt oder einen Browser über Dutzende aufeinanderfolgende Schritte steuert, tauschen Sie etwa neun Prozent von Terminal-Bench gegen drei Viertel Ihrer GPU-Rechnung ein, und das ist eine Entscheidung, die Sie auf Ihrem eigenen Eval statt auf einer Anbietertabelle testen sollten.

Das 5x und wogegen es gemessen wird

NVIDIAs Schlagzeile ist der Durchsatz, und sie verdient es, präzise gelesen zu werden, anstatt verworfen oder wiederholt zu werden. Die Behauptung lautet „bis zu 5-mal schnellerer Durchsatz im Vergleich zu anderen Modellen seiner Klasse“, und die Klasse wird im Beitrag nicht definiert. Die Messung stammt von NVIDIA, auf NVIDIAs Serving-Stack, bei welcher Parallelität und welchem Sequenzmix auch immer das Rezept gewählt hat — die Deployment-Tabellen der Modellkarte selbst geben 32 gleichzeitige Sequenzen und je nach Hardware 5 oder 3 spekulative Draft-Tokens an, und der Durchsatz bei einem agentischen Proxy mit 20 Turns ist eine ganz andere Zahl als der Durchsatz bei Single-Shot-Prompts.

Nichts davon macht die Behauptung falsch. Es macht sie zu einer Herstellerangabe über eine vom Hersteller konfigurierte Workload, was genau dem entspricht, was das Label besagt. Bemerkenswert ist, dass es bei dieser Version kein Gegengewicht gibt: Es wurden keine unabhängigen Durchsatzmessungen dieser Checkpoints veröffentlicht, sodass die einzigen kursierenden Zahlen die von NVIDIA sind. Eine Durchsatzzahl ohne ein benanntes Baseline-Modell, ohne angegebene Parallelität und ohne angegebene Hardwarekonfiguration ist nichts, worauf man eine Kapazitätsplanung stützen kann. Wenn die 5x für Ihre Entscheidung tragend ist, reproduzieren Sie sie mit Ihrem eigenen Traffic, bevor Sie eine GPU-Reservierung unterzeichnen.

Wo das Modell stark ist, laut NVIDIAs eigener Tabelle

Die Single-Model-Karte listet außerdem auf, wie der BF16-Checkpoint im Vergleich zu seinen Pendants abschneidet, und es lohnt sich, die Spalten rechts neben denen von NVIDIA selbst zu lesen, denn sie sind ebenfalls von NVIDIA. Gegen Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash, Nemotron 3 Ultra, Inkling-Small und GLM-5.3-Flash:

• Video-MME v2 — 32,85, gegenüber Qwen3.8-Flash-Next mit 45,1 und GLM-5.3-Flash mit 14,8. Mittelfeld, und die größte Streuung aller Zeilen.

• OCRBench v2 EN — 68,12, ungefähr auf Augenhöhe mit Qwen3.8-Flash-Next bei 67,9 und Qwen3.5-122B-A10B bei 68,3.

• CharXiv-Reasoning — 80.82, hinter beiden Qwen-Modellen.

• MathVision — 78,16, hinter Qwen3.8-Flash-Next mit 87,5.

• MMLU-ProX — 76,91, hinter jeder Peer-Spalte in dieser Zeile.

• AA-Omniscience-Halluzinationsrate — 30,0, gegenüber Qwen3.5-122B-A10B mit 84,5 und DeepSeek-V4-Flash mit 95,9. In dieser Zeile ist niedriger besser, und der Abstand ist nicht klein.

• Terminal-Bench 2.1 — 66,70, gegenüber Qwen3.8-Flash-Next mit 85,8 und GLM-5.3-Flash mit 82,7.

• SWE-bench Verified — 71.10, gegenüber GLM-5.3-Flash mit 79.10.

• OSWorld-Verified — 51,14, gegenüber GLM-5.3-Flash mit 14,78.

Die Ausprägung dessen deckt sich mit dem, wofür das Modell laut NVIDIA gedacht ist. Es ist nicht der Spitzenreiter beim reinen Reasoning oder Coding und behauptet das auch nicht — die Ankündigung positioniert es gegen sein eigenes größtes Modell bei ungefähr einem Fünftel der Parameterzahl, nicht gegen die Frontier. Es ist stark bei Halluzinationsdisziplin, Dokumentenextraktion und Desktop-Agent-Arbeit, im Mittelfeld bei Video und liegt bei den härtesten agentischen Terminal-Benchmarks zurück. Wenn Sie zu diesem Release gekommen sind, weil „Videoverständnis“ in der ersten Zeile der Ankündigung stand, dann sind die Videozahlen diejenigen, die Sie sich genau ansehen sollten.

Was es kostet, es zu betreiben

Es gibt keinen Listenpreis, und das ist kein Versäumnis seitens NVIDIA — es ist die Gestalt einer Open-Weights-Veröffentlichung. NVIDIA verkauft dieses Modell nicht pro Token zu einem veröffentlichten Preis; es veröffentlicht Gewichte unter OpenMDW-1.1 und einen NIM-Container mit validierten Konfigurationen, und Sie zahlen für die GPUs. Die Kostenfrage ist also eine Frage der GPU-Stunden, und die zwei akzeptablen Antworten sind 4× H100 für BF16 oder eine H200 oder eine einzelne DGX Spark für NVFP4.

Das ist der Teil der Rechnung, den die meisten Teams falsch machen, wenn sie ein offenes Modell mit einer gehosteten API vergleichen. Die gehostete Seite nennt einen Preis pro Token, der bereits die Auslastungskurve von jemand anderem enthält. Die offene Seite nennt einen Checkpoint und eine Mindesthardwareliste, und die tatsächliche Zahl hängt vollständig davon ab, ob Sie die GPU ausgelastet halten können. Ein einzelner H200, auf dem ein 75-GB-Checkpoint läuft, der einen internen Workflow ein paar Hundert Mal pro Tag bedient, ist pro Aufruf enorm viel teurer als derselbe Checkpoint in einer gemeinsam genutzten Bereitstellung. Mieten Sie, bevor Sie kaufen, und messen Sie Tokens pro Sekunde an Ihren eigenen Prompts statt an einer Proxy-Workload.

Es ausprobieren, bevor Sie ein Produkt darauf verwetten

Der ehrliche erste Schritt bei einem Modell, dessen Dokumentation einen Tag alt ist, ist eine Evaluierung, keine Migration, und genau dort leistet ein Gateway echte Arbeit statt rhetorische. Ein Schlüssel für über 200 Modelle zum Listenpreis des Anbieters mit 0 % Aufschlag bedeutet, dass der Vergleich, den Sie eigentlich wollen – Nemotron 3.5 Super VL gegenüber dem Text- oder Vision-Modell, das Sie heute einsetzen –, eine Änderung an einem Modell-String ist statt eine zweite Anbieterbeziehung, und automatisches Failover über Anbieter hinweg bedeutet, dass eine Workload, die Sie nur testen, neben dem Produktionsverkehr laufen kann, ohne dass eine von der anderen abhängt. Das ist hier wichtiger als sonst: Die beiden Checkpoints verhalten sich bei agentischen Aufgaben unterschiedlich genug, dass das nützliche Experiment nicht „ist dieses Modell gut“ lautet, sondern „welcher dieser beiden Builds, auf welchem meiner Benchmarks, zu welchen GPU-Kosten“.

Die Reihenfolge, die vermeidet, einen GPU-Monat zu verschwenden: Wähle zuerst die dokumentförmige Workload, denn dort ist die Lücke zwischen BF16 und NVFP4 am kleinsten und dort sind die eigenen Zahlen des Modells am besten. Führe sie gegen den kleineren Checkpoint aus. Bewerte sie anhand einer Eval, die du geschrieben hast. Erst dann entscheide, ob die agentischen Workloads – diejenigen, bei denen der quantisierte Build 5,9 Punkte auf Terminal-Bench und 11,4 auf WebVoyager verliert – den 249-GB-Build und vier GPUs rechtfertigen.

Was ist noch unbeantwortet?

Drei Lücken lohnen einen Blick, weil sie die Entscheidung verändern und nicht das Marketing.

Das erste ist die unabhängige Evaluierung. Jede Zahl in diesem Artikel, die von NVIDIA stammt, ist als solche gekennzeichnet, und in dieser Veröffentlichung sind das alle. Kein Dritter hat eine Durchsatzmessung, eine Genauigkeitsreproduktion oder einen Evaluierungs-Harness-Vergleich für einen der beiden Checkpoints veröffentlicht. Die Behauptung des 5-fachen Durchsatzes und die zugehörige Quantisierungstabelle sind in sich konsistent und offensichtlich mit Sorgfalt erstellt, und sie bleiben Angaben des Herstellers und sind nicht reproduziert. Betrachten Sie sie als Obergrenze, bis jemand außerhalb von NVIDIA dieselben Experimente veröffentlicht.

Der zweite Punkt ist der Videopfad. Das Modell akzeptiert MP4, und die Ankündigung führt mit Video-Verständnis, doch beim einzigen Video-Benchmark in NVIDIAs eigener Tabelle landet es bei 32,85, während Qwen3.8-Flash-Next bei 45,1 liegt. Die Trainingsdaten umfassten Video von 10.000 bis zu einer Million Stunden, was eine große Bandbreite ist und nichts über Dichte oder Domäne aussagt. Wenn Video Ihr Anwendungsfall ist, ist dies die Zeile, die Sie zuerst testen sollten, und die Zeile, die am ehesten ein aus der Ankündigung erstelltes Beschaffungsdeck enttäuschen wird.

Der dritte ist der Basis-Checkpoint. Seine Veröffentlichung unter derselben Lizenz ist der Teil dieses Releases mit der längsten Nachwirkung, denn sie ermöglicht es einem Team mit eigenen Daten, Post-Training durchzuführen, statt um das Modell des Anbieters herum zu prompten. Der eigene Post-Training-Korpus von NVIDIA für diese Familie ist ebenfalls offen, und die Effektgrößen in NVIDIAs Bericht erreichen innerhalb von NVIDIAs Harness zweistellige Punktwerte. Bisher hat noch niemand ein glaubwürdiges unabhängiges Fine-Tuning ausgehend von diesem Basis-Checkpoint veröffentlicht. Wenn jemand es tut, wird es Ihnen mehr über die tatsächliche Leistungsobergrenze dieses Modells verraten als der Launch-Post.

Die Gewichte sind ab heute herunterladbar, und die Lizenz erlaubt eine kommerzielle Nutzung. Die beiden Dinge, die man nicht herunterladen kann, sind ein unabhängiger Benchmark und eine Durchsatzzahl mit einer benannten Vergleichsbasis – und beides bräuchte man, bevor man einen Produktionspfad auf ein Modell festlegt, das derzeit vier Tage alt ist.