NVIDIA Nemotron 3.5 Super VL: Das offene 120B-Modell, das vor seinem eigenen Blogbeitrag veröffentlicht wurde

Die Gewichte für N​VIDIA N​emotron 3.5 Super VL waren drei Tage vor N​VIDIAs Beitrag darüber auf Hugging Face. Das Full-Precision-Repo, nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, wurde am 2026-10-12T15:32:06Z erstellt. Sein quantisiertes Schwester-Repository, nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4, wurde 24 Sekunden später veröffentlicht. N​VIDIAs eigener Entwickler-Blogbeitrag, der das Modell erklärt, ist auf den 15. Oktober 2026 datiert — denselben Tag, den seine Modellkarten mit „Hugging Face - 10/15/2026“ angeben. Die öffentlichen Artefakte und die öffentliche Ankündigung erschienen also an unterschiedlichen Tagen, und die Lücke ist klein genug, dass kein Datum falsch ist und beide wissenswert sind.

Was folgt, ist das, was das Repo und NVIDIAs Beitrag tatsächlich über dieses Vision-Language-Modell mit 120B Parametern und 12B aktiven Parametern sagen: die Architektur, die Deployment-Mathematik, wo seine eigene veröffentlichte Tabelle zeigt, dass es verliert, und der Lizenz-Haken, den der Blogbeitrag nie erwähnt.

Was Nvidia Nemotron 3.5 Super VL tatsächlich ist

N​VIDIA beschreibt es in einem eigenen Beitrag als „ein offenes, anpassbares multimodales Modell“, das für spezialisierte Agenten-Workflows entwickelt wurde – Reasoning, Anweisungsbefolgung und Tool-Nutzung, kombiniert mit Text-, Bild-, Dokument- und Videoverständnis in einem einzigen Gewichtssatz. Der Sinn dieser Kombination besteht, wie N​VIDIA es darstellt, darin, dass Teams „Text- und visuelle Aufgaben bewältigen können, ohne separate Text- und Vision-Language-Modelle einzusetzen oder Aufgabenkontext zwischen ihnen weiterzugeben.“

Die Architektur, laut der Modellkarte:

• Shape — 120B Gesamtparameter, 12B aktiv pro Token. Ein Mixture-of-Experts-Modell mit 512 gerouteten Experten pro MoE-Schicht.

• Backbone — verschachtelte Mamba-2-, Attention- und MoE-Schichten, ein hybrides Nemotron-Design, das aus der Nemotron-3-Reihe übernommen wurde.

• Vision — ein C-RADIO-Vision-Encoder plus ein Vision-Language-Connector. Der Transformers-Architektur-String ist NemotronH_Omni_Reasoning_V3, Modelltyp nemotron_h_omni.

• Kontext – bis zu 1 Mio. Token, wobei sich der Prompt, die Bilder, der Gesprächsverlauf, die Tool-Ergebnisse und die generierte Antwort alle dieses Fenster teilen.

• Spekulative Dekodierung — ein nativer Multi-Token-Vorhersagekopf, sodass für die von NVIDIA veröffentlichten vLLM- und SGLang-Rezepte kein separater Drafter-Download erforderlich ist.

• Reasoning-Modus – umschaltbar über das Chat-Template via enable_thinking, mit einer medium_effort-Einstellung dazwischen. Reasoning-Tokens und die Antwort teilen sich dasselbe max_tokens-Budget, worauf die Karte ausdrücklich hinweist, da dies die übliche Ursache für abgeschnittene Agenten-Ausgaben ist.

• Eingaben — Text, RGB-Bilder (JPEG, PNG) und MP4-Video mit bis zu zwei Minuten. Die empfohlene Videoabtastung im vLLM-Rezept ist 2 FPS und 256 Frames mit einer Pruning-Rate von 0,5; für 1080p empfiehlt die Karte, auf 1 FPS und 128 Frames zu reduzieren.

• Sprachen — Englisch, Spanisch, Französisch, Deutsch, Italienisch und Japanisch im Frontmatter der Karte. N​VIDIA gibt außerdem an, dass das Trainingskorpus Englisch sowie 19 weitere gesprochene Sprachen und 43 Programmiersprachen umfasst.

Zwei Präzisionsstufen – und der Speicher, den sie einbringen

NVIDIA hat das Modell zweimal veröffentlicht, und der Speichersprung zwischen den beiden ist die mit Abstand entscheidungsrelevanteste Zahl der Veröffentlichung.

• BF16 — die Referenz mit voller Präzision. Das Repo enthält 64 Safetensors-Shards mit insgesamt rund 231,8 GiB. NVIDIAs eigenes Serving-Rezept lautet --tensor-parallel-size 4 auf 4× H100 oder TP2 auf 2× GB200.

• NVFP4 — 4-Bit-Gewichte und -Aktivierungen mit quantisierungsbewusster Destillation, die laut N​VIDIA „die Genauigkeitslücke schließt, die die Quantisierung verursacht“. Derselbe Checkpoint läuft auf Nicht-Blackwell-Hardware mit 4-Bit-Gewichten und 16-Bit-Aktivierungen, und QAD ermöglicht es außerdem, den KV-Cache statt in FP8 in NVFP4 zu speichern. Da die Quantisierung während des Trainings und nicht danach erfolgt, entsteht laut N​VIDIA kein zusätzlicher Inferenz-Overhead. Die NVFP4-Karte nennt den Einsatz auf 1× DGX Spark, 1× H200, 2× H100 oder 1× GB200.

Diese letzte Zeile ist die praktische. Ein 120B-Modell, das auf zwei H100s in FP4 statt auf vier in BF16 passt, ist eine andere Beschaffungsfrage, und deshalb ist das quantisierte Repo dasjenige, auf das N​VIDIA für effizientes Serving verweist. Ein drittes Geschwistermodell, N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, erschien einen Tag vor dem Hauptpaar auf Hugging Face, ohne dass eine Ankündigung damit einherging; N​VIDIAs Blog erklärt LiLiCorr später als offene Speculative-Decoding-Technik und nennt es auf DGX Spark „den empfohlenen Drafter für latenzarme Inferenz mit N​emotron 3.5 Super VL“. Sein Repo ist vier Tage älter als diese Erklärung, was ein treffendes Beispiel dafür ist, wie dieses Release ans Licht kam.

Unter diesem Sprung steckt eine berechtigte Frage – was die NVFP4-Stufe gegenüber der BF16-Referenz aufgibt –, aber N​VIDIAs eigene Antwort ist eine Behauptung zur Trainingsmethodik, keine veröffentlichte direkte Genauigkeitstabelle für die beiden Checkpoints. Wenn es bei Ihrer Entscheidung auf die Präzisionswahl ankommt, dann findet sich dieser Vergleich nicht im Repo.

Wo die eigene Benchmark-Tabelle zeigt, dass es verliert

Die Modellkarte enthält eine große, vom Anbieter durchgeführte Benchmark-Tabelle – rund 40 Zeilen –, die Reasoning, Coding, agentische Aufgaben, langen Kontext sowie mehrsprachige und multimodale Arbeit abdeckt. N​VIDIA ist hier ungewöhnlich auskunftsfreudig: Es benennt die Vergleiche, und mehrere davon sind nicht gerade schmeichelhaft für das Modell. Seine eigenen Zahlen gegenüber dem nächstgelegenen offenen Wettbewerber derselben Bauform, Qwen3.5-122B-A10B:

• GPQA-Diamond — N​emotron 3.5 Super VL 89.52 vs Qwen3.5-122B-A10B 86.7 (N​emotron liegt vorn)

• HLE, nur Text — 31.79 vs. 24.2 (N​emotron liegt vorn)

• MMLU-ProX — 76,91 vs. 83,2 (Qwen liegt mit mehr als sechs Punkten vorn)

• CritPt — 10.86 vs. 1.1 (Nemotron mit großem Abstand voraus)

• LiveCodeBench v6 — 88,22 vs. 76,7 (Nemotron liegt bei diesem Harness vorn)

• SWE-bench Verified — 71,10 vs. 71,9 (ein Gleichstand, im Rahmen der Messungenauigkeit)

• SWE-bench Pro — 51,78 vs. 44,9 (N​emotron vorne)

• tau2-bench Einzelhandel — 69,24 vs. 55,4 (N​emotron liegt vorn)

• tau2-bench Telecom — 73,19 vs. 87,2 (Qwen liegt mit 14 Punkten vorn)

• AA-LCR v1.1 — 68,62 vs. 75,1 (Qwen bei langem Kontext vorn)

• BabyVision — 29.60 vs 35.7 (Qwen liegt vorn)

• MathVision — 78,16 vs. 83,3 (Qwen vorn)

• OCRBench v2, Englisch — 68,12 vs. 68,3 (praktisch gleichauf)

• OCRBench v2, Chinesisch — 59,15 vs. 67,3 (Qwen liegt um acht Punkte vorn)

• V* — 85.60 vs. 91.1 (Qwen vorn)

• IFBench — 70.86 vs 67.6 (Nemotron voraus)

• AA-Omniscience-Index — 4,03 vs. -36,1 (beide schwach; N​emotron weit weniger negativ)

Zu dieser Tabelle gibt es drei Dinge zu sagen, anstatt die Siege für sie sprechen zu lassen.

Erstens: Jede Zahl darin – die von Nemotron und die jeder Baseline – ist vom Anbieter gemeldet und mit NVIDIAs eigenem Harness erhoben. Auf der Karte steht es direkt: „Alle Evaluierungsergebnisse für Nemotron 3.5 Super und die Baselines wurden über NeMo Gym erhoben“, mit Reproduzierbarkeitshinweisen, die im NeMo-Gym-Repository veröffentlicht sind. Das ist eine bessere Offenlegung, als die meisten Labore hinbekommen, und trotzdem ist es kein unabhängiges Ergebnis. Betrachten Sie die Spalten als Messungen eines Labors an mehreren Modellen, nicht als neutrale Bestenliste.

Zweitens listet NVIDIA selbst die Benchmarks auf, die nicht in sein offenes Tooling aufgenommen wurden — BabyVision, CharXiv-RQ, MathVision, MMLongBench-Doc, OCR-Reasoning, OCRBench-v2, V* und Video-MME-v2 — und gibt an, dass dabei offizielle Implementierungen oder „ein internes Scaffolding, das wir in Zukunft als Open Source veröffentlichen wollen“ zum Einsatz kamen. Jede multimodale Zeile in der Tabelle trägt diesen Vorbehalt.

Drittens: Das Muster bei den Verlusten ist eher kohärent als zufällig. Die Lücken liegen bei chinesischsprachiger OCR, Langkontext-Reasoning sowie visueller Mathematik und Diagrammlesen. Die Stärken ballen sich bei Tool-Calling-Benchmarks und kurzfristigen agentischen Aufgaben — CritPt, tau2-bench Retail und Airline, APEX, Terminal-Bench 2.1 mit 66,70 gegenüber Qwens 48,70, SWE-bench Pro. Für ein Modell, das NVIDIA als Executor in einem Multi-Modell-Agent-Stack positioniert, ist das ein vertretbares Profil. Wenn Ihre Workload aus chinesischem Dokumenten-Parsing oder sehr langem analytischen Kontext besteht, sagt Ihnen dieselbe Tabelle etwas anderes.

Post-Trained schlägt Base, und NVIDIA führt damit

Die konkreteste Genauigkeitsbehauptung im Blogbeitrag von N​VIDIA ist kein Benchmark-Ergebnis. Sie ist eine Behauptung zur Anpassung: dass das Post-Training eines Basis-N​emotron 3.5 Super VL eine spezialisierte Workload über Claude Opus 5 hinausführen kann. N​VIDIAs Beispiel sind Krankenversicherungsansprüche, wobei es einen Zuwachs von 44 % durch Post-Training nennt.

Zwei Dinge sind wichtig daran, wie N​VIDIA dies berichtet. Die Zahl wird einem behaupteten Gewinn aus dem Post-Training zugeschrieben, nicht einem Modell-gegen-Modell-Vergleich auf einem öffentlichen Benchmark – was eine andere und schwächere Art von Evidenz ist. Und in N​VIDIAs eigenem Beitrag wird sorgfältig darauf hingewiesen, dass diese Gewinne mit Vorbehalten verbunden sind: „Das Basismodell übertraf proprietäre Frontier-Modelle nicht aus eigener Kraft“ ist die ehrliche Version des Satzes, und die Darstellung ist die, dass der Vorteil offener Gewichte darin liegt, dass ein Unternehmen mit seinen eigenen Daten nachtrainieren und das Ergebnis auf seiner eigenen Infrastruktur betreiben kann.

Die Anbieterseite derselben Geschichte ist dünn. NVIDIA nennt Scale AI, Ramp und AI21 als Organisationen, die das Modell nachtrainiert haben; Ramp wird mit der Erwartung zitiert, „bis zu 50 % höheren Durchsatz und 10-mal niedrigere Latenz“ bei der Beleg-zu-JSON-Extraktion zu erreichen, Scale AI eine 40-fache Senkung der Inferenzkosten und eine 5-fache Latenzverbesserung bei der Verarbeitung von Lieferantenkrediten. Das sind von Kunden angegebene Erwartungen und Ergebnisse, vom Anbieter veröffentlicht, ohne unabhängige Messung dahinter. Sie mögen durchaus zutreffen. Niemand außerhalb dieser Unternehmen hat es überprüft.

Hilfreich ist das, was NVIDIA tatsächlich veröffentlicht: die Rezeptur-Oberfläche: NeMo AutoModel für SFT und LoRA, NeMo RL und NeMo Gym für Reinforcement Learning und umgebungsbasierte Evaluierung, NeMo Data Designer für multimodale Datengenerierung, plus 45 Vision-Language-Datensätze und eine Reihe agentischer Datensätze für Tool-Nutzung, Finanzschlussfolgerungen und Instruction-Following auf Hugging Face. Ein Tutorial zur Reproduzierbarkeit für die veröffentlichten Benchmarks befindet sich im Repository von NeMo Gym. Der letzte Teil ist wirklich nützlich – er bedeutet, dass du versuchen kannst, die eigenen Evaluierungen von NVIDIA erneut auszuführen, statt der Tabelle zu vertrauen.

Die Lizenz ist nicht das, was das Marketing suggeriert.

Das ist das Detail, für das es sich lohnt, das Repo statt des Blogbeitrags zu lesen.

NVIDIAs Beitrag bezeichnet das Modell als „ein offenes, anpassbares multimodales Modell“ und verweist auf „die offenen Gewichte des Modells“. Beide Aussagen sind in Bezug auf die Gewichte korrekt. Keine von beiden ist eine Aussage über die Lizenz. Das Frontmatter der Modellkarte lautet license: other, mit license_name: openmdw-1.1, und die maßgeblichen Bedingungen sind die OpenMDW License Agreement Version 1.1 unter openmdw.ai/license/1-1/. Die Karte stellt klar, dass das Modell „für kommerzielle oder nichtkommerzielle Nutzung bereit ist“, und NVIDIAs eigene Formulierungen zum Deployment beziehen sich auf den Betrieb in „unterstützten lokalen, Rechenzentrums- oder Cloud-Umgebungen“.

Also: kommerziell nutzbar, laut N​VIDIA. Aber „offen“ bedeutet hier OpenMDW-1.1, nicht Apache 2.0 und nicht MIT. Wenn Ihre Organisation eine Liste vorab genehmigter Open-Source-Lizenzen hat, ist diese Liste das, was vor allem anderen geprüft werden sollte — und der praktische Unterschied zwischen „offenen Gewichten“ und einer benannten Lizenz ist genau die Art von Lücke, deren späte Entdeckung einen Release-Zyklus kostet. Das ist keine Kritik am Modell, und OpenMDW ist keine restriktive Lizenz. Es ist eine Erinnerung daran, dass das Adjektiv des Blogbeitrags weniger Arbeit leistet als das Frontmatter der Modellkarte.

Es ausprobieren, ohne einen Produktionspfad darauf zu setzen

Die veröffentlichten Deployment-Rezepte sind ausdrücklich für einzelne Maschinen ausgelegt, und das prägt, wie dies bewertet wird. N​VIDIAs vLLM-Befehle in beiden Karten laufen mit TP4 auf 4× H100 oder TP2 auf 2× GB200 mit --trust-remote-code — das Modell bringt eigenen Modellierungscode mit —, und das SGLang-Rezept nutzt lmsysorg/sglang:v0.5.20 auf zwei GB200. Für DGX Spark gibt es einen dedizierten LiLiCorr-Drafter-Checkpoint, und N​VIDIA empfiehlt ihn in allen Spark-Szenarien; das Unternehmen behauptet bis zu 2,3-mal schnellere Token-Generierung als beim Dekodieren ohne Spekulation. Auf 16 B200 mit Dynamo nennt N​VIDIA eine Bedienung von bis zu 8-mal so vielen Nutzern bei 85 % geringerer Latenz bis zum ersten Token bei 50 Token pro Sekunde und Nutzer. Jede einzelne davon ist eine herstellerinterne Messung.

Das sind echte Evaluierungskosten für ein Modell, das drei Tage alt ist, keine unabhängige Rangliste hat und dessen multimodale Zeilen mit dem Vorbehalt eines ungeöffneten Scaffoldings einhergehen. Der kostengünstige Weg, es zu betrachten, ist nicht, zuerst vier H100s hochzufahren.

Der günstige Weg, sich ein so junges Release anzusehen, führt über ein einziges Gateway statt über eine zweite Hardware-Bestellung. Bei OrcaRouter bedeutet das einen Schlüssel für über 200 Modelle zum Listenpreis des Anbieters mit 0 % Aufschlag, keinen separaten Vertrag und keine Codeänderung, und automatisches Failover über Anbieter hinweg, damit ein Modell, das Sie noch nicht validiert haben, kein Single Point of Failure in einem Produktionspfad ist. Dieses spezielle Modell ist noch nicht im Katalog — N​VIDIA hat es erst vor wenigen Tagen veröffentlicht —, deshalb kommt es heute aus der eigenen API des Anbieters oder von den Drittplattformen, die es bereitstellen. Was Ihnen das bringt, ist der Vergleich, den Sie jetzt tatsächlich durchführen können: Stellen Sie die Kandidaten, die es angeblich schlägt, hinter denselben Schlüssel, lassen Sie Ihre eigenen Aufgaben durch sie und gegen die Modelle laufen, die Sie bereits nutzen, und lassen Sie die Routing-Ebene den Wechsel zu einer Konfigurationsänderung statt zu einer Migration machen. Erst dann wird die Frage nach 4× H100 oder 2× GB200 zu einer Kaufentscheidung statt zu einer Vermutung.

Es geht nicht darum, dass Routing einen Benchmark ersetzt. Es geht darum, dass die Entscheidung, die Sie heute treffen können, darin besteht, welche Aufgaben dieses Modell in Ihrem Stack übernehmen sollte, und diese Entscheidung erfordert keine Hardware-Bestellung.

Was noch nicht festgelegt ist

Die ehrliche Liste der Unbekannten ist kurz, aber folgenreich, und sie ist die Liste, von der aus man arbeiten sollte statt vom Marketing:

• Es existiert keine unabhängige Evaluierung. Jeder oben zitierte Score stammt aus NVIDIAs Lauf mit NeMo Gym. NVIDIAs Blog verweist auf Benchmark-Tests von Artificial Analysis und eine unabhängige Evaluierung von EXO Labs, die das Modell auf einer Pareto-Frontier für Genauigkeit gegenüber Aufgabenabschluss auf einem DGX Spark platziert, doch die Modellkarte veröffentlicht keinen eigenen Drittanbieter-Score, und es gibt zum Zeitpunkt des Verfassens keine unabhängige Modellseite dafür bei den großen Aggregatoren.

• Das Genauigkeitsdelta zwischen BF16 und NVFP4 ist nicht quantifiziert. NVIDIAs NVFP4-Argument stützt sich darauf, dass quantisierungsbewusste Destillation die Lücke schließt. Das ist eine methodische Behauptung, kein veröffentlichter Genauigkeitsvergleich zwischen den beiden Checkpoints, die man tatsächlich herunterladen kann.

• Die Benchmark-Kampagne wurde teilweise mit NVIDIAs eigenem Tooling durchgeführt. Acht multimodale Benchmarks nutzten offizielle Implementierungen oder internes Gerüst, von dem NVIDIA sagt, man „plan[t], es in Zukunft als Open Source freizugeben" – was bedeutet, dass diese Ergebnisse im Prinzip reproduzierbar sind, irgendwann, nur nicht heute.

• Die Post-Training-Gewinne beruhen auf Angaben von Anbietern und Kunden. Der 44-%-Zuwachs bei den Claims und die Zahlen von Ramp und Scale AI werden von NVI​DIA in Bezug auf seine eigenen Kunden genannt. Niemand hat sie unabhängig gemessen.

• Das Verhalten bei langem Kontext über das volle 1M-Fenster ist außerhalb des Anbieters ungetestet. Die Architektur ist darauf ausgelegt, und NVIDIA veröffentlicht Deployment-Rezepte dafür. Ob der Recall über eine volle Million Token bei echten Dokumenten hält, ist genau die Art von Sache, die in unabhängigen Tests auftaucht und in einer Anbietertabelle nicht auftaucht.

Sollten Sie jetzt darauf reagieren?

Wenn Sie Dokument-, Diagramm-, Video- oder Multi-Tool-Agents bauen und bereits ein Budget für Inferenz der 120B-Klasse eingeplant haben, lohnt sich diese Woche ein genauer Blick: Die NVFP4-Stufe bringt sie auf zwei H100s unter, die Lizenz erlaubt die kommerzielle Nutzung, und die Tool-Calling-Zeilen in NVIDIAs Tabelle sind ihr stärkster Teil. Die Form mit 12B aktiven Parametern bedeutet außerdem, dass sie pro Token günstiger ist, als die 120B insgesamt vermuten lassen – und auf der OrcaRouter-Seite wird eine Preisänderung des Anbieters noch am selben Tag wirksam statt erst nach einem Abrechnungszyklus, weil der Listenpreis des Anbieters ohne Aufschlag weitergegeben wird.

Wenn Ihre Workload auf chinesischsprachige OCR, sehr langen analytischen Kontext oder visuelle Mathematik setzt, liefert NVIDIAs eigene Tabelle drei konkrete Gründe, auf unabhängige Zahlen zu warten, statt aus dem Marketing Schlüsse zu ziehen.

So oder so: Worauf man achten sollte, ist nicht ein weiterer Beitrag eines Anbieters. Es ist die erste unabhängige Evaluierung, die den NVFP4-Checkpoint gegen den BF16-Checkpoint auf demselben Harness laufen lässt, und der erste Drittanbieter-Score, der nicht über NeMo Gym erhoben wurde. Solange es diese nicht gibt, ist dies ein gut dokumentiertes, bequem lizenziertes, wirklich effizientes offenes Modell, dessen stärkste Behauptungen vollständig auf den eigenen Messungen seines Herstellers beruhen – und dessen eigener Hersteller klar genug war, die Zeilen zu veröffentlichen, in denen es verliert.

Diese Kluft zwischen dem, was eine Anzeigetafel misst, und dem, was ein Deployment vorfindet, ist der Grund, warum die Aufzeichnung zählt: Die dokumentierten KI-Ausfälle und Agent-Vorfälle rund um Modelle dieser Klasse finden sich in dem OrcaRouter AI Incident Archive, wo jeder Eintrag seine eigenen Quellen, seinen Schweregrad, seinen Konfidenzgrad und seine Kennzeichnung als strittig mitführt.