Eine Titelkarte für die offenen Post-Training-Datensätze von NVIDIA Nemotron 3.5 Super VL, mit der Überschrift „die Hälfte des Releases, über die niemand berichtete“. Sie gibt an, dass elf Dataset-Repositories zwischen dem 12. und 15. Oktober 2026 als die Korpora für Supervised Fine-Tuning und Reinforcement Learning veröffentlicht wurden, die hinter der sechsstufigen Trainingsbeschreibung der Modellkarte stehen, und zeigt drei Chips – wobei alle elf OpenMDW-1.1 als ihre maßgeblichen Bedingungen angeben, zwei Finanz-Datensätze auf dem Hub als license: other ausgewiesen sind und 80,7 Gigabyte Speicher im größten Datensatz enthalten sind – oberhalb einer datierten Zeile, die Repository-Zeitstempel vom 12. Oktober 16:37 UTC bis 15. Oktober 05:22 UTC angibt, und eines Hinweises, dass die Zahlen aus NVIDIAs Hugging Face Dataset Cards stammen.
Guides & Insights

Nemotron 3.5 Super VLs offene Post-Training-Datensätze: Worauf Sie tatsächlich feinabstimmen können

Autor

Magnus Corvin

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

NVIDIA Nemotron 3.5 Super VL stellte seine Gewichte am 12. Oktober 2026 auf Hugging Face ein und wurde am 15. Oktober angekündigt. Die Hälfte dieses Releases, die die meisten Berichte übersprungen haben, ist die, auf der man tatsächlich aufbauen kann: Zwischen dem 12. und 15. Oktober veröffentlichte die nvidia-Organisation elf neue Post-Training-Datensätze – die Korpora für Supervised Fine-Tuning und Reinforcement Learning hinter der eigenen sechsstufigen Trainingsbeschreibung der Modellkarte. Jeder dieser elf nennt OpenMDW-1.1 als maßgebliche Bedingungen, doch genau dort endet die Einheitlichkeit. Zwei von ihnen erscheinen auf dem Hub als license: other; zwei weitere tragen eine zweite Lizenz wegen dessen, was in ihnen steckt; und die zwei Karten, die nie „für kommerzielle oder nichtkommerzielle Nutzung geeignet“ sagen, sind nicht die, die man vermuten würde. Im Folgenden steht, was in jedem Set enthalten ist, was die Karten darüber veröffentlichen und was nicht, und wie sich das gesamte Drop zu einem Medianwert von 99,62 % bei der Genauigkeitswiederherstellung verhält, der sich je nachdem, welches NVIDIA-Dokument man öffnet, sehr unterschiedlich liest.

Was ist gelandet, und wann?

Hugging Face zeichnet die Erstellungszeitstempel auf, daher wird dies abgelesen statt geschätzt. Alle elf Repositories erschienen innerhalb eines 61-Stunden-Fensters:

• Nemotron-RL-litmus-bench-v0.2 — 12. Oktober, 16:37 UTC. Chemisches Schlussfolgern, 47.118 Trainings- und 2.056 Testfragen, 64 MB, erstellt aus ChEMBL, den Daten der OpenADMET-ExpansionRx-Challenge und einem Biogen-ADME-Datensatz. Doppellizenziert unter CC-BY-SA-4.0 und OpenMDW-1.1, weil die von ChEMBL abgeleiteten Fragen die Share-Alike-Klausel tragen.

• Nemotron-SFT-Agentic-v4 — 14. Oktober, 17:54 UTC. Ein- und mehrturnige Tool-Use-Trajektorien, 634.664 Gesprächsdatensätze, aufgeteilt in einen tool_calling-Split mit 549.707 und einen knowledge_agent-Split mit 84.957, 18,88 GB. Generiert mit Qwen3.5-397B-A17B und GLM-5.2.

• Nemotron-SFT-Instruction-Following-Chat-v4 — 14. Oktober, 17:55 UTC. Chat, Multi-Turn-Instruktionsbefolgung und Steuerung der Antwortlänge, 3.850.582 Konversationsdatensätze, 80,74 GB. Generiert mit Kimi-K2.6, Gemma4-E4B-it und Qwen3.5-397B-A17B.

• Nemotron-SFT-Agentic-Finance-v1 — 14. Oktober, 18:54 UTC. 7.878 Multi-Turn-Tool-Calling-Beispiele über numerisches Denken, Finanzmodellierung, Marktanalyse, Anpassungen und Beat-or-Miss-Fragen zu öffentlichen SEC-Einreichungen, 28 MB.

• Nemotron-RL-Agentic-Finance-v1 — 14. Oktober, 18:55 UTC. 10.185 RL-Aufgaben, dieselben fünf Aufgabenfamilien, 166 MB, wobei der Filing-Kontext absichtlich vorenthalten wird, sodass der Agent ihn mit sec_filing_search, parse_html_page und retrieve_information abrufen muss.

• Nemotron-SFT-Long-Context-Transduction-v1 — 14. Oktober, 19:47 UTC. 10.000 Instruktions-Antwort-Paare, 1,22 GB, für Positionsverfolgung und Sequenztransformation. Kein Modell hat diese erzeugt: Die Karte gibt ausdrücklich an, dass kein Sprachmodell die Beispiele oder Antworten erzeugt, und die vier Aufgabenfamilien sind arithmetische Auswertung, Sortierung von Hexadezimal-Token, Variablenexpansion und CSV-Transformation.

• Nemotron-SFT-Long-Context-Translation-PG19-v1 — 14. Oktober, 20:14 UTC. 4.335 Übersetzungsbeispiele vom Englischen in mehrere Sprachen, 2,22 GB, Quelltexte stammen aus gemeinfreien Büchern im PG-19-Korpus und wurden mit DeepSeek V4 Flash übersetzt.

• Nemotron-RL-Finance-Tool-Calling-v1 — 14. Oktober, 22:46 UTC. 90.307 Finanzdatensätze — 81.397 Kern-Reasoning-Samples plus 8.910 breitere Finanzagenten-Samples — in 1,23 GB, ausgeführt gegen die Finance SEC Search-Umgebung in NeMo Gym.

• Nemotron-SFT-Finance-Document-Grounded-Reasoning-v1 — 14. Oktober, 22:46 UTC. 63.056 Beispiele in 1,01 GB, basierend auf 10-K-, 10-Q- und 8-K-Einreichungen von S&P-500-Unternehmen, die den Zeitraum 2017–2024 abdecken.

• Nemotron-RL-Agentic-Conversational-Tool-Use-Seed-v1 — 14. Oktober, 23:45 UTC. 100.000 Datensätze, 3,86 GB: Seed-Richtlinien, Tool-Definitionen und Szenarien für den Ressourcenserver conversation_tool_use_simulation, für Gastgewerbe, E-Commerce, Bankwesen und Versicherungen, für simulierte agentische Konversationen während des RL.

• Nemotron-SFT-BBQ-v1 — 15. Oktober, 05:22 UTC. Englische Fairness-Daten zu Alter, physischem Erscheinungsbild und Behinderung — je 2.000 Datensätze, insgesamt 6.000, 8,0 MB — basierend auf der Taxonomie des Bias Benchmark for QA, mit Gesprächen zwischen fiktiven Teilnehmenden, die darauf ausgelegt sind, evidenzbasierte Antworten gegenüber Annahmen zu belohnen.

Zwei Dinge an dieser Liste sind wichtiger als die Zeilenanzahlen. Erstens ist die Lizenzlage nicht so einheitlich, wie das Schlagwort in der Überschrift vermuten lässt, und zweitens geht es darum, von wem diese Ergebnisse stammen.

A categorised breakdown of the eleven NVIDIA Nemotron 3.5 Super VL post-training dataset repositories with published record counts and storage sizes: agentic tool use, with Nemotron-SFT-Agentic-v4 at 634,664 conversation records and 18.88 gigabytes and Nemotron-RL-Agentic-Conversational-Tool-Use-Seed-v1 at 100,000 records and 3.86 gigabytes; finance, with Nemotron-SFT-Finance-Document-Grounded-Reasoning-v1 at 63,056 examples and 1.01 gigabytes, Nemotron-RL-Finance-Tool-Calling-v1 at 90,307 records and 1.23 gigabytes, Nemotron-SFT-Agentic-Finance-v1 at 7,878 examples and 28 megabytes and Nemotron-RL-Agentic-Finance-v1 at 10,185 tasks and 166 megabytes, the last two shown as presenting on the Hub as license: other with OpenMDW-1.1 as the named licence; and long context and fairness, with Nemotron-SFT-Instruction-Following-Chat-v4 at 3,850,582 records and 80.74 gigabytes, Nemotron-SFT-Long-Context-Transduction-v1 at 10,000 pairs and 1.22 gigabytes, Nemotron-SFT-Long-Context-Translation-PG19-v1 at 4,335 pairs and 2.22 gigabytes carrying OpenMDW-1.1 plus Apache-2.0, Nemotron-SFT-BBQ-v1 at 6,000 records and 8.0 megabytes, plus Nemotron-RL-litmus-bench-v0.2 at 47,118 training and 2,056 test questions carrying CC-BY-SA-4.0 alongside OpenMDW-1.1. A footer notes that none of the eleven cards publishes a token count and that the two long-context cards omit the commercial-use sentence.

Das Lizenz-Tag ist nicht die gesamte Lizenz.

Alle elf Repositories nennen OpenMDW-1.1 als ihre maßgeblichen Bedingungen. Was sich unterscheidet, ist, wie das zu Ihnen gelangt, und es lohnt sich, die Unterschiede zu lesen, bevor Sie etwas Kommerzielles darauf aufbauen.

• Tag versus benannte Lizenz — neun von elf tragen license: openmdw-1.1 als einfachen Tag, den man direkt aus der API auslesen kann. Nemotron-SFT-Agentic-Finance-v1 und Nemotron-RL-Agentic-Finance-v1 erscheinen als license: other mit license_name: openmdw-1.1 und einem Link zur Vereinbarung. Die Bedingungen sind dieselben; ein Tool, das Repositories nach einem Lizenz-Tag filtert, sieht zwei verschiedene Werte.

• Zweite Lizenz aufgrund vorgelagerter Daten — Nemotron-SFT-Long-Context-Translation-PG19-v1 führt Apache-2.0 neben OpenMDW-1.1, weil der Quellkorpus PG-19 ist, und die Modellkarte ergänzt, dass die zugrunde liegenden englischsprachigen Werke in den Vereinigten Staaten gemeinfrei sind, der Urheberrechtsstatus in anderen Rechtsordnungen jedoch abweichen kann, sodass Nutzer vor einer Weitergabe das jeweils lokale Recht prüfen sollten. Nemotron-RL-litmus-bench-v0.2 führt CC-BY-SA-4.0 neben OpenMDW-1.1, wobei die Share-Alike-Bedingung speziell für die von ChEMBL abgeleiteten Fragen gilt.

• Der Satz zur kommerziellen Nutzung — neun Karten geben an: „Dieser Datensatz ist für kommerzielle oder nichtkommerzielle Nutzung geeignet." Die beiden, bei denen das nicht der Fall ist, sind Nemotron-SFT-Long-Context-Transduction-v1 und Nemotron-SFT-Long-Context-Translation-PG19-v1 — das Long-Context-Paar, nicht die Finanz-Sets.

• Wo die Inhaltsausnahme dokumentiert ist — Finanzen. Die dokumentengestützte Karte besagt, dass die Veröffentlichung nur zulässige Auszüge mit begrenztem Kontext aus den Hauptteilen der Formulare 10-K, 10-Q und 8-K enthält und dass der vollständige SEC-Korpus, alle Anlagen sowie alle Inhalte, die einen Urheberrechtshinweis Dritter tragen, ausgeschlossen sind, wobei Beraterberichte, Präsentationen, Fairness Opinions und Analystenresearch genannt werden. Sie weist außerdem darauf hin, dass die Auszüge in der Verantwortung der jeweiligen Emittenten verbleiben.

Die praktische Lesart ist also das Gegenteil der intuitiven. Die Finance-Sets sind diejenigen mit dem auffälligsten Lizenz-Badge – einem sauberen openmdw-1.1 auf den dokumentgestützten und Tool-Calling-Sets – und diejenigen mit den am umfangreichsten dokumentierten Einschränkungen dazu, was in ihnen enthalten ist. Die Long-Context-Sets sind diejenigen, deren Hub-Metadaten und Prosa am stärksten voneinander abweichen. Keines von beidem ist ein Grund, sich abzuwenden; beides sind Gründe, vier Karten statt eines einzigen Lizenzfelds zu lesen.

Screenshot of NVIDIA's Hugging Face dataset page for nvidia/Nemotron-SFT-Finance-Document-Grounded-Reasoning-v1, showing the repository path, the Dataset card, Files and versions and Community tabs, a green openmdw-1.1 licence badge, the Dataset Viewer with a preview of the training rows, and the config table listing the default configuration at 63.1 thousand rows as parquet.

Wessen Outputs trainierten NVIDIAs Flaggschiff?

Das andere, was sich durch den Drop zieht, sind die Generierungsmodelle, und die Karten nennen sie ohne Wenn und Aber. Das führende agentische SFT-Set wurde mit Qwen3.5-397B-A17B und GLM-5.2 erstellt. Das Instruction-Following-Set ergänzt Kimi-K2.6 und Gemma4-E4B-it. Das dokumentengestützte Finanzset nennt Qwen3.5-397B-A17B für die Fragengenerierung, DeepSeek-V4-Pro für Antworten und gpt-oss-120b für Filterung und Auswahl. Das RL-Finanz-Tool-Calling-Set listet Qwen3.5-397B-A17B und Qwen3-235B-A22B-Instruct-2507 upstream auf, DeepSeek-V4-Pro für Antworten, gpt-oss-120b für Filterung und NVIDIA Nemotron selbst für die RL-Schwierigkeitsprofilierung über acht Rollouts. Die PG-19-Übersetzungen wurden mit DeepSeek V4 Flash erstellt.

Das ist eine Veröffentlichungsentscheidung, kein Zufall, und sie ist das Nützlichste an dieser Veröffentlichung für jeden, der versucht, über Qualität nachzudenken. Sie sagt dir, dass der Verhaltens-Prior, in den du feinjustierst, substanziell nicht von NVIDIA stammt – er ist eine Mischung aus zwei chinesischen Frontier-Open-Weight-Familien, einem Open-Weight-Modell von OpenAI und einem kleinen Google-Modell. Wenn du eine Meinung dazu hast, wie sich eines davon bei Finanztexten oder bei der Tool-Auswahl verhält, gilt diese Meinung für deinen Ausgangspunkt hier, und du hast jetzt die Provenienz, um sie zu überprüfen, statt zu raten.

Warum die Daten der Teil sind, bei dem man handeln kann

Der Grund, warum ein Dataset-Drop die interessante Hälfte dieses Launches ist, zeigt sich in den eigenen Zahlen des Anbieters. Der Newsroom-Beitrag von NVIDIA nennt Organisationen, die das Modell nachtrainiert haben, und zitiert deren Ergebnisse: Scale AI für Skydances Vendor-Credit-Arbeit, bei „40x geringeren Inferenzkosten“ und „5x geringerer Latenz“; Ramp bei der Umwandlung von Belegbildern in strukturiertes JSON, mit der Erwartung von „bis zu 50 % höherem Durchsatz und 10x geringerer Latenz“; AI21 und Alice für Threat Intelligence, bei „41 % höherer Genauigkeit“. Liest man den Entwicklerblog neben dem Newsroom, schrumpfen dieselben Kundenergebnisse zu „40x geringere Inferenzkosten, 10x geringere Latenz und 40 % höhere Genauigkeit“ zusammen – eine 40, wo der Newsroom 41 sagt, und ein 10x, wo er 5x sagt, für anscheinend dieselben zwei Deployments. Dabei handelt es sich um Kundenerwartungen für ihre eigenen Workloads, nicht um Benchmarks, und keine der beiden Versionen ist für Sie reproduzierbar.

Reproduzierbar ist der Beleg. Die Redaktion sagt, das Modell sei mit rund 3,8 Millionen Samples und Reinforcement Learning über Dutzende Umgebungen hinweg nachtrainiert worden, und die offenen Datensätze deckten agentische Tool-Nutzung, Finanzwesen, Instruction Following, langen Kontext, Fairness und Vision-Language-Verständnis ab. Die elf oben genannten Repositories sind dieser Korpus, und die NeMo Gym-Umgebungen, auf die die Karten verweisen, sind das Harness. Ein Team, das einen Agenten für Dokumentenintelligenz will, hat jetzt das Modell, die Serving-Rezepte, die Fine-Tuning-Bibliotheken und die Trainingsdaten an einem Ort. Die Lücke zwischen „Dieses Modell kann spezialisiert werden“ und „Hier ist eine Spezialisierung, die Sie heute herunterladen können“ ist das, was diese Repositories schließen.

Ein Vorbehalt zu dieser Liste von Kategorien: NVIDIAs Newsroom führt Vision-Language-Verständnis unter den veröffentlichten Datensätzen auf, und die elf neuen nvidia-Datensatz-Repositories, die in diesem Zeitfenster erstellt wurden, sind Text- und Tool-Use-Korpora. Das dokumentengestützte Finanz-Datenset kommt einem Vision-Set in diesem Drop am nächsten, und es ist im Format reiner Text. Wenn Sie wegen der Bild- und Videoseite gekommen sind: Die Daten sind nicht hier – der jüngste NVIDIA-Vision-Datensatz auf dem Hub ist fünf Tage älter als dieses Zeitfenster.

Was die Karten nicht veröffentlichen – und was Ihnen das kostet

Hier ist die Zahl, die niemand in einen Launch-Post schreibt, und bei diesem Drop ist sie eine fehlende Zahl. Keine der elf Dataset-Cards gibt eine Token-Anzahl an. Sie geben die Anzahl der Datensätze und Speichergrößen an, und das war’s. Die Frage nach der Größe – wie viele GPU-Stunden eine Epoche über das Instruction-Following-Set benötigt – lässt sich also nicht aus dem Release beantworten, sondern nur schätzen, indem man Bytes durch ein angenommenes Bytes-pro-Token-Verhältnis teilt, und genau das ist die Art von Zahl, die dann in die Berichterstattung wandert, als wäre sie gemessen worden.

Was man heranziehen kann, sind die veröffentlichten Speichergrößen: 80,74 GB für Nemotron-SFT-Instruction-Following-Chat-v4, 18,88 GB für Nemotron-SFT-Agentic-v4, 3,86 GB für das Seed-Set für konversationelle Tool-Nutzung und dann ein langer Long Tail – 2,22 GB, 1,23 GB, 1,22 GB, 1,01 GB, 166 MB, 28 MB, 8,0 MB, 64 MB. Die beiden größten Sets sind ein bis zwei Größenordnungen größer als alles andere im Drop, was einem zeigt, wo das Post-Training-Gewicht tatsächlich liegt, ganz ohne Token-Zählung.

• Nemotron-SFT-Instruction-Following-Chat-v4 — 80,74 GB und 3.850.582 Datensätze. Dies ist das Set, das einen Lauf mit vollständigen Parametern zu einem Projekt statt zu einem Nachmittag macht.

• Nemotron-SFT-Agentic-v4 — 18,88 GB und 634.664 Datensätze. Etwa ein Viertel der Größe, was es für einen Single-Node-Lauf in Reichweite rückt.

• Nemotron-SFT-BBQ-v1 — 8,0 MB und 6.000 Datensätze. Klein genug, um in Minuten damit zu iterieren, was es zur günstigsten Möglichkeit macht, zu beweisen, dass Ihre Fine-Tuning-Schleife korrekt eingerichtet ist, bevor Sie eine GPU-Woche für die Aufgabe investieren, die Ihnen wirklich wichtig ist.

• Nemotron-SFT-Long-Context-Transduction-v1 — 1,22 GB, aber nur 10.000 Beispiele, mit einer veröffentlichten Spanne von 2.048 bis 131.072 Ziel-Tokens pro Beispiel. Hier werden die Kosten eher durch die Sequenzlänge als durch das Volumen bestimmt, und die Karte gibt an, dass die Budgets Generierungsziele sind, die mit cl100k_base geschätzt wurden, nicht gemessene Zählungen nach dem Training.

Was die Größenordnung auf der Modellseite betrifft, veröffentlicht die Modellkarte die Etappenbudgets: ein MTP-Warm-up mit 100 Milliarden Token gegen ein eingefrorenes Backbone, eine Billion Token Destillation vom nächstgrößeren Nemotron, 100 Milliarden Token fortgesetztes Indic-Pre-Training, eine Erweiterung um 35 Milliarden Token auf einen 1M-Kontext, 67 Milliarden Token Software-Engineering-Midtraining bei 256K und eine Long-Context-Recovery-Etappe mit 9 Milliarden Token. Das sind die einzigen Token-Budgets, die NVIDIA irgendwo in der Veröffentlichung angibt, und sie gelten für das Training des Basismodells, nicht für das Fine-Tuning auf diesen Datensätzen.

Das ist auch der Grund, warum der LoRA-Weg hier wichtig ist und nicht bloß eine Fußnote. NVIDIA verweist Entwickler für überwachtes Feintuning und Low-Rank-Adaption auf NVIDIA NeMo AutoModel, und Adapter sind der Unterschied zwischen dem Verändern einiger Verhaltensweisen des Modells und dem erneuten Ableiten von 249 GB an Gewichten. Beide Wege sind real, und die Wahl zwischen ihnen ist eine Entscheidung darüber, wie viel vom Verhalten des Basismodells Sie verändern möchten. Ein Finanzteam, das ein enges Schema oder ein richtlinienkonformes Verhalten anstrebt, befindet sich im LoRA-Bereich. Ein Team, das möchte, dass das Modell eine neue Betriebsprozedur über jede seiner Interaktionen hinweg einhält, ist es nicht.

Zwei Dokumente, ein Benchmark, gegensätzliche Antworten

Der technische Bericht zu dieser Veröffentlichung ist auf den 14. Oktober datiert und trägt die Zahl, die am weitesten ohne ihren Kontext gereist ist. NVIDIA berichtet, dass der veröffentlichte NVFP4-Checkpoint 99,62 % mediane Genauigkeitswiederherstellung relativ zu BF16 über 36 Benchmarks hinweg erreicht – nach dem aggressiven Post-Training-Quantisierungsrezept, gefolgt von 200 Iterationen SFT-basierter quantisierungsbewusster Destillation –, wobei der C-RADIO Vision-Encoder, der VL-Connector, die Mamba-Faltungen und die Embeddings in BF16 belassen wurden und die Router-Berechnung laut der modulweisen Tabelle des Berichts in FP32 belassen wurde.

„Mediane Genauigkeitswiederherstellung“ ist ein Median von Verhältnissen, kein Minimum. Um 99,62 % zu erhalten, berechnet der Bericht pro Benchmark ein Score-Verhältnis und nimmt über 36 Benchmarks hinweg den mittleren Wert, sodass die Schlagzeile aussagt, dass der typische Benchmark etwa vier Zehntel eines Prozents unter voller Präzision liegt – und überhaupt nichts über den Tail. Die Tabelle des Berichts selbst zeigt den Tail: Tau3 Banking mit 94,20 %, SciCodes Problemlösungs-Split mit 93,63 %, MMLU-ProX mit 95,90 % – und in die andere Richtung GDPVal mit 111,53 % und Terminal-Bench v2.1 mit 103,47 %, weil die Quantisierung bei einem einzelnen Lauf über der BF16-Referenz liegen kann.

Dann vergleichen Sie die Modellkarte, und die Geschichte wird interessanter als ein Schwanz. NVIDIAs eigene NVFP4-Modellkarte veröffentlicht eine Tabelle BF16 gegen NVFP4 für denselben Checkpoint, und darin liest man für Terminal-Bench 2.1 66,70 gegenüber 60,80 — der quantisierte Build neun Prozent niedriger. In der Vollsuite-Tabelle des technischen Berichts liest man für denselben Benchmark 60,67 gegenüber 62,78, wobei der quantisierte Build vorne liegt. Dasselbe Modell, derselbe Benchmark, dieselbe Eval-Harness-Familie, zwei NVIDIA-Dokumente, entgegengesetzte Richtungen. Die Karte zeigt außerdem WebVoyager bei 77,72, fallend auf 66,31, und DeepSWE bei 24,65, fallend auf 18,2 – von denen keine die Version der Geschichte ist, die man aus einer 99,62-%-Schlagzeile bekommt.

Das ist kein Skandal — verschiedene Tabellen können unterschiedliche Harness-Konfigurationen enthalten, und die Tabelle des Berichts weist neben jeder Zeile einen Wiederherstellungsprozentsatz aus —, aber es bedeutet, dass die ehrliche Antwort auf „Kostet mich NVFP4 Genauigkeit?“ lautet: Bei den meisten veröffentlichten Zeilen kaum; bei den Zeilen, wo doch, um mehr, als der Median nahelegt; und die beiden Dokumente des Anbieters sind sich uneinig darüber, welche Zeilen das sind. Wenn Ihre Workload agentische Terminal-Arbeit ist, messen Sie selbst neu, anstatt sich eine Tabelle herauszupicken.

Die Deployment-Arithmetik dagegen ist eindeutig und das stärkste Argument für den quantisierten Build. Das BF16-Repository umfasst insgesamt 248,9 GB an Checkpoint-Dateien, und der eigene Quickstart betreibt es auf 4× H100. Das NVFP4-Repository umfasst insgesamt 75,06 GB, was der Bericht mit 4,82 Bit pro Parameter einschließlich Skalen angibt, und das passt auf einen H200, einen GB200 oder einen einzelnen DGX Spark. Auf einem GB200 nennt der Bericht bis zu 4.856 Output-Tokens/s/GPU bei einer agentischen Proxy-Workload mit 20 Turns, während mindestens 50 Tokens/s/User gehalten werden, wobei NVFP4 bei 2,43× des Durchsatzes von BF16 bei derselben Workload liegt und das Modell bei 2,34× und 1,90× des Durchsatzes von Qwen3.5-122B-A10B und Qwen3.8 Flash-Next. Alle diese Werte wurden von NVIDIA gemessen, auf NVIDIAs eigenem Serving-Stack, bei der Parallelität, die das Rezept gewählt hat.

Ein weiteres Viertel der Veröffentlichung lässt sich leicht übersehen und ist wichtig, wenn über Ihr Fine-Tuning später diskutiert wird. Der Bericht beschreibt einen Kontaminationsdurchlauf über die Post-Training-Daten, bei dem 20.671 Samples entfernt wurden – etwa 0,09 %, aufgeteilt in 14.793 SFT- und 5.878 RL-Samples –, die 1.808 Benchmark-Fragen bzw. 6,0 % in 22 der 30 geprüften Benchmarks entsprachen, wobei rund 3 % der bewerteten Kandidatenpaare als schwerwiegende Kontamination markiert wurden. Die meisten Open-Weights-Releases veröffentlichen überhaupt keine Bereinigungsmethodik. Eine zu haben, die man zitieren kann, ist mehr wert, als es klingt, wenn ein Kunde fragt, warum die Eval-Zahlen Ihres Fine-Tunings so aussehen, wie sie aussehen.

A three-column scoreboard card comparing NVIDIA's two published accounts of the Nemotron 3.5 Super VL NVFP4 checkpoint. The left column lists recovery percentages from the technical report's Table 23 — GDPVal at 111.53%, Terminal-Bench v2.1 at 103.47%, GPQA-Diamond at 100.42%, MMLU-ProX at 95.90%, Tau3 Banking at 94.20% and SciCode problem-solving at 93.63% — under a median of 99.62% across 36 benchmarks. The middle column lists the NVFP4 model card's own BF16-versus-NVFP4 rows — Terminal-Bench 2.1 at 66.70 against 60.80, MMLU-ProX at 76.91 against 73.76, WebVoyager at 77.72 against 66.31 and DeepSWE at 24.65 against 18.2 — and highlights that the same report gives Terminal-Bench v2.1 as 60.67 against 62.78, the opposite direction. The right column gives deployment and throughput figures: a BF16 checkpoint of 248.9 gigabytes on 4× H100, an NVFP4 checkpoint of 75.06 gigabytes on one H200, GB200 or DGX Spark, 4.82 bits per parameter including scales, 4,856 output tokens per second per GPU on one GB200, a service floor of 50 tokens per second per user, and throughput ratios of 2.43× over BF16, 2.34× over Qwen3.5-122B-A10B and 1.90× over Qwen3.8 Flash-Next. A footer states that the benchmark, recovery and throughput figures are NVIDIA-reported and were collected through NVIDIA's own harness and serving stack with no independent reproduction published, and that checkpoint sizes were read from the Hugging Face repositories on 16 October 2026.

Wie sich dadurch ändert, was Sie diese Woche tun können

Drei konkrete Dinge sind jetzt möglich, die vor dem 12. Oktober nicht möglich waren.

Der erste ist ein Finanzberichts-Agent, den man ohne ein Gespräch über Datenlizenzierung bauen kann — mit einem angehängten Vorbehalt. Die Finanz-Repositories decken den gesamten Kreislauf ab: 63.056 dokumentgestützte SFT-Beispiele über sieben Jahre S&P-500-Einreichungen, 90.307 RL-Tool-Calling-Datensätze gegen eine Live-SEC-Suchumgebung, 7.878 Multi-Turn-Tool-Calling-Beispiele für die Verhaltensschicht und 10.185 RL-Aufgaben, bei denen der Filing-Kontext zurückgehalten wird, sodass Retrieval Teil der Aufgabe ist. Der Vorbehalt ist die oben dokumentierte Ausnahmeregelung: nur Auszüge, Exhibits ausgeschlossen, Material, das dem Urheberrecht Dritter unterliegt, entfernt, und Probleme verbleiben in der Verantwortung der Emittenten. Das ist eine gut dokumentierte Position statt einer sauberen, und es ist das Set, bei dem man die Model Card lesen sollte, bevor man den Code liest.

Das Zweite ist agentische Tool-Nutzung, und dies ist die am besten unterstützte Vertikale in diesem Drop. Zwischen den 634.664 Datensätzen von Nemotron-SFT-Agentic-v4, dem Seed-Set für konversationelle Tool-Nutzung mit 100.000 Datensätzen und seinen Szenarien aus Gastgewerbe, E-Commerce, Banking und Versicherung sowie den NeMo Gym-Umgebungen, auf die die Karten verweisen, wird die gesamte Pipeline von Anfang bis Ende beschrieben: Trajektorien generieren, simulierte Gespräche führen, mit verifizierbaren Belohnungen trainieren, in der Harness evaluieren, die der Anbieter selbst verwendet hat. Was auch immer du von dem Modell hältst, das ist ein vollständiges öffentliches Rezept, um ein allgemeines Vision-Language-Modell in einen Tool-Calling-Agenten zu verwandeln, und es ist der Teil, der früher einmal Stammeswissen war.

Der dritte ist eine Fairness-Baseline, auf der man tatsächlich iterieren kann. Nemotron-SFT-BBQ-v1 umfasst 6.000 Datensätze und 8,0 MB, ist mit 2.000/2.000/2.000 über Alter, physisches Erscheinungsbild und Behinderung ausgewogen, und seine Konversationen sind so geschrieben, dass sowohl die evidenzbasierte Antwort als auch die annahmenbasierte Antwort plausibel sind. Bei dieser Größe kannst du es an einem Nachmittag durchlaufen lassen, bewerten und erneut durchlaufen lassen, was „Wie hast du das getestet?“ von einem Beschaffungsproblem in ein Experiment verwandelt.

Es ausprobieren, ohne einen Produktionspfad darauf zu setzen

Der unangenehme Teil dieses Releases ist das Deployment, nicht die Daten. Der BF16-Checkpoint benötigt vier H100s und der quantisierte einen einzelnen H200 oder GB200, die offenen Gewichte sind auf Hugging Face, und der eigene Weg des Anbieters zu einem gehosteten Endpunkt ist NVIDIA NIM, wobei der Newsroom auch Drittanbieter-Plattformen nennt. Wir stellen dieses Modell nicht bereit; wenn Sie also einen verwalteten Endpunkt möchten, sind die eigene API des Anbieters und mehrere Drittanbieter-Plattformen die richtige Anlaufstelle; der Nutzen eines Routers liegt hier im restlichen Teil der Entscheidung.

Ein Schlüssel für über 200 Modelle zum Listenpreis des Anbieters mit 0 % Aufschlag bedeutet, dass der Vergleich des NVFP4-Builds mit dem Textmodell, das Sie heute nutzen, eine einzige Zeilenänderung erfordert statt eines zweiten Anbietervertrags, und automatisches Failover über Anbieter hinweg bedeutet, dass eine Workload, die Sie gerade nur testen, neben Produktionsverkehr laufen kann, ohne dass eine von der anderen abhängt. Das ist die Form einer Entscheidung, die Sie rückgängig machen können – genau das, was Sie von einem Modell wollen, dessen Dokumentation zwei Tage alt ist und dessen eigene Benchmark-Tabellen einander widersprechen.

Die praktische Reihenfolge ist: Nimm Nemotron-SFT-BBQ-v1 oder einen Ausschnitt des Agentic-Sets, führe ein LoRA auf einer gemieteten H200 aus, um deinen Loop zu beweisen, bewerte es anhand deines eigenen Evals, und entscheide erst dann, ob der 249 GB große Full-Precision-Build und vier GPUs es wert sind. Die Datasets lassen sich kostenlos herunterladen, und die kleinen lassen sich kostenlos ausführen. Nichts an diesem Plan verlangt von dir, an einen Median von 99,62 % zu glauben.

Was fehlt noch?

Drei Lücken lohnen einen Blick, weil sie das Kalkül verändern und nicht das Marketing.

Das erste ist die unabhängige Bewertung der feinabgestimmten Ergebnisse. Jede Post-Training-Zahl in dieser Veröffentlichung – der Sprung von 62,7 auf 71,9 bei Terminal-Bench durch parallele Agentenausführung und Selbstverifikation, der Sprung von 24,6 auf 34,5 bei DeepSWE im selben Experiment, die Verbesserung der Genauigkeit um 41 % bei AI21, die Kostensenkung um den Faktor 40 bei Scale AI – stammt aus NVIDIAs Testumgebung oder aus einer eigenen Messung eines Kunden. Es gibt keine dritte Partei, die ein Fine-Tuning von Nemotron 3.5 Super VL auf diesen Datensätzen reproduziert und das Ergebnis veröffentlicht hat. Solange es keine gibt, sollten die Effektstärken als Obergrenze betrachtet werden.

Der zweite ist der Videopfad. Das Modell akzeptiert MP4 bis zu zwei Minuten bei 2 FPS und 256 Frames oder 1 FPS und 128 Frames für 1080p, mit einer Pruning-Rate von 0,5 — und in diesem Release gibt es keinen öffentlichen Video-Post-Training-Datensatz. Jedes oben genannte Repository ist Text, und die Übersetzungs- und Transduktions-Sets sind Long-Context-Text statt irgendetwas Visuellem. Wenn Ihr Anwendungsfall das Videoverständnis ist, das die Modellkarte bewirbt, hat NVIDIA die Fähigkeit ausgeliefert, ohne die Daten, um sie zu spezialisieren.

Drittens hat niemand veröffentlicht, was diese Datensätze bei einem Modell bewirken, das nicht Nemotron ist. Alle elf wurden entwickelt, um die Post-Training-Mischung eines Modells zu erzeugen – die Karten machen ausdrücklich deutlich, dass einige Sets frühere Nemotron-spezifische Versionen zusammenfassen, und das Konversations-Seed-Set wird als Seed-Daten für ein Pivot-Set beschrieben und nicht als frische Generierung. Ob das agentische Korpus auf ein anderes 120B-Backbone übertragbar ist, ist eine offene Frage, und sie ist die erste, die ein Team mit einem bestehenden Fine-Tuning-Stack beantwortet haben möchte.

Alle drei Lücken gehören zu der Sorte, die sich mit der Arbeit von jemand anderem statt mit der von NVIDIA schließt – was der übliche Verlauf bei einer offenen Veröffentlichung ist. Die Gewichte sind heute herunterladbar, die Daten sind heute herunterladbar, und das erste glaubwürdige unabhängige Fine-Tuning ist das, was Ihnen sagen wird, ob irgendetwas davon die GPU-Zeit wert ist.

In diesem Artikel verglichen2

Aus diesem Artikel erkannt · Benchmarks: Artificial Analysis · täglich aktualisiert