NVIDIA-Nemotron-Parse-2.0: NVIDIA hat leise einen intelligenteren Dokument-Parser veröffentlicht.

NVIDIA-Nemotron-Parse-2.0 erschien am 3. August 2026 auf Hugging Face, und zum Zeitpunkt dieses Artikels, fünf Tage später, hat NVIDIA es immer noch nicht angekündigt — kein Blogbeitrag, keine Pressemitteilung, kein Thread auf X. Das Repository ist vollständig: ein 0.9B-Vision-Encoder-Decoder, eine Modellkarte mit einer vollständigen Benchmark-Tabelle gegenüber NVIDIA-Nemotron-Parse-v1.2, Konfigurationen, ein Dockerfile, eine Testsuite und sogar ein vLLM-Pull-Request, der bereits den Hilfskopf des neuen Modells referenziert. Eine vollständige Veröffentlichung ohne jegliches Aufhebens ist genau die Art von Signal, die einen Blick auf das wert ist, was wir bisher wissen, und genau das ist dies: die Fakten, die das Repository etabliert, die Zahlen, die noch herstellerangegeben sind, und die offenen Fragen, die eine Ankündigung normalerweise beantworten würde.

Was NVIDIA-Nemotron-Parse-2.0 ist

Nemotron Parse ist NVIDIA's Dokument-Parsing-Modell: Sie füttern es mit einer gescannten oder gerenderten Seite und es liefert den Text in Lesereihenfolge, die Bounding-Box und semantische Klasse jeder Region sowie Markdown — inklusive Tabellen, wahlweise als LaTeX, HTML, Markdown, JSON, hierarchisches JSON oder CSV. Es ist weder ein Allzweck-LLM noch eine einfache OCR-Engine. Es sitzt zwischen den beiden: layoutbewusste Extraktion, die dafür entwickelt wurde, RAG-, Extraktions- und Dokument-Intelligence-Pipelines zu speisen.

Version 2.0 behält dieselbe Architekturfamilie wie v1.2 bei, laut der Konfiguration im Repository. Der Vision-Encoder ist ein ViT-H, das auf dem C-RADIOv2-Backbone von NVIDIA basiert, der Decoder ist ein zehnschichtiger Decoder im mBART-Stil, und das gesamte Modell kommt auf etwa 0,9 Milliarden Parameter. Eingabeseiten unterstützen bis zu 2048×1664, die Generierung läuft bis zu einer Obergrenze von 9.000 Tokens, und das Modell kennzeichnet Regionen mit einer Reihe semantischer Klassen (Text, Titel, Abschnittsüberschrift, Listenelement, Tabelle, Formel, Bild, Bildunterschrift, Fußnote, Seitenkopf/-fuß und der Rest). Es ist ein Modell, das klein genug ist, um es auf einer einzelnen GPU selbst zu hosten, was wichtig ist, da dies heute die einzige Möglichkeit ist, es auszuführen.

Was hat sich ab v1.2 geändert?

Der interessante Teil der Modellkarte ist nicht das Modell – es ist das Delta. NVIDIA-Nemotron-Parse-v1.2 wurde im Februar 2026 auf Hugging Face mit einem Vokabular von 52.329 Token veröffentlicht. Version 2.0 erweitert dies auf 72.256 Token, ein Sprung von ungefähr 20k Token, und die Karte erklärt eindeutig, warum: Die zusätzlichen Token ermöglichen mehrsprachige OCR, mit den größten Zugewinnen bei CJK- und Indischen Schriften. Die Modellkarte listet außerdem drei weitere Änderungen auf:

• Diagrammbewusstes Parsing — ein neues class_Chart>-Klassen-Token, sodass Diagrammbereiche ihre eigene semantische Klasse erhalten, anstatt mit Bildern oder Tabellen zusammengefasst zu werden.

• Verbesserte Extraktion handgeschriebener Texte — die Karte berichtet, dass die Textbearbeitungsdistanz im OmniDocBench-Notes-Datensatz von 0,9739 in v1.2 auf 0,3395 gesunken ist (niedriger ist besser), eine große Veränderung für das, was historisch gesehen der schwächste Fall für diese Modelle ist.

• Verbesserte Tabellenbehandlung, die in den Gesamtgewinn von ParseBench einfließt, anstatt als eigener Wert ausgewiesen zu werden.

Ein erwähnenswertes Trainingsdetail: Die Karte besagt, dass 2.0 eine gleichgewichtete Checkpoint-Suppe aus Trainings-Checkpoints von Schritt 58k bis 66k ist, ein gängiges Rezept für ein ruhiges Point-Release — es verschafft in der Regel Robustheit, ohne ein vollständiges Retraining zu erfordern.

Die Zahlen, die die Karte meldet

Alle folgenden Zahlen stammen aus NVIDIAs eigener Model Card, gemessen gegen v1.2, und keiner davon wurde bisher von einem unabhängigen Dritten ausgeführt. Behandeln Sie sie als herstellerseitig gemeldet und richtungsweisend:

• ParseBench-Gesamtwertung: von 0,5782 auf v1.2 bis 0,6391 auf 2.0. ParseBench ist NVIDIAs eigener Benchmark, der Texttreue, semantische Formatierung, Tabellen, Diagramme und visuelle Verankerung abdeckt.

• MOSCAR multilingual BoC F1 — 0,4410 bis 0,9102. Dies ist der größte einzelne Sprung auf der Karte und steht im Einklang mit der Vokabulareweiterung; MOSCAR deckt Latein, Arabisch, Kyrillisch, Chinesisch, Hangul, Japanisch, Indische Schriften, Hebräisch, Thailändisch, Griechisch und mehr ab.

• IndicVisionBench insgesamt ANLS-Zeichen — 0,0612 bis 0,7203, über zehn indische Sprachen (Bengalisch, Gujarati, Hindi, Kannada, Malayalam, Marathi, Odia, Punjabi, Tamil, Telugu).

• OmniDocBench Notes Handschrift-Texteditierdistanz — von 0,9739 auf 0,3395 (niedriger ist besser).

Der Umfang dieser Deltas ist der Grund, warum dieses Release auch ohne Ankündigung von Bedeutung ist. Eine Bewegung von 0,44→0,91 bei einer mehrsprachigen OCR-F1-Metrik ist kein unbedeutendes Minor Release; es sieht aus wie die Mehrsprachigkeitsarbeit, die normalerweise den Auftakt einer Veröffentlichung bilden würde. Ob sich die Verbesserungen unter unabhängiger Evaluierung bestätigen lassen, ist genau die Frage, die das Fehlen von Berichterstattung offen lässt.

Was das Repo uns nicht sagt.

Ehrlich über die Kanten zu sein, ist der Sinn eines Quiet-Ship-Posts. Das Repo bestätigt nicht:

Ob 2.0 als NVIDIA-NIM-Mikroservice verfügbar ist (oder sein wird) — v1.2 wird über NVIDIAs eigene NIM-API bereitgestellt, die 2.0-Karte listet kein NIM-Tag und keinen Bereitstellungs-Endpunkt, und die Repo-Seite vermerkt, dass das Modell „von keinem Inference-Provider bereitgestellt wird."

• Preisgestaltung, falls vorhanden — für die Gewichte fällt keine Nutzungsgebühr an, aber eine gehostete Option wurde weder bepreist noch angekündigt.

• Unabhängige Benchmarks — für 2.0 existiert noch kein Eintrag bei Artificial Analysis, LMArena oder OmniDocBench, daher gibt es nichts, womit die Herstellerangaben gegengeprüft werden könnten.

• Die Roadmap — ob 2.0 ein Zwischenschritt oder ein Ziel ist und ob ein 2.1-artiges Follow-up kommt, ist unbekannt.

Das Einzige, was sicher ist, ist die Lizenz: Das Modell steht unter der NVIDIA Open Model License, die kommerzielle und nicht-kommerzielle Nutzung erlaubt, mit dem Tokenizer unter CC-BY-4.0. Wenn Sie es in einem Produkt verwenden möchten, ist diese Voraussetzung erfüllt.

Heute ausführen.

Self-Hosting ist derzeit die einzige Option, und damit ist einiger Reibungsaufwand verbunden, den man kennen sollte, bevor man seine Planung darauf aufbaut. Das Modell wird in Hugging Face Transformers mit trust_remote_code geladen, und vLLM kann es bedienen – allerdings nur mit einem vLLM-Build, der die Remote-Code-Unterstützung von Nemotron Parse enthält. Auf Hardware der A100/A10-Klasse empfiehlt NVIDIA, das Triton Attention-Backend zu erzwingen, und man benötigt vier zusätzliche Abhängigkeiten: albumentations, timm, open_clip_torch und einops. Es gibt außerdem eine Eigenheit beim gebundenen Output-Head: Bei 2.0 bleibt der LM-Head an die Decoder-Embeddings gebunden, während einige vLLM-Builds einen separaten Output-Head materialisieren, sofern man nicht den von NVIDIA mitgelieferten Runtime-Patch zum PYTHONPATH hinzufügt.

Zwei Serving-Details aus dem Ökosystem runden das Ganze ab. Erstens ermöglicht ein aktuell offener vLLM-Pull-Request (Anfang August in der Überprüfung) spekulatives Decoding für NVIDIA-Nemotron-Parse-2.0, indem er den Hilfs-Prädiktionskopf verwendet, der im Sidecar `auxiliary_prediction_heads.safetensors.extra` des Repos gespeichert ist – die Dokumentation der Karte selbst beschreibt diese Datei als nicht in der Standard-Inferenz verwendet, dieser PR ist also das Erste, das sie tatsächlich konsumiert. Auf einer H100 über den ParseBench-Datensatz mit 1.005 Seiten berichtet der Autor mediane Output-Throughput-Steigerungen von etwa 45 % bei Parallelität 1, 41 % bei Parallelität 8 und 40 % bei Parallelität 32 gegenüber Single-Token-Decoding – alle Zahlen stammen aus dem PR und wurden weder gemerged noch unabhängig reproduziert. Zweitens weist ein Dynamo-Issue auf eine echte Falle im Tokenizer von 2.0 hin: Er wird mit einer serialisierten `tokenizer.json` ausgeliefert, die fest eingebaute Auffüllung (Padding) enthält, sodass jeder Encode auf 9.000 Tokens aufgefüllt wird. Ein Serving-Stack, der diesen aufgefüllten Tokenizer lädt, kann dadurch einen multimodalen Prompt mit sechs Tokens auf 54.000 Token-IDs aufblähen. Wenn Sie selbst hosten, stellen Sie sicher, dass Ihr Serving-Pfad Online-Tokenisierung nutzt, anstatt das aufgefüllte Artefakt zu laden.

Wo es im Parsing-Markt 2026 steht

Nemotron Parse 2.0 betritt ein überfülltes, sich schnell bewegendes Feld. Zu den derzeitigen Open-Source-Führern bei der Dokumentenanalyse gehören MinerU 2.5-Pro (ein 1,2B-Modell vom Shanghai AI Lab) und PaddleOCR-VL (0,9B- und 7B-Varianten), die beide zusammengesetzte Werte im niedrigen 90er-Bereich auf dem OmniDocBench-Leaderboard erzielen, plus GOT-OCR 2.0 von StepFun als die leichte 580M-Option; auf der API-Seite ist Mistral OCR das wichtigste kommerzielle Angebot. Zwei Warnungen, bevor Sie versuchen, 2.0 in diese Rangliste einzuordnen. Die erste ist, dass die Zahlen nicht vergleichbar sind: Parse 2.0 meldet ParseBench, NVIDIAs eigene Suite, während die Werte des Feldes zusammengesetzte OmniDocBench-Ergebnisse sind – verschiedene Aufgaben, verschiedene Gewichtung, es gibt noch keinen direkten Vergleich. Die zweite ist, dass Sie NVIDIA-Nemotron-Parse-2.0 nicht mit NVIDIAs separatem Modell NVIDIA-Nemotron-OCR-v2 verwechseln sollten, einem dichten OCR-Modell auf Wortebene, das für NeMo-Curator-Pipelines entwickelt wurde. Parse 2.0 ist der Parser, der Layout und Klassen erkennt; OCR v2 ist ein Extraktor für einzelne Wörter. Sie sind komplementäre Werkzeuge, nicht dasselbe Modell.

Ehrlich positioniert ist das Versprechen von Parse 2.0 nicht „übertrifft das Feld bei jeder Parsing-Kennzahl“. Es handelt sich um einen 0,9B großen, permissiv lizenzierten, layoutbewussten Parser, dessen Karte einen sehr großen mehrsprachigen Sprung gegenüber seinem eigenen Vorgänger beansprucht – und dessen Abstammungslinie (v1.1 im November 2025, v1.2 im Februar 2026, 2.0 im August 2026) zeigt, dass NVIDIA etwa jedes Quartal einen neuen Parser veröffentlicht. Für Teams, die bereits auf der Nemotron-Parse-Familie standardisiert sind, ist 2.0 ein Drop-in-Upgrade mit derselben API-Form und einer viel stärkeren mehrsprachigen Geschichte. Für alle anderen stellt sich die Frage, ob die Behauptungen des nicht angekündigten Modells unabhängigen Tests standhalten.

Wo eine Routing-Ebene in eine Parsing-Pipeline passt

Ein Dokument-Parsing-Modell ist in der Regel eine Stufe einer längeren Pipeline, und genau die Stufen darum herum sind es, in denen sich Routing bezahlt macht. Die übliche Struktur sieht so aus: Parse 2.0 verwandelt eine Seite in strukturierte Chunks, dann fasst ein LLM zusammen, beantwortet Fragen, extrahiert Entitäten oder strukturiert das Ergebnis für einen nachgelagerten Speicher. Genau diese LLM-Stufe ist es, in der eine Routing-Plattform die Wirtschaftlichkeit verändert. OrcaRouter stellt über eine einzige API mehr als 200 Modelle zum Listenpreis des Anbieters bereit – 0 % Aufschlag, sodass eine Preissenkung des Anbieters bei uns noch am selben Tag ankommt, an dem sie angekündigt wird – mit automatischem Failover, falls ein Anbieter Schwächen zeigt. Konkret bedeutet das: Der Parser kann unverändert bleiben, während das Modell, das seine Ausgabe interpretiert, ohne zweiten Vertrag und ohne Codeänderung ausgetauscht, verglichen oder per Failover umgeleitet wird. Wenn die Parsing-Stufe der Engpass ist, brauchen Sie ein Modell, das Sie optimieren und selbst hosten können – genau das bietet Parse 2.0. Wenn die Interpretationsstufe der variable Kostenfaktor ist, dann ist das die Stufe, die ein Router verwalten sollte. Wir hosten Parse 2.0 nicht selbst – es ist ein selbst gehostetes Modell, keine API – aber ein Parser, der ein LLM speist, ist genau das Szenario, in dem sich ein einziger Endpunkt für die LLM-Ebene auszahlt.

Fazit

NVIDIA-Nemotron-Parse-2.0 ist eine echte, vollständige, nicht angekündigte Veröffentlichung vom 3. August 2026. Das Repo zeigt einen layout-bewussten Parser mit 0,9B Parametern, dessen Modellkarte sehr große Fortschritte bei Mehrsprachigkeit und Handschrifterkennung gegenüber v1.2 behauptet, veröffentlicht unter einer permissiven Lizenz mit echter Reibung beim Selbsthosting. Keine dieser Zahlen ist bisher unabhängig verifiziert, und es gibt weder eine gehostete Option noch eine Preisgestaltung. Die richtige Entscheidung hängt von Ihrer Risikotoleranz ab: Wenn Sie heute mehrsprachige Dokumente parsen und die Mehrsprachigkeits-Metrik diejenige ist, die Ihnen wichtig ist, ist die behauptete Verbesserung von 0,44→0,91 MOSCAR groß genug, um einen Wochenendtest mit Ihrem eigenen Korpus zu rechtfertigen – die Deltas sind von der Art, die sich entweder replizieren oder in sich zusammenfällt, und eine ruhige Veröffentlichung ist der günstigste Weg, das herauszufinden. Wenn Sie einen zitierfähigen Benchmark oder eine unterstützte API brauchen, um einen Produktionspfad darauf aufzubauen, warten Sie auf eine Ankündigung oder einen unabhängigen Lauf. In der Zwischenzeit ist das genau das, wie ein ruhiger Release aussieht, und es lohnt sich, ihn im Auge zu behalten.

FAQ

Ist NVIDIA-Nemotron-Parse-2.0 ein Leak oder eine offizielle Veröffentlichung?

Keine der beiden Bezeichnungen passt so ganz. Es ist kein Leak im Sinne von verstreuten oder unvollständigen Gewichten – das Repository ist vollständig zusammengestellt, mit einer detaillierten Modellkarte, Konfigurationsdateien, einem Dockerfile, einer Testsuite mit goldenen Ausgaben sowie Inferenzskripten sowohl für Transformers als auch für vLLM. Aber es ist auch kein Launch im üblichen Sinne: NVIDIA hat keine Ankündigung veröffentlicht, und es fehlen die NIM-Paketierung und der gehostete Endpunkt, die frühere Nemotron-Parse-Veröffentlichungen begleitet hatten. Die zutreffende Beschreibung ist eine vollständige Veröffentlichung, die der Anbieter noch nicht zu bewerben beschlossen hat – weshalb die ehrliche Bezeichnung hier „stilles Release“ ist, und weshalb die Dinge, die eine Ankündigung normalerweise klärt (Preisgestaltung, Roadmap, gehostete Verfügbarkeit), offene Fragen bleiben.

Wie schneiden die Vendor-Benchmarks im Vergleich zu den OmniDocBench-Zahlen ab, die für andere Parser angeführt werden?

Sie tun das nicht direkt. Die Zahlen auf der Karte von NVIDIA-Nemotron-Parse-2.0 stammen aus ParseBench, NVIDIAs eigenem Benchmark, der Texttreue, semantische Formatierung, Tabellen, Diagramme und visuelle Erdung abdeckt, sowie aus MOSCAR, IndicVisionBench und einem OmniDocBench-Handschrift-Teilbereich – während die wichtigsten Marktwerte (MinerU 2.5-Pro, PaddleOCR-VL, Mistral OCR) OmniDocBench-Gesamtwerte sind. Verschiedene Aufgaben, verschiedene Metriken, es gibt noch keinen veröffentlichten direkten Vergleich. Die eine Zahl, die sich mit dem Ökosystem überschneidet – die OmniDocBench-Notizen-Handschriftzahl – wird als Bearbeitungsdistanz gegenüber v1.2 angegeben, nicht als Gesamtwert, sodass sie weiterhin nicht mit den anderen verglichen werden kann. Bis ein unabhängiger Lauf vorliegt, behandeln Sie die Behauptungen von Parse 2.0 als richtungsweisend und unverifiziert.

Was sollte ein Team testen, bevor es in Produktion geht?

Drei Dinge. Erstens: Ihr eigener mehrsprachiger Korpus: {{1}}das gesamte Verkaufsargument von 2.0 ist der Mehrsprachen-Sprung, und eine stille Veröffentlichung ist genau die Situation, in der sich die behaupteten Gewinne entweder auf Ihren Daten reproduzieren oder nicht — lassen Sie die Sprachen, die Sie tatsächlich parsen, durchlaufen, bevor Sie der Karte glauben.{{/1}} Zweitens: der Self-Hosting-Stack: {{2}}bestätigen Sie, dass Ihr vLLM-Build Nemotron-Parse-Remote-Code-Unterstützung hat, spielen Sie den Tied-Output-Head-Patch ein und verifizieren Sie, dass Ihr Serving-Pfad Online-Tokenisierung durchführt, anstatt das mit Padding versehene tokenizer.json zu laden, das einen kurzen Prompt auf 9.000 Token aufblähen kann.{{/2}} Drittens: die Lizenz- und Service-Geschichte: {{3}}Die Gewichte sind unter der NVIDIA Open Model License kostenlos, aber es gibt kein angekündigtes NIM, keine Preisgestaltung und keinen Supportvertrag — gehen Sie also von Self-Hosting aus und leiten Sie die LLM-Stufe nachgelagert durch eine Schicht, die es Ihnen erlaubt, Modelle auszutauschen und ein Failover durchzuführen, ohne Neuentwicklung, wofür eine Routing-Plattform gedacht ist.{{/3}}