Mercury 3 vs. NVIDIA Nemotron 3.5 Super VL 120B-A12B: Eine Geschwindigkeitsangabe ist gemessen, die andere nicht

Mercury 3 und NVIDIA Nemotron 3.5 Super VL 120B-A12B werden beide damit beworben, schnell zu sein. Nur eine dieser Geschwindigkeitsangaben wurde von irgendjemandem außerhalb des Unternehmens überprüft, das sie aufgestellt hat. Artificial Analysis misst Nemotron 3.5 Super VL mit 434,3 Ausgabe-Tokens pro Sekunde in seiner eigenen Messumgebung. Mercury 3, das Inception Labs am 19. Oktober 2026 veröffentlicht hat, gibt 1.068 Tokens pro Sekunde an — und mit Stand 20. Oktober gibt es in diesem Index überhaupt keine Seite zu Mercury 3, sodass hinter der Zahl keine zweite Partei steht. Diese Asymmetrie, nicht das Datenblatt, gibt in diesem Duell den Ausschlag. Die dokumentierten KI-Ausfälle und Agent-Vorfälle hinter Releases wie diesem sammeln sich in dem OrcaRouter AI Incident Archive, wo jeder Eintrag seine eigenen Quellen, Schweregrad, Konfidenzstufe und eine Kennzeichnung als umstritten enthält.

Es gibt eine zweite Asymmetrie, die für manche Teams wichtiger ist. Nemotron ist herunterladbar, läuft auf Ihrer eigenen Hardware und kann nachtrainiert werden. Mercury 3 ist ein API-Produkt ohne Gewichte. Eines davon ist eine Beschaffungsentscheidung und das andere ein Deployment-Projekt, und die Benchmark-Tabelle ist ein schlechter Leitfaden dafür, was Sie tatsächlich brauchen.

Die Zahlen, bei denen beide Anbieter übereinstimmen – und die eine, bei der sie es nicht tun

Beginne mit den Zeilen, in denen die beiden nicht mehr unterschiedlich aussehen, denn mehrere davon sind tatsächlich gleich.

• Kontext — beide sind mit 1 Mio. Tokens angegeben. Mercury 3 kombiniert dies mit einer Ausgabegrenze von 131.072 Tokens; die Karte von Nemotron nennt bis zu 1 Mio. gemeinsames Fenster über Prompt, Bilder, Verlauf, Tool-Ergebnisse und die Antwort hinweg.

• Ausgabe — Textausgabe, beide. Keines von beiden erzeugt Bilder oder Audio.

• Eingabe – hier trennen sich ihre Wege. Nemotron nimmt Text, RGB-Bilder und MP4-Video mit bis zu zwei Minuten Länge. Mercury 3 nimmt Text, und ausschließlich Text.

• Preis — Mercury 3 kostet während seines Markteinführungszeitraums 0,10 $ pro Million Eingabe-Token und 0,35 $ pro Million Ausgabe-Token und fällt zum Listenpreis auf 0,20 $ bzw. 0,70 $ zurück. Nemotron hat überhaupt keine Preisliste des Anbieters; was existiert, ist das Kostenblatt von Artificial Analysis, das es derzeit mit 0,225 $ Eingabe und 0,575 $ Ausgabe pro Million ansetzt, bei 78 % Cache-Rabatt und Kosten von 0,19 $ pro Intelligence-Index-Aufgabe.

Gewichte — Die Gewichte von Mercury 3 sind nicht veröffentlicht, und Inception hat keine Zusage gemacht, sie zu veröffentlichen. Die von Nemotron sind auf Hugging Face unter OpenMDW-1.1 verfügbar, mit Vollpräzisions- und NVFP4-Checkpoints.

Genau diese letzte Zeile entscheidet die meisten echten Bewertungen – und sie hat nichts mit Tokens pro Sekunde zu tun.

Den unabhängigen Index lesen, ohne ihn zu überinterpretieren

NVIDIA hat Nemotron 3.5 Super VL am 15. Oktober 2026 veröffentlicht. Als in derselben Woche die erste unabhängige Rangliste erschien, wies sie einen Intelligence Index von 26 auf, und dort, wo die Geschwindigkeitsspalte hätte stehen sollen, war eine Leerstelle. Die Seite enthält jetzt beides: 26 im Index v4.3.2 und 434,3 Ausgabe-Tokens pro Sekunde, womit das Modell unter den 28 Modellen seiner Vergleichsklasse auf Platz eins liegt. Außerdem generierte es während des Index-Laufs 170 Mio. Tokens gegenüber einem Median von 100 Mio., was die Seite als etwas wortreich beschreibt.

Das sind die eigenen Messungen des Index, ermittelt mit seinem eigenen Test-Harness, und sie sind genau so viel wert, wie eine einzelne Benchmark-Suite wert ist: eine reproduzierbare Zahl, erhoben von jemandem, der nicht für NVIDIA arbeitet. Beachten Sie, was 26 bedeutet und was nicht. Der Vergleichstext der Seite selbst stellt sie einem Median von 8 für vergleichbare Open-Weight-Modelle der 40B–150B-Klasse gegenüber, also ist es ein starkes Ergebnis innerhalb seiner Gewichtsklasse und ein bescheidenes gegenüber Frontier-Modellen jeder Größe. Die Rangfolge „first-of-67“, die oben auf der Seite erscheint, ist eine Rangfolge innerhalb einer gefilterten Klasse, keine Gesamtplatzierung. Wer „Nummer eins“ ohne den Filter zitiert, zitiert den Filter.

Nun die andere Seite. Der Launch-Beitrag von Inception erhebt drei quantitative Angaben: 1.068 Tokens pro Sekunde auf NVIDIA-GPUs, ein Kontext von 1 Mio. und einen Einführungspreis, der halb so hoch ist wie der Listenpreis. Er enthält keinerlei numerische Qualitätsaussage. Stattdessen heißt es, Mercury 3 „übertreffe GPT-6 Luna und Claude Haiku 5.5“ – zwei geschwindigkeitsoptimierte Modelle, was der richtige Vergleichssatz für ein Latenzprodukt ist, angegeben ohne Abstand, Benchmark-Namen oder Ergebnis pro Aufgabe. Außerdem wird berichtet, dass Mercury 3 50 % von 50 Live-Mind2Web-Navigationsaufgaben in Inceptions eigenem Web-Agent-Harness abgeschlossen habe, „deutlich mehr als GPT-6.1-Sol“. Fünfzig Aufgaben in einem herstellereigenen Harness sind ein Signal, keine Messung, die man neben 26 stellen kann.

Der ehrliche Vergleich der Qualitätsnachweise ist also dieser: Das eine Modell hat einen Score in einem Drittanbieter-Index, das andere nur einen Satz des Anbieters. Das macht Mercury nicht zum schwächeren Modell. Es macht es zum ungemessenen Modell, und ungemessen ist eine andere Risikokategorie als niedrig bewertet.

Was der Betrieb der Open-Weights-Hälfte tatsächlich kostet

Nemotron 3.5 Super VL ist ein Mixture-of-Experts-Modell mit 120 Milliarden Parametern, 12 Milliarden aktiven Parametern pro Token, 512 gerouteten Experten pro MoE-Schicht und einem hybriden Backbone, der Mamba-2-, Attention- und MoE-Schichten verschachtelt, ergänzt um einen C-RADIO-Vision-Encoder, der über einen Connector angebunden ist. NVIDIA liefert es in zwei Präzisionsstufen, und der Abstand zwischen ihnen ist die nützlichste Zahl in der Veröffentlichung.

• BF16 — 64 Safetensors-Shards, rund 231,8 GiB. NVIDIAs eigenes Serving-Rezept ist Tensor-Parallel 4 auf vier H100s oder TP2 auf zwei GB200s.

• NVFP4 — 4-Bit-Gewichte und -Aktivierungen mit quantisierungsbewusster Destillation. Die Karte listet den Einsatz auf einem DGX Spark, einer H200, zwei H100s oder einer GB200.

Ein 120B-Modell, das bei 4-Bit auf zwei H100s passt statt auf vier bei BF16, ist ein anderes Beschaffungsgespräch, und deshalb ist der quantisierte Checkpoint derjenige, auf den der Anbieter für effizientes Serving verweist. Was NVIDIA nicht veröffentlicht, ist eine direkte Gegenüberstellung der Genauigkeit zwischen den beiden Stufen. Die Aussage ist eine Aussage zur Trainingsmethodik – dass Destillation während des Trainings die Quantisierungslücke schließt –, kein gemessener Vergleich, und wenn Ihre Entscheidung von dieser Lücke abhängt, steht die Antwort nicht im Repository.

Die Lizenz lohnt einen Blick über das Marketing hinaus. Der Blogbeitrag spricht von „open weights“; im Frontmatter der Karte steht license: other, license_name: openmdw-1.1, geregelt durch die OpenMDW License Agreement 1.1. Die kommerzielle Nutzung ist erlaubt, und die Karte sagt das ausdrücklich. Es handelt sich nicht um Apache 2.0, und wenn Ihre Organisation eine Liste zugelassener Lizenzen führt, ist diese Liste das, was vor dem GPU-Angebot geprüft werden sollte.

Wo die beiden aufhören, Substitute zu sein

Das Missverhältnis ist keine Frage der Qualität. Es liegt im Zuschnitt der Aufgabe.

Mercury 3 ist ein Diffusions-Sprachmodell – Inceptions Begriff dafür ist dLLM –, das Tokens parallel statt nacheinander erzeugt; daher rührt überhaupt die Behauptung eines vierstelligen Durchsatzes. Die Arbeitslast, für die es gebaut wurde, ist eine, bei der ein Mensch zusieht: Tutoring-Hinweise, Suchgenerierung, eine Support-Antwort, die sich wie ein Gespräch anfühlen muss. Die Kundenstimmen von Inception selbst sind alle von dieser Art, und sie sind der richtige Test für das Produkt. Ein falscher Hinweis lässt sich korrigieren. Eine Pause von zwei Sekunden nicht.

Nemotron 3.5 Super VL ist für das entgegengesetzte Ende gebaut. Es liest Screenshots, gescannte Dokumente, Diagramme und zweiminütige Videoclips, ruft Tools auf und läuft auf Hardware, die Sie kontrollieren. Die Arbeitslast, für die es gebaut ist, ist eine Pipeline, die minutenlang läuft und Ergebnisse zurückmeldet, bei der eine falsche Extraktion teuer ist und fünf Sekunden Wartezeit unsichtbar sind. Die eigene Modellkarte sagt offen, dass nicht alle Zeilen der Multimodal-Benchmarks durch das offene Tooling liefen, das NVIDIA veröffentlicht, und dass das interne Gerüst hinter mehreren davon für eine künftige Version versprochen ist. Dieser Vorbehalt schließt das Modell nicht aus; er sagt Ihnen, welche Zeilen Sie selbst erneut ausführen sollten, bevor Sie sich auf sie verlassen.

Die Überschneidung ist geringer, als die Datenblätter vermuten lassen. Wenn es sich bei Ihrer Eingabe um einen Stapel Rechnungen, ein Produktvideo oder einen Dashboard-Screenshot handelt, kann Mercury 3 sie nicht sehen. Wenn Sie eine untersekundige Dialogantwort auf reinem Text benötigen, ist ein multimodaler 120B-Checkpoint auf Ihren eigenen GPUs ein sehr teurer Weg, um eine solche zu bekommen.

Keines der beiden Modelle steht in unserem Katalog, und das ändert die Routing-Empfehlung.

Beides sind ehrliche Negativmeldungen. Unsere Modell-API gibt weder ein Inception-Modell noch einen NVIDIA-Nemotron-Eintrag zurück, daher lässt sich heute weder Mercury 3 noch Nemotron 3.5 Super VL über uns aufrufen. Wer Mercury 3 möchte, geht auf Inceptions eigene Plattform, die neuen Konten 100 Millionen kostenlose Tokens gewährt; wer Nemotron möchte, lädt den Checkpoint von Hugging Face herunter oder nutzt einen Host eines Drittanbieters. Wir schreiben das lieber ausdrücklich hin, als eine Route anzudeuten, die wir nicht haben.

Wofür eine Routing-Schicht hier noch gut ist, das ist der Teil rund um das Experiment. Eine Zwei-Wege-Anordnung ist der vernünftige Weg, ein noch nicht vermessenes Modell zu bewerten: Schicke die latenzkritische Stufe über Inceptions Schlüssel an Mercury 3 und behalte den Fallback und die schwierigen Fälle auf Modellen, die wir tatsächlich führen — mehr als 200 davon hinter einem OpenAI-kompatiblen Endpunkt, zum Listenpreis des Anbieters mit 0 % Aufschlag, mit automatischem Failover, wenn ein Anbieter schlechter wird. Sollte sich der neue Weg als schlechter erweisen als im Launch-Post angedeutet, ist der Fallback bereits verdrahtet, und der Wechsel ist eine Routing-Regel statt eines Integrationsprojekts. Die selbst gehostete Hälfte des Vergleichs profitiert davon überhaupt nicht, weil es nichts zu routen gibt.

Die Entscheidungsregel

Wählen Sie Nemotron 3.5 Super VL 120B-A12B, wenn das Modell etwas sehen muss – eine Seite, einen Scan, einen Clip – oder wenn die Daten Ihre Infrastruktur nicht verlassen dürfen oder wenn Sie vorhaben, mit Ihren eigenen Beispielen Post-Training durchzuführen. Kalkulieren Sie die Hardware ehrlich: vier H100s in BF16 oder zwei in NVFP4 sind eine echte Kapitalbindung, und die 26 auf dem Index ist ein klassenrelativer Wert, kein Frontier-Wert. Akzeptieren Sie, dass seine Zeilen für Instruction-Following und Langkontext der schwächere Teil seiner eigenen Tabelle sind.

Wähle Mercury 3, wenn eine Person auf eine Textantwort wartet und ein erneuter Versuch nichts kostet. Akzeptiere zwei Dinge, bevor du darauf aufbaust: dass 1.068 Token pro Sekunde eine Anbieterangabe ohne unabhängige Reproduktion sind und dass die Standard-Effort-Einstellung „low“ ist – jede Benchmark, die du selbst ausführst, ist also nur mit der von jemand anderem vergleichbar, wenn du instant, low, medium oder high explizit festlegst. Kalkuliere zum Listenpreis, 0,20 $ und 0,70 $, denn der Einführungsrabatt hat kein veröffentlichtes Enddatum, und ein Kostenmodell, das auf 0,10 $ und 0,35 $ aufbaut, hat ein Ablaufdatum, das du nicht siehst.

Am schnellsten würde sich die Antwort ändern, wenn auf beiden Seiten dasselbe geschähe: eine zweite unabhängige Partei, die dieselben Tests durchführt. Wenn Artificial Analysis eine Mercury-3-Seite veröffentlicht, wird die Durchsatzangabe überprüfbar, und die Qualitätsfrage ist nicht länger nur ein Satz in einem Launch-Post. Wenn NVIDIA ein Genauigkeitsdelta zwischen BF16 und NVFP4 veröffentlicht, ist die günstige Deployment-Stufe kein Vertrauensvorschuss mehr. Bis eines von beiden vorliegt, lautet die ehrliche Zusammenfassung, dass eines dieser Modelle gemessen und das andere beschrieben wurde, und kein noch so eingehender Datenblatt-Vergleich schließt diese Lücke.