NVIDIA Nemotron Labs Dory 1.0 4B vs. Gemma 4 12B: Dreimal so viele Parameter, aber nicht dieselbe Aufgabe

Die naheliegende Art, einen Vergleich zwischen NVIDIA Nemotron Labs Dory 1.0 4B und Gemma 4 12B zu lesen, ist die eines Kampfs der Größen – 4B gegen 12B, klein gegen mittelgroß –, und diese Rahmung verschenkt den Vergleich, denn die beiden Modelle akzeptieren nicht dieselben Eingaben, haben nicht dieselbe Lizenzausrichtung und werden nicht auf dieselbe Weise schneller. Dory ist ein Nur-Text-, Nur-Englisch-, gelooptes Netzwerk, dessen definierendes Merkmal darin besteht, dass ein einziger Download mehrere Compute-Budgets bedient. Gemma 4 12B ist ein multimodales Any-to-Any-Modell, das Text, Bilder und Audio über einen einzigen encoderfreien Stack aufnimmt und Text zurückgibt. Die Parameterlücke ist real, aber sie ist der am wenigsten aussagekräftige Unterschied zwischen ihnen. Hier ist, was die beiden tatsächlich trennt, einschließlich der Teile, in denen noch niemand das Experiment durchgeführt hat.

Was jedes Einzelne ist, in einem Durchgang

NVIDIA Nemotron Labs Dory 1.0 4B ist ein dichtes 4B-Modell, das von NVIDIA trainiert und auf Hugging Face in vier Quantisierungen veröffentlicht wurde – BF16, MXFP8, NVFP4 und ein Q5_K_M GGUF – unter der OpenMDW-1.1-Lizenz. Seine Modellkarte vermerkt den Build „GA (10/16/2026)“. Es verarbeitet Text als Eingabe und Text als Ausgabe, nur Englisch, mit bis zu 256K Token Kontext. Die Architektur ist der entscheidende Punkt: ein rekurrenter Block mit 20 Schichten, der zwischen einem 8-schichtigen Eingabeblock und einem 8-schichtigen Ausgabeblock eine variable Anzahl von Malen angewendet wird, sodass die Schleifenanzahl zu einer Stellschraube zur Serving-Zeit statt zu einer Entscheidung zur Trainingszeit wird. NVIDIA empfiehlt zwei Schleifen als Standard und vier, wenn agentische Genauigkeit wichtiger ist. Über die Veröffentlichung wurde nichts angekündigt; die Repositories wurden über Nacht befüllt und der Anbieter hat keinen begleitenden Beitrag veröffentlicht.

Gemma 4 12B ist Googles DeepMind dichtes multimodales Modell mit 11,95 Mrd. Parametern, Apache 2.0, 256K Kontext, 48 Schichten mit hybrider Attention und einem gleitenden Fenster von 1024 Token sowie einem Vokabular von 262K. Es wird als encoderfrei beschrieben: Bild-Patches und Audio-Wellenformen werden direkt in den Einbettungsraum des Sprachmodells projiziert statt über separate Vision- und Audio-Encoder. Text, Bild und Audio rein; Text raus. Video wird als gesampelte Frames verarbeitet, wobei die Karte Audio auf etwa 30 Sekunden und Video auf etwa 60 Sekunden bei ungefähr einem Frame pro Sekunde begrenzt. Es unterstützt konfigurierbare Thinking-Modi und eine native System-Rolle und ist seit Mitte 2026 öffentlich und wurde vielfach heruntergeladen.

Eine Klarstellung, die sich lohnt, bevor irgendeine Zahl auftaucht: Dory wird in vier Varianten ausgeliefert, und diejenige, deren Repository-ID am häufigsten zitiert wird, ist der MXFP8-Build, doch die von NVIDIA veröffentlichten Benchmarks wurden mit BF16 gemessen. Der MXFP8-Checkpoint ist eine Quantisierung derselben Gewichte, kein anderes Modell.

Das Benchmark-Problem: Diese beiden wurden noch nie gegeneinander getestet.

Das ist der Punkt, den ein Vergleichsartikel üblicherweise kaschiert, deshalb lohnt es sich, ihn unverblümt auszusprechen. Es gibt kein gemeinsames Harness-Ergebnis für Dory 1.0 4B und G​emma 4 12B. N​VIDIAs Benchmark-Tabelle für Dory vergleicht es mit Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B und Qwen3.6-35B-A3B — sie greift auf das 26B-G​emma zurück, nicht auf das 12B, und sie enthält das 12B überhaupt nicht. G​oogles veröffentlichte Zahlen für das 12B stammen aus einem anderen Harness, gegen ein anderes Vergleichsset, in einem Dokument, das Monate früher veröffentlicht wurde und eine andere Aufgabenmischung abdeckt.

Die Zahlen der beiden Modellkarten nebeneinanderzustellen erzeugt eine Tabelle, die autoritativ aussieht und nichts bedeutet, denn ein Zwei-Punkte-Unterschied zwischen zwei Test-Harnessen ist kein Zwei-Punkte-Unterschied zwischen zwei Modellen. Die ehrliche Variante ist also diese: Dorys eigene Modellkarte behauptet ungefähr agentisches Verhalten der Qwen3.5-9B-Klasse bei vier Schleifen, liegt aber auf wissensintensiven Benchmarks hinter jedem ihrer eigenen Vergleichsmodelle zurück, und die Modellkarte von G​emma 4 12B behauptet ein multimodales Profil mit einem 256K-Fenster und instruktionsoptimierten Varianten über die gesamte G​emma-4-Linie hinweg. Ob eine der beiden Behauptungen den Kontakt mit dem Aufgabensatz der jeweils anderen übersteht, ist ungetestet.

Wo sie sich tatsächlich überschneiden, und wo die Überschneidung endet

Vier Dimensionen sind für eine echte Entscheidung relevant, und sie weisen in unterschiedliche Richtungen.

• Modalität — Gemma 4 12B verarbeitet Text, Bilder und Audio. Dory 1.0 4B verarbeitet Text. Das ist keine Benchmark-Lücke, die ein Harness schließen könnte; es ist eine Fähigkeit, die ein Modell hat und das andere nicht, und wenn Ihre Arbeitslast irgendwo einen Screenshot, eine gescannte Seite oder einen Sprachclip enthält, ist der Vergleich vorbei.

• Sprache — Dory ist nur englischsprachig. Gemma 4s Produktlinie ist mehrsprachig, und deren 12B-Karte enthält mehrsprachige Evaluierungs- und Sprachresultate, einschließlich nicht-englischer Übersetzungs-Benchmarks. Eine zweite Sprache irgendwo im Produktivbetrieb schließt Dory aus.

• Kontext — beide werben mit 256K, und dies ist der einzige Punkt, an dem die Spezifikationen wirklich übereinstimmen. Dorys Modellkarte besagt, dass 262.144 Positionen in vLLM unter dem ausgelieferten Startbefehl validiert werden; Gemma 4 12B gibt 256K mit einem 1024-Token-Sliding-Window innerhalb eines hybriden Attention-Stacks an. Für Gemma gibt es eine veröffentlichte Long-Context-Evaluation; für Dory ist die einzige Long-Context-Zeile NVIDIAs eigene, gemessen mit korrigierten Antwortschlüsseln und einem älteren Judge-Modell, was die Modellkarte offenlegt.

• Rechenverhalten — das ist Dorys asymmetrischer Vorteil, und er hat nichts mit Qualität zu tun. G​emma 4 12B ist ein konventionelles dichtes Modell: feste Tiefe, feste Kosten pro Token; skalieren Sie die Hardware oder verkürzen Sie den Kontext, um die Rechnung zu ändern. Dorys Tiefe ist ein Laufzeitparameter. Betreiben Sie es mit einer Schleife, wenn Latenz der limitierende Faktor ist, und mit vier, wenn Genauigkeit es ist, ohne einen zweiten Checkpoint herunterzuladen. N​VIDIA liefert außerdem einen KV-Caching-Modus für die letzte Schleife, der den Cache-Fußabdruck unabhängig von der Schleifenanzahl ungefähr auf der Größe einer einzelnen Schleife halten soll, was – wenn es sich bewährt – den üblichen Einwand gegen rekurrente Architekturen ausräumt. Es ist die Behauptung in der Karte, die eine unabhängige Überprüfung am meisten verdient.

• Lizenz — OpenMDW 1.1 für Dory, Apache 2.0 für Gemma 4 12B. Beide erlauben die kommerzielle Nutzung. Wenn Ihre juristische Prüfung Apache 2.0 als den Weg des geringsten Widerstands betrachtet, startet Gemma mit einem Vorteil, der nichts mit den Gewichten zu tun hat.

Sie ausführen: Das eine ist Routine, das andere ist ein Build

Gemma 4 12B ist ein Standard-Download in der Form der Llama-Familie. Es liegt im Transformers-Format vor, läuft auf den Engines, die Sie bereits haben, und die quantisierten Builds – die QAT-GGUF- und w4a16-Varianten – sind seit kurz nach dem Modell selbst öffentlich.

Dory 1.0 4B ist noch nicht so weit, und die Model Card sagt das unverblümt. Die vLLM-Unterstützung steht in einem offenen Pull Request auf „Under Review“; bis er gemergt wird, installiert man vLLM aus diesem Branch mit dem Precompiled-Kernel-Flag und übergibt dann zur Serve-Zeit Overrides für Loop-Count und KV-Cache. Die llama.cpp-Unterstützung steckt in einem zweiten offenen Pull Request, und NVIDIA pinnt einen bestimmten Commit statt des beweglichen Heads, was für ein Referenz-Setup die richtige Entscheidung ist, aber trotzdem bedeutet, dass man aus dem Quellcode bauen muss. Es gibt keinen gehosteten Endpunkt für Dory, den wir verifizieren können – weder von NVIDIA noch von irgendjemand anderem –, und die Download-Zähler aller vier seiner Repositories standen noch auf null, als dies geschrieben wurde. Gemma 4 12B hingegen wurde im letzten Monat weit über eine Million Mal heruntergeladen und hat ein Ökosystem aus Finetunes und Quantisierungen, das darauf aufbaut. Diese Reifelücke ist für die meisten Teams größer als jedes Benchmark-Delta auf einer der beiden Model Cards.

Hardware-Details sind auf beiden Seiten dünn. NVIDIAs einzige veröffentlichte Dory-Geschwindigkeitszahlen sind Quantisierungsbeschleunigungen auf einem DGX Spark – 1,69× und 1,84× für MXFP8 gegenüber BF16, je nach Eingabe-/Ausgabe-Mix, 2,17× und 2,44× für NVFP4 –, keine Durchsatzwerte. Für Gemma 4 12B lässt sich die entsprechende Frage – VRAM bei einer gegebenen Kontextlänge – aus einem Jahr Community-Messungen beantworten statt von der Grafikkarte.

Wo ein Router ins Spiel kommt, ehrlich gesagt

Keines dieser Modelle ist eines, das wir anbieten, und das offen zu sagen ist nützlicher, als etwas anderes nahezulegen. NVIDIA Nemotron Labs Dory 1.0 4B ist nicht im OrcaRouter-Katalog und hat nirgendwo einen gehosteten Endpunkt; insbesondere Gemma 4 12B ist ebenfalls nicht im Katalog, obwohl seine größeren Geschwister google/gemma-4-26b-a4b-it und google/gemma-4-31b-it sind.

Was bleibt, ist die praktische Gestalt der Entscheidung. Wenn Sie zwischen einem 4B, den Sie selbst hosten müssen, und einem 12B, den Sie mieten können, wählen, trägt die selbst gehostete Seite eine GPU-Rechnung und einen Betriebsaufwand, den die gemietete Seite nicht hat, und die einzige Möglichkeit, das ehrlich zu beziffern, besteht darin, beide gegen Ihren eigenen Aufgabensatz laufen zu lassen. OrcaRouter ist nützlich für die Hälfte dieses Experiments, die gehostet wird: ein API-Schlüssel erreicht die Open-Weight-Google-Modelle, die wir tatsächlich anbieten, zum Listenpreis des Anbieters mit 0 % Aufschlag, sodass der Vergleich keinen zweiten Vertrag oder ein zweites SDK erfordert. Automatisches Failover deckt das Zeitfenster ab, in dem Ihr eigener GPU-Pool mitten im Benchmark ausgelastet ist, und die Routing-DSL ermöglicht es, einen selbst gehosteten Aufruf und einen gehosteten Aufruf hinter einem einzigen Endpunkt zu platzieren, sodass ein Seitenwechsel eine Konfigurationsänderung statt eines Rewrites ist. Nichts davon sagt Ihnen, welches Modell gewinnt. Es nimmt die Ausrede, es nicht herauszufinden.

Also welche

Wenn Ihre Aufgabe reiner Text, ausschließlich Englisch und Langkontext ist und sie insbesondere agentisch ist – Tool-Aufrufe, mehrstufige Workflows, strukturierte Ausgabe –, dann ist Dory 1.0 4B die interessantere Wette und diejenige, deren Architektur Ihnen etwas bietet, das das 12B-Modell nicht bieten kann: einen Compute-Regler. Gehen Sie diese Wette mit offenen Augen ein – in Anbetracht der Reifegradlücke, der zwei nicht gemergten Pull-Requests, des völligen Fehlens unabhängiger Evaluierung und der Tatsache, dass ihre eigene Model Card es bei GPQA und HLE hinter jedem Vergleichsmodell einordnet.

Wenn Ihre Aufgabe ein Bild, einen Ton, eine zweite Sprache oder eine Produktionsfrist innerhalb des nächsten Monats umfasst, ist Gemma 4 12B die Antwort – und der Vergleich war nie knapp. Es ist ein größeres, teureres und leistungsfähigeres Modell mit einem Ökosystem dahinter und ohne Build-Schritt davor.

Was man im Auge behalten muss, ist nicht eine Benchmark-Zahl — sondern ob die Pull-Requests von vLLM und llama.cpp gemergt werden. An dem Tag, an dem Dory aus einem veröffentlichten Binary statt aus einem Branch lädt, hört die Selbsthosting-Seite dieses Vergleichs auf, ein Projekt zu sein, und wird zu einer Konfigurationsänderung. Bis dahin lautet das ehrliche Urteil, dass eines dieser Modelle ein Produkt ist und das andere ein Repository, das über Nacht aufgetaucht ist, und welches man will, hängt ganz davon ab, ob man ausliefert oder testet.

Nichts davon ist hypothetisch: Die dokumentierten KI-Ausfälle und Agent-Vorfälle, die hinter Releases wie diesem stehen, finden sich im OrcaRouter AI Incident Archive, wo jeder Eintrag seine eigenen Quellen, seinen Schweregrad, seinen Konfidenzgrad und sein Umstritten-Flag führt.