NVIDIA Nemotron Labs Dory 1.0 4B vs Gemma 4 12B: Drie keer zoveel parameters, geen van beide dezelfde taak

De voor de hand liggende manier om een vergelijking tussen N​VIDIA N​emotron Labs Dory 1.0 4B en G​emma 4 12B te lezen, is als een strijd over formaat — 4B tegen 12B, klein tegen middelgroot — en die framing doet de vergelijking tekort, omdat de twee modellen niet dezelfde inputs accepteren, niet dezelfde licentiehouding hebben en niet op dezelfde manier sneller worden. Dory is een uitsluitend tekstueel, uitsluitend Engelstalig netwerk met lussen waarvan het bepalende kenmerk is dat één download meerdere rekenbudgetten bedient. G​emma 4 12B is een multimodaal any-to-any-model dat tekst, afbeeldingen en audio via één encoderloze stack opneemt en tekst teruggeeft. Het parameterverschil is reëel, maar het is het minst informatieve verschil tussen beide. Dit is wat de twee werkelijk onderscheidt, inclusief de onderdelen waar nog niemand het experiment heeft uitgevoerd.

Wat elk ervan is, in één doorgang

N​VIDIA N​emotron Labs Dory 1.0 4B is een 4B dense model dat is getraind door N​VIDIA en op Hugging Face is gepubliceerd in vier kwantisaties — BF16, MXFP8, NVFP4 en een Q5_K_M GGUF — onder de OpenMDW 1.1-licentie. Op de modelkaart staat de build "GA (10/16/2026)". Het verwerkt tekst in en tekst uit, alleen Engels, met een context van maximaal 256K tokens. De architectuur is het belangrijkste: een recurrent blok van 20 lagen dat een variabel aantal keren wordt toegepast tussen een invoerblok van 8 lagen en een uitvoerblok van 8 lagen, zodat het aantal lussen een knop tijdens het serveren wordt in plaats van een beslissing tijdens de training. N​VIDIA raadt twee lussen aan als standaard en vier wanneer agentische nauwkeurigheid belangrijker is. Over de release is niets aangekondigd; de repositories zijn in één nacht gevuld en de leverancier heeft geen begeleidend bericht gepubliceerd.

Gemma 4 12B is het 11,95B dense multimodale model van Google DeepMind, Apache 2.0, 256K-context, 48 lagen met hybride attention en een schuifvenster van 1024 tokens, en een vocabulaire van 262K. Het wordt beschreven als encoder-vrij: beeldpatches en audiogolfvormen worden rechtstreeks in de embeddingruimte van het taalmodel geprojecteerd in plaats van via afzonderlijke visie- en audio-encoders. Tekst, afbeelding en audio in; tekst uit. Video wordt verwerkt als bemonsterde frames, waarbij de kaart audio begrenst tot ongeveer 30 seconden en video tot ongeveer 60 seconden bij ongeveer één frame per seconde. Het ondersteunt configureerbare denkmodi en een native systeemrol, en het is sinds medio 2026 openbaar en op grote schaal gedownload.

Eén verduidelijking is het waard om te maken voordat er ook maar een getal verschijnt: Dory wordt geleverd in vier varianten, en degene waarvan het repository-id het vaakst wordt genoemd is de MXFP8-build, maar de benchmarks die NVIDIA publiceerde zijn gemeten op BF16. Het MXFP8-checkpoint is een kwantisatie van dezelfde gewichten, niet een ander model.

Het benchmarkprobleem: deze twee zijn nooit tegen elkaar getest

Dit is het deel waar een vergelijkingsartikel meestal overheen stapt, dus het is de moeite waard om het ronduit te zeggen. Er is geen gedeeld harness-resultaat voor Dory 1.0 4B en G​emma 4 12B. De benchmarktabel van N​VIDIA voor Dory vergelijkt het met Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B en Qwen3.6-35B-A3B — de tabel kiest voor de 26B G​emma, niet de 12B, en de 12B staat er helemaal niet in. De gepubliceerde cijfers van G​oogle voor de 12B komen uit een andere harness, tegen een andere vergelijkingsset, in een document dat maanden eerder is gepubliceerd en een andere takenmix bestrijkt.

Als je de cijfers van de twee kaarten naast elkaar zet, krijg je een tabel die gezaghebbend lijkt en niets betekent, want een verschil van twee punten tussen twee harnesses is geen verschil van twee punten tussen twee modellen. De eerlijke versie is dus deze: Dory's eigen kaart claimt ruwweg agentisch gedrag van Qwen3.5-9B-klasse bij vier loops, terwijl die achterblijft bij elk van zijn eigen vergelijkingspunten op kennisintensieve benchmarks, en de kaart van G​emma 4 12B claimt een multimodaal profiel met een 256K-venster en instruction-tuned varianten in de hele G​emma 4-lijn. Of een van beide claims contact met de taakset van de ander overleeft, is niet getest.

Waar ze echt overlappen, en waar de overlap eindigt.

Vier dimensies doen ertoe voor een echte beslissing, en ze wijzen in verschillende richtingen.

• Modaliteit — G​emma 4 12B verwerkt tekst, afbeeldingen en audio. Dory 1.0 4B verwerkt tekst. Dit is geen kloof in benchmarks die een harness zou kunnen dichten; het is een capaciteit die het ene model wel heeft en het andere niet, en als je workload ergens een screenshot, een gescande pagina of een audioclip bevat, is de vergelijking voorbij.

• Taal — Dory is alleen Engels. De lijn van Gemma 4 is meertalig, en de 12B-kaart bevat meertalige evaluatie- en spraakresultaten, inclusief vertaalbenchmarks voor niet-Engelse talen. Eén tweede taal ergens in productie sluit Dory uit.

• Context — beide adverteren met 256K, en dit is de enige plek waar de specificaties echt overeenkomen. Dory's kaart zegt dat 262.144 posities gevalideerd zijn in vLLM onder het meegeleverde launch-commando; G​emma 4 12B vermeldt 256K met een sliding window van 1024 tokens binnen een hybride attention-stack. Gepubliceerde long-context-evaluatie bestaat voor G​emma; voor Dory is de enige long-contextrij die van N​VIDIA zelf, gemeten met gecorrigeerde antwoordsleutels en een ouder judge-model, wat de kaart vermeldt.

• Rekengedrag — dit is Dory's asymmetrische voordeel en het heeft niets met kwaliteit te maken. G​emma 4 12B is een conventioneel dense model: vaste diepte, vaste kosten per token, schaal de hardware op of verkort de context om de rekening te veranderen. Dory's diepte is een runtimeparameter. Draai het met één lus wanneer latentie de beperkende factor is en met vier wanneer nauwkeurigheid dat is, zonder een tweede checkpoint te downloaden. N​VIDIA levert ook een last-loop-KV-cachingmodus die bedoeld is om de cachevoetafdruk ongeveer op de grootte van één lus te houden, ongeacht het aantal lussen, wat — als het standhoudt — het standaardbezwaar tegen recurrente architecturen wegneemt. Het is de bewering in de kaart die het meest een onafhankelijke controle verdient.

• Licentie — OpenMDW 1.1 voor Dory, Apache 2.0 voor G​emma 4 12B. Beide staan commercieel gebruik toe. Als je juridische beoordeling Apache 2.0 als de weg van de minste weerstand beschouwt, begint G​emma met een voordeel dat niets met de gewichten te maken heeft.

Ze uitvoeren: de ene is routine, de andere is een build

Gemma 4 12B is een standaarddownload in de vorm van de Llama-familie. Het is in Transformers-formaat, het draait op de engines die je al hebt, en de gekwantiseerde builds — de QAT GGUF- en w4a16-varianten — zijn al openbaar sinds kort na het model zelf.

Dory 1.0 4B is er nog niet en de modelkaart zegt dat ronduit. vLLM-ondersteuning staat "in beoordeling" in een open pull request; totdat die wordt samengevoegd, installeer je vLLM vanaf die branch met de precompiled-kernel-flag en geef je daarna bij het serveren overschrijvingen voor loop-count en KV-cache mee. llama.cpp-ondersteuning zit in een tweede open pull request, en N​VIDIA pint een specifieke commit vast in plaats van de meebewegende head, wat de juiste keuze is voor een referentieopstelling, maar nog steeds betekent dat je vanaf de broncode moet bouwen. Er is nergens waar wij het kunnen verifiëren een gehost endpoint voor Dory — niet van N​VIDIA en niet van wie dan ook — en de downloadtellers op alle vier de repositories stonden op het moment dat dit werd geschreven nog op nul. G​emma 4 12B daarentegen is de afgelopen maand ruim een miljoen keer opgehaald en heeft een ecosysteem van finetunes en quantisaties die erop zijn gebouwd. Dat verschil in volwassenheid is voor de meeste teams groter dan welk benchmarkverschil dan ook op een van beide kaarten.

Hardwarespecificaties zijn schaars aan beide kanten. De enige gepubliceerde Dory-snelheidscijfers van NVIDIA zijn kwantisatieversnellingen op een DGX Spark — 1,69× en 1,84× voor MXFP8 ten opzichte van BF16, afhankelijk van de input/output-mix, 2,17× en 2,44× voor NVFP4 — geen doorvoercijfers. Voor Gemma 4 12B is de overeenkomstige vraag, VRAM bij een gegeven contextlengte, te beantwoorden op basis van een jaar aan communitymetingen in plaats van op basis van de kaart.

Waar een router in het spel komt, eerlijk gezegd

Geen van deze modellen wordt door ons aangeboden, en dat zeggen is nuttiger dan de indruk te wekken dat het wel zo is. N​VIDIA N​emotron Labs Dory 1.0 4B staat niet in de OrcaRouter-catalogus en heeft nergens een gehoste endpoint; G​emma 4 12B staat specifiek ook niet in de catalogus, hoewel zijn grotere broers en zussen google/gemma-4-26b-a4b-it en google/gemma-4-31b-it wel in de catalogus staan.

Wat overblijft is de praktische vorm van de beslissing. Als je kiest tussen een 4B die je zelf moet hosten en een 12B die je kunt huren, dan draagt de zelf-gehoste kant een GPU-rekening en een beheerlast die de gehuurde kant niet heeft, en de enige manier om dat eerlijk te prijzen is beide te draaien op je eigen takenreeks. OrcaRouter is nuttig voor de helft van dat experiment die gehost is: met één API-sleutel bereik je de open-weight Google-modellen die wij wél aanbieden, tegen de listprijs van de provider met 0% markup, dus de vergelijking vereist geen tweede contract of tweede SDK. Automatische failover dekt het venster waarin je eigen GPU-pool verzadigd raakt midden in een benchmark, en de routing-DSL laat een zelf-gehoste aanroep en een gehoste aanroep achter één endpoint zitten, zodat van kant wisselen een configuratiewijziging is in plaats van een herschrijving. Niets daarvan vertelt je welk model wint. Het haalt het excuus weg om er niet achter te komen.

Dus welke

Als je taak alleen tekst, alleen Engels en een lange context betreft, en vooral als die agentisch is — tool-aanroepen, workflows met meerdere stappen, gestructureerde output — dan is Dory 1.0 4B de interessantere gok en degene wiens architectuur je iets biedt dat de 12B niet kan bieden: een compute-dial. Neem de gok met je ogen open wat betreft de volwassenheidskloof, de twee niet-samengevoegde pull requests, de volledige afwezigheid van onafhankelijke evaluatie, en het feit dat de eigen kaart het achter elke comparator op GPQA en HLE plaatst.

Als je taak betrekking heeft op een afbeelding, een geluid, een tweede taal of een productiedeadline binnen de komende maand, dan is Gemma 4 12B het antwoord en kwam de vergelijking nooit in de buurt. Het is een groter, duurder, capabeler model met een ecosysteem erachter en geen buildstap ervoor.

Het punt om in de gaten te houden is niet een benchmarkgetal — het is of de pull requests van vLLM en llama.cpp worden gemerged. Op de dag dat Dory vanuit een vrijgegeven binary laadt in plaats van vanuit een branch, houdt de selfhostingkant van deze vergelijking op een project te zijn en wordt het een configuratiewijziging. Tot die tijd is het eerlijke oordeel dat een van deze modellen een product is en het andere een repository die van de ene op de andere dag is verschenen, en welke je wilt, hangt volledig af van of je aan het shippen of aan het testen bent.

Niets daarvan is hypothetisch: de gedocumenteerde AI-fouten en agent-incidenten achter releases zoals deze zijn verzameld in the OrcaRouter AI Incident Archive, waar elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en markering voor betwisting bevat.