NVIDIA Nemotron Labs Dory 1.0 4B vs Gemma 4 12B: Tre gånger så många parametrar – inte alls samma uppgift

Det uppenbara sättet att läsa en jämförelse mellan N​VIDIA N​emotron Labs Dory 1.0 4B och G​emma 4 12B är som en storlekskamp — 4B mot 12B, liten mot mellanklass — och den inramningen gör jämförelsen värdelös, eftersom de två modellerna inte tar emot samma indata, inte har samma licenshållning och inte blir snabbare på samma sätt. Dory är ett textbaserat, engelskspråkigt, loopat nätverk vars utmärkande drag är att en enda nedladdning räcker för flera beräkningsbudgetar. G​emma 4 12B är en multimodal any-to-any-modell som tar text, bilder och ljud genom en enda enkoderfri stack och returnerar text. Parametergapet är verkligt, men det är den minst informativa skillnaden mellan dem. Här är vad som faktiskt skiljer de två åt, inklusive de delar där ingen ännu har kört experimentet.

Vad var och en är, i ett svep

N​VIDIA N​emotron Labs Dory 1.0 4B är en 4B dense-modell som tränats av N​VIDIA och publicerats på Hugging Face i fyra kvantiseringar – BF16, MXFP8, NVFP4 och en Q5_K_M GGUF – under OpenMDW 1.1-licensen. Dess modellkort anger bygget som "GA (10/16/2026)". Den hanterar text in och text ut, endast engelska, med en kontext på upp till 256K tokens. Arkitekturen är poängen: ett återkommande block med 20 lager som tillämpas ett variabelt antal gånger mellan ett indatablock med 8 lager och ett utdatablock med 8 lager, så att antalet loopar blir en ratt under serving snarare än ett beslut under träningen. N​VIDIA rekommenderar två loopar som standard och fyra när agentisk noggrannhet spelar större roll. Inget om lanseringen meddelades; repositorierna fylldes över en natt och leverantören har inte publicerat något åtföljande inlägg.

Gemma 4 12B är Google DeepMinds 11,95B täta multimodala modell, Apache 2.0, 256K kontext, 48 lager med hybriduppmärksamhet och ett glidande fönster på 1024 token, och en vokabulär på 262K. Den beskrivs som encoderfri: bildpatchar och ljudvågformer projiceras direkt in i språkmodellens inbäddningsutrymme i stället för genom separata visions- och ljudencodrar. Text, bild och ljud in; text ut. Video hanteras som samplade bildrutor, där modellkortet begränsar ljud till cirka 30 sekunder och video till cirka 60 sekunder vid ungefär en bildruta per sekund. Den stöder konfigurerbara tankelägen och en inbyggd systemroll, och den har varit offentlig och laddats ner i stor utsträckning sedan mitten av 2026.

Ett förtydligande är värt att göra innan några siffror dyker upp: Dory finns i fyra varianter, och den vars repository-id oftast citeras är MXFP8-bygget, men de benchmarks som NVIDIA publicerade mättes på BF16. MXFP8-checkpointen är en kvantisering av samma vikter, inte en annan modell.

Benchmark-problemet: dessa två har aldrig körts mot varandra

Det här är delen som en jämförelseartikel vanligtvis slätar över, så det är värt att säga rakt ut. Det finns inget gemensamt testramverksresultat för Dory 1.0 4B och G​emma 4 12B. N​VIDIAs benchmarktabell för Dory jämför den med Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B och Qwen3.6-35B-A3B – den väljer 26B G​emma, inte 12B, och den inkluderar inte 12B alls. G​oogles publicerade siffror för 12B kommer från ett annat testramverk, mot en annan jämförelseuppsättning, i ett dokument som publicerades månader tidigare och täcker en annan uppgiftsmix.

Att ställa de två kortenas siffror sida vid sida ger en tabell som ser auktoritativ ut och inte betyder något, eftersom en tvåpunktsskillnad mellan två testramverk inte är en tvåpunktsskillnad mellan två modeller. Så den ärliga versionen är denna: Dorys eget kort hävdar ungefär Qwen3.5-9B-klassigt agentbeteende vid fyra loopar medan det ligger efter alla sina egna jämförelseobjekt på kunskapsintensiva riktmärken, och G​emma 4 12B:s kort hävdar en multimodal profil med ett 256K-fönster och instruktionsjusterade varianter över G​emma 4-linjen. Huruvida något av påståendena överlever kontakt med den andras uppsättning uppgifter är otestat.

Där de verkligen överlappar, och där överlappningen slutar

Fyra dimensioner spelar roll för ett verkligt beslut, och de pekar i olika riktningar.

• Modalitet — G​emma 4 12B tar text, bilder och ljud. Dory 1.0 4B tar text. Detta är inte ett prestandagap som en testrigg kan överbrygga; det är en förmåga som den ena modellen har och den andra inte har, och om din arbetsbelastning har en skärmbild, en skannad sida eller ett röstklipp någonstans i sig, är jämförelsen över.

• Språk — Dory är endast engelskspråkig. G​emma 4:s linje är flerspråkig, och dess 12B-kort innehåller flerspråkiga utvärderings- och talresultat, inklusive översättningsbenchmarks för andra språk än engelska. Ett andra språk någonstans i produktion utesluter Dory.

• Kontext — båda uppger 256K, och detta är den enda platsen där specifikationerna verkligen stämmer överens. Dorys kort säger att 262 144 positioner är validerade i vLLM under det medföljande startkommandot; Gemma 4 12B anger 256K med ett glidande fönster på 1 024 token i en hybrid uppmärksamhetsstack. Det finns publicerad långkontextutvärdering för Gemma; för Dory är den enda långkontextraden NVIDIAs egen, mätt med korrigerade svarsnycklar och en äldre bedömarmodell, vilket kortet redogör för.

• Beräkningsbeteende – detta är Dorys asymmetriska fördel och har inget med kvalitet att göra. G​emma 4 12B är en konventionell dense modell: fast djup, fast kostnad per token, skala upp hårdvaran eller förkorta kontexten för att ändra kostnaden. Dorys djup är en körtidsparameter. Kör den med en loop när latens är begränsningen och med fyra när noggrannhet är det, utan att ladda ner en andra checkpoint. N​VIDIA levererar också ett KV-cachningsläge för sista loopen som är avsett att hålla cacheutrymmet på ungefär samma storlek som vid en loop oavsett antal loopar, vilket – om det håller – undanröjer den vanliga invändningen mot rekurrenta arkitekturer. Det är påståendet i modellkortet som är mest värt en oberoende kontroll.

• Licens — OpenMDW 1.1 för Dory, Apache 2.0 för G​emma 4 12B. Båda tillåter kommersiell användning. Om din juridiska granskning ser Apache 2.0 som minsta motståndets väg, börjar G​emma med en fördel som inte har något att göra med vikterna.

Att köra dem: den ena är rutin, den andra är en build.

G​emma 4 12B är en standardnedladdning formad som L​lama-familjen. Den är i Transformers-format, körs på de motorer du redan har, och de kvantiserade byggena – QAT GGUF- och w4a16-varianterna – har varit offentliga sedan strax efter modellen själv.

Dory 1.0 4B är inte där än, och kortet säger det rakt ut. vLLM-stödet ligger "under granskning" i en öppen pull request; tills den mergas installerar du vLLM från den grenen med flaggan för förkompilerad kärna och skickar sedan in overrides för loop-count och KV-cache vid serve-tillfället. llama.cpp-stödet finns i en andra öppen pull request, och NVIDIA pinnar en specifik commit i stället för den rörliga headen, vilket är rätt beslut för en referensuppsättning men fortfarande innebär att bygga från källkod. Det finns ingen hostad endpoint för Dory någonstans där vi kan verifiera det — varken från NVIDIA eller från någon annan — och nedladdningsräknarna på alla fyra av dess repositorier stod fortfarande på noll när detta skrevs. Gemma 4 12B har däremot laddats ner långt över en miljon gånger den senaste månaden och har ett ekosystem av finetunes och kvantiseringar byggt på sig. Det mognadsgapet är, för de flesta team, större än någon benchmark-skillnad på endera kortet.

Hårdvarudetaljerna är knappa på båda sidor. N​VIDIAs enda publicerade hastighetssiffror för Dory är kvantiseringsuppsnabbningar på en DGX Spark – 1,69× och 1,84× för MXFP8 jämfört med BF16 beroende på mixen av indata och utdata, 2,17× och 2,44× för NVFP4 – inte genomströmningstal. För G​emma 4 12B kan den motsvarande frågan, VRAM vid en given kontextlängd, besvaras utifrån ett års mätningar från communityn snarare än från kortet.

Där en router kommer in i bilden, ärligt talat

Ingen av dessa modeller är något vi servar, och att säga det är mer användbart än att antyda något annat. NVIDIA Nemotron Labs Dory 1.0 4B finns inte i OrcaRouter-katalogen och har ingen hostad slutpunkt någonstans; när det gäller just Gemma 4 12B finns den inte heller i katalogen, även om dess större syskonmodeller google/gemma-4-26b-a4b-it och google/gemma-4-31b-it är.

Det som återstår är beslutets praktiska form. Om du väljer mellan en 4B som du måste driva själv och en 12B som du kan hyra, drar den självhostade sidan med sig en GPU-kostnad och en driftbörda som den hyrda sidan inte har, och det enda sättet att prissätta det ärligt är att köra båda mot din egen uppgiftsuppsättning. OrcaRouter är användbart för den halva av experimentet som är hostad: en API-nyckel når Googles öppenviktsmodeller som vi faktiskt erbjuder, till leverantörens listpris med 0 % påslag, så jämförelsen kräver inte ett andra kontrakt eller ett andra SDK. Automatisk failover täcker fönstret där din egen GPU-pool är mättad mitt under benchmarken, och routnings-DSL:et låter ett självhostat anrop och ett hostat ligga bakom en enda slutpunkt, så att byta sida är en konfigurationsändring snarare än en omskrivning. Inget av det säger dig vilken modell som vinner. Det tar bort ursäkten för att inte ta reda på det.

Så vilken

Om din uppgift är enbart text, enbart engelska och lång kontext, och särskilt om den är agentisk – verktygsanrop, flerstegsarbetsflöden, strukturerad utdata – är Dory 1.0 4B den mer intressanta satsningen och den vars arkitektur ger dig något som 12B inte kan erbjuda: ett reglage för beräkningskraft. Gör satsningen med öppna ögon inför mognadsklyftan, de två ej sammanslagna pull requests, den totala avsaknaden av oberoende utvärdering och det faktum att dess eget kort placerar den bakom alla jämförelsealternativ på GPQA och HLE.

Om din uppgift involverar en bild, ett ljud, ett andra språk eller en produktionsdeadline inom den kommande månaden, är Gemma 4 12B svaret och jämförelsen var aldrig jämn. Det är en större, dyrare och mer kapabel modell med ett ekosystem bakom sig och inget byggsteg framför sig.

Det man ska hålla koll på är inte en benchmark-siffra — det är huruvida vLLM:s och llama.cpp:s pull requests mergas. Dagen då Dory läser in från en släppt binärfil i stället för en branch upphör self-hosting-delen av den här jämförelsen att vara ett projekt och blir i stället en konfigurationsändring. Fram till dess är det ärliga omdömet att en av dessa modeller är en produkt och den andra är ett repo som dök upp över en natt, och vilken av dem du vill ha beror helt och hållet på om du skeppar eller testar.

Inget av detta är hypotetiskt: de dokumenterade AI-felen och agentincidenterna bakom släpp som detta samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, tillförlitlighetsgrad och omtvistad flagga.