NVIDIA Nemotron Labs Dory 1.0 4B vs Qwen 3.8: 4B-modellen med öppna vikter mot Alibabas tredelade linje

Att jämföra N​VIDIA N​emotron Labs Dory 1.0 4B med "Qwen 3.8" är inte en matchning – det är en missmatchning på ett specifikt och lärorikt sätt. Qwen 3.8 är inte en enda modell; i den öppna viktklassen är det Qwen3.8-27B, en 27B tät multimodell under Apache 2.0 med ett 256K-fönster, och ovanför det finns Qwen3.8-Flash och Qwen3.8-Max, båda större, båda tillhandahålls endast via A​libabas API. Dory är en enda 4B-checkpoint från N​VIDIA, endast för text och endast för engelska, publicerad till Hugging Face i fyra kvantiseringar under OpenMDW 1.1-licensen med sitt kort stämplat "GA (10/16/2026)" och inget tillkännagivande bakom det. Så den verkliga frågan är inte huruvida en 4B kan slå en 27B. Det är huruvida en 4B med elastiskt djup som du själv hostar är ett billigare sätt att nå den uppgiftsnivå som du annars skulle hyra från Qwen3.8-serien – och de två mest beslutsrelevanta fakta är att Qwen3.8-27B har öppna vikter, så båda modellerna körs på din hårdvara, och att Dorys eget kort inte innehåller några benchmarks mot någon Qwen3.8-modell alls.

Vad är det egentligen som jämförs?

Börja med Qwen-sidan, eftersom "Qwen 3.8" slår samman tre olika påståenden.

Qwen3.8-27B är Alibabas täta vision-språkmodell med öppna vikter, Apache 2.0, 27B parametrar, 64 lager, 5 120 dold dimension, med en inbyggd kontext på 262 144 token som modellkortet säger är utbyggbar mot en miljon. Den tar emot text, bilder och video och returnerar text, använder en hybridlayout med Gated DeltaNet och Gated Attention över 16 upprepade block, och levereras i Transformers-format med stöd för vLLM, SGLang och TokenSpeed. Den rapporterar 90,3 på LiveCodeBench v6, 89,2 på GPQA Diamond, 79,5 på IFBench och 73,0 på Terminal-Bench 2.1, bland en lång lista av agentiska och visuella resultat. Den har varit offentlig sedan mitten av augusti 2026 och har hämtats flera miljoner gånger.

Qwen3.8-Flash och Qwen3.8-Max är de hostade nivåerna. Flash är den kostnadsoptimerade multimodala modellen med en kontext på en miljon tokens; Max är Alibabas flaggskepp, också en miljon tokens, positionerad mot de starkaste proprietära modellerna. Ingen av dem har öppna vikter. Du når dem via ett API.

NVIDIA Nemotron Labs Dory 1.0 4B är 4B. Tät, loopad, latent återkommande — ett indatablock med 8 lager, ett återkommande block med 20 lager som tillämpas ett variabelt antal gånger, ett utdatablock med 8 lager — med hybridinterfolierad glidfönster- och full uppmärksamhet. Text in, text ut, endast engelska, 256K kontext. Förtränad på 6 biljoner token, varav de första ~4,5 biljoner nativt i NVFP4, plus en kontextförlängning på 300 miljarder token, sedan SFT och GRPO i flera miljöer. Det finns ingen hostad slutpunkt för den som vi kan verifiera.

En sak att få rätt, eftersom den ställer till det för folk: NVIDIA levererar Dory i BF16, MXFP8, NVFP4 och Q5_K_M GGUF. Det kanoniska repository-id:t är MXFP8-varianten, men benchmarkresultaten på modellkortet mättes på BF16. MXFP8 är en kvantisering av samma vikter, inte en annan modell.

Spec-kontrast

• Parametrar — Dory 1.0 4B är 4B dense, med ett återkommande block som appliceras upprepade gånger så att den effektiva beräkningen per token vid fyra loopar överstiger parameterantalet. Qwen3.8-27B är 27B dense med ett visionstorn. De tillhör inte samma viktklass och endast en av dem ryms i en driftsättning med litet minne.

• Modalitet – Qwen3.8-27B tar emot bilder och video såväl som text. Dory tar emot text. Alla arbetsbelastningar som innehåller en bild slutar här.

• Kontext – båda annonserar 256K. Qwen3.8-27B:s modellkort säger inbyggda 262 144 positioner som kan utökas till ungefär en miljon; Dorys säger upp till 256K med 262 144 validerade i vLLM under det medföljande startkommandot. Qwen3.8-Flash och Max når båda en miljon tokens direkt.

• Licens — Apache 2.0 för Qwen3.8-27B, OpenMDW 1.1 för Dory. Båda är kommersiellt vänliga; Apache 2.0 är den mer välbekanta texten.

• Språk — Qwen3.8-27B är flerspråkig till sin härkomst; Dory är endast engelskspråkig med 43 programmeringsspråk i sin förträningsblandning.

Beräkningsbeteende – detta är den enda raden där Dory har något som Qwen3.8-27B strukturellt sett inte kan erbjuda. Dorys djup är en parameter vid serving-tillfället: en loop för latens, två som NVIDIAs rekommenderade standard, fyra när agentisk noggrannhet är viktigare, allt från en och samma checkpoint, med ett KV-cachningsläge för sista loopen som är avsett att hålla cacheminnet på ungefär samma storlek som vid en loop oavsett antal loopar. Qwen3.8-27B har fast djup; dess hävstänger är kvantisering och hårdvara.

• Format – Dory levererar fyra kvantiseringar, inklusive en GGUF för llama.cpp. Qwen3.8-27B har ett separat FP8-repo och ett mycket stort derivat-ekosystem av kvantiseringar och finjusteringar, vilket är vad flera miljoner nedladdningar ger dig.

Benchmarkfrågan som NVIDIAs egen tabell undviker

Här är den obekväma detaljen. NVIDIAs benchmarktabell för Dory jämför den mot Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B och Qwen3.6-35B-A3B. Den använder de två tidigare Qwen-generationerna och tar aldrig till Qwen3.8. Det är ett försvarbart val för en 4B — Qwen3.8-27B är nästan sju gånger så stor — men det innebär att tillverkaren inte alls har någon publicerad direkt jämförelse mot den nuvarande Qwen-generationen, åt något håll. Alibabas Qwen3.8-27B-kort mäter sig i sin tur mot den proprietära frontlinjen, inte mot en 4B.

Det som Dorys kort faktiskt publicerar, jämfört med sina äldre jämförelseobjekt, är ärligt om var loopning lönar sig. Läs igenom dess tre loopinställningar mot Qwen3.5-4B och Qwen3.5-9B:

• SWE-bench Verified — 50.3 / 59.5 / 61.8 mot 54.7 och 61.0. Vid fyra loopar slår Dory nominellt 9B Qwen på den här raden.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 mot 15 och 24. Den förlorar mot båda, inklusive 4B.

• τ³-bench (Banking) — 11,6 / 12,89 / 14,69 mot 5,03 och 7,22. Dory mer än fördubblar 4B Qwen och ungefär fördubblar 9B.

• GPQA Diamond, inga verktyg — 69,19 / 72,41 / 72,16 mot 77,71 och 80,93. Den förlorar mot båda.

• IFBench — 74,29 / 77,94 / 79 mot 53,83 och 59. En stor vinst inom instruktionsföljning.

• AA-LCR — 63 / 71 / 73 mot 64,7 och 68,4. Långkontextsökning förbättras kraftigt med loopar och slutar i täten.

• AA-Omniscience — 10,03 / 10,08 / 10,03 mot 15,02 och 18,05. Lagrad kunskap rör sig knappt med antalet loopar, vilket är rimlighetskontrollen som resten av tabellen klarar.

Varenda en av dessa siffror är N​VIDIAs, uppmätta i N​VIDIAs testbänk, med redovisade antal upprepningar – SciCode åtta körningar, AA-LCR sexton, flera benchmarks exakt en gång – och kortet benämner sina Artificial Analysis-liknande poäng som "interna uppskattningar" som kan avvika från officiella. Inget av det reproduceras.

Lägg nu Qwen3.8-27B:s kort bredvid det. Dess rapporterade 89,2 på GPQA Diamond, 79,5 på IFBench och 73,0 på Terminal-Bench 2.1 ligger alla över Dorys bästa siffror på samma benchmarks, vilket är precis vad man skulle förvänta sig av en modell som är sju gånger så stor med en träningspipeline som är två generationer nyare. Det finns inget scenario där en 4B slår en väl utförd 27B i ett kunskaps- eller resonemangsbenchmark, och Dory hävdar inte det. Vad Dory hävdar är en annan sak: att den vid 4B når ungefär 9B-klassens agentbeteende, och att du själv får välja hur mycket beräkningskraft som läggs på den skalan.

Driftsättning: gapet är inte nära, och det handlar inte om kvalitet

Qwen3.8-27B är en normal utgåva med öppna vikter. Transformers-format, listat stöd för vLLM, SGLang och TokenSpeed, ett FP8-syskon och ett ekosystem som har producerat långt över tusen kvantiseringar och hundratals finjusteringar sedan augusti. Om din stack kör moderna modeller med öppna vikter kör den här, och den enda verkliga begränsningen är minne – 27B dense i BF16 är inte en småmaskinsmodell, men de kvantiserade varianterna finns just för det.

Dory är motsatsen. vLLM-stöd granskas i en öppen pull request; tills den slås samman säger NVIDIA att du ska installera vLLM från den grenen med flaggan för förkompilerad kärna och sedan starta med åsidosättningar som konfigurerar antalet recurrent-loopar och KV-cache-läget. llama.cpp-stöd finns i en andra öppen pull request med en pinnad commit och bygginstruktioner för ARM64 macOS. Det finns ingen hostad slutpunkt för Dory någonstans som vi kan verifiera, och nedladdningsräknarna för alla fyra repositorierna stod på noll när detta skrevs. Publicerade hastighetssiffror är begränsade till kvantiseringsuppsnabbningar på en DGX Spark – 1,69× och 1,84× för MXFP8 jämfört med BF16, 2,17× och 2,44× för NVFP4, beroende på mixen av indata-/utdatalängd – inte genomströmning.

Mot bakgrund av det är minnespåståendet i Dorys kort den enda ingenjörsinsatsen som skulle kunna motivera olägenheten. Standardiserad återkommande loopning lagrar en separat KV-cache per loop, så minnet växer med varje genomgång. Dorys KV-cachningsläge för sista loopen behåller en cache per återkommande attention-lager och skriver över den varje genomgång, vilket håller utrymmet på ungefär samma nivå som för en loop oavsett antal loopar, med en noggrannhet som N​VIDIA säger ligger nära per-loop-läget. Om det håller under någon annans mätning blir en 4B med ett 256K-fönster och fyra loopar praktisk på hårdvara som annars inte skulle klara det. Ingen utanför N​VIDIA har kontrollerat.

Var OrcaRouter faktiskt befinner sig i den här jämförelsen

Det här är den sällsynta jämförelsen där vi kan vara specifika, eftersom de två sidorna har olika förutsättningar här. Qwen-sidan finns i vår katalog: qwen/qwen3.8-27b är självhostad på OrcaRouters egen infrastruktur, och qwen/qwen3.8-flash och qwen/qwen3.8-max nås som hostade endpoints, allt via en enda API-nyckel till leverantörens listpris med 0 % påslag. NVIDIA-sidan är inte det — NVIDIA Nemotron Labs Dory 1.0 4B finns inte i katalogen och har ingen hostad endpoint någonstans som vi kan bekräfta.

Den asymmetrin är genuint användbar snarare än besvärlig. Argumentet för en liten självhostad modell är ett kostnadsargument, och ett kostnadsargument behöver det hyrespris det argumenterar mot. De tre Qwen3.8-nivåerna prissätts mycket olika — 27B till $0,33 per miljon indatatoken och $2,40 per miljon utdatatoken, Flash till $0,15 och $0,47, Max till $2,00 och $6,00 — så den ärliga versionen av ”kan en 4B ersätta detta” har tre olika svar beroende på vilken nivå du faktiskt använder i dag. En enda OrcaRouter-nyckel når alla tre, så att prissätta den frågan kräver inte tre konton. Eftersom vi för vidare leverantörernas listpris utan påslag landar en Q​wen-prisändring här samma dag. Och när du väljer en nivå innebär automatisk redundansväxling mellan leverantörer och routnings-DSL:en — som låter dig komponera modeller bakom ett enda anrop — att bytet från en hostad Q​wen till en självhostad Dory, eller tillbaka, är en konfigändring på ett anropsställe snarare än en refaktorering. Vi tillhandahåller inte Dory; vi är det billiga sättet att mäta vad den skulle ersätta.

Domen

Om din arbetsbelastning är multimodal, flerspråkig eller kunskapsintensiv – allt där modellen behöver veta saker snarare än göra saker – är Qwen3.8-27B svaret med öppna vikter och jämförelsen är inte konkurrenskraftig. Den är sju gånger så stor, två generationer nyare, backas upp av ett stort derivatsekosystem, körs på motorer som redan stöder den, och dess eget kort anger siffror som Dory inte närmar sig på GPQA eller instruktionsbenchmarks. Hyr Flash eller Max i stället om du helst inte vill vara värd för en 27B överhuvudtaget.

Dory 1.0 4B är en satsning på en annan axel. Det är bara värt friktionen med att bygga från en gren om tre saker stämmer för dig: uppgiften är enbart text och enbart engelska, den är agentisk snarare än kunskapsdriven, och du skulle verkligen använda en beräkningsratt – köra en loop under belastning och fyra när noggrannhet spelar roll, från en och samma checkpoint, utan en andra nedladdning. Dess kort hävdar att satsningen lönar sig på τ³-Bench och instruktionsföljning vid 4B, och det redovisar tillräckligt om hur dessa siffror togs fram för att du ska kunna diskontera dem på lämpligt sätt.

Det som skulle avgöra saken är testet som ingen har kört: Dory 1.0 4B mot Q​wen3.8-27B i en gemensam testrigg, vid samma kvantisering, på en agentisk uppgiftsuppsättning. N​VIDIAs tabell hoppar helt över den nuvarande Q​wen-generationen och A​libabas tabell tittar inte ned en viktklass. Tills någon publicerar den jämförelsen är den korrekta hållningen att en av dessa modeller är en beprövad, stödd, brett utplacerad 27B och den andra är ett 4B-repositorium som dök upp över en natt med en intressant idé i sig — och den enda person som kan säga om idén är värd att bygga är du, på din uppgiftsuppsättning.

Inget av detta är hypotetiskt: de dokumenterade AI-felen och agentincidenterna bakom släpp som detta samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, tillförlitlighetsgrad och omtvistad flagga.