NVIDIA Nemotron Labs Dory 1.0 4B vs LFM2.5 2.6B Base: Den ena är färdig, den andra är medvetet inte det.

NVIDIA Nemotron Labs Dory 1.0 4B och LFM2.5-2.6B-Base är båda små, båda text-only, båda nedladdningsbara som GGUF och båda sådana du kör själv — och de ligger i varsin ände av efterträningspipelinen. Dory kommer helt färdig: övervakad finjustering på en NVIDIA-kurerad uppsättning, därefter förstärkningsinlärning i flera miljöer med GRPO, med resonemanget permanent påslaget i serveringsvägen. LFM2.5-2.6B-Base kommer medvetet ofärdig och beskrivs på sitt eget kort som en förtränad checkpoint som "endast rekommenderas för uppgifter som kräver omfattande finjustering". Liquid AI släpper den färdiga versionen av den modellen separat som LFM2.5-2.6B, eftertränad för agentiska arbetsbelastningar. Så den ärliga formuleringen är inte "vilken modell i 4B-klassen är bättre", eftersom en bascheckpoint och en färdig resonemangsmodell inte konkurrerar om samma plats i din stack. Den användbara frågan är vilken halva av pipelinen du köper för.

Vad varje artefakt faktiskt är

N​VIDIA N​emotron Labs Dory 1.0 4B är en tät 4B-modell som N​VIDIA publicerat på Hugging Face i fyra kvantiseringar – BF16, MXFP8, NVFP4 och en Q5_K_M GGUF-export – under licensen OpenMDW 1.1. I dess modellkort stämplas bygget som "GA (10/16/2026)" och arkitekturen beskrivs som loopad och latent rekurrent: ett indatablock med 8 lager, ett rekurrent block med 20 lager som tillämpas ett variabelt antal gånger, och ett utdatablock med 8 lager, med en hybrid av sammanflätad attention med glidande fönster och full attention. Kontexten sträcker sig till 256K tokens, språket är enbart engelska, och hela släppet publicerades utan något åtföljande tillkännagivande från N​VIDIA. Modellkortet noterar att resonemang alltid är påslaget i vLLM:s serveringsväg, vilket är ett uttalande om avsikt lika mycket som om mekanik: detta är inte en rå textprediktor som slutför ditt dokument, det är en modell konfigurerad att tänka innan den svarar.

LFM2.5-2.6B-Base är Liquid AI:s 2,69B förtränade checkpoint, släppt under företagets egen LFM-licens (märkt lfm1.0) och uppdaterad i mitten av augusti 2026. Det är den råa checkpoint som resten av 2,6B-serien härstammar från. Arkitekturen är en hybrid av 22 dubbelgrindade kortkonvolutionsblock och 8 grupperade query-attention-lager, tränad på ungefär 34 biljoner tokens med en kontextförlängning till 128K under mellanträningen, med ett ordförråd på 128 000 tokens och 16 språk. Modellkortet är explicit om målgruppen: domänspecifika assistenter, språkspecifikt arbete, träning på proprietär data. Det finns inget chattmallbeteende att tala om, eftersom det inte finns någon instruktionsträning i den.

Båda är text in, text ut. Det är ungefär där likheterna slutar.

Specifikationskontrasten, sida vid sida

• Parametrar — Dory 1.0 4B är en tät 4B-stack. LFM2.5-2.6B-Base är 2,69B. Klyftan är mindre än namnen antyder, och båda ryms bekvämt på en enda konsumentaccelerator vid rimlig kvantisering.

• Efterträning — Dory har SFT plus RL i flera miljöer inom matematik, kod, vetenskap, instruktionsföljning, verktygsanvändning och strukturerad utdata. LFM2.5-2.6B-Base har ingen, avsiktligt. Om du behöver en modell som följer instruktioner direkt ur lådan är ett av dessa fel val, och det är inte det med färre parametrar.

• Kontext — Dory når 256K tokens, med 262 144 positioner validerade i vLLM under N​VIDIAs medföljande startkommando. LFM2.5-2.6B-Base stöder 131 072 tokens, vilket uppnås genom en förlängning under mellanliggande träning. Dorys fönster är ungefär dubbelt så stort; huruvida du har råd att fylla det beror på KV-cachens beteende som diskuteras nedan.

• Språk — Dory är endast på engelska, med förträningsdata som täcker 43 programmeringsspråk. LFM2.5-2.6B-Base täcker 16 naturliga språk, inklusive engelska, arabiska, kinesiska, franska, tyska, italienska, japanska, koreanska, portugisiska, spanska, vietnamesiska, thailändska, indonesiska, hindi, ryska och polska. För allt utanför engelska avgör denna dimension det på egen hand.

• Arkitektur — hybrid av kort konvolution plus uppmärksamhet på Liquid-sidan; loopad latent-rekurrent normaliserad GPT med interfolierad uppmärksamhet med glidande fönster på NVIDIA-sidan. Båda är avsteg från en vanlig transformer-stack, och de avviker i olika riktningar.

• Beräkningsbeteende – Dorys djup är en körtidsparameter. Antalet loopar 1, 2 eller 4 avväger beräkningskostnad mot noggrannhet utan en andra checkpoint, och NVIDIA rekommenderar två som standard. LFM2.5-2.6B-Base har fast djup; dess kostnadsreglage är kvantisering och, i den bredare familjen, en spekulativ drafter.

• Licens – OpenMDW 1.1 för Dory, LFM-licensen för Liquid-checkpointen. Båda tillåter kommersiell användning; Liquid-licensen är företagets egen snarare än en standardtext för öppen källkod, vilket är värt att läsa snarare än att anta.

• Format som släppts – Dory: BF16, MXFP8, NVFP4, GGUF. LFM2.5-2.6B-Base: BF16-vikter på Hub, med GGUF-, ONNX- och MLX-byggen tillgängliga på andra håll i familjen. Liquid-ekosystemet är bredare här; Dory-repositorierna är bara några timmar gamla.

Finjustering är axeln som skiljer dem åt

Om anledningen till att du tittar på LFM2.5-2.6B-Base är att du tänker träna på den – en domänassistent, ett proprietärt korpus, ett språk som basmodellen redan talar – då är Dory 1.0 4B en dålig ersättare av en anledning som inte har något med kvalitet att göra. Att finjustera en fullt eftertränad resonemangsmodell för en smal uppgift är vanligtvis svårare än att finjustera en bascheckpoint, eftersom du kämpar mot beteendet som RL-steget installerade i stället för att forma en tom prediktor. Liquid-kortet rekommenderar sin bascheckpoint för domän- och språkspecifikt arbete av just denna anledning, och 34 biljoner förträningstokens över 16 språk är en bredare utgångspunkt än en engelskspråkig modell erbjuder.

Men Dory-kortet är tyst om finjustering på ett sätt som i sig är informativt. Det dokumenterar träningspipelinen, publicerar formaten och ger serveringsinstruktioner för två motorer; det säger ingenting om adaptrar, LoRA-stöd eller ett finjusteringsrecept. Det är profilen för en checkpoint som publicerats för att servas, inte för att tränas på. Att läsa frånvaro av bevis som bevis skulle vara ett misstag, men asymmetrin är värd att namnge: det ena kortet marknadsför sig till finjusterare, det andra marknadsför sig till deployers.

Ännu en ärlighetsanmärkning om siffror. Liquid publicerar en fullständig utvärderingstabell för den eftertränade LFM2.5-2.6B mot Gemma 4 E2B och E4B samt Qwen3.5-4B och 9B, och den tabellen kan inte överföras till bascheckpointen — en basmodell som poängsätts på benchmarks för instruktionsföljning mäter något annat än en eftertränad modell som poängsätts på samma benchmarks. NVIDIA publicerar en benchmarktabell för Dory mot Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B och Qwen3.6-35B-A3B, mätt i sin egen harness, utan oberoende reproduktion. Det finns inget gemensamt harness-resultat för Dory och någon av LFM-checkpointarna, och ingen publicerad direkt jämförelse alls.

Att köra dem på riktig hårdvara

Edge-berättelsen är där de två skiljer sig mest markant i praktiken, och Liquid vinner den tydligt. LFM2.5-familjen är byggd för driftsättning på enheten – den 2,6B stora instruct-syskonmodellen mäts till 220 tokens per sekund på en Apple M5 Max och 113 på en Ryzen AI Max+ 395, med mindre än 2,5 GB minne, och en uppgiven siffra i telefonklass på omkring 30 tokens per sekund. Det finns ONNX- och MLX-byggen i familjen och en 328M spekulativ drafter, DSpark, som företaget säger ger ungefär 2,6× snabbare avkodning med identiska utdata. Om ditt mål är en laptop, en mini-PC eller en telefon ligger LFM2.5-2.6B-Base på rätt sida av den gränsen och Dory är inte uppenbart designad för det.

Dorys serveringsväg är smalare och nyare. vLLM-stödet är under granskning i en öppen pull request, och tills den mergas säger kortet åt dig att installera vLLM från den grenen med en flagga för förkompilerad kernel och sedan servera med overrides som ställer in loopantalet och KV-cache-läget. llama.cpp-stödet finns i en andra öppen pull request, med en pinnad commit och bygginstruktioner som riktar sig mot nativ ARM64 macOS på Apple Silicon. N​VIDIA:s publicerade hastighetssiffror är hastighetsökningar från kvantisering på en DGX Spark snarare än genomströmning: 1,69× och 1,84× för MXFP8 jämfört med BF16 beroende på mixen av in- och utmatningslängder, 2,17× och 2,44× för NVFP4.

Motvikten, och det är en verklig sådan, är minnesdesignen. Standard-loopning behåller en separat KV-cache per loop, så minnet växer med varje tillagt pass – vilket är det vanliga skälet till att återkopplade arkitekturer är besvärliga att servera. Dory stöder ett KV-cachningsläge för sista loopen som behåller en enda cache per återkopplat attention-lager och skriver över den vid varje pass, vilket håller minnesavtrycket vid ungefär storleken för en loop oavsett antal loopar. NVIDIA säger att noggrannheten ligger nära per-loop-läget med nästan oförändrade utdatalängder. Det påståendet är det mest värdefulla i Dory-kortet att verifiera, för om det håller är 256K-fönstret överkomligt vid mer än en loop, och om det inte gör det är elastic-depth-funktionen mycket mindre användbar än den låter.

Vad en router gör och inte gör här

Ingen av modellerna finns i OrcaRouter-katalogen. N​VIDIA N​emotron Labs Dory 1.0 4B är enbart vikter utan någon hostad endpoint någonstans som vi kan bekräfta, och LFM2.5-2.6B-Base är en finjusteringscheckpoint som ingen plattform rimligen skulle servera som den är — dess eftertränade syskon är den som hör hemma bakom ett API. Det finns inte heller några hostade LFM2.5-modeller i vår katalog, så det korrekta påståendet är det tråkiga: för den här jämförelsen körs allt på din hårdvara.

Vilket är precis när ett routningslager slutar vara valfri rördragning och börjar vara ett testverktyg. Att köra ett finjusteringsexperiment på en bascheckpoint och ett serveringsexperiment på en loopad 4B innebär två lokala stackar, två uppsättningar kvantiseringar, två uppsättningar serveringsflaggor, och inget smidigt sätt att jämföra någon av dem mot de hostade modellerna som är den faktiska baslinjen för din applikation. OrcaRouter finns för den andra halvan: en API-nyckel når de hostade modellerna som du skulle benchmarka mot till leverantörens listpris med 0 % påslag, så att kontrollgruppen inte behöver sitt eget SDK eller sitt eget avtal. Routnings-DSL:en låter en självhostad endpoint och hostade sådana ligga bakom ett enda anrop, och automatisk failover håller en lång utvärderingskörning vid liv när en lokal GPU-pool är upptagen. Den kommer inte att berätta för dig om Liquids bascheckpoint ger bättre resultat vid finjustering än NVIDIAs färdiga modellserveringar. Den tar bort uppsättningskostnaden för att ta reda på det.

Att välja mellan dem

Ta LFM2.5-2.6B-Base om du köper en utgångspunkt snarare än ett svar: du har träningsdata, du behöver ett språk som Dory inte talar, du vill köra på Apple Silicon eller en NPU, eller du vill ha speculative decoding-vägen och de ONNX- och MLX-byggen som följer med familjen. Det är den mindre, snabbare, mer flerspråkiga och mer ekosystemkopplade artefakten, och den är ärlig med att den inte är färdig.

Välj N​VIDIA N​emotron Labs Dory 1.0 4B om du köper ett driftsatt beteende: du vill ha en färdig resonemangsmodell med verktygsanrop och träning för strukturerad utdata redan inbyggda, du använder enbart engelska, dina kontexter är långa, och du är beredd att bygga vLLM eller llama.cpp från en branch i dag i utbyte mot en beräkningsratt som ingen konventionell dense-modell ger dig. Acceptera att du kommer att vara en av de första utanför N​VIDIA som kör den, att varje siffra på dess modellkort är en siffra från leverantören, och att påståendet om KV-cachen i den sista loopen – den enda funktionen som gör hela designen praktisk – är overifierat.

Den jämförelse som faktiskt skulle vara informativ är Dory 1.0 4B mot den eftertränade LFM2.5-2.6B, och ingen har publicerat den. Om Liquids 2,6B instruct-modell och NVIDIAs elastic-depth 4B hamnar inom några punkter från varandra på din arbetsbelastning, blir den avgörande faktorn minnesskillnaden mellan 2,69B och 4B samt mognadsgapet, inte arkitekturen. Det är experimentet som är värt att köra, och det är billigare att köra än det var förra veckan.

Inget av detta är hypotetiskt: de dokumenterade AI-felen och agentincidenterna bakom släpp som detta samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, tillförlitlighetsgrad och omtvistad flagga.