Nemotron 3.5 Bolt E4B 4GB vs LFM2.5 2.6B Base: En färdig karaktär mot ett oskrivet blad

En av dessa modeller kommer att föra en konversation direkt när du laddar ner den. Den andra kommer inte att föra en konversation förrän du tränar den. Det är hela jämförelsen mellan NVIDIA-Nemotron-3.5-Bolt-E4B-4GB och Liquid AI LFM2.5-2.6B-Base, och varje skillnad i specifikationsbladet som följer av detta är sekundär.

NVIDIAs modell är en eftertränad konversationell liten språkmodell: chattmall, växling för resonemang, beteende för verktygsanrop, persona-anpassning och en benchmarktabell med 21 rader. Liquids är en förtränad bascheckpoint, uttryckligen publicerad för omfattande finjustering, utan chattbeteende och utan benchmarkresultat på sitt kort. Att placera dem i samma fack som ”små öppna modeller” är ett kategorimisstag som leder till att folk laddar ner fel artefakt och drar slutsatsen att modellen är dålig.

Det korta svaret, innan detaljerna

• Du behöver en fungerande röst-, personlighets- eller enhetsassistent den här månaden — ta NVIDIA-Nemotron-3.5-Bolt-E4B-4GB. Det är ett färdigt beteende, inte råmaterial.

• Du har domändata, en träningsbudget och ett krav att modellen ska vara din — ta LFM2.5-2.6B-Base. Den är billigare att finjustera och har ett 128K-kontextfönster.

• Du vill ha den bästa lilla konversationsmodellen som Liquid gör — du vill inte ha någon av dessa ensam. Du vill ha den eftertränade LFM2.5-2.6B och sedan avgöra om Base- eller agent-checkpointen är din utgångspunkt.

• Du vill ha ett direkt jämförande benchmark – det finns inget. Base-kortet publicerar inga poäng, och ingen tredje part har kört de två mot varandra. Varje artikel som utser en vinnare utifrån ett gemensamt benchmark hittar på själva benchmarken.

Varför diskrepansen är själva poängen

Liquid AI lanserade LFM2.5-2.6B-familjen i tre delar: en förtränad Base, en eftertränad agent-checkpoint och en drafter för spekulativ avkodning. Base är det första steget i den pipelinen, inte en produkt. Dess kort säger att den "endast rekommenderas för uppgifter som kräver omfattande finjustering" – språk- eller domänspecifika assistenter, träning på proprietära data och liknande arbete. En base-checkpoint förutsäger nästa token mycket väl och har aldrig tränats att svara på en fråga, följa en instruktion eller skicka ett verktygsanrop i ett schema.

NVIDIAs E4B är den motsatta änden av den pipeline. Den utgick från Gemma-4-E4B-it, som redan var instruktionstränad, och NVIDIA eftertränade den igen med förstärkningsinlärning från verifierbara belöningar och mänsklig feedback. Modellkortet dokumenterar belöningsdomänerna, batchförhållandet mellan resonerande och icke-resonerande exempel samt längdstrafferna som tillämpas för att kontrollera verbositet. Vad som än annars är sant har modellen formats för en uppgift.

Så den rimliga frågan är inte "vilken som är smartare". Det är "vilket steg i pipelinen du behöver köpa".

Specifikationer, dimension för dimension

• Parametrar — NVIDIA-Nemotron-3.5-Bolt-E4B-4GB har totalt 8B med 4B effektiva parametrar i en Gemma-4-E4B-arkitektur; LFM2.5-2.6B-Base har 2,69B densa parametrar i en 30-lagers hybridstack av 22 dubbelgrindade kortkonvolutionsblock och 8 grouped-query attention-block.

• Kontextfönster – 64K token in och 64K ut för Bolt; 131 072 token för LFM-basen.

• Modalitet — text in, text ut för båda. Ingen av dem accepterar bilder eller ljud.

• Vokabulär — 128 000 token för LFM2.5-2.6B-Base; NVIDIA publicerar inte en vokabulärstorlek för E4B, som ärver Gemmas tokenizer.

• Förträning – 34 biljoner token för LFM-basen, med en mellanträningsfas som utökar kontexten till 128K. NVIDIA publicerar inget antal förträningstoken för E4B eftersom de inte förtränade modellen; de eftertränade Gemma.

• {{1}}Efterträning — omfattande RLVR- och arbete med mänsklig återkoppling för Bolt, med explicita resonemangs- och samtalslägen. Inget för LFM-basen, avsiktligt.{{/1}}

• Publicerad precision – {{1}}Q4_K_M GGUF på 6,18 GB och BF16-safetensors på 15,88 GB för Bolt{{/1}}; en enda {{2}}5,39 GB BF16-safetensorsfil för LFM-basen{{/2}}, med separata {{3}}GGUF-, ONNX- och MLX-konverteringar{{/3}} på andra håll i familjen.

• Licens — OpenMDW-1.1 för NVIDIAs bidrag med Gemma 4-komponenten under Apache 2.0; LFM Open License 1.0, en anpassad licens med kommersiella villkor, för Liquids modell.

• Språk – 34 i E4B-metadata, varav sju anges som primära språk för efterträning; 16 för LFM-basen.

• Lansering — 23 oktober 2026 för E4B; LFM2.5-2.6B-familjen publicerades den 4 augusti 2026.

Parametergapet är verkligt men översätts inte till det nedladdningsgap folk förväntar sig. 2,69B Base är en nedladdning på 5,39 GB i BF16; "4GB" E4B är en nedladdning på 6,18 GB i fyra bitar. Att jämföra parameterantal mellan en tät hybrid och en gles arkitektur med effektiva parametrar säger mindre än att jämföra byte på disk.

Vad varje kort faktiskt publicerar

Det är här asymmetrin blir mätbar.

NVIDIA levererar 21 benchmarkrader, fyra jämförelsemodeller och en separat Q4_K_M-kolumn. Poängen är körda av leverantören under NeMo-Gym och uttryckligen markerade som potentiellt avvikande från andra leverantörers självrapporterade siffror. De täcker personabevarande, instruktionshierarki, verktygstiming, förankring, långkontextsökning och slutförande av agentiska uppgifter.

Liquids Base-kort innehåller ingen benchmarktabell alls. Det är inte en utelämning; det är just vad en base-checkpoint är. Siffrorna som cirkulerar för LFM2.5-2.6B – IFBench 59,17, ToolSandbox 77,83, BFCLv4 56,88, LiveCodeBench v6 59,41, AIME25 51,87 – tillhör den eftertränade agent-checkpointen, inte Base, och de är leverantörsrapporterade. Artificial Analysis listar LFM2.5-2.6B med ett Intelligence Index på 8, flaggat som en uppskattning med oberoende utvärdering som väntar; det finns ingen sida för Bolt E4B alls.

Så den ärliga resultattavlan är: den ena modellen har en stor, oreviderad leverantörstabell, och den andra har ingen tabell och en oberoende uppskattning kopplad till en annan checkpoint i sin familj. Ingen av kolumnerna stöder en direkt jämförelse.

Minne och hastighet mäts på olika planeter

Båda leverantörerna publicerar latenssiffror, och de är inte jämförbara. Läs dem som separata påståenden om separata konfigurationer.

• Montera ett RTX 5070 12GB – 3,5 till 4,3 GB VRAM, 548 till 1 238 ms till första token, 106,2 till 133,4 token per sekund, uppmätt av NVIDIA med llama.cpp och CUDA vid batch 1.

• Montera en Jetson Orin Nano 8GB – 4,2 till 4,9 GB VRAM, 5,8 till 6,3 sekunder till första token, 13,0 till 15,5 tokens per sekund. Inbäddad, men inte samtalsnabb.

• LFM2.5-2.6B på en M5 Max – cirka 220 tokens per sekund, leverantörsrapporterad CPU-avkodning.

• LFM2.5-2.6B på ett mobilklassat chip – cirka 30 token per sekund, enligt tillverkaren.

Siffran för M5 Max är ingen GPU-jämförelse, siffran för Orin Nano är ingen laptop-jämförelse, och ingen av tillverkarna publicerade promptlängder, batchstorlekar eller kvantiseringsinställningar i ett format som gör att man kan ställa dem mot varandra. Det enda talet som direkt går att kontrollera finns på disken: 6,18 GB för Bolts Q4_K_M mot 5,39 GB för LFM-basen i BF16.

Licenser: båda öppna, ingen av dem Apache

NVIDIAs modell är OpenMDW-1.1 plus en Apache 2.0-komponent för Gemma 4. OpenMDW är tillåtande och medger kommersiell användning, men det är inte OSI-godkänt, och Gemma-arvet innebär att Apache-villkoren följer med en del av stacken. NVIDIAs modellkort anger att modellen är redo för kommersiell eller icke-kommersiell användning.

Liquid's LFM Open License 1.0 är en anpassad licens med en tröskel på 10 miljoner US-dollar i årlig omsättning för kommersiell användning. Den är inte Apache eller MIT, och Base-kortet hänvisar till en LICENSE-fil i stället för att sammanfatta villkoren. För ett forskningsprojekt spelar det sällan roll; för en produkt med juridisk granskning är det det första man bör läsa.

Den praktiska skillnaden är inte ”öppen kontra sluten”. Båda går att ladda ner och båda tillåter kommersiell användning inom ramen för sina villkor. Skillnaden ligger i vilka villkor din juridiska rådgivare måste godkänna, och huruvida modellen du levererar innehåller en annan leverantörs licens.

Finjusteringsnotan, som är det verkliga beslutet

Om du väljer LFM-basen är nedladdningen den billiga delen. Du köper 2,69 miljarder parametrar rå förtränad kapacitet och betalar sedan för att lära den ett jobb: datainsamling, rensning, övervakad finjustering, utvärdering och den iterationsslinga som följer. Liquids argument är att 34 biljoner tokens och en kontext på 128K gör startpunkten stark nog att vara värd arbetet.

Om du väljer Bolt E4B köper du NVIDIA:s efterträning som utgångspunkt. BF16-bygget är 15,88 GB och NVIDIA publicerar två recept för att ändra det: fullparameterträning på 8× H100 80GB med FSDP2 och en inlärningshastighet på 1e-5, eller LoRA på 2× H100 80GB med dimension 16, alpha 32 och en inlärningshastighet på 2e-4. Båda recepten fryser visions- och ljudtornen, vilket är en påminnelse om att basen Gemma 4 E4B är multimodell även om Bolt-utgåvan endast är text.

Det är en tyngre grund för finjustering än 2,69B LFM-basen, och ett mycket lättare arbete med att bygga beteende. E4B hanterar redan persona, instruktionshierarki och verktygstiming; du anpassar en fungerande modell, inte skapar en.

Om du bygger en produkt snarare än en modell

Standardvalet bör vara den färdiga checkpointen. En röstassistent, en NPC, ett kioskgränssnitt eller en enhetsagent behöver beteende från dag ett, och E4B är den enda av dessa två som har något. Dess svagheter är dokumenterade och specifika: Tau2-Bench 55,10 mot Qwen3.5 4B:s 75,06, RULER 86,99 mot 95,15, LongBench v2 50,50 mot 59,93. Det är en konversationsmodell som kan anropa verktyg, inte en agent som kan planera.

LFM-basen är det rätta köpet endast när modellen själv är produkten: en domänspecifik assistent på ett språk eller med en vokabulär som de allmänna modellerna hanterar dåligt, en finjustering på proprietära data, eller en forskningsbaslinje som du avser att äga. I så fall är avsaknaden av chattbeteende en fördel, eftersom du inte betalar för beteende som du kommer att skriva över.

Det finns ett tredje fall som inget av korten tar upp: du vill jämföra dem på din egen uppgift. Gör det med en held-out-utvärderingsmängd och samma avkodningsinställningar, inte med leverantörernas tabeller. E4B:s kort rekommenderar temperature 1.0 och top_p 0.95 i båda tankelägena; Liquid publicerar sina egna inställningar för den eftertränade checkpointen. Att matcha dessa är minimum för ett rättvist test, och även då jämför du en eftertränad modell med en basmodell, vilket inte är ett rättvist test alls.

Där den lokala modellen slutar och resten av stacken börjar

Vilken checkpoint du än väljer kommer den att ingå i en applikation som också behöver modeller som den inte kan köra. En 2,6B-basmodell eller en 4B-konversationsmodell hanterar det lokala reflexlagret; den hanterar inte ett dokument på 200K tokens, en svår kodningsuppgift eller en förfrågan som kräver en frontiermodells omdöme. Att dirigera dessa förfrågningar genom ett enda API – 200+ modeller, 0 % påslag på leverantörens listpris, automatisk failover mellan leverantörer – håller den lokala modellen som den snabba vägen utan att tvinga fram ett andra avtal för den långsamma.

Vilken nedladdning är din

Välj E4B om du behöver en liten modell som pratar, följer instruktioner och anropar verktyg i dag, och om du kan leva med en nedladdning på 6,18 GB samt de dokumenterade svagheterna när det gäller lång kontext och agentiska förmågor. Välj LFM2.5-2.6B-Base om du startar ett finjusteringsprojekt, vill ha ett 128K-fönster och en tokenizer för 16 språk, och har data och beräkningsresurser för att lära modellen sitt jobb.

Misstaget att undvika är att ladda ner Base, prompta den som en chattbot och dra slutsatsen att Liquids 2.6B är sämre än NVIDIAs 4B. Den är inte sämre. Den är tidigare i pipelinen. Jämförelsen som faktiskt skulle avgöra familjefrågan är Bolt E4B mot den eftertränade LFM2.5-2.6B, och ingen har publicerat den körningen ännu.