Nemotron 3.5 Bolt E4B 4GB vs LFM2.5 2.6B Base: Een uitgewerkt karakter tegenover een blanco blad

Een van deze modellen kan meteen een gesprek voeren zodra je het downloadt. Het andere kan pas een gesprek voeren nadat je het hebt getraind. Dat is de hele vergelijking tussen NVIDIA-Nemotron-3.5-Bolt-E4B-4GB en Liquid AI LFM2.5-2.6B-Base, en elk specificatieverschil dat daaruit voortvloeit, is van secundair belang.

NVIDIA's model is een nagetraind klein conversationeel taalmodel: chatsjabloon, schakelaar voor redeneren, tool-callinggedrag, persona-afstemming en een benchmarktabel met 21 rijen. Dat van Liquid is een voorgetrainde basis-checkpoint, expliciet gepubliceerd voor zware fine-tuning, zonder chatgedrag en zonder benchmarkscores op de modelkaart. Ze in dezelfde categorie 'klein open model' plaatsen is een categoriefout waardoor mensen het verkeerde artifact downloaden en concluderen dat het model slecht is.

Het korte antwoord, vóór de details

• Je hebt deze maand een werkende spraak-, persona- of apparaatassistent nodig — kies NVIDIA-Nemotron-3.5-Bolt-E4B-4GB. Het is een kant-en-klaar gedrag, geen ruw materiaal.

• Je hebt domeindata, een trainingsbudget en de eis dat het model van jou is — neem LFM2.5-2.6B-Base. Het is goedkoper om te fine-tunen en heeft een contextvenster van 128K.

• Je wilt het beste kleine conversationele model dat Liquid maakt — je wilt geen van deze twee op zichzelf. Je wilt de post-trained LFM2.5-2.6B en bepaalt dan of de Base- of de agent-checkpoint je startpunt is.

• Je wilt een rechtstreekse benchmark — die bestaat niet. De Base-kaart publiceert geen scores, en geen enkele derde partij heeft de twee tegen elkaar laten draaien. Elk artikel dat een winnaar uitroept op basis van een gedeelde benchmark, verzint die benchmark zelf.

Waarom de mismatch het verhaal is

Liquid AI heeft de LFM2.5-2.6B-familie in drie onderdelen uitgebracht: een vooraf getrainde Base, een post-training-agent-checkpoint en een draftmodel voor speculatief decoderen. De Base is de eerste fase van die pijplijn, geen product. Op de modelkaart staat dat het "alleen wordt aanbevolen voor taken waarvoor intensieve fine-tuning nodig is" — taal- of domeinspecifieke assistenten, training op propriëtaire data en vergelijkbaar werk. Een base-checkpoint voorspelt het volgende token zeer goed en is nooit getraind om een vraag te beantwoorden, een instructie op te volgen of een tool-call in een schema te genereren.

NVIDIA's E4B is het andere uiteinde van die pijplijn. Het begon met Gemma-4-E4B-it, dat al instructiegetuned was, en NVIDIA heeft het opnieuw post-getraind met reinforcement learning from verifiable rewards en menselijke feedback. De kaart documenteert de beloningsdomeinen, de verhouding tussen reasoning- en non-reasoning-batches, en de lengtestraffen die zijn toegepast om breedsprakigheid te beheersen. Wat er verder ook waar moge zijn, het model is gevormd richting een taak.

Dus de terechte vraag is niet "welke is slimmer." Het is "welke fase van de pipeline moet je inkopen."

Specificaties, dimensie voor dimensie

• Parameters — NVIDIA-Nemotron-3.5-Bolt-E4B-4GB heeft 8B totale en 4B effectieve parameters in een Gemma-4-E4B-architectuur; LFM2.5-2.6B-Base heeft 2,69B dense parameters in een 30-laagse hybride stack van 22 dubbel-gegate short-convolution-blokken en 8 grouped-query attention-blokken.

• Contextvenster — 64K tokens in en 64K uit voor Bolt; 131.072 tokens voor de LFM-basis.

• Modaliteit — tekst in, tekst uit voor beide. Geen van beide accepteert afbeeldingen of audio.

• Woordenschat — {{1}}128.000 tokens voor LFM2.5-2.6B-Base{{/1}}; {{2}}NVIDIA publiceert geen vocabulairegrootte voor de E4B, die de tokenizer van Gemma erft.{{/2}}

• Pretraining — 34 biljoen tokens voor de LFM-basis, met een mid-trainingfase die de context uitbreidt naar 128K. NVIDIA publiceert geen pretraining-tokenaantal voor de E4B, omdat het het model niet heeft voorgetraind; het heeft post-training uitgevoerd op Gemma.

• Post-training — uitgebreid werk op het gebied van RLVR en menselijke feedback voor Bolt, met expliciete redeneer- en gespreksmodi. Niets voor de LFM-basis, bewust.

• Gepubliceerde precisie — Q4_K_M GGUF van 6,18GB en BF16 safetensors van 15,88GB voor Bolt; één enkel BF16-safetensorsbestand van 5,39GB voor de LFM-basis, met afzonderlijke GGUF-, ONNX- en MLX-conversies elders in de familie.

• Licentie — OpenMDW-1.1 voor NVIDIA's bijdrage met de Gemma 4-component onder Apache 2.0; LFM Open License 1.0, een aangepaste licentie met commerciële voorwaarden, voor het model van Liquid.

• Talen — 34 in de E4B-metadata, waarvan zeven aangemerkt als primaire post-trainingstalen; 16 voor de LFM-basis.

• Releasedatum — 23 oktober 2026 voor de E4B; de LFM2.5-2.6B-familie is op 4 augustus 2026 gepubliceerd.

Het parameterverschil is reëel, maar vertaalt zich niet in het downloadverschil dat mensen verwachten. De 2,69B Base is een BF16-download van 5,39 GB; de "4GB" E4B is een vierbitsdownload van 6,18 GB. Het vergelijken van parameteraantallen tussen een dense hybride en een sparse architectuur met effectieve parameters zegt je minder dan het vergelijken van bytes op schijf.

Wat elke kaart daadwerkelijk publiceert

Dit is waar de asymmetrie meetbaar wordt.

NVIDIA levert 21 benchmarkrijen, vier vergelijkingsmodellen en een aparte Q4_K_M-kolom. De scores zijn door de leverancier uitgevoerd onder NeMo-Gym en expliciet gemarkeerd als mogelijk afwijkend van de zelfgerapporteerde cijfers van andere leveranciers. Ze bestrijken persona-behoud, instructiehiërarchie, tool-timing, grounding, retrieval over lange contexten en het voltooien van agentische taken.

De Base-kaart van Liquid bevat helemaal geen benchmarktabel. Dat is geen weglating; het is juist wat een base-checkpoint is. De cijfers die de ronde doen voor LFM2.5-2.6B — IFBench 59,17, ToolSandbox 77,83, BFCLv4 56,88, LiveCodeBench v6 59,41, AIME25 51,87 — horen bij het post-trained agent-checkpoint, niet bij de Base, en ze zijn door de leverancier gerapporteerd. Artificial Analysis vermeldt LFM2.5-2.6B met een Intelligence Index van 8, gemarkeerd als een schatting met onafhankelijke evaluatie in het vooruitzicht; voor de Bolt E4B is er helemaal geen pagina.

Dus de eerlijke scorekaart is: het ene model heeft een grote, niet-geauditeerde leverancierstabel, en het andere heeft geen tabel en een onafhankelijke schatting gekoppeld aan een ander checkpoint binnen zijn familie. Geen van beide kolommen ondersteunt een rechtstreekse vergelijking.

Geheugen en snelheid worden op verschillende planeten gemeten

Beide leveranciers publiceren latencycijfers, en die zijn niet vergelijkbaar. Lees ze als afzonderlijke claims over afzonderlijke opstellingen.

• {{1}}Monteer een RTX 5070 12GB{{/1}} — {{2}}3,5 tot 4,3 GB VRAM, 548 tot 1.238 ms tot het eerste token, 106,2 tot 133,4 tokens per seconde, gemeten door NVIDIA met llama.cpp en CUDA bij batch 1.{{/2}}

• Vastbouten op een Jetson Orin Nano 8GB — 4,2 tot 4,9 GB VRAM, 5,8 tot 6,3 seconden tot het eerste token, 13,0 tot 15,5 tokens per seconde. Embedded, maar niet snel genoeg voor een gesprek.

• LFM2.5-2.6B op een M5 Max — ongeveer 220 tokens per seconde, door de leverancier opgegeven CPU-decodering.

• LFM2.5-2.6B op een chip uit de telefoonklasse — ongeveer 30 tokens per seconde, volgens de leverancier.

Het getal voor de M5 Max is geen GPU-vergelijking, het getal voor de Orin Nano is geen laptopvergelijking, en geen van beide leveranciers heeft de promptlengtes, batchgroottes of kwantisatie-instellingen gepubliceerd in een vorm waarmee je ze naast elkaar zou kunnen leggen. Het enige getal dat direct controleerbaar is, staat op schijf: 6,18 GB voor de Q4_K_M van Bolt tegenover 5,39 GB voor de LFM-basis op BF16.

Licenties: beide open, geen van beide Apache

Het model van NVIDIA is OpenMDW-1.1 plus een Apache 2.0-component voor Gemma 4. OpenMDW is permissief en staat commercieel gebruik toe, maar is niet OSI-goedgekeurd, en door de overerving van Gemma reizen de Apache-voorwaarden mee met een deel van de stack. In de modelkaart van NVIDIA staat dat het model klaar is voor commercieel of niet-commercieel gebruik.

Liquid's LFM Open License 1.0 is een aangepaste licentie met een omzetdrempel van US$10 miljoen per jaar voor commercieel gebruik. Het is geen Apache of MIT, en de Base-kaart verwijst naar een LICENSE-bestand in plaats van de voorwaarden samen te vatten. Voor een onderzoeksproject maakt dit zelden uit; voor een product met een juridische beoordeling is het het eerste dat je moet lezen.

Het praktische verschil is niet "open versus gesloten". Beide zijn downloadbaar en beide staan commercieel gebruik toe binnen hun voorwaarden. Het verschil is welke voorwaarden uw juridisch adviseur moet goedkeuren, en of het model dat u levert een licentie van een tweede leverancier in zich draagt.

Het wetsvoorstel voor bijsturing, dat de echte beslissing is

Als je voor de LFM base kiest, is de download het goedkope deel. Je koopt 2,69 miljard parameters aan ruwe voorgetrainde capaciteit en betaalt vervolgens om het een vak te leren: dataverzameling, opschoning, supervised fine-tuning, evaluatie en de iteratielus die daarop volgt. De pitch van Liquid is dat 34 biljoen tokens en een context van 128K dat startpunt sterk genoeg maken om het werk waard te zijn.

Als je voor de Bolt E4B kiest, koop je NVIDIA's post-training als uitgangspunt. De BF16-build is 15,88 GB en NVIDIA publiceert twee recepten om die aan te passen: full-parameter training op 8× H100 80GB met FSDP2 en een learning rate van 1e-5, of LoRA op 2× H100 80GB met dimensie 16, alpha 32 en een learning rate van 2e-4. Beide recepten bevriezen de vision- en audiotorens, wat eraan herinnert dat de Gemma 4 E4B-basis multimodaal is, ook al is de Bolt-release alleen tekst.

Dat is een zwaardere fine-tuningbasis dan de 2.69B LFM-base, en een veel lichtere opgave om gedrag op te bouwen. De E4B verzorgt al persona, instructiehiërarchie en tool-timing; je past een werkend model aan, je creëert er geen.

Als je een product bouwt in plaats van een model

De standaard zou de voltooide checkpoint moeten zijn. Een spraakassistent, een NPC, een kioskinterface of een device-agent heeft vanaf dag één gedrag nodig, en van deze twee is de E4B de enige die er überhaupt over beschikt. De zwakke punten zijn gedocumenteerd en specifiek: Tau2-Bench 55.10 tegenover Qwen3.5 4B's 75.06, RULER 86.99 tegenover 95.15, LongBench v2 50.50 tegenover 59.93. Het is een conversationeel model dat tools kan aanroepen, geen agent die kan plannen.

De LFM-base is alleen de juiste aankoop wanneer het model zelf het product is: een domeinspecifieke assistent in een taal of vocabulaire die de algemene modellen slecht aankunnen, een fine-tune op propriëtaire data, of een onderzoeksbaseline die je zelf wilt bezitten. In dat geval is het ontbreken van chatgedrag een kenmerk, want je betaalt niet voor gedrag dat je toch gaat overschrijven.

Er is een derde geval dat geen van beide kaarten behandelt: je wilt ze vergelijken op je eigen taak. Doe dat met een achtergehouden evaluatieset en dezelfde decoding-instellingen, niet met de tabellen van de leveranciers. De kaart van de E4B raadt temperatuur 1.0 en top_p 0.95 aan in beide denkmodi; Liquid publiceert zijn eigen instellingen voor het post-trained checkpoint. Die overnemen is het minimum voor een eerlijke test, en zelfs dan vergelijk je een post-trained model met een basismodel, wat helemaal geen eerlijke test is.

Waar het lokale model eindigt en de rest van de stack begint

Welk checkpoint je ook kiest, het komt terecht in een applicatie die ook modellen nodig heeft die het niet kan draaien. Een 2,6B-base- of 4B-conversatiemodel verzorgt de lokale reflexlaag; het kan geen document van 200K tokens aan, geen pittige codeertaak, of een verzoek dat het oordeel van een frontier-model vereist. Door die verzoeken via één API te routeren — 200+ modellen, 0% markup op de lijstprijs van de provider, automatische failover tussen providers — blijft het lokale model het snelle pad, zonder dat er een tweede contract voor het langzame model nodig is.

Welke download is van jou?

Kies de E4B als je vandaag een klein model nodig hebt dat praat, instructies volgt en tools aanroept, en kunt leven met een download van 6,18 GB en de gedocumenteerde zwakke punten op het gebied van lange context en agentische taken. Kies LFM2.5-2.6B-Base als je een fine-tuningproject start, een venster van 128K en een tokenizer voor 16 talen wilt, en de data en rekenkracht hebt om het model zijn taak te leren.

De fout die je moet vermijden, is de Base downloaden, er prompts op loslaten als op een chatbot en concluderen dat Liquid's 2,6B slechter is dan NVIDIA's 4B. Die is niet slechter. Die staat eerder in de pijplijn. De vergelijking die de vraag binnen de familie echt zou beslechten, is Bolt E4B tegen de nagetrainde LFM2.5-2.6B, en niemand heeft die run nog gepubliceerd.