LFM3-1.7B vs Nemotron 3.5 Lightning 30B A3B: Eén gigabyte tegen tweeëntwintig

De meeste modelvergelijkingen beginnen met een benchmarktabel. Deze moet beginnen met een geheugenbudget, omdat LFM3-1.7B en Nemotron 3.5 Lightning 30B A3B niet om dezelfde plek in een systeem concurreren. Het model van NVIDIA, uitgebracht op 11 augustus 2026 onder OpenMDW-1.1, heeft ongeveer 22 GB nodig in zijn NVFP4-build. Dat van Liquid AI, aangekondigd op 27 oktober 2026, heeft ongeveer 1 GB nodig bij 4-bit en is ontworpen om op een telefoon te draaien.Voor elk model dat we niet zelf hosten, is routing het controlevlak in plaats van de host. Lijstprijzen van providers worden doorgegeven tegen 0% opslag.

Alle verdere gevolgen vloeien voort uit dat feit. Nemotron 3.5 Lightning is het capabelere model op elke benchmark die beide leveranciers hebben gepubliceerd — GPQA Diamond op 75,57 tegen 63,37, SWE-bench Verified op 52,80 tegen 43,40, zoals vermeld in het evaluatiepaneel op NVIDIA's eigen Hugging Face-kaart. Het heeft ook een contextvenster van maximaal 1 miljoen tokens tegenover 262.144. Als je vraag is welk model beter is, is het antwoord ondubbelzinnig en zou deze pagina hier kunnen eindigen.

De vraag die je in plaats daarvan zou moeten stellen, is welk model een rol heeft in je deployment. Een model van 22 GB draait in geen enkele bruikbare configuratie op een telefoon, een laptop of een Jetson. Een model van 1 GB repareert geen repository. Dat zijn verschillende beperkingen, en een vergelijking die alleen benchmarkpunten telt, zal je ertoe aanzetten de verkeerde te kopen.

Wat past eigenlijk waar?

Nemotron 3.5 Lightning 30B A3B is een hybride mixture-of-experts-model: 30 miljard totale parameters met ongeveer 3 miljard actieve, 128 gerouteerde experts waarvan er zes worden geactiveerd plus één gedeelde expert, en Mamba-2-state-space-lagen afgewisseld met een klein aantal volledige-attentielagen. NVIDIA levert BF16-referentiegewichten en een NVFP4-build van ongeveer 22 GB die op één GPU past, en het model draait op B200, H100, H200, A100, GB200, DGX Spark, RTX 5090 en Jetson-hardware.

LFM3-1.7B is dense en klein: 1,73 miljard parameters, 24 lagen met gegate korte convoluties en sparse attention, 3,46 GB in BF16 en ongeveer 1 GB bij 4-bit. Volgens de modelkaart van Liquid past het op een telefoon of een laptop, en bij die omvang houdt die bewering stand.

• Totaal aantal parameters — 1,73B dense voor LFM3-1.7B; 30B met ongeveer 3B actief voor Nemotron 3.5 Lightning.

• Implementatiegeheugen — ongeveer 1 GB bij 4-bit tegenover ongeveer 22 GB in NVFP4.

• Context — 262.144 tokens tegenover maximaal 1.000.000, met 256K op één H100 en 262K op gehoste endpoints.

• Modaliteit — beide alleen tekst; geen van beide bevat een visie- of audiopad in deze checkpoints.

• Talen — zestien genoemd voor LFM3-1.7B; Engels plus vijf voor Nemotron 3.5 Lightning.

• Licentie — LFM Open License v1.0, gratis onder $10 miljoen jaarlijkse omzet, tegenover OpenMDW-1.1, dat commercieel en niet-commercieel gebruik toestaat zonder een omzettoets.

Het snelheidsargument van Nemotron is niet dat het klein is.

Het zou gemakkelijk zijn om "Lightning" en "3B active" te lezen als hetzelfde verkooppraatje als bij een piepklein dense model. Dat is het niet. Het snelheidsverhaal van NVIDIA berust op drie dingen die het LFM3-model niet heeft: een hybride Mamba-2-architectuur die beter schaalt bij lange sequenties, multi-tokenvoorspelling met speculatieve decoding, en speciale draftmodellen — DSpark voor DGX Spark en configuraties met lage gelijktijdigheid, DFlash als alternatief.

De gepubliceerde metingen bevestigen dit. Op een DGX Spark bereikte vLLM met DSpark ongeveer 115,8 tokens per seconde bij één stream en ruwweg 422 tokens per seconde geaggregeerd bij acht gelijktijdige verzoeken, tegenover ongeveer 79,6 tokens per seconde zonder speculatie. NVIDIA claimt tot vier keer snellere generatie dan vergelijkbaar grote modellen en positioneert het model op de Paretofrontier voor nauwkeurigheid en snelheid.

Het snelheidsvoordeel van LFM3-1.7B is van een andere aard. Het is snel omdat er bijna niets te draaien valt — 1,73 miljard dichte parameters, een KV-cache van 1,6 GB bij 128K tokens, en geen routing-overhead. Liquid meldt een 1,8 tot 2,8 keer snellere decodering dan zijn eigen voorgangers op geteste hardware en 3,6 miljard tokens per dag op één NVIDIA B300. Dat is doorvoer op hardware die niemand in een telefoon stopt.

Dus de twee modellen zijn snel om tegenovergestelde redenen: het ene doordat een groot model zo is ontworpen dat het minder rekenwerk per token verricht, het andere doordat het zo klein is dat de vraag niet meer relevant is. Op een server wint het technisch ontwerp. Op een apparaat is het kleine model de enige optie die bestaat.

De capaciteitskloof, simpelweg gesteld

De Hugging Face-kaart van NVIDIA vermeldt 81,62 op MMLU-Pro, 75,57 op GPQA Diamond en 52,80 op SWE-bench Verified voor Nemotron 3.5 Lightning 30B A3B. Liquid rapporteert 63,37 op GPQA Diamond en 43,40 op SWE-bench Verified voor LFM3-1.7B, en publiceert voor dat model helemaal geen MMLU-Pro-cijfer.

Twee van die drie zijn direct vergelijkbaar en beide in het voordeel van NVIDIA, met 12,2 en 9,4 punten. Dat is een reëel verschil precies op de taken waarop een klein dense model het zwakst is: wetenschappelijk redeneren op masterniveau en codeherstel op repositoryschaal. Liquids eigen modelkaart geeft het tweede toe en stelt dat het model vanwege zijn kleine omvang niet wordt aanbevolen voor agentic coding of complexe meerstapsredenering.

Een voorbehoud bij de exacte cijfers: NVIDIA's gepubliceerde cijfers voor dit checkpoint wijken licht af tussen de release-materialen en het Hugging Face-evaluatiepaneel — eerdere stukken noemden 75.44 en 51.56 voor dezelfde twee benchmarks. De richting en ruwe omvang van de kloof zijn stabiel over versies; beschouw de specifieke decimalen als door de leverancier gerapporteerd en versieafhankelijk, niet als een vaste score.

Waar LFM3-1.7B eigen cijfers heeft, zijn die agentisch in plaats van kennisgebaseerd: 71,39 op BFCL V4, 80,36 op ToolSandbox, 68,01 op τ³-bench, 38,42 op WebArena-Verified, 96,66 op IFEval. NVIDIA publiceert geen BFCL- of ToolSandbox-cijfers voor deze checkpoint, dus die kunnen niet naast elkaar worden gelegd. NVIDIA rapporteert wel 86% nauwkeurigheid op PinchBench over 10.000 taken, 30% sneller voltooid dan Qwen3.6-35B bij vergelijkbare nauwkeurigheid — een claim waarvoor Liquid geen tegenhanger heeft. De twee leveranciers hebben simpelweg verschillende dingen gemeten, en alleen de overlap ondersteunt een oordeel.

Context is de grootste echte kloof.

Een miljoen tokens tegenover 262.144 is geen marginaal verschil. Het native venster van Nemotron 3.5 Lightning is vier keer zo lang, en zelfs de conservatieve single-H100-configuratie op 256K komt overeen met het maximum van het LFM3-model. Voor workloads die zijn gebouwd rond context van een volledige repository, agent-traces over een lange horizon of transcripts van een uur, is het venster van het kleine model de beperking voordat zijn capaciteit dat is.

Het is echter wel vermeldenswaard dat een groot venster en het behouden van lange context twee verschillende beweringen zijn. LFM3-1.7B rapporteert 65,56 op RULER bij 128K, wat bescheiden is — het kan 262K tokens accepteren, maar houdt niet al die context even goed vast. NVIDIA heeft voor dit checkpoint in de hier beoordeelde materialen geen RULER-score gepubliceerd, dus de vergelijking qua retentie kan niet worden gemaakt. Ga er niet van uit dat een venster van 1M zich vertaalt naar 1M aan bruikbare attention.

Licenties verschillen meer dan de benchmarks suggereren

Dit is de enige dimensie waarop de leverancier van het kleine model de minder handige keuze heeft gemaakt. Nemotron 3.5 Lightning 30B A3B is uitgebracht onder OpenMDW-1.1, die commercieel en niet-commercieel gebruik toestaat zonder omzetdrempel. LFM3-1.7B valt onder de LFM Open License v1.0, gratis voor commercieel gebruik onder $10 miljoen jaarlijkse omzet, waarbij boven die grens een betaalde commerciële licentie vereist is.

Voor een individuele ontwikkelaar of een startup is het verschil theoretisch. Voor een team binnen een groot bedrijf, of een team dat van plan is groot te worden, is het een inkoopstap die Nemotron volledig vermijdt. Aangezien de hele propositie van LFM3-1.7B draait om implementatie in je eigen product, is de licentie het lezen waard voordat de architectuur het bewonderen waard is.

Waar het 1 GB-model nog steeds het antwoord is

Niets van het bovenstaande maakt LFM3-1.7B een slecht model. Het maakt er een model van met een smalle inzetbaarheidsmarge, en binnen die marge is niets aan Nemotron 3.5 Lightning relevant, omdat het grotere model daar helemaal niet kan zijn.

Als het product op een telefoon, een laptop, een AI-pc zonder aparte GPU of een veldapparaat moet draaien, is LFM3-1.7B niet het compromis — het is het enige lid van dit paar dat werkt. Een context van 262.144 tokens op een apparaat dat in je zak past, is echt ongewoon, en de woordenschat van zestien talen dekt de meeste regionale implementaties. Voor tool calling, gestructureerde extractie, classificatie en lokale assistenten is dat genoeg om een product te bouwen.

Het juiste patroon voor de meeste teams is beide, gelaagd. Houd LFM3-1.7B op het apparaat voor de snelle, privé, schema-conforme calls, en stuur werk dat veel redeneervermogen vereist of op repositoryschaal plaatsvindt naar een server-side model. Dat is een architectuurkeuze, geen modelvoorkeur, en het is toevallig ook hoe de meeste agents die al in productie zijn, zijn gebouwd.

Waar een routeringslaag past, is de servertier. Nemotron 3.5 Lightning wordt aangeboden via NVIDIA's eigen stack en een aantal externe platforms, en de rol van OrcaRouter is dezelfde als voor elk model dat we niet zelf hosten: één sleutel en één factuur voor meer dan 200 modellen, de lijstprijzen van providers doorgegeven met 0% opslag, en automatische failover tussen providers zodat een langlopende agent niet faalt omdat één endpoint achteruit is gegaan. Noch LFM3-1.7B noch Nemotron 3.5 Lightning staat vandaag in onze catalogus — beide zijn open-weight downloads, en het kleine model is bedoeld om te draaien op hardware die je zelf bezit.

De vloer is waar het om gaat

Als je een GPU hebt en je probleem capaciteit is, is Nemotron 3.5 Lightning 30B A3B met duidelijke marge het betere model, en daar valt niet over te twisten. Het redeneert beter, repareert code beter, ondersteunt vier keer zoveel context, en de licentie kent geen omzettoets.

Als je een apparaat hebt en je probleem is dat er niets anders op past, keert de vergelijking volledig om. Een model van 22 GB is geen kandidaat, en de relevante getallen worden 1 GB, 262,144 tokens en een tool-calling-profiel dat sterk genoeg is dat Liquid het als de belangrijkste capaciteit van het model heeft gepubliceerd.

De open vraag is of Nemotrons efficiëntierecept verder kan worden gecomprimeerd. Een 30B-model met 3B actieve parameters draait al op een Jetson; een echt sterk model in de 2B-klasse uit dezelfde familie zou deze twee in hetzelfde gesprek brengen in plaats van aan weerszijden van een geheugenmuur. Tot die tijd is de eerlijke vergelijking niet die tussen hun benchmarkscores, maar die tussen de hardware die elk vereist — en slechts één van beide heeft helemaal geen hardware nodig.