Ett hero-rubrikkort med texten "LFM3-1.7B vs Nemotron 3.5 Lightning 30B A3B" och underrubriken "Jämförelsen börjar med var den körs", en vänsterpanel som listar 1,73B dense, 256K kontext, cirka 1 GB vid 4-bit och LFM Open License, samt en högerpanel som listar 30B totalt med 3B aktiva, upp till 1M kontext, cirka 22 GB NVFP4 och OpenMDW-1.1. OrcaRouter-logotypen sitter nere till höger.
Guides & Insights

LFM3-1.7B vs Nemotron 3.5 Lightning 30B A3B: En gigabyte mot tjugotvå

Författare

Rowan Sterling

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

De flesta modelljämförelser börjar med en benchmarktabell. Den här måste börja med en minnesbudget, eftersom LFM3-1.7B och Nemotron 3.5 Lightning 30B A3B inte konkurrerar om samma plats i ett system. NVIDIA:s modell, som släpptes den 11 augusti 2026 under OpenMDW-1.1, behöver cirka 22 GB i sin NVFP4-version. Liquid AI:s modell, som tillkännagavs den 27 oktober 2026, behöver ungefär 1 GB i 4-bitars och är utformad för att köras på en telefon. För alla modeller som vi inte själva hostar, är routning kontrollytan snarare än värden. Leverantörernas listpriser förs vidare med 0 % påslag.

Allt som ligger nedströms om detta faktum följer av det. Nemotron 3.5 Lightning är den mer kapabla modellen på varje benchmark som båda leverantörerna publicerade – GPQA Diamond på 75,57 mot 63,37, SWE-bench Verified på 52,80 mot 43,40, såsom anges i utvärderingspanelen på NVIDIA:s eget Hugging Face-kort. Den har även ett kontextfönster på upp till 1 miljon tokens mot 262 144. Om din fråga är vilken modell som är bättre är svaret entydigt, och den här sidan skulle kunna sluta här.

Frågan som i stället är värd att ställa är vilken modell som fyller en funktion i din driftsättning. En modell på 22 GB körs inte på en telefon, en laptop eller en Jetson i någon användbar konfiguration. En modell på 1 GB reparerar inte ett kodförråd. Det är olika begränsningar, och en jämförelse som bara räknar benchmarkpoäng kommer att få dig att köpa fel modell.

Vad passar egentligen var?

Nemotron 3.5 Lightning 30B A3B är en hybridisk mixture-of-experts-modell: 30 miljarder totala parametrar med ungefär 3 miljarder aktiva, 128 routade experter där sex aktiveras plus en delad expert, samt Mamba-2-tillståndsrymdslager varvat med ett litet antal full-attention-lager. NVIDIA levererar BF16-referensvikter och en NVFP4-version på cirka 22 GB som får plats på en enda GPU, och modellen körs på B200, H100, H200, A100, GB200, DGX Spark, RTX 5090 och Jetson-hårdvara.

LFM3-1.7B är tät och liten: 1,73 miljarder parametrar, 24 lager av gated kortkonvolutioner och gles attention, 3,46 GB i BF16 och cirka 1 GB vid 4-bit. Liquids kort säger att den får plats på en telefon eller en laptop, och vid den storleken håller påståendet.

• Totala parametrar — 1,73B dense för LFM3-1.7B; 30B med cirka 3B aktiva för Nemotron 3.5 Lightning.

• Minnesanvändning vid distribution — cirka 1 GB vid 4-bitars precision jämfört med cirka 22 GB i NVFP4.

• Kontext — 262 144 tokens mot upp till 1 000 000, med 256K på en enda H100 och 262K på hostade slutpunkter.

• Modalitet — endast text för båda; ingen av dem har någon bild- eller ljudväg i dessa kontrollpunkter.

• Språk — sexton namngivna för LFM3-1.7B; engelska plus fem för Nemotron 3.5 Lightning.

• Licens — LFM Open License v1.0, gratis under 10 miljoner dollar i årlig intäkt, till skillnad från OpenMDW-1.1, som tillåter kommersiell och icke-kommersiell användning utan något intäktskrav.

Nemotrons hastighetsargument är inte att den är liten

Det skulle vara lätt att läsa "Lightning" och "3B active" som samma säljargument som för en liten tät modell. Det är det inte. NVIDIAs hastighetsberättelse vilar på tre saker som LFM3-modellen inte har: en Mamba-2-hybridarkitektur som skalar bättre för långa sekvenser, prediktion av flera token med spekulativ avkodning och dedikerade utkastmodeller – DSpark för DGX Spark och uppsättningar med låg samtidighet, DFlash som alternativ.

De publicerade mätningarna stöder detta. På en DGX Spark nådde vLLM med DSpark cirka 115,8 token per sekund i enkelström och ungefär 422 token per sekund aggregerat vid åtta samtidiga förfrågningar, jämfört med cirka 79,6 token per sekund utan spekulation. NVIDIA hävdar upp till fyra gånger snabbare generering än modeller av liknande storlek och positionerar modellen på Pareto-fronten för noggrannhet och hastighet.

LFM3-1.7B:s hastighetsfördel är av ett annat slag. Den är snabb eftersom det nästan inte finns något att köra – 1,73 miljarder täta parametrar, en KV-cache på 1,6 GB vid 128K tokens och ingen routing-overhead. Liquid rapporterar 1,8 till 2,8 gånger snabbare avkodning än sina egna föregångare på testad hårdvara och 3,6 miljarder tokens per dag på en enda NVIDIA B300. Det är genomströmning på hårdvara som ingen stoppar i en telefon.

Så de två modellerna är snabba av motsatta skäl: den ena genom att konstruera en stor modell som beräknar mindre per token, den andra genom att vara tillräckligt liten för att frågan är irrelevant. På en server vinner ingenjörskonsten. På en enhet är den lilla modellen det enda alternativ som finns.

A generated two-column scoreboard titled 'LFM3-1.7B vs Nemotron 3.5 Lightning 30B A3B - the scoreboard'. Left column lists 1.73B dense parameters, 1.73B active per token, 262,144-token context, about 1 GB at 4-bit, GPQA Diamond 63.37 and SWE-bench Verified 43.40. Right column lists 30B total, 3B active per token, context up to 1,000,000 tokens, about 22 GB NVFP4, GPQA Diamond 75.57 and SWE-bench Verified 52.80, with a footer reading 'Both columns vendor-reported; Liquid and NVIDIA figures, neither independently reproduced.'

Förmågegapet, sagt rakt ut

NVIDIAs Hugging Face-modellkort listar 81,62 på MMLU-Pro, 75,57 på GPQA Diamond och 52,80 på SWE-bench Verified för Nemotron 3.5 Lightning 30B A3B. Liquid rapporterar 63,37 på GPQA Diamond och 43,40 på SWE-bench Verified för LFM3-1.7B, och publicerar inte någon MMLU-Pro-siffra för den modellen alls.

Två av dessa tre är direkt jämförbara och båda talar för NVIDIA, med 12,2 respektive 9,4 poäng. Det är en verklig lucka just på de uppgifter där en liten dense-modell är svagast: vetenskapligt resonemang på avancerad nivå och kodreparation i kodförrådsomfattning. Liquids eget modellkort medger det andra och anger att modellen inte rekommenderas för agentisk kodning eller komplexa flerstegsresonemang på grund av sin lilla storlek.

En varning om de exakta siffrorna: NVIDIAs publicerade siffror för denna checkpoint varierar något mellan lanseringsmaterialet och Hugging Faces utvärderingspanel – tidigare texter angav 75,44 och 51,56 för samma två benchmarks. Riktningen och den ungefärliga storleken på gapet är stabil mellan versioner; behandla de specifika decimalerna som leverantörsrapporterade och versionsberoende snarare än som en fast poäng.

Där LFM3-1.7B har egna siffror är de agentiska snarare än kunskapsbaserade: 71,39 på BFCL V4, 80,36 på ToolSandbox, 68,01 på τ³-bench, 38,42 på WebArena-Verified, 96,66 på IFEval. NVIDIA publicerar inga BFCL- eller ToolSandbox-siffror för denna checkpoint, så de kan inte ställas mot varandra. NVIDIA rapporterar 86 % noggrannhet på PinchBench över 10 000 uppgifter, slutförda 30 % snabbare än Qwen3.6-35B vid liknande noggrannhet – ett påstående som Liquid inte har någon motsvarighet till. De två leverantörerna mätte helt enkelt olika saker, och endast överlappningen stöder en slutsats.

Kontext är det största verkliga gapet

En miljon tokens mot 262 144 är ingen marginell skillnad. Nemotron 3.5 Lightnings inbyggda fönster är fyra gånger längre, och till och med den konservativa konfigurationen med en enda H100 vid 256K matchar LFM3-modellens maximum. För arbetsbelastningar byggda kring kontext för hela arkiv, långsiktiga agentspår eller timslånga transkript är den lilla modellens fönster begränsningen innan dess kapacitet blir det.

Det är dock värt att notera att ett långt fönster och förmåga att behålla lång kontext är olika påståenden. LFM3-1.7B rapporterar 65,56 på RULER vid 128K, vilket är blygsamt — den kan ta emot 262K tokens men behåller inte hela den kontexten lika bra. NVIDIA har inte publicerat någon RULER-siffra för denna checkpoint i de material som granskats här, så jämförelsen av kontextbevarande kan inte göras. Utgå inte ifrån att 1M-fönstret motsvarar 1M användbar attention.

A headless-browser capture of Liquid AI's LFM3 announcement post dated October 27, 2026, showing the headline 'Introducing LFM3: Every Modality for Specialized Intelligence', a highlights panel listing six 2B-class models on one backbone, a text model fitting in about 1 GB at 4-bit, a 256K context window, and single-GPU fine-tuning.

Licenser skiljer sig mer än vad benchmarkarna antyder

Detta är den enda dimensionen där den lilla modellens leverantör gjorde det mindre bekväma valet. Nemotron 3.5 Lightning 30B A3B släpps under OpenMDW-1.1, som tillåter kommersiell och icke-kommersiell användning utan intäktströskel. LFM3-1.7B omfattas av LFM Open License v1.0, gratis för kommersiell användning under 10 miljoner USD i årliga intäkter, med krav på betald kommersiell licens över den gränsen.

För en enskild utvecklare eller en startup är skillnaden teoretisk. För ett team inom ett stort företag, eller ett som planerar att bli stort, är det ett upphandlingssteg som Nemotron helt undviker. Med tanke på att LFM3-1.7B:s hela budskap är driftsättning i din egen produkt är licensen värd att läsa innan arkitekturen är värd att beundra.

Där 1 GB-modellen fortfarande är svaret

Inget av ovanstående gör LFM3-1.7B till en dålig modell. Det gör den till en modell med en snäv driftsättningsenvelopp, och inom den enveloppen är ingenting hos Nemotron 3.5 Lightning relevant, eftersom den större modellen inte kan vara där överhuvudtaget.

Om produkten ska köras på en telefon, en bärbar dator, en AI-dator utan separat GPU eller en fältenhet är LFM3-1.7B inte kompromissen – det är den enda i det här paret som går att köra. Ett kontextfönster på 262 144 token på en enhet som får plats i fickan är verkligen ovanligt, och ordförrådet för sexton språk täcker de flesta regionala utrullningar. För verktygsanrop, strukturerad extraktion, klassificering och lokala assistenter räcker det för att bygga en produkt.

Det rätta mönstret för de flesta team är att använda båda, skiktat. Behåll LFM3-1.7B på enheten för de snabba, privata, schemaformade anropen, och skicka det resonemangstunga arbetet eller arbetet i repositoriestorlek till en serverbaserad modell. Det är ett arkitekturbeslut, inte en modellpreferens, och det råkar vara så de flesta agenter i produktion redan är byggda.

Ett routningslager hör hemma på servernivån. Nemotron 3.5 Lightning tillhandahålls via NVIDIAs egen stack och ett antal tredjepartsplattformar, och OrcaRouters roll är den som den spelar för alla modeller vi inte själva driftar: en enda nyckel och en enda faktura för fler än 200 modeller, leverantörernas listpriser förs vidare med 0 % påslag, och automatisk failover mellan leverantörer så att en agent som körs länge inte misslyckas för att en slutpunkt har försämrats. Varken LFM3-1.7B eller Nemotron 3.5 Lightning finns i vår katalog i dag — båda är nedladdningar med öppna vikter, och den mindre är avsedd att köras på hårdvara du äger.

Golvet är poängen

A headless-browser capture of NVIDIA's Nemotron 3.5 Lightning 30B A3B NVFP4 model card on Hugging Face, showing the OpenMDW-1.1 licence badge, an accuracy comparison chart, a model summary listing 30B total parameters with 3B active, a MoE Mamba-2 plus attention hybrid architecture, a context length up to 1M tokens, single-GPU deployment on one DGX Spark or one H100, DSpark and MTP speculative decoding, and a release date of August 11, 2026.

Om du har ett GPU och ditt problem är kapacitet är Nemotron 3.5 Lightning 30B A3B den bättre modellen med tydlig marginal, och det finns inget att diskutera. Den resonerar bättre, reparerar kod bättre, rymmer fyra gånger så mycket kontext och dess licens har inget intäktstest.

Om du har en enhet och problemet är att inget annat får plats på den, vänds jämförelsen helt. En modell på 22 GB är inte aktuell, och de relevanta siffrorna blir 1 GB, 262 144 tokens och en verktygsanropsprofil som är så pass stark att Liquid lyfte fram den som modellens främsta förmåga.

Den öppna frågan är om Nemotrons effektivitetsrecept kan komprimeras ytterligare. En 30B-modell med 3B aktiva parametrar körs redan på en Jetson; en verkligt stark 2B-klassmodell i samma familj skulle sätta de här två i samma samtal i stället för på varsin sida av en minnesvägg. Fram till dess är den ärliga jämförelsen inte mellan deras resultat i benchmarktester utan mellan den hårdvara som var och en kräver – och bara en av dem kräver ingen.