Titelkaart met de tekst 'Introductie van LFM3', de ondertitel 'Zes 2B-modellen, één backbone' en drie chips: '256K-context', '6 checkpoints' en '1 GB bij 4-bit'.
Guides & Insights

Introductie van LFM3: zes 2B-modellen, één backbone en een 256-tokenvenster dat geen context is

Auteur

Rowan Sterling

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

De LFM3-familie van Liquid AI verscheen op 27 oktober 2026 als zes checkpoints in de 2B-klasse in plaats van één vlaggenschip: LFM3-1.7B voor tekst, LFM3-VL-2B voor beeld, LFM3-Audio-2B voor spraak, LFM3-Omni-2B voor alles tegelijk, plus twee beslissingsmodellen, d1-2B en d1-omni-2B. Alle zes stammen af van één vooraf getrainde backbone, LFM3-1.7B-Base, die Liquid ook uitbracht. Het bedrijf positioneert dit als "gespecialiseerde intelligentie" — een bewuste weigering om een kleine generalist uit te brengen en op de verkeerde as te concurreren.

Binnen een dag na de aankondiging werd één getal uit de technische uiteenzetting al verkeerd gelezen. De architectuur van LFM3 vermeldt sliding-window-attentielagen met een venster van 256 tokens. Dat is de attention-geometrie per laag, niet de contextlengte van het model. Het tekstmodel heeft een context van 256K tokens. Lezers die de lagentabel vluchtig bekeken en concludeerden dat Liquid een 2026-model met een geheugen van 256 tokens had uitgebracht, hebben het verkeerde model in hun hoofd, en dat is het waard om recht te zetten voordat de rest van dit stuk ergens op slaat.

Wat de tri-hybride architectuur eigenlijk is

LFM3 vervangt de tweerichtingsmix van LFM2 door drie laagtypen die in een body van 24 lagen zijn gestapeld. Dertien lagen zijn gated korte convoluties, vijf zijn sliding-window-attention met een venster van 256 tokens en zes zijn volledige globale attention. De convolutiekernel wordt breder van 3 naar 7. Drie kleinere wijzigingen gaan mee: een sigmoïde poort die de output van elke attention-head afzonderlijk schaalt, partiële rotary embeddings in de globale lagen die alleen de hoogfrequente helft van elke head roteren, en een sandwich-normalisatie die zowel de input als de output van elk blok conditioneert.

De gok is dat korte convoluties het grootste deel van de lokale structuur goedkoop dragen, sparse attention de middellange afstand afhandelt, en een dunne strook globale attention het hele venster van 256K aan elkaar naait. Daarom blijft de KV-cache klein genoeg om ertoe te doen — Liquid meldt een volledige cache van 128K tokens van 1,6 GB, tegenover 4,3 GB voor Qwen3.5-4B en 5,6 GB voor MiniCPM5-2B bij dezelfde meting. Het tekstmodel zelf past in ongeveer 1 GB bij 4-bit precisie.

De training verliep in vier fasen: 22 biljoen pre-trainingtokens, een mid-trainingfase van 3,5 biljoen tokens met veel agentische sporen en tool-aanroepen, die ook de context naar 256K uitbreidde, supervised fine-tuning op 1,75 biljoen tokens, en vervolgens gemengde reinforcement learning gecombineerd met multi-domein on-policy distillatie van zes gespecialiseerde leerkrachten. Het vocabulaire bestaat uit 128K tokens, wordt gedeeld met LFM2.5-8B-A1B en is gebouwd om niet-Latijnse schriften efficiënter te tokeniseren dan zijn voorganger.

De zes modellen, en waar hun context naartoe gaat

Liquid benadrukt expliciet dat dit zustermodellen zijn, geen niveaus. Elk gebruikt dezelfde backbone en wordt post-getraind voor een andere uitvoervorm.

Screenshot of Liquid AI's blog post 'Introducing LFM3: Every Modality for Specialized Intelligence', dated OCT 27, 2026, showing its opening paragraphs: that LFM3 brings text, vision, audio, omni and decision models onto one shared backbone, that the first release covers the 2B parameter range, that it was built on a new hybrid architecture and 22T tokens of pre-training, and that the base and post-trained models are open-weight on Hugging Face, the Liquid Playground and the Liquid AI API.

• LFM3-1.7B — dense tekst- en agentmodel, 1,73 miljard parameters, 256K context, native tool calling en gestructureerde output.

• LFM3-VL-2B — visie-taal, 1,9 miljard parameters, met een intern ontwikkelde vision-encoder waarvan Liquid zegt dat die ongeveer een derde van de rekenkracht van SigLIP2 nodig heeft.

• LFM3-Audio-2B — ASR, TTS, spraakvertaling en audiobegrip, met een eigen encoder plus LiquidCodec.

• LFM3-Omni-2B — Liquid's eerste omni-model: tekst, afbeelding, video en audio als invoer, tekst of spraak als uitvoer.

• d1-2B — een beslissingsmodel gebouwd op de visietak dat gestructureerde vragen beantwoordt in één enkele forward pass met gekalibreerde waarschijnlijkheden in plaats van vrijlopende proza.

• d1-omni-2B — dezelfde beslissingsinterface op de omni-tak.

De contextvensters zijn niet uniform, en dat is het detail dat de meeste berichtgeving rond de lancering achterwege liet. Liquid publiceert een venster voor het tekstmodel en het basismodel — 256K, invoer en uitvoer samen — en voor geen van de andere vier. Noch de aankondiging, noch de modeldocumentatie vermeldt een contextlengte voor LFM3-VL-2B, LFM3-Audio-2B, LFM3-Omni-2B of een van de twee beslissingsmodellen. In artikelen van derden zijn 128K voor het visiemodel en 32K voor het omni-model rondgegaan, en die cijfers kloppen mogelijk wel, maar per 28 oktober staan ze niet op Liquid's eigen pagina's. Als je een agent plant die lange documenten leest en ook naar screenshots kijkt, kun je de context van het omni-model momenteel helemaal niet bepalen op basis van documentatie van Liquid zelf. Dat is een lacune die het benoemen waard is, in plaats van haar op te vullen vanuit een blog die haar ergens anders vandaan heeft opgevuld.

Screenshot of the Hugging Face model card for LiquidAI/LFM3-1.7B showing 1.73B parameters, 24 layers made of 13 gated short convolutions, 5 sliding-window attention and 6 global attention, 256K token context, a 128,000-token vocabulary, 16 listed languages, the LFM Open License v1.0, about 1 GB of memory at 4-bit precision, 6,311 downloads in the last month, and the card's own note that the model is not recommended for agentic coding or complex multi-step reasoning due to its small size.

De benchmarktabel, eerlijk gelezen

Elk prestatiecijfer hieronder is van Liquid zelf, tot stand gekomen met Liquids eigen testharnas, en niets ervan is onafhankelijk gereproduceerd. Per 28 oktober 2026 staat er geen LFM3-vermelding op Artificial Analysis — geen Intelligence Index, geen snelheids- of latentiemeting van een neutrale partij. Dat is hier meer dan anders van belang, omdat de vergelijking waarop de lancering leunt een vergelijking binnen hetzelfde testharnas is, die gunstig uitpakt voor welk model het harnas ook is afgestemd.

LFM3-1.7B scoort 49,37 op het gemiddelde van Liquid over 27 benchmarks. Het eigen LFM2.5-2.6B van het bedrijf scoort 31,55 op dezelfde set, en daar komt de bewering "35% minder parameters" vandaan. De interessante rijen zijn niet het gemiddelde:

• Toolgebruik — BFCL V4 71,39, ToolSandbox 80,36, τ³-bench 68,01, MCP-Atlas 32,57.

• Agentisch web — WebArena-Verified 38.42, AutomationBench 41.29, BrowseComp-Plus 37.00, LiveClaw 45.60.

• Agentisch coderen — SWE-bench Verified 43,40, SWE-bench Multilingual 23,00, Terminal-Bench 2.1 op 12,92.

• Instructies volgen — IFEval 96,66, IFStruct 93,72, IFBench 73,03, Multi-IF 89,10.

• Kennis — GPQA Diamond 63,37, HLE 7,17 zonder hulpmiddelen en 13,90 met hulpmiddelen.

• Lange context — RULER 128K 65,56, AA-LCR 52,83.

Als je het profiel als een vorm leest in plaats van als een totaal, is het coherent: zeer sterke naleving van instructies, respectabele tool-calling in één beurt, en een steile daling zodra een taak veel opeenvolgende stappen vereist. Terminal-Bench 2.1 met 12,92 en SWE-bench Multilingual met 23,00 zijn geen cijfers waarop je een autonome codeeragent bouwt. Liquid verbergt dit niet — de modelkaart houdt gebruikers weg van complexe redeneertaken en programmeren in meerdere stappen, wat een ongewoon directe vorm van positionering is voor een leverancier op de lanceringsdag.

De efficiëntieclaims vormen de andere helft van de pitch. Bij Q4_0 en een context van 32K zegt Liquid dat LFM3-1.7B het snelste model was op alle drie de testapparaten, 1,8× tot 2,8× sneller dan de naaste concurrent, met de laagste geheugenvoetafdruk. Op één enkele NVIDIA B300 met SGLang in BF16 verwerkte het 3,6 miljard tokens per dag bij 1.024 gelijktijdige verzoeken. Het bedrijf liet ook meer dan 300.000 LFM3-1.7B-agents parallel draaien op het Enron-e-mailarchief als stressdemonstratie. Dat zijn cijfers van de leverancier, niet geauditeerd, maar het zijn wel het soort cijfers dat je niet ongemerkt kunt opblazen.

Single-column scoreboard for LFM3-1.7B with six rows: parameters 1.73B dense, context 256K tokens, BFCL V4 71.39, SWE-bench Verified 43.40, AA Intelligence Index none yet, and licence LFM Open v1.0. The footer reads 'All figures vendor-reported by Liquid AI; no independent evaluation as of 28 Oct 2026.'

Licentie en wat het kost om het te draaien

De gewichten staan op Hugging Face in BF16-, FP8-, NVFP4-, GGUF-, MLX- en ONNX-builds, met ondersteuning vanaf dag één in vLLM, SGLang, Transformers, llama.cpp, MLX, ONNX Runtime, Ollama en LM Studio. De licentie is de LFM Open License v1.0: royaltyvrij commercieel gebruik onder $10 miljoen jaarlijkse omzet, met een aparte overeenkomst daarboven. Die drempel, niet het aantal parameters, is de grens die bepaalt of LFM3 gratis is voor een bepaald bedrijf.

Liquid runt ook een gehoste API, en daar is het openbare dossier dunner dan de lancering suggereert. De documentatie vermeldt de model-ID en een limiet van 256K invoer plus uitvoer, maar geen tariefkaart. Berichtgeving door derden schat het gehoste tarief voor LFM3-1.7B op ongeveer $0,08 per miljoen invoertokens en $0,20 per miljoen uitvoertokens, waarbij de vision-, audio-, omni- en decision-varianten duurder zijn geprijsd; Liquid heeft die cijfers niet op zijn eigen pagina's gepubliceerd, dus beschouw ze als gerapporteerd in plaats van bevestigd. Zelfhosting daarentegen kent helemaal geen prijs per token — de kosten zijn de machine, en bij 4-bit kan die machine een telefoon zijn.

Waar OrcaRouter past — en waar niet

LFM3 staat niet in de OrcaRouter-catalogus, en we gaan niet doen alsof dat anders is. Het is open-weight software die je zelf draait of via de eigen API van Liquid aanroept. Waar de router goed voor is, is de laag eromheen. Een 1.7B-specialist is zelden het enige model in een pipeline: hij verzorgt de tool call, de classificatie of de extractie, en iets groters verzorgt de beurt die beoordelingsvermogen vereist. OrcaRouter zet die gehoste modellen achter één sleutel met 0% markup — de lijstprijs van de provider wordt rechtstreeks doorgegeven — dus het escalatiepad van LFM3 naar een frontier-model is een routingregel in plaats van een tweede contract. De automatische failover is het belangrijkst voor precies de workload waarop LFM3 zich richt, waarbij één klein model het enige is dat tussen een verzoek en een fout staat.

De routing-DSL is de interessantere toepassing. Een specialist en een generalist in één aanroep combineren — LFM3-werk naar een klein model routeren, al het overige laten doorvallen naar een gehost model — is het implementatiepatroon waar deze familie voor is gebouwd. Het hele argument van Liquid is dat een 2B-model een frontier-model verslaat op een smalle taak, tegen een fractie van de kosten. Een router is hoe je die besparing verzilvert zonder de hele pipeline erop te verwedden.

Wat te kijken

De open vraag is niet of LFM3 goed is in wat het beweert. Het is of de beweringen standhouden in een harness die Liquid niet heeft geschreven. De agentische cijfers van de familie zijn de eerste die opnieuw getest moeten worden, omdat WebArena-Verified op 38,42 en AutomationBench op 41,29 ver boven liggen wat een 1,7B-model historisch heeft gehaald, en agentische benchmarks het gevoeligst zijn voor prompt-scaffolding en retry-beleid. Een onafhankelijke run die binnen een paar punten van Liquids tabel uitkomt, zou LFM3 de standaardkeuze maken voor tool calling op het apparaat. Een run die tien punten lager uitkomt, zou er een goede instruction follower van maken met een overdreven agentverhaal.

Totdat die run er is, luidt de eerlijke samenvatting als volgt: LFM3 is een goed ontworpen, ongewoon openhartige familie kleine modellen met een werkelijk vernieuwende combinatie van lagen, een echt geheugenvoordeel, gepubliceerde gewichten onder een werkbare licentiedrempel, en geen onafhankelijke verificatie van welke toonaangevende benchmark dan ook. Het venster van 256 tokens in de architectuurtabel is niet de contextlengte. Al het andere in de lancering is het waard om voor waar aan te nemen tot iemand het tegendeel bewijst — en om zelf te meten voordat je het aan gebruikers voorlegt.