LFM3-1.7B-Base: Wat de repo zegt, en wat Liquid AI niet heeft gezegd

Het meest bepalende checkpoint in Liquid AI's nieuwe familie is het exemplaar waarover het minst te lezen valt. LFM3-1.7B-Base is een voorgetraind model met 1,73 miljard parameters dat uitsluitend tekst verwerkt, en op 27 oktober 2026 werd het de stam waarop elk nagetraind LFM3-model werd gebouwd — het tekstmodel, het visiemodel, het audiomodel, het omni-model en beide beslissingsmodellen. De lanceringspost van de familie noemt het in één enkele bijzin. Er is geen afzonderlijke aankondiging voor, geen benchmarktabel voor het basismodel en geen persaandacht die erop is gericht. De repository is daarentegen ongebruikelijk expliciet over wat het checkpoint is en waarvoor het dient, waardoor dit een gemakkelijke release is om te beschrijven en een moeilijke om te overdrijven. Er wordt geen opslag toegevoegd aan wat de modelprovider in rekening brengt. Lijstprijzen van providers Een prijswijziging van een leverancier bereikt je factuur dezelfde dag.

Wat volgt scheidt die twee dingen. Alles in de eerste helft komt uit de modelkaart, het configuratiebestand, de licentietekst of de eigen lanceerpost van Liquid, en is vandaag controleerbaar. De tweede helft is wat drie dagen nadat de gewichten online zijn gezet, nog steeds echt onbekend blijft.

Twee repositories, één lanceringsbericht en een gat van twaalf uur

De tijdstempels vertellen het verhaal van een release die in het openbaar plaatsvond voordat die in de marketing plaatsvond. De post-trained LFM3-1.7B-repository werd aangemaakt op 23 oktober 2026. De base-repository werd aangemaakt op 26 oktober om 16:28 UTC, en de kaart ervan werd voor het laatst gewijzigd op 27 oktober om 04:15 UTC — minder dan twaalf uur later. Het blogbericht "Introducing LFM3: Every Modality for Specialized Intelligence" is gedateerd op 27 oktober. Tegen de tijd dat iemand buiten het bedrijf een specificatie kon lezen, lagen de weights al een dag op Hugging Face.

Die volgorde is het waard om expliciet te benoemen, omdat dit hier het dichtst in de buurt komt van een "stille release". Liquid heeft de familie wel aangekondigd, en in de aankondiging wordt LFM3-1.7B-Base genoemd als de checkpoint waarop de andere zes modellen zijn getraind. Wat het bedrijf niet heeft gedaan, is de basis-checkpoint op eigen voorwaarden aankondigen — geen aparte post, geen evaluatie specifiek voor de base, geen positionering verder dan één alinea in de kaart. De familie kreeg de lancering. De stam kreeg een repository en een verwijzing naar de familie.

Wat staat er in de repository

De kaart is compact en, voor één keer, compleet wat de basis betreft. Eén model.safetensors-bestand van 3,46 GB in bfloat16. Een tokenizer met een vocabulaire van 128.000 tokens. Modelcode geleverd als aangepaste Python naast de gewichten, geladen met trust_remote_code=True in plaats van via een samengevoegde upstream Transformers-release. De licentie is de LFM Open License v1.0, dezelfde familie licentievoorwaarden die Liquid sinds LFM2 gebruikt.

• Parameters — 1,73 miljard, dense, elke parameter wordt bij elk token gelezen.

• Lagen — 24: dertien gegate korte convolutieblokken, vijf aandachtsblokken met schuifvenster, zes volledige-attentieblokken.

• Context — 262,144 tokens, invoer plus uitvoer.

• Aandachtsgeometrie — verborgen grootte 2.048, zestien query-heads, vier key-value-heads, headdimensie 128. Dat is vier-op-één grouped-query-attention, niet de acht-op-één van LFM2.5.

• Lokaal venster — 256 tokens, met een convolutiecache van zeven. Dit is een attention-instelling per laag, niet de contextlengte, en het veroorzaakte een kleine golf van onjuiste berichtgeving toen de architectuur voor het eerst opdook in een engine pull request, een dag voor de lancering.

• Woordenschat en talen — 128.000 tokens, zestien talen vermeld: Engels, Arabisch, Chinees, Frans, Duits, Italiaans, Japans, Koreaans, Portugees, Spaans, Vietnamees, Thais, Indonesisch, Hindi, Russisch, Pools.

• Geheugen — ongeveer 1 GB bij 4-bits precisie volgens Liquid, 3,46 GB zoals geleverd in BF16.

Eén kleine inconsistentie is het weten waard voordat je een grootte citeert. De zijbalk van Hugging Face rondt het model af naar "2B params", terwijl de tabel op de kaart 1.73B vermeldt. Het bestand geeft de doorslag: 3.46 GB bfloat16 is 1,73 miljard parameters bij twee bytes per parameter, dus het label in de zijbalk is een afrondingsconventie, geen tweede specificatie. Op het moment van schrijven toonde de repository vijftien downloads in de afgelopen maand en acht likes — het profiel van een checkpoint dat is uitgeleverd, gelinkt werd vanuit het lanceringsbericht en nog door niemand is opgepikt.

De architectuur, zonder het diagram

Het ontwerp kun je het beste begrijpen als een budgetargument. Volledige aandacht is het dure onderdeel van een transformer bij een lange context: elk token vergelijkt zichzelf met elk ander token, en de kosten groeien met het kwadraat van de sequentie. Liquids tri-hybride stack besteedt slechts zes van zijn vierentwintig lagen aan die bewerking. Dertien lagen zijn gated korte convoluties, die informatie lokaal mengen tegen een vaste kostenpost per token, en vijf zijn sliding-window-aandachtsblokken die telkens 256 tokens zien. Twee derde van het netwerk voert helemaal nooit een globale aandachtbewerking uit.

Dit is dezelfde gok die Liquid sinds LFM2 doet, maar nu verder doorgetrokken. LFM2.5-2.6B-Base gebruikte dertig lagen, verdeeld over tweeëntwintig convoluties en acht full-attention-blokken, zonder een sliding-window-niveau. LFM3 vervangt op vijf plaatsen in de stack een paar convoluties door een sliding-attention-blok, verhoogt de convolutiecache van drie naar zeven en voegt de sandwichnormalisatie en partial-rotary-instellingen toe die in de config opduiken. Of die specifieke afweging de kwaliteit verbetert, is een vraag die alleen evaluatie kan beantwoorden, en op het moment van publicatie is er geen evaluatie van het basismodel om die te beantwoorden. Wat de config wel vaststelt, is dat de context van 256K niet wordt bereikt door attention naar 256K op te schalen; die wordt bereikt door het grootste deel van de stack lokaal te houden.

Het basismodel wordt geleverd met een chatsjabloon.

Dit is het detail dat het meest waarschijnlijk verwarring veroorzaakt bij iedereen die de checkpoint downloadt in de verwachting van onbewerkte tekstaanvulling. LFM3-1.7B-Base bevat een volledig chatsjabloon, en de modelkaart vermeldt dat mid-training chatdata bevatte, zowel met als zonder denksporen, opgemaakt met hetzelfde sjabloon als het post-trained model. Roep apply_chat_template aan en redeneren is standaard ingeschakeld: het antwoord begint in een denkblok, tenzij je enable_thinking=False meegeeft; dat vult een leeg denkspoor vooraf in en vraagt om een rechtstreeks antwoord.

Het gedraagt zich dus enigszins als een instructmodel en wordt gedocumenteerd als iets heel anders. De aanbeveling op de kaart zelf is ondubbelzinnig: LFM3-1.7B-Base "wordt alleen aanbevolen voor taken die zware fine-tuning vereisen, zoals taal- of domeinspecifieke assistenten, training op propriëtaire data, of het experimenteren met nieuwe post-trainingbenaderingen." Voor chat, tool calling en agents wijst die naar LFM3-1.7B. De template staat er omdat de mid-trainingdata zo was opgemaakt en omdat een fine-tune die erft — niet omdat het checkpoint voor gesprekken is afgestemd. Iedereen die de template als gereedheidssignaal ziet, zal teleurgesteld worden door de uitvoer, en de kaart zegt dat al voordat ze beginnen.

De cijfers die mensen zullen aanhalen, zijn niet de cijfers van dit model.

De lanceringspost bevat een omvangrijke benchmarktabel, en vrijwel niets daarvan is van toepassing op de checkpoint waar dit artikel over gaat. Het gemiddelde uit de kop van 49.37 hoort bij LFM3-1.7B, het post-getrainde model, gemeten over Liquid's eigen suite. De vergelijkingsrijen — LFM2.5-2.6B op 31.55, MiniCPM5-2B op 39.19, Gemma 4 E4B op 31.74, Qwen3.5-4B op 39.27, Qwen3.5-9B op 47.24 — zijn post-getrainde modellen tegen post-getrainde modellen. De 43.40 op SWE-bench Verified en 73.46 op LiveCodeBench v6 zijn eveneens de scores van het getunede model.

Aan het basischeckpoint worden bij vluchtig lezen twee beweringen gekoppeld die dat niet zouden moeten worden. De eerste is "35% minder parameters" — dat is LFM3-1.7B die beter presteert dan LFM2.5-2.6B, een uitspraak over het post-trained paar, niet over een basis-tot-basisresultaat. De tweede is de bewering dat LFM3 "Gemma 4 12B evenaart." Die zin gaat over LFM3-VL-2B, het visiemodel, op 62 visiebenchmarks. Hij zegt niets over het tekstbasischeckpoint, waarvoor helemaal geen gepubliceerde evaluatie bestaat. Een basismodel zonder benchmarktabel is niet ongewoon — Liquid heeft er bewust ook geen gepubliceerd voor LFM2.5-2.6B-Base — maar die afwezigheid betekent dat elke kwaliteitsclaim over dit checkpoint momenteel een claim is over het model dat het heeft voortgebracht.

Training, en het deel dat daadwerkelijk onderscheidend is

Liquid zegt dat het checkpoint 22 biljoen tokens in twee fasen heeft gezien. De belangrijkste pre-trainingsfase veranderde de datamix ten opzichte van LFM2, met meer wetenschappelijke artikelen, code op repositoryniveau, wiskunde en een bredere spreiding van kennisbronnen. De laatste 3,5 biljoen tokens zijn een mid-trainingsfase op gecureerde data van hogere kwaliteit met een groter aandeel agentische sporen en tool calls, en in die fase wordt het contextvenster uitgebreid naar 256K.

Het ongewone zit niet in het tokenaantal; het zit erin dat agentische data in het basismodel terechtkwamen en niet alleen in post-training. De meeste leveranciers bewaren tool-call-traces voor de instructie-afstemmingsfase. Liquid stopte ze in de trunk en trainde daarna zes verschillende modellen erop na met SFT, gemengde RL, multi-domein on-policy-distillatie en agentische RL. Dat is een samenhangende strategie voor een familie die één backbone over modaliteiten heen moet delen, en het is ook de reden waarom het basischeckpoint een chatsjabloon bevat. Het is een bewering over trainingsmethodologie die niet van buitenaf te controleren is, en er bestaat geen onafhankelijke reproductie.

Wat je er vandaag mee kunt doen

De kaart linkt naar twee TRL-notebooks, één voor supervised fine-tuning op het extraheren van gestructureerde JSON uit rommelige documenten en één voor continued pre-training op een nieuwe taal, met Turks uit onbewerkte tekst als voorbeeld. Beide zijn geschreven voor LFM3-1.7B en vereisen dat je één enkele model_id wijzigt om naar het base-checkpoint te verwijzen. De documentatiepagina behandelt de rest van het fine-tuningtraject. Het instructmodel heeft een volledige set runtimevarianten — BF16 voor vLLM, SGLang en Transformers; FP8 en NVFP4 voor SGLang; GGUF voor llama.cpp, Ollama en LM Studio; MLX voor Apple silicon; ONNX Runtime. Het base-checkpoint heeft precies één artefact: het BF16-safetensorsbestand. Geen GGUF, geen MLX-build, geen gekwantiseerde release. Als je het op een telefoon wilt draaien, doe je die conversie zelf.

Waar dit past als je je brood verdient met het serveren van modellen

Een voorgetrainde checkpoint is geen chat-eindpunt, en het loont om daar concreet over te zijn. LFM3-1.7B-Base staat op het moment van schrijven niet in de catalogus van OrcaRouter, en een basismodel zou een vreemd ding zijn om te routeren: er is geen instructieopvolging om naar te routeren. De nuttige plek voor een router begint een stap later, nadat de fine-tune bestaat. OrcaRouter zet meer dan 200 modellen achter één API met 0% opslag bovenop de lijstprijzen van providers, automatische failover en een routing-DSL, zodat een op het domein afgestemde LFM3-checkpoint naast een groter algemeen model kan staan en ermee vergeleken kan worden of ernaar kan worden overgeschakeld zonder een tweede integratie. Modelfusie — een panel dat samen antwoordt — is de andere optie wanneer een 1,73B-specialist goed is in één ding en je een tweede mening nodig hebt. Niets daarvan vereist dat de basis-checkpoint zelf ergens wordt gehost.

Wat is er nog onbevestigd?

• Basiskwaliteit. Geen benchmarktabel, geen uitvoer van een evaluatieharnas, geen vergelijking met LFM2.5-2.6B-Base op enige taak.

• Onafhankelijke verificatie. Geen enkel laboratorium van derden heeft een run gepubliceerd van het basis- of het getunede model. Elk cijfer in het lanceringsbericht is afkomstig van Liquid zelf.

• Ondersteuning voor upstream Transformers. De repository gebruikt aangepaste modelleercode en trust_remote_code. Dat is normaal bij de lancering, maar wordt later een onderhoudslast.

• Hoe de base wordt aangeboden. In het lanceringsbericht staat dat de base- en post-trained modellen beschikbaar zijn op Hugging Face, de Liquid Playground en de Liquid API. Wat een API met een niet-afgestemd base-checkpoint doet, wordt niet uitgelegd, en er wordt geen prijs voor gepubliceerd.

• Licentiegrensgevallen. De LFM Open License v1.0 is gratis voor commercieel gebruik onder $10 miljoen jaarlijkse omzet; boven die drempel geldt een commerciële licentie. De tekst is openbaar, maar hoe deze omgaat met een afgeleid model dat op de basis wordt getraind en vervolgens commercieel wordt aangeboden, is een vraag voor een jurist, niet voor een modelkaart.

Wat te kijken

Het volgende betekenisvolle signaal is niet nog een aankondiging — het is de eerste onafhankelijke evaluatie van het post-getrainde model, en de eerste publieke fine-tune die rapporteert hoe het was om op het basischeckpoint te trainen. Liquid's eigen framing nodigt die test uit: een 1.73B-trunk die zes modellen heeft voortgebracht en claimt een voorganger van 2.69B te verslaan is ofwel een werkelijk efficiënte architectuur ofwel een goed gekozen benchmarksuite, en alleen externe runs zullen de twee scheiden. Tot dan is de repository het hele verhaal: een bestand van 3.46 GB, een duidelijke specificatie, een chatsjabloon dat geen uitnodiging is, en een licentie die het lezen waard is voordat de omzetlijn in de buurt komt.