Ett hero-titelkort med texten "LFM3-1.7B-Base" och underrubriken "Stommen bakom sex modeller", fyra specchips med texten 1,73B parametrar, 24 lager, 256K kontext och LFM Open License v1.0, samt sex märkta rutor för Text, Vision, Audio, Omni, Beslut 1 och Beslut 2 som reser sig från ett basblock med texten "BASE: 1,73B tät, 22T tokens, 256K kontext". OrcaRouter-logotypen sitter längst ner till höger.
Engineering & Research

LFM3-1.7B-Base: Vad repot säger, och vad Liquid AI inte har sagt

Författare

Rowan Sterling

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Den mest betydelsefulla checkpointen i Liquid AI:s nya familj är den som det finns minst att läsa om. LFM3-1.7B-Base är en förtränad textmodell med 1,73 miljarder parametrar, och den 27 oktober 2026 blev den stommen som varje eftertränad LFM3-modell byggdes från – textmodellen, visionsmodellen, ljudmodellen, omnimodellen och båda beslutsmodellerna. Lanseringinlägget för familjen nämner den i en enda sats. Det finns inget fristående tillkännagivande för den, ingen benchmarktabell för basmodellen och ingen pressbevakning riktad mot den. Repositoriet är samtidigt ovanligt tydligt med vad checkpointen är och vad den är till för, vilket gör det här släppet lätt att beskriva och svårt att överdriva. Inget påslag läggs till på det som modellleverantören tar betalt. Leverantörers listpriser En prisändring från leverantören syns på din faktura samma dag.

Det som följer skiljer de två sakerna åt. Allt i den första halvan kommer från modellkortet, konfigurationsfilen, licenstexten eller Liquids eget lanseringsinlägg och går att kontrollera idag. Den andra halvan är det som fortfarande är genuint okänt tre dagar efter att vikterna lades upp.

Två repositorier, ett lanseringsinlägg och ett tolv timmars gap

Tidsstämplarna berättar historien om en lansering som skedde offentligt innan den skedde i marknadsföringen. Det eftertränade LFM3-1.7B-repot skapades den 23 oktober 2026. Basrepot skapades den 26 oktober kl. 16:28 UTC, och dess kort ändrades senast den 27 oktober kl. 04:15 UTC – mindre än tolv timmar senare. Blogginlägget "Introducing LFM3: Every Modality for Specialized Intelligence" är daterat den 27 oktober. När någon utanför företaget kunde läsa en specifikation hade vikterna redan legat på Hugging Face i en dag.

Den ordningen är värd att sägas rakt ut, eftersom den är det närmaste man kommer en "tyst lansering" här. Liquid tillkännagav visserligen familjen, och i tillkännagivandet namnges LFM3-1.7B-Base som den checkpoint som de övriga sex modellerna tränades från. Vad företaget inte gjorde var att tillkännage bascheckpointen på dess egna villkor – inget separat inlägg, ingen basspecifik utvärdering, ingen positionering utöver ett stycke i kortet. Familjen fick lanseringen. Stammen fick ett repository och en pekare till familjen.

Vad finns i repositoryt?

Kortet är kompakt och, för en gångs skull, komplett när det gäller grunderna. En model.safetensors-fil på 3,46 GB i bfloat16. En tokenizer med ett ordförråd på 128 000 token. Modellkoden levereras som anpassad Python tillsammans med vikterna och laddas med trust_remote_code=True i stället för via en sammanslagen upstream-utgåva av Transformers. Licensen är LFM Open License v1.0, samma familj av villkor som Liquid har använt sedan LFM2.

• Parametrar — 1.73B, täta, varje parameter läses vid varje token.

• Lager — 24: tretton grindade kortkonvolutionsblock, fem sliding window-attentionsblock, sex full-attentionblock.

• Kontext — 262 144 tokens, indata plus utdata.

• Attention-geometri — dold storlek 2 048, sexton query-huvuden, fyra key-value-huvuden, huvuddimension 128. Det är grupperad query-attention med fyra mot ett, inte åtta mot ett som i LFM2.5.

• Lokalt fönster — 256 tokens, med en konvolutionscache på sju. Det här är en uppmärksamhetsinställning per lager, inte kontextlängden, och det orsakade en liten våg av felrapportering när arkitekturen först dök upp i en pull request för motorn dagen före lanseringen.

• Ordförråd och språk — 128 000 token, sexton språk listade: engelska, arabiska, kinesiska, franska, tyska, italienska, japanska, koreanska, portugisiska, spanska, vietnamesiska, thailändska, indonesiska, hindi, ryska, polska.

• Minne — cirka 1 GB vid 4-bitars precision enligt Liquid, 3,46 GB som levereras i BF16.

En liten inkonsekvens är värd att känna till innan du anger en storlek. Hugging Faces sidopanel avrundar modellen till "2B params", medan kortets tabell anger 1,73B. Filen avgör saken: 3,46 GB bfloat16 är 1,73 miljarder parametrar vid två byte vardera, så etiketten i sidopanelen är en avrundningskonvention, inte en andra specifikation. När detta skrevs visade förvaret femton nedladdningar den senaste månaden och åtta gillningar – profilen för en checkpoint som släpptes, länkades från lanseringsinlägget och ännu inte har plockats upp av någon.

A headless-browser capture of the Hugging Face model card for LiquidAI/LFM3-1.7B-Base, showing the model-details table with 1.73B parameters, 24 layers of gated short convolutions plus sliding-window and global attention, a 256K-token context, a 128,000-token vocabulary, sixteen languages and the LFM Open License v1.0, plus a sidebar reading 'Model size 2B params' and fifteen downloads last month.

Arkitekturen, utan diagrammet

Designen förstås bäst som ett budgetargument. Full attention är den dyra delen av en transformer vid lång kontext: varje token jämför sig med varje annat token, och kostnaden växer med kvadraten på sekvensen. Liquids trihybridstack använder bara sex av sina tjugofyra lager till den operationen. Tretton lager är gated kortkonvolutioner, som blandar information lokalt till en fast kostnad per token, och fem är sliding-window-attentionsblock som ser 256 token i taget. Två tredjedelar av nätverket utför aldrig någon global attention-operation.

Detta är samma satsning som Liquid har gjort sedan LFM2, nu driven längre. LFM2.5-2.6B-Base använde trettio lager uppdelade i tjugotvå konvolutioner och åtta full-attention-block, utan någon sliding-window-nivå. LFM3 ersätter ett par konvolutioner med ett sliding-attention-block på fem ställen i stacken, höjer konvolutionscachen från tre till sju och lägger till sandwich-normaliseringen och de partiella rotary-inställningarna som syns i konfigurationen. Huruvida just den avvägningen förbättrar kvaliteten är en fråga som bara utvärdering kan besvara, och vid publiceringen finns ingen utvärdering av basmodellen som besvarar den. Vad konfigurationen däremot fastställer är att 256K-kontexten inte uppnås genom att skala attention till 256K; den uppnås genom att hålla större delen av stacken lokal.

Basmodellen levereras med en chattmall

Det här är detaljen som sannolikt förvirrar alla som laddar ner checkpointen och förväntar sig rå textkomplettering. LFM3-1.7B-Base innehåller en fullständig chattmall, och kortet säger att mid-training omfattade chattdata både med och utan tankespår, formaterade med samma mall som den eftertränade modellen. Anropar du apply_chat_template är resonemang aktiverat som standard: svaret börjar inuti ett tankeblock om du inte skickar enable_thinking=False, vilket förfyller ett tomt spår och begär ett direkt svar.

Så den beter sig lite som en instruktionsmodell och dokumenteras som något helt annat. Kortets egen rekommendation är entydig: LFM3-1.7B-Base "rekommenderas endast för uppgifter som kräver omfattande finjustering, som språkspecifika eller domänspecifika assistenter, träning på proprietära data eller experiment med nya efterträningsmetoder." För chatt, verktygsanrop och agenter pekar den på LFM3-1.7B. Mallen finns där eftersom mellanträningsdatan formaterades på det sättet och eftersom en finjustering ärver den – inte för att checkpointen trimmades för konversation. Den som behandlar mallen som en signal om beredskap kommer att bli besviken på resultaten, och kortet säger det redan innan de börjar.

Siffrorna som folk kommer att citera är inte den här modellens siffror.

Lanseringsinlägget innehåller en omfattande benchmarktabell, och nästan inget av den gäller den checkpoint som den här artikeln handlar om. Genomsnittet i rubriken på 49,37 tillhör LFM3-1.7B, den eftertränade modellen, uppmätt i Liquids egen testsvit. Jämförelseraderna – LFM2.5-2.6B på 31,55, MiniCPM5-2B på 39,19, Gemma 4 E4B på 31,74, Qwen3.5-4B på 39,27, Qwen3.5-9B på 47,24 – är eftertränade modeller mot eftertränade modeller. Siffrorna 43,40 på SWE-bench Verified och 73,46 på LiveCodeBench v6 är på samma sätt den finjusterade modellens poäng.

Två påståenden kopplas till bascheckpointen i vardaglig läsning och borde inte göra det. Det första är ”35 % färre parametrar” – det handlar om att LFM3-1.7B överträffar LFM2.5-2.6B, ett påstående om det eftertränade paret, inte ett resultat mellan basmodeller. Det andra är påståendet att LFM3 ”matchar Gemma 4 12B”. Den meningen handlar om LFM3-VL-2B, synmodellen, över 62 synbenchmarks. Den säger ingenting om textbascheckpointen, som inte har någon publicerad utvärdering alls. En basmodell utan benchmarktabell är inte ovanlig – Liquid publicerade medvetet ingen sådan för LFM2.5-2.6B-Base heller – men frånvaron innebär att varje kvalitetspåstående om denna checkpoint för närvarande är ett påstående om modellen den producerade.

A generated single-column scoreboard titled 'LFM3-1.7B-Base — the scoreboard', listing 1.73B dense parameters, a 24-layer architecture with 13 convolutions, 5 sliding-window and 6 global attention blocks, a 262,144-token context, 3.46 GB in BF16 and about 1 GB at 4-bit, 22 trillion pre-training tokens, and the LFM Open License v1.0 with a $10M threshold, above a footer reading 'Specifications from the model card and config; no base-model benchmarks published.'

Träning, och den del som faktiskt är särskiljande

Liquid säger att checkpointen såg 22 biljoner tokens i två steg. Huvudförträningssteget ändrade datamixen jämfört med LFM2, med fler vetenskapliga artiklar, kod på reponivå, matematik och en bredare spridning av kunskapskällor. De sista 3,5 biljonerna tokens är ett mellanträningssteg på kurerad data av högre kvalitet med en större andel agentiska spår och verktygsanrop, och det är i det steget som kontextfönstret utökas till 256K.

Det ovanliga är inte tokenantalet; det är att agentisk data gick in i basmodellen i stället för bara i efterträningen. De flesta leverantörer behåller verktygsanropspår för instruktionsträningsfasen. Liquid satte dem i stommen och eftertränade sedan sex olika modeller ovanpå den med SFT, blandad RL, flerdomäns on-policy-distillation och agentisk RL. Det är en sammanhängande strategi för en familj som är avsedd att dela en gemensam ryggrad över modaliteter, och det är också därför bascheckpointen har en chattmall. Det är ett påstående om träningsmetodik som inte kan verifieras utifrån, och det finns ingen oberoende reproduktion.

Vad du kan göra med det idag

Kortet länkar till två TRL-notebooks: en för övervakad finjustering på att extrahera strukturerad JSON från stökiga dokument och en för fortsatt förträning på ett nytt språk, med turkiska från råtext som exempel. Båda är skrivna mot LFM3-1.7B och kräver att man ändrar ett enda model_id för att peka på bascheckpointen. Dokumentationssidan täcker resten av finjusteringsflödet. Instruct-modellen har en full uppsättning körtidsvarianter – BF16 för vLLM, SGLang och Transformers; FP8 och NVFP4 för SGLang; GGUF för llama.cpp, Ollama och LM Studio; MLX för Apple silicon; ONNX Runtime. Bascheckpointen har exakt en artefakt: BF16-safetensorsfilen. Ingen GGUF, inget MLX-bygge, ingen kvantiserad utgåva. Om du vill köra den på en telefon får du göra den konverteringen själv.

Var det här passar in om du servar modeller yrkesmässigt

En förtränad checkpoint är inte en chatt-endpoint, och det är värt att vara konkret om det. LFM3-1.7B-Base finns inte i OrcaRouters katalog i skrivande stund, och en basmodell skulle vara en märklig sak att routa: den har ingen instruktionsföljning att routa till. Den användbara platsen för en router börjar ett steg senare, efter att finjusteringen finns. OrcaRouter sätter mer än 200 modeller bakom ett enda API med 0 % påslag på leverantörernas listpriser, automatisk failover och ett routing-DSL, så en domänfinjusterad LFM3-checkpoint kan stå bredvid en större allmän modell och jämföras eller växlas över till utan en andra integration. Modellfusion – en panel som svarar tillsammans – är det andra alternativet när en 1,73B-specialist är bra på en sak och du behöver en andra åsikt. Inget av detta kräver att själva bascheckpointen hostas någonstans.

Vad är fortfarande obekräftat

• Baskvalitet. Ingen benchmarktabell, inga utdata från utvärderingsramverk, ingen jämförelse med LFM2.5-2.6B-Base på någon uppgift.

• Oberoende verifiering. Inget tredjepartslaboratorium har publicerat en körning av vare sig basmodellen eller den finjusterade modellen. Varje siffra i lanseringsinlägget är Liquids egen.

• Stöd för upstream Transformers. Repositoriet använder anpassad modelleringskod och trust_remote_code. Det är normalt vid lansering och en underhållskostnad senare.

• Hur basmodellen tillhandahålls. I lanseringsinlägget står det att basmodellerna och de eftertränade modellerna finns tillgängliga på Hugging Face, i Liquid Playground och via Liquid API. Vad ett API gör med en icke finjusterad bascheckpoint förklaras inte, och ingen prissättning för den publiceras.

• Licensgränsfall. LFM Open License v1.0 är gratis för kommersiellt bruk under 10 miljoner dollar i årlig omsättning; över den tröskeln gäller en kommersiell licens. Texten är offentlig, men hur den behandlar en derivatmodell som tränats på basmodellen och sedan tillhandahålls kommersiellt är en fråga för en jurist, inte ett modellkort.

Vad du ska titta på

Nästa meningsfulla signal är inte ännu ett tillkännagivande – det är den första oberoende utvärderingen av den eftertränade modellen, och den första offentliga finjusteringen som rapporterar hur bascheckpunkten var att träna på. Liquids egen formulering bjuder in till det testet: en stam på 1,73 B som producerade sex modeller och påstås slå en föregångare på 2,69 B är antingen en genuint effektiv arkitektur eller en väl vald benchmarksvit, och bara externa körningar kommer att skilja de två åt. Fram till dess är repositoriet hela historien: en fil på 3,46 GB, en tydlig specifikation, en chattmall som inte är en inbjudan och en licens värd att läsa innan intäktsraden kommer nära.

A headless-browser capture of Liquid AI's LFM3 launch post dated October 27, 2026, showing the opening paragraph naming the base and post-trained models as open-weight and available on Hugging Face, the Playground and the Liquid API, and a Highlights box reading that six 2B-class models were trained from LFM3-1.7B-Base, with a 256K context window and about 1 GB at 4-bit.