Ett genererat titelkort med texten "Inkling 2 Mini", med undertexten "26,4B totalt, 3,4B aktiva, cirka 20 GB – loopar de mellersta lagren", med tre piller som visar Intelligence Index 20,1, 48 lagerapplikationer och Apache 2.0, ovanför ett lagerdiagram med fyra block där de två mellersta blocken är markerade "körs 3x" och de två yttre "körs 1x". OrcaRouter-logotypen sitter längst ner till höger.
Guides & Insights

Inkling 2 Mini lanseras vid 20: en 20GB-modell som tänker i loopar

Författare

jinhao.song

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Checkpointen är ungefär 20 GB, och det talet är argumentet. Inkling 2 Mini är en blandning av experter med 26,4 miljarder parametrar, varav 3,4 miljarder är aktiva per token, publicerad av Thinking Machines Lab den 20 november 2026 under Apache 2.0 som en enda nedladdning som körs på en Mac med 32 GB enhetligt minne eller en enda NVIDIA DGX Spark. Samma dag mätte Artificial Analysis den och gav den poäng: 20,1 på Intelligence Index v5.0.1, 0,15 USD per miljon indatatoken och 0,50 USD per miljon utdatatoken, 0,59 USD för att slutföra en indexuppgift, 280 utdatatoken per sekund. Det intressanta är inte poängen. Det är att modellen når dit genom att köra samma tolv lager tre gånger i stället för att lagra fler parametrar, vilket är det som får en checkpoint på 26B att bete sig som något större utan att behöva mer minne än en bärbar dator har.

Blandar man de två typerna av siffror vårdslöst framstår släppet som en ren vinst; håller man dem åtskilda framstår det som något mer specifikt, vilket är vad den här texten försöker göra. Indexet, kostnaden per uppgift, hastigheten, ordrikedomen och licensen är mätningar och metadata från Artificial Analysis, avlästa den 21 november 2026. Varje kodnings- och resonemangsrad längre ner kommer från Thinking Machines egen testrigg, på en checkpoint som företaget har tränat, och det anges där den förekommer. Ingen utanför labbet har reproducerat de raderna.

Vad Thinking Machines publicerade

Släppet sker med vikterna först. Hugging Face-repot skapades den 17 november och ändrades senast den 20:e, vilket ser ut som en checkpoint som publicerats i etapper snarare än ett överraskningssläpp, och modellkortet anger 20 november 2026 som releasedatum. Det finns en faktisk licensfilssituation värd att notera: kortet deklarerar Apache 2.0 i sin metadata och repots taggar anger samma sak, så detta är ett tillåtande släpp snarare än det löfte om ett sådant som Inkling 2 Small levererades med den 5 november.

• {{1}}Parametrar{{/1}} — 26,4B totalt, 3,4B aktiva och 5,4B effektiva viktaktiveringar per token när looping räknas in; Thinking Machines uppskattar varje extra loop-pass till ungefär 1,0B fler aktiva parametrar.

• Fotavtryck — en checkpoint på cirka 20 GB, 20 lager i NVFP4 och 4 i MXFP8, levererad i den precision den tränades i snarare än kvantiserad i efterhand.

Modaliteter – text och bilder in via en vision transformer som projiceras in i det gemensamma dolda rummet, text ut.

• Kontext — modellkortet anger upp till 1M tokens, och Artificial Analysis registrerar 1M.

• Servering — Hugging Face, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth och llama.cpp GGUFs, Llama App, samt Ollama och Exo Labs på Apple silicon. Det finns efterträningsrecept för Miles och SkyRL.

• Hostad — Tinker, för inferens och anpassning, med en playground. Det är leverantörens egen endpoint och den enda; Inkling 2 Mini finns inte på OrcaRouter, och inget nedan antyder något annat.

En medföljande modell levereras tillsammans med den. TML-d24-varloop-research är samma arkitektur tränad att acceptera mellan ett och fem loppass, och den finns så att forskare kan variera djupet som produktionsmodellen låser vid tre. Den finns också på Hugging Face, och den är det objekt som största delen av monitorerbarhetsarbetet i den här versionen utfördes på.

Screenshot of the Thinking Machines announcement page titled 'Introducing Inkling 2 Mini', dated Nov 20, 2026, showing the Capabilities, Architecture and training, Monitorability of looped transformers and Try Inkling 2 Mini today section links, plus the opening paragraphs describing a model small enough to run on a laptop that runs the middle layers three times per token and leads open-weights models under 100B total parameters on DeepSWE v1.1 at 48.2%.

Loopen är produkten

Inkling 2 Mini är en 24-lagers decoder-only-transformer med glesa feed-forward-lager av typen mixture-of-experts, uppdelad i fyra block med sex lager vardera. Det första blocket körs en gång, det sista blocket körs en gång, och de två mittersta blocken – tolv lager – körs tre gånger med delade vikter. En token passerar därför genom 48 lagerapplikationer som hämtas från 24 lagrade viktlager.

Upprepningen är inte en kopia. Varje passage genom mittblocken läser utdata från preluden, och den andra och tredje passagen läser också det som Thinking Machines kallar meddelandet: mittblockens egen utdata från föregående passage, sammanfogad genom en inlärd grind. Den grinden börjar med att blockera meddelandet helt, så träningen börjar som en vanlig icke-loopande modell och förstärkningen av meddelandet höjs över tid. Det är ett knep för träningsstabilitet, och det är också anledningen till att loopen kan läggas till mitt i körningen i stället för att tränas från noll.

Vilka lager som loopades var inte godtyckligt. Företaget mätte loopning av de mittersta tolv mot loopning av de sista tolv i 28 utvärderingar och fann att de mittersta vann i 27 av dem, med en beräkningsekvivalent vinst på 1,51–1,91× mot 1,24–1,36×. Intuitionen det ger är att tidiga och sena lager är upptagna med att översätta mellan tokens och interna representationer, medan de mittersta bär det abstrakta resonemanget som drar nytta av fler seriella steg.

Experterna beskars i stället för att designas. Träningen började med sparsitet 48, där varje token dirigerades till 8 av 384 experter; vid ett tillfälle under mellanträningen behöll företaget de 128 mest använda experterna per lager och läkte skadorna med 1T token destillerade från en större intern Inkling-modell, och körde sedan SFT och en RL-fas om totalt 2,2T token över 2 000 steg. Det är samma efterträningsmix som för Inkling 2 Small, vilket är anledningen till att de två modellernas styrkor hamnar på samma ställen.

Tjugo, och vad som sitter under det

Huvudpoängen är verklig och oberoende uppmätt, och den ligger också nära golvet för vad indexet kan urskilja på ett användbart sätt. Artificial Analysis placerar 20 som klart över genomsnittet för modellens jämförelseklass på open-weights-tavlan, där medianen är 10, men bandet omedelbart kring 20 är trångt med modeller en poäng på vardera sidan, och indexet ordnar inte modeller så fint. En poäng på 20 betyder att modellen klarar en tröskel, inte att den slår allt inom en poäng från den.

Det som poängen faktiskt stöder är den placering som spelar roll för en modell av den här storleken. Pareto-påståendet i lanseringsbevakningen – frontier-intelligens per aktiv parameter – är det som Artificial Analysis egen sammanfattning backar upp, där den kallas bland de ledande modellerna i intelligens för sin storleksklass och rimligt prissatt jämfört med andra modeller med öppna vikter av liknande storlek. Den når dit tack vare loopen, som köper seriell beräkningskraft utan att köpa parametrar, och påståendet slutar gälla i samma stund som man ber modellen att veta något i stället för att räkna ut något.

Kostnads- och hastighetskolumnerna är där lanseringen ser starkast ut. Med $0,15 in och $0,50 ut ligger den i botten av resonemangsnivån, och $0,59 per indexuppgift är en fjärdedel av vad en 27B tät modell i samma poängband kostar. Den är snabb på de två sätt som märks i en agentloop: 9,72 sekunder till första svarstoken och 280 utdatatoken per sekund. Den kompenserande svagheten är ordrikedom – 161M utdatatoken för att slutföra indexkörningen mot en median bland jämlikar på 85,7M, ungefär 1,9 gånger utdatan från en typisk modell i dess klass. På en räkning per token är det okej. Med en fast tokenbudget innebär det att du får ungefär hälften så många uppgifter.

Screenshot of the Artificial Analysis model page for Inkling 2 Mini, showing it amongst the leading models in intelligence and reasonably priced for its size but very verbose, a score of 20 on the Intelligence Index against a median of 10 for its class, 161M tokens generated during the index run against a 85.7M median, pricing of $0.15 per 1M input and $0.50 per 1M output tokens, $0.59 per index task, 9.0 minutes per task, and a listed 1M-token context window.

Kodningsrader, leverantörsrapporterade

Tabellen som Thinking Machines publicerade är den starkaste delen av deras argument, och den är helt och hållet deras egen. Det här är icke reproducerade siffror från en leverantörs testramverk, varav flera kördes med företagets eget agent scaffold snarare än ett neutralt, så läs dem som påståenden om en checkpoint som labbet har tränat.

• SWE-bench Verified — 79,2 %, endast bash.

• SWE-bench Pro v2, Svår — 77,9 %.

• SWE-bench Multilingual — 73,7 %.

• DeepSWE v1.1 — 48,2 %, jämfört med 42,2 % som rapporterats för Qwen3.8-27B.

• Terminal Bench v2.1 — 71,6 %, efter Qwen3.8-27B:s 73,0; på Terminal Bench v4.0 visar båda 5,6 %.

• FrontierCode v2.0 — 15,1 %, mot 14,9 % för Qwen3.8-27B.

• Agentisk sökning och verktyg — BrowseComp 79,0 %, DeepSearchQA 85,3 %, MCP Atlas 82,7 %, var och en högre än Qwen3.8-27B-siffran i samma tabell.

• Vision och dokument — MMMU Pro 74,9 %, OmniDocBench v1.6 92,8 %, ScreenSpot Pro 76,5 % utan verktyg och 87,7 % med Python-verktyg.

• {{1}}Resonemang{{/1}} — HLE-Diamond 15,2 %, CritPt v2 31,4 %, ARC-AGI 84,5 % på v1 och 49,3 % på v2, LongBench v2 66,9 %.

Formen på den tabellen överensstämmer med arkitekturen, och den är det mest användbara i utgåvan. De rader där modellen ser stark ut är de som belönar uthållighet och verktygsanvändning över en lång horisont: sökning, patchning i repositoriestorlek, dokumenttolkning. De rader där den ser ordinär ut är de som kräver en enda korrekt återkallning eller en svår vetenskaplig slutledning. Loopning lägger till seriella steg. Den lägger inte till lagrade fakta.

Loopning ger resonemang, inte fakta.

Den distinktionen är släppets egen tes, och företaget testar den i stället för att bara hävda den. I AA-Omniscience, riktmärket för faktakorrekthet, visar leverantörens tabell −8,6 för Inkling 2 Mini med en icke-hallucineringsgrad på 63,4 %. Ett negativt resultat där innebär att modellen är sämre än att avstå från att svara: den producerar självsäkra fel. Företagets formulering är att kunskapsgapet ligger i linje med andra modeller av samma totala storlek, och att modellen kompenserar för det genom att söka bra — vilket är precis vad raderna för BrowseComp och DeepSearchQA visar, och precis varför den ärliga sammanfattningen av den här modellen är "bra på att hitta, svag på att minnas".

Modellvarianten med variabel loop gör poängen tydligare. Dess tidshorisont utan kedjetänkande – hur lång en uppgift är som den kan slutföra med 50 % tillförlitlighet utan att skriva ned sitt resonemang – ökar från 16 sekunder vid ett pass till 37 sekunder vid tre pass och planar sedan ut, medan seriellt resonemang på en N-Hop-uppslagningsuppgift fortsätter att förbättras upp till tio pass, dubbelt så djupt som den tränades på. Vinsterna koncentreras till flerhoppssökning, matematiskt och naturvetenskapligt resonemang samt långsiktigt agentiskt arbete. Faktabaserad QA med stängd bok förbättras knappt.

Övervakbarhetsresultatet är den del forskarna kommer att bry sig mest om, eftersom det är invändningen mot loopade modeller. Om en modell utför mer beräkning inuti en token syns mindre resonemang i den synliga tankekedjan, och en tankekedjeövervakare ser mindre. Thinking Machines mäter detta och finner att effekten är mindre än befarat i den här skalan: den variabla loopmodellens resonemang vid fem pass var mindre än hälften så långt som vid ett pass (1 661 mot 3 703 token i genomsnitt) med oförändrad meningslängd och andel ordboksord, vilket läses som mer direkt resonemang snarare än mindre läsbart resonemang. I deras LinuxArena-stealth-utvärdering ligger Inkling 2 Mini på 3,9 %, långt under Qwen3.8-27B:s 20,5 %. Inget av detta är en garanti – det är en första mätning på en arkitekturklass som ingen tidigare har haft nedladdningsbara vikter för, och företaget säger rakt ut att de släppte modellen delvis för att andra ska kunna kontrollera.

Vad det kostar att driva

Självhosting är det marknadsförda läget och aritmetiken är enkel. En 20 GB stor checkpoint på en maskin du redan äger har ingen marginell tokenkostnad alls, och leverantörens egen effektivitetsstudie – utförd av Stanfords Hazy Research- och Scaling Intelligence-laboratorier med tidig åtkomst, vid MXFP8 och låg resonemangsansträngning – placerar den på 0,703 intelligens per watt på en DGX Spark mot 0,430 för Qwen3.6-35B-A3B och 0,159 för Gemma 4 26B-A4B. Det är ett leverantörsnära resultat på en enda enhet, inte en mätning över en hel flotta, men riktningen är inte subtil.

Det ärliga argumentet mot att köra det själv är att en loopad arkitektur har ungefär en dags mognad när det gäller servering. SGLang, vLLM och de andra anger stöd, och modellkortet varnar med egna ord för att runtime-stöd för loopade modeller är nytt och att hastigheten varierar. Genomströmningen du mäter på din egen maskin beror på vilken motor du valde och hur nya dess kernels är, och det kommer att förändras snabbare än något annat hos den här modellen.

Det som gör att en router förtjänar sin plats här är inte att betjäna Mini – vi hostar det inte. Det är det du lägger runt omkring det. En utvärdering av en oprövad arkitektur bör aldrig vara det enda som står mellan dina användare och en felsida, och sättet att åstadkomma det är att anropa en modell du litar på för produktionsvägen medan Mini körs vid sidan om.Qwen3.8-Flash finns på OrcaRouter för $0,15 per miljon indatatoken och $0,47 per miljon utdatatoken, leverantörens listpris vidarebefordrat utan påslag, och routnings-DSL:n och den automatiska failovern låter dig sätta Mini bakom den den dag Mini når en slutpunkt som vi kan nå. En och samma nyckel täcker båda sidorna av det experimentet, vilket är hela argumentet.

A generated single-column scoreboard titled 'Inkling 2 Mini — the scoreboard', with six rows reading Intelligence Index 20.1, cost per index task $0.59, output speed 280 tokens per second, first token 9.72 seconds, size on disk about 20GB, and licence Apache 2.0, above a footer stating that index, cost and speed are per Artificial Analysis and coding rows are vendor-reported and unreproduced.

Fyra saker att hålla koll på

Den första är oberoende replikering. Artificial Analysis har indexet, kostnaden, hastigheten och utförligheten — uppmätta — men kodningstabellen är labbets. Tills någon utanför Thinking Machines kör SWE-bench Pro v2 eller DeepSWE på de offentliga vikterna är 77,9 % och 48,2 % påståenden.

Det andra är huruvida en hostad slutpunkt dyker upp bortom Tinker. En 20GB Apache 2.0-checkpoint är precis den typ av artefakt som tredjepartsleverantörer snabbt plockar upp, och priskonkurrensen som skulle få $0.59 per uppgift att framstå som hållbar börjar först när det finns en andra säljare.

Det tredje är själva loopen. Om piloten fungerar är tekniken portabel: tre passager på de mellersta lagren, en gate för att slå ihop meddelandet, inga extra parametrar. Varje recept för små modeller inom området blir en kandidat för den, och den intressanta frågan slutar handla om huruvida den här modellen får 20 poäng och blir huruvida nästa får 24 för samma minne.

Det fjärde är den del som lanseringen inte avgör. Loopade modeller flyttar resonemanget ut ur den synliga tankekedjan och in i forward-passningen. Thinking Machines fann ingen meningsfull förlust av monitorerbarhet vid 5,4B aktiva parametrar. Ingen har publicerat samma mätning vid 50B. Det är frågan som den här utgåvan gör det möjligt att ställa, och det är ett bättre skäl att bry sig om en nedladdning på 20GB än poängen.

För alla som ska fatta beslut den här veckan är uppdelningen tydlig. Om du vill ha en kompetent agentisk kodare som körs offline på hårdvara du redan äger, och du är beredd att köra den i en sandlåda och testa dess faktaminne innan du litar på den, är Inkling 2 Mini den mest intressanta lilla modellen som finns just nu, och priset för att prova den är en nedladdning. Om du behöver ett svar som du kan lägga fram för en kund utan ett retrieval-lager bakom, är det här inte den modellen, och 20:an på indexet kommer inte att göra den till en sådan.