Een gegenereerde titelkaart met de tekst 'Inkling 2 Mini', met als ondertitel '26,4B totaal, 3,4B actief, ongeveer 20 GB — de middelste lagen in een loop', met drie pillen met de tekst Intelligence Index 20,1, 48 laagapplicaties en Apache 2.0, boven een laagdiagram met vier blokken waarin de twee middelste blokken zijn gemarkeerd met '3x draaien' en de buitenste twee met '1x draaien'. Het OrcaRouter-logo staat rechtsonder.
Guides & Insights

Inkling 2 Mini komt uit op 20: een 20GB-model dat in lussen denkt

Auteur

jinhao.song

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Het checkpoint is ongeveer 20GB, en dat aantal is het argument. Inkling 2 Mini is een mengsel van experts met 26,4 miljard parameters, waarvan 3,4 miljard parameters actief zijn per token, gepubliceerd door Thinking Machines Lab op 20 november 2026 onder Apache 2.0 als één download die draait op een Mac met 32GB unified memory of op één NVIDIA DGX Spark. Op dezelfde dag heeft Artificial Analysis het getimed en gescoord: 20,1 op de Intelligence Index v5.0.1, $0,15 per miljoen inputtokens en $0,50 per miljoen outputtokens, $0,59 om één indextaak te voltooien, 280 outputtokens per seconde. Het interessante deel is niet de score. Het is dat het model die bereikt door dezelfde twaalf lagen drie keer uit te voeren in plaats van meer parameters op te slaan, en dat is wat een 26B-checkpoint laat gedragen als iets groters zonder meer geheugen nodig te hebben dan een laptop heeft.

Mix de twee soorten cijfers achteloos door elkaar en de release leest als een duidelijke overwinning; houd ze gescheiden en het leest als iets specifiekers, wat dit stuk probeert te doen. De index, de kosten per taak, de snelheid, de breedsprakigheid en de licentie zijn metingen en metadata van Artificial Analysis, uitgelezen op 21 november 2026. Elke coding- en reasoning-rij verderop is de eigen harness van Thinking Machines op een checkpoint dat het bedrijf heeft getraind, en dat wordt waar die rij voorkomt ook vermeld. Niemand buiten het lab heeft die rijen gereproduceerd.

Wat Thinking Machines heeft gepubliceerd

De release is weights-first. De Hugging Face-repository is aangemaakt op 17 november en voor het laatst gewijzigd op de 20e, wat lijkt op een gefaseerd checkpoint in plaats van een verrassingsrelease, en de modelkaart noemt 20 november 2026 als releasedatum. Er is een echte kwestie met het licentiebestand die het vermelden waard is: de kaart verklaart Apache 2.0 in de metadata en de repositorytags dragen hetzelfde, dus dit is een permissieve release in plaats van de belofte daarvan waarmee Inkling 2 Small op 5 november uitkwam.

• Parameters — 26,4B totaal, 3,4B actief, en 5,4B effectieve gewichtsactivaties per token zodra looping wordt meegerekend; Thinking Machines schat elke extra looppass op ongeveer 1,0B meer actieve parameters.

• Voetafdruk — één checkpoint van ongeveer 20GB, 20 lagen in NVFP4 en 4 in MXFP8, geleverd in de precisie waarin het is getraind in plaats van achteraf gekwantiseerd.

• Modaliteiten — tekst en afbeeldingen als invoer via een vision transformer die in de gedeelde verborgen ruimte wordt geprojecteerd, tekst als uitvoer.

• Context — de modelkaart vermeldt tot 1M tokens, en Artificial Analysis registreert 1M.

• Serving — Hugging Face, SGLang, vLLM, TokenSpeed, NVIDIA Dynamo, Unsloth en llama.cpp-GGUFs, Llama App, plus Ollama en Exo Labs op Apple silicon. Er bestaan post-trainingrecepten voor Miles en SkyRL.

• Gehost — Tinker, voor inferentie en aanpassing, met een playground. Dat is het eigen endpoint van de leverancier en het enige; Inkling 2 Mini staat niet op OrcaRouter, en niets hieronder impliceert het tegendeel.

Een bijbehorend model wordt ermee meegeleverd. TML-d24-varloop-research is dezelfde architectuur, getraind om tussen één en vijf looppasses te accepteren, en het bestaat zodat onderzoekers de diepte kunnen variëren die het productiemodel op drie vastzet. Het staat ook op Hugging Face, en het is het object waarop het meeste monitorability-werk in deze release is uitgevoerd.

Screenshot of the Thinking Machines announcement page titled 'Introducing Inkling 2 Mini', dated Nov 20, 2026, showing the Capabilities, Architecture and training, Monitorability of looped transformers and Try Inkling 2 Mini today section links, plus the opening paragraphs describing a model small enough to run on a laptop that runs the middle layers three times per token and leads open-weights models under 100B total parameters on DeepSWE v1.1 at 48.2%.

De loop is het product

Inkling 2 Mini is een 24-laagse decoder-only transformer met sparse mixture-of-experts feed-forward-lagen, verdeeld in vier blokken van zes lagen. Het eerste blok wordt één keer uitgevoerd, het laatste blok wordt één keer uitgevoerd, en de twee middelste blokken — twaalf lagen — worden drie keer uitgevoerd met gedeelde gewichten. Een token doorloopt daardoor 48 laagtoepassingen, afkomstig uit 24 opgeslagen lagen met gewichten.

De herhaling is geen kopie. Elke doorgang door de middelste blokken leest de output van de prelude, en de tweede en derde doorgang lezen ook wat Thinking Machines het bericht noemt: de eigen output van de middelste blokken uit de vorige doorgang, samengevoegd via een aangeleerde poort. Die poort begint het bericht volledig te blokkeren, zodat de training begint als een gewoon model zonder lus en de versterking van het bericht geleidelijk wordt opgevoerd. Het is een truc voor trainingsstabiliteit, en ook de reden dat de lus midden in een run kan worden toegevoegd in plaats van vanaf nul te worden getraind.

Welke lagen je laat loopen, was niet willekeurig. Het bedrijf vergeleek het laten loopen van de middelste twaalf met het laten loopen van de laatste twaalf in 28 evaluaties en ontdekte dat de middelste op 27 daarvan won, met een rekenkracht-equivalente winst van 1,51–1,91× tegen 1,24–1,36×. De intuïtie die dit geeft, is dat vroege en late lagen bezig zijn met het vertalen tussen tokens en interne representaties, terwijl de middelste het abstracte redeneren draagt dat baat heeft bij meer seriële stappen.

De experts zijn gesnoeid in plaats van ontworpen. De training begon met een sparsity van 48, waarbij elk token naar 8 van de 384 experts werd gerouteerd; op een gegeven moment tijdens de midtraining behield het bedrijf de 128 meest gebruikte experts per laag en herstelde de schade met 1T tokens die uit een groter intern Inkling-model waren gedistilleerd, en voerde daarna SFT en een RL-fase uit, samen goed voor 2,2T tokens over 2.000 stappen. Dat is dezelfde post-trainingsmix als Inkling 2 Small, en daarom komen de sterke punten van de twee modellen op dezelfde plekken terecht.

Twintig, en wat eronder zit

De kopscore is echt en onafhankelijk gemeten, en hij ligt ook dicht bij de ondergrens van wat de index nuttig kan onderscheiden. Artificial Analysis plaatst 20 als ruim boven het gemiddelde voor de vergelijkingsklasse van het model op het open-weights-overzicht, waar de mediaan 10 is, maar de band direct rond 20 is drukbevolkt met modellen een punt aan weerszijden, en de index maakt geen zo fijnmazig onderscheid tussen modellen. Een score van 20 betekent dat het model een drempel haalt, niet dat het alles binnen een punt ervan verslaat.

Wat de score wel ondersteunt, is de positionering die ertoe doet voor een model van deze omvang. De Pareto-bewering in de berichtgeving rond de lancering — frontier-intelligentie per actieve parameter — is degene die de eigen samenvatting van Artificial Analysis ondersteunt: het model wordt daarin gerekend tot de leidende modellen qua intelligentie in zijn formaatklasse en redelijk geprijsd genoemd ten opzichte van andere open-weights modellen van vergelijkbare omvang. Dat bereikt het dankzij de loop, die seriële rekentijd koopt zonder parameters te kopen, en de bewering houdt op te gelden zodra je het model vraagt iets te weten in plaats van iets uit te werken.

De kosten- en snelheidskolommen zijn waar de release het sterkst overkomt. Met $0,15 in en $0,50 uit zit het aan de onderkant van de reasoning-tier, en $0,59 per indextaak is een kwart van wat een 27B dense model in dezelfde scoreband kost. Het is snel op de twee manieren die in een agent-loop zichtbaar worden: 9,72 seconden tot de eerste antwoordtoken en 280 outputtokens per seconde. De compenserende zwakte is breedsprakigheid — 161M outputtokens om de index-run te voltooien tegen een mediaan van 85,7M bij vergelijkbare modellen, ruwweg 1,9 keer de output van een typisch model in zijn klasse. Op een factuur per token is dat prima. Bij een vast tokenbudget betekent het dat je ongeveer half zoveel taken krijgt.

Screenshot of the Artificial Analysis model page for Inkling 2 Mini, showing it amongst the leading models in intelligence and reasonably priced for its size but very verbose, a score of 20 on the Intelligence Index against a median of 10 for its class, 161M tokens generated during the index run against a 85.7M median, pricing of $0.15 per 1M input and $0.50 per 1M output tokens, $0.59 per index task, 9.0 minutes per task, and a listed 1M-token context window.

Coderingsrijen, door leverancier gerapporteerd

De tabel die Thinking Machines publiceerde, is het sterkste onderdeel van de argumentatie, en die is volledig van het bedrijf zelf afkomstig. Dit zijn niet-gereproduceerde cijfers uit een leveranciersharnas, waarvan er verschillende zijn gedraaid met het eigen agent-scaffold van het bedrijf in plaats van een neutraal exemplaar, dus lees ze als beweringen over een checkpoint dat het lab heeft getraind.

• SWE-bench Verified — 79,2%, alleen bash.

• SWE-bench Pro v2, Moeilijk — 77,9%.

• SWE-bench Multilingual — 73,7%.

• DeepSWE v1.1 — 48,2%, tegen 42,2% gerapporteerd voor Qwen3.8-27B.

Terminal Bench v2.1 — 71,6%, achter de 73,0 van Qwen3.8-27B; op Terminal Bench v4.0 laten beide 5,6% zien.

• FrontierCode v2.0 — 15,1%, tegen 14,9% voor Qwen3.8-27B.

• Agentisch zoeken en tools — BrowseComp 79,0%, DeepSearchQA 85,3%, MCP Atlas 82,7%, allemaal hoger dan de Qwen3.8-27B-waarde in dezelfde tabel.

Visie en documenten — MMMU Pro 74,9%, OmniDocBench v1.6 92,8%, ScreenSpot Pro 76,5% standaard en 87,7% met Python-tooling.

• Redeneren — HLE-Diamond 15,2%, CritPt v2 31,4%, ARC-AGI 84,5% op v1 en 49,3% op v2, LongBench v2 66,9%.

De vorm van die tabel is consistent met de architectuur, en het is het nuttigste in de release. De rijen waarop het model sterk overkomt, zijn de rijen die volharding en toolgebruik over een lange horizon belonen: zoeken, patching op repositoryschaal, documentparsing. De rijen waarop het gewoon overkomt, zijn de rijen die één correcte herinnering of een moeilijke wetenschappelijke inferentie vereisen. Looping voegt seriële stappen toe. Het voegt geen opgeslagen feiten toe.

Loopen levert redenering op, geen feiten.

Dat onderscheid is de eigen these van de release, en het bedrijf test die in plaats van hem zomaar te beweren. Op AA-Omniscience, de feitelijkheidsbenchmark, vermeldt de leverancierstabel −8,6 voor Inkling 2 Mini met een niet-hallucinatiepercentage van 63,4%. Een negatieve score betekent daar dat het model slechter is dan weigeren te antwoorden: het produceert zelfverzekerde fouten. De framing van het bedrijf is dat de kennisachterstand in lijn ligt met andere modellen van dezelfde totale grootte, en dat het model die compenseert door goed te zoeken — precies wat de rijen voor BrowseComp en DeepSearchQA laten zien, en precies waarom de eerlijke samenvatting van dit model is: "goed in vinden, zwak in onthouden".

De metgezel met variabele lus maakt het punt scherper. Zijn tijdshorizon zonder chain-of-thought — hoe lang een taak is die hij met 50% betrouwbaarheid kan afronden zonder de redenering op te schrijven — stijgt van 16 seconden bij één pass naar 37 seconden bij drie passes, en vlakt daarna af, terwijl serieel redeneren op een N-Hop-opzoektaak blijft verbeteren tot tien passes, twee keer de diepte waarop het was getraind. De winst concentreert zich in multi-hop retrieval, wiskunde- en wetenschapsredenering en langdurig agentisch werk. Feitelijke vraagbeantwoording zonder bronnen (closed-book) verandert nauwelijks.

Het monitorbaarheidsresultaat is het onderdeel waar onderzoekers het meest om geven, want dat is het bezwaar tegen modellen met lussen. Als een model meer berekening binnen één token verricht, verschijnt er minder redenering in de zichtbare gedachtegang, en een monitor op de gedachtegang ziet dan minder. Thinking Machines meet dit en vindt het effect op deze schaal kleiner dan gevreesd: de redenering van het variabele-lusmodel bij vijf passes was minder dan half zo lang als bij één (gemiddeld 1.661 tegen 3.703 tokens), terwijl de zinslengte en het aandeel woordenboekwoorden ongewijzigd bleven, wat eerder leest als directere redenering dan als minder leesbare redenering. In zijn LinuxArena-stealth-evaluatie zit Inkling 2 Mini met 3,9% ver onder de 20,5% van Qwen3.8-27B. Niets daarvan is een garantie — het is een eerste meting aan een klasse architectuur waarvoor nog nooit iemand downloadbare gewichten heeft gehad, en het bedrijf zegt ronduit dat het het model mede heeft uitgebracht zodat anderen het kunnen controleren.

Wat het kost om te draaien

Zelfhosting is de geadverteerde modus en de rekensom is eenvoudig. Een checkpoint van 20GB op een machine die je al bezit, heeft helemaal geen marginale tokenkosten, en de eigen efficiëntiestudie van de leverancier — uitgevoerd door Stanford's Hazy Research- en Scaling Intelligence-labs op basis van early access, bij MXFP8 en weinig reasoning-inspanning — komt uit op 0,703 intelligentie per watt op een DGX Spark tegenover 0,430 voor Qwen3.6-35B-A3B en 0,159 voor Gemma 4 26B-A4B. Dat is een leveranciersgerelateerd resultaat op één apparaat, geen vlootmeting, maar de richting is niet subtiel.

Het eerlijke argument tegen zelf draaien is dat een loop-architectuur ongeveer één dag aan serving-volwassenheid heeft. SGLang, vLLM en de rest vermelden ondersteuning, en de modelkaart waarschuwt in zijn eigen woorden dat runtime-ondersteuning voor loopmodellen nieuw is en de snelheid varieert. De doorvoer die je op je eigen machine meet, is een functie van welke engine je hebt gekozen en hoe recent de kernels ervan zijn, en dat zal sneller veranderen dan wat dan ook anders aan dit model.

Waar een router hier zijn plek verdient, is niet in het bedienen van Mini — die hosten we niet. Het zit in wat je eromheen zet. Een evaluatie van een onbewezen architectuur zou nooit het enige mogen zijn dat je gebruikers van een foutpagina scheidt, en de manier om dat te regelen is een model aanroepen dat je vertrouwt voor het productiepad, terwijl Mini ernaast draait. Qwen3.8-Flash staat op OrcaRouter voor $0,15 per miljoen input en $0,47 per miljoen output, de lijstprijs van de provider zonder toeslag doorgegeven, en de routing-DSL en automatische failover laten je Mini erachter plaatsen op de dag dat Mini een endpoint bereikt dat wij kunnen bereiken. Eén sleutel dekt beide kanten van dat experiment, en dat is het hele argument.

A generated single-column scoreboard titled 'Inkling 2 Mini — the scoreboard', with six rows reading Intelligence Index 20.1, cost per index task $0.59, output speed 280 tokens per second, first token 9.72 seconds, size on disk about 20GB, and licence Apache 2.0, above a footer stating that index, cost and speed are per Artificial Analysis and coding rows are vendor-reported and unreproduced.

Vier dingen om op te letten

Het eerste is onafhankelijke reproductie. Artificial Analysis heeft de index, kosten, snelheid en woordrijkheid — gemeten — maar de coderingstabel is van het lab. Totdat iemand buiten Thinking Machines SWE-bench Pro v2 of DeepSWE op de openbare gewichten draait, zijn 77,9% en 48,2% beweringen.

Het tweede is of er buiten Tinker een gehost endpoint verschijnt. Een Apache 2.0-checkpoint van 20GB is precies het soort artefact dat externe aanbieders snel oppikken, en de prijsconcurrentie die $0,59 per taak duurzaam zou laten lijken, begint pas wanneer er een tweede verkoper is.

Het derde is de lus zelf. Als de pilot werkt, is de techniek overdraagbaar: drie passes over de middelste lagen, een gate om het bericht samen te voegen, geen extra parameters. Elk recept voor kleine modellen in het vakgebied wordt er een kandidaat voor, en de interessante vraag is niet langer of dit model 20 scoort, maar of het volgende 24 scoort met hetzelfde geheugen.

Het vierde is het onderdeel dat de lancering niet beslecht. Geluste modellen verplaatsen het redeneren uit de zichtbare gedachtegang naar de forward pass. Thinking Machines vond geen betekenisvol verlies van monitorbaarheid bij 5,4B actieve parameters. Niemand heeft dezelfde meting bij 50B gepubliceerd. Dat is de vraag die deze release mogelijk maakt om te stellen, en het is een betere reden om je druk te maken over een download van 20GB dan over de score.

Voor iedereen die deze week moet beslissen, is de tweedeling helder. Als je een competente agentische codeur wilt die offline draait op hardware die je al bezit, en je bereid bent om die in een sandbox te draaien en het feitengeheugen te testen voordat je erop vertrouwt, is Inkling 2 Mini het meest interessante kleine model dat er nu is, en de prijs om het te proberen is één download. Als je een antwoord nodig hebt dat je een klant kunt voorleggen zonder een retrieval-laag erachter, dan is dit dat model niet, en de 20 op de index zal daar geen verandering in brengen.