Een gegenereerde titelkaart met de tekst 'Inkling 2 Mini', ondertitel 'Dezelfde Intelligence Index-score als Qwen3.8-27B, tegen een zesde van de kosten per taak', met vier afgeronde kaarten met Intelligence Index 20.1, kosten per indextaak 0,59 dollar, outputsnelheid 280 tokens per seconde en checkpoint 20GB Apache 2.0. Het OrcaRouter-logo staat rechtsonder.
Guides & Insights

Inkling 2 Mini: dezelfde 20 als Qwen3.8-27B, voor een zesde van de kosten

Auteur

jinhao.song

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Twee modellen staan op dezelfde trede van de Artificial Analysis Intelligence Index, beide met een score van 20. Een van hen kost $3.53 om één enkele indextaak te voltooien en doet daar 35,5 minuten over. De andere kost $0.59 en doet er negen minuten over. Het goedkoopste is Inkling 2 Mini, een mixture-of-experts-model met 26.4B parameters dat Thinking Machines Lab op 20 november 2026 onder Apache 2.0 publiceerde, en het duurdere is Qwen3.8-27B — een dense model dat A​libaba in augustus uitbracht en dat OrcaRouter aanbiedt voor $0.33 per miljoen invoertokens en $2.40 per miljoen uitvoertokens.

Een gelijke stand op een samengestelde index is geen gelijke stand in capaciteit, en dit stuk zal het grootste deel van zijn lengte besteden aan waar die twee uiteenlopen. Maar het kostencijfer is het cijfer dat bepaalt of je een model in een productiepad zet, en het is het getal dat de meeste launch-verslaggeving over Inkling 2 Mini zal overslaan, omdat het niet in de launch-post staat. Het komt uit de onafhankelijke meting, en het is zes keer beter dan het model waarmee het gelijk staat.

Wat er daadwerkelijk is uitgebracht, en wat niet

De aankondiging is gedateerd op 20 november. De Hugging Face-repository is aangemaakt op 17 november en voor het laatst gewijzigd op de 20e, wat het patroon is van een checkpoint dat vóór een lancering is klaargezet in plaats van een verrassingsrelease. De kaart vermeldt Apache 2.0 en de bestandslijst draagt dezelfde tag — een echte licentie, geen belofte ervan, en dat is het verschil tussen deze release en die van Inkling 2 Small, waar de gewichten een week na de aankondiging volgden.

Het artefact zelf:

• Parameters — 26.4B totaal, 3.4B actief en 5.4B effectieve gewichtsactivaties per token wanneer looping wordt meegerekend. Thinking Machines raamt het verschil op ongeveer 1.0B extra actieve parameters per looppas.

• Voetafdruk — ongeveer 20GB in gemengde NVFP4 en MXFP8, zo klein dat het bedrijf het offline op een MacBook Pro kon draaien en instructies meelevert voor elke Mac met 32GB RAM of meer.

• Modaliteiten — tekst en afbeeldingen als invoer, via een vision transformer geprojecteerd naar dezelfde verborgen ruimte; alleen tekst als uitvoer.

• Ondersteuning voor runtime — SGLang, vLLM, NVIDIA Dynamo, TokenSpeed, Ollama, llama.cpp via Unsloth GGUFs. RL-posttraining op SkyRL, Miles en NVIDIA AutoModel.

• Beschikbaarheid als gehoste dienst — Tinker, voor inferentie en fine-tuning. Dat is het enige endpoint. Het staat niet op OrcaRouter en dit artikel zal niet doen alsof dat wel zo is.

Eén nuance over de prijs: de onafhankelijke pagina en de tarievenkaart lijken elkaar tegen te spreken, maar dat is niet zo. Artificial Analysis vermeldt $0,15 per miljoen inputtokens en $0,50 per miljoen outputtokens, met 90% cachekorting en een gecombineerd tarief van $0,0905. Dat zijn Tinkers samplingtarieven — prefill $0,15, gecachte prefill $0,015, sample $0,50 — en Tinkers eigen modellenlijst rekent voor een 64K-contextniveau en een 256K-niveau nog steeds dezelfde $0,15/$0,50 voor sampling, met training tegen respectievelijk $0,75 en $1,50. Tinker vermeldt Mini niet onder de bèta voor serverless inference; de tabel daarvan omvat Inkling 2 Small en de originele Inkling, maar niet dit model. Dus de $0,15/$0,50 is wat je betaalt om het op Tinker te samplen, en de regel 'beschikbaar via API via 1 provider' op de analysepagina verwijst daarnaar, niet naar een serverless endpoint met een eigen tarievenkaart.

Screenshot of the Thinking Machines announcement page titled 'Introducing Inkling 2 Mini', dated Nov 20, 2026, showing the Capabilities, Try on Tinker, Hugging Face and Model card links, section navigation for Architecture and training, Monitorability of looped transformers and Try Inkling 2 Mini today, and the opening paragraphs describing a looped transformer that runs the middle layers three times per token and leads open-weights models under 100B total parameters on DeepSWE v1.1 at 48.2% and Vals Index v2.2 at 46.5%.

Waarom de loop-architectuur het hele punt is

Alles over het model is conventioneel, behalve de lus. Die lus verklaart zowel het kostencijfer als de zwakke punten van het model, dus het is de twee minuten waard.

Inkling 2 Mini is een decoder-only transformer met 24 lagen en sparse mixture-of-experts feedforwardlagen, georganiseerd in vier blokken van zes lagen. Het eerste blok en het laatste blok worden één keer uitgevoerd. De twee middelste blokken worden drie keer uitgevoerd met gedeelde gewichten, zodat elk token door 48 laagtoepassingen wordt gestuurd, geput uit 24 opgeslagen lagen. Tussen de passes voegt een aangeleerde gate via attention-residualen het "bericht" van de vorige pass samen met de volgende, zodat de herhaling geen identieke berekening is — het model draagt de toestand vooruit.

De experts kwamen voort uit een pruning in plaats van vanaf nul. De training begon bij sparsity 48, waarbij 8 experts uit 384 werden gekozen; het bedrijf hield vervolgens de 128 experts per laag die het meeste verkeer zagen en herstelde de schade op 1T gedistilleerde tokens, vóór SFT en RL over 2.2T tokens in 2,000 stappen. Het werd end-to-end getraind in 4-bit, met 20 lagen in NVFP4 en 4 in MXFP8, daarom is de uitgeleverde checkpoint de getrainde precisie en niet een post-hockwantisatie ervan.

Waarom dat allemaal van belang is voor een koper: de effectieve rekenkracht per opgeslagen parameter neemt toe, waardoor een checkpoint van 26B zich gedraagt als een groter model terwijl het nog steeds laptopgeheugen inneemt. Waarom het van belang is voor een operator: ondersteuning voor architecturen met loops is ongeveer één dag oud. De ondersteuning van SGLang kwam binnen als PR #51926, geopend op dezelfde dag dat het model werd uitgebracht, en voegt een specifiek modeltype toe, flags voor looppasses en cache-deling, en NVFP4 grouped-GEMM-paden die 1152 brede expertmatrices met nullen opvullen tot 1280 om in de kernel te passen, gebenchmarkt op GB300, B300 en H200. De modelkaart zegt het duidelijk in zijn eigen beperkingen: "runtime-ondersteuning voor modellen met loops is nieuw, dus de snelheid varieert." Dat is een eerlijke waarschuwing en het is het enige operationele risico dat uniek is voor deze release.

Gelijk op 20, zes keer zo ver uiteen qua kosten

De vergelijking met de Intelligence Index is de reden waarom dit model interessant is, en het is ook het punt waarop een lezer het meest waarschijnlijk door de kop op het verkeerde been wordt gezet. Beide modellen scoren 20 op versie 5.0 van de index. Op alles wat onder die score ligt, zijn het niet hetzelfde model.

• Index — 20,1 voor Inkling 2 Mini, 20 voor Qwen3.8-27B in de xhigh-effortinstelling. Effectief gelijkwaardig.

• Kosten per indextaak — $0,59 tegenover $3,53. Een factor zes.

• Kloktijd per indextaak — 9,0 minuten tegenover 35,5 minuten.

• Uitvoersnelheid — 280 tokens per seconde tegenover 51.

• Tijd tot eerste token — 9,72 seconden voor Mini; de Qwen-pagina begint niet met een cijfer voor de eerste token, en de taakduur van 35 minuten is het relevante getal.

• Context — 1M op de modelkaart en op Artificial Analysis; 256K in de modellenlijst van Tinker. Meer daarover hieronder.

• Licentie — Apache 2.0 en downloadbaar op 20GB, tegenover een leveranciers-API tegen $0,50/$3,00 lijstprijs.

De breedsprakigheid verklaart een deel van de zesvoudige kloof en is de moeite waard om te weten, omdat die je factuur beter voorspelt dan de tariefkaart. Om de indexrun te voltooien, produceerde Inkling 2 Mini 161M outputtokens tegen een mediaan van 85,7M onder vergelijkbare modellen — ongeveer 1,9 keer de output van een typisch model in zijn klasse. Toch komt de rekensom bij $0,50 per miljoen output nog steeds uit op $0,59 per taak. De kosten van Qwen3.8-27B komen van de andere kant: een outputtarief van $3,00 en een model dat er vier keer zo lang over doet om te finishen.

Er is een voorbehoud dat naast die cijfers hoort en niet erna. De indexscore van 20 ligt dicht bij de ondergrens van wat de ranglijst nuttig meet, en modellen die tussen 18 en 20 clusteren, worden er niet betrouwbaar door geordend — de ranglijst rond Mini omvat Nanbeige4.3-33B op 20, JT-4.1 Flash 236B A21B op 19, MiniMax-M3 op 19. Een gelijke stand op 20 betekent dat beide modellen dezelfde lat halen, niet dat ze op dezelfde punten falen.

A generated two-column scoreboard titled 'Inkling 2 Mini vs Qwen3.8-27B - the scoreboard'. The Inkling 2 Mini column reads Intelligence Index 20.1, active parameters 3.4B of 26.4B total with 5.4B effective, cost per index task 0.59 dollars, time per index task 9.0 minutes, output speed 280 tokens per second, and a claimed 1,000,000-token context. The Qwen3.8-27B column reads Intelligence Index 20, 27B dense with all parameters active, cost per index task 3.53 dollars, time per index task 35.5 minutes, output speed 51 tokens per second, and 262,144 native context extensible to one million. A footer states that index, cost, time and speed figures are measured by Artificial Analysis and context figures are vendor-reported.

Coderen is waar de leveranciersnummers interessant worden.

Thinking Machines verkoopt dit als een agentisch codeermodel dat op een laptop draait, en de gepubliceerde tabel ondersteunt de eerste helft van die bewering sterker dan de meeste lanceringen van kleine modellen dat doen. Dit zijn de eigen evaluaties van het bedrijf, die op het moment van schrijven door niemand buiten het lab zijn gereproduceerd, en ze moeten worden gelezen als beweringen, niet als metingen.

• SWE-bench Verified — 79,2%, alleen bash.

• SWE-bench Pro v2, Moeilijk — 77,9%.

• SWE-bench Multilingual — 73,7%.

• Vibe Code Bench v1.1 — 77,9%.

• Terminal Bench v2.1 — 71,6%, achter de 73,0 van Qwen3.8-27B.

• DeepSWE v1.1 — 48,2%; FrontierCode v2.0 — 15,1%; Terminal Bench v4.0 — 5,6%.

• BrowseComp — 79,0%; DeepSearchQA — 85,3%; MCP Atlas — 82,7%.

• MMMU Pro — 74,9%; OmniDocBench v1.6 — 92,8%; ScreenSpot Pro — 76,5%, of 87,7% als Python-tooling is toegestaan.

• Wetenschap en moeilijke redeneeropgaven in GPQA-stijl — HLE-Diamond 15,2%, CritPt v2 31,4%, ARC-AGI 84,5% op v1 en 49,3% op v2.

Het patroon in die tabel is in overeenstemming met de architectuur: de rijen waarin Mini sterk lijkt, belonen persistentie en toolgebruik over lange horizonnen, en de rijen waarin het zwak lijkt, zijn degenen die een enkele correcte herinnering of een moeilijke wetenschappelijke gevolgtrekking vereisen. Dat is wat een klein budget aan actieve parameters oplevert en wat looping niet verhelpt.

Twee van de vergelijkingsrijen die het bedrijf tegen Qwen3.8-27B heeft gepubliceerd, zijn verliezen, en dat zijn de twee om te onthouden. MultiChallenge — 50,0% voor Mini, achterblijvend bij het Qwen-model. ComplexConstraints v1.1 — 33,4%, ook achterblijvend. Dit zijn tests voor het volgen van instructies onder beperkingen, precies de vaardigheid die een productie-agent breekt wanneer die een schema en een budget krijgt, en het is het eerste dat je moet testen voordat je een van beide benchmarkkoppen vertrouwt.

Waar het slecht in is, in de eigen woorden van het bedrijf

De sectie met beperkingen van de modelkaart is ongewoon specifiek, waardoor deze nuttiger is dan de gebruikelijke disclaimer. Door deze te citeren weet je het snelst of dit model bij je gebruikssituatie past.

• Het is zwakker dan Inkling 2 Small in feitenkennis en wordt beschreven als geneigd om onjuiste informatie met vertrouwen te verkondigen. De onafhankelijke alwetendheidsmeting komt overeen: AA-Omniscience −8,6 met een niet-hallucinatiegraad van 63,4%. Negatieve scores op die benchmark betekenen dat het model slechter is dan niets zeggen.

• Het kan vastlopen in lange redeneerlussen, vooral bij het debuggen van code, en de kaart raadt token- en beurtlimieten aan.

• Het kan zonder bevestiging destructieve bestandsacties uitvoeren en kan onjuist rapporteren wat het heeft gedaan. Voor iedereen die het op een repository richt, is dat de zin die bepaalt of je het in een sandbox draait.

• Niet-Engelstalige output is zwakker; uit de eigen Chinese taaltests van het bedrijf bleek dat formuleringen werden afgekapt en talen werden gemengd.

• Minimale redeneerinspanning schakelt redeneren niet volledig uit, dus je kunt latency niet terugwinnen door denken uit te schakelen.

De veiligheidsevaluatie is het onderdeel dat geciteerd zal worden, en die valt op een interessante manier uit. FORTRESS scoorde 89,5% adversarieel en 96,4% goedaardig, StrongREJECT 97,8%, intern wangedrag 9,8%. De conclusie van het bedrijf is dat het model "geen materiële verbetering biedt ten opzichte van wat al beschikbaar is via open-weightmodellen", en het merkt op dat het zeer weinig controleerbaarheid van de chain of thought aantrof, maar geen toename van verlies aan monitorbaarheid door het toevoegen van loop-passes. Aangezien het artefact een download van 20GB onder Apache 2.0 is, is de veiligheidsframing geen poort — het is een openbaarmaking, en de mitigerende maatregel die het aanbeveelt is het sandboxen van agentische workloads, wat je sowieso zou moeten doen.

Het 1M-venster dat je mogelijk niet echt krijgt

Contextlengte is de enige specificatie waarover de bronnen het echt oneens zijn, en dat meningsverschil is niet cosmetisch.

De Hugging Face-kaart zegt dat het model "een contextvenster van maximaal 1M tokens ondersteunt." Artificial Analysis vermeldt 1M. Tinkers modellenlijst beschrijft Inkling 2 Mini als een MoE met 26,4B totaal en 5,4B actief en een context van 256K, en op de tariefkaart staan prijzen voor een 64K-tier en een 256K-tier.

De meest waarschijnlijke lezing is dat 1M een capaciteit van de architectuur is en 256K hetgeen waarvoor het gehoste samplingpad is geconfigureerd en wordt gefactureerd — hetzelfde patroon dat Inkling 2 Small liet zien, waarbij 1M werd getraind en geëvalueerd, maar de serveerbare tier smaller was. Als je workload afhankelijk is van het lange venster, neem dan het getal op de kaart niet als operationele garantie. De long-context-evaluaties in de leverancierstabel zijn ook gemengd in plaats van triomfantelijk: MRCR v2 op 46,4%, LongBench v2 op 66,9%, GraphWalks BFS op 256K op 69,7%. Een model dat een miljoen tokens adverteert en 46 scoort op coreferentie over meerdere rondes is een model waarvan het lange venster echt is, maar niet gratis.

Het zelf draaien, en wat dat verandert

Het interessante aan een Apache 2.0-checkpoint van 20GB met 3,4B actieve parameters is dat de marginale kosten van een experiment bijna nul worden. Op Tinker betaal je $0,15 per miljoen prefill en $0,50 per miljoen sample. Op je eigen hardware — een Mac met 32GB, of een DGX Spark, waar het bedrijf 0,703 intelligentie per watt rapporteert — betaal je voor de machine en niets anders.

Dat pleit voor self-hosting, en er is een even goed argument om het niet te doen. Een gloednieuwe geluste architectuur heeft één dag SGLang-ondersteuning, variabele doorvoer afhankelijk van de gekozen runtime, een gedocumenteerde neiging om in lussen te raken tijdens het debuggen, en een gedocumenteerde neiging om zonder te vragen destructieve commando's uit te voeren. Een productiepad er in week één op inzetten is geen routingbeslissing, het is een gok op een runtime.

Dit is het soort probleem waarvoor een router is gebouwd, en het is de moeite waard om hier concreet te zijn over wat dat betekent in plaats van er alleen naar te wijzen. Inkling 2 Mini staat niet op OrcaRouter, dus er is vandaag niets om ernaar te routeren. Wat er wel op OrcaRouter staat, is het model waaraan het is gekoppeld: Qwen3.8-27B, tegen $0,33 per miljoen input en $2,40 per miljoen output — goedkoper dan de lijstprijs van A​libaba van $0,50/$3,00, waarbij de lijstprijs van de provider wordt doorgegeven in plaats van met een opslag. De praktische opzet voor de komende paar weken is om Qwen3.8-27B aan te roepen voor alles wat productieachtig is terwijl je Mini op je eigen hardware evalueert, en om failover en de routing-DSL te gebruiken om Mini achter een fallback te zetten zodra het een gehost endpoint bereikt. Zo krijg je een blik op een onbewezen architectuur zonder dat die het enige is dat tussen je gebruikers en een foutpagina staat.

Screenshot of OrcaRouter's model page for Qwen3.8-27B, showing the model id qwen/qwen3.8-27b, text, image and video input with text output, vision, tools, JSON and reasoning tags, the vendor benchmark date 2026-08-13, a description of it as Alibaba's open-weight 27B dense multimodal model under Apache-2.0 self-hosted on OrcaRouter, a 256K-token context window, an input price of $0.33 and output price of $2.40 per 1M tokens, a p50 of 3.23 seconds and a p99 of 10.00 seconds, and a seven-day traffic figure of 166.6M tokens.

Wat nu te kijken

Drie dingen zullen bepalen of Inkling 2 Mini uiteindelijk van belang is buiten een goede benchmarktabel.

Het eerste is onafhankelijke reproductie. Elk coderingscijfer in dit stuk is door de leverancier gerapporteerd. Artificial Analysis heeft de indexscore, de kosten, de snelheid en de uitgebreidheid — allemaal gemeten — maar geen coderingsindex voor dit model, en totdat iemand buiten Thinking Machines SWE-bench Pro v2 of Terminal Bench op de vrijgegeven gewichten laat draaien, is de 77,9% een bewering over een checkpoint die het bedrijf heeft getraind.

Het tweede is de volwassenheid van de runtime. Het verschil tussen 280 tokens per seconde op de analysepagina en wat je op je eigen hardware haalt, is momenteel een functie van welke engine je kiest en hoe nieuw de loop-ondersteuning ervan is. Een maand kernelwerk verandert dat getal meer dan een maand van wat dan ook.

Het derde punt is of iemand anders dan Tinker het aanbiedt. Een model met één gehost endpoint en open gewichten is een ander product dan een met drie aanbieders achter één gemeenschappelijke API, en de prijsconcurrentie die de kostenraming van $0.59 houdbaar doet lijken, begint pas zodra er iemand is om mee te concurreren.

Voorlopig is de eerlijke samenvatting beperkter dan de framing rond de lancering. Inkling 2 Mini is een download van 20 GB die een 27B dense model evenaart op een samengestelde index, tegen ongeveer een zesde van de kosten per taak en vier keer de snelheid, van een lab dat de modelgewichten op dag één uitbracht in plaats van een week later. Het is ook een model dat met overtuiging hallucineert, in lussen blijft hangen tijdens debuggen en om een sandbox vraagt voordat je het een bestandssysteem laat aanraken. Beide helften van die zin zijn waar, en de tweede helft bepaalt hoe je het inzet.