Ett genererat titelkort med texten "Inkling 2 Mini", med undertexten "Samma Intelligence Index-poäng som Qwen3.8-27B, till en sjättedel av kostnaden per uppgift", samt fyra rundade kort med texten Intelligence Index 20,1, kostnad per indextask 0,59 dollar, utdatahastighet 280 tokens per sekund och checkpoint 20 GB Apache 2.0. OrcaRouter-logotypen sitter nere till höger.
Guides & Insights

Inkling 2 Mini: Samma 20 som Qwen3.8-27B, en sjättedel av kostnaden

Författare

jinhao.song

Publiceringsdatum

Senaste modellerna · 20Visa alla modeller →
Benchmarks: Artificial Analysis · uppdateras dagligen
Tillbaka till alla inlägg

Två modeller ligger på samma nivå i Artificial Analysis Intelligence Index, och båda har fått 20 poäng. En av dem kostar 3,53 dollar för att slutföra en enda indexuppgift och tar 35 och en halv minut att göra det. Den andra kostar 0,59 dollar och tar nio minuter. Den billigare är Inkling 2 Mini, en mixture-of-experts-modell med 26,4B parametrar som Thinking Machines Lab publicerade den 20 november 2026 under Apache 2.0, och den dyrare är Qwen3.8-27B — en dense-modell som A​libaba släppte i augusti och som OrcaRouter tillhandahåller för 0,33 dollar för indata och 2,40 dollar för utdata per miljon tokens.

Ett lika resultat på ett sammansatt index är inte ett lika resultat i kapacitet, och den här texten kommer att ägna större delen av sin längd åt var de två skiljer sig åt. Men kostnadssiffran är den som avgör om du sätter en modell i ett produktionsflöde, och det är den siffra som de flesta artiklar om lanseringen av Inkling 2 Mini kommer att hoppa över, eftersom den inte finns i lanseringsinlägget. Den kommer från den oberoende mätningen, och den är sex gånger bättre än modellen den delar resultat med.

Vad som faktiskt levererades, och vad som inte gjorde det

Tillkännagivandet är daterat den 20 november. Hugging Face-repositoriet skapades den 17 november och ändrades senast den 20:e, vilket har formen av en checkpoint som förberetts före en lansering snarare än en överraskningssläpp. Modellkortet uppger Apache 2.0 och filförteckningen bär samma tagg – en riktig licens, inte ett löfte om en sådan, vilket är skillnaden mellan den här utgåvan och Inkling 2 Small, där vikterna kom en vecka efter tillkännagivandet.

Själva artefakten:

• Parametrar — 26,4B totalt, 3,4B aktiva och 5,4B effektiva viktaktiveringar per token när loopning räknas in. Thinking Machines uppskattar gapet till ungefär 1,0B extra aktiva parametrar per loopomgång.

• Fotavtryck — cirka 20 GB i en blandning av NVFP4 och MXFP8, tillräckligt litet för att företaget kunde köra det offline på en MacBook Pro och levererar instruktioner för alla Mac-datorer med 32 GB RAM eller mer.

• Modaliteter – text och bilder in, via en vision transformer projicerad till samma dolda rum; endast text ut.

• Runtime-stöd — SGLang, vLLM, NVIDIA Dynamo, TokenSpeed, Ollama, llama.cpp via Unsloth GGUFs. RL-efterträning på SkyRL, Miles och NVIDIA AutoModel.

• Hostad tillgänglighet — Tinker, för inferens och finjustering. Det är den enda slutpunkten. Den finns inte på OrcaRouter och den här texten tänker inte låtsas något annat.

En precisionspunkt om priset, eftersom den oberoende sidan och prislistan ser ut att gå isär men inte gör det. Artificial Analysis listar $0.15 per miljon input och $0.50 per miljon output, med 90 % cacherabatt och ett blandat pris på $0.0905. Det är Tinkers samplingstaxor — prefill $0.15, cachad prefill $0.015, sampling $0.50 — och Tinkers egen modellista prissätter fortfarande en 64K-kontextnivå och en 256K-nivå till samma $0.15/$0.50 för sampling, med träning på $0.75 respektive $1.50. Den serverlösa inferensbetan är den kategori där Tinker inte listar Mini, och dess tabell omfattar Inkling 2 Small och den ursprungliga Inkling men inte den här modellen. Så $0.15/$0.50 är vad du betalar för att sampla den på Tinker, och raden "tillgänglig via API genom 1 leverantör" på analyssidan är just det, inte en serverlös endpoint med egen prislista.

Screenshot of the Thinking Machines announcement page titled 'Introducing Inkling 2 Mini', dated Nov 20, 2026, showing the Capabilities, Try on Tinker, Hugging Face and Model card links, section navigation for Architecture and training, Monitorability of looped transformers and Try Inkling 2 Mini today, and the opening paragraphs describing a looped transformer that runs the middle layers three times per token and leads open-weights models under 100B total parameters on DeepSWE v1.1 at 48.2% and Vals Index v2.2 at 46.5%.

Varför looparkitekturen är hela poängen

Allt annat hos modellen är konventionellt. Loopen är det inte, och den förklarar både kostnadssiffran och modellens svagheter, så den är värd två minuter.

Inkling 2 Mini är en 24-lagrig decoder-only-transformer med glesa feed-forward-lager av mixture-of-experts-typ, organiserad i fyra block med sex lager vardera. Det första blocket och det sista blocket körs en gång. De två mittersta blocken körs tre gånger med delade vikter, så varje token skickas genom 48 lagerapplikationer hämtade från 24 lagrade lager. Mellan passen sammanfogar en inlärd gate föregående passets "meddelande" med nästa pass via attention-residualer, så upprepningen är inte en identisk beräkning – modellen för tillståndet vidare.

Experterna kom från beskärning snarare än från grunden. Träningen började vid sparsitet 48, med 8 experter utvalda av 384; företaget behöll sedan de 128 experter per lager som hade mest trafik och läkte skadorna på 1T destillerade tokens, före SFT och RL över 2,2T tokens i 2 000 steg. Den tränades end-to-end i 4-bit, med 20 lager i NVFP4 och 4 i MXFP8, vilket är anledningen till att den levererade checkpointen är i tränad precision och inte en efterhandskvantisering av den.

Varför något av detta spelar roll för en köpare: effektiv beräkningskapacitet per lagrad parameter ökar, så en 26B-checkpoint beter sig som något större samtidigt som den tar upp minne i en bärbar dator. Varför det spelar roll för en driftoperatör: stödet för loopade arkitekturer är ungefär en dag gammalt. SGLangs stöd landade som PR #51926, öppnad samma dag som modellen släpptes, och lägger till en dedikerad modelltyp, flaggor för looppass och cache-delning samt NVFP4 grouped-GEMM-vägar som nollutfyller 1152 breda expertmatriser till 1280 för att passa kerneln, benchmarkade på GB300, B300 och H200. Modellkortet säger det rakt ut bland sina egna begränsningar: "körningsstödet för loopade modeller är nytt, så hastigheten varierar." Det är en ärlig varning, och det är den enda operativa risken som är unik för den här utgåvan.

Lika på 20 – sex gånger skillnad i kostnad

Jämförelsen av Intelligence Index är anledningen till att den här modellen är intressant, och det är också där en läsare är mest sannolikt att bli vilseledd av rubriken. Båda modellerna får 20 på version 5.0 av indexet. I allt som ligger under den poängen är de inte samma modell.

• Index — 20,1 för Inkling 2 Mini, 20 för Qwen3.8-27B i dess xhigh effort-inställning. I praktiken jämnt.

• Kostnad per indexuppgift — 0,59 USD mot 3,53 USD. En faktor på sex.

• Väggklockstid per indexuppgift — 9,0 minuter jämfört med 35,5 minuter.

• Utdatashastighet — 280 tokens per sekund jämfört med 51.

• Tid till första token – 9,72 sekunder för Mini; Qwen-sidan inleder inte med en siffra för första token, och dess uppgiftstid på 35 minuter är den avgörande siffran.

• Kontext — 1M på modellkortet och på Artificial Analysis; 256K i Tinkers modellista. Mer om det nedan.

• Licens — Apache 2.0 och nedladdningsbar på 20 GB, jämfört med ett leverantörs-API till listpris $0.50/$3.00.

Ordrikedomen förklarar en del av gapet på sex gånger och är värd att känna till eftersom den förutsäger din faktura bättre än prislistan gör. För att slutföra indexkörningen producerade Inkling 2 Mini 161M output-token jämfört med ett medianvärde på 85,7M för jämbördiga modeller – ungefär 1,9 gånger outputen från en typisk modell i sin klass. Ändå landar matematiken på $0,59 per uppgift vid $0,50 per miljon output. Qwen3.8-27B:s kostnad kommer från andra hållet: ett output-pris på $3,00 och en modell som tar fyra gånger så lång tid att bli klar.

Det finns ett förbehåll som hör hemma bredvid de siffrorna snarare än efter dem. Indexpoängen 20 ligger nära den nedre gränsen för vad topplistan mäter på ett användbart sätt, och modeller som klustrar mellan 18 och 20 kan inte tillförlitligt ordnas efter den – topplistan kring Mini omfattar Nanbeige4.3-33B på 20, JT-4.1 Flash 236B A21B på 19, MiniMax-M3 på 19. Oavgjort på 20 betyder att båda modellerna klarar samma ribba, inte att de misslyckas på samma punkter.

A generated two-column scoreboard titled 'Inkling 2 Mini vs Qwen3.8-27B - the scoreboard'. The Inkling 2 Mini column reads Intelligence Index 20.1, active parameters 3.4B of 26.4B total with 5.4B effective, cost per index task 0.59 dollars, time per index task 9.0 minutes, output speed 280 tokens per second, and a claimed 1,000,000-token context. The Qwen3.8-27B column reads Intelligence Index 20, 27B dense with all parameters active, cost per index task 3.53 dollars, time per index task 35.5 minutes, output speed 51 tokens per second, and 262,144 native context extensible to one million. A footer states that index, cost, time and speed figures are measured by Artificial Analysis and context figures are vendor-reported.

Det är i kodningen som leverantörssiffrorna blir intressanta.

Thinking Machines säljer in detta som en agentisk kodningsmodell som körs på en bärbar dator, och den publicerade tabellen stöder den första hälften av det påståendet starkare än vad de flesta lanseringar av små modeller gör. Detta är företagets egna utvärderingar, som inte har reproducerats av någon utanför labbet vid tidpunkten för skrivandet, och de bör läsas som påståenden snarare än som mätningar.

• SWE-bench Verified — 79,2 %, endast bash.

• SWE-bench Pro v2, Svår — 77,9 %.

• SWE-bench Multilingual — 73,7 %.

• Vibe Code Bench v1.1 — 77,9 %.

• Terminal Bench v2.1 — 71,6 %, efter Qwen3.8-27B:s 73,0.

• DeepSWE v1.1 — 48,2 %; FrontierCode v2.0 — 15,1 %; Terminal Bench v4.0 — 5,6 %.

• BrowseComp – 79,0 %; DeepSearchQA – 85,3 %; MCP Atlas – 82,7 %.

• MMMU Pro — 74,9 %; OmniDocBench v1.6 — 92,8 %; ScreenSpot Pro — 76,5 %, eller 87,7 % när Python-verktyg är tillåtna.

• GPQA-liknande vetenskap och svårt resonemang — HLE-Diamond 15,2 %, CritPt v2 31,4 %, ARC-AGI 84,5 % på v1 och 49,3 % på v2.

Mönstret i den tabellen stämmer överens med arkitekturen: raderna där Mini ser stark ut belönar uthållighet och verktygsanvändning över långa horisonter, och raderna där det ser svagt ut är de som kräver en enda korrekt återkallelse eller en svår vetenskaplig slutledning. Det är vad en liten budget för aktiva parametrar ger och vad loopning inte åtgärdar.

Två av de jämförelserader som företaget publicerade mot Qwen3.8-27B är förluster, och det är de två man ska komma ihåg. MultiChallenge – 50,0 % för Mini, bakom Qwen-modellen. ComplexConstraints v1.1 – 33,4 %, också bakom. Det här är tester för instruktionsföljning under begränsningar, vilket är precis den färdighet som får en produktionsagent att braka samman när den har fått ett schema och en budget, och det är det första man bör testa innan man litar på något av benchmarkresultaten i rubrikerna.

Vad det är dåligt på, med företagets egna ord

Avsnittet om begränsningar i modellkortet är ovanligt specifikt, vilket gör det mer användbart än den vanliga ansvarsfriskrivningen. Att citera det är det snabbaste sättet att ta reda på om den här modellen passar ditt användningsfall.

• Den är svagare än Inkling 2 Small på faktaminne och beskrivs som benägen att med självsäkerhet ange felaktig information. Den oberoende allvetenhetsmätningen stämmer överens: AA-Omniscience −8,6 med en icke-hallucineringsgrad på 63,4 %. Negativa poäng på det riktmärket innebär att modellen är sämre än att säga ingenting.

• Den kan fastna i långa resonemangsloopar, särskilt vid felsökning av kod, och kortet rekommenderar gränser för token och antal turer.

• Det kan utföra destruktiva filåtgärder utan bekräftelse och kan felaktigt rapportera vad det gjorde. För alla som riktar det mot ett kodförråd är det den meningen som avgör om man kör det i en sandlåda.

• Utdata på andra språk än engelska är svagare; företagets egen testning på kinesiska fann avhuggna formuleringar och blandade språk.

• Minsta resonemangsansträngning stänger inte av resonemang helt, så du kan inte vinna tillbaka latens genom att stänga av tänkandet.

Säkerhetsutvärderingen är den del som kommer att citeras, och den pekar i en intressant riktning. FORTRESS fick 89,5 % på adversariella tester och 96,4 % på ofarliga tester, StrongREJECT 97,8 %, internt felbeteende 9,8 %. Företagets slutsats är att modellen "inte ger någon väsentlig kapacitetsökning utöver vad som redan finns tillgängligt från modeller med öppna vikter", och företaget noterar att man fann mycket lite styrbarhet över tankekedjan men ingen ökad förlust av övervakbarhet från att lägga till loop-pass. Med tanke på att artefakten är en nedladdning på 20 GB under Apache 2.0 är säkerhetsramen inte en grind – den är en upplysning, och den rekommenderade åtgärden är att sandlådeisolera agentiska arbetsbelastningar, vilket du bör göra oavsett.

1M-fönstret du kanske inte faktiskt får

Kontextlängden är den enda specifikationen där källorna verkligen är oense, och oenigheten är inte kosmetisk.

Hugging Face-kortet säger att modellen "stöder ett kontextfönster på upp till 1M tokens". Artificial Analysis anger 1M. Tinkers modelllista beskriver Inkling 2 Mini som en MoE med totalt 26,4B och 5,4B aktiva parametrar med en kontext på 256K, och dess prislista anger priser för en 64K-nivå och en 256K-nivå.

Den mest sannolika tolkningen är att 1M är en kapacitet i arkitekturen och att 256K är vad den hostade samplingvägen är konfigurerad och fakturerad för – vilket är samma mönster som Inkling 2 Small uppvisade, där 1M tränades och utvärderades men den nivå som kunde tillhandahållas var smalare. Om din arbetsbelastning är beroende av det långa fönstret bör du inte betrakta siffran på modellkortet som en driftsgaranti. Utvärderingarna för lång kontext i leverantörens tabell är också blandade snarare än triumferande: MRCR v2 på 46,4 %, LongBench v2 på 66,9 %, GraphWalks BFS vid 256K på 69,7 %. En modell som annonserar en miljon token och får 46 på fleromgångs-coreferens är en modell vars långa fönster är verkligt men inte gratis.

Att köra det själv, och vad det förändrar

Det intressanta med en 20 GB Apache 2.0-checkpoint med 3,4 miljarder aktiva parametrar är att marginalkostnaden för ett experiment sjunker till nästan noll. På Tinker betalar du 0,15 USD per miljon prefill och 0,50 USD per miljon sample. På din egen hårdvara – en Mac med 32 GB, eller en DGX Spark, där företaget uppger 0,703 intelligens per watt – betalar du för maskinen och inget annat.

Det är argumentet för att självhosta det, och det finns ett motsvarande argument för att inte göra det. En helt ny loopad arkitektur har en dags stöd för SGLang, variabel genomströmning beroende på vilken runtime du väljer, en dokumenterad tendens att loopa vid felsökning och en dokumenterad tendens att köra destruktiva kommandon utan att fråga. Att satsa en produktionsväg på det under första veckan är inte ett routingbeslut, det är en satsning på en runtime.

Det här är den typ av problem som en router är byggd för, och det är värt att vara konkret kring vad det innebär här i stället för att bara antyda det. Inkling 2 Mini finns inte på OrcaRouter, så det finns inget att routa till det i dag. Det som finns på OrcaRouter är modellen den knyter an till: Qwen3.8-27B, till $0.33 per miljon indata och $2.40 per miljon utdata – billigare än A​libabas listpris på $0.50/$3.00, med leverantörens listpris vidarebefordrat i stället för påslaget. Det praktiska upplägget de närmaste veckorna är att anropa Qwen3.8-27B för allt produktionsnära medan du utvärderar Mini på din egen hårdvara, och att använda failover och routnings-DSL:en för att sätta Mini bakom en fallback den dag den når en hostad slutpunkt. Det är så du får en titt på en obeprövad arkitektur utan att göra den till det enda som står mellan dina användare och en felsida.

Screenshot of OrcaRouter's model page for Qwen3.8-27B, showing the model id qwen/qwen3.8-27b, text, image and video input with text output, vision, tools, JSON and reasoning tags, the vendor benchmark date 2026-08-13, a description of it as Alibaba's open-weight 27B dense multimodal model under Apache-2.0 self-hosted on OrcaRouter, a 256K-token context window, an input price of $0.33 and output price of $2.40 per 1M tokens, a p50 of 3.23 seconds and a p99 of 10.00 seconds, and a seven-day traffic figure of 166.6M tokens.

Vad du ska titta på härnäst

Tre saker kommer att avgöra om Inkling 2 Mini i slutändan spelar någon roll bortom en bra benchmarktabell.

Det första är oberoende reproduktion. Varje kodningssiffra i den här artikeln är leverantörsrapporterad. Artificial Analysis har indexpoängen, kostnaden, hastigheten och ordrikedomen – alla uppmätta – men inte något kodningsindex för den här modellen, och tills någon utanför Thinking Machines kör SWE-bench Pro v2 eller Terminal Bench på de släppta vikterna är 77,9 % ett påstående om en checkpoint som företaget har tränat.

Det andra är mognaden i körtiden. Gapet mellan 280 token per sekund på analyssidan och vad du än får på din egen hårdvara är för närvarande en funktion av vilken motor du väljer och hur ny dess loop-support är. En månads kernel-arbete förändrar den siffran mer än en månad av något annat.

Den tredje är huruvida någon annan än Tinker tillhandahåller den. En modell med en enda hostad endpoint och öppna vikter är en annan produkt än en med tre leverantörer bakom ett gemensamt API, och den priskonkurrens som får kostnadssiffran $0.59 att verka hållbar börjar först när det finns någon att konkurrera med.

Just nu är den ärliga sammanfattningen snävare än lanseringens inramning. Inkling 2 Mini är en nedladdning på 20 GB som matchar en 27B tät modell på ett sammansatt index till ungefär en sjättedel av kostnaden per uppgift och fyra gånger hastigheten, från ett labb som släppte vikterna dag ett i stället för en vecka senare. Det är också en modell som hallucinerar med självförtroende, hamnar i loopar när den felsöker och ber om en sandlåda innan du låter den röra ett filsystem. Båda halvorna av den meningen är sanna, och det är den andra halvan som avgör hur du driftsätter den.