Een gegenereerde titelkaart met de tekst 'Inkling 2 Mini vs Inkling 2 Small', met ondertitel 'elf indexpunten, 394GB uit elkaar', met daaronder twee afgeronde kaarten met de tekst 'Inkling 2 Mini — 1 bestand, ongeveer 20GB' en 'Inkling 2 Small — 36 bestanden, 393,5GB', gescheiden door een scheidingslijn met '11 punten'. Het OrcaRouter-logo staat rechtsonder.
Guides & Insights

Inkling 2 Mini vs Inkling 2 Small: 11 punten voor 394GB

Auteur

jinhao.song

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Twee checkpoints, één familie, en een keuze die neerkomt op hoeveel schijfruimte en geheugen je bereid bent te besteden aan elf Index-punten. Inkling 2 Mini is de kleine: 26,4 miljard totale parameters, 3,4 miljard actief, één bestand van ongeveer 20 GB dat Thinking Machines Lab op 20 november 2026 onder Apache 2.0 publiceerde. Inkling 2 Small is de grote: 594 miljard totaal, 17 miljard actief, 393,5 GB verdeeld over 36 bestanden, met gewichten vrijgegeven op 12 november na een week van gesloten beschikbaarheid die begon met de lancering op 5 november. Op de Artificial Analysis Intelligence Index v5.0.1, die beide onafhankelijk meet, scoren ze 20,1 en 31. Dat is de hele afweging in één zin, en die onderschat hoe verschillend de twee zich gedragen.

Wat volgt, scheidt de twee soorten bewijs, omdat het verschil de meeste discussies over deze familie beslist. Indexscore, kosten per indextaak, snelheid, context en licentie zijn cijfers van Artificial Analysis en metadata van leveranciers, uitgelezen op 21 november 2026. Elk benchmarkpercentage is afkomstig uit de eigen evaluatietabel van Thinking Machines in het betreffende lanceringsbericht, op een checkpoint dat het bedrijf zelf heeft getraind, en wordt bij elke vermelding als door de leverancier gerapporteerd gemarkeerd. Geen van beide tabellen is buiten het lab gereproduceerd.

Wat elke checkpoint eigenlijk is

Begin bij het artefact, want de artefacten zijn niet hetzelfde soort ding. Inkling 2 Small is een vlak mixture-of-experts-model: 594B totaal, 17B actief per token, gewichten acht dagen na de lancering gepubliceerd als 24 safetensors-shards plus een MXFP8-variant die nog groter is. Inkling 2 Mini is een gesnoeide afstammeling met lussen — hetzelfde hoofdrecept met twee derde van de experts verwijderd en een lus toegevoegd aan de middelste lagen. Het wordt geleverd als één bestand van ongeveer 20GB omdat het end-to-end in 4-bit is getraind en wordt ingezet in de precisie waarin het is getraind, 20 lagen in NVFP4 en 4 in MXFP8, dus er is geen conversieverlies om voor te betalen.

• Totaal aantal parameters — Inkling 2 Mini 26,4B vs Inkling 2 Small 594B.

• Actieve parameters — 3,4B versus 17B, waarbij Mini 5,4B aan effectieve gewichtsactiveringen per token haalt zodra de drie luspassen worden meegeteld.

• Download — ongeveer 20GB in één bestand vs 393,5GB verdeeld over 36 bestanden, of 622,8GB voor de MXFP8-variant.

• Index — 20,1 vs 31, beide op Intelligence Index v5.0.1.

• Kosten per indextaak — $0,59 vs $1,18.

• Uitvoersnelheid en eerste token — 280 tokens per seconde bij 9,72 seconden versus 118 tokens per seconde bij 39,68 seconden.

• Context — 1M tokens op beide modelkaarten, en 1M geregistreerd door Artificial Analysis voor beide. De op Tinker aangeboden tier van Inkling 2 Small is nauwer dan de kaart aangeeft, en Mini erft dezelfde kloof; beschouw de miljoen als een capaciteit, niet als een operationele belofte.

• Licentie — Apache 2.0 op beide. De kaart van Small verklaart het zonder een LICENSE-bestand mee te leveren; de kaart van Mini verklaart het in metadata met dezelfde afwezigheid. Goed om te weten als je juridische review papierwerk in de tree wil.

Screenshot of the Artificial Analysis model page for Inkling 2 Small, showing a score of 31 on the Intelligence Index against a median of 23 for its class, 154M tokens generated during the index run against a 104M median, pricing of $0.30 per 1M input and $1.00 per 1M output tokens, $1.18 per index task, 21.2 minutes per task, a 1M-token context window, a 39.68-second time to first token and 118 output tokens per second.

Elf punten, en waar ze vandaan komen

De twee leverancierstabellen naast elkaar leggen is de enige manier om te zien wat de extra rekenkracht oplevert, want de indexscore alleen verbergt dat. Beide modellen zijn door hetzelfde lab geëvalueerd met overlappende testharnassen, dus de rijen zijn ruwweg met elkaar vergelijkbaar — en alleen met elkaar.

DeepSWE v1.1 — Inkling 2 Small 72,1% vs Inkling 2 Mini 48,2%. Het grootste verschil in het coding-blok.

• SWE-bench Pro v2, Moeilijk — 86,3% vs 77,9%.

• SWE-bench Verified — 79,2% voor Mini, alleen bash. De eigen lanceringstabel van Small vermeldt diezelfde rij niet, dus dit is de enige codingbenchmark waarop de twee berichten niet met elkaar in overeenstemming te brengen zijn.

• Vibe Code Bench v1.1 — 81,6% vs 77,9%.

• FrontierCode v2.0 — 25,4% vs 15,1%. Een verschil van tien punten op de benchmark waarop beide het zwakst zijn.

• PMPP-Hard, de kernel-optimalisatiebenchmark — 494,27 AUC voor Small tegenover 455,82 voor Mini, wat dichter bij elkaar ligt dan de parameteraantallen suggereren en de regel is waarnaar het lanceringsbericht verwijst wanneer het zegt dat Mini zijn grotere broer 'benadert'.

• BrowseComp — 90,2% vs 79,0%; DeepSearchQA 90,9% vs 85,3%; MCP Atlas 85,0% vs 82,7%. Zoeken en toolgebruik verkleinen de kloof tot enkele procentpunten.

• CritPt v2, volledig — 55,7% vs 31,4%. Wetenschappelijk redeneren is waar de extra opgeslagen kennis het sterkst naar voren komt.

• AA-Omniscience — 16,1 met een non-hallucinatiepercentage van 73,3% versus −8,6 met 63,4%.

Die laatste rij is er een om bij stil te staan. Een negatieve alwetendheidsscore betekent dat een model slechter is dan weigeren te antwoorden, en het gat van elf punten in de index wordt daar grotendeels betaald: het grotere model weet dingen, het kleinere model redeneert ze uit. Thinking Machines zegt dit zelf, in andere woorden, wanneer het uitlegt dat looping seriële berekening toevoegt maar geen opgeslagen feiten. Het snoeien verwijderde twee derde van de experts; de kennis zit in de experts die overblijven.

Zelfde recept, kleinere pan

De familiegelijkenis is geen marketing. Beide modellen ondergingen SFT met een vergelijkbare datamix en een RL-fase van in totaal 2,2T tokens over 2.000 stappen, waarbij in beide gevallen on-policy distillatie werd gebruikt voor alignment. De post-trainingpijplijn is dezelfde pijplijn; het verschil zit in wat er bij die pijplijn aankwam.

Mini's route daarheen is de moeite waard om te kennen, omdat die verschillende benchmarkrijen verklaart. Het begon met een sparsity van 48, waarbij elk token naar 8 van 384 experts werd gerouteerd. Op een bepaald moment tijdens de midtraining hield Thinking Machines de 128 meest gebruikte experts per laag — een reductie van twee derde — en herstelde het verlies met 1T tokens die uit een groter intern Inkling-model waren gedistilleerd, waarbij de overlevende experts werden getraind om het werk van de verwijderde experts over te nemen. Daarna voegde het looping toe: vier blokken van zes lagen, waarbij de middelste twee blokken drie keer werden uitgevoerd en een aangeleerde poort de boodschap van de vorige doorgang in de volgende samenvoegt, beginnend met een gain van nul zodat de training als een gewoon model begint.

Twee beoordelingskeuzes in dat ontwerp zijn leerzaam. Het bedrijf liet de middelste twaalf lagen in een lus lopen in plaats van de laatste twaalf, nadat het beide op 28 evaluaties had getest en de middelste op 27 beter bevond, met een rekenkracht-equivalente winst van 1.51–1.91× tegenover 1.24–1.36×. En het hield de eerste en laatste blokken in één doorgang, op basis van de theorie dat zij de vertaling van token naar representatie verzorgen, terwijl het midden abstractie draagt. Daarom krijgt Mini 48 laagtoepassingen per token uit 24 opgeslagen lagen zonder een parameter toe te voegen.

De kosten van die truc zijn operationeel. Een flat MoE is iets wat elke inference-stack al twee jaar levert. Een looped model heeft SGLang- en vLLM-ondersteuning sinds ongeveer de dag dat het uitkwam, en de model card zegt ronduit dat runtime-ondersteuning voor looped modellen nieuw is en dat de snelheid varieert. Als je deze maand tussen deze twee moet kiezen voor een productiepad, is de saaie optie degene met de volwassen kernel.

Hardware is de echte scheidslijn

De twee checkpoints concurreren niet om dezelfde machine, en dat bepaalt meer deployments dan de score. Mini is gespecificeerd om te draaien op één NVIDIA DGX Spark, elk Apple silicon-apparaat met 32 GB of meer, of een GPU met 32 GB VRAM; in de eigen demo van het bedrijf bouwt het offline een speelbare flightsimulator op een MacBook Pro in vliegtuigmodus, en een stadsimulatie met twintig agenten op één laptop. Een efficiëntiestudie van Stanford op early access kwam uit op 0,703 intelligentie per watt op een DGX Spark met MXFP8 en lage reasoning effort — gemeten door onderzoekers buiten het lab, op één apparaat, wat het sterkste onafhankelijke signaal in de release is.

Small heeft een node nodig. 393,5 GB aan gewichten past nergens wat een particulier bezit, daarom is de natuurlijke manier om het te gebruiken een gehoste endpoint — in het geval van de leverancier Tinker — en daarom is de interessante vergelijking voor de meeste lezers niet "welk bestand download ik" maar "welke van deze kan ik überhaupt draaien". Mini beantwoordt die vraag met een laptop. Small beantwoordt hem met een budget.

Die asymmetrie is waar routing zijn bestaansrecht verdient, en het is de moeite waard om concreet te zijn in plaats van vaag te blijven. Geen van beide modellen staat op OrcaRouter, dus er valt vandaag niets naar een van beide te routeren. Wat wel op OrcaRouter staat, is de gehoste kant van dezelfde beslissing: de modellen die je zou aanroepen voor de workloads waarvoor de 594B-checkpoint daadwerkelijk bedoeld is, op één sleutel, tegen de lijstprijs van de provider zonder extra opslag. De routing-DSL is hier het onderdeel dat ertoe doet — je kunt er per taak splitsen, zodat de dure aanroep alleen plaatsvindt bij de verzoeken die hem nodig hebben, met automatische failover wanneer een provider uitvalt, terwijl het goedkope lokale model al het overige afhandelt. Mini lokaal draaien en alleen voor de moeilijke staart uitbellen is een lagere rekening dan een van beide modellen voor alles draaien, en het is de opzet die deze release daadwerkelijk mogelijk maakt.

De beslissing, in drie gevallen

Als je een agent bouwt die op de machine van een developer of in één offline box leeft, is Inkling 2 Mini het antwoord en is er geen echte concurrentie. Een download van 20 GB met 280 tokens per seconde, Apache 2.0, en een codeertabel die elk open-weightsmodel van zijn grootte verslaat op de eigen rijen van de leverancier. Draai het in een sandbox — de kaart waarschuwt voor destructieve bestandsacties en lussen tijdens het debuggen — en het doet agentisch werk op repositoryschaal op hardware die je al bezit.

Als je workload bestaat uit retrieval over een grote verzameling documenten die je niet zelf hebt geschreven, zit het voordeel van Small vooral in de rijen waarin het erom gaat wat een document zei terug te halen. CritPt op 55,7% tegen 31,4%, omniscience op 16,1 tegen −8,6, en een niet-hallucinatiepercentage van 73,3% tegen 63,4% zijn geen kleine verschillen in een compliance- of financiële omgeving, waar een zelfverzekerd fout antwoord meer kost dan een langzaam juist antwoord. Je betaalt voor een node of een endpoint om ze te krijgen.

Als je kiest voor een gemengde workload, draait het om de splitsing. De zwakte van Mini is kennis, en kennis is juist het enige dat je van buitenaf kunt aanleveren — een retrievallaag, een zoektool, een groter model op de zware staart. De kracht ervan is agentische persistentie over een lange horizon tegen een prijs die niemand anders in de 20GB-klasse evenaart. Koop het kleine model, huur de kennis in, en behandel de 594B-checkpoint als hetgeen waarnaar je opschaalt in plaats van hetgeen je draait.

Screenshot of the Artificial Analysis model page for Inkling 2 Mini, showing a score of 20 on the Intelligence Index against a median of 10, 161M tokens generated during the index run against an 85.7M median, pricing of $0.15 per 1M input and $0.50 per 1M output tokens, $0.59 per index task, 9.0 minutes per task, and a 1M-token context window, alongside the technical specification panel listing the reasoning, input and output modalities, context window, parameter counts and licence.

Eén voorbehoud geldt voor alle drie de gevallen en hoort aan het einde thuis in plaats van begraven te worden. De benchmarktabellen van beide modellen zijn van het lab zelf, en de indexscores zijn de enige onafhankelijk gemeten capaciteitscijfers in deze vergelijking. De 31 en de 20,1 zijn vergelijkbaar; de 86,3% en de 77,9% zijn alleen met elkaar vergelijkbaar en met niets anders. Wie de leveranciersrijen naast een gepubliceerde score van een concurrent citeert, vergelijkt twee testharnassen, niet twee modellen.

A generated two-column scoreboard titled 'Inkling 2 Mini vs Inkling 2 Small — the scoreboard'. The Inkling 2 Mini column reads Intelligence Index 20.1, active parameters 3.4B, total parameters 26.4B, download about 20GB, cost per index task $0.59, and output speed 280 tokens per second. The Inkling 2 Small column reads Intelligence Index 31, active parameters 17B, total parameters 594B, download 393.5GB, cost per index task $1.18, and output speed 118 tokens per second. A footer states that index, cost and speed are per Artificial Analysis and benchmark percentages are vendor-reported.