Inkling-Small: Het kwartformaat model dat zijn eigen vlaggenschip verslaat, en nog steeds achterblijft bij de index

Thinking Machines Lab besteedde de twee weken na het uitbrengen van zijn eerste open-weights model aan het bouwen van een model dat ongeveer een kwart zo groot is, en op de eigen scorecard van het lab wint het kleinere model. Inkling-Small rapporteert 80,2% op SWE-bench Verified tegen Inkling's 77,6%, 89,5% op GPQA Diamond tegen 87,2%, 64,7% op Terminal-Bench 2.1 tegen 63,8%, en 31,6% op Humanity's Last Exam tegen 29,7% — van 276B totale parameters met 12B actief, in plaats van 975B met 41B. Van de belangrijkste cijfers die de twee modelkaarten gemeen hebben, heeft het 975B-vlaggenschip er precies één: AIME 2026, met 1,6 punten.

Vervolgens draaide Artificial Analysis beide onafhankelijk en plaatste Inkling-Small op 40 op zijn Intelligence Index tegenover Inkling's 41 — het kleinere model een punt achter. Beide resultaten zijn echt, en de ruimte daartussen is het nuttigste onderdeel van deze lancering. Alles hieronder scheidt wat Thinking Machines over zijn eigen model meldt van wat iemand anders heeft gemeten: de cijfers van de leverancier komen uit de aankondiging en de twee Hugging Face-modelkaarten, de onafhankelijke cijfers uit Artificial Analysis's eigen runs, en de prijs- en contextcijfers uit OpenRouter's live-endpointgegevens, gecontroleerd op de dag dat dit werd geschreven. Waar die drie het oneens zijn — en bij contextlengte zijn ze dat — zeggen we dat liever dan het vleiende cijfer te kiezen.

Wat er daadwerkelijk op 30 juli is uitgebracht

Inkling-Small is een schaarse mixture-of-experts-transformer: in totaal 276B parameters, 12B actief per token, 42 lagen, waarbij elk token wordt gerouteerd naar 6 van de 256 experts plus 2 gedeelde experts die op alles reageren. Attention wisselt af tussen lokale en globale lagen. De gewichten staan op Hugging Face onder Apache 2.0 zonder commerciële beperkingen, het kan worden gefinetuned op de Tinker API van Thinking Machines, en je kunt er via tekst, beeld en audio mee praten in de Tinker Playground. Het lab zegt dat het is getraind op NVIDIA GB300 NVL72-systemen.

Multimodaliteit is ingebakken in plaats van er later aan vastgeschroefd, en de kaart is ongebruikelijk specifiek over hoe. Er is geen aparte vision- of audio-encoder: audio komt binnen als dMel-spectrogrammen, afbeeldingen als patches van 40×40 pixels die door een vierlaagse hMLP worden gehaald, en beide worden rechtstreeks in dezelfde tokenstroom als tekst ingebed. Invoer is tekst, afbeeldingen en audio; uitvoer is uitsluitend tekst, wat ronduit gezegd moet worden, omdat "multimodaal" vaak genoeg wordt gelezen als "het kan praten" om een slechte middag te bezorgen. Denkinspanning is een draaiknop met vijf standen — minimaal, laag, medium, hoog, xhoog — zodat dezelfde gewichten goedkoop of zwaar kunnen draaien.

Het interessante deel van het recept is de post-training. Inkling-Small werd on-policy gedestilleerd met de volledige Inkling als leraar, en kreeg daarna ongeveer twee weken extra reinforcement learning, opgeschaald voor agentische codering. Die volgorde verklaart de vorm van de resultaten: de student erfde de algemene competentie van zijn leraar en kreeg daarna extra training op precies de as waarop hij nu de leraar overtreft.

Het scorebord dat Thinking Machines publiceerde

Vendorbenchmarks zijn marketing totdat iemand ze reproduceert, dus lees dit gedeelte als wat het lab beweert, niet als wat geverifieerd is. Het is nog steeds een brede set, en het is breed in een richting die het vlaggenschip geen eer aandoet.

Naast de vier gedeelde nummers vult de kaart de rest van het beeld in — alle eigen runs van Thinking Machines:

• Agentisch werk — 1269 Elo op GDPval-AA v2, een benchmark van realistische economische taken in plaats van puzzels.

• Grafieken en documenten — 77,4% op CharXiv RQ, oplopend tot 81,3% wanneer het model Python mag schrijven en uitvoeren. Die sprong van 3,9 procentpunt is een nuttige aanwijzing dat toegang tot tools meer oplevert bij visueel redeneren dan prompt engineering.

• Vision — 74,0% op MMMU Pro, een haar boven Inkling's 73,5%.

• Audio — 90.1% VoiceBench en 77.0% MMAU, beide fractioneel onder de 91.4% en 77.2% van het vlaggenschip. Audio is een van de twee plekken waar krimpen duidelijk iets kostte.

• Veiligheid — 98,4% StrongREJECT en 96,9% op FORTRESS goedaardige prompts, maar 71,6% op FORTRESS adversarial tegenover de 78,0% van het vlaggenschip. Dat is de andere prijs: een regressie van 6,4 punten in adversariële robuustheid, die belangrijker is dan welke codeerwinst dan ook als het model achter een openbaar tekstvak gaat zitten.

• Voorspellen — een Brier-index van 61,3 ± 0,46 op ForecastBench zonder zoektoegang, en een Brier-score van 0,1238 ± 0,0086 op Prophet Arena. Alleen al het rapporteren van foutmarges getuigt van meer discipline dan de meeste lanceringsposts weten op te brengen.

Eén hiaat: de kaart van het vlaggenschip vermeldt 54,3% op SWE-bench Pro, het moeilijkere broertje van SWE-bench Verified. De kaart van Inkling-Small vermeldt geen SWE-bench Pro. Gezien hoe nadrukkelijk het Verified-cijfer wordt gepresenteerd, is die afwezigheid het cijfer dat we het liefst ingevuld zouden zien.

Wat de onafhankelijke index in plaats daarvan zegt

Artificial Analysis plaatst Inkling-Small op 40 in versie 4.1 van zijn Intelligence Index, één punt onder Inkling op 41. De index is een samenstelling van negen evaluaties — GDPval-AA v2, τ³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience en AA-LCR — en die lijst verklaart het grootste deel van de schijnbare tegenstelling. Slechts twee van de negen overlappen met de reasoning-demonstratie op de kaart van Thinking Machines. De rest richt zich op agentisch toolgebruik, retrieval over lange contexten en hallucinatieresistentie, en een model kan de benchmarks winnen die een lab kiest om te publiceren, terwijl het verliest op de benchmarks die een derde partij kiest om uit te voeren. Geen van beide partijen liegt; ze meten verschillende dingen.

Er is ook een detail in de kleine lettertjes dat meer waard is dan de kop over de voorsprong van één punt: Artificial Analysis vermeldt het vlaggenschip alsInkling (xhigh) — de hoogste instelling voor denkinspanning — terwijl de rij van Inkling-Small geen inspanningssuffix heeft. De voorsprong van één punt van het vlaggenschip werd dus vastgelegd met de redeneerknop helemaal open. Als het gelijktrekken van de inspanning die vergelijking ook maar enigszins zou verschuiven, zou het laatste argument voor het grotere model op basis van alleen capaciteiten daarmee verdwijnen.

Waar de onafhankelijke gegevens helemaal niet overeenkomen, zijn snelheid en kosten, en hierbij bevoordeelt dit het kleine model met marges die geen enkele benchmarktabel weergeeft:

• Outputsnelheid — 133 tokens per seconde versus 80 voor Inkling (xhigh). Artificial Analysis plaatst Inkling-Small op #7 van 101 modellen in zijn klasse op snelheid, vergeleken met een mediaan van 66 voor de klasse.

• Tijd tot eerste token — 1,63 s versus 1,84 s. Een reëel maar klein voordeel.

• Gemengde prijs per 1M tokens — $0,22 tegenover $0,72 op basis van hun weging. Ongeveer een derde van de kosten, voor één indexpunt minder.

• Intelligentierang — #15 van de 101, vergeleken met een mediaanscore van 25 voor de klasse. Ruim boven het gemiddelde, maar nergens in de buurt van de grens.

• Uitvoerigheid — en hier is het addertje onder het gras. Het verbruikte 130M outputtokens om door de index heen te komen, tegenover een mediaan van 100M. Artificial Analysis's eigen samenvatting noemt het "opmerkelijk snel, maar enigszins uitvoerig." Het denkt ongeveer 30% meer na dan normaal, wat stilletjes een deel van de korting per token opslokt.

Een kleine administratieve opmerking, aangezien iedereen die bronnen vergelijkt erop zal stuiten: Artificial Analysis vermeldt het aantal parameters als 266B totaal, terwijl de aankondiging, beide modelkaarten en OpenRouter allemaal 276B zeggen. We hebben overal 276B gebruikt. Het verandert geen enkele conclusie, maar het is het soort discrepantie waarvan je op de hoogte wilt zijn voordat je een getal citeert in een ontwerpdocument.

Wat je vandaag daadwerkelijk kunt huren, is niet wat het specificatieblad zegt.

De kloof tussen een aankondiging van open-weights en een bruikbaar eindpunt is waar de meeste verslaggeving over een lancering stopt met opletten. Thinking Machines adverteert een contextvenster van maximaal 1M tokens, en Artificial Analysis vermeldt eveneens 1M. Op OpenRouter begrenzen beide providers die momenteel Inkling-Small aanbieden het op 524.288 tokens — de helft van het geadverteerde cijfer. Dat is minder een tegenstrijdigheid dan een verschil tussen wat de architectuur ondersteunt en wat er daadwerkelijk in productie is gebracht. Ter vergelijking: het vlaggenschip Inkling heeft wel een eindpunt op de volledige 1.048.576 tokens, al beperkt datzelfde eindpunt completions tot 32.768 tokens.

De rest van het livebeeld, afgelezen van de eindpuntgegevens van OpenRouter:

• Twee providers, twee prijzen — $0,45 per 1M input en $1,20 per 1M output bij de ene, $0,50 en $1,20 bij de andere. Artificial Analysis vermeldt het eigen first-party tarief van Thinking Machines nog lager, namelijk $0,30 en $1,20, met gecachte input op $0,06. Hosting van derden rekent een premie van 50–67% op input voor dezelfde gewichten.

• Promptcaching — $0,10 per 1M gecachte inputtokens via OpenRouter, tegen $0,17 voor het vlaggenschip.

• De numerieke waarden die u huurt zijn niet de numerieke waarden die zijn gebenchmarkt — de modelkaart vermeldt BF16 en NVFP4. Het goedkopere eindpunt serveert fp8; het andere vermeldt helemaal geen kwantisering. De benchmarkscores van de leverancier zijn niet gemeten op een fp8-serving van deze gewichten, en kwantiseringseffecten bij lange agentische runs zijn precies het soort dingen dat een marge van 0,9 punt op Terminal-Bench niet kan overleven. Als u een getal reproduceert, vermeld dan welk eindpunt u heeft gebruikt.

• Featuredekking is ongelijk per provider — beide eindpunten bieden redenering en reasoning_effort, dus de denkdial met vijf standen werkt. Maar slechts één adverteert tool calling en logprobs, en geen van beide adverteert momenteel response_format, de parameter voor gestructureerde uitvoer/JSON-modus. Het vlaggenschip Inkling heeft een eindpunt dat dat wel doet. Als je pipeline afhankelijk is van schema-afgedwongen JSON, is dit het detail dat je op dag één zal bijten, en het is een providerbeperking in plaats van een modelbeperking.

• Voltooiingslimiet — 262.144 tokens op het fp8-eindpunt; de andere vermeldt geen limiet.

De kostenberekening, op basis van gemeten token-aantallen.

Prijzen per miljoen tokens zijn een slechte manier om redeneermodellen te vergelijken, omdat de hele variabele is hoeveel tokens ze verbruiken met denken. Artificial Analysis publiceert de werkelijke uitgaven, wat een veel beter instrument is: het doorlopen van de volledige Intelligence Index met Inkling-Small verbruikte ongeveer 130M uitvoertokens en kostte $192.37, wat neerkomt op ongeveer $0.07 per taak op hun gewogen gemiddelde.

Vergelijk dat met dezelfde meting voor modellen die mensen daadwerkelijk inzetten: DeepSeek V4 Flash voor $0,03 per taak, gpt-oss-120b voor $0,08, Gemini 3.6 Flash voor $0,56, GLM-5.2 voor $0,57, Kimi K3 voor $0,86, GPT-5.6 Sol voor $1,23, Claude Opus 5 voor $2,34, Claude Fable 5 voor $3,15. Inkling-Small is het op een na goedkoopste model in die groep en ongeveer 18× goedkoper per taak dan GPT-5.6 Sol, dat 59 scoort tegen de 40 van Inkling-Small.

Er is ook een schonere manier om te zien waarom de prijs precies daar daalde. Actieve parameters daalden van 41B naar 12B, een factor 3,4. De outputprijs daalde van $4,05 naar $1,20 per miljoen, een factor 3,375. De huurprijs van een sparse MoE is in wezen gewoon de rekenkracht per token, en Thinking Machines hanteerde dienovereenkomstig prijzen in plaats van prijsstelling op basis van de benchmark.

Een praktische opmerking over het zelf uitvoeren van die vergelijking: Inkling-Small staat momenteel niet in de OrcaRouter-catalogus, dus je zou het huren via de eigen endpoints. De closed modellen waarmee je het zou vergelijken — GPT-5.6 Sol, Claude Opus 5, Gemini 3.6 Flash en de rest van die lijst — staan op OrcaRouter achter één sleutel tegen 0% opslag, wat betekent dat je de lijstprijs van elke provider betaalt zonder dat er iets bovenop komt. Dat is specifiek belangrijk voor een kostenmodel: het getal dat je in de spreadsheet zet, is het getal dat in rekening wordt gebracht, en wanneer een provider prijzen verlaagt, komt dat dezelfde dag bij ons terecht in plaats van na een heronderhandeling. Automatische failover tussen providers dekt de andere helft van een evaluatie, namelijk dat de basisarm midden in een run uitvalt en stilletjes je cijfers vergiftigt.

Waar het daadwerkelijk staat tussen open-weight modellen

Afgezet tegen het vlaggenschip ziet Inkling-Small eruit als een triomf. Afgezet tegen het veld ziet het eruit als een degelijk middenklasse-open-weights-model, en de berichtgeving rond de lancering is grotendeels voorbijgegaan aan de tweede lezing.

Op de Artificial Analysis Intelligence Index staan de modellen die beide Inklings voorafgaan, waaronder Claude Opus 5 op 61, Claude Fable 5 op 60, GPT-5.6 Sol op 59, Kimi K3 op 57, Grok 4.5 op 54, GLM-5.2 en Muse Spark 1.1 op 51, en Gemini 3.6 Flash op 50. Dat is te verwachten — dat zijn grensverleggende systemen, de meeste gesloten, een aantal enorm.

Het model dat daadwerkelijk een beslissing zou moeten veranderen is DeepSeek V4 Flash, dat 50 scoort tegenover de 40 van Inkling-Small met 284B totaal en 13B actief — praktisch dezelfde grootteklasse en hetzelfde open-weights koopje, voor minder dan de helft van de kosten per taak. Als je het goedkoopste capabele open-weight model wilt, wijzen de onafhankelijke cijfers daarheen, niet hierheen. Het is ook, in tegenstelling tot Inkling-Small, beschikbaar via OrcaRouter, dus het testen van dat alternatief tegen je eigen workload is een wijziging van de model-string in plaats van een inkooptraject.

Wat Inkling-Small heeft dat DeepSeek V4 Flash niet heeft, is native audio- en beeldinvoer in dezelfde gewichten, een vijfdelige denkwijzer en Tinker-fijnafstemming van het lab dat het getraind heeft. Dat zijn echte onderscheidende factoren voor een multimodale agent, en dat is de eerlijke reden om ervoor te kiezen — niet de indexscore.

Wie moet er verhuizen, en wie moet er blijven?

De beslissing splitst zich netjes, wat ongebruikelijk genoeg is om als zodanig te worden vermeld.

• Ga over van Inkling naar Inkling-Small als je codeeragenten draait. De cijfers van de leverancier zijn gunstiger voor het kleine model op SWE-bench Verified en Terminal-Bench, de extra agentic RL is de gedocumenteerde reden, en het kost ongeveer een derde zoveel en levert tokens 1.66× sneller op. 3.3× betalen voor één indexpunt gemeten bij maximale denkinspanning is moeilijk te verdedigen.

• Stap over als de kosten per redeneertaak de beperkende factor zijn en je kunt genoegen nemen met 40 op de index. $0.07 per taak met een $0.06-per-miljoen cache-hit-tarief op het first-party-eindpunt is agressieve prijszetting voor een model met native audio en vision.

• Verplaats als u aan het fine-tunen bent. Een 276B/12B-model is dramatisch goedkoper om aan te passen en te bedienen dan 975B/41B, en Tinker ondersteunt beide.

• Blijf bij Inkling als je lange audio nodig hebt. Dit is de scherpste regressie in de release en die staat verborgen in de modelkaarten: het vlaggenschip adviseert audio-invoer onder 20 minuten, maar de kaart van Inkling-Small adviseert onder 2 minuten. Een tienvoudige verlaging. Als je vergaderingen transcribeerde of erover redeneerde, is het kleine model tegen elke prijs geen kant-en-klare vervanging.

• Blijf als je meer dan 512K context nodig hebt via een gehost endpoint, of voltooiingen langer dan 262K tokens. Vandaag heeft alleen het vlaggenschip een endpoint dat het volledige miljoen bedient.

• Blijf als je schema-afgedwongen JSON nodig hebt zonder je eigen validatie-en-retry-lus te schrijven, totdat een provider response_format levert voor het kleine model.

• Blijf als adversarial robuustheid een dragende factor is. 71.6% versus 78.0% op FORTRESS adversarial is voor alles wat gebruikersgericht is de verkeerde richting, en het is het eigen cijfer van het lab.

Drie vragen die de lanceerverslaggeving openliet

Is Inkling-Small gewoon een gedistilleerde Inkling?

Deels, en het deel dat niet zo is, is het deel dat ertoe doet. On-policy-destillatie met Inkling als leraar was een van de fasen van post-training, dus een groot deel van de algemene capaciteit wordt inderdaad overgeërfd. Maar dit is een model met een aparte architectuur — 42 lagen tegenover de 66 van het vlaggenschip, met dezelfde routingtopologie van 6 actieve experts van de 256 plus 2 gedeelde experts, wat betekent dat de experts zelf smaller zijn in plaats van minder in aantal. En het kreeg ongeveer twee weken agentic-coding RL die de leraar nooit kreeg. Die laatste fase is de reden waarom een gedestilleerde student zijn leraar overtreft op codeerbenchmarks, wat anders niet zou mogen gebeuren.

Kan ik het realistisch gezien zelf hosten?

Alleen op serieuze hardware. 276B parameters is ruwweg 276GB aan gewichten bij 8-bit en ongeveer 552GB bij BF16, nog vóór enige KV-cache — in beide gevallen een multi-GPU-node, geen workstation. Het voordeel van sparse MoE zit in de inferentiekosten, niet in de geheugenvoetafdruk; je slaat alle 276B op en rekent met 12B. De modelkaart noemt SGLang, vLLM, TokenSpeed, Unsloth en Hugging Face Transformers als ondersteunde serving-paden en vermeldt BF16- en NVFP4-numerieke formaten. Merk ook op dat beide gehoste endpoints momenteel een gekwantiseerde versie serveren, dus "hetzelfde model" zelf gehost bij BF16 zal zich niet identiek gedragen aan de API waartegen je getest hebt.

Heeft de 975B Inkling nog een bestaansreden?

Drie, en ze zijn allemaal smal: de volledige geserveerde context van 1M tokens, audio-ingangen langer dan twee minuten, en beter adversarial veiligheidsgedrag. Opvallend: "het is slimmer" staat niet vol vertrouwen op die lijst — één indexpunt bij maximale denkinspanning, tegenover een reeks vendor-benchmarks die het kleinere model meestal wint, is geen capaciteitsargument. Twee weken na de lancering van een 975B-vlaggenschip heeft Thinking Machines het model uitgebracht dat moeilijk aan te bevelen is. Dat is ofwel ongebruikelijke openhartigheid, ofwel ongebruikelijke snelheid — en hoe dan ook is het een goed teken voor het lab.

Wat nu te kijken

Drie dingen bepalen hoe deze release zal verouderen. Of er een endpoint verschijnt dat de geadverteerde 1M-context bedient, wat het laatste duidelijke voordeel van het vlaggenschip zou wegnemen. Of iemand een inspanning-gematchte onafhankelijke vergelijking van de twee modellen publiceert, de enige manier om te weten of dat ene indexpunt echt is. En of de audio-aanbeveling van 2 minuten een trainingsbeperking is of een serveerstandaard — want als dat laatste het geval is, verdampt de allerbelangrijkste reden om op het grotere model te blijven. Tot die tijd is de eerlijke samenvatting dat Thinking Machines een model heeft uitgebracht dat een derde van de prijs kost, twee derde sneller is, beter is in coderen op basis van het eigen bewijs, marginaal achterligt op onafhankelijke geaggregeerde scores, en duidelijk achterligt op een even groot concurrent dat in de meeste berichtgeving niet werd genoemd.