
Inkling 2 Mini vs. Inkling 2 Small: 11 Punkte für 394GB
- OrcaNEUOrcaCyber: Hy4 Flash Abliterated / Uncensored2026-11-18$0.07 / $0.28 pro 1 Mio. Tokens · 183 tok/s
- tencentNEUTencent: Hy4 Flash2026-11-16$0.02 / $0.07 pro 1 Mio. Tokens · 568 tok/s
- AlibabaNEUQwen: Qwen4 Max2026-11-16$1.50 / $4.50 pro 1 Mio. Tokens · 385 tok/s
- GoogleNEUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 pro 1 Mio. Tokens · 87 tok/s
- AnthropicNEUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 pro 1 Mio. Tokens · 150 tok/s
- OrcaOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 pro 1 Mio. Tokens · 99 tok/s
- OrcaOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 pro 1 Mio. Tokens · 134 tok/s
- OrcaOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$2.00 / $5.00 pro 1 Mio. Tokens · 84 tok/s
- tencentTencent: Hy42026-11-04$0.83 / $2.50 pro 1 Mio. Tokens · 121 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 pro 1 Mio. Tokens · 107 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 pro 1 Mio. Tokens · 67 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 pro 1 Mio. Tokens · 91 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 pro 1 Mio. Tokens · 41 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligenz
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 pro 1 Mio. Tokens · 214 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligenz
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 pro 1 Mio. Tokens · 111 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Intelligenz
- DeepSeekDeepSeek: DeepSeek V4.1 Flash 09102026-10-17$0.15 / $0.60 pro 1 Mio. Tokens · 160 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Intelligenz
Zwei Checkpoints, eine Familie und eine Entscheidung, die davon abhängt, wie viel Festplattenspeicher und Arbeitsspeicher man für elf Index-Punkte auszugeben bereit ist. Inkling 2 Mini ist das kleine Modell: 26,4 Milliarden Gesamtparameter, 3,4 Milliarden aktive, eine einzige rund 20 GB große Datei, die Thinking Machines Lab am 20. November 2026 unter Apache 2.0 veröffentlichte. Inkling 2 Small ist das große: 594 Milliarden Gesamtparameter, 17 Milliarden aktive, 393,5 GB verteilt auf 36 Dateien; die Gewichte wurden am 12. November geöffnet, nach einer Woche geschlossener Verfügbarkeit, die mit seiner Einführung am 5. November begann. Im Artificial Analysis Intelligence Index v5.0.1, der beide unabhängig bewertet, erreichen sie 20,1 und 31. Das ist der gesamte Kompromiss in einer Zeile – und es unterschätzt, wie unterschiedlich sich die beiden verhalten.
Das Folgende trennt die beiden Arten von Belegen, denn der Unterschied entscheidet die meisten Argumente über diese Familie. Indexwert, Kosten pro Index-Aufgabe, Geschwindigkeit, Kontext und Lizenz sind Zahlen von Artificial Analysis und Hersteller-Metadaten, gelesen am 21. November 2026. Jeder Benchmark-Prozentwert stammt aus Thinking Machines’ eigener Bewertungstabelle aus dem jeweiligen Launch-Post, zu einem Checkpoint, den das Unternehmen trainiert hat, und wird jedes Mal, wenn er genannt wird, als vom Hersteller gemeldet gekennzeichnet. Keine der beiden Tabellen wurde außerhalb des Labors reproduziert.
Was jeder Checkpoint tatsächlich ist
Beginne mit dem Artefakt, denn die Artefakte sind nicht dieselbe Art von Ding. Inkling 2 Small ist ein flaches Mixture-of-Experts-Modell: 594B insgesamt, 17B aktiv pro Token, Gewichte acht Tage nach dem Launch als 24 safetensors-Shards plus eine MXFP8-Variante veröffentlicht, die noch größer ist. Inkling 2 Mini ist ein geprunter, geloopter Abkömmling – dasselbe Mainline-Rezept, bei dem zwei Drittel der Experten entfernt und den mittleren Schichten eine Schleife hinzugefügt wurde. Es wird als eine Datei mit etwa 20 GB ausgeliefert, weil es durchgängig in 4 Bit trainiert wurde und in der Präzision eingesetzt wird, in der es trainiert wurde: 20 Schichten in NVFP4 und 4 in MXFP8, sodass kein Konvertierungsverlust bezahlt werden muss.
• Gesamtparameter — Inkling 2 Mini 26,4B vs. Inkling 2 Small 594B.
• Aktive Parameter — 3.4B vs. 17B, wobei Mini 5.4B effektive Gewichtsaktivierungen pro Token erreicht, sobald seine drei Schleifendurchläufe mitgezählt werden.
• Download – etwa 20 GB in einer Datei gegenüber 393,5 GB verteilt auf 36 Dateien oder 622,8 GB für die MXFP8-Variante.
• Index — 20,1 vs. 31, beide auf Intelligence Index v5.0.1.
• Kosten pro Indexierungsaufgabe – 0,59 $ vs. 1,18 $.
• Ausgabegeschwindigkeit und erstes Token — 280 Token pro Sekunde bei 9,72 Sekunden vs. 118 Token pro Sekunde bei 39,68 Sekunden.
• Kontext — 1 Mio. Tokens auf beiden Modellkarten und 1 Mio. von Artificial Analysis für beide erfasst. Die auf Tinker bereitgestellte Tarifstufe von Inkling 2 Small ist enger als ihre Modellkarte, und Mini erbt dieselbe Lücke; betrachten Sie die Million als eine Fähigkeit, nicht als ein operatives Versprechen.
• Lizenz — Apache 2.0 bei beiden. Die Karte von Small deklariert sie, ohne eine LICENSE-Datei mitzuliefern; die Karte von Mini deklariert sie in den Metadaten mit derselben Abwesenheit. Wissenswert, falls Ihre Rechtsprüfung Papierkram im Baum haben möchte.

Elf Punkte, und woher sie kommen
Die beiden Anbietertabellen nebeneinander zu lesen, ist der einzige Weg, um zu sehen, was die zusätzliche Rechenleistung bringt, denn die Indexpunktzahl allein verdeckt es. Beide Modelle wurden vom selben Labor mit überlappenden Testumgebungen bewertet, daher sind die Zeilen ungefähr miteinander vergleichbar – und nur miteinander.
• DeepSWE v1.1 — Inkling 2 Small 72,1 % vs. Inkling 2 Mini 48,2 %. Die größte Lücke im Coding-Block.
• SWE-bench Pro v2, Schwer — 86,3 % vs. 77,9 %.
• SWE-bench Verified — 79,2 % für Mini, nur Bash. Smalls eigene Launch-Tabelle führt dieselbe Zeile nicht auf, daher ist dies der eine Coding-Benchmark, bei dem die beiden Beiträge nicht zur Deckung gebracht werden können.
Vibe Code Bench v1.1 — 81,6 % vs. 77,9 %.
• FrontierCode v2.0 — 25,4 % gegenüber 15,1 %. Eine Lücke von zehn Punkten im Benchmark, bei dem beide am schwächsten abschneiden.
• PMPP-Hard, der Kernel-Optimierungs-Benchmark — 494,27 AUC für Small gegenüber 455,82 für Mini, was näher beieinanderliegt, als die Parameterzahlen vermuten lassen, und die Zeile ist, auf die der Launch-Post verweist, wenn er sagt, Mini „nähert sich“ seinem größeren Geschwistermodell an.
• BrowseComp — 90,2 % vs. 79,0 %; DeepSearchQA 90,9 % vs. 85,3 %; MCP Atlas 85,0 % vs. 82,7 %. Suche und Tool-Nutzung verringern den Abstand auf einstellige Werte.
• CritPt v2, vollständig — 55,7 % vs. 31,4 %. Beim wissenschaftlichen Denken zeigt sich das zusätzlich gespeicherte Wissen am deutlichsten.
• AA-Omniscience — 16,1 mit einer Nicht-Halluzinationsrate von 73,3 % gegenüber −8,6 mit 63,4 %.
Die letzte Zeile ist die, bei der man innehalten sollte. Ein negativer Omniscience-Score bedeutet, dass ein Modell schlechter ist als das Verweigern einer Antwort, und die Elf-Punkte-Lücke im Index wird größtenteils genau dort bezahlt: Das größere Modell weiß Dinge, das kleinere erarbeitet sie sich. Thinking Machines sagt das selbst, mit anderen Worten, wenn es erklärt, dass Schleifen serielle Berechnung hinzufügen, aber keine gespeicherten Fakten. Das Pruning entfernte zwei Drittel der Experten; das Wissen lebt in den Experten, die übrig bleiben.
Gleiches Rezept, kleinere Pfanne
Die Familienähnlichkeit ist kein Marketing. Beide Modelle durchliefen SFT mit einer ähnlichen Datenmischung und eine RL-Phase mit insgesamt 2,2T Tokens über 2.000 Schritte, wobei in beiden Fällen On-Policy-Distillation zur Ausrichtung eingesetzt wurde. Die Post-Training-Pipeline ist dieselbe Pipeline; was sich unterscheidet, ist, was bei ihr ankam.
Minis Weg dorthin ist wissenswert, weil er mehrere der Benchmark-Zeilen erklärt. Er begann bei einer Sparsität von 48 und leitete jedes Token an 8 von 384 Experten weiter. An einem Punkt während des Trainings behielt Thinking Machines pro Schicht die 128 am häufigsten genutzten Experten bei – eine Kürzung um zwei Drittel – und heilte den Loss auf 1T Token, die aus einem größeren internen Inkling-Modell destilliert wurden, indem es die überlebenden Experten darauf trainierte, die Arbeit der gelöschten Experten zu übernehmen. Dann fügte es Looping hinzu: vier Blöcke aus sechs Schichten, wobei die mittleren beiden Blöcke dreimal durchlaufen werden und ein gelerntes Gate die Botschaft des vorherigen Durchlaufs in den nächsten überführt, wobei es mit Nullverstärkung beginnt, sodass das Training wie bei einem gewöhnlichen Modell anfängt.
Zwei Ermessensentscheidungen in diesem Design sind lehrreich. Das Unternehmen ließ die mittleren zwölf Schichten in einer Schleife laufen statt der letzten zwölf, nachdem es beide über 28 Evaluationen getestet und die mittleren bei 27 besser befunden hatte, mit einem rechenäquivalenten Zugewinn von 1,51–1,91× gegenüber 1,24–1,36×. Und es behielt den ersten und letzten Block im Einzeldurchlauf bei, nach der Theorie, dass sie die Übersetzung von Token in Repräsentation übernehmen, während die Mitte die Abstraktion trägt. Deshalb erhält Mini 48 Schichtanwendungen pro Token aus 24 gespeicherten Schichten, ohne einen Parameter hinzuzufügen.
Die Kosten dieses Tricks sind operativer Natur. Ein flaches MoE ist etwas, das jeder Inferenz-Stack seit zwei Jahren unterstützt. Ein gelooptes Modell wird von SGLang und vLLM ungefähr seit dem Tag seiner Veröffentlichung unterstützt, und die Modellkarte sagt klar, dass die Runtime-Unterstützung für geloopte Modelle neu ist und dass die Geschwindigkeit schwankt. Wenn Sie sich diesen Monat für einen Produktionspfad zwischen diesen beiden entscheiden, ist die langweilige Option die mit dem ausgereiften Kernel.
Hardware ist der eigentliche Trennfaktor
Die beiden Checkpoints konkurrieren nicht um dieselbe Maschine, und das entscheidet mehr Deployments als die Punktzahl. Mini ist für den Betrieb auf einem einzelnen NVIDIA DGX Spark, jedem Apple-Silicon-Gerät mit 32 GB oder mehr oder einer GPU mit 32 GB VRAM ausgelegt; in der unternehmenseigenen Demo baut es offline auf einem MacBook Pro im Flugmodus einen spielbaren Flugsimulator und auf einem einzigen Laptop eine Stadtsimulation mit zwanzig Agenten. Eine Stanford-Effizienzstudie, die auf Early Access lief, ermittelte 0,703 Intelligenz pro Watt auf einem DGX Spark bei MXFP8 und geringem Reasoning-Aufwand — gemessen von Forschern außerhalb des Labors, auf einem einzigen Gerät, was das stärkste unabhängige Signal in der Veröffentlichung ist.
Small braucht einen Node. 393.5GB an Modellgewichten passen in nichts, was eine Privatperson besitzt, weshalb die natürliche Art, sie zu nutzen, ein gehosteter Endpoint ist – Tinker im Fall des Anbieters – und weshalb der interessante Vergleich für die meisten Leser nicht lautet „Welche Datei lade ich herunter“, sondern „Welche davon kann ich überhaupt ausführen“. Mini beantwortet diese Frage mit einem Laptop. Small beantwortet sie mit einem Budget.
Diese Asymmetrie ist der Punkt, an dem Routing seinen Platz verdient, und es lohnt sich, konkret zu werden, statt nur Andeutungen zu machen. Keines der beiden Modelle ist auf OrcaRouter, daher gibt es heute nichts, wohin man zu einem der beiden routen könnte. Was auf OrcaRouter ist, ist die gehostete Seite derselben Entscheidung: die Modelle, die man für die Workloads aufrufen würde, für die der 594B-Checkpoint tatsächlich gedacht ist, über einen einzigen Schlüssel, zum Listenpreis des Anbieters ohne Aufschlag. Die Routing-DSL ist hier der entscheidende Baustein — sie ermöglicht es, nach Aufgabe aufzuteilen, sodass der teure Aufruf nur bei den Anfragen erfolgt, die ihn benötigen, mit automatischem Failover, wenn ein Anbieter ausfällt, während das günstige lokale Modell alles andere übernimmt. Mini lokal laufen zu lassen und nur für den schwierigen Rest nach außen zu gehen, ergibt eine kleinere Rechnung, als eines der beiden Modelle für alles laufen zu lassen, und genau diese Konstellation macht dieses Release tatsächlich möglich.
Die Entscheidung, in drei Fällen
Wenn Sie einen Agenten bauen, der auf dem Rechner eines Entwicklers oder in einer einzelnen Offline-Box läuft, ist Inkling 2 Mini die Antwort, und es gibt keine echte Konkurrenz. Ein 20-GB-Download mit 280 Tokens pro Sekunde, Apache 2.0 und eine Codetabelle, die jedes Open-Weights-Modell seiner Größe in den eigenen Zeilen des Anbieters schlägt. Packen Sie es in eine Sandbox – die Modellkarte warnt vor destruktiven Dateiaktionen und Schleifen beim Debuggen – und es erledigt agentische Arbeit im Repository-Maßstab auf Hardware, die Sie bereits besitzen.
Wenn es bei Ihrer Workload um Retrieval über einen großen Korpus von Dokumenten geht, die Sie nicht selbst geschrieben haben, liegt Small's Vorteil vor allem in den Zeilen, in denen es darum geht, sich daran zu erinnern, was in einem Dokument stand. CritPt bei 55,7 % gegenüber 31,4 %, omniscience bei 16,1 gegenüber −8,6 und eine Nicht-Halluzinationsrate von 73,3 % gegenüber 63,4 % sind keine kleinen Unterschiede in einem Compliance- oder Finanzumfeld, wo eine selbstsichere falsche Antwort mehr kostet als eine langsame richtige. Um sie zu bekommen, zahlen Sie für einen Node oder einen Endpoint.
Wenn du für eine gemischte Arbeitslast wählst, ist die Aufteilung der entscheidende Punkt. Minis Schwäche ist Wissen, und Wissen ist das Einzige, das du von außen zuführen kannst – eine Retrieval-Schicht, ein Suchwerkzeug, ein größeres Modell für den schwierigen Rest. Seine Stärke ist langfristige agentische Ausdauer zu einem Preis, dem niemand sonst in der 20-GB-Klasse nahekommt. Kaufe das kleine Modell, miete das Wissen und behandle den 594B-Checkpoint als das, wozu du eskalierst, statt als das, was du betreibst.

Ein Vorbehalt betrifft alle drei Fälle gleichermaßen und gehört ans Ende, statt vergraben zu werden. Die Benchmark-Tabellen beider Modelle stammen aus dem eigenen Labor, und die Indexwerte sind die einzigen unabhängig gemessenen Fähigkeitszahlen in diesem Vergleich. Die 31 und die 20,1 sind vergleichbar; die 86,3 % und die 77,9 % sind miteinander vergleichbar und mit sonst nichts. Wer die Anbieterzeilen neben die veröffentlichte Punktzahl eines Wettbewerbers stellt, vergleicht zwei Test-Harnesses, nicht zwei Modelle.

