Eine generierte Titelkarte mit der Aufschrift „Inkling 2 Mini“, dem Untertitel „Gleicher Intelligence-Index-Wert wie Qwen3.8-27B, bei einem Sechstel der Kosten pro Aufgabe“, sowie vier abgerundeten Karten mit der Aufschrift Intelligence Index 20.1, Kosten pro Index-Aufgabe 0,59 Dollar, Ausgabegeschwindigkeit 280 Token pro Sekunde und Checkpoint 20 GB Apache 2.0. Das OrcaRouter-Logo befindet sich unten rechts.
Guides & Insights

Inkling 2 Mini: Gleiche 20 wie Qwen3.8-27B, zu einem Sechstel der Kosten

Autor

jinhao.song

Veröffentlicht am

Neueste Modelle · 20Alle Modelle ansehen →
Benchmarks: Artificial Analysis · täglich aktualisiert
Zurück zu allen Beiträgen

Zwei Modelle stehen auf derselben Stufe des Artificial Analysis Intelligence Index, beide mit 20 Punkten. Eines von ihnen kostet 3,53 US-Dollar für die Erledigung einer einzelnen Index-Aufgabe und braucht dafür 35,5 Minuten. Das andere kostet 0,59 US-Dollar und braucht neun Minuten. Das günstigere ist Inkling 2 Mini, ein Mixture-of-Experts-Modell mit 26,4B Parametern, das Thinking Machines Lab am 20. November 2026 unter Apache 2.0 veröffentlicht hat, und das teurere ist Qwen3.8-27B – ein dichtes Modell, das A​libaba im August ausgeliefert hat und das OrcaRouter zu 0,33 $ pro Million Eingabe- und 2,40 $ pro Million Ausgabe-Token anbietet.

Ein Gleichstand bei einem zusammengesetzten Index ist kein Gleichstand bei der Leistungsfähigkeit, und dieser Artikel wird den Großteil seiner Länge darauf verwenden, wo die beiden auseinandergehen. Aber die Kostenkennzahl ist diejenige, die entscheidet, ob man ein Modell in einen Produktionspfad aufnimmt, und sie ist die Zahl, die die meisten Berichte zum Marktstart von Inkling 2 Mini auslassen werden, weil sie nicht im Ankündigungsbeitrag steht. Sie stammt aus der unabhängigen Messung und ist sechsmal besser als das Modell, mit dem es gleichauf liegt.

Was tatsächlich ausgeliefert wurde und was nicht.

Die Ankündigung ist auf den 20. November datiert. Das Hugging-Face-Repository wurde am 17. November erstellt und zuletzt am 20. geändert – das sieht nach einem vor einem Launch vorbereiteten Checkpoint aus und nicht nach einem Überraschungs-Release. Die Model Card nennt Apache 2.0, und die Dateiliste trägt dieselbe Kennzeichnung – eine echte Lizenz, kein bloßes Versprechen einer solchen, und darin liegt der Unterschied zwischen diesem Release und dem von Inkling 2 Small, bei dem die Gewichte eine Woche nach der Ankündigung folgten.

Das Artefakt selbst:

• Parameter — insgesamt 26,4 Mrd., 3,4 Mrd. aktiv und 5,4 Mrd. effektive Gewichtsaktivierungen pro Token, sobald die Schleifen berücksichtigt werden. Thinking Machines beziffert die Lücke auf etwa 1,0 Mrd. zusätzliche aktive Parameter pro Schleifendurchlauf.

• Speicherbedarf — etwa 20 GB in einer Mischung aus NVFP4 und MXFP8, klein genug, dass das Unternehmen es offline auf einem MacBook Pro laufen ließ und Anleitungen für jeden Mac mit 32 GB RAM oder mehr mitliefert.

• Modalitäten — Text und Bilder als Eingabe, durch einen Vision Transformer in denselben latenten Raum projiziert; nur Text als Ausgabe.

• Runtime-Unterstützung — SGLang, vLLM, NVIDIA Dynamo, TokenSpeed, Ollama, llama.cpp über Unsloth-GGUFs. RL-Post-Training auf SkyRL, Miles und NVIDIA AutoModel.

• Gehostete Verfügbarkeit — Tinker, für Inferenz und Fine-Tuning. Das ist der einzige Endpunkt. Er ist nicht auf OrcaRouter, und dieser Beitrag wird nicht so tun, als wäre es anders.

Ein Punkt zur Präzisierung beim Preis, denn die unabhängige Seite und die Preisliste wirken widersprüchlich, sind es aber nicht. Artificial Analysis listet $0,15 pro Million Input und $0,50 pro Million Output, mit 90 % Cache-Rabatt und einem gemischten Preis von $0,0905. Das sind Tinkers Sampling-Tarife – Prefill $0,15, gecachtes Prefill $0,015, Sample $0,50 –, und Tinkers eigene Modellliste bepreist eine 64K-Kontextstufe und eine 256K-Stufe weiterhin mit denselben $0,15/$0,50 für Sampling, wobei Training jeweils $0,75 bzw. $1,50 kostet. Was Tinker nicht unter der serverlosen Inferenz-Beta aufführt, ist Mini; deren Tabelle deckt Inkling 2 Small und das ursprüngliche Inkling ab, aber nicht dieses Modell. Die $0,15/$0,50 sind also das, was Sie zahlen, um es auf Tinker zu samplen, und die Zeile „per API über 1 Anbieter verfügbar“ auf der Analyseseite meint genau das – keinen serverlosen Endpunkt mit eigener Preisliste.

Screenshot of the Thinking Machines announcement page titled 'Introducing Inkling 2 Mini', dated Nov 20, 2026, showing the Capabilities, Try on Tinker, Hugging Face and Model card links, section navigation for Architecture and training, Monitorability of looped transformers and Try Inkling 2 Mini today, and the opening paragraphs describing a looped transformer that runs the middle layers three times per token and leads open-weights models under 100B total parameters on DeepSWE v1.1 at 48.2% and Vals Index v2.2 at 46.5%.

Warum die Loop-Architektur das Entscheidende ist

Alles andere an dem Modell ist konventionell. Die Schleife nicht, und sie erklärt sowohl die Kostenkennzahl als auch die Schwächen des Modells, daher lohnt es sich, zwei Minuten darauf zu verwenden.

Inkling 2 Mini ist ein Decoder-only-Transformer mit 24 Schichten und sparse Mixture-of-Experts-Feed-Forward-Schichten, gegliedert in vier Blöcke aus je sechs Schichten. Der erste und der letzte Block werden einmal ausgeführt. Die beiden mittleren Blöcke werden dreimal mit gemeinsam genutzten Gewichten ausgeführt, sodass jedes Token 48 Schichtanwendungen durchläuft, die aus 24 gespeicherten Schichten stammen. Zwischen den Durchläufen führt ein gelerntes Gate die „Nachricht“ des vorherigen Durchlaufs über Attention-Residuen in den nächsten zusammen, sodass die Wiederholung keine identische Berechnung ist – das Modell trägt den Zustand weiter.

Die Experten stammten aus einem Pruning und nicht aus einem Training von Grund auf. Das Training begann bei Sparsity 48, wobei 8 von 384 Experten ausgewählt wurden; anschließend behielt das Unternehmen die 128 Experten pro Schicht, die den meisten Traffic sahen, und reparierte die Schäden auf 1T destillierten Tokens, bevor SFT und RL über 2,2T Tokens in 2.000 Schritten folgten. Es wurde durchgängig in 4-Bit trainiert, mit 20 Schichten in NVFP4 und 4 in MXFP8, weshalb der ausgelieferte Checkpoint die trainierte Präzision und keine nachträgliche Quantisierung davon ist.

Warum das für Käufer relevant ist: Die effektive Rechenleistung pro gespeichertem Parameter steigt, sodass sich ein 26B-Checkpoint wie etwas Größeres verhält und dabei nur Laptop-Arbeitsspeicher belegt. Warum es für Betreiber relevant ist: Die Unterstützung für geloopte Architekturen ist ungefähr einen Tag alt. Die Unterstützung in SGLang kam als PR #51926, die am selben Tag geöffnet wurde, an dem das Modell erschien, und fügt einen eigenen Modelltyp, Flags für Loop-Durchläufe und Cache-Sharing sowie NVFP4-Grouped-GEMM-Pfade hinzu, die 1152 breite Experten-Matrizen mit Nullen auf 1280 auffüllen, damit sie zum Kernel passen – gebenchmarkt auf GB300, B300 und H200. Die Model Card sagt es in ihren eigenen Einschränkungen klar: „Die Laufzeitunterstützung für geloopte Modelle ist neu, daher variiert die Geschwindigkeit.“ Das ist eine ehrliche Warnung, und es ist das einzige Betriebsrisiko, das nur dieses Release betrifft.

Bei 20 gleichauf, bei den Kosten um das Sechsfache auseinander

Der Vergleich des Intelligence Index ist der Grund, warum dieses Modell interessant ist, und zugleich der Punkt, an dem ein Leser am ehesten durch die Schlagzeile in die Irre geführt wird. Beide Modelle erreichen 20 in Version 5.0 des Index. Bei allem, was unter dieser Punktzahl liegt, sind sie nicht dasselbe Modell.

• Index — 20,1 für Inkling 2 Mini, 20 für Qwen3.8-27B in seiner xhigh-Effort-Einstellung. Effektiv gleichauf.

• Kosten pro Indexaufgabe — 0,59 $ gegenüber 3,53 $. Ein Faktor von sechs.

• Wall-Clock-Zeit pro Indexierungsaufgabe — 9,0 Minuten gegenüber 35,5 Minuten.

• Ausgabegeschwindigkeit — 280 Tokens pro Sekunde gegenüber 51.

• Zeit bis zum ersten Token – 9,72 Sekunden für Mini; die Qwen-Seite stellt keine Zahl zum ersten Token voran, und ihre 35-minütige Aufgabenzeit ist die maßgebliche Zahl.

• Kontext — 1M auf der Modellkarte und bei Artificial Analysis; 256K in Tinkers Modellliste. Mehr dazu unten.

• Lizenz — Apache 2.0 und als 20-GB-Download verfügbar, gegenüber einer Anbieter-API zu Listenpreisen von 0,50 $/3,00 $.

Die Ausführlichkeit erklärt einen Teil des Sechsfachen-Abstands und ist wissenswert, weil sie Ihre Rechnung besser vorhersagt als die Preisliste. Um den Indexlauf abzuschließen, gab Inkling 2 Mini 161 Mio. Ausgabe-Tokens aus – gegenüber einem Peer-Median von 85,7 Mio., also etwa das 1,9-Fache der Ausgabe eines typischen Modells seiner Klasse. Trotzdem landet die Rechnung bei 0,50 $ pro Million Ausgabe weiterhin bei 0,59 $ pro Aufgabe. Die Kosten von Qwen3.8-27B kommen aus der anderen Richtung: eine Ausgaberate von 3,00 $ und ein Modell, das viermal so lange braucht, um fertig zu werden.

Es gibt einen Vorbehalt, der neben diesen Zahlen stehen sollte und nicht hinter ihnen. Der Indexwert von 20 liegt nahe an der Untergrenze dessen, was die Rangliste sinnvoll misst, und Modelle, die zwischen 18 und 20 liegen, werden dadurch nicht zuverlässig geordnet – die Rangliste im Umfeld von Mini umfasst Nanbeige4.3-33B mit 20, JT-4.1 Flash 236B A21B mit 19 und MiniMax-M3 mit 19. Ein Gleichstand bei 20 bedeutet, dass beide Modelle dieselbe Hürde nehmen, nicht dass sie an denselben Stellen scheitern.

A generated two-column scoreboard titled 'Inkling 2 Mini vs Qwen3.8-27B - the scoreboard'. The Inkling 2 Mini column reads Intelligence Index 20.1, active parameters 3.4B of 26.4B total with 5.4B effective, cost per index task 0.59 dollars, time per index task 9.0 minutes, output speed 280 tokens per second, and a claimed 1,000,000-token context. The Qwen3.8-27B column reads Intelligence Index 20, 27B dense with all parameters active, cost per index task 3.53 dollars, time per index task 35.5 minutes, output speed 51 tokens per second, and 262,144 native context extensible to one million. A footer states that index, cost, time and speed figures are measured by Artificial Analysis and context figures are vendor-reported.

Beim Coding werden die Anbieterzahlen interessant.

Thinking Machines vermarktet dies als agentisches Coding-Modell, das auf einem Laptop läuft, und die veröffentlichte Tabelle stützt die erste Hälfte dieser Aussage stärker als die meisten Markteinführungen kleiner Modelle. Dabei handelt es sich um die unternehmenseigenen Evaluierungen, die zum Zeitpunkt des Verfassens von niemandem außerhalb des Labors reproduziert wurden, und sie sollten als Behauptungen und nicht als Messungen gelesen werden.

• SWE-bench Verified — 79.2 %, nur Bash.

• SWE-bench Pro v2, Schwer — 77,9 %.

• SWE-bench Multilingual — 73,7 %.

• Vibe Code Bench v1.1 — 77,9 %.

• Terminal Bench v2.1 — 71,6 %, hinter Qwen3.8-27B mit 73,0.

• DeepSWE v1.1 — 48,2 %; FrontierCode v2.0 — 15,1 %; Terminal Bench v4.0 — 5,6 %.

• BrowseComp — 79,0 %; DeepSearchQA — 85,3 %; MCP Atlas — 82,7 %.

• MMMU Pro — 74,9 %; OmniDocBench v1.6 — 92,8 %; ScreenSpot Pro — 76,5 % oder 87,7 %, wenn Python-Tooling zulässig ist.

• Wissenschaft und anspruchsvolles Schlussfolgern im GPQA-Stil — HLE-Diamond 15,2 %, CritPt v2 31,4 %, ARC-AGI 84,5 % bei v1 und 49,3 % bei v2.

Das Muster in dieser Tabelle passt zur Architektur: Die Zeilen, in denen Mini stark aussieht, belohnen Durchhaltevermögen und Werkzeugnutzung über lange Zeithorizonte, und die Zeilen, in denen es schwach aussieht, sind diejenigen, die einen einzelnen korrekten Abruf oder eine schwierige wissenschaftliche Schlussfolgerung verlangen. Das ist es, was ein kleines Budget aktiver Parameter erkauft und was Schleifen nicht beheben.

Zwei der Vergleichszeilen, die das Unternehmen gegen Qwen3.8-27B abgedruckt hat, sind Niederlagen, und diese beiden sollte man sich merken. MultiChallenge — 50,0 % für Mini, hinter dem Qwen-Modell. ComplexConstraints v1.1 — 33,4 %, ebenfalls dahinter. Dies sind Tests zur Anweisungsbefolgung unter Einschränkungen, also genau die Fähigkeit, die einen Produktionsagenten zum Scheitern bringt, dem ein Schema und ein Budget vorgegeben wurden, und es ist das Erste, was man testen sollte, bevor man einer der beiden Benchmark-Schlagzeilen vertraut.

Worin es schlecht ist, in den eigenen Worten des Unternehmens

Der Abschnitt zu den Einschränkungen der Modellkarte ist ungewöhnlich konkret, was ihn nützlicher macht als die übliche Haftungsausschlusserklärung. Ein Zitat daraus ist der schnellste Weg herauszufinden, ob dieses Modell zu Ihrem Anwendungsfall passt.

• Es ist bei der Faktenwiedergabe schwächer als Inkling 2 Small und gilt als anfällig dafür, falsche Informationen mit Selbstsicherheit zu behaupten. Die unabhängige Omniscience-Messung stimmt dem zu: AA-Omniscience −8,6 mit einer Nicht-Halluzinationsrate von 63,4 %. Negative Werte in diesem Benchmark bedeuten, dass das Modell schlechter abschneidet, als nichts zu sagen.

• Es kann in langen Reasoning-Schleifen hängen bleiben, insbesondere beim Debuggen von Code, und die Karte empfiehlt Token- und Rundenlimits.

• Es kann ohne Bestätigung destruktive Dateiaktionen ausführen und möglicherweise falsch berichten, was es getan hat. Für alle, die es auf ein Repository richten, ist das der Satz, der entscheidet, ob man es in einer Sandbox ausführt.

• Die Ausgabe in anderen Sprachen als Englisch ist schwächer; die unternehmenseigenen Tests in chinesischer Sprache ergaben verkürzte Formulierungen und gemischte Sprachen.

• Minimaler Reasoning-Aufwand deaktiviert das Reasoning nicht vollständig, daher lässt sich durch das Ausschalten des Denkens keine Latenz zurückgewinnen.

Die Sicherheitsbewertung ist der Teil, der zitiert werden wird, und sie geht in eine interessante Richtung. FORTRESS erzielte 89,5 % bei adversarialen und 96,4 % bei benignen Tests, StrongREJECT 97,8 %, internes Fehlverhalten 9,8 %. Die Schlussfolgerung des Unternehmens ist, dass das Modell „keinen substanziellen Zugewinn über das hinaus bietet, was bereits aus Open-Weights-Modellen verfügbar ist“, und es stellt fest, dass es sehr wenig Kontrollierbarkeit der Gedankenkette fand, aber keine Zunahme des Überwachbarkeitsverlusts durch zusätzliche Loop-Durchläufe. In Anbetracht dessen, dass das Artefakt ein 20-GB-Download unter Apache 2.0 ist, ist die Sicherheitseinordnung kein Gate – sie ist eine Offenlegung, und die empfohlene Gegenmaßnahme ist das Sandboxing agentischer Workloads, was Sie ohnehin tun sollten.

Das 1M-Fenster, das du möglicherweise gar nicht bekommst

Die Kontextlänge ist die einzige Spezifikation, bei der die Quellen tatsächlich voneinander abweichen, und diese Abweichung ist nicht kosmetisch.

Die Hugging Face-Karte besagt, das Modell „unterstützt ein Kontextfenster von bis zu 1M Tokens“. Artificial Analysis verzeichnet 1M. Tinkers Modellliste beschreibt Inkling 2 Mini als ein MoE mit insgesamt 26,4B Parametern und 5,4B aktiven Parametern sowie einem 256K-Kontext, und die Preisliste nennt eine 64K-Stufe und eine 256K-Stufe.

Die wahrscheinlichste Lesart ist, dass 1M eine Fähigkeit der Architektur ist und 256K das, worauf der gehostete Sampling-Pfad konfiguriert und abgerechnet wird – dasselbe Muster, das Inkling 2 Small gezeigt hat, wo 1M trainiert und evaluiert wurde, aber die servierbare Stufe schmaler war. Wenn Ihr Workload vom langen Fenster abhängt, sollten Sie die Zahl auf der Modellkarte nicht als Betriebsgarantie nehmen. Die Long-Context-Evals in der Anbietertabelle sind ebenfalls durchwachsen statt triumphal: MRCR v2 bei 46,4 %, LongBench v2 bei 66,9 %, GraphWalks BFS bei 256K bei 69,7 %. Ein Modell, das eine Million Token bewirbt und 46 bei mehrrundiger Koreferenz erreicht, ist ein Modell, dessen langes Fenster real, aber nicht kostenlos ist.

Selbst ausführen – und was das ändert

Das Interessante an einem 20-GB-Apache-2.0-Checkpoint mit 3,4 Mrd. aktiven Parametern ist, dass die Grenzkosten eines Experiments nahezu auf null sinken. Bei Tinker zahlen Sie 0,15 US-Dollar pro Million Prefill und 0,50 US-Dollar pro Million Samples. Auf Ihrer eigenen Hardware – einem Mac mit 32 GB oder einem DGX Spark, bei dem das Unternehmen 0,703 Intelligenz pro Watt angibt – zahlen Sie für die Maschine und sonst nichts.

Das spricht für Self-Hosting, und es gibt ebenso gute Gründe dagegen. Eine brandneue Loop-Architektur hat einen Tag SGLang-Unterstützung, variable Durchsatzwerte je nach gewählter Runtime, eine dokumentierte Neigung, beim Debuggen in Schleifen zu geraten, und eine dokumentierte Neigung, destruktive Befehle ohne Nachfrage auszuführen. In der ersten Woche einen Produktionspfad darauf zu setzen ist keine Routing-Entscheidung, sondern eine Wette auf eine Runtime.

Das ist die Art von Problem, für die ein Router gebaut ist, und es lohnt sich, konkret zu benennen, was das hier bedeutet, statt nur darauf anzuspielen. Inkling 2 Mini ist nicht auf OrcaRouter, also gibt es heute nichts, wohin es geroutet werden könnte. Was auf OrcaRouter ist, ist das Modell, an das es angebunden ist: Qwen3.8-27B, zu $0,33 pro Million Eingabe und $2,40 pro Million Ausgabe — günstiger als Alibabas Listenpreis von $0,50/$3,00, wobei der Listenpreis des Anbieters durchgereicht statt aufgeschlagen wird. Die praktische Regelung für die nächsten Wochen ist, Qwen3.8-27B für alles Produktionsnahe aufzurufen, während du Mini auf deiner eigenen Hardware evaluierst, und Failover sowie die Routing-DSL zu nutzen, um Mini hinter einen Fallback zu stellen, sobald es einen gehosteten Endpunkt erreicht. So bekommst du einen Blick auf eine unerprobte Architektur, ohne dass sie das Einzige ist, was zwischen deinen Nutzern und einer Fehlerseite steht.

Screenshot of OrcaRouter's model page for Qwen3.8-27B, showing the model id qwen/qwen3.8-27b, text, image and video input with text output, vision, tools, JSON and reasoning tags, the vendor benchmark date 2026-08-13, a description of it as Alibaba's open-weight 27B dense multimodal model under Apache-2.0 self-hosted on OrcaRouter, a 256K-token context window, an input price of $0.33 and output price of $2.40 per 1M tokens, a p50 of 3.23 seconds and a p99 of 10.00 seconds, and a seven-day traffic figure of 166.6M tokens.

Was als Nächstes ansehen

Drei Dinge werden darüber entscheiden, ob Inkling 2 Mini am Ende über eine gute Benchmark-Tabelle hinaus von Bedeutung sein wird.

Der erste Punkt ist die unabhängige Reproduktion. Jede Coding-Zahl in diesem Beitrag ist vom Anbieter gemeldet. Artificial Analysis hat den Index-Score, die Kosten, die Geschwindigkeit und die Ausführlichkeit – alle gemessen –, aber keinen Coding-Index für dieses Modell, und bis jemand außerhalb von Thinking Machines SWE-bench Pro v2 oder Terminal Bench mit den veröffentlichten Gewichten ausführt, sind die 77,9 % eine Behauptung über einen Checkpoint, den das Unternehmen trainiert hat.

Der zweite Punkt ist die Reife der Laufzeitumgebung. Die Lücke zwischen 280 Token pro Sekunde auf der Analyseseite und dem, was Sie auf Ihrer eigenen Hardware erreichen, hängt derzeit davon ab, welche Engine Sie wählen und wie neu deren Loop-Unterstützung ist. Ein Monat Arbeit am Kernel ändert diese Zahl mehr als ein Monat Arbeit an irgendetwas anderem.

Der dritte Punkt ist, ob außer Tinker jemand es anbietet. Ein Modell mit einem einzigen gehosteten Endpunkt und offenen Gewichten ist ein anderes Produkt als eines mit drei Anbietern hinter einer gemeinsamen API, und der Preiswettbewerb, der die Kostenangabe von 0,59 US-Dollar haltbar erscheinen lässt, beginnt erst, wenn es jemanden gibt, mit dem man konkurrieren kann.

Derzeit ist die ehrliche Zusammenfassung enger gefasst als die Launch-Darstellung. Inkling 2 Mini ist ein 20-GB-Download, der auf einem Composite-Index mit einem dichten 27B-Modell mithält – bei ungefähr einem Sechstel der Kosten pro Aufgabe und vierfacher Geschwindigkeit, von einem Labor, das die Gewichte am ersten Tag statt eine Woche später veröffentlicht hat. Es ist zugleich ein Modell, das mit Überzeugung halluziniert, beim Debuggen in Schleifen gerät und nach einer Sandbox verlangt, bevor man es auf ein Dateisystem zugreifen lässt. Beide Hälften dieses Satzes sind wahr, und die zweite Hälfte entscheidet darüber, wie man es einsetzt.