Inkling AI Model Review: Thinking Machines’ erstes Open-Weights-Modell, getestet und erklärt

Diese Inkling AI-Modellbewertung wirft einen genauen Blick auf die erste Veröffentlichung von Thinking Machines Lab, dem von der ehemaligen OpenAI-CTO Mira Murati gegründeten Startup. Inkling ist ein Open-Weights-Modell mit multimodalem Mixture-of-Experts (MoE), einem Kontextfenster von 1 Million Token und einem einstellbaren „Thinking Effort“-Regler. Es ist schnell, günstig zu hosten und eher auf Anpassung als auf Leaderboard-Dominanz ausgelegt. Im Folgenden trennen wir die vom Anbieter selbst gemeldeten Benchmarks von unabhängigen Messungen, gehen die Architektur durch, zeigen Ihnen, wie Sie es ausführen, und erklären genau, wer es übernehmen sollte (und wer nicht).

Stand: 16.07.2026 — einen Tag nach dem Start. Dies ist eine forschungsgestützte Bewertung; es gibt noch keine praktischen Langzeittests für ein so neues Modell, und wir kennzeichnen jede nicht verifizierte Zahl unten.

Ein Hinweis für Bauherren: Wenn Sie Inkling neben anderen Modellen ausprobieren möchten, OrcaRouter präsentiert API-verfügbare Modelle über einen einzigen OpenAI-kompatiblen Endpunkt, sodass Sie vergleichen und wechseln können, ohne neue Integrationen vorzunehmen.

- TL;DR Fazit: Inkling ist ein wirklich leistungsfähiges, effizientes offenes Modell, das sich für Feintuning und kostensensiblen Einsatz auszeichnet, aber es ist kein Spitzenreiter und sein Hersteller sagt das offen. Wenn Sie eine anpassbare, lizenzfreie Basis mit einem riesigen Kontextfenster wünschen, ist es eine der interessantesten Veröffentlichungen des Jahres 2026. Wenn Sie das einzelne stärkste verfügbare Modell möchten, suchen Sie woanders.

- Was es ist: Ein Open-Weights (Apache 2.0) MoE Reasoning-Modell. Für wen es ist: Praktiker, die feinabstimmen und selbst hosten möchten, anstatt für eine geschlossene Frontier-API zu bezahlen.

Wichtige Erkenntnisse

Hersteller & Datum: Thinking Machines Lab; veröffentlicht am 15. Juli 2026 als das erste Modell des Labs.

Architektur: Sparse MoE, 975B gesamt / 41B aktive Parameter, 66 Schichten, bis zu 1M-Token-Kontext in den Gewichten (256K über gehostete APIs).

Lizenz: Apache 2.0 — vollständige Gewichte auf Hugging Face, kostenlos für kommerzielle Nutzung und Self-Hosting.

Ehrliche Positionierung: Das Unternehmen gibt unumwunden zu, dass es “nicht das stärkste heute verfügbare Modell ist, weder geschlossen noch offen.”

Unabhängiger Score: 41/100 im Artificial Analysis Intelligence Index — #10 von 97 Modellen und vor mehreren offenen Mitbewerbern (siehe Abgleich unten).

Kosten: Gewichte sind lizenzgebührenfrei selbst zu hosten; gehosteter Zugang beginnt bei etwa 1,87 $ / 1M Eingabe-Token.

Warnhinweis: Fast alle hervorgehobenen Benchmarks werden von den Anbietern selbst gemeldet und nicht unabhängig geprüft.

Wer steckt hinter Inkling?

- Gründerbox. Inkling ist das erste Modell von Thinking Machines Lab (thinkingmachines.ai), gegründet von Mira Murati, ehemaliger Chief Technology Officer bei OpenAI. Das Labor operierte vor diesem Start in relativer Geheimhaltung und hat eine Open-Weights-Haltung eingenommen, die im Gegensatz zum Closed-Flagship-Ansatz von Muratis ehemaligem Arbeitgeber steht. Thinking Machines tut nicht monetarisieren das Modell selbst — die Einnahmen fließen durch seine Tinker Fine-Tuning-Plattform und Drittanbieter-Hosting-Partner. Dieses Geschäftsmodell ist zentral, um Inkling zu verstehen: Die Gewichte sind eine kostenlose Einstiegsrampe, und das Unternehmen verdient, wenn man anpasst oder skaliert.

Was ist Inkling?

Inkling ist ein Open-Weights, multimodales, Mixture-of-Experts großes Sprach- und Reasoning-Modell, angekündigt von Thinking Machines Lab am 15. Juli 2026 und veröffentlicht unter der großzügigen Apache 2.0 Lizenz mit vollständigen Gewichten auf Hugging Face.

Was diesen Launch bemerkenswert macht, ist die Rahmung. Anstatt eine Grenzlandkrone zu beanspruchen, beschreibt Thinking Machines Inkling als ein vielseitiges, effizientes, anpassbares offenes Modell. In einem für einen Starttag ungewöhnlich offenen Eingeständnis gibt das Unternehmen an, dass Inkling „nicht das stärkste heute verfügbare Modell ist, weder geschlossen noch offen.“ Diese Ehrlichkeit gibt den Ton für diese gesamte Rezension vor: Inkling ist ein Werkzeug, das dafür konzipiert ist, angepasst, selbst gehostet und feinabgestimmt zu werden, kein Benchmark-Trophäe.

Berichterstattung von Fortune und TechCrunch bestätigte diese Einschätzung. TechCrunch argumentierte, dass Inkling OpenAI, Anthropic oder Google auf der Spitzenebene nicht bedroht, sondern stattdessen die mittlere Ebene der Open-Weight-Hosting-Anbieter und Feinabstimmungsplattformen unter Druck setzt. Forbes stellte Muratis Open-Weights-Strategie als näher am chinesischen Open-Model-Playbook (DeepSeek, Qwen, Kimi) dar als an den geschlossenen US-Flaggschiffen – eine USA-gegen-China-Erzählung über offene Gewichte, die sich durch einen Großteil der Kommentare zum Launch zieht.

Architektur und Spezifikationen

Unter der Haube ist Inkling ein dünn besetzter Mixture-of-Experts-Transformer. Nur ein Bruchteil seiner Parameter wird pro Token aktiviert, was die Inferenz trotz der großen Gesamtparameteranzahl effizient hält. Die Details sind in der offiziellen Modellkarte und im Hugging Face Blog dokumentiert.

Gesamtparameter: 975B

Aktive Parameter: 41B (sparse MoE)

Schichten: 66-schichtiger Decoder-only-Transformer

Experten: 256 geroutete + 2 geteilte; 6 von 256 gerouteten pro Token (die 2 geteilten immer aktiv)

Routing: Sigmoid / aux-loss-free

Achtung: Hybrid, 5:1 Gleitfenster (lokal) zu global; 8 KV-Köpfe

Positionskodierung: Gelernt relative Positionsembeddings (nicht RoPE)

Multimodalität: Encoder-frei — Audio als dMel-Spektrogramme, Bilder als 40×40-Patches, direkt eingespeist

Extras: Kurze Faltungen (SConv); MTP-Layer für spekulative Dekodierung

Numerik: BF16, MXFP8, NVFP4 (NVFP4-Checkpoint für NVIDIA Blackwell)

Kontextfenster: Bis zu 1.000.000 Token in den Gewichten (256K auf gehosteten APIs)

Kleinere Variante: Inkling-Small, 276B insgesamt / 12B aktiv (Vorschau, Gewichte noch nicht veröffentlicht)

Einige Designentscheidungen heben Inkling von einem einfachen MoE ab:

Experten-Layout. Mit 256 gerouteten Experten plus 2 gemeinsamen Experten und 6 gerouteten Experten, die pro Token feuern, agiert das gemeinsame Paar als eine immer aktive „Expertensenke“, die allgemeine Berechnungen erfasst, während sich die gerouteten Experten spezialisieren. Aux-loss-free Sigmoid-Routing vermeidet den Lastausgleichs-Strafterm, der von vielen MoE-Designs verwendet wird.

Relative Positionsembeddings, nicht RoPE.Die meisten modernen Long-Context-Modelle setzen auf rotatorische Einbettungen; Inkling verwendet stattdessen erlernte relative Positionsembeddings, eine ungewöhnliche Wahl in dieser Größenordnung.

Encoder-freie Multimodalität. Anstatt separate Bild-/Audio-Encoder anzufügen, nimmt Inkling 40×40 Bild-Patches und dMel-Audio-Spektrogramme direkt in den Transformer-Stack auf. Dies vereinfacht die Pipeline und ist ein Grund dafür, warum das Modell als nativ multimodal beschrieben wird.

MTP für spekulative Dekodierung. Multi-Token-Prediction (MTP)-Schichten fungieren als eingebauter Entwurfsmechanismus, der die Generierung beschleunigt, ohne ein separates Draft-Modell.

Anmerkung der Redaktion — Grafik einfügen: Ein beschriftetes Blockdiagramm einer Inkling-Schicht — Sliding-Window vs. Global Attention (5:1), der 256+2 Expert-Router mit 6 hervorgehobenen aktiven Experten, SConv und der MTP-Drafter-Kopf.

Training und der „Denkaufwand“-Regler

Inkling wurde vortrainiert auf 45 Billionen multimodale Tokens die Text, Bilder, Audio und Video umfassen, unter Verwendung eines hybriden Optimierers (Muon für große Matrixgewichte, Adam für den Rest) auf NVIDIA GB300 NVL72 Systemen. Das Post-Training nutzte groß angelegtes asynchrones Reinforcement Learning, das über 30M+ Rollouts über zwei lange fortlaufende Durchläufe, bootstrapped von anfänglichem überwachten Feintuning an synthetischen Daten.

Ein besonderes Merkmal ist ein steuerbarer Parameter für den Denkaufwand, der von etwa 0,2 bis 0,99 dargestellt wird, wobei höhere Werte mehr Denken und mehr Kosten bedeuten. Dies ermöglicht es Betreibern, Latenz und Ausgaben gegen die Tiefe des Denkens abzuwägen. Alle Benchmark-Zahlen unten wurden bei Effort = 0,99 ausgeführt.

Kontrollierbarer Denkaufwand: Ein operativer Leitfaden

Bei der Bereitstellung wird die Aufwandssteuerung als Enum reasoning_effort mit den Stufen none / minimal / low / medium / high / xhigh / max. Es gibt keine einzelne „richtige“ Einstellung – sie ist ein lebendiger Hebel für den Latenz-Kosten-Qualitäts-Kompromiss. Verwenden Sie die folgende Tabelle als Ausgangskarte (relative Orientierung; Benchmark-Qualität wurde am oberen Ende des Bereichs gemessen):

keine / minimal. Relative Latenz & Token-Kosten: Niedrigste; Am besten für: Klassifikation, Extraktion, Formatierung, Routing, Retrieval Glue

niedrig. Relative Latenz & Token-Kosten: Niedrig; Am besten für: Kurze Q&A, einfache Zusammenfassung, hochvolumige Batch-Jobs

mittel. Relative Latenz & Token-Kosten: Mäßig; Am besten geeignet für: Allgemeiner Chat, Entwürfe, die meisten Agent-Tool-Aufrufe

hoch. Relative Latenz und Token-Kosten: Höher; Am besten für: mehrschrittiges Denken, Codegenerierung, Analyse

xhigh / max. Relative Latenz & Token-Kosten: Höchste; Am besten für: Anspruchsvolle Mathematik, wettbewerbsorientiertes Denken, Benchmark-Parität (Effort=0.99)

Kann man es lokal ausführen? Hardware und VRAM

Da es sich bei Inkling um ein 975B-Parameter-Modell handelt, bedeutet „lokal“ realistischerweise einen Multi-GPU-Server, nicht einen Laptop. Ungefähre Anforderungen (laut der Startberichterstattung und Community-Tools):

BF16 (voll). Ungefährer aggregierter VRAM: ~2 TB; Beispielkonfigurationen: 8× NVIDIA B300 oder 16× H200

NVFP4 (quantisiert). Ca. aggregierter VRAM: ~600 GB; Beispielkonfigurationen: 4× NVIDIA B300 oder 8× H200

GGUF (Community). Ca. aggregierter VRAM: Variiert je nach Quant; Beispielkonfigurationen: Unsloth GGUF-Builds existieren für kleinere/quantisierte Footprints

Der NVFP4-Checkpoint – speziell für NVIDIA Blackwell ausgeliefert – senkt den Speicherbedarf im Vergleich zu BF16 um etwa zwei Drittel, was dem Unterschied zwischen einem 8-GPU- und einem 4-GPU-B300-Knoten entspricht. Für die meisten Teams deutet dies immer noch auf einen gehosteten Anbieter oder einen gemieteten GPU-Knoten hin, anstatt auf eigene Hardware. Unsloth GGUF-Quantisierungen erweitern die Reichweite weiter nach unten in der Hardware-Hierarchie für Experimente, allerdings zu Lasten der Qualität.

Bereitstellungs-Schnellstart

Inkling bietet eine OpenAI-kompatible API, sodass die meisten vorhandenen Client-Codes mit einer geänderten Basis-URL und einem geänderten Modellnamen als Drop-in funktionieren. Die drei üblichen Bereitstellungspfade:

vLLM — Ein-Befehl-Server (standardmäßig Port 8000):

vllm serve thinkingmachines/Inkling --port 8000
# dann rufen Sie den OpenAI-kompatiblen Endpoint unter http://localhost:8000/v1 auf

SGLang — auf 8 GPUs sharden (Standard-Port 30000):

python -m sglang.launch_server \
--model-path thinkingmachines/Inkling \
--tp 8 --port 30000

Hugging Face transformers — laden via die multimodale auto class:

from transformers import AutoModelForMultimodalLM, AutoProcessor

model = AutoModelForMultimodalLM.from_pretrained("thinkingmachines/Inkling")
processor = AutoProcessor.from_pretrained("thinkingmachines/Inkling")
# Übergib reasoning_effort in {none, minimal, low, medium, high, xhigh, max}

Da der Endpunkt OpenAI-kompatibel ist, ist die Migration einer bestehenden App normalerweise eine Frage des Ausrichtens Ihres SDK auf die neue Basis-URL und des Einstellens von reasoning_effort nach Geschmack. Weitere Laufzeiten beim Start umfassen TokenSpeed und Unsloth.

Wo ausführen: Verfügbarkeit des Inferenzanbieters

Falls Sie lieber keine GPUs verwalten möchten, hosten mehrere Partner Inkling. Optionen „Inkling auf X ausführen“ beim Start:

Tinker (Thinking Machines). Rolle: Feinabstimmung; Anmerkungen: 64K und 256K Kontextoptionen; 50% zeitlich begrenzter Startrabatt (bezahlt)

Together AI. Rolle: Gehostete Inferenz; Notizen: OpenAI-kompatible Endpunkte

Fireworks. Rolle: Gehostete Inferenz; Notizen: —

Modal. Rolle: Gehostete Inferenz / serverlose GPU; Anmerkungen: —

Databricks. Rolle: Gehostete Inferenz; Hinweise: über Unity AI Gateway

Baseten. Rolle: Gehostete Inferenz; Anmerkungen: —

Benchmarks: Herstellerangaben vs. unabhängige Messung

Dies ist der wichtigste Abschnitt jeder ehrlichen Inkling review 2026, weil die Zahlen aus zwei sehr unterschiedlichen Quellen stammen.

Offenlegung: Mit alleiniger Ausnahme des Artificial Analysis Index wird jeder nachfolgende Inkling-Benchmark vom Anbieter selbst zum Start gemeldet (Effort = 0,99, Temperatur 1,0) und hat nicht unabhängig geprüft. Wettbewerbszahlen stammen von Drittanbietern (MarkTechPost, Artificial Analysis) oder wurden von Thinking Machines erneut durchgeführt und sind ebenfalls nicht unabhängig geprüft hier. Einige Zahlen tragen Harness- oder Subset-Qualifikatoren. Behandeln Sie sie alle als Richtwerte, nicht als Evangelium.

Vom Anbieter selbst gemeldete Bewertungen

Laut den eigenen Startmaterialien von Thinking Machines:

AIME 2026 (Mathe): 97.1%

GPQA Diamond (wissenschaftliches Denken): 87.2%

SWE-bench Verified (Codierung, Bash-only-Testumgebung): 77.6%

SWE-bench Pro (Public): 54.3%

MMMU Pro (multimodal): 73.3%

VoiceBench (Audio): 91.4%

MMAU (Audio): 77,2%

IFBench (Anweisungsbefolgung): 79.8%

Terminal Bench 2.1 (agentisches Terminal): 63.8

FORTRESS Adversarial: 78.0%

SimpleQA Verifiziert: 43.9%

Auf dem Papier sehen diese stark aus, insbesondere die Zahlen zum mathematischen und naturwissenschaftlichen Denken. Aber das Unternehmen benchmarkte Inkling gegen Versionen von Mitbewerbern in naher Zukunft (GPT 5.6 Sol, Claude Fable 5, Gemini 3.1 Pro, DeepSeek V4 Pro, Kimi K2.5/K2.6, GLM 5.2, Nemotron 3 Ultra) mit selbst generierten Bewertungen. Diese Mitbewerberzahlen stimmen möglicherweise nicht mit den von den Rivalen selbst gemeldeten Zahlen überein, daher sind direkte Vergleiche mit Vorsicht zu genießen.

Multi-Modell-Kopf-an-Kopf (Open-Weights-Rivalen)

Der klarste direkte Vergleich von Inkling mit anderen Open-Weight-Modellen stammt von MarkTechPosts Vergleichstabelle (unten wiedergegeben, mit Quellenangabe MarkTechPost). Dies ist nützlich, gerade weil es die Konkurrenten in einem Rahmen zeigt:

HLE. Inkling: 29,7 %; Nemotron 3 Ultra: 26,6 %; Kimi K2.6: 35,9 %; GLM 5.2: 40,1 %; DeepSeek V4 Pro: 35,9 %

AIME 2026. Inkling: 97.1%; Nemotron 3 Ultra: 94.2%; Kimi K2.6: 96.4%; GLM 5.2: 99.2%; DeepSeek V4 Pro: 96.7%

SWE-bench Verified. Inkling: 77.6%; Nemotron 3 Ultra: 70.7%; Kimi K2.6: 80.2%; GLM 5.2: 80.0%; DeepSeek V4 Pro: 80.6%

Terminal Bench 2.1. Inkling: 63.8%; Nemotron 3 Ultra: 56.4%; Kimi K2.6: 71.3%; GLM 5.2: 82.7%; DeepSeek V4 Pro: 64%

FORTRESS (adversarial). Inkling: 78.0%; Nemotron 3 Ultra: 77.6%; Kimi K2.6: 65.6%; GLM 5.2: 71.3%; DeepSeek V4 Pro: 36.0%

MarkTechPost. Nicht unabhängig geprüft.

Das Muster ist klar und stimmt mit der eigenen Bescheidenheit von Thinking Machines überein. Inkling führt bei FORTRESS (Sicherheit gegen feindliche Eingaben) und schlägt Nemotron 3 Ultra in allen Bereichen, aber es unterliegt GLM 5.2, Kimi K2.6 und DeepSeek V4 Pro auf HLE, SWE-bench Verified und insbesondere Terminal Bench 2.1 (63,8 % gegenüber 82,7 % von GLM 5.2). Wenn agentische Codierung und Terminal-Aufgaben Ihre Priorität sind, sind die führenden chinesischen Open-Source-Modelle heute voraus.

Unabhängige Messung (Artificial Analysis)

Für eine neutralere Betrachtung evaluierte Artificial Analysis Inkling am 2026-07-15 und platzierte es auf 41/100 auf seinem Intelligence Index, eingestuft auf Platz #10 von 97 Modellen. Zwei Punkte, wie man diesen Rang fair interpretiert:

Es ist eine starke Open-Modell-Darbietung, aber keine insgesamt #1. Laut Artificial Analysis liegt Inkling's Index von 41 vor Nemotron 3 Ultra (38), Gemma 4 31B (29) und gpt-oss-120b (24) – also unter Open-Weights-Kollegen ist es wettbewerbsfähig bis führend. Aber Platz 10 von 97 bedeutet, dass neun Modelle insgesamt höher eingestuft sind, was mit der Einordnung „leistungsfähig, aber nicht Spitzenklasse“ übereinstimmt.

Effizienz ist der Bereich, in dem es hervorsticht. Artificial Analysis weist auf eine starke Token-Effizienz hin — rund 25.000 Tokens zur Vervollständigung seines Evaluierungssatzes gegenüber 37–43.000 für Vergleichsmodelle — und einen GDPval-AA v2 Elo von 1238, vor Kimi (1190) und DeepSeek V4 Flash (1189), plus einem kleinen Vorsprung (+2) bei AA-Omniscience.

Die Ausgabegeschwindigkeit betrug 72,7 Tokens pro Sekunde bei einer Time-to-First-Token von 1,75 s. Kurz gesagt: ein respektabler Platz unter den Top Ten, und zwar ein wirklich effizienter – aber wir vermeiden bewusst, es als Leaderboard-Sieg überzubewerten.

Multimodale und Langkontext-Fähigkeiten

Inkling akzeptiert Text (UTF-8), Bilder (40px bis 4096px über einen hierarchischen Patch-Encoder) und Audio (16kHz WAV, bis zu etwa 20 Minuten, unter Verwendung diskreter Token-Kodierung). Ausgabe ist nur Text — es gibt keine Bild- oder Audioerzeugung, planen Sie also ein Verständnismodell, kein Erzeugungsmodell. Video wurde während des Vortrainings verwendet, ist aber nicht ein unterstützter oder bewerteter Eingang beim Start, planen Sie also noch nicht damit.

Die Hauptfunktion ist das Kontextfenster mit 1 Million Token in den veröffentlichten Gewichten, was die Tür zu Code-Analyse für ganze Repositories, Synthese langer Dokumente und erweiterten Multi-Turn-Agenten-Sitzungen ohne aggressives Chunking öffnet. Beachten Sie die praktische Nuance: gehostete APIs geben bis zu 256.000 Token frei, daher ist das volle 1M heute eine Selbsthost-Funktion. In Kombination mit dem Sliding-Window-Attention-Design und der spekulativen Dekodierung bleibt die Langkontext-Geschichte einer der praktischsten Verkaufsargumente von Inkling.

Preise, Tarife und Gesamtbetriebskosten

Inkling ist wirklich offen. Die vollständigen Gewichtungen (ein BF16-Checkpoint plus ein NVFP4-Checkpoint) sind auf Hugging Face unter Apache 2.0, also Self-Hosting ist lizenzgebührenfrei — Sie bezahlen nur für Rechenleistung. Thinking Machines monetarisiert das Modell selbst nicht; die Einnahmen fließen über Tinker und Drittanbieter-Hosts.

Gehostete Preisgestaltung pro Token (laut Artificial Analysis), nach Kontextstufe:

64K. Eingabe / 1M: $1.87; Zwischengespeicherte Eingabe / 1M: $0.374; Ausgabe / 1M: $4.68

256K. Eingabe / 1M: $3.74; Cache-Eingabe / 1M: $0.748; Ausgabe / 1M: $9.36

Spiegelt einen zeitlich begrenzten Einführungsrabatt von 50% wider; die genauen Tinker-Pro-Token-Zahlen befinden sich in der Dokumentation und werden sich ändern.

Self-Host vs. API – wie man über TCO denkt. Die Wirtschaftlichkeit hängt von Volumen und Auslastung ab:

API (Tinker / Partner): keine Fixkosten, Bezahlung pro Token, nahezu sofort startbereit. Am besten bei geringem oder unregelmäßigem Volumen oder beim Prototyping.

Selbst hosten (gemietete oder eigene GPUs): Sie bezahlen für einen 4–8 GPU-Knoten, unabhängig davon, ob er ausgelastet ist oder nicht, aber die Grenzkosten pro Token nähern sich den reinen Stromkosten. Da Inkling nur 41B Parameter aktiviert und token-effizient ist (~25K gegenüber 37–43K laut dem Artificial Analysis-Set), ist der Durchsatz pro GPU-Stunde günstig, und schwere, konstante Arbeitslasten können bei guter Auslastung eines Knotens wesentlich günstiger sein als die API-Bepreisung pro Token. Kommentare rund um den Launch stellten das Self-Hosting offener Gewichte als etwa 40–60 % günstiger dar als die vergleichbare Nutzung geschlossener APIs im großen Maßstab – eine richtungsweisende Behauptung, keine geprüfte Zahl.

Hinweis des Herausgebers — Grafik hinzufügen: Ein Break-even-Chart — monatliches Token-Volumen (x) vs. Gesamtkosten (y) mit drei Linien: Closed Frontier API, Inkling Hosted API und Inkling Self-Hosted auf einem gemieteten GPU-Knoten — zeigt den Wendepunkt, an dem Self-Hosting gewinnt.

Sicherheit, Alignment und Zensur

Sicherheit ist eine der stärkeren und differenzierteren Geschichten von Inkling. Auf dem FORTRESS adversarial Benchmark erzielt es 78.0% — die beste unter den open-weight Modellen im Vergleich von MarkTechPost, vor GLM 5.2 (71.3%), Kimi K2.6 (65.6%) und deutlich vor DeepSeek V4 Pro (36.0%). Thinking Machines betont ebenfalls die kalibrierte Unsicherheit in den Outputs des Modells.

Die Berichterstattung von VentureBeat hob eine verwandte Eigenschaft hervor: Widerstandsfähigkeit gegen Zensur. In Kombination mit einer permissiven Apache 2.0-Lizenz positioniert dies Inkling als ein offenes Modell, das Teams an ihre eigenen Richtlinien anpassen können, anstatt ein undurchsichtiges, vom Anbieter auferlegtes Inhaltsregime zu erben – eine bedeutende Überlegung für regulierte oder regionsspezifische Bereitstellungen. Wie bei jedem Modell am Starttag war zum Zeitpunkt des Schreibens noch kein unabhängiges Red-Team- oder Drittanbieter-Sicherheitsaudit aufgetaucht, daher behandeln Sie die FORTRESS-Lead als anbieter-/drittanbieterbezogen und nicht extern zertifiziert.

Sollten Sie Inkling feinabstimmen?

Feinabstimmung ist wohl der Daseinsgrund von Inkling. Ein schneller Entscheidungsrahmen:

Feinabstimmung (über Tinker oder Ihre eigene Pipeline) durchführen, wenn: Sie proprietäre Daten, eine enge Domäne oder eine Aufgabe haben, bei der ein kleineres spezialisiertes Modell einen Generalisten übertrifft; Sie die Gewichte besitzen müssen; oder Sie einen bestimmten Ton, ein bestimmtes Format oder eine bestimmte Richtlinie einbetten möchten. Die Tinker-Kontextoptionen mit 64K/256K und der Einführungsrabatt senken die Hürde.

Verwenden Sie einfach das Basismodell (selbst gehostet oder API), wenn: Ihre Aufgabe allgemeiner Natur ist, Ihr Volumen gering ist, oder Sie noch nicht validiert haben, dass Fine-Tuning Ihre Metrik verbessert. Prompt Engineering plus der reasoning_effort-Regler bringt Sie oft weit genug.

Suchen Sie woanders, wenn: Sie heute agentisches Coding auf Spitzenniveau benötigen (GLM 5.2 und Kimi K2.6 führen bei diesen Benchmarks) oder Sie unabhängig geprüfte Qualitätsgarantien verlangen.

Vor- und Nachteile

Vorteile

Vollständig offene Gewichte unter Apache 2.0, lizenzgebührenfrei zum Selbsthosten und kostenlos für die kommerzielle Nutzung.

Effizientes spärliches MoE (nur 41B aktiv) plus starke Token-Effizienz hält Inferenzkosten und -geschwindigkeit wettbewerbsfähig.

Massiver 1M-Token-Kontext in den Gewichten (256K via API).

Echte Multimodalität (Text, Bild, Audio-Eingabe).

Regelbarer Argumentationsaufwand-Regler (kein → max) für Live-Kosten/Qualitäts-Abwägungen.

Best-in-Class Open-Weight-Adversarial-Sicherheit (FORTRESS 78,0 %, laut MarkTechPost) und „Widerstandsfähigkeit gegen Zensur“.

Starke unabhängige Platzierung — Top 10 von 97 im Artificial Analysis Index, vor Nemotron 3 Ultra, Gemma 4 31B und gpt-oss-120b.

Nachteile

Explizit kein Frontier-Modell, nach eigener Aussage des Herstellers.

Liegt hinter führenden Open-Source-Konkurrenten (GLM 5.2, Kimi K2.6, DeepSeek V4 Pro) bei Agenten- und Codierungs-Benchmarks (Terminal Bench 2.1, SWE-bench Verified, HLE).

Die meisten Benchmarks werden vom Anbieter selbst gemeldet und nicht unabhängig geprüft.

Nur-Text-Ausgabe; keine Bild-/Audioerzeugung; kein Videoeingang beim Start; Inkling-Small noch in der Vorschau.

Echte „lokale“ Nutzung erfordert einen Multi-GPU-Knoten (~600 GB VRAM selbst quantisiert).

Keine substanzielle unabhängige kritische oder Sicherheits-/Red-Team-Überprüfung war bei der Veröffentlichung aufgetaucht.

Wer sollte Inkling verwenden?

Inkling ist eine gute Wahl, wenn Sie ein Praktiker oder ein Team sind, das möchte besitzen und anpassen Ihr Modell anstatt eine geschlossene API zu mieten. Ideale Anwendungsfälle sind:

Fine-Tuning-Teams, die domänenspezifische Modelle mittels Tinker oder ihrer eigenen Pipeline erstellen.

Kostensensible, hochvolumige Bereitstellungen bei denen gebührenfreies Selbsthosten die Grenzpreise pro Token übertrifft.

Langzeitkontext-Workloads wie repository-weite Code-Unterstützung, Dokumentenanalyse und lange Agentensitzungen.

Multimodale Anwendungen, die kombiniertes Text-, Bild- und Audioverständnis benötigen.

Richtlinienempfindliche Bereitstellungen, die eine stark sicherheitsorientierte, zensurresistente offene Basis suchen, um sich auszurichten.

Es ist eine schlechte Wahl, wenn Sie die absolut stärkste Reasoning- oder agentische Codierungsleistung benötigen, Videoeingabe oder generative Ausgabe benötigen oder vor der Bereitstellung unabhängig geprüfte Benchmarks verlangen.

Urteil und Endbewertung

Sprechen wir den Elefanten im Raum direkt an: Inklingist nicht das stärkste heute verfügbare Modell, und Thinking Machines sagt genau das. Zynisch gelesen ist das eine niedrige Messlatte. Fair gelesen ist es der springende Punkt – Inkling ist für ein anderes Ziel optimiert als die Spitze einer Rangliste zu erklimmen. Es ist effizient (41B aktiv, ~25.000-Token-Aufgabenbudgets), offen lizenziert (Apache 2.0), nach offenen Gewichtsstandards sicher (FORTRESS 78%) und für Feintuning und Selbsthosting ausgelegt. Diese Kombination macht es zu einem der durchdachteren Open-Model-Launches des Jahres 2026, selbst wenn es bei den schwierigsten agentischen und Coding-Benchmarks hinter GLM 5.2 und Kimi K2.6 zurückbleibt.

Die verbleibenden Sternchen sind die weitgehend selbst gemeldeten Benchmarks und das Fehlen einer unabhängigen kritischen Überprüfung zu diesem frühen Zeitpunkt. Aber für seine Zielgruppe – Entwickler, die Wert auf Besitz, Anpassung, Kostenkontrolle und einen großen Kontextbereich legen, statt auf Spitzenrechte anzugeben – liefert Inkling.

Bewertung: 4 von 5 für ihre Zielgruppe von Bauherren und Feintunern; niedriger wenn Sie streng nach Spitzenleistung suchen.

FAQ

Was ist Inkling und wer hat es entwickelt? Inkling ist das erste Modell von Thinking Machines Lab, dem KI-Startup unter der Leitung von Mira Murati (ehemalige CTO von OpenAI). Es wurde am 15. Juli 2026 als Open-Weights, multimodales Mixture-of-Experts-Reasoning-Modell veröffentlicht.

Ist Inkling das beste KI-Modell? Nein, und das Unternehmen behauptet das auch nicht — es gibt an, dass Inkling „nicht das stärkste derzeit verfügbare Modell, weder geschlossen noch offen“ ist. Unabhängige Messungen (Artificial Analysis) stufen es insgesamt auf Platz 10 von 97 ein, obwohl es mehrere offene Konkurrenten anführt.

Wie viele Parameter hat Inkling und wie groß ist das Kontextfenster? 975B insgesamt mit 41B aktiv (sparse MoE), über 66 Schichten. Das Kontextfenster umfasst bis zu 1.000.000 Token in den veröffentlichten Gewichten und bis zu 256K in den gehosteten APIs.

Ist Inkling Open Source und wie lautet die Lizenz? Die Gewichte werden unter Apache 2.0, was kommerzielle Nutzung und Self-Hosting erlaubt. Es handelt sich um „Open Weights“ – die vollständigen Modellgewichte sind auf Hugging Face.

Ist Inkling kostenlos?Die Gewichte sind kostenlos und lizenzgebührenfrei zum Selbsthosten. Feintuning auf Tinker und gehostete Inferenz über Anbieter wie Together AI, Fireworks, Modal, Databricks oder Baseten sind kostenpflichtige Dienste. Der gehostete Zugang beginnt bei etwa $1.87 / 1M Eingabe-Token (ein zeitlich begrenzter Einführungsrabatt).

Wie führe ich Inkling aus bzw. lade es herunter, und welche Hardware benötige ich? Laden Sie die Gewichte von Hugging Face herunter und stellen Sie sie mit vLLM, SGLang oder Hugging Face Transformers über eine OpenAI-kompatible API bereit. Rechnen Sie mit etwa ~2 TB aggregiertem VRAM für BF16 (8× B300 / 16× H200) oder ~600 GB für das mit NVFP4 quantisierte Checkpoint (4× B300 / 8× H200). Community-Unsloth-GGUF-Builds senken die Hürde für Experimente.

Wie optimiere ich Inkling? Nutzen Sie Thinking Machines’ Tinker Plattform, die 64K- und 256K-Kontextoptionen und einen zeitlich begrenzten 50%-Einführungsrabatt bietet, oder stimmen Sie die offenen Gewichtungen in Ihrer eigenen Pipeline fein ab.

Was ist steuerbarer Denkaufwand? Eine reasoning_effort-Einstellung (kein / minimal / niedrig / mittel / hoch / sehr hoch / maximal), die Latenz und Tokenkosten gegen Denktiefe abwägt. Niedriger Aufwand eignet sich für Klassifikation und Extraktion; maximaler Aufwand eignet sich für schwierige Mathematik und entspricht der Benchmark-Konfiguration (Effort=0.99).

Wie schneidet Inkling im Vergleich zu Kimi, GLM, DeepSeek und Nemotron ab? Laut MarkTechPosts Vergleich liegt Inkling bei FORTRESS (Sicherheit) vorne und schlägt Nemotron 3 Ultra deutlich, liegt aber bei Terminal Bench 2.1, SWE-bench Verified und HLE hinter GLM 5.2, Kimi K2.6 und DeepSeek V4 Pro zurück. Es ist konkurrenzfähig, aber nicht das stärkste offene Modell bei agentischem Coding.

Kann Inkling Bilder, Audio und Video verarbeiten? Es akzeptiert Text, Bilder (40px–4096px) und Audio (16kHz WAV, bis zu ~20 Minuten) als Eingabe. Die Ausgabe ist nur Text — keine Bild- oder Audioerzeugung. Video wurde beim Vortraining verwendet, ist aber beim Start kein unterstütztes Eingabeformat.

Sind Inklings Benchmark-Ergebnisse zuverlässig?Behandeln Sie sie mit Vorsicht. Abgesehen vom unabhängigen Artificial Analysis Intelligence Index sind die auffälligsten Zahlen zum Start vom Anbieter selbst gemeldet und nicht unabhängig geprüft. Wettbewerbszahlen stammen von Dritten (MarkTechPost) oder wurden von Thinking Machines neu berechnet und stimmen möglicherweise nicht mit den eigenen gemeldeten Zahlen der Konkurrenz überein.

Was ist Inkling-Small und was steht auf der Roadmap?Inkling-Small ist eine kleinere Variante (276B total / 12B aktiv). Zum Start war es noch in der Vorschau, mit noch nicht veröffentlichten Gewichten. Das Hauptmodell liefert bereits MTP-Schichten für spekulative Dekodierung.