MiniMax M3.1 Flash wird jetzt auf Tenstorrent bereitgestellt: Was ein 428B-Modell auf Tensix tatsächlich beweist

Tenstorrents Newsroom-Beitrag ist auf den 22. Oktober 2026 datiert, und er sagt etwas Engeres und Interessanteres als „noch eine Cloud, noch ein Modell“: MiniMax M3.1 Flash, das 428 Milliarden Parameter große Mixture-of-Experts-Modell, das MiniMax am 19. Oktober veröffentlichte, ist jetzt auf Tenstorrent Cloud verfügbar, wobei sowohl Prefill als auch Decode auf Blackhole-Galaxy-Systemen laufen. In diesem Serving-Pfad taucht nirgends ein NVIDIA-Beschleuniger auf. Was Tenstorrent veröffentlicht hat, ist eine Architektur, ein Quantisierungsschema und eine Tuning-Methodik. Was es nicht veröffentlicht hat, ist eine einzige Durchsatzzahl, eine Latenzzahl oder einen Preis für sein eigenes Serving. Dieses Weglassen ist der Punkt, der entscheidet, ob dies ein Meilenstein oder eine Demo ist, und es verdient mehr Aufmerksamkeit als die Benchmark-Tabelle des Modells.

Tenstorrent ist das von Jim Keller geführte Chipunternehmen, und sein Verkaufsargument war schon immer, dass KI-Compute kein Stack eines einzigen Anbieters sein sollte. Bis zu dieser Ankündigung hatte dieses Argument im oberen Leistungssegment ein Glaubwürdigkeitsproblem: Die größten offenen Modelle wurden routinemäßig auf NVIDIA-Hardware betrieben, AMD war die Alternative, und alles andere blieb auf Experimente mit kleinen Modellen beschränkt. Ein Mixture-of-Experts-Modell mit 428 Milliarden Parametern, das Prefill und Decode auf Tensix-Silizium ausführt und über Ethernet statt über ein proprietäres Fabric verbunden ist, ist die erste Bereitstellung, die dieses Argument mit einem Modell dieser Größe und dieser Aktualität untermauert.

Was Tenstorrent zu Protokoll gab

Die Ankündigung ist konkret in Bezug auf die Serving-Topologie und vage bei jeder Zahl, die ein Käufer heranziehen würde. Zuerst die konkreten Angaben, denn es handelt sich um echte technische Aussagen:

• Verfügbarkeit — Tenstorrent Cloud, unter console.tenstorrent.com, über den Playground oder verbunden mit einem Agent-Harness.

• Serving-Pfad — sowohl Prefill als auch Decode laufen auf Tenstorrent Galaxy, genauer gesagt auf einem Supercluster aus Blackhole Galaxies. Die Systeme sind nach Workload aufgeteilt: Ein Pool übernimmt Prefill, ein anderer Decode, und die Arbeit wird zwischen ihnen über direkte, latenzarme Ethernet-Verbindungen verschoben.

• Speicher — jedes Blackhole Galaxy verfügt über 1 TB DRAM plus mehrere Terabyte SSD. Gewichte und der KV-Cache bleiben im DRAM resident; die SSD hält ausgelagerten KV-Cache vor, sodass ein zurückkehrender Agent-Turn seinen Kontext nicht neu berechnen muss.

• Quantisierung — MLP-Gewichte, Attention-Gewichte, der Indexer und der gemeinsam genutzte Experte werden in MXFP8 gespeichert; die gerouteten Experten werden in NVFP4 gespeichert.

• Modellform – Sparse Attention ersetzte globale Grouped-Query-Attention, und dichte MLPs erscheinen nur in den ersten drei Schichten.

• Tuning-Daten — Tenstorrent gibt an, das Deployment auf den AgentX-Coding-Agent-Traces von SemiAnalysis getunt zu haben, also auf echten Multi-Turn-Sitzungen und Subagent-Fan-out statt auf kurzen Chat-Benchmarks.

• Angegebener Preis — 0,15 $ pro Million Eingabe-Tokens, 0,60 $ pro Million Ausgabe, 0,015 $ pro Million gecachte Eingabe. Das ist MiniMax' Listenpreis; die Ankündigung veröffentlicht keinen separaten Tenstorrent-Tarif, daher lässt sich noch nicht sagen, ob das Ausführen des Modells hier mehr oder weniger kostet als das Ausführen auf GPUs.

Das Deployment existiert, weil die Gewichte herauskamen.

Die wichtigste Tatsache hinter dieser Ankündigung ist nicht das Silizium. Sie ist, dass MiniMax die Gewichte überhaupt veröffentlicht hat. Das 252,4 GB große Repository wurde am 23. Oktober auf Hugging Face hochgeladen, und Tenstorrents Beitrag ist einen Tag früher datiert – was darauf hindeutet, dass die Portierung mit Partnerzugriff statt aus einem öffentlichen Download entstanden ist. Ein Hardware-Hersteller eines Drittanbieters kann ein Modell nicht portieren, das er nicht beschaffen kann, und Tenstorrent ist keine MiniMax-Tochter, die ihren eigenen Checkpoint ausliefert. Dies ist der Mechanismus, durch den offene Gewichte Hardwarewettbewerb erzeugen: Jedes Labor, das einen Checkpoint veröffentlicht, verwandelt jeden willigen Chip-Hersteller in einen potenziellen Vertriebskanal, und jeder Chip-Hersteller, der das Modell unterstützt, macht wiederum die Gewichte des Labors wertvoller.

Dieselbe Logik erklärt, warum die geschlossenen Frontier-Modelle in dieser Art von Ankündigung nicht auftauchen. Ein Anbieter kann einem einen API-Endpunkt für ein proprietäres Modell vermieten, aber er kann die Gewichte nicht in seine eigenen numerischen Formate quantisieren, seine Kernel nicht auf das Sparse-Attention-Muster des Modells abstimmen oder Prefill und Decode nicht über sein eigenes Fabric aufteilen. Der Port ist das Produkt, und der Port erfordert die Datei.

Das ist auch der Grund, warum das „open“ in dieser Geschichte in zwei verschiedene Dinge aufgeteilt werden muss. Der Software-Stack von Tenstorrent – TT-Metalium, TT-NN, TT-Forge – ist Open Source, und genau das macht eine Portierung durch Dritte machbar. Die Gewichte von MiniMax sind offene Gewichte, nicht Open Source. Das Repository ist 252,4 GB groß, verteilt auf 48 Safetensors-Shards, plus einen 2,3 GB großen Speculative-Decoding-Drafter, und es wird unter der MiniMax Community Licence bereitgestellt, die Namensnennung bei kommerziellen Deployments und vorherige schriftliche Genehmigung verlangt, sobald der Jahresumsatz 20 Millionen US-Dollar übersteigt. Zwei verschiedene Formen von „open“, ein Serving-Pfad.

Warum der Serving-Pfad zweigeteilt ist

Die Prefill/Decode-Aufteilung ist keine Tenstorrent-Eigenheit; sie ist die Standardantwort auf ein Problem, das Agent-Workloads erzeugen. Prefill ist rechengebunden und geschieht einmal pro Prompt. Decode ist speicherbandbreitenbegrenzt und geschieht einmal pro generiertem Token, solange die Antwort läuft. Packt man beides auf dieselben Geräte, entzieht ein langer Prompt, der mitten im laufenden Betrieb eintrifft, jedem Nutzer, der gerade dekodiert, Rechenleistung – und genau dieser Stillstand lässt Agent-Produkte kaputt wirken.

Die Trennung der Pools ermöglicht es, jede Seite auf ihren eigenen Engpass auszulegen. Tenstorrents Beschreibung ist explizit, dass der Prefill-Pool einen Prompt unter Nutzung hoher Gerät-zu-Gerät-Bandbreite über viele Chips verteilt, während der Decode-Pool Gewichte und KV-Cache im DRAM hält und Schritte unabhängig ausführt. Die Ethernet-Verbindungen übernehmen die Übergabe.

Ethernet ist die interessante Wahl. Ein proprietäres Scale-up-Fabric bietet mehr Bandbreite und geringere Latenz als Standard-Ethernet, und NVIDIAs Position im AI-Compute beruht teilweise darauf, dass das Unternehmen dieses Fabric besitzt. Tenstorrent argumentiert, dass für diese Workload – ein Mixture-of-Experts-Modell mit 23 Milliarden aktiven Parametern und einem Serving-Plan, der Prefill bereits von Decode trennt – Standard-Ethernet gut genug ist und die Scale-out-Ökonomie besser ausfällt, weil das Interconnect kein zweiter Lock-in ist. Das ist ein plausibles Argument, kein bewiesenes. Bewiesen wird es, wenn jemand Tokens pro Sekunde pro Dollar über eine Multi-Node-Bereitstellung hinweg veröffentlicht – und das hat niemand getan.

Die Rechnung, mit der 428B in ein Rack passen

Das Modell hat insgesamt 428 Milliarden Parameter und aktiviert pro Token 23 Milliarden davon. In BF16 sind das rund 856 GB, bevor jeglicher KV-Cache- oder Laufzeit-Overhead hinzukommt. Eine einzelne Blackhole Galaxy besteht aus 32 Blackhole-ASICs mit jeweils 32 GB GDDR6 — die 1 TB, die Tenstorrent angibt —, sodass eine BF16-Kopie etwa 84 % des Systemspeichers belegen und rund 170 GB für alles andere übrig lassen würde. Bei einem Kontext von 1 Million Token und einem KV-Cache, der mehrere Agent-Turns überstehen muss, ist das keine komfortable Marge.

Der veröffentlichte Download umfasst 252,4 GB. Das ist die Zahl, die das Deployment passend macht: Sie lässt etwa 770 GB des Terabytes der Galaxy für den KV-Cache, Aktivierungen und den Drafter für speculative decoding übrig. Das Mixed-Precision-Schema schafft diesen Spielraum – MXFP8 für die gemeinsamen und aufmerksamkeitsseitigen Gewichte, NVFP4 für die gerouteten Experten, die den Großteil der Parameter ausmachen und der Teil sind, auf den nur sporadisch zugegriffen wird. Sparse Attention und dichte MLPs, die auf die ersten drei Schichten beschränkt sind, reduzieren den Speicherverkehr weiter.

Diese Rechnung stammt von uns, beruht auf veröffentlichten Zahlen und ist keine Behauptung von Tenstorrent. Aber sie erklärt die Form der Ankündigung: Der Port ist gerade deshalb glaubwürdig, weil auf 4 Bit geroutete Experten ein 856-GB-Modell in eine 252-GB-Datei verwandeln, die auf ein 32-Chip-System passt und noch Platz für langen Kontext lässt.

Was Tenstorrent nicht veröffentlicht hat

Es gibt keine Angabe zu Tokens pro Sekunde, keine Angabe zur Zeit bis zum ersten Token, keine Angabe zur Parallelität und keinen Preis für den von Tenstorrent gehosteten Endpunkt. Für ein Deployment, dessen gesamte Prämisse darin besteht, dass Nicht-NVIDIA-Silizium ein offenes Modell der Frontier-Klasse bedienen kann, sind genau diese vier Zahlen entscheidend, um die Frage zu klären. Ihr Fehlen ist kein Beleg dafür, dass das Deployment langsam ist. Es ist ein Beleg dafür, dass die Ankündigung eine Aussage über Fähigkeiten und kein Benchmark-Ergebnis ist, und Leser sollten sie entsprechend einordnen.

Die einzigen öffentlichen Geschwindigkeitszahlen für MiniMax M3.1 Flash beschreiben eine andere Bereitstellung. MiniMax gibt einen Median von über 170 Ausgabe-Tokens pro Sekunde und Spitzenwerte von über 200 über die eigene API an. Artificial Analysis, das die gehostete API und nicht Tenstorrents Hardware misst, verzeichnet 95,6 Ausgabe-Tokens pro Sekunde bei einer Zeit bis zum ersten Token von 1,48 Sekunden. Das ist eine Lücke von ungefähr 1,8x zwischen der Angabe des Anbieters und einer unabhängigen Messung auf einem anderen Serving-Pfad, was eine nützliche Erinnerung daran ist, dass „das Modell ist schnell“ und „dieses Deployment ist schnell“ getrennte Aussagen sind.

Was Artificial Analysis tatsächlich über das Modell belegt, ist für den Tenstorrent-Anwendungsfall relevanter als der Schlagzeilen-Benchmark. M3.1 Flash erzielt 43 im Intelligence Index, kostet etwa 0,22 US-Dollar pro abgeschlossener Index-Aufgabe und erreicht 16 bei AA-Omniscience mit einer Halluzinationsrate von 93 % – das heißt, wenn es eine Antwort nicht wusste, produzierte es meist eine falsche, statt abzulehnen. Tenstorrent hat dieses Deployment auf Agent-Traces abgestimmt. Agent-Schleifen sind genau der Ort, an dem selbstsichere falsche Antworten am teuersten sind, weil der nächste Tool-Aufruf sie übernimmt. Ein schneller, günstiger Serving-Pfad behebt das nicht; er macht die Verifikationsschicht wichtiger.

Was Sie damit tun sollten, wenn Sie Inferenz einkaufen

Für die meisten Teams lautet die praktische Antwort diese Woche: „Testen, nicht darauf migrieren.“ Der Playground ist der günstigste Weg, um zu sehen, ob das Verhalten des Modells zu Ihrer Arbeitslast passt, und Tenstorrents Agent-Harness-Integration ist der interessante Teil, den man untersuchen sollte, weil das Deployment für Multi-Turn-Tool-Nutzung statt für Single-Shot-Chat optimiert wurde. Bringen Sie Ihre eigenen Traces mit. Das SemiAnalysis AgentX Tuning sagt Ihnen, worauf Tenstorrent optimiert hat; es sagt Ihnen nicht, wie sich Ihre Prompts verhalten werden.

Setzen Sie keinen Produktionspfad darauf, bevor zwei Dinge vorliegen: eine veröffentlichte Angabe zu Durchsatz und Latenz von Tenstorrent und Ihre eigene Messung der Qualität pro Aufgabe. Das Erste ist nur noch einen Anbieter von der Beantwortung entfernt. Das Zweite können nur Sie beantworten.

Eine ehrliche Anmerkung dazu, wo OrcaRouter in diesem Bild steht. M3.1 Flash ist nicht in unserem Katalog; die MiniMax-Reihe endet dort bei MiniMax-M3. Die Möglichkeiten, das neue Modell heute aufzurufen, sind also Tenstorrent Cloud und die eigene API von MiniMax – und wir sind keine davon. Was OrcaRouter bietet, ist die Vergleichsbasis, die Sie vor einer Festlegung brauchen: MiniMax-M3 und mehr als 200 weitere Modelle hinter einem einzigen Schlüssel, zum Listenpreis des Anbieters ohne Aufschlag (0 %), sodass die Frage „Ist das neue Modell für meine Workload tatsächlich besser als das, das ich bereits betreibe?“ ohne einen zweiten Vertrag und eine zweite Abrechnungsbeziehung beantwortet werden kann.

Die Zahl, die einen Port in einen Preis verwandeln würde

Tenstorrent hat etwas Reales demonstriert: ein 428B-Mixture-of-Experts-Modell, quantisiert auf ein gemischtes 4/8-Bit-Format, das beide Hälften der Inferenz auf Tensix-Silizium über Ethernet ausführt – mit Open-Source-Tooling und einer veröffentlichten Tuning-Methodik. Das ist ein Portabilitätsnachweis, und es ist der erste in dieser Modellgröße, der nicht über CUDA läuft.

Es wurde nicht nachgewiesen, dass die Portierung billiger, schneller oder zuverlässiger ist als der GPU-Weg. Die Galaxy ist ein 6U-System mit 32 ASICs und etwa 23 PFLOPS BlockFP8, das bei seiner allgemeinen Verfügbarkeit im April 2026 mit 110.000 US-Dollar gelistet war, bevor man die Supercluster-Vernetzung hinzurechnet, die dieses Deployment verwendet. Ob diese Hardware beim Ausführen dieses Modells bessere Kosten pro Million Token erzielt als ein H100- oder MI300X-Cluster, ist die gesamte kommerzielle Frage, und die Ankündigung lässt sie offen.

Die nächste Sache, auf die man achten muss, ist daher nicht ein weiteres Modell auf derselben Hardware. Es ist eine Tokens-pro-Sekunde-Zahl und eine Preisliste von Tenstorrent, gefolgt von einem zweiten Siliziumhersteller, der denselben Port umsetzt. Wenn es diese gibt, werden sich offene Gewichte in echten Hardware-Wettbewerb verwandelt haben. Bis dahin lautet die zutreffende Beschreibung: eine glaubwürdige architektonische Demonstration, deren kommerzielle Hälfte noch unveröffentlicht ist.