MiniMax M3.1 Flash wordt nu aangeboden op Tenstorrent: wat een 428B-model op Tensix echt bewijst

Het newsroombericht van Tenstorrent is gedateerd op 22 oktober 2026 en zegt iets beperkters en interessanters dan "weer een cloud die er weer een model bij heeft": MiniMax M3.1 Flash, het mixture-of-experts-model met 428 miljard parameters dat MiniMax op 19 oktober uitbracht, is nu beschikbaar op Tenstorrent Cloud, waarbij zowel prefill als decode draait op Blackhole Galaxy-systemen. Nergens in dat servingpad komt een NVIDIA-versneller voor. Wat Tenstorrent publiceerde, is een architectuur, een quantisatieschema en een tuningmethodologie. Wat het niet publiceerde, is ook maar één throughputcijfer, één latentiecijfer of een prijs voor zijn eigen serving. Die omissie is precies het punt dat bepaalt of dit een mijlpaal of een demo is, en ze verdient meer aandacht dan de benchmarktabel van het model.

Tenstorrent is het chipbedrijf onder leiding van Jim Keller, en het verkoopargument is altijd geweest dat AI-compute geen stack van één leverancier zou moeten zijn. Tot deze aankondiging had dat verkoopargument aan de bovenkant een geloofwaardigheidsprobleem: de grootste open modellen werden doorgaans op NVIDIA-hardware gedraaid, met AMD als alternatief en al het overige beperkt tot experimenten met kleine modellen. Een mixture-of-expertsmodel met 428B parameters dat prefill en decode op Tensix-silicon draait, verbonden via Ethernet in plaats van een eigen fabric, is de eerste implementatie die dat verkoopargument waarmaakt met een model van deze omvang en deze recentheid.

Wat Tenstorrent publiekelijk vastlegde

De aankondiging is specifiek over de serving-topologie en vaag over elke numerieke waarde die een koper zou gebruiken. Eerst de details, want het zijn echte engineeringclaims:

• Beschikbaarheid — Tenstorrent Cloud, op console.tenstorrent.com, via de Playground of verbonden met een agent-harness.

• Serveerpad — zowel prefill als decode draaien op Tenstorrent Galaxy, specifiek een supercluster van Blackhole Galaxies. De systemen zijn opgesplitst per workload: de ene pool verwerkt prefill, de andere decode, en werk verplaatst zich tussen hen via directe Ethernet-verbindingen met lage latentie.

• Geheugen — elke Blackhole Galaxy heeft 1 TB DRAM plus meerdere terabytes SSD. Gewichten en de KV-cache blijven in het DRAM staan; de SSD bevat de uitgeladen KV-cache, zodat een terugkerende agentbeurt zijn context niet opnieuw hoeft te berekenen.

• Kwantisering — MLP-gewichten, attention-gewichten, de indexeerder en de gedeelde expert worden opgeslagen in MXFP8; de gerouteerde experts worden opgeslagen in NVFP4.

• Modelvorm — sparse attention verving globale grouped-query attention, en dense MLP's komen alleen in de eerste drie lagen voor.

• Tuninggegevens — Tenstorrent zegt dat het de deployment heeft afgestemd op de AgentX-traces van SemiAnalysis voor coding-agents, wat echte meerbeurtige sessies en subagent-fan-out betekent in plaats van korte chatbenchmarks.

• Vermelde prijs — $0,15 per miljoen inputtokens, $0,60 per miljoen output, $0,015 per miljoen gecachte input. Dat is de lijstprijs van MiniMax; de aankondiging publiceert geen afzonderlijk Tenstorrent-tarief, dus het is nog niet mogelijk om te zeggen of het draaien van het model hier meer of minder kost dan op GPU's.

De deployment bestaat omdat de gewichten uitkwamen.

Het allerbelangrijkste feit achter deze aankondiging is niet het silicium. Het is dat MiniMax de gewichten überhaupt heeft gepubliceerd. De repository van 252,4 GB verscheen op 23 oktober op Hugging Face, en het bericht van Tenstorrent is een dag eerder gedateerd — wat erop wijst dat de port is gebouwd met toegang via een partner in plaats van via een openbare download. Een hardwareleverancier van derden kan geen model porten dat hij niet kan verkrijgen, en Tenstorrent is geen dochteronderneming van MiniMax die zijn eigen checkpoint levert. Dit is het mechanisme waarmee open gewichten concurrentie op hardware creëren: elk lab dat een checkpoint publiceert, verandert elke gewillige chipfabrikant in een potentieel distributiekanaal, en elke chipfabrikant die het model ondersteunt, maakt op zijn beurt de gewichten van het lab waardevoller.

Dezelfde logica verklaart waarom de gesloten frontiermodellen niet in dit soort aankondigingen voorkomen. Een leverancier kan u een API-eindpunt verhuren voor een propriëtair model, maar kan de gewichten niet kwantiseren naar zijn eigen numerieke formaten, de kernels niet afstemmen op het sparse-attentionpatroon van het model, of prefill en decode niet splitsen over zijn eigen fabric. De port is het product, en de port vereist het bestand.

Dat is ook de reden waarom de "open" in dit verhaal in twee verschillende dingen moet worden opgesplitst. De softwarestack van Tenstorrent — TT-Metalium, TT-NN, TT-Forge — is open source, en dat is wat een port door derden haalbaar maakt. De gewichten van MiniMax zijn open weights, geen open source. De repository is 252,4 GB verdeeld over 48 safetensors-shards plus een speculative-decoding-drafter van 2,3 GB, en wordt geleverd onder de MiniMax Community Licence, die naamsvermelding vereist bij commerciële implementaties en voorafgaande schriftelijke toestemming zodra de jaaromzet $20 miljoen overschrijdt. Twee verschillende soorten "open", één serveerpad.

Waarom het serveerpad in tweeën is opgesplitst

De prefill/decode-splitsing is geen eigenaardigheid van Tenstorrent; het is het standaardantwoord op een probleem dat agent-workloads creëren. Prefill is rekengebonden en gebeurt één keer per prompt. Decode is geheugenbandbreedtegebonden en gebeurt één keer per gegenereerd token, zolang het antwoord loopt. Zet ze op dezelfde apparaten en een lange prompt die midden in de stream binnenkomt, steelt rekenkracht van elke gebruiker die op dat moment aan het decoderen is — precies de hapering waardoor agentproducten kapot lijken.

Door de pools te scheiden, kan elke kant worden ingericht voor zijn eigen knelpunt. De beschrijving van Tenstorrent maakt expliciet dat de prefill-pool een prompt over veel chips verspreidt met behulp van hoge apparaat-naar-apparaat-bandbreedte, terwijl de decode-pool gewichten en KV-cache in DRAM houdt en stappen onafhankelijk uitvoert. De Ethernet-koppelingen verzorgen de overdracht.

Ethernet is de interessante keuze. Een propriëtaire scale-up-fabric biedt meer bandbreedte en lagere latency dan standaard Ethernet, en NVIDIA's positie in AI-compute berust deels op het bezit van die fabric. Tenstorrent betoogt dat voor deze workload — een mixture-of-expertsmodel met 23 miljard actieve parameters en een servingplan dat prefill al van decode scheidt — standaard Ethernet goed genoeg is, en dat de scale-out-economie beter is omdat de interconnect geen tweede lock-in is. Dat is een plausibel argument, geen bewezen argument. Het wordt bewezen zodra iemand tokens per seconde per dollar publiceert voor een multi-node-implementatie, en dat heeft niemand gedaan.

De rekensom waardoor 428B in één rack past

Het model heeft in totaal 428 miljard parameters en activeert er 23 miljard per token. In BF16 is dat ongeveer 856 GB vóór enige KV-cache of runtime-overhead. Een enkele Blackhole Galaxy bestaat uit 32 Blackhole-ASIC's met elk 32 GB GDDR6 — de 1 TB die Tenstorrent opgeeft — dus een BF16-kopie zou ongeveer 84% van het geheugen van het systeem innemen en ongeveer 170 GB overlaten voor al het overige. Bij een context van 1 miljoen tokens, met een KV-cache die meerdere agentbeurten moet overleven, is dat geen comfortabele marge.

De gepubliceerde download is 252,4 GB. Dat is het getal dat de deployment laat passen: het laat iets in de orde van 770 GB van de terabyte van de Galaxy over voor KV-cache, activaties en de speculative-decoding-drafter. Het gemengde-precisieschema is wat die ruimte oplevert — MXFP8 voor de gedeelde gewichten en de gewichten aan de attention-zijde, NVFP4 voor de routed experts, die het grootste deel van de parameters vormen en het deel dat slechts spaarzaam wordt aangeraakt. Sparse attention en dense MLP's die tot de eerste drie lagen beperkt blijven, verminderen het geheugenverkeer verder.

Deze rekensom is van ons, gebaseerd op gepubliceerde cijfers, geen bewering van Tenstorrent. Maar het verklaart de vorm van de aankondiging: de port is juist geloofwaardig omdat 4-bit gerouteerde experts een model van 856 GB omzetten in een bestand van 252 GB dat op een systeem met 32 chips past, met nog ruimte over voor lange context.

Wat Tenstorrent niet heeft gepubliceerd

Er is geen cijfer voor tokens per seconde, geen cijfer voor de tijd tot de eerste token, geen cijfer voor gelijktijdigheid en geen prijs voor het endpoint dat door Tenstorrent wordt gehost. Voor een implementatie waarvan het hele uitgangspunt is dat niet-NVIDIA-silicium een open model van frontier-klasse kan serveren, zijn dat de vier getallen die de discussie zouden beslechten. Het ontbreken ervan is geen bewijs dat de implementatie traag is. Het is bewijs dat de aankondiging een capaciteitsverklaring is in plaats van een benchmarkresultaat, en lezers zouden haar als zodanig moeten archiveren.

De enige openbare snelheidscijfers voor MiniMax M3.1 Flash beschrijven een andere implementatie. MiniMax claimt een mediaan van meer dan 170 outputtokens per seconde en pieken van meer dan 200 via zijn eigen API. Artificial Analysis, dat de gehoste API meet in plaats van Tenstorrents hardware, registreert 95,6 outputtokens per seconde met een tijd tot het eerste token van 1,48 seconde. Dat is ruwweg een verschil van 1,8x tussen de claim van de leverancier en een onafhankelijke meting op een ander serveerpad, wat een nuttige herinnering is dat "het model is snel" en "deze implementatie is snel" afzonderlijke beweringen zijn.

Wat Artificial Analysis wél over het model vaststelt, is relevanter voor het Tenstorrent-gebruiksscenario dan de benchmark uit de kop. M3.1 Flash scoort 43 op de Intelligence Index, kost ongeveer $0,22 per voltooide indextaak en scoort 16 op AA-Omniscience met een hallucinatiepercentage van 93% — wat betekent dat wanneer het geen antwoord wist, het meestal een fout antwoord produceerde in plaats van te weigeren. Tenstorrent heeft deze deployment afgestemd op agenttraces. Agentloops zijn precies waar zelfverzekerde foute antwoorden het duurst zijn, omdat de volgende tool-call ze erft. Een snel, goedkoop serveerpad lost dat niet op; het maakt de verificatielaag belangrijker.

Wat moet je hiermee doen als je inferentie inkoopt?

Voor de meeste teams is het praktische antwoord deze week "test het, migreer er niet naar." De Playground is de goedkoopste manier om te zien of het gedrag van het model bij je workload past, en Tenstorrents agent-harness-integratie is het interessante deel om te onderzoeken, omdat de deployment is afgestemd op toolgebruik over meerdere beurten in plaats van chat met één enkele beurt. Breng je eigen traces mee. De SemiAnalysis AgentX-tuning vertelt je waar Tenstorrent op heeft geoptimaliseerd; het vertelt je niet hoe je prompts zich zullen gedragen.

Zet het niet op een productieroute voordat er twee dingen zijn: een gepubliceerd throughput- en latencycijfer van Tenstorrent, en je eigen meting van de kwaliteit per taak. De eerste is nog maar één leverancier verwijderd van een antwoord. De tweede kun je alleen zelf beantwoorden.

Een eerlijke opmerking over waar OrcaRouter hierin staat. M3.1 Flash zit niet in onze catalogus; de MiniMax-lijn daar stopt bij MiniMax-M3. Dus de manieren om het nieuwe model vandaag aan te roepen zijn Tenstorrent Cloud en de eigen API van MiniMax, en wij zijn er geen van. Wat OrcaRouter wél biedt, is de vergelijkingsbasis die je nodig hebt voordat je je vastlegt: MiniMax-M3 en meer dan 200 andere modellen achter één sleutel, tegen de lijstprijs van de provider met 0% markup, zodat de vraag "is het nieuwe model echt beter voor mijn workload dan het model dat ik al gebruik" kan worden beantwoord zonder een tweede contract en een tweede facturatieverhouding.

Het getal dat van een haven een prijs zou maken

Tenstorrent heeft iets echts aangetoond: een 428B mixture-of-experts-model, gekwantiseerd naar een gemengd 4/8-bitformaat, dat beide helften van de inferentie op Tensix-silicium via Ethernet draait, met open-source tooling en een gepubliceerde tuningmethodologie. Dat is een portabiliteitsbewijs, en het is het eerste op deze modelschaal dat niet via CUDA verloopt.

Het heeft niet aangetoond dat de port goedkoper, sneller of betrouwbaarder is dan de GPU-route. De Galaxy is een 6U-systeem met 32 ASIC's en ongeveer 23 PFLOPS BlockFP8, dat voor $110.000 op de prijslijst stond toen het in april 2026 algemeen beschikbaar werd, nog voordat je de supercluster-netwerkinfrastructuur toevoegt die deze implementatie gebruikt. Of die hardware, met dit model erop, gunstiger kosten per miljoen tokens oplevert dan een H100- of MI300X-cluster, is de hele commerciële vraag, en de aankondiging laat dit onbeantwoord.

Het volgende waar we dus op moeten letten, is niet nog een model op dezelfde hardware. Het is een tokens-per-secondegetal en een tariefkaart van Tenstorrent, gevolgd door een tweede siliciumleverancier die dezelfde port uitvoert. Wanneer die bestaan, zijn open weights veranderd in echte hardwareconcurrentie. Tot dan is de accurate beschrijving een geloofwaardige architecturale demonstratie waarvan de commerciële helft nog niet is gepubliceerd.