MiniMax M3.1 Flash serveras nu på Tenstorrent: Vad en 428B-modell på Tensix faktiskt bevisar

Tenstorrents nyhetsrum inlägg är daterat den 22 oktober 2026, och det säger något snävare och mer intressant än "ännu ett moln har lagt till ännu en modell": MiniMax M3.1 Flash, den 428 miljarder parameterar stora mixture-of-experts-modellen som MiniMax släppte den 19 oktober, är nu tillgänglig på Tenstorrent Cloud med både prefill och decode körandes på Blackhole Galaxy-system. Ingen NVIDIA-accelerator förekommer någonstans i den serveringskedjan. Det Tenstorrent publicerade är en arkitektur, ett kvantiseringsschema och en optimeringsmetodik. Det man inte publicerade är ett enda genomströmningstal, ett latensvärde eller ett pris för den egna serveringen. Den utelämnade uppgiften är det som avgör om detta är en milstolpe eller en demo, och den förtjänar mer uppmärksamhet än modellens benchmark-tabell.

Tenstorrent är chipföretaget som leds av Jim Keller, och dess budskap har alltid varit att AI-beräkning inte bör vara en stack från en enda leverantör. Fram till detta tillkännagivande hade budskapet ett trovärdighetsproblem i high-end-segmentet: de största öppna modellerna kördes rutinmässigt på NVIDIA-hårdvara, med AMD som alternativ och allt annat begränsat till experiment med små modeller. En mixture-of-experts-modell med 428B parametrar som kör prefill och decode på Tensix-kisel, sammankopplad via Ethernet i stället för ett proprietärt fabric, är den första driftsättningen som gör budskapet trovärdigt med en modell av den här storleken och så här aktuell.

Vad Tenstorrent officiellt uppgav

Tillkännagivandet är specifikt när det gäller serveringstopologin och vagt när det gäller varje siffra som en köpare skulle använda. Först detaljerna, eftersom de är genuina tekniska påståenden:

• Tillgänglighet — Tenstorrent Cloud, på console.tenstorrent.com, via Playground eller ansluten till ett agentramverk.

• Serveringsväg – både prefill och decode körs på Tenstorrent Galaxy, närmare bestämt ett superkluster av Blackhole Galaxies. Systemen är uppdelade efter arbetsbelastning: en pool hanterar prefill, en annan hanterar decode, och arbetet flyttas mellan dem via direkta Ethernet-länkar med låg latens.

• Minne — varje Blackhole Galaxy har 1 TB DRAM plus flera terabyte SSD. Vikter och KV-cachen ligger kvar i DRAM; SSD:n lagrar avlastad KV-cache så att en återkommande agenttur inte behöver räkna om sin kontext.

• Kvantisering — MLP-vikter, uppmärksamhetsvikter, indexeraren och den delade experten lagras i MXFP8; de routade experterna lagras i NVFP4.

• Modellform — gles uppmärksamhet ersatte global grupperad frågeuppmärksamhet, och täta MLP:er förekommer endast i de tre första lagren.

• Trimmingsdata — Tenstorrent säger att de trimmade driftsättningen på SemiAnalysis AgentX-kodagent-spår, vilket innebär riktiga flertursessioner och subagent-utbredning snarare än korta chattbenchmarks.

• Angivet pris — $0.15 per miljon indatatokens, $0.60 per miljon utdatatokens, $0.015 per miljon cachade indatatokens. Det är MiniMaxs listpris; tillkännagivandet publicerar ingen separat Tenstorrent-taxa, så det går ännu inte att säga om det kostar mer eller mindre att köra modellen här än att köra den på GPU:er.

Driftsättningen finns eftersom vikterna kom ut

Det enskilt viktigaste faktumet bakom detta tillkännagivande är inte kisel. Det är att MiniMax överhuvudtaget publicerade vikterna. Repositoriet på 252,4 GB lades upp på Hugging Face den 23 oktober, och Tenstorrents inlägg är daterat en dag tidigare – vilket tyder på att portningen byggdes med partneråtkomst snarare än från en offentlig nedladdning. En tredjepartstillverkare av hårdvara kan inte porta en modell som den inte kan få tag i, och Tenstorrent är inte ett dotterbolag till MiniMax som betjänar sin egen checkpoint. Detta är mekanismen genom vilken öppna vikter skapar hårdvarukonkurrens: varje labb som publicerar en checkpoint förvandlar varje villig chiptillverkare till en potentiell distributionskanal, och varje chiptillverkare som stöder modellen gör i sin tur labbets vikter mer värdefulla.

Samma logik förklarar varför de slutna frontier-modellerna inte förekommer i den här typen av tillkännagivande. En leverantör kan hyra ut en API-slutpunkt till dig för en proprietär modell, men den kan inte kvantisera vikterna till sina egna numeriska format, finjustera sina kärnor mot modellens sparse-attention-mönster eller dela upp prefill och decode över sin egen fabric. Porten är produkten, och porten kräver filen.

Det är också därför som det ”öppna” i den här historien behöver delas upp i två olika saker. Tenstorrents mjukvarustack – TT-Metalium, TT-NN, TT-Forge – är öppen källkod, och det är vad som gör en port från tredje part genomförbar. MiniMax vikter är öppna vikter, inte öppen källkod. Repositoryt är 252,4 GB fördelat på 48 safetensors-shards plus en 2,3 GB stor utkastmodell för spekulativ avkodning, och det tillhandahålls under MiniMax Community Licence, som kräver attribuering vid kommersiella driftsättningar och skriftligt förhandstillstånd när den årliga omsättningen överstiger 20 miljoner dollar. Två olika typer av öppenhet, en enda serveringsväg.

Varför serveringsvägen är uppdelad i två delar

Uppdelningen mellan prefill och decode är inte en egenhet för Tenstorrent; det är det standardmässiga svaret på ett problem som agentarbetslaster skapar. Prefill är beräkningsbundet och sker en gång per prompt. Decode är minnesbandbreddsbundet och sker en gång per genererad token, så länge svaret pågår. Lägger man dem på samma enheter stjäl en lång prompt som anländer mitt i flödet beräkningskraft från varje användare som för närvarande dekodar, vilket är precis den stockning som får agentprodukter att kännas trasiga.

Att separera poolerna gör att varje sida kan dimensioneras för sin egen flaskhals. Tenstorrents beskrivning är tydlig med att prefill-poolen sprider en prompt över många chip med hjälp av hög bandbredd mellan enheter, medan decode-poolen behåller vikter och KV-cache i DRAM och kör steg oberoende. Ethernet-länkarna bär överlämningen.

Ethernet är det intressanta valet. Ett proprietärt scale-up-fabric erbjuder mer bandbredd och lägre latens än vanligt Ethernet, och NVIDIAs position inom AI-beräkning vilar delvis på att äga det fabricet. Tenstorrent hävdar att standard-Ethernet för denna arbetsbelastning – en mixture-of-experts-modell med 23 miljarder aktiva parametrar och en serveringsplan som redan separerar prefill från decode – är tillräckligt bra, och att scale-out-ekonomin är bättre eftersom sammankopplingen inte är en andra inlåsning. Det är ett rimligt argument, inte ett bevisat sådant. Det blir bevisat när någon publicerar tokens per sekund per dollar över en driftsättning med flera noder, och det har ingen gjort.

Aritmetiken som gör att 428B får plats i ett rack

Modellen har totalt 428 miljarder parametrar och aktiverar 23 miljarder av dem per token. I BF16 är det ungefär 856 GB innan någon KV-cache eller runtime-overhead. En enskild Blackhole Galaxy består av 32 Blackhole-ASIC:ar med 32 GB GDDR6 vardera – de 1 TB som Tenstorrent uppger – så en BF16-kopia skulle förbruka ungefär 84 % av systemets minne och lämna cirka 170 GB till allt annat. I en kontext på 1 miljon token, med en KV-cache som måste överleva flera agentturer, är det inte en bekväm marginal.

Den publicerade nedladdningen är 252,4 GB. Det är siffran som får driftsättningen att gå ihop: den lämnar i storleksordningen 770 GB av Galaxys terabyte för KV-cache, aktiveringar och drafter för spekulativ avkodning. Det är mixed-precision-schemat som ger det utrymmet – MXFP8 för de delade vikterna och vikterna på attentionsidan, NVFP4 för de routade experterna, som utgör merparten av parametrarna och den del som bara berörs glest. Gles attention och täta MLP:er begränsade till de tre första lagren minskar minnestrafiken ytterligare.

Den här uträkningen är vår, baserad på publicerade siffror, inte ett påstående från Tenstorrent. Men den förklarar utformningen av tillkännagivandet: portningen är trovärdig just för att 4-bitars routade experter gör en 856 GB-modell till en 252 GB-fil som får plats på ett 32-chipssystem med utrymme kvar för lång kontext.

Vad Tenstorrent inte publicerade

Det finns ingen siffra för tokens per sekund, ingen siffra för tid till första token, ingen siffra för samtidighet och inget pris för den Tenstorrent-hostade slutpunkten. För en distribution vars hela premiss är att icke-NVIDIA-silikon kan köra en öppen modell i frontier-klass, är det de fyra siffrorna som skulle avgöra argumentet. Att de saknas är inte bevis för att distributionen är långsam. Det är bevis för att tillkännagivandet är ett påstående om kapacitet snarare än ett benchmarkresultat, och läsarna bör bedöma det därefter.

De enda offentliga hastighetssiffrorna för MiniMax M3.1 Flash beskriver en annan driftsättning. MiniMax hävdar en median över 170 utdatatoken per sekund och toppar över 200 på sitt eget API. Artificial Analysis, som mäter det hostade API:et i stället för Tenstorrents hårdvara, registrerar 95,6 utdatatoken per sekund med en tid till första token på 1,48 sekunder. Det är ett gap på ungefär 1,8 gånger mellan leverantörens påstående och en oberoende mätning på en annan serving-väg, vilket är en användbar påminnelse om att "modellen är snabb" och "den här driftsättningen är snabb" är separata påståenden.

Det som Artificial Analysis faktiskt fastställer om modellen är mer relevant för Tenstorrents användningsfall än det mest uppmärksammade benchmarkresultatet. M3.1 Flash får 43 på Intelligence Index, kostar cirka 0,22 USD per slutförd indexuppgift och får 16 på AA-Omniscience med en hallucineringsgrad på 93 % – vilket innebär att när den inte visste svaret brukade den producera ett felaktigt sådant i stället för att avstå. Tenstorrent finjusterade den här driftsättningen på agentspår. Agentloopar är precis där självsäkra felaktiga svar är som dyrast, eftersom nästa verktygsanrop ärver dem. En snabb, billig serveringsväg löser inte det; den gör verifieringslagret viktigare.

Vad ska man göra med detta om man köper inferens?

För de flesta team är det praktiska svaret den här veckan ”testa det, migrera inte till det”. Playground är det billigaste sättet att se om modellens beteende passar din arbetsbelastning, och Tenstorrents agent-harness-integration är den intressanta delen att undersöka, eftersom driftsättningen har anpassats för verktygsanvändning över flera turer snarare än engångschatt. Ta med egna traces. SemiAnalysis AgentX-finjusteringen berättar vad Tenstorrent optimerade för; den berättar inte hur dina prompter kommer att bete sig.

Lägg inte en produktionsväg på det förrän två saker finns: ett publicerat värde för genomströmning och latens från Tenstorrent, och din egen mätning av kvalitet per uppgift. Det första är bara ett leverantörssvar bort. Det andra kan bara du svara på.

En ärlig kommentar om var OrcaRouter står i det här. M3.1 Flash finns inte i vår katalog; MiniMax-serien där slutar vid MiniMax-M3. Så sätten att anropa den nya modellen i dag är Tenstorrent Cloud och MiniMaxs eget API, och vi är inte ett av dem. Det OrcaRouter däremot erbjuder är den jämförelsebas du behöver innan du binder dig: MiniMax-M3 och över 200 andra modeller bakom en enda nyckel, till leverantörens listpris med 0 % påslag, så att frågan "är den nya modellen faktiskt bättre för min arbetsbelastning än den jag redan kör" kan besvaras utan ett andra avtal och en andra faktureringsrelation.

Siffran som skulle förvandla en port till ett pris

Tenstorrent har demonstrerat något verkligt: en 428B mixture-of-experts-modell, kvantiserad till ett blandat 4/8-bitars format, som kör båda inferenshalvorna på Tensix-kisel över Ethernet, med verktyg med öppen källkod och en publicerad metodik för inställning. Det är ett portabilitetsbevis, och det är det första i den här modellskalan som inte går via CUDA.

Den har inte visat att portningen är billigare, snabbare eller mer tillförlitlig än GPU-vägen. Galaxy är ett 6U, 32-ASIC, ungefär 23-PFLOPS BlockFP8-system som hade ett listpris på 110 000 dollar när det blev allmänt tillgängligt i april 2026, innan man lägger till superclusternätverket som den här driftsättningen använder. Huruvida den hårdvaran, när den kör den här modellen, ger en bättre kostnad per miljon token än ett H100- eller MI300X-kluster är hela den kommersiella frågan, och tillkännagivandet lämnar den obesvarad.

Nästa sak att hålla utkik efter är därför inte ännu en modell på samma hårdvara. Det är en siffra för tokens per sekund och en prislista från Tenstorrent, följt av en andra kiselleverantör som gör samma portning. När de finns kommer öppna vikter att ha förvandlats till äkta hårdvarukonkurrens. Fram till dess är den korrekta beskrivningen en trovärdig arkitektonisk demonstration där den kommersiella halvan fortfarande är opublicerad.