MiniMax M3.1 Flash è ora disponibile su Tenstorrent: cosa dimostra davvero un modello da 428B su Tensix

Il post nella newsroom di Tenstorrent è datato 22 ottobre 2026 e dice qualcosa di più ristretto e più interessante di «un altro cloud ha aggiunto un altro modello»: MiniMax M3.1 Flash, il modello mixture-of-experts da 428 miliardi di parametri rilasciato da MiniMax il 19 ottobre, è ora disponibile su Tenstorrent Cloud con prefill e decode eseguiti su sistemi Blackhole Galaxy. Nessun acceleratore NVIDIA compare in quel percorso di serving. Ciò che Tenstorrent ha pubblicato è un'architettura, uno schema di quantizzazione e una metodologia di tuning. Ciò che non ha pubblicato è un singolo dato di throughput, un dato di latenza o un prezzo per il proprio serving. Questa omissione è l'elemento che decide se si tratti di una pietra miliare o di una demo, e merita più attenzione della tabella di benchmark del modello.

Tenstorrent è l'azienda di chip guidata da Jim Keller, e la sua proposta è sempre stata che il calcolo AI non dovrebbe essere uno stack di un singolo fornitore. Fino a questo annuncio, quella proposta aveva un problema di credibilità ai livelli più alti: i modelli aperti più grandi venivano abitualmente serviti su hardware NVIDIA, con AMD come alternativa e tutto il resto confinato a esperimenti su modelli piccoli. Un modello mixture-of-experts da 428 miliardi di parametri che esegue prefill e decode su silicio Tensix, connesso tramite Ethernet anziché una fabric proprietaria, è la prima implementazione che rende convincente quella proposta con un modello di queste dimensioni e così recente.

Ciò che Tenstorrent ha dichiarato ufficialmente

L'annuncio è preciso sulla topologia di serving ed è vago su ogni numero che un acquirente userebbe. Prima i dettagli, perché sono vere e proprie affermazioni ingegneristiche:

• Disponibilità — Tenstorrent Cloud, su console.tenstorrent.com, tramite il Playground o collegato a un agent harness.

• Percorso di serving — sia il prefill sia il decode vengono eseguiti su Tenstorrent Galaxy, in particolare su un supercluster di Blackhole Galaxies. I sistemi sono suddivisi per carico di lavoro: un pool gestisce il prefill, un altro gestisce il decode, e il lavoro passa tra di essi tramite collegamenti Ethernet diretti e a bassa latenza.

• Memoria — ogni Blackhole Galaxy dispone di 1 TB di DRAM oltre a diversi terabyte di SSD. I pesi e la cache KV restano residenti nella DRAM; l'SSD contiene la cache KV scaricata, così un turno di un agente che ritorna non deve ricalcolare il proprio contesto.

• Quantizzazione — i pesi MLP, i pesi dell'attenzione, l'indexer e l'esperto condiviso sono memorizzati in MXFP8; gli esperti instradati sono memorizzati in NVFP4.

• Forma del modello — l'attenzione sparsa ha sostituito l'attenzione globale con query raggruppate, e i MLP densi compaiono solo nei primi tre strati.

• Dati di tuning — Tenstorrent afferma di aver ottimizzato il deployment sulle trace dell'agente di coding AgentX di SemiAnalysis, ovvero sessioni multi-turno reali e fan-out di subagenti anziché brevi benchmark di chat.

• Prezzo indicato — $0.15 per milione di token in input, $0.60 per milione in output, $0.015 per milione di input in cache. Questo è il prezzo di listino di MiniMax; l'annuncio non pubblica una tariffa Tenstorrent separata, quindi non è ancora possibile dire se eseguire il modello qui costi più o meno che eseguirlo su GPU.

Il deployment esiste perché i pesi sono usciti

Il fatto singolo più importante dietro questo annuncio non è il silicio. È che MiniMax abbia pubblicato i pesi, punto. Il repository da 252,4 GB è stato pubblicato su Hugging Face il 23 ottobre, e il post di Tenstorrent è datato un giorno prima, il che suggerisce che il porting sia stato realizzato con accesso da partner anziché da un download pubblico. Un fornitore hardware di terze parti non può effettuare il porting di un modello che non riesce a ottenere, e Tenstorrent non è una controllata di MiniMax che gestisce il proprio checkpoint. Questo è il meccanismo con cui i pesi aperti creano concorrenza hardware: ogni laboratorio che pubblica un checkpoint trasforma ogni produttore di chip disponibile in un potenziale canale di distribuzione, e ogni produttore di chip che supporta il modello rende a sua volta più preziosi i pesi del laboratorio.

La stessa logica spiega perché i modelli chiusi di frontiera non compaiono in questo tipo di annuncio. Un fornitore può affittarti un endpoint API per un modello proprietario, ma non può quantizzare i pesi nei propri formati numerici, ottimizzare i propri kernel in base al pattern di attenzione sparsa del modello, né suddividere prefill e decode sulla propria fabric. Il porting è il prodotto, e il porting richiede il file.

È anche per questo che l'"open" di questa storia va scisso in due cose diverse. Lo stack software di Tenstorrent — TT-Metalium, TT-NN, TT-Forge — è open source, ed è ciò che rende praticabile un porting di terze parti. I pesi di MiniMax sono open weights, non open source. Il repository è di 252,4 GB distribuiti su 48 shard safetensors, più un drafter per decodifica speculativa da 2,3 GB, ed è distribuito con la MiniMax Community Licence, che richiede l'attribuzione per le distribuzioni commerciali e un'autorizzazione scritta preventiva una volta che il fatturato annuo supera i 20 milioni di dollari. Due tipi diversi di open, un unico percorso di serving.

Perché il percorso di serving è diviso in due

La separazione prefill/decode non è un'idiosincrasia di Tenstorrent; è la risposta standard a un problema creato dai carichi di lavoro degli agenti. Il prefill è limitato dal calcolo e avviene una volta per prompt. Il decode è limitato dalla larghezza di banda della memoria e avviene una volta per token generato, per tutta la durata della risposta. Mettili sugli stessi dispositivi e un prompt lungo che arriva a metà flusso ruba capacità di calcolo a ogni utente che sta decodificando, che è esattamente lo stallo che fa sembrare rotti i prodotti basati su agenti.

Separare i pool consente di dimensionare ciascun lato in base al proprio collo di bottiglia. La descrizione di Tenstorrent specifica esplicitamente che il pool di prefill distribuisce un prompt su molti chip sfruttando un'elevata larghezza di banda dispositivo-dispositivo, mentre il pool di decode mantiene i pesi e la KV cache in DRAM ed esegue i passaggi in modo indipendente. I collegamenti Ethernet trasportano il passaggio di consegne.

Ethernet è la scelta interessante. Un fabric scale-up proprietario offre più larghezza di banda e latenza inferiore rispetto all'Ethernet standard, e la posizione di NVIDIA nel calcolo AI si basa in parte sul possesso di quel fabric. Tenstorrent sostiene che per questo carico di lavoro — un modello mixture-of-experts con 23 miliardi di parametri attivi e un piano di serving che separa già il prefill dal decode — l'Ethernet standard sia sufficiente, e che l'economia dello scale-out sia migliore perché l'interconnessione non rappresenta un secondo lock-in. È un argomento plausibile, non dimostrato. Lo diventa quando qualcuno pubblica i token al secondo per dollaro su un deployment multi-nodo, e nessuno l'ha fatto.

L'aritmetica che fa stare 428B in un solo rack

Il modello ha 428 miliardi di parametri in totale e ne attiva 23 miliardi per token. In BF16 si tratta di circa 856 GB prima di qualsiasi cache KV o overhead di runtime. Un singolo Blackhole Galaxy è composto da 32 ASIC Blackhole con 32 GB di GDDR6 ciascuno — il 1 TB dichiarato da Tenstorrent — quindi una copia in BF16 consumerebbe circa l'84% della memoria del sistema e lascerebbe circa 170 GB per tutto il resto. Su un contesto da 1 milione di token, con una cache KV che deve sopravvivere a più turni dell'agente, non è un margine confortevole.

Il download pubblicato è di 252.4 GB. È il numero che rende possibile il deployment: lascia qualcosa nell'ordine di 770 GB del terabyte del Galaxy per la KV cache, le attivazioni e il drafter di decodifica speculativa. È lo schema a precisione mista a guadagnare quello spazio — MXFP8 per i pesi condivisi e lato attenzione, NVFP4 per gli esperti instradati, che costituiscono la maggior parte dei parametri e la parte toccata solo in modo sparso. L'attenzione sparsa e gli MLP densi confinati ai primi tre layer riducono ulteriormente il traffico di memoria.

Questo calcolo è nostro, basato su numeri pubblicati, non su un'affermazione di Tenstorrent. Ma spiega la forma dell'annuncio: il porting è credibile proprio perché gli esperti instradati a 4 bit trasformano un modello da 856 GB in un file da 252 GB che entra in un sistema a 32 chip con margine per contesti lunghi.

Cosa Tenstorrent non ha pubblicato

Non c'è alcun dato sui token al secondo, nessun dato sul time-to-first-token, nessun dato sulla concorrenza e nessun prezzo per l'endpoint ospitato da Tenstorrent. Per un deployment la cui intera premessa è che il silicio non NVIDIA possa servire un modello aperto di classe frontier, quelli sono i quattro numeri che risolverebbero la questione. La loro assenza non è prova che il deployment sia lento. È prova che l'annuncio è una dichiarazione di capacità anziché un risultato di benchmark, e i lettori dovrebbero classificarlo di conseguenza.

Gli unici dati pubblici sulla velocità di MiniMax M3.1 Flash descrivono un deployment diverso. MiniMax dichiara una mediana superiore a 170 token di output al secondo e picchi oltre 200 sulla propria API. Artificial Analysis, misurando l'API ospitata anziché l'hardware di Tenstorrent, registra 95,6 token di output al secondo con un tempo al primo token di 1,48 secondi. Si tratta di un divario di circa 1,8x tra l'affermazione del fornitore e una misurazione indipendente su un percorso di serving diverso, il che è un utile promemoria del fatto che "il modello è veloce" e "questo deployment è veloce" sono affermazioni separate.

Ciò che Artificial Analysis stabilisce effettivamente sul modello è più rilevante per il caso d’uso Tenstorrent rispetto al benchmark da titolo. M3.1 Flash ottiene 43 sull’Intelligence Index, costa circa $0,22 per ogni attività completata dell’indice e ottiene 16 su AA-Omniscience con un tasso di allucinazione del 93% — il che significa che, quando non conosceva una risposta, di solito ne produceva una sbagliata invece di dichiarare di non saperla. Tenstorrent ha messo a punto questa implementazione su tracce di agenti. I cicli degli agenti sono esattamente il punto in cui le risposte sbagliate formulate con sicurezza costano di più, perché la chiamata allo strumento successiva le eredita. Un percorso di erogazione veloce ed economico non risolve questo problema; rende più importante il livello di verifica.

Cosa fare con questo se acquisti inferenza

Per la maggior parte dei team, la risposta pratica questa settimana è «provarlo, non migrare ad esso». Il Playground è il modo più economico per vedere se il comportamento del modello si adatta al vostro carico di lavoro, e l'integrazione dell'agent harness di Tenstorrent è la parte interessante da sondare, perché il deployment è stato ottimizzato per l'uso di strumenti multi-turno anziché per la chat a singolo scambio. Portate i vostri trace. Il tuning di SemiAnalysis AgentX vi dice per cosa ha ottimizzato Tenstorrent; non vi dice come si comporteranno i vostri prompt.

Non metterlo su un percorso di produzione finché non esistono due cose: un valore pubblicato di throughput e latenza da Tenstorrent, e una tua misurazione della qualità per attività. La prima è a una sola pubblicazione del fornitore dall'essere risolta. Alla seconda puoi rispondere solo tu.

Una nota onesta su dove si colloca OrcaRouter in questo. M3.1 Flash non è nel nostro catalogo; la linea MiniMax in catalogo si ferma a MiniMax-M3. Quindi i modi per chiamare oggi il nuovo modello sono Tenstorrent Cloud e l'API di MiniMax stessa, e noi non siamo uno di questi. Ciò che OrcaRouter fornisce, invece, è la base di confronto che ti serve prima di impegnarti: MiniMax-M3 e più di 200 altri modelli dietro un'unica chiave, al prezzo di listino del provider con 0% di ricarico, così si può rispondere alla domanda "il nuovo modello è davvero migliore per il mio carico di lavoro di quello che uso già" senza un secondo contratto e un secondo rapporto di fatturazione.

Il numero che trasformerebbe un porto in un prezzo

Tenstorrent ha dimostrato qualcosa di reale: un modello mixture-of-experts da 428B, quantizzato in un formato misto a 4/8 bit, che esegue entrambe le metà dell'inferenza su silicio Tensix tramite Ethernet, con strumenti open source e una metodologia di tuning pubblicata. Questa è una prova di portabilità, ed è la prima a questa scala di modello che non passa attraverso CUDA.

Non ha dimostrato che il porting sia più economico, più veloce o più affidabile del percorso GPU. Il Galaxy è un sistema 6U, con 32 ASIC, da circa 23 PFLOPS BlockFP8, che era listato a $110,000 quando è diventato disponibile a livello generale nell'aprile 2026, prima di aggiungere la rete supercluster utilizzata da questa implementazione. Se quell'hardware, eseguendo questo modello, produca un costo per milione di token migliore rispetto a un cluster H100 o MI300X è l'intera questione commerciale, e l'annuncio la lascia senza risposta.

La prossima cosa da osservare non è quindi un altro modello sullo stesso hardware. È un dato di token al secondo e un listino prezzi da Tenstorrent, seguito da un secondo fornitore di silicio che faccia lo stesso porting. Quando esisteranno, i pesi aperti si saranno trasformati in una vera competizione hardware. Fino ad allora, la descrizione accurata è una credibile dimostrazione architetturale con la metà commerciale ancora non pubblicata.