MiniMax M3.1 Flash agora é servido na Tenstorrent: o que um modelo de 428B no Tensix realmente prova

A postagem do newsroom da Tenstorrent é datada de 22 de outubro de 2026 e diz algo mais restrito e mais interessante do que “mais uma nuvem adicionou mais um modelo”: MiniMax M3.1 Flash, o modelo mixture-of-experts de 428 bilhões de parâmetros que a MiniMax lançou em 19 de outubro, agora está disponível no Tenstorrent Cloud com prefill e decode executados em sistemas Blackhole Galaxy. Nenhum acelerador NVIDIA aparece em ponto algum desse caminho de serving. O que a Tenstorrent publicou é uma arquitetura, um esquema de quantização e uma metodologia de ajuste. O que ela não publicou é um único número de throughput, um número de latência ou um preço para o seu próprio serving. Essa omissão é a parte que decide se isto é um marco ou uma demonstração, e merece mais atenção do que a tabela de benchmarks do modelo.

A Tenstorrent é a empresa de chips liderada por Jim Keller, e sua proposta sempre foi que a computação de IA não deveria ser uma pilha de fornecedor único. Até este anúncio, essa proposta tinha um problema de credibilidade no topo: os maiores modelos abertos eram rotineiramente servidos em hardware NVIDIA, com a AMD como alternativa e todo o restante confinado a experimentos com modelos pequenos. Um modelo de mistura de especialistas com 428 bilhões de parâmetros executando pré-preenchimento e decodificação em silício Tensix, conectado por Ethernet em vez de uma malha proprietária, é a primeira implantação que sustenta essa proposta com um modelo desse porte e dessa atualidade.

O que a Tenstorrent declarou publicamente

O anúncio é específico quanto à topologia de serviço e vago quanto a cada número que um comprador usaria. As especificidades primeiro, porque são alegações genuínas de engenharia:

• Disponibilidade — Tenstorrent Cloud, em console.tenstorrent.com, por meio do Playground ou conectado a um harness de agente.

• Caminho de serviço — tanto o prefill quanto o decode são executados no Tenstorrent Galaxy, especificamente em um supercluster de Blackhole Galaxies. Os sistemas são divididos por carga de trabalho: um pool cuida do prefill, outro cuida do decode, e o trabalho é movido entre eles por links Ethernet diretos e de baixa latência.

• Memória — cada Blackhole Galaxy carrega 1 TB de DRAM além de vários terabytes de SSD. Os pesos e o cache KV permanecem residentes na DRAM; o SSD armazena o cache KV descarregado, para que um turno de agente que retorna não precise recalcular seu contexto.

• Quantização — pesos MLP, pesos de atenção, o indexador e o especialista compartilhado são armazenados em MXFP8; os especialistas roteados são armazenados em NVFP4.

• Forma do modelo — a atenção esparsa substituiu a atenção global de consulta agrupada, e MLPs densos aparecem apenas nas três primeiras camadas.

• Dados de ajuste — A Tenstorrent afirma que ajustou a implantação com base nos traces de agentes de codificação AgentX da SemiAnalysis, o que significa sessões reais com múltiplos turnos e fan-out de subagentes, em vez de benchmarks curtos de chat.

• Preço cotado — US$ 0,15 por milhão de tokens de entrada, US$ 0,60 por milhão de saída, US$ 0,015 por milhão de tokens de entrada em cache. Esse é o preço de tabela da MiniMax; o anúncio não publica uma tarifa separada da Tenstorrent, portanto ainda não é possível dizer se executar o modelo aqui custa mais ou menos do que executá-lo em GPUs.

A implantação existe porque os pesos saíram

O fato mais importante por trás deste anúncio não é o silício. É que a MiniMax publicou os pesos. O repositório de 252,4 GB foi publicado no Hugging Face em 23 de outubro, e a postagem da Tenstorrent é datada de um dia antes — o que sugere que o porte foi construído com acesso de parceiro, e não a partir de um download público. Um fornecedor de hardware de terceiros não pode portar um modelo que não consegue obter, e a Tenstorrent não é uma subsidiária da MiniMax atendendo ao seu próprio checkpoint. Este é o mecanismo pelo qual pesos abertos criam competição de hardware: cada laboratório que publica um checkpoint transforma todo fornecedor de chips disposto em um canal potencial de distribuição, e cada fornecedor de chips que dá suporte ao modelo torna os pesos do laboratório mais valiosos, por sua vez.

A mesma lógica explica por que os modelos de fronteira fechados não aparecem neste tipo de anúncio. Um fornecedor pode alugar para você um endpoint de API de um modelo proprietário, mas não pode quantizar os pesos para seus próprios formatos numéricos, ajustar seus kernels ao padrão de atenção esparsa do modelo nem dividir o prefill e o decode pela sua própria malha. O port é o produto, e o port exige o arquivo.

É também por isso que o “open” nesta história precisa ser separado em duas coisas diferentes. A stack de software da Tenstorrent — TT-Metalium, TT-NN, TT-Forge — é de código aberto, e é isso que torna viável um porte de terceiros. Os pesos da MiniMax são pesos abertos, não código aberto. O repositório tem 252,4 GB distribuídos em 48 shards de safetensors, além de um drafter de decodificação especulativa de 2,3 GB, e é distribuído sob a MiniMax Community Licence, que exige atribuição em implantações comerciais e permissão prévia por escrito quando a receita anual ultrapassar US$ 20 milhões. Dois “opens” diferentes, um único caminho de serving.

Por que o caminho de serving é dividido em duas partes

A divisão prefill/decode não é uma idiossincrasia da Tenstorrent; é a resposta padrão para um problema criado pelas cargas de trabalho de agentes. O prefill é limitado por computação e acontece uma vez por prompt. O decode é limitado por largura de banda de memória e acontece uma vez por token gerado, durante todo o tempo em que a resposta durar. Colocá-los nos mesmos dispositivos faz com que um prompt longo chegando no meio do fluxo roube computação de todos os usuários que estão decodificando no momento, que é exatamente o travamento que faz os produtos de agentes parecerem quebrados.

Separar os pools permite que cada lado seja provisionado para seu próprio gargalo. A descrição da Tenstorrent é explícita ao afirmar que o pool de prefill distribui um prompt por muitos chips usando alta largura de banda entre dispositivos, enquanto o pool de decode mantém os pesos e o cache KV na DRAM e executa as etapas de forma independente. Os links Ethernet transportam a passagem de bastão.

Ethernet é a escolha interessante. Um fabric de scale-up proprietário oferece mais largura de banda e menor latência do que o Ethernet de prateleira, e a posição da NVIDIA em computação de IA depende em parte de possuir esse fabric. A Tenstorrent argumenta que, para esta carga de trabalho — um modelo mixture-of-experts com 23 bilhões de parâmetros ativos e um plano de serving que já separa prefill de decode —, o Ethernet padrão é suficientemente bom, e a economia de scale-out é melhor porque a interconexão não é um segundo lock-in. Esse é um argumento plausível, não comprovado. Ele se torna comprovado quando alguém publica tokens por segundo por dólar em uma implantação com vários nós, e ninguém publicou.

A aritmética que faz 428B caber em um rack

O modelo tem 428 bilhões de parâmetros no total e ativa 23 bilhões deles por token. Em BF16, isso equivale a aproximadamente 856 GB antes de qualquer cache KV ou sobrecarga de runtime. Um único Blackhole Galaxy tem 32 ASICs Blackhole com 32 GB de GDDR6 cada — o 1 TB que a Tenstorrent anuncia — então uma cópia em BF16 consumiria cerca de 84% da memória do sistema e deixaria aproximadamente 170 GB para todo o resto. Em um contexto de 1 milhão de tokens, com um cache KV que precisa sobreviver a vários turnos de agente, essa não é uma margem confortável.

O download publicado é de 252,4 GB. Esse é o número que faz a implantação caber: ele deixa algo na ordem de 770 GB do terabyte do Galaxy para cache KV, ativações e o drafter de decodificação especulativa. O esquema de precisão mista é o que garante esse espaço — MXFP8 para os pesos compartilhados e do lado da atenção, NVFP4 para os especialistas roteados, que constituem a maior parte dos parâmetros e a parte que só é acessada de forma esparsa. A atenção esparsa e as MLPs densas confinadas às três primeiras camadas reduzem ainda mais o tráfego de memória.

Este cálculo é nosso, com base em números publicados, não em uma alegação da Tenstorrent. Mas ele explica o formato do anúncio: a adaptação é crível justamente porque especialistas roteados de 4 bits transformam um modelo de 856 GB em um arquivo de 252 GB que cabe em um sistema de 32 chips com espaço de sobra para contexto longo.

O que a Tenstorrent não publicou

Não há nenhum número de tokens por segundo, nenhum número de tempo até o primeiro token, nenhum número de concorrência e nenhum preço para o endpoint hospedado na Tenstorrent. Para uma implantação cuja premissa inteira é que silício não-NVIDIA pode servir um modelo aberto de classe frontier, esses são os quatro números que resolveriam a discussão. A ausência deles não é evidência de que a implantação seja lenta. É evidência de que o anúncio é uma declaração de capacidade, e não um resultado de benchmark, e os leitores devem registrá-lo nessa categoria.

Os únicos números públicos de velocidade do MiniMax M3.1 Flash descrevem uma implantação diferente. A MiniMax afirma uma mediana acima de 170 tokens de saída por segundo e picos acima de 200 em sua própria API. A Artificial Analysis, medindo a API hospedada em vez do hardware da Tenstorrent, registra 95,6 tokens de saída por segundo com tempo até o primeiro token de 1,48 segundo. Isso representa uma diferença de aproximadamente 1,8x entre a alegação do fornecedor e uma medição independente em um caminho de serviço diferente, o que é um lembrete útil de que “o modelo é rápido” e “esta implantação é rápida” são afirmações distintas.

O que a Artificial Analysis de fato estabelece sobre o modelo é mais relevante para o caso de uso da Tenstorrent do que o benchmark de destaque. O M3.1 Flash obtém 43 no Intelligence Index, custa cerca de US$ 0,22 por tarefa concluída do índice e obtém 16 no AA-Omniscience, com taxa de alucinação de 93% — o que significa que, quando não sabia uma resposta, geralmente produzia uma errada em vez de recusar. A Tenstorrent ajustou esta implantação com base em traces de agentes. Os loops de agentes são exatamente onde respostas erradas com confiança são mais caras, porque a próxima chamada de ferramenta as herda. Um caminho de serving rápido e barato não corrige isso; torna a camada de verificação mais importante.

O que fazer com isso se você estiver comprando inferência

Para a maioria das equipes, a resposta prática nesta semana é "teste, não migre para ele". O Playground é a maneira mais barata de ver se o comportamento do modelo se adequa à sua carga de trabalho, e a integração do agent-harness da Tenstorrent é a parte interessante de investigar, porque a implantação foi ajustada para uso de ferramentas em múltiplos turnos, e não para chat de uma única interação. Traga seus próprios traces. O ajuste do SemiAnalysis AgentX informa para que a Tenstorrent otimizou; não informa como seus prompts se comportarão.

Não coloque um caminho de produção nele até que duas coisas existam: um número publicado de throughput e latência da Tenstorrent, e sua própria medição de qualidade por tarefa. A primeira está a uma resposta do fornecedor de ser respondida. A segunda só você pode responder.

Uma nota honesta sobre onde o OrcaRouter se posiciona nisso. O M3.1 Flash não está no nosso catálogo; a linha MiniMax ali para no MiniMax-M3. Então, as formas de chamar o novo modelo hoje são a Tenstorrent Cloud e a API própria da MiniMax, e nós não somos uma delas. O que o OrcaRouter oferece é a base de comparação de que você precisa antes de se comprometer: MiniMax-M3 e mais de 200 outros modelos por trás de uma única chave, pelo preço de tabela do provedor com 0% de margem, para que a pergunta "o novo modelo é realmente melhor para minha carga de trabalho do que aquele que eu já uso" possa ser respondida sem um segundo contrato e um segundo relacionamento de cobrança.

O número que transformaria um porto em um preço

A Tenstorrent demonstrou algo real: um modelo mixture-of-experts de 428B, quantizado em um formato misto de 4/8 bits, executando ambas as metades da inferência em silício Tensix via Ethernet, com ferramentas de código aberto e uma metodologia de ajuste publicada. Isso é uma prova de portabilidade, e é a primeira nessa escala de modelo que não passa pela CUDA.

O anúncio não demonstrou que o port seja mais barato, mais rápido ou mais confiável do que o caminho da GPU. O Galaxy é um sistema BlockFP8 de 6U, com 32 ASICs e aproximadamente 23 PFLOPS, que tinha preço de tabela de $110,000 quando se tornou disponível em geral em abril de 2026, antes de acrescentar a rede de supercluster usada nesta implantação. Se esse hardware, executando este modelo, produz um custo por milhão de tokens melhor do que um cluster H100 ou MI300X é a questão comercial central, e o anúncio deixa isso em branco.

A próxima coisa a observar, portanto, não é outro modelo no mesmo hardware. É um número de tokens por segundo e uma tabela de preços da Tenstorrent, seguidos por um segundo fornecedor de silício fazendo a mesma adaptação. Quando esses existirem, os pesos abertos terão se tornado uma competição de hardware genuína. Até lá, a descrição precisa é de uma demonstração arquitetural credível com a metade comercial ainda não publicada.