Una tarjeta de título que dice 'MiniMax M3.1 Flash on Tenstorrent' con la línea '428B de parámetros. Prefill y decode sobre silicio Tensix. Sin NVIDIA en la ruta.', sobre una ilustración plana de un rack de servidores de 6U que enlaza las zonas PREFILL y DECODE mediante Ethernet.
Guides & Insights

MiniMax M3.1 Flash ya está disponible en Tenstorrent: lo que realmente demuestra un modelo de 428B en Tensix

Autor

Gideon Frost

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

La entrada de la sala de prensa de Tenstorrent está fechada el 22 de octubre de 2026 y dice algo más específico y más interesante que «otra nube añadió otro modelo»: MiniMax M3.1 Flash, el modelo de mezcla de expertos de 428 mil millones de parámetros que MiniMax lanzó el 19 de octubre, ya está disponible en Tenstorrent Cloud, con el prefill y el decode ejecutándose en sistemas Blackhole Galaxy. En esa ruta de servicio no aparece ningún acelerador de NVIDIA. Lo que Tenstorrent publicó es una arquitectura, un esquema de cuantización y una metodología de ajuste. Lo que no publicó es ni una sola cifra de rendimiento, ni una cifra de latencia, ni un precio para su propio servicio. Esa omisión es la parte que determina si esto es un hito o una demostración, y merece más atención que la tabla de benchmarks del modelo.

Tenstorrent es la empresa de chips liderada por Jim Keller, y su propuesta siempre ha sido que el cómputo de IA no debería ser una pila de un solo proveedor. Hasta este anuncio, esa propuesta tenía un problema de credibilidad en el segmento más alto: los modelos abiertos más grandes se ejecutaban habitualmente en hardware NVIDIA, con AMD como alternativa y todo lo demás limitado a experimentos con modelos pequeños. Un modelo de mezcla de expertos de 428B de parámetros que ejecuta prefill y decode en silicio Tensix, conectado por Ethernet en lugar de una interconexión propietaria, es el primer despliegue que hace realidad esa propuesta con un modelo de este tamaño y tan reciente.

Lo que Tenstorrent declaró oficialmente

El anuncio es concreto sobre la topología de servicio y vago sobre cada cifra que usaría un comprador. Primero, los detalles, porque son afirmaciones de ingeniería genuinas:

• Disponibilidad — Tenstorrent Cloud, en console.tenstorrent.com, a través del Playground o conectado a un arnés de agente.

• Ruta de servicio — tanto el prefill como el decode se ejecutan en Tenstorrent Galaxy, concretamente en un supercúmulo de Blackhole Galaxies. Los sistemas se dividen por carga de trabajo: un pool se encarga del prefill, otro del decode, y el trabajo se desplaza entre ambos mediante enlaces Ethernet directos de baja latencia.

• Memoria — cada Blackhole Galaxy incluye 1 TB de DRAM además de varios terabytes de SSD. Los pesos y la caché KV permanecen residentes en la DRAM; el SSD almacena la caché KV descargada para que un turno de agente que regresa no tenga que recalcular su contexto.

• Cuantización — los pesos de MLP, los pesos de atención, el indexador y el experto compartido se almacenan en MXFP8; los expertos enrutados se almacenan en NVFP4.

• Forma del modelo — la atención dispersa reemplazó a la atención global de consultas agrupadas, y los MLP densos aparecen solo en las primeras tres capas.

• Datos de ajuste — Tenstorrent afirma que ajustó el despliegue con las trazas del agente de programación AgentX de SemiAnalysis, es decir, sesiones reales de múltiples turnos y la expansión de subagentes en lugar de benchmarks de chat breves.

• Precio cotizado — 0,15 $ por millón de tokens de entrada, 0,60 $ por millón de salida y 0,015 $ por millón de entrada en caché. Ese es el precio de lista de MiniMax; el anuncio no publica una tarifa independiente para Tenstorrent, por lo que aún no es posible decir si ejecutar el modelo aquí cuesta más o menos que ejecutarlo en GPUs.

El despliegue existe porque los pesos salieron

El dato más importante detrás de este anuncio no es el silicio. Es que MiniMax publicara los pesos. El repositorio de 252,4 GB se subió a Hugging Face el 23 de octubre, y la publicación de Tenstorrent está fechada un día antes, lo que sugiere que el port se construyó con acceso de socio en lugar de a partir de una descarga pública. Un proveedor de hardware externo no puede portar un modelo que no puede obtener, y Tenstorrent no es una filial de MiniMax que sirva su propio checkpoint. Este es el mecanismo por el cual los pesos abiertos crean competencia en hardware: cada laboratorio que publica un checkpoint convierte a cada proveedor de chips dispuesto en un canal de distribución potencial, y cada proveedor de chips que respalda el modelo hace que los pesos del laboratorio valgan más a su vez.

La misma lógica explica por qué los modelos de frontera cerrados no aparecen en este tipo de anuncio. Un proveedor puede alquilarte un endpoint de API para un modelo propietario, pero no puede cuantizar los pesos a sus propios formatos numéricos, ajustar sus kernels al patrón de atención dispersa del modelo, ni dividir el prefill y el decode entre su propia infraestructura. El port es el producto, y el port requiere el archivo.

Esa es también la razón por la que el «open» de esta historia debe separarse en dos cosas diferentes. El stack de software de Tenstorrent —TT-Metalium, TT-NN, TT-Forge— es de código abierto, y eso es lo que hace viable un port de terceros. Los pesos de MiniMax son pesos abiertos, no código abierto. El repositorio ocupa 252,4 GB repartidos en 48 fragmentos safetensors, más un modelo borrador de decodificación especulativa de 2,3 GB, y se distribuye bajo la MiniMax Community Licence, que exige atribución en los despliegues comerciales y permiso previo por escrito una vez que los ingresos anuales superen los 20 millones de dólares. Dos «open» distintos, una misma ruta de servicio.

Por qué la ruta de servicio está dividida en dos

La división entre prefill y decode no es una idiosincrasia de Tenstorrent; es la respuesta estándar a un problema que crean las cargas de trabajo de agentes. Prefill está limitado por cómputo y ocurre una vez por prompt. Decode está limitado por el ancho de banda de memoria y ocurre una vez por cada token generado, durante todo el tiempo que se ejecuta la respuesta. Si los pones en los mismos dispositivos, un prompt largo que llega a mitad del flujo les roba cómputo a todos los usuarios que están decodificando en ese momento, que es exactamente el bloqueo que hace que los productos de agentes parezcan estar rotos.

Separar los pools permite aprovisionar cada lado para su propio cuello de botella. La descripción de Tenstorrent es explícita en que el pool de prefill distribuye un prompt entre muchos chips usando un elevado ancho de banda entre dispositivos, mientras que el pool de decode mantiene los pesos y la caché KV en DRAM y ejecuta los pasos de forma independiente. Los enlaces Ethernet transportan el traspaso.

Ethernet es la opción interesante. Una red de interconexión propietaria para escalado vertical ofrece más ancho de banda y menor latencia que Ethernet comercial, y la posición de NVIDIA en computación de IA se apoya en parte en ser dueña de esa red. Tenstorrent sostiene que, para esta carga de trabajo —un modelo de mezcla de expertos con 23 mil millones de parámetros activos y un plan de servicio que ya separa el prefill de la decodificación—, Ethernet estándar es suficientemente bueno, y la economía del escalado horizontal es mejor porque la interconexión no es una segunda dependencia de proveedor. Es un argumento plausible, no probado. Pasará a estar probado cuando alguien publique tokens por segundo por dólar en un despliegue multinodo, y nadie lo ha hecho.

A generated architecture infographic titled 'How Tenstorrent serves a 428B model', showing a PREFILL POOL and a DECODE POOL linked by Ethernet, with cards for '1 TB DRAM per Galaxy' and 'KV cache offload to SSD'.

La aritmética que permite meter 428B en un solo rack

El modelo tiene 428 mil millones de parámetros en total y activa 23 mil millones de ellos por token. En BF16, eso es aproximadamente 856 GB antes de cualquier caché KV o sobrecarga de ejecución. Una sola Blackhole Galaxy consta de 32 ASIC Blackhole con 32 GB de GDDR6 cada uno —el 1 TB que Tenstorrent declara—, por lo que una copia en BF16 consumiría alrededor del 84 % de la memoria del sistema y dejaría aproximadamente 170 GB para todo lo demás. En un contexto de 1 millón de tokens, con una caché KV que tiene que sobrevivir a múltiples turnos de agente, ese no es un margen cómodo.

La descarga publicada es de 252,4 GB. Ese es el número que hace que el despliegue encaje: deja algo del orden de 770 GB del terabyte de Galaxy para la caché KV, las activaciones y el borrador de decodificación especulativa. El esquema de precisión mixta es lo que permite disponer de ese espacio: MXFP8 para los pesos compartidos y del lado de la atención, NVFP4 para los expertos enrutados, que son la mayor parte de los parámetros y la parte que solo se toca de forma dispersa. La atención dispersa y los MLP densos confinados a las tres primeras capas reducen aún más el tráfico de memoria.

{{1}}Esta aritmética es nuestra, basada en cifras publicadas, no es una afirmación de Tenstorrent.{{/1}} Pero explica la forma del anuncio: el port es creíble precisamente porque {{2}}los expertos enrutados de 4 bits convierten un modelo de 856 GB en un archivo de 252 GB que cabe en un sistema de 32 chips con espacio de sobra para contexto largo.{{/2}}

Lo que Tenstorrent no publicó

Tenstorrent's newsroom page headlined 'MiniMax M3.1 Flash, Now Live on Tenstorrent', dated Oct 22, 2026, with the summary that both prefill and decode run on Tenstorrent Galaxy and a co-branded Tenstorrent/MiniMax hero image.

No hay una cifra de tokens por segundo, ni una cifra de tiempo hasta el primer token, ni una cifra de concurrencia, ni un precio para el endpoint alojado por Tenstorrent. Para un despliegue cuya premisa entera es que el silicio no NVIDIA puede servir un modelo abierto de clase frontera, esas son las cuatro cifras que zanjarían el debate. Su ausencia no es evidencia de que el despliegue sea lento. Es evidencia de que el anuncio es una declaración de capacidades y no un resultado de benchmark, y los lectores deberían clasificarlo en consecuencia.

Los únicos números públicos de velocidad de MiniMax M3.1 Flash describen un despliegue diferente. MiniMax afirma una mediana superior a 170 tokens de salida por segundo y picos superiores a 200 en su propia API. Artificial Analysis, que mide la API alojada en lugar del hardware de Tenstorrent, registra 95,6 tokens de salida por segundo con un tiempo hasta el primer token de 1,48 segundos. Eso supone una diferencia de aproximadamente 1,8 veces entre la afirmación del proveedor y una medición independiente en una ruta de servicio diferente, lo que constituye un recordatorio útil de que «el modelo es rápido» y «este despliegue es rápido» son afirmaciones distintas.

Lo que Artificial Analysis sí establece sobre el modelo es más relevante para el caso de uso de Tenstorrent que el benchmark principal. M3.1 Flash obtiene 43 en el Intelligence Index, cuesta aproximadamente $0.22 por tarea del índice completada y obtiene 16 en AA-Omniscience con una tasa de alucinación del 93%, lo que significa que, cuando no sabía una respuesta, normalmente producía una incorrecta en lugar de negarse a responder. Tenstorrent ajustó este despliegue con trazas de agentes. Los bucles de agentes son exactamente donde las respuestas incorrectas dadas con confianza resultan más costosas, porque la siguiente llamada a herramienta las hereda. Una ruta de servicio rápida y barata no soluciona eso; hace que la capa de verificación sea más importante.

Artificial Analysis' model page for MiniMax-M3.1-Flash showing an Intelligence Index of 43, 95.6 output tokens per second, $0.15 input and $0.60 output per million tokens, $0.22 cost per Intelligence Index task, and a 1M-token context window.

¿Qué hacer con esto si estás comprando inferencia?

Para la mayoría de los equipos, la respuesta práctica esta semana es «pruébalo, no migres a él». El Playground es la forma más barata de ver si el comportamiento del modelo se adapta a tu carga de trabajo, y la integración del arnés de agentes de Tenstorrent es la parte interesante que conviene sondear, porque el despliegue se ajustó para el uso de herramientas en múltiples turnos en lugar de chat de un solo disparo. Trae tus propias trazas. El ajuste de SemiAnalysis AgentX te dice para qué optimizó Tenstorrent; no te dice cómo se comportarán tus prompts.

No le pongas una ruta de producción hasta que existan dos cosas: una cifra publicada de throughput y latencia de Tenstorrent, y tu propia medición de calidad por tarea. La primera está a un proveedor de distancia de ser respondida. La segunda solo tú puedes responderla.

Una nota honesta sobre el lugar que ocupa OrcaRouter en esto. M3.1 Flash no está en nuestro catálogo; la línea MiniMax ahí termina en MiniMax-M3. Así que las formas de llamar al nuevo modelo hoy son Tenstorrent Cloud y la propia API de MiniMax, y nosotros no somos una de ellas. Lo que sí ofrece OrcaRouter es la base de comparación que necesitas antes de comprometerte: MiniMax-M3 y más de 200 otros modelos con una sola clave, al precio de lista del proveedor con 0% de margen, de modo que la pregunta "¿es el nuevo modelo realmente mejor para mi carga de trabajo que el que ya uso?" pueda responderse sin un segundo contrato y una segunda relación de facturación.

El número que convertiría un puerto en un precio.

Tenstorrent ha demostrado algo real: un modelo de mezcla de expertos de 428B, cuantizado a un formato mixto de 4/8 bits, ejecutando ambas mitades de la inferencia en silicio Tensix a través de Ethernet, con herramientas de código abierto y una metodología de ajuste publicada. Eso es una prueba de portabilidad, y es la primera a esta escala de modelo que no pasa por CUDA.

No ha demostrado que el port sea más barato, más rápido o más fiable que la vía de la GPU. Galaxy es un sistema BlockFP8 de 6U, 32 ASIC y aproximadamente 23 PFLOPS que tenía un precio de lista de $110,000 cuando pasó a estar disponible de forma general en abril de 2026, antes de añadir la red de superclúster que utiliza este despliegue. Si ese hardware, ejecutando este modelo, produce un mejor coste por millón de tokens que un clúster de H100 o MI300X es toda la cuestión comercial, y el anuncio la deja en blanco.

Por lo tanto, lo próximo que hay que observar no es otro modelo sobre el mismo hardware. Es una cifra de tokens por segundo y una lista de precios de Tenstorrent, seguida de un segundo proveedor de silicio que haga la misma adaptación. Cuando existan, los pesos abiertos se habrán convertido en una verdadera competencia de hardware. Hasta entonces, la descripción precisa es una demostración arquitectónica creíble con la mitad comercial aún sin publicar.