Los 150M de tokens por MW de Muse Spark Open, explicados: la mayor parte de esa cifra es entrada en caché

Meta lanzó Muse Spark Open el 15 de octubre de 2026, y durante los primeros ocho días de su vida pública faltaba el número que todos los artículos querían. Artificial Analysis incluía el precio, incluía un Intelligence Index de 39 y no enumeraba ninguna capacidad de servicio en absoluto. El 23 de octubre eso cambió: el modelo aparece en AA-AgentPerf a hasta aproximadamente 150 millones de tokens por segundo por cada megavatio de potencia de acelerador en cuatro GPU NVIDIA GB300 o B300, y a aproximadamente 70 millones en la MI355X de AMD. Esta no es una historia de lanzamiento —los pesos tienen nueve días. Es una historia sobre qué mide ese número, porque la métrica cuenta tokens de entrada además de salida, y en el extremo de alta concurrencia de la curva casi todo lo que cuenta es una lectura de caché.

Qué está contando realmente AA-AgentPerf

AA-AgentPerf no es un benchmark de chat con cronómetro. Artificial Analysis lo creó para cargas de trabajo de agentes, y la carga de trabajo es lo importante: reproduce trayectorias reales de agentes de programación contra repositorios públicos, las sesiones llegan a durar hasta unos 200 turnos y las entradas por solicitud van desde aproximadamente 5.000 hasta 131.000 tokens, con una media cercana a 27.000. Las salidas son cortas e irregulares —una mediana de alrededor de 150 tokens—, salpicadas por ráfagas de razonamiento más largas. El trabajo de un servidor en esa carga consiste principalmente en mantener en caché un prefijo muy grande y en su mayoría sin cambios, y en devolver rápidamente respuestas pequeñas.

La unidad principal se define en la página de centros de datos de Artificial Analysis como el rendimiento total del servidor —tokens de entrada más tokens de salida por segundo— por megavatio de potencia del acelerador. La potencia se mide en la GPU, el die y la HBM, no en la pared ni en el TDP nominal, por lo que un "megavatio" aquí no es la factura eléctrica de una instalación. La concurrencia tampoco es fija: el arnés aumenta la carga y, a continuación, realiza una búsqueda binaria del mayor número de agentes concurrentes que el sistema sostiene sin incumplir un objetivo de interactividad, puntuado como velocidad de salida p25 y tiempo hasta el primer token p95 en una ventana de estado estacionario en la que cada agente ha estado activo durante al menos 30 segundos.

Lo que significa que 150M es un techo, no una velocidad de crucero. Es el rendimiento disponible en la concurrencia en la que la velocidad por agente se sitúa en el valor más bajo que permite el objetivo. El mismo hardware ajustado para un agente más ágil devuelve una cifra mucho menor, y ninguna diapositiva de lanzamiento cita esa.

Las cifras tal como se publicaron

• Techo de rendimiento — hasta ~150M tokens/s por MW en cuatro GPU GB300 o B300, según lo reportado por Artificial Analysis el 23 de octubre.

• AMD — ~70 M de tokens/s por MW en MI355X, aproximadamente la mitad del resultado de NVIDIA en la misma carga de trabajo.

• Dentro de NVIDIA — GB300 mostró una ventaja sobre B300 una vez que aumentaron las velocidades de salida, según el mismo informe.

• Velocidad alojada — 142,9 tokens de salida/s y 0,76 s hasta el primer token en la ficha del modelo, frente a una mediana de 75,4 tokens/s para modelos comparables de pesos abiertos.

• Inteligencia — AA Intelligence Index 39, frente a una mediana de 19 para modelos de pesos abiertos de tamaño similar.

• Precio — $1.25 por millón de tokens de entrada y $4.25 por millón de salida, con un descuento de caché del 88 %, una tarifa combinada de $0.78 y $0.84 de gasto por tarea de Index.

Solo los tres primeros son nuevos esta semana. El resto lleva en la página desde el lanzamiento y apunta en una dirección distinta a la de la cifra de rendimiento: baratos por token en caché, caros por token generado. Mantener esos dos hechos uno junto al otro es donde reside la lectura útil.

La verificación cruzada: 43 puntos de operación en la misma carga de trabajo

Una pull request del cookbook de SGLang fusionada el 22 de octubre publicó cinco despliegues GB300 medidos en el mismo escenario de agente de codificación AA AgentPerf, un día antes de la actualización de la clasificación. Los cinco puntos se seleccionaron entre 43 configuraciones medidas, conservando ambos extremos de la frontera latencia-rendimiento y cubriendo el 81 % de su área. Son la imagen pública más clara de cómo es la curva de servicio de Muse Spark Open —y la PR es un proyecto de framework que demuestra su propio stack, así que léala como un mejor caso ajustado y no como uno neutral.

• Concurrencia 1, dos nodos, TP8·EP8 — 485,8 tokens de salida/s para un único usuario, 2.514 tokens/s totales por GPU, tiempo hasta el primer token p95 de 0,10 s.

• Concurrencia 16, cuatro GPU, TP4·EP4 — 208,7 tokens/s por usuario, 49.646 tokens/s totales por GPU.

• Concurrencia 64 — 97,1 tokens/s por usuario, 114.342 tokens/s totales por GPU.

• Concurrencia 160 con HiCache — 40,9 tokens/s por usuario, 185.382 tokens/s totales por GPU, de los cuales 1.237 son de salida generada.

• Caché — tasas de acierto de prefijo del 96,8 % al 97,6 % en las cinco ejecuciones, que es lo que hace que las cifras de tokens totales sean tan elevadas.

Esa última viñeta es todo el argumento en una sola línea. En la parte alta de la curva, la salida generada es aproximadamente el 0.7% de los tokens que cuenta la métrica. El otro 99.3% es entrada, y aproximadamente el 97% de esa entrada se sirvió desde caché. El titular de 150M-per-MW y la cifra de 40.9 tokens/s-per-user son la misma ejecución leída desde extremos opuestos. Ninguno está mal, pero responden a preguntas distintas, y la segunda es la pregunta que realmente tiene un producto de agentes.

La aritmética es al menos coherente, lo que cuenta a favor del número. Cuatro GB300 consumen del orden de cinco a seis kilovatios de potencia de acelerador; 150 M de tokens/s por MW implica aproximadamente 750.000 a 900.000 tokens por segundo para el nodo, o 190.000 a 225.000 por GPU. El punto máximo de SGLang es 185.382 tokens/s totales por GPU. Mismo orden, misma forma. Esa es nuestra aritmética frente a su medición, pero una coincidencia de ese tipo es lo que te dice que el titular no se armó a partir de una ejecución diferente.

El número de AMD es el que cambia una decisión.

La mitad del rendimiento por megavatio no es una diferencia de redondeo entre proveedores. Es la diferencia entre dos planes de despliegue, y coincide con la curva de costes que SemiAnalysis publica en InferenceX para el mismo modelo en FP4. A 128 tokens/s por usuario, B300 sale a $0,019 por millón de tokens frente a MI355X a $0,024. A 191 tokens/s por usuario, $0,027 frente a $0,044. A 254, $0,046 frente a $0,076. Son puntos interpolados del gráfico a partir de ejecuciones medidas, con precios de $2,26 por hora de chip B300 y $1,50 por hora de chip MI355X.

El chip de AMD es más barato por hora y más caro por token en todos los puntos de esa curva, y la brecha se amplía a medida que se exige más interactividad. Esa es la forma que cabría esperar cuando la eficiencia energética de una plataforma es la mitad de la de la otra, y es la razón por la que la división entre 70M y 150M merece más atención que la que merece 150M por sí solo.

Dos salvedades, ambas formuladas por los evaluadores y no por nosotros. Cuando AA-AgentPerf se lanzó en junio, Artificial Analysis señaló que su configuración MI355X se había creado internamente en lugar de haber sido enviada por AMD, y que el margen disponible podría ser mayor en los sistemas que ella misma había ajustado; por lo tanto, la cifra de AMD es un mínimo, en un sentido en el que las cifras de NVIDIA no lo son. Y una cifra de rendimiento no es un resultado de precisión. La puerta de precisión de MI35x que cubre la ruta ROCm de este modelo todavía no se ha ejecutado en hardware, y uno de sus dos umbrales de aprobación/reprobación se escribió como valor provisional sin ninguna medición de AMD que lo respalde. A partir de esta semana, la cuestión de la eficiencia tiene respuesta; la de la corrección, no.

Qué efecto tiene en el balance entre autoalojar y alquilar

Muse Spark Open figura a $1.25 por millón de tokens de entrada y $4.25 por millón de salida, con un descuento de caché del 88% que deja una carga de trabajo combinada 7:2:1 en $0.78 por millón. Esas son las cifras que tiene que superar un despliegue autoalojado, y la comparación es donde la mayor parte de internet se equivocará esta semana.

Coloca la cifra de InferenceX de $0.019 por millón de tokens en B300 a 128 tokens/s por usuario junto a los $0.78 combinados, y el autohospedaje parece cuarenta veces más barato. No lo es. Los $0.019 se calculan sobre todos los tokens y, en una traza de agente, casi todos son entrada en caché. Los $0.78 combinan entrada y salida en una proporción que da a la salida mucho más peso del que le da una traza de AgentPerf. Calcula por separado la entrada y la salida de tu propia carga de trabajo antes de creer cualquier múltiplo, y ten en cuenta que un coste de hardware por token publicado suele excluir las horas de inactividad, el personal de operaciones y la capacidad que reservas para los picos.

La versión honesta: el autoalojamiento de Muse Spark Open puede salir ganando, y la carga de trabajo en la que gana tiene una forma casi idéntica a la que prueba AgentPerf: prefijos largos, estables y almacenables en caché, respuestas generadas cortas, alta concurrencia y un nodo que se mantiene ocupado. Un producto de chat con prompts cortos y respuestas largas es casi lo contrario, y a 4,25 $ por millón de tokens de salida, el precio del alquiler no es la parte de la factura que va a doler.

• Pesos — el checkpoint BF16 es de aproximadamente 1,65 TB; la versión NVFP4 es de unos 537 GB.

• Nodo mínimo razonable — cuatro GPU Blackwell Ultra, la configuración de la que provienen las nuevas cifras de rendimiento. Meta también demostró el modelo ejecutándose localmente en dos Mac Studios M5 Ultra, lo que constituye una propuesta diferente: una demostración de estación de trabajo, no un plan de servicio.

• Licencia — la Muse Model License. Es gratuita para la mayoría de los usos, pero las empresas con ingresos brutos anuales superiores a $20M necesitan un acuerdo con Meta para ofrecerla como servicio, y los productos construidos sobre ella deben incluir un aviso de "Built with Muse Spark Open".

Dónde ejecutarlo y qué cambia un router

OrcaRouter enruta Muse Spark 1.1 y Muse Spark 1.2 y no sirve el checkpoint abierto, así que nada de lo que aquí se dice constituye una afirmación sobre su alojamiento. Lo que vale la pena saber es que los checkpoints alojados se listan a los mismos $1.25 y $4.25 que el precio de API propio del modelo abierto. Los pesos abiertos, por lo tanto, no son una forma más barata de llamar a este modelo; son una forma de ser dueño de la ruta de servicio. Si no vas a serlo, la elección está entre checkpoints alojados, y esa elección es un cambio de configuración y no una migración.

Si vas a asumirlo, la forma sensata de averiguar si tu carga de trabajo se comporta como una traza de AgentPerf es ejecutar en paralelo en lugar de cambiar. Mantén un checkpoint alojado como respaldo en tu propia infraestructura, dirige una parte del tráfico al nuevo despliegue y vuelve atrás cuando los números decepcionen. En la parte alojada de esa comparación, OrcaRouter repercute el precio de lista del proveedor con un 0 % de margen, así que la comparativa frente a tu hardware no lleva recargo por nuestra parte; el failover automático y el DSL de enrutamiento son lo que hacen que mover tráfico sea un cambio de configuración y no un cambio de código; y la fusión de modelos está ahí si prefieres comparar respuestas entre un panel en lugar de comparar infraestructura.

Qué ver

• Agentes por megavatio — Los resultados del lanzamiento de junio de AA-AgentPerf se publicaron en esa unidad: alrededor de 91.500 agentes por MW para un GB300 NVL72 con DeepSeek V4 Pro en el nivel de 20 tokens/s. Un recuento de agentes comparable para Muse Spark Open es lo que lo haría clasificable frente a otros modelos en lugar de meramente descriptible.

• Análisis en profundidad del serving de Meta del 26 de octubre — reportado por el proveedor, así que etiquétalo como tal cuando llegue, pero el detalle útil que conviene buscar es qué nivel de concurrencia asume la cifra de eficiencia.

• Una configuración MI355X enviada por AMD — el resultado de rendimiento a la mitad se mide con respecto a una configuración que la propia Artificial Analysis construyó, y AA ha dicho que el margen disponible allí podría ser mayor.

• La puerta de precisión del MI35x llega con números reales — la eficiencia sin una verificación de corrección es la mitad de una decisión de despliegue, y la mitad provisional de esa puerta sigue siendo provisional.

La lectura útil de esta semana es acotada y específica. Muse Spark Open es, según la evidencia publicada hasta ahora, un modelo inusualmente eficiente para servir en Blackwell con alta concurrencia y contexto almacenable en caché, aproximadamente el doble de eficiente allí que en MI355X para la misma tarea, y con precio de modelo premium cuando se alquila por token. Cada una de esas afirmaciones tiene un número detrás. Ninguna de ellas dice que el modelo sea rápido en el sentido en que un usuario experimenta la rapidez; esa cifra es de 40,9 tokens por segundo en la concurrencia en la que se sitúa el titular.