La ventana de contexto de Mistral Large 4: 1M declarado, 524K medido y por qué la diferencia se factura

La ficha del modelo de Mistral dice una cosa y una medición independiente dice otra, y la diferencia no es cosmética. La ficha indica una ventana de contexto de 1M de tokens. Artificial Analysis, que evalúa la configuración que realmente puede ejecutar, midió 524.288 tokens. Cada token de entrada que envías se contabiliza, así que la pregunta «¿cuánto contexto tengo?» también es la pregunta «¿cuánto se me permite gastar en una sola solicitud?»

La diferencia entre esos dos números es de 2×, lo que, en un modelo que cobra $1.36 por millón de tokens de entrada, no es un error de redondeo.

Qué son los números y de dónde viene cada uno

• 1.048.576 tokens — el valor del archivo de configuración que Mistral entrega junto con los pesos. Es un límite máximo fijado por el proveedor, y la ficha del modelo lo repite como "1M".

• 524,288 tokens — lo que Artificial Analysis midió en la configuración que probó. La mitad del límite máximo.

• Lo que cuesta — a $1.36 por millón, llenar 524K cuesta alrededor de $0.71 por solicitud; llenar el 1M completo costaría $1.43. Ambos son el lado de entrada de una sola llamada, antes de cualquier salida.

La cifra del proveedor no es una mentira y la medida no es un fallo. Una ventana de contexto es una capacidad de la arquitectura; lo que una configuración de servicio concreta aceptará realmente — con su presupuesto de caché KV, su paralelismo de tensores, su tamaño de lote — es menor, y la brecha entre ambas es normal en todo este sector. Simplemente rara vez se declara en la misma línea que el precio.

Por qué esto importa más que en otros lugares

Tres razones específicas de este modelo.

Es un MoE de un billón de parámetros. 1,05 billones de parámetros con 52 mil millones activos por token, más un codificador de visión de 1,6 mil millones de parámetros. La caché KV para un contexto largo en esa clase de modelo es la restricción limitante para el servicio, no la intención del archivo de configuración. El número medido es el número honesto para la planificación.

Se cobra por token, no por solicitud. Una solicitud de contexto largo en esta tarjeta es una partida que escala linealmente con lo que envías. No estás comprando «una ventana de 1M»; estás comprando tokens, y la ventana solo decide cuántos pueden llegar en una sola llamada.

Los pesos se envían con la configuración. Cuando descargas 1.060,6 GB de bf16 y lees code>config.json/code>, verás el 1.048.576 y sentirás la tentación de planificar en función de él. La receta de vLLM requiere paralelismo tensorial de 8 con caché KV FP8, que es justo el tipo de configuración en la que la ventana servida y la ventana configurada dejan de coincidir.

Cómo medir tu propio techo en una tarde

Envía una solicitud que supere lo que crees que es el límite y lee el error: en la mayoría de los casos, los proveedores devuelvan un mensaje con el recuento de tokens en lugar de truncar silenciosamente. Eso te da el límite máximo real en el host que realmente usas, que es el único número que debería contener tu presupuesto.

Luego envía una solicitud al 80% de ese límite y observa la latencia. Un modelo de un billón de parámetros que lee un contexto largo tiene un tiempo hasta el primer token que crece con la longitud del prompt; la cifra de 524K es una ventana, no una promesa sobre la velocidad.

Por último, compara el techo resultante con la longitud de entrada de tu percentil 95 en lugar de con la media. La media nunca es el factor limitante; es en la cola donde aparece el pipeline de fragmentación para el que no presupuestaste.

Cómo son las ventanas de la competencia

• DeepSeek V4 Pro — 1M de contexto, 384K de salida, 0,66 $ de entrada y 1,98 $ de salida en horas valle.

• Grok 4.7 —contexto de 500K, salida de 450K, $2.00 y $6.00 fijos.

• Qwen3-Max — 262K de contexto, 65K de salida, $0.36 y $1.43.

• Mistral Large 4 — 1M declarado, 524K medido, $1.36 y $4.18 a precio de lista.

Frente a ese panorama, la ventana medida de Mistral se sitúa entre las afirmaciones de 262K y 1M —más cerca del punto medio que del máximo. Si el contexto es la razón por la que lo estás considerando, el número medido es el que debería estar en la tabla comparativa, y supone la mitad de la cifra titular.

Mistral Large 4 no está en el catálogo de OrcaRouter, así que no es una ruta que podamos ofrecer; se puede invocar a través de la propia API de Mistral y de hosts de terceros. Lo que sí ofrecemos de forma general es un endpoint compatible con OpenAI para 224 modelos al precio de lista del proveedor y sin recargo, donde la ventana del proveedor, sea cual sea, es la que se te factura.