Autoalojar Mistral Large 4: lo que realmente te cuesta 1,06 TB

Los pesos ya están disponibles, sin barreras de acceso, y la licencia permite uso comercial. Tres hechos que hacen que el autoalojamiento de Mistral Large 4 parezca una decisión y no una fantasía. Luego lees la lista de archivos: 54 fragmentos de safetensors, 1.060,6 GB en bf16, antes de un solo token de caché KV. Ese número —no el titular del billón de parámetros— es sobre el que planificas el almacenamiento y las GPU, y es la razón por la que la mayoría de los equipos leerán esta página y seguirán usando la API.

Los dos puntos de control, y lo que exige cada uno

• bf16 — 54 fragmentos, 1.060,6 GB; dos de ellos de 16,9 GB y 4,2 GB, y los otros 52 entre 19,7 y 20,0 GB. No se ajusta de forma útil en ocho aceleradores de 141 GB una vez reservado el estado KV, así que prevea más hardware o la ruta cuantizada.

• NVFP4 — un repositorio aparte, 32 fragmentos, 610,1 GB, posicionado por Mistral para hardware Blackwell con soporte nativo de NVFP4. La propia guía de Mistral: cuatro GPU B200 o B300. La afirmación de que mantiene el «mismo rendimiento» es una afirmación del proveedor, no una medición.

• Receta de servicio — la configuración de vLLM de la ficha del modelo exige un paralelismo tensorial de 8 con dtype de caché KV FP8. Esa es la configuración con la que se debe evaluar comparativamente, no una promesa de rendimiento.

• Contexto — 1M tokens configurados, 524.288 medidos en la configuración probada. Un contexto largo multiplica la presión de la caché KV, lo que en un codificador visual de 1,6 mil millones de parámetros más un MoE de 1,05 billones de parámetros es la diferencia entre caber y no caber.

El punto de equilibrio que nadie calcula

Toma el precio de promoción como el punto de referencia que el alojamiento debe superar: $0.68 por millón de tokens de entrada y $2.09 por millón de salida. Cuatro B200 a una tarifa cloud realista — digamos, de $8 a $12 por GPU-hora — supone de $32 a $48 por hora, o aproximadamente de $23,000 a $35,000 al mes antes de almacenamiento, red, ingeniería y el tiempo necesario para ajustar una pila de servicio.

Para alcanzar el punto de equilibrio con ese coste mensual frente a $2.09 por millón de tokens de salida, tendrías que generar algo más de once mil millones de tokens de salida al mes, todos los meses, a plena utilización. Ese es un volumen que casi ningún equipo fuera de un hiperescalador tiene en realidad, y pasa por alto las dos semanas de ingeniería que cuesta el primer despliegue.

Dicho de otro modo: con 100 millones de tokens de salida al mes —una cifra de producción grande pero real— la API cuesta unos 209 $ en promoción o 418 $ a precio de lista, frente a una factura de alojamiento de decenas de miles. El autohospedaje no es un descuento a esa escala. Es la compra de otra cosa.

Qué es esa otra cosa

Cuatro cosas, y son las únicas razones honestas para descargar 1,06 TB.

Residencia de datos. Los pesos nunca salen de su perímetro. Para una carga de trabajo sujeta a regulación, eso no es una preferencia, sino un requisito, y ningún precio de API compite con ello.

Certeza de la licencia. La licencia Mistral's Ecosystem Open-Weight License permite el uso comercial, la modificación, el entrenamiento adicional y las obras derivadas, con una salvedad: operar un modelo como servicio — otorgar a terceros un control significativo sobre las entradas, los parámetros o los datos de entrenamiento — requiere un acuerdo comercial por separado. Las funcionalidades integradas, el uso interno y la mera retransmisión quedan excluidos. Poseer el artefacto significa que los términos que aceptó son los términos que se aplican.

El derecho al ajuste fino. Un derivado que entrenes es tuyo, y ninguna API alojada puede ofrecer eso a ningún precio.

Determinismo. El checkpoint que validaste es el checkpoint que ejecutas. Un modelo alojado puede redirigirse a una nueva versión bajo el mismo nombre; un archivo en tu disco no puede.

Lo que ninguno de esos cuatro es: más barato por token. La aritmética anterior descarta esa posibilidad para cualquier equipo por debajo de la hiperescala, y un plan basado en la expectativa de ahorros no sobrevivirá a su primera factura.

La cláusula de licencia que un proveedor de hosting tiene que leer dos veces

Si tu motivo para el autoalojamiento es servir el modelo a clientes, la cláusula 2 es el párrafo que determina tu forma jurídica. El cómputo para tus propios productos está permitido; una plataforma que entrega a los clientes el modelo y un control significativo sobre las entradas, los parámetros o el entrenamiento no existe bajo esta licencia sin un acuerdo por separado. La excepción para el «mero reenvío de solicitudes a modelos alojados por otros» es estrecha y significa lo que dice: reenviar al endpoint de otra persona no es alojar.

Esa distinción es lo único en esta página a lo que una lista de precios no puede responder, y merece una hora de abogado antes de comprar una GPU.

¿Quién debería descargarlo?

Descarga si un regulador, un contrato con un cliente o una política de clasificación de datos ya te han dado la respuesta. Descarga si tienes la intención de hacer fine-tuning y distribuir un derivado, porque esa es una capacidad que la API no vende. Descarga si tienes capacidad Blackwell ya pagada y ociosa — la ruta NVFP4 en cuatro B200 es la única configuración en la que los números se acercan al punto de equilibrio.

Si la pregunta era el precio, quédese con la API. A 0,68 $ y 2,09 $ en promoción, o 1,36 $ y 4,18 $ a precio de lista, llamar a este modelo es una de las formas más económicas del mercado de obtener una respuesta multimodal de un billón de parámetros, siempre que trate la promoción como una ventana y no como una tarifa. Mistral Large 4 no está en el catálogo de OrcaRouter, así que esa ruta pasa por la propia API de Mistral y por hosts de terceros; el esquema general que sí ofrecemos es un endpoint compatible con OpenAI sobre 224 modelos al precio de lista del proveedor, sin recargo, donde un cambio de precio de un proveedor se aplica el día en que se anuncia y no en la siguiente renovación.