Auto-hébergement de Mistral Large 4 : ce que 1,06 To vous coûte réellement

Les poids sont disponibles, sans restriction d’accès, et la licence autorise un usage commercial. Trois faits qui font de l’auto-hébergement de Mistral Large 4 une décision plutôt qu’un fantasme. Puis vous lisez la liste des fichiers : 54 shards safetensors, 1 060,6 Go en bf16, avant même un seul token de cache KV. C’est ce chiffre — et non le titre des mille milliards de paramètres — qui sert de base à votre dimensionnement du stockage et des GPU, et c’est la raison pour laquelle la plupart des équipes liront cette page et resteront sur l’API.

Les deux points de contrôle, et ce que chacun exige

• bf16 — 54 fragments, 1 060,6 Go, dont deux de 16,9 Go et 4,2 Go, les 52 autres se situant entre 19,7 et 20,0 Go. Il ne tient pas de manière utile sur huit accélérateurs de 141 Go une fois l’état KV réservé, alors prévoyez plus de matériel ou la voie quantifiée.

• NVFP4 — un dépôt séparé, 32 fragments, 610,1 GB, positionné par Mistral pour le matériel Blackwell avec prise en charge native de NVFP4. Les recommandations de Mistral : quatre GPU B200 ou B300. L'affirmation selon laquelle il conserve « les mêmes performances » est une affirmation du fournisseur, pas une mesure.

• Recette de service — la configuration vLLM de la fiche modèle requiert un parallélisme tensoriel de 8 avec un type de données FP8 pour le cache KV. C'est la configuration à prendre comme référence pour les benchmarks, et non une promesse de débit.

• Contexte — 1 M de tokens configurés, 524 288 mesurés sur la configuration testée. Un contexte long multiplie la pression sur le cache KV, ce qui, sur un encodeur visuel de 1,6 milliard de paramètres associé à un MoE de 1,05 billion de paramètres, fait la différence entre tenir en mémoire et ne pas tenir.

Le seuil de rentabilité que personne ne calcule

Prenez le prix promotionnel comme référence de ce que l’hébergement doit battre : 0,68 $ par million de tokens d’entrée et 2,09 $ par million de tokens de sortie. Quatre B200 à un tarif cloud réaliste — disons 8 à 12 $ par GPU-heure — représentent 32 à 48 $ par heure, soit environ 23 000 à 35 000 $ par mois avant le stockage, le réseau, l’ingénierie et le temps nécessaire pour régler une pile de service.

Pour atteindre le seuil de rentabilité à ce coût mensuel face à 2,09 $ par million de jetons de sortie, il faudrait générer bien plus de onze milliards de jetons de sortie par mois, chaque mois, à pleine utilisation. C’est un volume que presque aucune équipe en dehors d’un hyperscaler ne possède réellement, et cela ignore les deux semaines d’ingénierie que coûte le premier déploiement.

Pour le dire autrement : à 100 millions de tokens de sortie par mois — un volume de production important mais réaliste — l’API coûte environ 209 $ en promotion ou 418 $ au tarif catalogue, contre une facture d’hébergement de plusieurs dizaines de milliers de dollars. L’auto-hébergement n’est pas une réduction à cette échelle. C’est l’achat d’autre chose.

Ce qu'est cette autre chose

Quatre choses, et ce sont les seules raisons honnêtes de télécharger 1,06 To.

Résidence des données. Les poids ne quittent jamais votre périmètre. Pour une charge de travail soumise à réglementation, ce n’est pas une préférence, c’est une exigence, et aucun tarif d’API ne peut rivaliser avec cela.

Certitude de la licence. La licence Open-Weight de l'écosystème Mistral autorise l'usage commercial, la modification, l'entraînement complémentaire et les œuvres dérivées, avec une réserve : exploiter un modèle en tant que service — en donnant à des tiers un contrôle significatif sur les entrées, les paramètres ou les données d'entraînement — nécessite un accord commercial distinct. Les fonctionnalités embarquées, l'usage interne et la simple transmission sont exclus. Posséder l'artefact signifie que les conditions que vous avez acceptées sont celles qui s'appliquent.

Le droit d'affiner. Un dérivé que vous entraînez vous appartient, et aucune API hébergée ne peut vous l'offrir à aucun prix.

Déterminisme. Le checkpoint que vous avez validé est celui que vous exécutez. Un modèle hébergé peut être redirigé vers une nouvelle version sous le même nom ; un fichier sur votre disque, non.

Ce qu’aucun de ces quatre n’est : moins cher par token. Le calcul ci-dessus l’exclut pour toute équipe en dessous du seuil hyperscale, et un plan fondé sur l’espoir d’économies ne survivra pas à sa première facture.

La clause de licence qu’un hébergeur doit lire deux fois

Si votre raison de faire de l'auto-hébergement est de servir le modèle à des clients, la clause 2 est le paragraphe qui détermine votre structure juridique. Le calcul pour vos propres produits est acceptable ; une plateforme qui remet aux clients le modèle et un contrôle significatif sur les entrées, les paramètres ou l'entraînement n'existe pas au titre de cette licence sans accord distinct. L'exception pour « la simple transmission de requêtes à des modèles hébergés par des tiers » est étroite et signifie ce qu'elle dit : transférer vers le point de terminaison de quelqu'un d'autre ne constitue pas de l'hébergement.

Cette distinction est la seule chose sur cette page à laquelle une grille tarifaire ne peut pas répondre, et elle vaut bien une heure d’avocat avant un achat de GPU.

Qui devrait le télécharger ?

Téléchargez si un régulateur, un contrat client ou une politique de classification des données vous a déjà donné la réponse. Téléchargez si vous avez l’intention d’effectuer un fine-tuning et de livrer un dérivé, car c’est une capacité que l’API ne vend pas. Téléchargez si vous disposez d’une capacité Blackwell déjà payée et inutilisée — la voie NVFP4 sur quatre B200 est la seule configuration où les chiffres se rapprochent du seuil de rentabilité.

Restez sur l’API si la question portait sur le prix. À 0,68 $ et 2,09 $ en promotion, ou 1,36 $ et 4,18 $ au tarif catalogue, appeler ce modèle est l’un des moyens les moins chers du marché d’obtenir une réponse multimodale d’un trillion de paramètres — à condition de considérer la promotion comme une fenêtre temporaire plutôt que comme un tarif. Mistral Large 4 ne figure pas au catalogue d’OrcaRouter, donc cette voie passe par l’API propre à Mistral et par des hébergeurs tiers ; la formule générale que nous proposons est un point de terminaison unique compatible OpenAI couvrant 224 modèles au prix catalogue du fournisseur, sans majoration, où une modification tarifaire d’un fournisseur prend effet le jour de son annonce, et non au prochain renouvellement.