La fenêtre de contexte de Mistral Large 4 : 1 M annoncé, 524 K mesuré, et pourquoi l’écart est facturé

La fiche modèle de Mistral dit une chose et une mesure indépendante en dit une autre, et l’écart n’est pas cosmétique. La fiche indique une fenêtre de contexte de 1 million de tokens. Artificial Analysis, qui évalue la configuration qu’il est réellement possible d’exécuter, a mesuré 524 288 tokens. Chaque token d’entrée que vous envoyez est compté, donc la question « de combien de contexte je dispose » est aussi celle de « combien m’est-il permis de dépenser en une seule requête ».

La différence entre ces deux nombres est d’un facteur 2, ce qui, sur un modèle facturant 1,36 $ par million de jetons d’entrée, n’est pas une erreur d’arrondi.

Ce que sont les chiffres, et d’où vient chacun d’eux

• 1 048 576 tokens — la valeur indiquée dans le fichier de configuration que Mistral livre avec les poids. C'est un plafond inscrit par le fournisseur, et la fiche du modèle le reprend sous la forme « 1M ».

• 524 288 tokens — ce qu’Artificial Analysis a mesuré sur la configuration testée. La moitié du plafond.

• Combien cela coûte — à 1,36 $ par million, remplir 524 K coûte environ 0,71 $ par requête ; remplir le million complet coûterait 1,43 $. Les deux correspondent au côté entrée d’un seul appel, avant toute sortie.

Le chiffre du fournisseur n’est pas un mensonge, et celui mesuré n’est pas un bug. Une fenêtre de contexte est une capacité de l’architecture ; ce qu’une configuration de service donnée acceptera réellement — avec son budget de cache KV, son parallélisme tensoriel, sa taille de lot — est plus petit, et l’écart entre les deux est normal dans l’ensemble du secteur. Il est simplement rarement indiqué sur la même ligne que le prix.

Pourquoi cela compte davantage ici qu’ailleurs

Trois raisons propres à ce modèle.

C’est un MoE à un billion de paramètres. 1,05 billion de paramètres avec 52 milliards actifs par token, plus un encodeur visuel de 1,6 milliard de paramètres. Le cache KV pour un contexte long sur cette classe de modèle est la contrainte limitante pour l’inférence, pas l’intention du fichier de configuration. Le nombre mesuré est le nombre honnête pour la planification.

Le tarif est par token, et non par requête. Une requête à contexte long sur cette carte est un poste de coût qui évolue linéairement avec ce que vous envoyez. Vous n'achetez pas « une fenêtre de 1 M » ; vous achetez des tokens, et la fenêtre détermine seulement combien peuvent arriver en un seul appel.

Les poids sont livrés avec la configuration. Lorsque vous téléchargez 1 060,6 Go de bf16 et lisez code>config.json/code>, vous verrez 1 048 576 et serez tenté de planifier en fonction de cette valeur. La recette vLLM demande un parallélisme tensoriel de 8 avec un cache KV FP8, soit exactement le type de configuration où la fenêtre servie et la fenêtre configurée cessent de concorder.

Comment mesurer votre propre plafond en un après-midi

Envoyez une requête qui dépasse ce que vous pensez être la limite et lisez l'erreur — dans la plupart des cas, les fournisseurs renvoient un message indiquant le nombre de tokens plutôt que de tronquer silencieusement. Cela vous donne le plafond servi sur l'hôte que vous utilisez réellement, et c'est le seul chiffre que votre budget devrait contenir.

Envoyez ensuite une requête à 80 % de ce plafond et surveillez la latence. Un modèle à un billion de paramètres qui lit un contexte long a un temps d’obtention du premier token qui augmente avec la longueur du prompt ; le chiffre de 524 K est une fenêtre, pas une promesse de vitesse.

Enfin, comparez le plafond obtenu à la longueur d’entrée de votre 95e centile plutôt qu’à la moyenne. La moyenne ne limite jamais ; c’est dans la queue qu’apparaît le pipeline de segmentation que vous n’avez pas budgété.

À quoi ressemblent les fenêtres de la concurrence

• DeepSeek V4 Pro — contexte de 1 M, sortie de 384 K, 0,66 $ en entrée et 1,98 $ en sortie aux heures creuses.

• Grok 4.7 — 500K de contexte, 450K de sortie, 2,00 $ et 6,00 $ forfaitaires.

• Qwen3-Max —contexte de 262K, sortie de 65K, 0,36 $ et 1,43 $.

• Mistral Large 4 — 1 M annoncés, 524 K mesurés, 1,36 $ et 4,18 $ au tarif catalogue.

Face à ce paysage, la fenêtre mesurée de Mistral se situe entre les valeurs annoncées de 262K et 1M — plus proche du milieu que du haut. Si c’est le contexte qui vous pousse à l’examiner, c’est le chiffre mesuré qui a sa place dans le tableau comparatif, et il coûte la moitié du chiffre phare.

Mistral Large 4 ne figure pas au catalogue d’OrcaRouter ; ce n’est donc pas une route que nous pouvons proposer. Il est appelable via l’API propre à Mistral et via des hébergeurs tiers. Ce que nous proposons de manière générale, c’est un point d’accès compatible OpenAI donnant accès à 224 modèles au prix catalogue du fournisseur, sans marge — la fenêtre du fournisseur, quelle qu’elle soit, étant celle sur laquelle vous êtes facturé.