Janela de Contexto do Mistral Large 4: 1M Anunciado, 524K Medido e Por Que a Diferença É Cobrada

A ficha técnica do modelo da Mistral diz uma coisa, e uma medição independente diz outra, e a diferença não é cosmética. A ficha lista uma janela de contexto de 1M de tokens. A Artificial Analysis, que avalia a configuração que consegue realmente executar, mediu 524.288 tokens. Cada token de entrada que você envia é contabilizado, então a pergunta “quanto contexto eu tenho” também é a pergunta “quanto me é permitido gastar em uma única solicitação”.

A diferença entre esses dois números é de 2×, o que, em um modelo que cobra US$ 1,36 por milhão de tokens de entrada, não é um erro de arredondamento.

O que são os números e de onde cada um vem

• 1.048.576 tokens — o valor no arquivo de configuração que a Mistral distribui com os pesos. É um teto definido pelo fornecedor, e o card do modelo o repete como "1M".

• 524,288 tokens — o que a Artificial Analysis mediu na configuração que testou. Metade do teto.

• Quanto isso custa — a US$ 1,36 por milhão, preencher 524 mil custa cerca de US$ 0,71 por requisição; preencher o 1 milhão completo custaria US$ 1,43. Ambos são o lado de entrada de uma única chamada, antes de qualquer saída.

O número do fornecedor não é mentira, e o valor medido não é um bug. Uma janela de contexto é uma capacidade da arquitetura; o que uma determinada configuração de serving realmente aceitará — com seu orçamento de cache KV, seu paralelismo de tensores, seu tamanho de lote — é menor, e a diferença entre os dois é normal em toda esta indústria. Simplesmente raramente é declarada na mesma linha que o preço.

Por que isso importa mais aqui do que em outros lugares

Três razões específicas deste modelo.

É um MoE de um trilhão de parâmetros. 1,05 trilhão de parâmetros, com 52 bilhões ativos por token, além de um codificador visual de 1,6 bilhão de parâmetros. O cache KV para um contexto longo nessa classe de modelo é a restrição determinante para o serving, não a intenção do arquivo de configuração. O número medido é o número honesto para planejamento.

É cobrado por token, não por solicitação. Uma solicitação de contexto longo neste cartão é um item de linha que escala linearmente com o que você envia. Você não está comprando "uma janela de 1M"; você está comprando tokens, e a janela decide apenas quantos podem chegar em uma única chamada.

Os pesos vêm junto com a configuração. Quando você baixa 1.060,6 GB de bf16 e lê code>config.json/code>, você verá o 1.048.576 e ficará tentado a planejar com base nele. A receita do vLLM pede paralelismo tensorial de 8 com cache KV FP8, que é exatamente o tipo de configuração em que a janela servida e a janela configurada deixam de coincidir.

Como medir seu próprio teto em uma tarde

Envie uma requisição que exceda o que você pensa ser o limite e leia o erro — na maioria dos casos, os provedores retornam uma mensagem com a contagem de tokens em vez de truncar silenciosamente. Isso fornece o teto efetivamente atendido no host que você realmente usa, que é o único número que seu orçamento deveria conter.

Em seguida, envie uma solicitação a 80% desse teto e observe a latência. Um modelo com um trilhão de parâmetros lendo um contexto longo tem um tempo até o primeiro token que cresce com o comprimento do prompt; o valor de 524K é uma janela, não uma promessa sobre velocidade.

Por fim, compare o teto resultante com o comprimento de entrada do 95º percentil, em vez da média. A média nunca é o fator limitante; é na cauda que aparece o pipeline de chunking para o qual você não reservou orçamento.

Como são as janelas da concorrência

• DeepSeek V4 Pro — 1M de contexto, 384K de saída, $0.66 de entrada e $1.98 de saída fora do horário de pico.

• Grok 4.7 — 500K de contexto, 450K de saída, US$ 2,00 e US$ 6,00 fixos.

• Qwen3-Max — contexto de 262K, saída de 65K, $0,36 e $1,43.

• Mistral Large 4 — 1M declarado, 524K medido, $1,36 e $4,18 na tabela.

Diante desse cenário, a janela medida da Mistral fica entre as alegações de 262K e 1M — mais próxima do meio do que do topo. Se o contexto é o motivo pelo qual você está analisando isso, o número medido é o que pertence à tabela de comparação, e isso custa metade do número de manchete.

Mistral Large 4 não está no catálogo do OrcaRouter, portanto esta não é uma rota que possamos oferecer; ele pode ser chamado pela API própria da Mistral e por hosts de terceiros. O que oferecemos de modo geral é um endpoint compatível com OpenAI sobre 224 modelos pelo preço de tabela do provedor, sem markup — em que a janela do fornecedor, seja qual for, é aquela pela qual você é cobrado.