Os pesos foram liberados e cabem em oito Blackwells: por dentro do lançamento NVFP4 no dia zero do Mistral Large 4

Todos os guias de auto-hospedagem publicados na semana passada dizem as mesmas três coisas sobre o Mistral Large 4: o arquivo de licença retorna um 404, não existe nenhum checkpoint quantizado, e qualquer configuração que você escreva é uma projeção emprestada do modelo anterior. Na manhã de 29 de outubro de 2026, as três estão erradas. A licença está no repositório — 2.632 bytes dela — e a família de checkpoints é real: mistralai/Mistral-Large-4-1T-A52B com 54 shards FP8 e 1.060,6 GB, além de uma variante NVFP4 com 32 shards e 610,1 GB. A nota de dia zero da NVIDIA, aquela que parabeniza a equipe da Mistral AI e menciona o suporte ao NVFP4 no Hugging Face no mesmo fôlego, é a versão mais curta possível desta história. A versão útil é a mais longa: o que a receita publicada realmente pressupõe, o que aconteceu com o preço enquanto ninguém estava olhando, e qual dos conselhos de auto-hospedagem de terça-feira agora é ativamente enganoso. Se quiser comparar o que pode ser roteado hoje em vez do que pode ser baixado, o catálogo de modelos do OrcaRouter lista todos os modelos que servimos, sua janela de contexto e seu preço por token, com failover configurado por rota.

Comece pelas datas, porque são a parte que a maioria da cobertura erra nos dois sentidos. O Mistral Large 4 foi anunciado em 6 de outubro de 2026 como uma prévia da API — um modelo de mistura de especialistas com 1,05 trilhão de parâmetros, com 49 bilhões de parâmetros ativos por token, ou 52 bilhões quando se contam as camadas de embeddings e de saída, um codificador visual de 1,6 bilhão de parâmetros e uma janela de contexto de 1 milhão de tokens, com preço de US$ 1,36 por milhão de tokens de entrada e US$ 4,18 por milhão de tokens de saída. Os pesos abertos foram prometidos antes do fim de outubro. Chegaram às 14:51 UTC de 29 de outubro, cerca de dois dias depois da data de 27 de outubro sobre a qual os relatos da imprensa haviam se fixado. A diferença importa porque grande parte dos textos sobre esse modelo foi escrita dentro dela.

O que está realmente no Hub esta manhã?

Os metadados do repositório são mais informativos do que a prosa do anúncio, então aqui estão eles diretamente:

• Ponto de verificação principal — mistralai/Mistral-Large-4-1T-A52B, 54 shards safetensors, 1.060,6 GB em disco, marcado como fp8, repositório criado em 30 de setembro de 2026, pesos gravados pela última vez em 29 de outubro às 14:51 UTC, sem controle de acesso.

• Irmão quantizado — mistralai/Mistral-Large-4-1T-A52B-NVFP4, 32 shards, 610,1 GB, repositório criado em 15 de outubro de 2026 e atualizado hoje às 14:11 UTC — quarenta minutos antes de o repositório pai terminar.

• Licença — a Licença de Pesos Abertos do Ecossistema Mistral, que a Mistral descreve como uma licença MIT modificada, sem limite de receita associado.

• Arquitetura, de params.json — 128 especialistas, com quatro roteados por token mais um especialista compartilhado, 72 camadas, tamanho oculto 6.144, uma torre de visão de 30 camadas que aceita imagens de até 1.540 pixels, e compartilhamento de KV na maioria das camadas.

• Os números que não batem — a ficha técnica do modelo NVFP4 lista 39 idiomas; o anúncio afirma 160+. A ficha técnica registra 49 bilhões de parâmetros ativos por token; a documentação da API e a tabela do próprio fornecedor dizem 52 bilhões, que é o mesmo número acrescido das camadas de embeddings e de saída. A publicação da Mistral credita 3.800 GPUs Grace Blackwell para o treinamento; vários veículos arredondaram isso para 4.000. Nada disso é fatal, e cada discrepância indica qual documento foi escrito por qual equipe.

O número de 610 GB é o lançamento

Um modelo de 1,05 trilhão de parâmetros não é baixado de um jeito que alguém descreva casualmente. O checkpoint FP8 tem 1.060,6 GB — confortavelmente mais de um terabyte de pesos antes mesmo de existir um único token de cache KV, ativação ou fragmentação. Em um nó Blackwell de oito GPUs, isso cabe com cerca de 400 GB de folga. Em oito H200s, cabe com quase nenhuma folga. O checkpoint NVFP4 reduz isso para 610,1 GB, e a economia não é cosmética: é a diferença entre um nó que é inteiramente pesos e um nó que tem espaço restante para o contexto de 1 milhão de tokens que o modelo anuncia.

O esquema de quantização também é mais específico do que "4-bit". De acordo com a ficha, os pesos de mistura de especialistas são NVFP4, enquanto as camadas lineares permanecem em FP8, e a receita do vLLM exige um cache KV FP8 nas camadas MLA. Isso é uma pilha de serving em precisão mista, não uma conversão descendente indiscriminada, e é direcionado especificamente ao Blackwell — B200, B300, GB200 e GB300 são as peças nomeadas.

Uma consequência merece destaque para quem planeja uma compra: a receita oficial ainda exige oito GPUs. O vLLM é publicado com paralelismo tensorial 8; o SGLang com tp-size 4. A quantização aqui não é principalmente uma forma de reduzir o número de nós. É uma forma de deixar memória suficiente no nó para efetivamente servir contexto longo, e os parâmetros de serviço publicados são a prova.

A receita, flag por flag

O que diferencia este lançamento da maioria dos lançamentos de pesos abertos é que o fornecedor incluiu instruções de serving em vez de deixá-las para a comunidade. O caminho vLLM, conforme publicado:

• Imagem — vllm/vllm-openai:mistral-large-4

• Paralelismo — --tensor-parallel-size 8

Cache — --kv-cache-dtype fp8_ds_mla, com --gpu-memory-utilization 0.85

• Analisadores — --tool-call-parser mistral, --reasoning-parser mistral, --enable-auto-tool-choice

• Especulação opcional — --speculative-config '{"method": "dspark", "num_speculative_tokens": 3}'

O caminho do SGLang difere de formas que vale a pena ler duas vezes:

• Imagem — lmsysorg/sglang:mistral-large-4, com --tp-size 4 e --mem-fraction-static 0.85

• Especulação — --speculative-algorithm DSPARK, ativado por padrão no comando publicado

• Limites de serviço — --max-running-requests 64, com ambos os parsers de raciocínio e de ferramentas definidos como auto

Três coisas que as flags lhe dizem e que o anúncio não diz.

A primeira é que o DSpark não é um modelo separado. O arquivo de configuração descreve três camadas de predição multi-token com uma pequena cabeça de rascunho recorrente — um rank de Markov de 512 — embutida no próprio checkpoint. A decodificação especulativa normalmente significa executar um segundo modelo, menor, ao lado do grande, e pagar pela memória dele. Aqui, a cabeça de rascunho já está dentro dos 610 GB, e é por isso que o flag especulativo é uma curta string de configuração, e não uma segunda implantação.

A segunda é que a pilha de atenção é uma questão de compressão. A configuração traz um indexador esparso com um top-k de 2.048 em 32 cabeças, um rank LoRA de KV de 512 e compartilhamento de KV na maioria das 72 camadas — o tipo de layout que se tornou padrão em modelos da linhagem DeepSeek. O contexto de 1M é alcançável porque a memória de atenção é compartilhada agressivamente e o cache KV é FP8, não porque o modelo tenha um terabyte de cache para gastar.

A terceira é aritmética. O bloco YaRN publicado estende uma janela RoPE nativa de 512 tokens por um fator de 2.048, o que resulta em exatamente 1.048.576 — o comprimento de contexto anunciado. Independentemente de como era o cronograma de treinamento, a configuração que você está baixando alcança 1M tokens por extrapolação, e vale a pena saber disso antes de apontar um documento de 900.000 tokens para ela e presumir que o modelo já viu esse formato antes.

O livro de preços mudou enquanto os guias estavam sendo escritos.

A documentação da Mistral lista a taxa atual em US$ 0,70 por milhão de tokens de entrada, US$ 0,07 por milhão de entrada em cache e US$ 2,10 por milhão de saída. O anúncio de 6 de outubro citava um preço de tabela de US$ 1,36 e US$ 4,18, com um desconto de prévia de aproximadamente metade disso. Lendo os dois documentos em conjunto, o lançamento de pesos abertos não apenas entregou arquivos — ele baixou o preço de tabela permanente para cerca do nível em que a prévia vinha sendo cobrada. Para quem fez o orçamento com base no anúncio de outubro, a nova tabela é cerca da metade do número que anotaram.

O quadro independente é menos lisonjeiro do que o corte de preço. O Artificial Analysis, em seu atual Intelligence Index — a série v5 reconstruída em 27 de outubro — atribui 26 ao Mistral Large 4, registra US$ 2,06 para concluir uma tarefa do Index e mede 161,3 tokens de saída por segundo, com 1,42 segundo até o primeiro token. A velocidade é realmente boa: 161 tokens por segundo é mais que o dobro da mediana do conjunto de comparação. O custo por tarefa não é: a US$ 2,06, ele está no quarto inferior de sua categoria, porque um modelo que raciocina longamente gasta o dinheiro em tokens, e não na tabela de preços.

Os próprios números da Mistral, e o que ela não publicou

Todo benchmark no post de lançamento da Mistral é da própria Mistral, o que vale afirmar antes de citar qualquer um deles. O Terminal-Bench 4.0 é alegado em 41%, treze pontos acima da prévia e, segundo o post, uma liderança entre modelos de pesos abertos; o FrontierCode 2.0 em 19,7%; o AA Coding Agent Index em 48%, descrito como efetivamente empatado com o GLM-5.3; o BrowseComp em 84,5% contra 75% do checkpoint supervisionado da prévia; o FinWorkBench em 73,3%, atrás dos 77,3% do Kimi K3; e uma taxa média de recusa de 96,6% a pedidos cibernéticos maliciosos, que é o número em torno do qual o lançamento realmente se organiza. Alguns deles vêm de harnesses de terceiros — o FrontierCode da Cognition, o Coding Agent Index da Artificial Analysis, a preferência humana da Surge Code —, mas a Mistral os executou e a Mistral os relatou. Nenhum foi reproduzido publicamente até o momento da redação.

O número que falta é aquele de que quem hospeda por conta própria mais precisa: a qualidade do NVFP4 em comparação com o checkpoint FP8 na mesma avaliação. A ficha apresenta a quantização como oferecendo redução de memória "com desempenho semelhante", o que é uma afirmação, não uma medição. Até que alguém publique uma execução em condições equivalentes, a posição honesta é que o checkpoint de 610 GB é aquele que você consegue encaixar e o checkpoint de 1.060,6 GB é aquele com documentação comprobatória.

Coloque a tabela do fornecedor diante dos mesmos benchmarks executados pela Artificial Analysis e o quadro muda de forma. A linha atual da AA para o Mistral Large 4 — API hospedada, alto esforço de raciocínio — coloca o Terminal-Bench 4.0 em 25%, dezesseis pontos abaixo dos 41% do post de lançamento, e o FrontierCode 2.0 em 15%, contra os 19,7% citados pela Mistral. Ambos são harnesses que a própria Mistral cita. A explicação provável é a configuração: os números do lançamento podem vir de um ajuste específico de raciocínio ou de um recorte específico de avaliação, e a AA mede o que a API pública retorna. A explicação inaceitável é aquela que a maior parte da cobertura adotou — imprimir os dois números como se medissem a mesma coisa.

A cláusula de licença que determina quem pode servi-lo

A licença é curta o suficiente para ser lida numa só sentada, e a cláusula que importa é a que trata de modelo como serviço. Operar um serviço hospedado sobre os pesos exige uma licença comercial separada da Mistral. Mas a definição de modelo como serviço exclui produtos embarcados para o usuário final e, separadamente, o "mero encaminhamento de solicitações para modelos hospedados por terceiros". Essa exceção é mais estreita do que parece à primeira vista: ela não permite montar sua própria inferência e revendê-la, e permite que um gateway encaminhe solicitações para a inferência hospedada pela Mistral sem se tornar licenciado. Se essa leitura se sustenta em uma disputa é uma questão para os advogados da Mistral, não para este blog.

O que nos leva à parte incômoda. O OrcaRouter não lista o Mistral Large 4 — nosso catálogo de 214 modelos não contém nenhum endpoint Mistral — então nada nesta versão é roteável aqui hoje, e quem afirmar o contrário está vendendo conversa. O que o catálogo traz é a outra metade de uma implantação como essa: uma DSL de roteamento que consegue manter uma carga de trabalho em um modelo e trocá-lo sem alteração de código, failover automático quando um endpoint se degrada, e precificação de repasse com 0% de markup, para que uma mudança de tarifa do próprio fornecedor chegue ao nosso lado no mesmo dia em que chega ao lado deles. Equipes que baixam 610 GB e montam sua própria máquina vLLM quase sempre mantêm uma rota hospedada por trás dela nas primeiras semanas, e é essa a parte que de fato conseguimos operar.

Quem deve iniciar o download hoje à noite?

Se você já executa oito GPUs Blackwell, ou tem uma regra de residência de dados que nenhum endpoint hospedado satisfaz, o cálculo mudou esta manhã — e mudou a seu favor: os pesos existem, a licença existe, e o fornecedor lhe entregou um comando de serving testado em vez de uma sugestão. Baixe primeiro o checkpoint NVFP4 — 610,1 GB é uma noite tolerável, e a imagem do vLLM está fixada. Execute sua própria avaliação contra a API hospedada antes de comprometer um caminho de produção com ela, porque a alegação de quantização não foi medida e os benchmarks do fornecedor são os do fornecedor.

Se você não executa esse tipo de hardware, nada neste lançamento é para você ainda. Um modelo de 1T com 49 bilhões de parâmetros ativos por token não é algo para baixar em um laptop nem um experimento de placa única, e o checkpoint FP8 tem um terabyte. A notícia que deve chegar até você é a linha de preço, não a listagem de arquivos: a API hospedada agora começa em US$ 0,70 e US$ 2,10, o que é aproximadamente metade do que o anúncio de outubro levou você a esperar, e essa é uma mudança que você pode aproveitar sem possuir uma única GPU.

A questão em aberto é a interessante. Um modelo de um trilhão de parâmetros que cabe em 610 GB é uma prova de que o NVFP4 consegue comprimir uma mistura de especialistas em escala de fronteira sem alterar sua forma. Se ele a comprime sem alterar suas respostas é algo que as próximas duas semanas de execuções independentes vão resolver, e ninguém publicou isso ainda — incluindo as pessoas que o lançaram.