API do Mistral Large 4: Chat, Agents, Batch e os endpoints que a maioria dos guias ignora, imagem 1 de 4.
Guides & Insights

A API do Mistral Large 4: Chat, Agentes, Batch e os endpoints que a maioria dos guias ignora

Autor

Rowan Sterling

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

A maioria das análises de um novo modelo para na conclusão do chat. A documentação da própria Mistral para o Mistral Large 4 lista quatro superfícies de produto — chat, agentes e conversas, lote e ferramentas integradas — e a página de preços acrescenta um segundo eixo que quase ninguém usa: níveis de inferência padrão, em lote e prioritária, além de um alternador de inferência regional. Saber em qual deles você está vale mais do que saber a pontuação de benchmark do modelo.

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 2 of 4.

As superfícies, conforme a Mistral as documenta

• Chat Completions — code>/v1/chat/completions/code>. O endpoint no formato OpenAI, com saídas estruturadas, chamadas de função, completamento de prefixo e QnA de documentos listados como recursos.

• Agentes e Conversas — code>/v1/agents/code> e code>/v1/conversations/code>. Estado no lado do servidor em vez de montagem de mensagens no lado do cliente: você mantém uma conversa do lado da Mistral e faz referência a ela, o que remove o padrão de "reenviar todo o histórico" que domina as faturas de tokens de entrada.

• Batch — code>/v1/batch/code>. Submissão assíncrona de tarefas, com preço na camada Batch em vez da padrão.

• Ferramentas integradas — o modelo chamando o conjunto de ferramentas da própria Mistral em vez do seu.

Esses quatro não são o mesmo produto com URLs diferentes. A superfície de agents muda sua estrutura de custos — se as conversas ficam do lado do servidor, o lado de entrada da sua fatura deixa de escalar com o tamanho do histórico. A superfície de batch muda sua faixa de preço. Ambas estão documentadas, e ambas são fáceis de passar despercebidas porque todo tutorial começa e termina com chat completions.

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 3 of 4.

O eixo de níveis que ninguém precifica

A página de preços da API da Mistral tem uma linha de filtros — Padrão, Lote, Prioridade — acima da grade de modelos, e um alternador separado para inferência regional e outro para moeda. Isso significa que o cartão $1.36/$0.14/$4.18 é o nível padrão. Lote é um número diferente. Prioridade é outro número diferente, e nenhum dos dois aparece na visualização padrão que a maioria dos compradores registra em capturas de tela.

Antes de comparar o preço do Mistral Large 4 com qualquer outra coisa, confirme a qual faixa pertence o número que você está lendo. A assimetria prática: uma carga de trabalho em lote que cai na faixa padrão está pagando o preço de varejo por uma capacidade que a tabela de preços já oferece com desconto.

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 4 of 4.

Qual é o modelo por trás dos endpoints

1,05 trilhão de parâmetros, com 52 bilhões ativos segundo a ficha técnica da Mistral, em uma mistura de especialistas esparsa e granular com 128 especialistas roteados e quatro ativos por token; um codificador de visão de 1,6 bilhão de parâmetros; texto e imagem na entrada, texto na saída; raciocínio e texto como classe. O contexto é de 1M configurado, 524.288 medidos na configuração testada. Os pesos são públicos sob a Mistral Ecosystem Open-Weight License, 1.060,6 GB em bf16 com uma versão irmã NVFP4 de 610,1 GB.

Uma consequência dessa licença merece uma linha em qualquer plano de integração: a cláusula 2 reserva o «Model as a Service» — conceder a terceiros acesso ao modelo com controlo significativo sobre entradas, parâmetros ou dados de treino — para um acordo comercial separado. Uma funcionalidade incorporada, uma implementação interna e o mero encaminhamento para o endpoint de outra pessoa ficam todos de fora. As chamadas à API não são afetadas; a revenda de acesso bruto através da sua própria API é.

A ordem de integração que economiza dinheiro

• Escolha a superfície primeiro. Se o seu produto mantém conversas, use os endpoints agents/conversations e pare de reenviar o histórico; isso é uma linha de tokens de entrada, e o preço de entrada deste modelo é US$ 1,36 por milhão.

• Escolha o nível em segundo lugar. Tudo o que é assíncrono pertence ao lote, e a página de preços mostrará a diferença assim que você trocar o filtro.

• Meça o teto de contexto em terceiro lugar. 524.288 medidos, e não 1 milhão alegado — envie uma requisição superdimensionada para o seu host e leia o erro.

• Adicione o cache por último. $0.14 de entrada em cache contra $1.36 padrão é a maior alavanca individual em uma fatura em regime estável, desde que seu prefixo seja estável. Um carimbo de data/hora no topo de um prompt de sistema transforma isso em uma chamada a preço integral.

O Mistral Large 4 não está no catálogo do OrcaRouter, portanto não é uma rota que podemos oferecer — ele é acessível pela API própria da Mistral e por hosts de terceiros. O formato geral que oferecemos é um endpoint compatível com OpenAI sobre 224 modelos, com os preços de tabela dos provedores repassados com 0% de margem, em que mudanças de nível e de preço de um fornecedor entram em vigor no dia em que são anunciadas, e não na próxima renovação.