L'API di Mistral Large 4: Chat, Agents, Batch e gli endpoint che la maggior parte delle guide trascura

La maggior parte delle analisi di un nuovo modello si ferma al completamento della chat. La documentazione ufficiale di Mistral per Mistral Large 4 elenca quattro superfici di prodotto — chat, agenti e conversazioni, batch e strumenti integrati — e la pagina dei prezzi aggiunge un secondo asse che quasi nessuno usa: livelli di inferenza standard, batch e prioritaria, più un'opzione per l'inferenza regionale. Sapere su quale di questi ti trovi vale più che conoscere il punteggio di benchmark del modello.

Le superfici, così come documentate da Mistral

• Chat Completions — code>/v1/chat/completions/code>. L'endpoint in stile OpenAI, con output strutturati, function calling, completamento del prefisso e QnA sui documenti elencati come funzionalità.

• Agenti e conversazioni — code>/v1/agents/code> e code>/v1/conversations/code>. Stato lato server anziché assemblaggio dei messaggi lato client: mantieni una conversazione dal lato di Mistral e vi fai riferimento, il che elimina lo schema "reinviare l'intera cronologia" che domina i costi dei token di input.

• Batch — code>/v1/batch/code>. Invio asincrono di job, con tariffazione basata sul livello batch anziché su quello standard.

• Strumenti integrati — il modello che chiama gli strumenti proprietari di Mistral anziché i tuoi.

Quei quattro non sono lo stesso prodotto con URL diversi. La superficie agents cambia la struttura dei costi: se le conversazioni risiedono lato server, il lato input della tua bolletta smette di crescere con la lunghezza della cronologia. La superficie batch cambia il tuo livello di prezzo. Entrambe sono documentate, ed entrambe sono facili da trascurare perché ogni tutorial inizia e finisce con le chat completions.

L'asse dei livelli che nessuno prezza

La pagina dei prezzi dell'API di Mistral presenta una riga di filtri — Standard, Batch, Priority — sopra la griglia dei modelli, e un interruttore separato per l'inferenza regionale e uno per la valuta. Ciò significa che la scheda $1.36/$0.14/$4.18 corrisponde al livello Standard. Batch è un numero diverso. Priority è ancora un numero diverso, e nessuno dei due è mostrato nella vista predefinita di cui la maggior parte degli acquirenti fa uno screenshot.

Prima di confrontare il prezzo di {{1}}Mistral Large 4{{/1}} con qualsiasi altra cosa, verifica a quale livello appartiene il numero che stai leggendo. L'asimmetria pratica: un carico di lavoro batch che finisce nel livello standard paga il prezzo pieno per una funzionalità che il listino prezzi già sconta.

Qual è il modello che sta dietro gli endpoint

1,05 trilioni di parametri con 52 miliardi attivi secondo la scheda di Mistral, su un mixture-of-experts sparso granulare con 128 esperti routed e quattro attivi per token; un encoder visivo da 1,6 miliardi di parametri; testo e immagini in input, testo in output; reasoning e testo come classe. La context window è di 1M configurata, 524.288 misurata sulla configurazione testata. I pesi sono pubblici con la Mistral Ecosystem Open-Weight License, 1.060,6 GB in bf16 con una versione NVFP4 da 610,1 GB.

Una conseguenza di quella licenza merita una riga in qualsiasi piano di integrazione: la clausola 2 riserva il "Model as a Service" — che dà a terzi accesso al modello con un controllo significativo su input, parametri o dati di addestramento — a un accordo commerciale separato. Una funzionalità incorporata, un'implementazione interna e la semplice ritrasmissione verso l'endpoint di qualcun altro sono tutte escluse. La chiamata all'API non è interessata; la rivendita dell'accesso grezzo tramite la propria API sì.

L'ordine di integrazione che fa risparmiare denaro

• Scegli prima la superficie. Se il tuo prodotto gestisce conversazioni, usa gli endpoint agents/conversations e smetti di inviare di nuovo la cronologia; quella è una voce di token di input, e il prezzo di input di questo modello è $1.36 per milione.

• Scegli il livello come seconda operazione. Tutto ciò che è asincrono va su batch, e la pagina dei prezzi ti mostrerà il delta una volta cambiato il filtro.

• Misura per terzo il limite massimo del contesto. 524.288 misurati, non 1M dichiarato — invia una richiesta sovradimensionata al tuo host e leggi l'errore.

• Aggiungi la cache per ultima. $0.14 di input in cache contro $1.36 standard è la singola leva più importante su una bolletta a regime stabile, purché il prefisso sia stabile. Un timestamp all'inizio di un prompt di sistema lo trasforma in una chiamata a prezzo pieno.

Mistral Large 4 non è nel catalogo di OrcaRouter, quindi non è una route che possiamo offrire — è invocabile tramite l'API proprietaria di Mistral e host di terze parti. La struttura generale che offriamo è un unico endpoint compatibile con OpenAI su 224 modelli, con i prezzi di listino dei provider applicati senza alcun ricarico (markup 0%), in cui le modifiche a tier e prezzi di un fornitore entrano in vigore lo stesso giorno dell'annuncio anziché al rinnovo successivo.