De API van Mistral Large 4: Chat, Agents, Batch en de eindpunten die de meeste handleidingen overslaan, afbeelding 1 van 4.
Guides & Insights

De API van Mistral Large 4: Chat, Agents, Batch en de endpoints die de meeste gidsen overslaan

Auteur

Rowan Sterling

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

De meeste besprekingen van een nieuw model stoppen bij de chat completion. Mistral's eigen documentatie voor Mistral Large 4 somt vier productoppervlakken op — chat, agents en conversations, batch en ingebouwde tools — en de prijspagina voegt een tweede as toe die bijna niemand gebruikt: standaard-, batch- en priority-inferentieniveaus, plus een schakelaar voor regionale inferentie. Weten op welk van die niveaus je zit, is meer waard dan de benchmarkscore van het model kennen.

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 2 of 4.

De oppervlakken, zoals Mistral ze documenteert

• Chat Completions — code>/v1/chat/completions/code>. Het OpenAI-vormige endpoint, met gestructureerde outputs, function calling, prefix completion en document-QnA als functies.

• Agents & gesprekken — code>/v1/agents/code> en code>/v1/conversations/code>. Status op de server in plaats van het samenstellen van berichten op de client: je houdt een gesprek aan de kant van Mistral en verwijst ernaar, waardoor het patroon 'de hele geschiedenis opnieuw verzenden' verdwijnt dat de kosten voor invoertokens domineert.

• Batch — code>/v1/batchAsynchrone taakindiening, geprijsd op de batchcategorie in plaats van de standaardcategorie.

• Ingebouwde tools — het model dat Mistrals eigen toolset aanroept in plaats van de uwe.

Die vier zijn niet hetzelfde product met verschillende URL's. De agents-interface verandert je kostenstructuur: als gesprekken aan serverzijde staan, schaalt de invoerkant van je rekening niet meer mee met de lengte van de geschiedenis. De batch-interface verandert je prijsklasse. Beide zijn gedocumenteerd, en beide zijn makkelijk te missen omdat elke tutorial begint en eindigt met chat completions.

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 3 of 4.

De niveau-as die niemand beprijst

De API-prijspagina van Mistral heeft een filterrij — Standard, Batch, Priority — boven het modelraster, plus een aparte schakelaar voor regionale inferentie en één voor valuta. Dat betekent dat de kaart met $1,36/$0,14/$4,18 het standaardtarief is. Batch is een ander getal. Priority is weer een ander getal, en geen van beide is te zien in de standaardweergave waarvan de meeste kopers een screenshot maken.

Voordat je de prijs van Mistral Large 4 met iets vergelijkt, controleer je bij welk tariefniveau het getal hoort dat je leest. De praktische asymmetrie: een batchworkload die op het standaardtarief terechtkomt, betaalt de retailprijs voor een capaciteit waarvoor de prijslijst al korting biedt.

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 4 of 4.

Wat het model achter de endpoints is

1,05 biljoen parameters, waarvan 52 miljard actief volgens Mistrals modelkaart, op een fijnmazige schaarse mixture-of-experts met 128 gerouteerde experts en vier actief per token; een vision-encoder met 1,6 miljard parameters; tekst en afbeelding als invoer, tekst als uitvoer; redeneren en tekst als de klasse. De context is 1M geconfigureerd, 524.288 gemeten op de geteste configuratie. De gewichten zijn openbaar onder de Mistral Ecosystem Open-Weight License, 1.060,6 GB in bf16 met een NVFP4-tegenhanger van 610,1 GB.

Eén gevolg van die licentie verdient een regel in elk integratieplan: clausule 2 reserveert "Model as a Service" — derden toegang geven tot het model met betekenisvolle controle over inputs, parameters of trainingsdata — voor een afzonderlijke commerciële overeenkomst. Een ingebedde functie, een interne implementatie en louter doorsturen naar de endpoint van iemand anders vallen allemaal buiten die bepaling. Het aanroepen van de API wordt hierdoor niet geraakt; het doorverkopen van ruwe toegang via je eigen API wel.

De integratievolgorde die geld bespaart

• Kies eerst de interface. Als je product gesprekken onderhoudt, gebruik dan de agents/conversations-endpoints en stop met het opnieuw verzenden van geschiedenis; dat is een input-tokenregel, en de inputprijs van dit model is $1,36 per miljoen.

• Kies de tier als tweede. Alles wat asynchroon is, hoort bij batch, en de prijzenpagina laat je het verschil zien zodra je van filter wisselt.

• Meet het contextplafond als derde. 524,288 gemeten, niet de geclaimde 1M — stuur één te grote aanvraag naar je host en lees de foutmelding.

• Voeg caching als laatste toe. $0.14 voor gecachte invoer tegenover $1.36 standaard is de grootste hefboom op een stabiele factuur, mits je prefix stabiel is. Een tijdstempel boven in een systeemprompt maakt er een aanroep tegen volledige prijs van.

Mistral Large 4 staat niet in de catalogus van OrcaRouter, dus dit is geen route die we kunnen aanbieden — het is aanroepbaar via de eigen API van Mistral en hosts van derden. De algemene vorm die we wel aanbieden is één OpenAI-compatibel endpoint voor 224 modellen, met de lijstprijzen van providers doorgegeven tegen 0% opslag, waarbij wijzigingen in de tier en prijs van een leverancier ingaan op de dag dat ze worden aangekondigd en niet pas bij de volgende verlenging.