Mistral Large 4:s API: chatt, agenter, batch och de slutpunkter som de flesta guider hoppar över

De flesta genomgångar av en ny modell slutar vid chattkompletteringen. Mistrals egen dokumentation för Mistral Large 4 listar fyra produktytor – chatt, agenter och konversationer, batch och inbyggda verktyg – och prissidan lägger till en andra axel som nästan ingen använder: standard-, batch- och prioritetsnivåer för inferens, plus en växel för regional inferens. Att veta vilken av dessa du befinner dig på är värt mer än att känna till modellens benchmarkpoäng.

Ytorna, så som Mistral dokumenterar dem

• Chat Completions — code>/v1/chat/completionsDen OpenAI-formade slutpunkten, där strukturerade utdata, funktionsanrop, prefixkomplettering och dokument-QnA anges som funktioner.

• Agenter och konversationer — code>/v1/agents/code> och code>/v1/conversations/code>. Serversidigt tillstånd i stället för meddelandesammansättning på klientsidan: du behåller en konversation på Mistrals sida och refererar till den, vilket tar bort mönstret "skicka om hela historiken" som dominerar fakturorna för indatatoken.

• Batch — code>/v1/batch/code>. Asynkron inlämning av jobb, prissatt på batch-nivån i stället för standardnivån.

• Inbyggda verktyg — modellen anropar Mistrals egen verktygsuppsättning i stället för din.

De där fyra är inte samma produkt med olika URL:er. Agents-ytan förändrar din kostnadsstruktur – om konversationerna lever på serversidan skalar inte inputsidan av din faktura längre med historikens längd. Batch-ytan förändrar din prisklass. Båda är dokumenterade, och båda är lätt att missa eftersom varje handledning börjar och slutar med chat completions.

Nivåaxeln som ingen prissätter

Mistrals API-prissida har en filterrad – Standard, Batch, Priority – ovanför modellrutnätet, och en separat växlingsknapp för regional inferens och en för valuta. Det betyder att kortet $1.36/$0.14/$4.18 är standardnivån. Batch är ett annat nummer. Priority är ännu ett annat nummer, och ingendera visas i standardvyn som de flesta köpare skärmdumpar.

Innan du jämför priset på Mistral Large 4 med något annat bör du bekräfta vilken nivå siffran du läser hör till. Den praktiska asymmetrin: en batcharbetsbelastning som hamnar på standardnivån betalar ordinarie pris för en kapacitet som prislistan redan ger rabatt på.

Vad det är för modell bakom slutpunkterna

1,05 biljoner parametrar med 52 miljarder aktiva enligt Mistrals modellkort, på en granulär sparse mixture-of-experts med 128 routade experter och fyra aktiva per token; en visionsencoder med 1,6 miljarder parametrar; text och bild in, text ut; resonemang och text som klass. Kontexten är 1M konfigurerad, 524 288 uppmätt på den testade konfigurationen. Vikterna är offentliga under Mistral Ecosystem Open-Weight License, 1 060,6 GB i bf16 med en syskonmodell på 610,1 GB i NVFP4.

En konsekvens av den licensen förtjänar en rad i varje integrationsplan: klausul 2 förbehåller "Model as a Service" – att ge tredje parter tillgång till modellen med meningsfull kontroll över indata, parametrar eller träningsdata – för ett separat kommersiellt avtal. En inbäddad funktion, en intern driftsättning och enbart vidarebefordran till någon annans slutpunkt undantas alla. Att anropa API:et påverkas inte; att vidareförsälja rå åtkomst via ditt eget API påverkas.

Integrationsordningen som sparar pengar

• Välj ytan först. Om din produkt har samtal använder du slutpunkterna agents/conversations och slutar skicka historiken igen; det är en rad för indata-token, och den här modellens indatapris är $1.36 per miljon.

• Välj nivån som andra steg. Allt asynkront hör hemma i batch, och prissättningssidan visar dig differensen när du byter filtret.

• Mät kontexttaket som tredje punkt. 524 288 uppmätt, inte 1M påstått — skicka en för stor förfrågan till din värd och läs felet.

• Lägg till cachning sist. $0,14 för cachad indata mot $1,36 standard är den enskilt största spaken för en löpande kostnad, förutsatt att ditt prefix är stabilt. En tidsstämpel högst upp i en systemprompt gör det till ett anrop till fullt pris.

Mistral Large 4 finns inte i OrcaRouters katalog, så detta är inte en rutt vi kan erbjuda – den kan anropas via Mistrals eget API och tredjepartsvärdar. Den övergripande lösning vi erbjuder är en OpenAI-kompatibel slutpunkt för 224 modeller med leverantörernas listpriser vidarebefordrade med 0 % påslag, där ändringar av en leverantörs nivå och pris slår igenom samma dag som de annonseras i stället för vid nästa förnyelse.