API Mistral Large 4: Chat, Agents, Batch, dan Endpoint yang Sering Dilewatkan Panduan

Sebagian besar ulasan tentang model baru berhenti pada chat completion. Dokumentasi Mistral sendiri untuk Mistral Large 4 mencantumkan empat permukaan produk — chat, agen dan percakapan, batch, dan alat bawaan — dan halaman harga menambahkan sumbu kedua yang hampir tidak digunakan orang: tingkat inferensi standar, batch, dan prioritas, plus sakelar inferensi regional. Mengetahui di mana Anda berada di antara semua itu lebih berharga daripada mengetahui skor benchmark model.

Permukaan-permukaan itu, sebagaimana didokumentasikan oleh Mistral.

• Chat Completions — code>/v1/chat/completions/code>. Endpoint berbentuk OpenAI, dengan output terstruktur, pemanggilan fungsi, penyelesaian awalan, dan tanya jawab dokumen yang tercantum sebagai fitur.

• Agen & Percakapan — code>/v1/agents/code> dan code>/v1/conversations/code>. State sisi server alih-alih penyusunan pesan sisi klien: Anda menyimpan percakapan di sisi Mistral dan merujuknya, yang menghilangkan pola "kirim ulang seluruh riwayat" yang mendominasi tagihan token input.

• Batch — code>/v1/batch/code>. Pengiriman pekerjaan asinkron, dengan harga pada tier batch, bukan tier standar.

• Alat Bawaan — model memanggil kumpulan alat milik Mistral sendiri, bukan milik Anda.

Keempatnya bukan produk yang sama dengan URL berbeda. Fitur agents mengubah struktur biaya Anda — jika percakapan berada di sisi server, sisi input tagihan Anda berhenti bertambah seiring panjang riwayat. Fitur batch mengubah tingkat harga Anda. Keduanya terdokumentasi, dan keduanya mudah terlewat karena setiap tutorial dimulai dan diakhiri dengan chat completions.

Sumbu tier yang tidak diberi harga oleh siapa pun

Halaman harga API Mistral memiliki baris filter — Standard, Batch, Priority — di atas grid model, serta tombol terpisah untuk inferensi regional dan satu lagi untuk mata uang. Artinya, kartu $1.36/$0.14/$4.18 adalah tier standar. Batch adalah angka yang berbeda. Priority juga angka yang berbeda lagi, dan keduanya tidak ditampilkan dalam tampilan default yang biasanya di-screenshot oleh sebagian besar pembeli.

Sebelum Anda membandingkan harga Mistral Large 4 dengan apa pun, pastikan angka yang Anda baca termasuk tier yang mana. Asimetri praktisnya: beban kerja batch yang masuk ke tier standar membayar harga ritel untuk kemampuan yang sudah mendapat diskon di daftar harga.

Apa model di balik endpoint tersebut

1,05 triliun parameter dengan 52 miliar yang aktif menurut kartu model Mistral, pada mixture-of-experts sparse granular dengan 128 expert routed dan empat yang aktif per token; encoder visi 1,6 miliar parameter; teks dan gambar masuk, teks keluar; reasoning dan teks sebagai kelasnya. Konteks 1M terkonfigurasi, 524.288 terukur pada konfigurasi yang diuji. Bobot bersifat publik di bawah Mistral Ecosystem Open-Weight License, 1.060,6 GB dalam bf16 dengan versi NVFP4 610,1 GB.

Salah satu konsekuensi dari lisensi tersebut layak mendapat satu baris dalam setiap rencana integrasi: klausul 2 mencadangkan "Model as a Service" — memberikan pihak ketiga akses ke model dengan kendali yang bermakna atas input, parameter, atau data pelatihan — untuk perjanjian komersial terpisah. Fitur tersemat, penerapan internal, dan sekadar meneruskan ke endpoint milik pihak lain semuanya dikecualikan. Memanggil API tidak terpengaruh; menjual kembali akses mentah melalui API Anda sendiri terpengaruh.

Urutan integrasi yang menghemat uang

• Pilih surface terlebih dahulu. Jika produk Anda menangani percakapan, gunakan endpoint agents/conversations dan berhenti mengirim ulang riwayat; itu adalah pos token input, dan harga input model ini adalah $1.36 per juta.

• Pilih tier sebagai langkah kedua. Apa pun yang asinkron harus masuk ke batch, dan halaman harga akan menunjukkan selisihnya setelah Anda mengganti filter.

• Ukur batas atas konteks sebagai poin ketiga. 524,288 terukur, bukan 1M yang diklaim — kirim satu permintaan berukuran berlebih ke host Anda dan baca pesan errornya.

• Tambahkan caching terakhir. Input cache $0.14 dibandingkan $1.36 standar adalah pengungkit tunggal terbesar pada tagihan steady-state, asalkan prefix Anda stabil. Timestamp di bagian atas system prompt mengubahnya menjadi panggilan dengan harga penuh.

Mistral Large 4 tidak ada di katalog OrcaRouter, jadi ini bukan rute yang dapat kami tawarkan — model ini dapat dipanggil melalui API milik Mistral sendiri dan host pihak ketiga. Bentuk umum yang kami tawarkan adalah satu endpoint kompatibel OpenAI untuk 224 model, dengan harga daftar penyedia diteruskan pada markup 0%, di mana perubahan tier dan harga vendor berlaku pada hari diumumkan, bukan pada perpanjangan berikutnya.