API ของ Mistral Large 4: Chat, Agents, Batch และเอนด์พอยต์ที่คู่มือส่วนใหญ่ข้ามไป

บทความรีวิวโมเดลใหม่ส่วนใหญ่หยุดอยู่แค่การทดสอบการคอมพลีชันแชทเท่านั้น เอกสารของ Mistral เองสำหรับ Mistral Large 4 ระบุพื้นผิวผลิตภัณฑ์ไว้สี่แบบ — แชท, เอเจนต์และบทสนทนา, แบตช์ และเครื่องมือในตัว — ขณะที่หน้าราคาเพิ่มแกนที่สองซึ่งแทบไม่มีใครใช้: ระดับการอนุมานแบบมาตรฐาน แบบแบตช์ และแบบลำดับความสำคัญ พร้อมสวิตช์การอนุมานแบบภูมิภาค การรู้ว่าคุณอยู่ในแบบใดมีค่ามากกว่าการรู้คะแนนเบนช์มาร์กของโมเดล

พื้นผิวเหล่านี้ ตามที่ Mistral ระบุไว้ในเอกสาร

• Chat Completions — code>/v1/chat/completions/code> เอนด์พอยต์ที่จัดรูปแบบตาม OpenAI โดยระบุฟีเจอร์ต่าง ๆ ได้แก่ structured outputs, function calling, prefix completion และ document QnA

• เอเจนต์และบทสนทนา — code>/v1/agents/code> และ code>/v1/conversations/code> สถานะฝั่งเซิร์ฟเวอร์แทนการประกอบข้อความฝั่งไคลเอนต์: คุณเก็บบทสนทนาไว้ฝั่ง Mistral และอ้างอิงถึงบทสนทนานั้น ซึ่งขจัดรูปแบบ "ส่งประวัติทั้งหมดซ้ำ" ที่เป็นสาเหตุหลักของค่าใช้จ่ายโทเค็นอินพุต

• Batch — code>/v1/batch/code>. การส่งงานแบบอะซิงโครนัส โดยคิดราคาตามระดับแบทช์แทนระดับมาตรฐาน

• เครื่องมือในตัว —โมเดลเรียกใช้ชุดเครื่องมือของ Mistral เองแทนที่จะเป็นชุดเครื่องมือของคุณ

สี่รายการนั้นไม่ใช่ผลิตภัณฑ์เดียวกันที่มี URL ต่างกัน ส่วนการใช้งาน Agents จะเปลี่ยนโครงสร้างต้นทุนของคุณ — หากบทสนทนาอยู่ฝั่งเซิร์ฟเวอร์ ฝั่งอินพุตของบิลคุณจะไม่ขยายตามความยาวของประวัติอีกต่อไป ส่วนการใช้งาน Batch จะเปลี่ยนระดับราคาของคุณ ทั้งสองมีเอกสารประกอบ และทั้งสองเป็นสิ่งที่มองข้ามได้ง่าย เพราะบทเรียนทุกบทเริ่มและจบด้วย chat completions

แกนระดับที่ไม่มีใครกำหนดราคา

หน้าราคา API ของ Mistral มีแถวตัวกรอง — Standard, Batch, Priority — อยู่เหนือตารางโมเดล และมีสวิตช์แยกสำหรับ regional inference และอีกอันสำหรับสกุลเงิน นั่นหมายความว่าการ์ด $1.36/$0.14/$4.18 คือระดับ standard ส่วน Batch เป็นตัวเลขอีกชุด Priority ก็เป็นอีกตัวเลขหนึ่ง และทั้งสองไม่ได้แสดงในมุมมองเริ่มต้นที่ผู้ซื้อส่วนใหญ่แคปภาพไว้

ก่อนที่คุณจะเปรียบเทียบราคาของ Mistral Large 4 กับสิ่งใด ก็ควรยืนยันก่อนว่าตัวเลขที่คุณกำลังอ่านอยู่นั้นอยู่ในระดับใด ความไม่สมมาตรในทางปฏิบัติคือ งานแบบแบตช์ที่ไปตกอยู่ในระดับมาตรฐานกำลังจ่ายในราคาขายปลีกสำหรับความสามารถที่รายการราคาได้ให้ส่วนลดอยู่แล้ว

โมเดลที่อยู่เบื้องหลัง endpoints คืออะไร

1.05 ล้านล้านพารามิเตอร์ โดยมี 52 พันล้านพารามิเตอร์ที่ใช้งานอยู่ ตามการ์ดข้อมูลของ Mistral บนสถาปัตยกรรม mixture-of-experts แบบ sparse ที่ละเอียด พร้อมผู้เชี่ยวชาญที่ถูกจัดเส้นทาง 128 ตัว และเปิดใช้งาน 4 ตัวต่อโทเคน; ตัวเข้ารหัสภาพขนาด 1.6 พันล้านพารามิเตอร์; รับข้อความและภาพเข้า ส่งออกข้อความ; โดยจัดอยู่ในคลาส reasoning และ text ความยาวคอนเท็กซ์กำหนดค่าไว้ที่ 1M และวัดได้ 524,288 ในการกำหนดค่าที่ทดสอบ น้ำหนักโมเดลเปิดเผยต่อสาธารณะภายใต้ Mistral Ecosystem Open-Weight License ขนาด 1,060.6 GB ใน bf16 พร้อมรุ่นเคียงคู่ NVFP4 ขนาด 610.1 GB

ผลลัพธ์ประการหนึ่งของสัญญาอนุญาตนั้นสมควรมีอยู่ในทุกแผนการเชื่อมต่อ: ข้อ 2 สงวน "Model as a Service" — การให้บุคคลภายนอกเข้าถึงโมเดลโดยสามารถควบคุมอินพุต พารามิเตอร์ หรือข้อมูลฝึกได้อย่างมีนัยสำคัญ — ไว้สำหรับข้อตกลงเชิงพาณิชย์แยกต่างหาก คุณลักษณะที่ฝังอยู่ การติดตั้งใช้งานภายใน และการเพียงส่งต่อไปยังปลายทางของผู้อื่น ล้วนถูกแยกออกไป การเรียก API ไม่ได้รับผลกระทบ ส่วนการขายต่อการเข้าถึงแบบดิบผ่าน API ของคุณเองนั้นได้รับผลกระทบ

ลำดับการผสานรวมที่ช่วยประหยัดเงิน

• เลือกส่วนติดต่อก่อน หากผลิตภัณฑ์ของคุณมีการสนทนา ให้ใช้ endpoints agents/conversations และเลิกส่งประวัติซ้ำ นั่นคือรายการโทเค็นอินพุต และราคาอินพุตของโมเดลนี้คือ $1.36 ต่อล้าน

• เลือกแพ็กเกจเป็นขั้นตอนที่สองงานใด ๆ ที่เป็นแบบอะซิงโครนัสควรอยู่ใน batch และหน้าราคาจะแสดงส่วนต่างให้คุณเมื่อคุณสลับตัวกรอง

• วัดขีดจำกัดบริบทเป็นข้อที่สาม วัดได้ 524,288 ไม่ใช่ 1M ตามที่อ้าง — ส่งคำขอที่ใหญ่เกินหนึ่งครั้งไปยังโฮสต์ของคุณแล้วอ่านข้อผิดพลาด

• เพิ่มแคชเป็นขั้นตอนสุดท้าย อินพุตที่แคชไว้ในราคา $0.14 เมื่อเทียบกับราคามาตรฐาน $1.36 ถือเป็นจุดที่ช่วยลดค่าใช้จ่ายได้มากที่สุดเพียงจุดเดียวสำหรับบิลในสภาวะคงที่ โดยมีเงื่อนไขว่า prefix ของคุณต้องคงที่ การใส่ timestamp ไว้ที่ด้านบนของ system prompt จะทำให้กลายเป็นการเรียกที่คิดราคาเต็ม

Mistral Large 4 ไม่มีอยู่ในแคตตาล็อกของ OrcaRouter ดังนั้นนี่จึงไม่ใช่เส้นทางที่เราให้บริการได้ — โมเดลนี้เรียกใช้ได้ผ่าน API ของ Mistral เองและโฮสต์ของบุคคลที่สาม รูปแบบทั่วไปที่เราให้บริการคือเอนด์พอยต์ที่เข้ากันได้กับ OpenAI เพียงจุดเดียวซึ่งครอบคลุม 224 โมเดล โดยส่งต่อราคาตามรายการของผู้ให้บริการในอัตราบวกกำไร 0% และการเปลี่ยนแปลงระดับชั้นและราคาของผู้จำหน่ายจะมีผลในวันที่ประกาศ ไม่ใช่เมื่อถึงรอบต่ออายุครั้งถัดไป