ה-API של Mistral Large 4: צ׳אט, סוכנים, Batch ונקודות הקצה שרוב המדריכים מדלגים עליהן, תמונה 1 מתוך 4.
Guides & Insights

ה-API של Mistral Large 4: צ׳אט, סוכנים, Batch ונקודות הקצה שרוב המדריכים מדלגים עליהן

מחבר

Rowan Sterling

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

רוב הכתבות על מודל חדש מסתיימות בהשלמת צ'אט. התיעוד של Mistral עצמה עבור Mistral Large 4 מפרט ארבעה משטחי מוצר — צ'אט, סוכנים ושיחות, אצווה, וכלים מובנים — ועמוד התמחור מוסיף ציר שני שכמעט אף אחד לא משתמש בו: דרגות הסקה סטנדרטית, אצווה ועדיפות, בתוספת מתג להסקה אזורית. לדעת באיזו מהן אתה נמצא שווה יותר מאשר לדעת את ציון הבנצ'מרק של המודל.

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 2 of 4.

המשטחים, כפי ש-Mistral מתעדת אותם

• Chat Completions — code>/v1/chat/completions/code>. נקודת הקצה בצורת OpenAI, עם פלטים מובנים, קריאה לפונקציות, השלמת קידומת ו־QnA על מסמכים המוצגים כתכונות.

• סוכנים ושיחות — code>/v1/agents/code> וcode>/v1/conversations/code>. מצב בצד השרת במקום הרכבת הודעות בצד הלקוח: אתם שומרים שיחה בצד של Mistral ומתייחסים אליה, מה שמבטל את דפוס "שליחה מחדש של כל ההיסטוריה" שמהווה את עיקר חיובי טוקני הקלט.

• אצווה — code>/v1/batch/code>. הגשת עבודה אסינכרונית, בתמחור לפי שכבת האצווה ולא לפי השכבה הסטנדרטית.

• כלים מובנים — המודל קורא למערך הכלים של Mistral עצמו ולא לשלך.

ארבעת אלה אינם אותו מוצר עם כתובות URL שונות. משטח ה-Agents משנה את מבנה העלויות שלך — אם השיחות מתנהלות בצד השרת, צד הקלט בחשבונית שלך מפסיק לגדול עם אורך ההיסטוריה. משטח ה-Batch משנה את שכבת המחיר שלך. שניהם מתועדים, ושניהם קלים לפספוס כי כל מדריך מתחיל ומסתיים ב-chat completions.

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 3 of 4.

ציר השכבה שאיש לא מתמחר

עמוד התמחור של ה-API של Mistral כולל שורת מסננים — Standard, Batch, Priority — מעל טבלת הדגמים, ומתג נפרד להסקה אזורית ומתג נוסף למטבע. כלומר, הכרטיס $1.36/$0.14/$4.18 הוא שכבת Standard. ‏Batch הוא מספר אחר. ‏Priority הוא מספר אחר שוב, ואף אחד מהשניים לא מוצג בתצוגת ברירת המחדל שרוב הקונים מצלמים.

לפני שאתם משווים את המחיר של Mistral Large 4 לשום דבר, ודאו לאיזו שכבה שייך המספר שאתם קוראים. האי-סימטריה המעשית: עומס עבודה באצווה שנמצא בשכבה הסטנדרטית משלם מחיר קמעונאי עבור יכולת שהמחירון כבר מעניק לה הנחה.

Mistral Large 4's API: Chat, Agents, Batch and the Endpoints Most Guides Skip, image 4 of 4.

מהו המודל העומד מאחורי נקודות הקצה

1.05 טריליון פרמטרים, עם 52 מיליארד פעילים על פי כרטיס המודל של Mistral, על גבי תערובת מומחים דלילה וגרגרית עם 128 מומחים מנותבים וארבעה פעילים לכל טוקן; מקודד חזותי בן 1.6 מיליארד פרמטרים; קלט טקסט ותמונה, פלט טקסט; חשיבה וטקסט כקטגוריה. אורך ההקשר הוא 1M בהגדרה, ו-524,288 כפי שנמדד בתצורה שנבדקה. המשקלים ציבוריים תחת Mistral Ecosystem Open-Weight License, בגודל 1,060.6 GB ב-bf16, עם גרסה אחות בגודל 610.1 GB ב-NVFP4.

לתוצאה אחת של הרישיון הזה מגיע שורה בכל תוכנית אינטגרציה: סעיף 2 מייחד את "Model as a Service" — מתן גישה לצדדים שלישיים למודל עם שליטה משמעותית בקלטים, בפרמטרים או בנתוני אימון — להסכם מסחרי נפרד. תכונה מוטמעת, פריסה פנימית והעברה גרידא לנקודת קצה של מישהו אחר — כולם מוחרגים. קריאה ל-API אינה מושפעת; מכירה חוזרת של גישה גולמית דרך ה-API שלך מושפעת.

סדר האינטגרציה שחוסך כסף

• בחרו תחילה את המשטח. אם המוצר שלכם מנהל שיחות, השתמשו בנקודות הקצה agents/conversations והפסיקו לשלוח מחדש את ההיסטוריה; מדובר בסעיף של טוקני קלט, ומחיר הקלט של מודל זה הוא 1.36 דולר למיליון.

• בחר את המסלול בשלב השני.כל דבר אסינכרוני שייך ל-batch, ועמוד התמחור יציג לך את ההפרש ברגע שתחליף את המסנן.

• מדוד את תקרת ההקשר — שלישי. 524,288 נמדד, לא 1M כפי שנטען — שלח בקשה אחת גדולה מדי למארח שלך וקרא את השגיאה.

• הוסף מטמון אחרון. קלט שמור במטמון בעלות של $0.14 לעומת $1.36 בסטנדרט הוא המנוף הגדול ביותר על חשבון במצב יציב, בתנאי שהקידומת שלך יציבה. חותמת זמן בראש הנחיית מערכת הופכת אותו לקריאה במחיר מלא.

Mistral Large 4 אינו נכלל בקטלוג של OrcaRouter, ולכן זהו אינו נתיב שאנו יכולים להציע — ניתן לקרוא לו דרך ה-API של Mistral עצמה ומארחי צד שלישי. הצורה הכללית שאנו כן מציעים היא נקודת קצה אחת תואמת OpenAI מעל 224 מודלים, עם מחירי מחירון של הספקים המועברים ללא תוספת של 0%, שבה שינויי הרמה והמחיר של ספק נכנסים לתוקף ביום ההכרזה ולא בחידוש הבא.