Voxtral 3: Mistral מציבה ארבעה מודלי דיבור ו-API לסוכן קולי על אותו מונה חיוב

המספר המעניין בהשקה של Mistral ב-20 באוקטובר אינו שיעור שגיאות מילים. הוא $0.04 לדקה. זה מה שהחברה גובה עבור Voxtral 3 כסוכן קולי — צינור מקצה לקצה ששומע מתקשר, מבין את מה שאמר באמצעות Mistral Small 4, מפעיל כלים ומשיב. חברו את החלקים ש-Mistral מוכרת בנפרד, ואותה דקה עולה יותר: Voxtral Mini Transcribe Realtime 3 ב-$0.008, בתוספת Voxtral Mini T​TS 3 בכ-$0.02 בקירוב בקצב דיבור רגיל, בתוספת מודל החשיבה על גבי זה. הדקה שבחבילה היא המוצר. כל השאר — Voxtral Small Transcribe 3, Voxtral Mini Transcribe 3, Voxtral Mini Transcribe Realtime 3, Voxtral Speech 3 — נמכר כרכיב שאפשר לקנות לפי בחירה, וכדרך להראות שהרכיבים טובים מספיק כדי שיהיה שווה לחברן. צינורות של סוכנים קוליים נכשלים בדרכים שדפי תעריפים לעולם לא מזכירים, והתקלות המתועדות מקוטלגות בארכיון התקלות של OrcaRouter AI שבו לכל ערך יש מקורות משלו, חומרה, דרגת ביטחון וסימון מחלוקת.

מה באמת חדש, דגם אחר דגם

זהו רענון של משפחת דגמים, לא דגם בודד עם שדרוג גרסה. לכל חלק יש תפקיד נפרד ומחיר נפרד, והחלוקה חשובה יותר מהשם המשותף.

• Voxtral Small Transcribe 3 — שכבת הדיוק. $0.004 לדקה, חלון הקשר של 32k, וההצהרה המובילה של Mistral לתמלול עם דיאריזציה. הוא גם מבצע תרגום, שאלות ותשובות על דיבור, סיכום וקריאה לפונקציות, מה שהופך אותו לחבר היחיד במשפחה שקרוב יותר למודל אודיו-שפה מאשר לתמללן.

• Voxtral Mini Transcribe 3 — 4B פרמטרים, $0.0035 לדקה, חלון הקשר של 32k. Mistral מוסרת את הגודל של זה אך נמנעת מלמסור את זה של מודל ה-Small. אי-הסימטריה הזו ראויה לתשומת לב: מודל ה-mini הוא זה שממוצב לנפחים ולפריסה בקצה, כך שטביעת הרגל שלו היא נקודת מכירה; זו של דגם הדגל אינה נחשפת.

• Voxtral Mini Transcribe Realtime 3 — סטרימינג דרך WebSocket במחיר 0.008 דולר לדקה, עם השהיה הניתנת להגדרה מ-80 אלפיות השנייה ועד 2,400 אלפיות השנייה, וזיהוי סוף תור שמשלב רמזים אקוסטיים וסמנטיים במקום להמתין לשתיקה. במסמכים נכתב "מתחת ל-500 אלפיות השנייה"; הרף התחתון הניתן להגדרה נמוך בהרבה מכך, והפגיעה בדיוק כתוצאה מירידה לשהיה נמוכה היא משמעותית — ראו את סעיף הבנצ'מרק.

• Voxtral Speech 3 (נמכר במסמכים בשם Voxtral Mini T​TS 3) — 13 דולר למיליון תווים, כ-90 אלפיות השנייה עד לאודיו הראשון, 34 תגיות רגש ושתי תגיות קצב, תשע שפות, שיבוט קולי zero-shot ו"מקצועי". בעמוד ההשקה של Mistral, השיבוט מוצג כדורש 30+ דקות של אודיו ייחוס.

מתחת לזה נמצא ה-SDK של סוכן קולי, הבנוי על LiveKit ועל ASR זורם, LLM ו-TTS כצינור אחד. הוא מקבל שיחות SIP, הפעלות WebRTC וקווי טלפוניה או IVR קיימים, תומך בהפרעה באמצע הדיבור (barge-in), ומאפשר להחליף את מודל החשיבה, את הקול או את השפה בלי לבנות מחדש את הסוכן. Mistral מציינת השהיית תור של פחות משנייה.

טבלת הבנצ'מארק, קרא בעיון

מיסטרל פרסמה את המספרים שלה, ואלה מספרים טובים. במדד FLEURS 45 לשיעור שגיאות מילים בממוצע מאקרו, Voxtral Small Transcribe 3 מגיע ל-4.1% עם שפה מאולצת ול-4.0% עם שפה מוסקת. Voxtral Mini Transcribe 3 נמצא ב-4.6% / 4.5%. לשם השוואה, באותה טבלת ספקים: G​emini 3.5 Transcribe ב-6.1% / 4.5%, Scribe v2 ב-4.9%, G​PT Transcribe ב-6.3% / 5.6%, ו-Whisper large-v3 ב-16.0% / 14.9%.

שני דברים בטבלה הזו ראויים למבט שני. ראשית, MAI-Transcribe-2 של Microsoft עומד על 4.1% / 4.0% — זהה ל-Voxtral Small Transcribe 3, עד לספרה העשרונית. טבלת ספק שבה הדגם המוביל משתווה בדיוק למתחרה הקרוב ביותר שלו היא או תיקו אמיתי או תיקו מעוגל; Mistral אינה אומרת איזה מהם. שנית, נתון Whisper אינו המספר שאף אחד אחר מצטט עבור Whisper. Whisper large-v3 משיג 7.44 WER ממוצע בלוח Open ASR Leaderboard, וגרסת Turbo משיגה 4.6% בלוח העצמאי של Artificial Analysis. שישה עשר אחוז הם מה ש-Whisper נראה כמו על אודיו FLEURS רב-לשוני קשה במיוחד, לא מה שהוא נראה כמו באנגלית בסביבת ייצור. שימוש בפרוסה הקשה ביותר הזמינה עבור מתחרה הוא מהלך שיווקי רגיל, אבל זה מהלך שיווקי.

הלוח העצמאי מספר סיפור הדוק יותר. ב-Artificial Analysis, ‏Voxtral Small Transcribe 3 עומד על 2.1% AA-WER ו-Voxtral Mini Transcribe 3 על 2.2% — ראשון ושני בלוח המובילים ללא סטרימינג נכון למועד כתיבת הדברים, כאשר MAI-Transcribe-2 עם 2.0% נמצא במקום שמעליהם בהתאם למועד שבו קוראים את הלוח. אלה קרובים מספיק כדי שסדר הדירוג ישתנה בהרצות חוזרות. כל מי שמצטט מנצח מתוך פער של 0.1 נקודות מצטט רעש.

היכן ששכבת זמן־אמת מחזירה את הדיוק

הנתונים של הסטרימינג הם הדבר השימושי ביותר שמסטרל פרסמה, משום שהם הכי פחות מחמיאים. ב-FLEURS 35, קו הבסיס הלא-מקוון של Voxtral Mini Transcribe 3 הוא 4.0% WER. מודל הזמן-אמת מתדרדר באופן מונוטוני ככל שמבקשים ממנו לענות מוקדם יותר:

• השהיה של 2,400 מ״ש — 5.7% WER

• 960 ms — 6.0%

• 480 מ״ש — 6.4%

• 240 מ״ש — 7.4%

לעומת זאת, Mistral מציינת את Gemini 3.5 Realtime Transcribe ב-4.2%, את שכבת הסטרימינג של Microsoft ב-5.8%, את GPT Live Transcribe ב-8.4% ואת Scribe v2 Realtime ב-8.7%. לכן הקריאה הכנה היא: בהשהיה נוחה של 2.4 שניות, שכבת ה-realtime של Voxtral תחרותית מול Microsoft ומנצחת את מודלי הסטרימינג של OpenAI ו-ElevenLabs, אבל היא לא מנצחת את זה של Google, וב-240 מ״ש היא גרועה מהכול למעט שני המודלים המפגרים. הכותרת של מתחת ל-500 מ״ש היא אמיתית; היא רק עולה לך בבערך שלוש נקודות דיוק לעומת הרצת אותו אודיו במצב לא מקוון.

הדיאריזציה היא המקום שבו משפחת המודלים נראית במיטבה ושבו טבלת הספקים עושה את מרב העבודה. ב-WER משורשר עם תמורה מינימלית, Mistral מדווחת על 18.4% עבור Voxtral Small Transcribe 3, 18.6% עבור ה-Mini, 19.0% עבור Pyannote Orchestrator Precision 3, 20.3% עבור MAI-Transcribe-2 ו-38.4% עבור G​emini 3.5 Transcribe. פער של 20 נקודות מול G​emini בייחוס דוברים הוא מסוג המספרים שמכריעים מוצר — תמלול פגישות, QA לשיחות — אבל זהו מערך בדיקות של ספק אחד מול המודל של ספק אחר, ואף גורם שלישי לא הריץ אותו מחדש.

מה התמחור קונה, בשעות

חיוב לפי דקה קל להשוואה וקל לטעות בו כאשר החלופה היא חיוב לפי טוקן. בהמרה לאלף שעות אודיו, שהן בערך חודש של מוקד תמיכה בינוני:

• Voxtral Mini Transcribe 3 — $210 ל-1,000 שעות בתעריף $0.0035/דקה

• Voxtral Small Transcribe 3 — ‏$240 לכל 1,000 שעות במחיר $0.004 לדקה

• Voxtral Mini Transcribe Realtime 3 — ‏$480 ל-1,000 שעות במחיר $0.008 לדקה

• API לסוכן קולי עם חשיבה של Mistral Small 4 — $2,400 לכל 1,000 שעות שיחה במחיר $0.04 לדקה

שכבת הסוכנים יקרה פי חמישה עד אחד עשר משכבת התמלול, וזהו סדר הגודל הנכון ברגע שזוכרים שהיא כוללת את מודל החשיבה ואת סינתזת הדיבור. שם גם נמצא הרווח, והמיצוב של Mistral — אימות זהות, בדיקת חשבוניות, קביעת פגישות — נבחר לשיחות שבהן משימה אחת שהושלמה שווה יותר מדקת מחשוב.

אזהרה מבנית אחת לגבי כל רשימת המחירים: כל מודל כאן נמצא בתצוגה מקדימה ציבורית, לא ב-GA, ותמחור של תצוגה מקדימה בדיבור נטה להשתנות בעבר. אין התחייבות מפורסמת ש-$0.0035 יישאר $0.0035.

מה שמיסטרל לא שחררה

אין משקולות. בעמוד ההשקה נאמר ש-Voxtral 3 זמין דרך ה-API של Mistral עם נקודות קצה באיחוד האירופי, בארה״ב ועולמיות, ו״לפריסה עצמית בתשתית שלכם״ — אבל אין בו רישיון, אין מספרי פרמטרים לשלושה מארבעת המודלים, ואין מאגר Hugging Face. לשם הקשר, מהדורות הדיבור הקודמות של Mistral היו ניתנות להורדה: Voxtral Small 24B 2507 הוא Apache 2.0 ב-Hugging Face, ‏Voxtral 4B T​TS 2603 הוא CC-BY-NC-4.0, ו-Voxtral Mini 4B Realtime Arabic עלה ב-8 באוקטובר בלי שום רישיון מוצהר כלל. המהדורה הזו היא הדור הראשון של Voxtral בלי חבר שניתן להורדה. פריסה עצמית כאן נתפסת כחוזה ארגוני, לא כהורדה.

חסרים גם: כל אורך אודיו מרבי, כל נתון הקשר עבור שכבות ה-TTS או הסוכנים, וכל פרט של שימור או מיקום נתונים מעבר לאזורי נקודות הקצה. אם אתם בוחנים זאת לצורך הקלטת שיחות בפיקוח רגולטורי, שלושת הפערים האלה הם אלה שכדאי לסגור בשיחת רכש ולא מתוך פוסט ההשקה.

איך לנסות את זה בפועל

Voxtral 3 אינו בקטלוג של OrcaRouter היום, ולכן הדרך להעריך אותו היא ה-API וסביבות ה-Playground של Studio מבית Mistral עצמה, שמכסות תמלול, יצירת דיבור, שיבוט קול ואת צינור הסוכנים. המקום שבו נתב כן עוזר הוא החלק השני של ההחלטה: כמעט אף פעם לא תרצו סטאק דיבור אחד, והצבת מודל ההיסק שמטפל בקריאות הכלים של הסוכן שלכם מאחורי נקודת קצה אחת מאפשרת להשוות את Mistral Small 4 לתריסר מודלים אחרים על אותו תמלול בלי לבנות מחדש את הצינור. OrcaRouter מעביר את מחירי המחירון של הספקים הלאה עם תוספת של 0% ומבצע מעבר אוטומטי בין ספקים במקרה של כשל, מה שהכי חשוב בדיוק במצב הזה — מודל בדרגת תצוגה מקדימה בלי היסטוריית זמינות מאחוריו.

סדר ההערכה המעשי, אם אתם עושים זאת השבוע: תריצו את האודיו הגרוע ביותר שלכם דרך Voxtral Small Transcribe 3 ו-MAI-Transcribe-2 על אותם 200 קבצים, מפני ששני הספקים מציגים את אותו ציון FLEURS ורק האודיו שלכם יכול להכריע. לאחר מכן תריצו את שכבת הזמן-אמת ב-960 ms וב-2,400 ms ותספרו באיזו תדירות גלאי סוף-התור מקטיע מתקשר באמצע משפט — מצב כשל זה עולה יותר בסוכן חי מכל הבדל WER במשפחה הזו. לאחר מכן תמחרו את דקת הסוכן מול שיעור ההכלה שלכם, לא מול חשבון התמלול שלכם.

מה לצפות

שלושה דברים יקבעו אם המהדורה הזו תעמוד במבחן הזמן. הרצות חוזרות בלתי־תלויות של טענת הדיאריזציה, המספר היחיד בהשקה שבאמת ישנה החלטת רכישה. האם המשקלים יופיעו, מפני ש־Voxtral להורדה יהפוך מיד לאפשרות ברירת המחדל הפתוחה לדיאריזציה בשפות אירופיות ויחתור תחת טיעון התמחור כולו שלעיל. והאם השהיית הסוכן מתחת לשנייה תחזיק מעמד בטלפוניה אמיתית ולא בהדגמה של מכתב הפניה בצרפתית — זיהוי קיטוע וזיהוי סוף תור הם המקומות שבהם סוכני קול בדרך כלל נכשלים, ואף אחד מהם לא יהווה ראיה מספקת כפוסט בלוג של ספק.