Ming-3.0-audio-tiny לעומת Voxtral 4B TTS: האחד הוא מאזין עם קול מחובר, והאחר לא מוכר שום דבר אחר

אם אתם רוצים ליצור דיבור ותו לא, העימות הזה אמור להימשך כשלושים שניות. Voxtral 4B T​TS הוא מודל טקסט־לדיבור: טקסט נכנס, אודיו יוצא ב־24 קילו־הרץ, עשרים קולות מוגדרים מראש, תשע שפות, טבלת השהיה שפורסמה, ותנאי רישיון שמונעים מכם למכור את התוצאה. Ming-3.0-audio-tiny הוא מודל אודיו־שפה שבמקרה כולל מחולל דיבור — Talker בנפח 1.4 GB שמחובר ל־Thinker בנפח 17.74 GB, עם שלושה קולות בעלי שמות ונתיב שיבוט, שנמצא בתוך מאגר שקטע ההערכה שלו אפילו לא מודד סינתזה ולו פעם אחת. אם הדיבור הוא המוצר, ההשוואה נגמרת לפני שהיא מתחילה. הכשלים המתועדים של בינה מלאכותית ותקריות סוכנים שמאחורי הפצות כמו זו נאספים ב־OrcaRouter AI Incident Archive, שבו כל ערך נושא את המקורות שלו, חומרה, דירוג מהימנות וסימון שנוי במחלוקת.

הגרסה המעניינת של השאלה היא האחרת: אתם בונים משהו שצריך להבין אודיו ולהשיב בקול, ואתם מחליטים אם לקנות מודל אחד שעושה את שניהם או לחבר מאזין לקול ייעודי. כאן שלושים השניות הופכות לאחה צהריים, כי שתי האפשרויות נכשלות במקומות שונים ורק באחת מהן מגיע מספר שאפשר לתכנן לפיו.

הרישיון קובע יותר מאשר הבנצ'מרק

התחילו עם הדבר שאף כמות של הערכה לא תוכל לתקן. Voxtral 4B TTS הוא CC BY-NC 4.0 — לא לשימוש מסחרי — בירושה מערכי נתוני קול ייחוס שהמודל נבנה איתם: EARS, CML-TTS, IndicVoices-R וקבוצת אודיו טבעי בערבית. Mistral מציינת זאת במפורש בכרטיס ומפנה משתמשים מסחריים ל-API שלה. כך שהמשקלים פתוחים למחקר ולשימוש אישי, והמסלול המסחרי הוא מחירון ולא הורדה.

Ming-3.0-audio-tiny מופיע כ-MIT במטא-דאטה של הכרטיס וב- LICENSE של מאגר GitHub שאליו הוא מצביע. כדאי לדעת: מאגר Hugging Face עצמו אינו מכיל קובץ LICENSE, ושני קולות ההתייחסות המצורפים אינם נושאים תנאים נפרדים משלהם. MIT היא אכן הצהרה מתירנית במקרה הזה, אך זו הצהרה במטא-דאטה ולא קובץ בארטיפקט, והרכש יבחין בכך.

• שימוש מסחרי — Ming: כן, MIT, משקלים וקוד. Voxtral: לא מהמשקלים; ה-API של הספק הוא המסלול המאושר.

• קולות כלולים — Ming: שלושה בעלי שמות, שניים מהם סופקו כקובצי WAV לדוגמה עם תמלולים. Voxtral: עשרים פריסטים.

• שפות — Ming: סינית ואנגלית עבור המודל בכללותו, ללא רשימת שפות נפרדת ל-Talker. Voxtral: אנגלית, צרפתית, ספרדית, גרמנית, איטלקית, פורטוגזית, הולנדית, ערבית והינדי.

• פלט — Ming: כל מה שה-Talker מפיק; הכרטיס אינו מציין לא קצב דגימה ולא מכל. Voxtral: 24 kHz, WAV, PCM, FLAC, MP3, AAC או Opus.

• מה שאתם מריצים — Ming: ה-Thinker, ‏17.74 GB, בתוספת Talker בנפח 1.4 GB ו-VAE בנפח 1.6 GB בהתקן שני. Voxtral: נקודת ביקורת BF16 אחת על GPU יחיד עם לפחות 16 GB.

• איכות הדיבור שפורסמה — Ming: אין. Voxtral: גם אין, אבל במקום זה טבלת השהיה ותפוקה, שזה יותר מכלום.

השורה האחרונה היא הסיכום הכנה של בסיס הראיות של ההשוואה הזו. אף אחד מהספקים לא פרסם ציון טבעיות, נתון דמיון לדובר או שיעור שגיאות מילים בדיבור מסונתז. Mistral פרסמה באיזו מהירות זה פועל; inclusionAI פרסמה כמה טוב המודל מקשיב. איש לא פרסם כמה טוב נשמע כל אחד מהם.

מה שהמספרים של Mistral בעצם אומרים

טבלת Voxtral היא בנצ'מרק של שרת, וחשוב לקרוא אותה נכון. המדידה בוצעה על NVIDIA H200 יחיד עם vLLM-Omni 0.18.0, קלט באורך 500 תווים וקטע ייחוס באורך עשר שניות:

• מקביליות 1 — השהיה של 70 מ״ש, מקדם זמן אמת 0.103, כ-119 תווים בשנייה לכל GPU.

• מקביליות 16 — 331 ms, RTF 0.237, כ-879 תווים לשנייה.

• מקביליות 32 — 552 מ״ש, RTF 0.302, כ־1,431 תווים לשנייה.

שני דברים נובעים מכך. ראשית, RTF עולה עם המקביליות — מ-0.103 ל-0.302 — ולכן הרווח בתפוקה מעיבוד באצוות הוא אמיתי אך תת-ליניארי; מקבלים בערך פי שנים עשר תווים תמורת פי שמונה בערך במקדם זמן האמת. שנית, 70 אלפיות השנייה עד לשמע הראשון במקביליות 1 הוא המספר שמכריע אם סוכן קולי מרגיש חי, וזהו מספר שאין ל-Ming-3.0-audio-tiny. לא מספר גרוע יותר. פשוט אין.

Mistral מתייגת את כל זה כלא משוחזר וככזה שמנוהל על ידי הספק, וזה אכן כך. אבל זו לפחות טענה שיש לצידה שיטה: חומרה נקובה בשם, גרסת סביבת ריצה נקובה בשם, אורך קלט נקוב בשם, אורך ייחוס נקוב בשם. אפשר לבנות מחדש את מערך הבדיקות.

הדבר שמסלול הדיבור של מינג לא יכול לענות עליו

פלט הדיבור של המודל הזעיר מתואר בכרטיס בשלושה משפטים: קולות מובנים או קול ייחוס, שלושה קולות בעלי שמות, ושיבוט מקליפ ייחוס יחד עם התעתיק המדויק שלו. מדריך הפריסה מוסיף את הפרט התפעולי — ה-Talker פועל כשלב שני ב-0.18 של שנייה, כפי שמצוין בכרטיס, ומוגבל לאסימון פלט אחד עם טמפרטורה 0.0 מכיוון שהוא אינו מייצר טקסט.

בשום מקום במאגר אין קצב דגימה עבור הפלט המסונתז, מדד טבעיות, מדד דמיון לקליפ הייחוס, או הצהרה בשאלה אם שלושת הקולות הם אותו קול ברגיסטרים שונים או דוברים שונים לחלוטין. תמונות ההערכה מכסות זיהוי, אינטליגנציה אודיו וטקסט. יצירת דיבור היא היכולת היחידה שהספק מפרסם בהדגשים שלו ואינו מעריך כלל.

זה לא שערורייה, אלא אילוץ תכנוני. עם Voxtral אפשר לקבוע את גודל הפריסה לפני ששומעים אותה: כרטיס אחד, 16 GB, 119 תווים בשנייה בקונקרנציה 1, ומחירון למסלול המסחרי. עם Ming קובעים את גודל החומרה (שני כרטיסים, השני בניצולת 0.18) ואז מגלים את הקול על ידי יצירת משהו.

כשהמודל המשולב הוא בכל מקרה התשובה הנכונה

יש טיעון אמיתי בעד ה-Talker, והוא אינו "TTS זול יותר". אלא שאותו מודל שמע את האודיו וכעת מדבר עליו. Ming-3.0-audio-tiny מקבל אודיו יחד עם הנחיית טקסט ומחזיר טקסט, או טקסט יחד עם דיבור. שאלה על הקלטה, שנענית בקול, במעבר אחד, בלי שתמלול יעבור למודל שני. בלי כשל של "ה-ASR אמר 'their', ה-TTS קרא את זה לא נכון", כי אין מודל שני ואין טקסט ביניים שיכול להישחת.

זה משנה למענה על שאלות בדיבור, לעוזר שמקשיב לחדר ומשיב, ולכל דבר שבו התשובה היא משפט על משהו שהוא זה עתה שמע. זה לא משנה לקריינות, לספרי שמע, לדיבוב או לכל עומס עבודה שבו הטקסט הגיע ממקום אחר — ואלה בדיוק עומסי העבודה ש-Voxtral נבנה עבורם, עם עשרים קולות ותשע שפות לעומת שלושה ושתיים של Ming.

• המשכיות באותו מודל — Ming: כן, מעבר קדימה אחד מאודיו לדיבור. Voxtral: טקסט נכנס, כך שחצי ההאזנה חייב לבוא ממקום אחר.

• מגוון קולות — Ming: שלושה קולות בעלי שם בתוספת שיבוט. Voxtral: עשרים פריסטים בתוספת התאמה לקול ייחוס.

• סטרימינג — Ming: לא מוצע; ה-Talker הוא שלב, לא זרם. Voxtral: הכרטיס מפרסם סטרימינג והסקה באצוות, והדמו של ה-API של הספק עצמו הוא מימוש הייחוס.

• דיבור רב-לשוני — Ming: סינית ואנגלית. Voxtral: תשע שפות, עם ציון ניבים.

• מבנה העלויות — Ming: חומרה קבועה, שני כרטיסים, ללא מונה לפי תו. Voxtral: המשקלים חינמיים לשימוש לא מסחרי, ה-API מתומחר לפי תו לכל השאר.

מה נתב מוסיף למוצר קולי — ומה לא.

OrcaRouter לא מספק אף אחד מאלה. Ming-3.0-audio-tiny הוא צ'קפוינט שמריצים, ואפשר להגיע אל Voxtral 4B TTS דרך ה-API של Mistral עצמה; אף אחד מהם אינו בקטלוג שלנו, והטקסט הזה אינו מהווה הצעה לארח אף אחד מהם. מקומו של הראוטר במוצר קולי הוא הטקסט שמקיף את הקול: יצירת התסריט, תרגומו לתשע השפות ש-Voxtral תומך בהן, כתיבת הסיכום של מה שאמר המתקשר, והחלטה אם קטע זקוק לאדם. אלה קריאות טקסט רגילות — יותר מ-200 מודלי טקסט מאחורי מפתח אחד במחיר המחירון של הספק עם תוספת רווח של 0%, עם מעבר אוטומטי לגיבוי כך שאצווה של עשרת אלפים קליפים לא תיתקע כי לאחד מהספקים במעלה הזרם היה אחר צהריים רע.

זהו חיסכון אמיתי בתהליך דיבוב ושגיאת עיגול בהדגמה של מודל בודד. זה גם לא נוגע לשאלה שעליה עוסק המאמר הזה, והיא אם הקול טוב בכלל.

איך לבחור בלי לשמוע אף אחד מהם קודם

אם המוצר הוא דיבור, בחרו ב-Voxtral ותקצבו את הרישיון: הריצו את המשקלים הלא-מסחריים כדי להעריך, ואז עברו ל-API עבור כל מה שאתם משחררים, לפי התעריף הנוכחי לכל תו. אתם מקבלים טבלת השהיה, עשרים קולות, תשע שפות וסביבת הרצה שנבדקה עם vLLM-Omni. אתם מוותרים על הזכות לאירוח עצמי מסחרי, ולעבור צוותים רבים זו ההחלטה האמיתית.

אם המוצר הוא הבנה שמדברת מדי פעם, בחר ב-Ming-3.0-audio-tiny, תקצב שני כרטיסי GPU, והתייחס ל-Talker כמאפיין שלא נמדד — בנה תחילה את מנגנון הגיבוי. צור עשרים משפטים בכל שלושת הקולות, האזן, ושמור על האפשרות להחליף בהמשך במודל TTS ייעודי. הארכיטקטורה תומכת בהחלפה כזו בצורה נקייה כי Thinker מחזיר טקסט בכל מקרה; Talker הוא תוספת, לא עמוד השדרה.

ובשני המקרים, רשמו מה מדדתם. אף אחד מהספקים לא עשה זאת, והצוות הראשון שיפרסם נתון טבעיות או דמיון לאחד מהמודלים יעשה טובה לתחום — כולל לספקים.

התשובה השלושים ושניים, מתוקנת

הגרסה הקצרה בראש הקטע הזה אמרה שההשוואה הסתיימה בתוך שלושים שניות. היא אכן מסתיימת בתוך שלושים שניות אם הדיבור הוא המוצר שלכם ואתם מוכנים לשלם עבור רישיון. זה לוקח יותר זמן אם אתם בונים משהו שמקשיב ואז מדבר, מפני ששתי האפשרויות אינן תחליפים: האחת היא קול בלי אוזניים, והשנייה היא אוזניים עם קול שמעולם לא דורג. שלושים השניות מביאות אתכם לשאלה. שאר הקטע הוא החלק שבו תגלו איזו מהן אתם באמת צריכים.