Ming-3.0-asr-tiny לעומת Moonshine 250M: מודל אחד לא מפסיק להקשיב, והשני לא מתחיל עד שתסיים

יש בעיית מינוח שצריך לפתור לפני כל דבר אחר, משום שהיא משנה מהי ההשוואה הזו. Moonshine מפרסמת שלושה צ'ק-פוינטים — Tiny עם 34M, Small עם 123M ו-Medium עם 245M — וMoonshine 250M הוא הקיצור שבקהילה משתמשים בו עבור הבכיר באותה סדרה, הצ'ק-פוינט ששם המאגר שלו הוא moonshine-streaming-medium ושאינדקס ה-safetensors שלו מסתכם למעשה ב-265,898,112 פרמטרים. אין קובץ בשום מקום בארגון Moonshine שנקרא 250M. המודל הזה הוא מזהה דיבור סטרימינג באנגלית עם מקודד חלון מחליק ומפענח אוטורגרסיבי, שנבנה למחשב נייד או לטלפון, ושוחרר בינואר 2026 תחת MIT. Ming-3.0-asr-tiny הוא מזהה דיבור לסינית ולאנגלית בעל 8.87 מיליארד פרמטרים שמשקולותיו הופיעו ב-Hugging Face ב-14 באוקטובר 2026 ללא הכרזה, שנבנה סביב מקודד בצורת Whisper ומפענח mixture-of-experts עם 128 מומחים, ותוכנן לקרוא קטע שלם בבת אחת. הם אינם יריבים באותו שוק. הם שתי תשובות שונות לשאלה מתי מותר למזהה דיבור לדבר. הצ'ק-פוינט שהמאמר הזה מכנה Moonshine 250M מתועד ב-כרטיס המודל Moonshine Streaming Medium, שבו אינדקס ה-safetensors מדווח על 265,898,112 פרמטרים לעומת התווית 245M של הכרטיס. הכשלים המתועדים של AI ותקריות הסוכנים שמאחורי שחרורים כמו זה נאספים ב-the OrcaRouter AI Incident Archive שבו כל ערך נושא את המקורות, החומרה, דירוג הביטחון וסימון המחלוקת שלו.

השאלה הזו היא המסגרת השימושית, והיא מניבה החלטה נקייה יותר מכפי שטבלת דיוק הייתה מניבה. Moonshine 250M מפיק מילים בזמן שהאודיו עדיין מגיע, בכ-0.1 עד 1 TOPS. Ming-3.0-asr-tiny לא מפיק דבר עד שמעבירים לו קובץ שלם, ואז הוא מפיק תמלול בלי חותמות זמן כלל.

מה שכל אחד מהם בנוי לעשות בפועל

הארכיטקטורה של Moonshine היא היפוך מכוון של פשרת הסטרימינג הרגילה. המקודד הוא טרנספורמר עם חלון מחליק, קשב מקומי מוגבל וללא הטמעות מיקום כלל — הכרטיס מכנה אותו ארגודי — עם חלוקה לחלונות של (16, 4) בשתי השכבות הראשונות ובשתי השכבות האחרונות ושל (16, 0) בשכבות הביניים, מה שמניב כ-80 אלפיות השנייה של צפייה קדימה. מידע מיקומי מוזרק על ידי מתאם לאחר המקודד, שמזין מפענח סיבתי סטנדרטי עם RoPE. רכיב האודיו הקדמי פועל ב-50 Hz באמצעות פעולות פשוטות בתחום הזמן ולא באמצעות ספקטרוגרמת mel.

המפענח הוא אוטורגרסיבי, ו-Moonshine אומרת מה זה עולה: השהיית הפלט המלא גדלה עם אורך התמלול גם כאשר הזמן עד לאסימון הראשון נמוך. זו המגבלה הכנה של התכנון, וזה המשפט האחד שכדאי לזכור כשמשווים טענות סטרימינג. סטרימינג משמעו שהמילים הראשונות מופיעות מהר; זה לא אומר שהמילה האחרונה מופיעה מהר באופן פרופורציונלי.

Ming אינו תומך בזרימה, והכרטיס שלו מציין זאת: הדוגמה המצורפת אינה מקבלת קלט בזרימה. אפשר לחלק אודיו ארוך למקטעים באמצעות ארגומנט מול הקשר של 8,192 עמדות, אבל חלוקת קובץ למקטעים אינה זהה לצריכת פיד חי, ושדה פורמט הפלט בקונפיגורציה מוגדר ל-plain. במקום זאת, מה ש-Ming עושה הוא לשאת הקשר. הוא מקבל מילות מפתח (hotwords) או את תור הדיאלוג הקודם כחלק מפרומפט התמלול, והוא מוערך על פני חמישה עשר מערכי בדיקה של ניבים סיניים — חונאן, מינאן, קנטונזית, צ'ואניו, שנגחאי, אנהוי, צפון-מזרח, חנאן, חוביי, ג'יאנגסו, האקה, שאאנשי, שאנדונג, טיאנג'ין, יונאן. Moonshine הוא באנגלית בלבד ואין לו שום דבר מזה.

שתי ספירות הפרמטרים, ומדוע הן שונות

פרט שראוי להתעכב עליו, משום שזה מסוג הדברים שבשקט שוברים טבלת השוואה: הכרטיס של Moonshine עצמו מפרט את Medium כבעל 245M פרמטרים, 14 שכבות מקודד ו-14 שכבות מפענח, מקודד בן 768 ממדים ומפענח בן 640 ממדים. אינדקס ה-safetensors באותו מאגר מדווח 265,898,112. הפער הוא כ-21 מיליון, בערך שמונה וחצי אחוזים, וזה לא שגיאת עיגול — זה ההבדל בין לספור שלד לבין לספור כל מה שמגיע יחד איתו.

ל-Ming יש את אותה הבעיה בגודל גדול יותר. האינדקס שלו מדווח על 8,865,800,992 פרמטרים; התרשימים שלו מתייגים את המודל 8.6B-A2B, קיצור ל-8.6 מיליארד בסך הכול עם כ-2 מיליארד פעילים לכל טוקן. התיוג נמוך מהאינדקס בכ-270 מיליון.

• סך כל הפרמטרים — Ming-3.0-asr-tiny 8.87B (אינדקס) לעומת Moonshine 250M 266M (אינדקס); בתוויות הספק מצוין 8.6B ו-245M.

• פעיל לכל טוקן — כ-2B עבור Ming, מכיוון ש-8 מתוך 128 מומחים מנותבים בכל שלב. כל ה-266M עבור Moonshine, שהוא צפוף.

• מקודד — 32 שכבות, 1,280 ממדים, 20 ראשים, 128 תאי מל, בצורת Whisper, לעומת טרנספורמר ארגודי עם חלון הזזה בן 14 שכבות ב-768 ממדים מעל פרונטאנד של 50 Hz.

• מפענח — 24 שכבות, 128 מומחים, אוטורגרסיבי; לעומת 14 שכבות, צפוף, אוטורגרסיבי.

• מודל השהיה — קליפ שלם נכנס, תמלול יוצא, ללא סטרימינג; לעומת הקדמה של כ־80 מ״ש וטוקן ראשון בזמן שהאודיו עדיין מגיע.

• פלט — טקסט תעתיק פשוט, ללא חותמות זמן, ללא דיאריזציה; לעומת טקסט תעתיק ממפענח אוטורגרסיבי שגם לו אין נתיב חותמות זמן בכרטיס.

• שפות — סינית ואנגלית בתוספת 15 ערכות בדיקה של ניבים סיניים; לעומת אנגלית בלבד.

• רישיון — MIT לשניהם, כאשר כותרות Apache-2.0 המצורפות נשמרות במאגר של Ming.

דיוק, עם ההסתייגות שהם מעולם לא נבדקו על אותו אודיו

כרטיס המודל של Moonshine מדווח על WER ממוצע של 6.65 בשמונה מערכי נתונים באנגלית עבור Medium: 10.68 ב-AMI, 11.90 ב-Earnings-22, 9.46 ב-GigaSpeech, 2.08 ב-LibriSpeech test-clean, 5.00 ב-test-other, 2.58 ב-SPGISpeech, 2.99 ב-TED-LIUM ו-8.54 ב-VoxPopuli. אומן על כ-300,000 שעות דיבור.

Ming מדווח על WER ממוצע של 3.99 בקבוצות האנגלית הציבוריות שלו — LibriSpeech clean and other, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English ו-VoxPopuli — ועל CER ממוצע של 3.55 בקבוצות הסינית שלו. אומן על כמות נתונים שלא נחשפה.

הפיתוי הוא להציב 3.99 לצד 6.65 ולהכריז ש-Ming מדויק יותר באנגלית. אל תעשו זאת. שתיים מחמש ערכות הנתונים באנגלית שונות, שיטת הצבירה שונה, הכרטיס של Moonshine אינו מפרסם פירוט לפי ערכה שניתן למפות אותו ישירות לחמש הערכות של Ming, ואף אחד מהספקים לא הריץ את המערכת של האחר. בערכה היחידה ששניהם מדווחים עליה — VoxPopuli — Ming כלל אינו מפרסם בטקסט שלו נתון אנגלי לפי ערכה, אלא רק את הממוצע, כך שאפילו החפיפה הבודדת הזו אינה ניתנת להשוואה מהכרטיסים. כל מספר כאן מדווח על ידי הספק ולא שוחזר.

מה שאפשר לומר בלי מערך מבחן משותף הוא מבני. Moonshine הוא מודל צפוף עם 266 מיליון פרמטרים שאומן על 300,000 שעות אנגלית. Ming הוא מודל תערובת מומחים עם 8.87 מיליארד פרמטרים וכ-2 מיליארד פעילים, שאומן על נתונים שהוא אינו מתאר, והוערך בסינית ובאנגלית עם רכיב דיאלקטי כבד. מודל עם פי שבעה-עשר פרמטרים פעילים ופריור של מודל שפה אמור להיות מדויק יותר באודיו אנגלי קשה, וזה היה מפתיע אם לא. זו ציפייה מהארכיטקטורה, לא מדידה.

היכן שמציאויות הפריסה נבדלות

Ming זקוק למכונת Linux עם GPU CUDA, ‏Python 3.12, ‏PyTorch 2.11.0, ‏torchaudio 2.11.0, ‏Transformers 5.12.1, ‏fla-core 0.5.2, וכן trust_remote_code=True כדי לטעון את קוד המודל שלו. המשקלים הם כ-17.7 GB ב-BF16 על פני שני שברים. קיים מסלול הגשה של SGLang, המוצמד ל-commit ספציפי של מתאם, וזה אות לכך שהספק מצפה שזה יפעל מאחורי API ולא על שולחן עבודה.

Moonshine 250M מכוון לפחות מ-1 GB של זיכרון ולכ-0.1 עד 1 TOPS. הוא פועל דרך מסגרת Moonshine Voice עבור התקני קצה ודרך Transformers, והכרטיס אומר באופן ברור שמסלול Transformers עדיין לא מיישם סטרימינג יעיל לחלוטין — הוא נשען על תמיכת החלון המחליק של flash-attention. אם אתם רוצים את התנהגות הסטרימינג שהארכיטקטורה מבטיחה, מסלול המסגרת הוא�ה שמספק אותה.

המאגר הוא המקום שבו קו נקודות השמירה נראה באמת: עשרים וארבעה תגים על פני משפחת Tiny, Small ו-Medium, ובנוסף הפריימוורק שהכרטיס אומר לך להשתמש בו אם אתה רוצה סטרימינג אמיתי. זהו סיפור תחזוקה שלמינג עדיין אין, וזה החצי המעשי של הבחירה.

זו כל ההשוואה בשני משפטים: מודל אחד מיועד להישכח בתוך מכשיר, והאחר מיועד להיות מוגש מ-GPU עם רשימת מילות הפעלה מצורפת.

מה שצוות עם דגש על סינית צריך למעשה לעשות

אם המוצר שלך הוא כתוביות חיות או פקודת קול באנגלית, Moonshine 250M עושה את העבודה ש-Ming לא יכול לעשות כלל, ופער הדיוק — יהיה אשר יהיה — אינו צפוי להיות חשוב יותר מן העובדה ש-Ming אינו יכול לצרוך זרם חי. סטרימינג אינו תכונה שמוסיפים בשלב מאוחר יותר לארכיטקטורה שקוראת קטעים שלמים; היא תכונה של המקודד.

אם המוצר שלכם הוא דיבור סיני, או ניב אזורי, או צינור עיבוד באצווה שבו תמלולים מופקים בדיעבד ושמות חשובים, Ming הוא היחיד מבין השניים שמטפל בבעיה, והוא בן חמישה ימים בלבד עם מספר הורדות בעשרות. ההמלצה הכנה היא לערוך השוואה ראש בראש על האודיו שלכם, עם ניקוד לפי recall של ישויות מזוהות ולא לפי שיעור שגיאות תווים, משום שזה הציר שלשמו Ming נבנה.

עבור צוותים שמריצים את השוואת המודלים הזו, הבעיה התפעולית אינה המודל אלא הצנרת: שתי ערימות טכנולוגיות, שתי ערכות של תלויות, שתי קבוצות של פרטי גישה, ואין דרך להשוות ביניהן על אותה תעבורה בלי לבנות הרנס. OrcaRouter לא מארחת את אף אחד מהמודלים — Ming-3.0-asr-tiny ו-Moonshine 250M הם משקלים פתוחים באירוח עצמי — אבל היא כן מעמידה יותר מ-200 מודלים מתארחים מאחורי מפתח API אחד עם מעבר אוטומטי לגיבוי, כך שקו הבסיס המתארח שאתה מדרג מולו יכול לשבת לצד המועמד שלך באירוח עצמי בלי חוזה נוסף. מחירי המחירון של הספקים מועברים הלאה בתוספת של 0%, וזה המספר שחשוב כשמשווים עלות לשעת אודיו ולא עלות לטוקן.

השאלה הפתוחה שכדאי לעקוב אחריה

הכרטיס של Ming מציין ש-hotwords הם רמזים, לא הבטחות, ושהפלט הוא טקסט בלי חותמות זמן ברמת המילה ובלי דיאריזציה של דוברים. הכרטיס של Moonshine מציין שהמפענח שלו עלול להזות מילים ולחזור על ביטויים במקטעים קצרים או רועשים. שניהם כנים לגבי אופני כשל, וזה יותר ממה שרוב הכרטיסים מצליחים לעשות, ושניהם מתארים את אותה פשרה בסיסית משני קצוות מנוגדים: מפענח אוטורגרסיבי שמייצר טקסט שוטף ייצר לפעמים טקסט שוטף שלא נאמר.

מה שיכריע את ההשוואה הזו הוא לא מדד ביצועים אלא מקרה שימוש. הריצו את שניהם על אותן עשרים דקות של אודיו משלכם — חצי בזמן אמת, חצי באצווה, חצי באנגלית, חצי לא — וההחלטה מפסיקה להיות על מספרי פרמטרים לגמרי. עד אז, התיאור הנכון של ההתמודדות הוא שמודל אחד בנוי להקשיב ברציפות והשני בנוי לקרוא בקפידה, והשם של הקטן יותר הוא קיצור שיווקי לצ'קפוינט שהוא, למעשה, 266 מיליון פרמטרים.