Granite Speech 5.0 2B לעומת Granite Speech 5.0 470M TurboCTC: תפוקה גבוהה פי 35 בעבור 0.45 נקודות WER

IBM שחררה שני צ'ק-פוינטים של Granite Speech 5.0 בהפרש של יום זה מזה, והדבר המעניין בהם אינו שאחד מהם גדול יותר. אלא ש-Granite Speech 5.0 2B משיג 5.06% WER אנגלי ממוצע בקצב של 570 RTFx בלוח ה-Open ASR Leaderboard, בעוד ש-Granite Speech 5.0 470M TurboCTC משיג 5.51% בקצב של 19,870 RTFx — בערך פי שלושים וחמישה בתפוקה תמורת פחות מחצי נקודת אחוז בדיוק. אם הנחתם שמספר הפרמטרים קונה לכם משהו פרופורציונלי, הוא לא. הוא קונה לכם תרגום, הטיית מילות מפתח, שליטה בזיהוי שפה ומודל שפה שמסוגל לעקוב אחרי פרומפט. מהירות אינה ברשימה הזו. הכשלים המתועדים של בינה מלאכותית ותקריות הסוכנים שמאחורי שחרורים כמו זה נאספים ב-ארכיון תקריות ה-AI של OrcaRouter שבו כל רשומה נושאת את המקורות שלה, את חומרת התקרית, את דירוג רמת הביטחון ואת דגל המחלוקת שלה.

שני הנתונים הם של IBM עצמה, נמדדו על אותו לוח דירוג ותוארכו בהפרש של עד שבוע זה מזה, מה שהופך את זה לאחת ההשוואות הפנים-משפחתיות הנקיות יותר הזמינות — וגם לאחת שבה עדיין כדאי להניח שמדובר בהרצת הערכה של ספק ולא בהערכה מבוקרת. לאף אחד מהמודלים אין שחזור עצמאי, ונכון לכתיבת שורות אלה, אף ספק הסקה שאוכל למצוא אינו מגיש אותם, כולל הקטלוג שלנו.

באותו שבוע, שני סיפורי שחרור שונים

שני המודלים האלה אינם תאומים בגדלים שונים. הם שוחררו באופן שונה והם בנויים באופן שונה, והיסטוריית השחרורים מסבירה מדוע כרטיסי המודל שלהם מנוסחים כל כך אחרת.

• Granite Speech 5.0 2B — המאגר נוצר ב-7 באוקטובר 2026, המשקלים הועלו באותו ערב, הכרטיס נערך בגלוי במשך שבועיים, תאריך ההשחרור הוטבע ל-20 באוקטובר, ובלוג ההכרזה פורסם ב-21 באוקטובר. מודל חדש, התחלה שקטה, סיום רועש.

• Granite Speech 5.0 470M TurboCTC — שוחרר לראשונה ב-25 באוגוסט 2026 כמודל באנגלית בלבד עם הצהרת 12,600 RTFx. מהדורת 21 באוקטובר היא עדכון, לא מודל חדש: אותה ארכיטקטורה, ראש BPE רב-לשוני חדש של 16,384 טוקנים, שש שפות נוספות, ופיסוק ואותיות רישיות מקוריים.

ההבדל הזה חשוב כשקוראים את המספרים. ה-5.06% של 2B הוא הערכה חדשה של צ'קפוינט חדש. ה-5.51% של 470M הוא שיפור לעומת נתון של 5.78% שפורסם באוגוסט, והבלוג של IBM מציג זאת כ"WER באנגלית טוב יותר למרות הוספת שישה שפות", וזו הדרך הנכונה לקרוא את זה — העדכון הרב-לשוני לא בא על חשבון דיוק האנגלית, אלא אף הוסיף לו.

שתי ארכיטקטורות, תוצאה אחת

{{1}}Granite Speech 5.0 2B{{/1}} הוא מודל דיבור-שפה. מקודד Conformer CTC בעל 16 בלוקים מזין מקרן Transformer לשאילתות חלון בעל שתי שכבות, שמבצע דגימה מטה פי 10 ל-10 הרץ של אמבדינגים אקוסטיים, אשר נכנסים אל {{2}}נקודת ביקורת ביניים{{/2}} של {{3}}granite-4.0-1b-base{{/3}} שהורחב ל-16 אלף עמדות באמצעות {{4}}YaRN{{/4}}. כיוונון עדין מפוקח מתבצע כ-{{5}}LoRA{{/5}} על המקרן ועל מודל השפה במשותף. היצירה היא אוטורגרסיבית: מודל השפה כותב את התמלול אסימון אחר אסימון.

Granite Speech 5.0 470M TurboCTC הוא מקודד. שישה-עשר בלוקי Conformer, מטרת CTC, ראש סיווג BPE רב-לשוני בעל 16,384 יחידות, תת-דגימה טמפורלית פי 8 כדי להפחית פריימים של 100 Hz ל-12.5 Hz, ופענוח חמדני לא-אוטורגרסיבי. אין מקרן, אין מודל שפה, אין לולאת יצירה. הפלט כולל סימני פיסוק ואותיות רישיות משום שהמודל אומן לפלוט סימני פיסוק בזרם הטוקנים, ולא משום שמודל שני הוסיף אותם afterwards.

ההשלכה היא כל ההשוואה. למודל 2B שמייצר טוקנים יש רצפת השהיה לכל טוקן ששום כמות של עיבוד באצוות לא מסירה לחלוטין; מקודד לא אוטורגרסיבי פולט את כל הפלט שלו במעבר קדימה אחד, כך שהתפוקה גדלה עם גודל האצווה וכמעט ולא עם שום דבר אחר. כך יוצא שמודל עם רבע מהפרמטרים הוא מהיר פי שלושים וחמישה ולא פי ארבעה.

זו גם הסיבה לכך שה-470M מוותר על דברים שיש ל-2B. אין פרומפט לעקוב אחריו, ולכן אין הוראת זיהוי שפה ואין רשימת מילות מפתח, ואין תרגום — ראש CTC ממפה אקוסטיקה לאסימונים, ואי אפשר לומר לו להציג דיבור בגרמנית כטקסט באנגלית.

לוח התוצאות, ומאיפה הגיע כל מספר

• פרמטרים — Granite Speech 5.0 2B הוא 2B; Granite Speech 5.0 470M TurboCTC הוא 470M.

• WER באנגלית, ממוצע 9 הסטים של Open ASR — 5.06% לעומת 5.51%. שני סבבי ההערכה של IBM, 15–20 באוקטובר 2026.

• תפוקה, RTFx — 570 לעומת 19,870. אותה תשתית בדיקה של לוח הדירוג, אותו טווח תאריכים.

• WER בתנאי רעש והד, FFASR — 14.80% (דירוג #4 מתוך 42) לעומת 17.57% (דירוג #12). ה־2B עמיד יותר בכ־2.8 נקודות.

• רישיון — Apache 2.0 לשניהם. ל-TurboCTC יש גם גרסת -NC אחות תחת CC-BY-NC-SA-4.0; יש לבדוק את שם המאגר לפני ההפצה.

• שפות — שש שפות תעתיק (En, Fr, De, Es, Pt, Ja) בתוספת תרגום, לעומת שבע (בהוספת איטלקית) ללא תרגום.

• תכונות שליטה — הנחיה לזיהוי שפה, הטיית מילות מפתח עד 2,000 מונחים ותרגום דיבור ב-2B; אין כאלה ב-470M.

• אימון — 390,000 שעות במשך 40 ימים על 8 H100s עבור ה-2B; 153,000 שעות במשך 24 ימים על 8 H100s עבור ה-470M.

פער העמידות הוא השורה שאנשים מדלגים עליה. מהירות גבוהה פי שלושים וחמישה מושכת את העין, אבל 17.57% WER באודיו רועש ומרוחק לעומת 14.80% הם הבדל שגיאה יחסי של 19%, ואודיו רועש הוא מה שיש ברוב הפריסות האמיתיות. אם האודיו שלך מגיע ממחשב נייד במטבח, היתרון במהירות של המודל הקטן מושקע בתמלול שתצטרך לתקן לאחר מכן.

המקום היחיד שבו ה-470M באמת גובר מבחינת דיוק

יפנית. כרטיס TurboCTC טוען שהוא משיג ביצועים טובים יותר ממודל ה-2B בשיעור שגיאות תווים across CSJ eval1, ‏CommonVoice-17 ו-FLEURS — כל שלושת מערכי הבדיקה — ומציין זאת במפורש בטקסט הכרטיס במקום לקבור זאת בגרף. המספרים עצמם מופיעים רק באיור, כך שאין אפשרות לצטט את גודל היתרון, אך הכיוון הוא טענתה של IBM לגבי שני המודלים שלה עצמה, מה שהופך אותה לאמינה יותר מהשוואה בין ספקים שונים.

יש מנגנון סביר. ה-2B מטפל ביפנית על ידי הוספת סט פונטי של 92 תווי קטקאנה לראש התווים, והוספת 16,500 שעות של ASR יפני מוטה מילות מפתח ו-9,600 שעות של Fineweb-2 TTS לאימון, אבל הוא עדיין מעביר את התוצאה דרך מודל שפה שאומן בעיקר על טקסט אירופי. ה-470M משתמש באוצר מילים BPE רב-לשוני יחיד בגודל 16,384 יחידות, שכולל יפנית מלכתחילה, ומקדיש 8,130 שעות ל-ReazonSpeech ו-1,860 שעות ליפנית סינתטית. אם המוצר שלך הוא תמלול יפנית בהיקף גבוה, זהו ההתמודדות היחידה שבה המודל הקטן גם מהיר וגם טוב יותר, וכדאי לבצע בדיקה ישירה לפני שמסתמכים כברירת מחדל על ה-2B בגלל הגודל.

עלות, מחושבת ולא ניתנת בהצעת מחיר

IBM אינה מפרסמת מחיר עבור אף אחד משני הדגמים. שניהם זמינים כמשקולות ברישיון Apache 2.0, ולכן עלות הרצתם היא עלות החומרה, ומספרי ה-RTFx הם המנוף היחיד העומד לרשותכם כדי להעריך אותה.

קחו עומס עבודה של 1,000 שעות אודיו ביום — ארכיון של מרכז שיחות בגודל בינוני. ב-570 RTFx, מודל ה-2B זקוק לכ-6,300 שניות של זמן GPU, מעט יותר מ-1.7 שעות GPU. ב-19,870 RTFx, ה-470M זקוק לכ-181 שניות, או 0.05 שעות GPU. על H100 במחיר של כ-2–3 דולר לשעה מדובר בכמה דולרים ביום לעומת כמה סנטים. שניהם מספרים קטנים, וזו הנקודה: בקנה מידה הזה אף מודל לא יקר, וההחלטה צריכה להתקבל על בסיס דיוק ויכולת, לא על בסיס כוח מחשוב.

החשבון משתנה בקצה השני. אם אתם מתמללים תזרים אחד בזמן אמת במחשב נייד, או מריצים אפליקציה על המכשיר, ה-2B זקוק ל-GPU כדי להישאר לפני זמן אמת בעוד של-470M יש מרווח לנשום — ולכן IBM ממקמת את TurboCTC למחשבים ניידים, טלפונים והתקני קצה ומתעדת את mlx-audio עבור Apple Silicon. ה-2B גם רץ על llama.cpp ו-mlx-audio, אך ב-Q8_0 עם אזהרה שכימות בביטים נמוכים יותר מאבד דיוק מעבר לכדקה בערך של אודיו.

בחירה, לפי הסדר שבו ההחלטה למעשה מתרחשת

אל תתחילי עם מדד הביצועים. התחילי ממה שהמשימה דורשת, מפני ששלושה מההבדלים הם דרישות קשיחות ולא פשרות.

האם הפלט צריך להיות בשפה שונה מזו של הקלט?אז מדובר ב-2B, ואין מה להשוות. ה-470M אינו יכול לתרגם. הדרישה היחידה הזו פוסלת אותו עבור מסלולי עיבוד כתוביות, הערות פגישות רב-לשוניות וכל ארכיון באנגלית שנבנה מאודיו שאינו באנגלית.

האם התמלול צריך להכיל מונחים ספציפיים?שמות מוצרים, שמות תרופות, מזהי פניות, רשימת SKU של לקוח — ה-2B מקבל עד 2,000 מונחים כרשימת מילות מפתח ואומן על 23,600 שעות של אודיו עם הטיה למילות מפתח בדיוק לשם כך. ל-470M אין ממשק פרומפט. פריסה המבוססת על מילון מונחים במודל הקטן אינה אפשרית.

האם האודיו נקי? אם כן, הפער באנגלית של 0.45 נקודות קטן ויתרון המהירות של פי 35 הוא כמעט בחינם. אם לא — פגישות, מוקדי שיחות, מיקרופונים לטווח רחוק — פער ה-FFASR של 2.8 נקודות אומר שהשגיאות של המודל הקטן יעלו לך יותר ממה שהמהירות שלו חוסכת.

האם זה יפנית? תבדוק קודם את ה-470M. IBM אומרת שהוא מנצח בכל שלושת מערכי הבדיקה ביפנית.

האם זה על מכשיר? ה-470M תוכנן לכך. ה-2B יכול לרוץ על אחד אבל לא תוכנן לכך.

סיכום כן הוא שאלו לא שני גדלים של אותו מוצר. האחד הוא מערכת תמלול ותרגום עם משטח שליטה; השני הוא מנוע תמלול מהיר מאוד וזול מאוד ללא בקרות. רוב הצוותים שחושבים שהם צריכים "את הטוב יותר" למעשה צריכים קודם לענות על שאלות התרגום ומילון המונחים, ושתי התשובות האלה מכריעות את העניין.

מריץ את שניהם בלי להמר על אף אחד

הצורה הסבירה לפריסה בייצור עבור צוות שבוחן את המשפחה הזו היא לפרוס את שניהם, משום שיש להם מצבי כשל הפוכים. ה-470M מטפל בתמלול נקי בהיקף גדול בעלות שמתעגלת לאפס; ה-2B מטפל באודיו הקשה, באודיו שאינו באנגלית ובכל דבר שדורש מילון מונחים. נתב שמסווג כל קובץ נכנס — זיהוי שפה, אומדן יחס אות לרעש, בדיקה אם מצורף מילון מונחים — ושולח אותו לצ'קפוינט המתאים הוא אולי חמישים שורות קוד, ומפחית את שיעור השגיאות שלך בזנב בלי לשלם מחירי 2B על ההיקף הגדול.

שלב הסיווג הזה הוא קריאה קטנה למודל, והוא החלק שכדאי להריץ דרך נקודת קצה אחת במקום לשבץ SDK של ספק נוסף: OrcaRouter חושף למעלה מ-200 מודלים מאחורי API יחיד התואם ל-OpenAI במחיר המחירון של הספק ללא תוספת מרווח, וה-DSL לניתוב שלו יכול לבטא את הניתוב לפי שפה ואיכות ככלל במקום כקוד אפליקציה. מעבר אוטומטי לגיבוי חשוב במיוחד בשבוע שאחרי שחרור כמו זה, כאשר נקודת ביקורת בת יומיים, שום דבר אינו מאומת באופן עצמאי, והדרך הבטוחה ביותר לנסות אותה היא לשמור נתיב שני חם. כל זה עדיין לא עוזר לך להריץ את Granite Speech עצמו — אף אחת משתי נקודות הביקורת אינה מוגשת על ידינו היום, כך שמודלי הדיבור נשארים באירוח עצמי ושכבת הניתוב מתחילה שלב אחד במורד הזרם.

אם פורסים רק מודל אחד, פרסו את ה-2B. זה המודל שיכול לעשות כל מה שה-470M יכול לעשות, במהירות שעדיין מהירה פי שלושים וחמישה מזמן אמת ובדיוק טוב יותר בכל מבחן ש-IBM פרסמה למעט ביפנית. ה-470M הוא המומחה שמוסיפים כשהחשבון או פרופיל ההשהיה מצדיקים זאת — לא ברירת המחדל שמתחילים ממנה.