Granite Speech 5.0 2B: מודל ה-ASR החדש של IBM ישב ב-Hugging Face במשך שבועיים לפני ש-IBM הכריזה עליו

המאגר של Granite Speech 5.0 2B נוצר ב-7 באוקטובר 2026. המשקולות הועלו באותו ערב, תחת הודעת קומיט שאומרת רק "Upload granite-speech-5.0-2b checkpoint." כרטיס המודל נשאר שם שלושה עשר ימים ונערך בפומבי — תרשימי בנצ'מרק נוספו ב-13, תאריך שחרור ותוצאות לוח דירוג רשמיות הוטבעו ב-19, קובץ חתימת מודל ב-20 — לפני ש-IBM פרסמה את פוסט הבלוג שבעצם הכריז עליו, ב-21 באוקטובר 2026. פוסט הבלוג הזה בן יום אחד בזמן שאני כותב זאת, והוא עדיין הדבר היחיד ש-IBM אמרה על המודל בכל מקום: אין הודעה לעיתונות, אין דף הכרזה ב-ibm.com, ושום דבר באתר המוצר Granite מעבר לדף הנחיתה הגנרי. הכשלים המתועדים של בינה מלאכותית ותקריות סוכנים מאחורי שחרורים כמו זה נאספים בOrcaRouter AI Incident Archive, שבו כל רשומה נושאת את המקורות, החומרה, דירוג הביטחון ודגל המחלוקת שלה.

אז התיאור הכנה אינו "ללא הודעה מוקדמת" וגם לא "הושק בתרועה". זהו מודל שהיה ניתן להורדה בשקט במשך שבועיים, שכרטיס המודל שלו נכתב בגלוי, ושההכרזה עליו הגיעה יום לפני המאמר הזה. מה שלהלן מפריד בין החלקים הניתנים לבדיקה לבין החלקים שהם עדיין רק המילה של IBM.

מה בעצם נמצא בצ'קפוינט?

Granite Speech 5.0 2B הוא מודל דיבור-שפה: מקודד אקוסטי Conformer שמזין מודל שפה קטן דרך מקרן. הוא היורש הישיר של granite-speech-4.1-2b, שיצא ב-29 באפריל 2026 באותו מספר פרמטרים ובאותו רישיון Apache 2.0.

• גודל ופורמט — 2B פרמטרים, BF16 safetensors, Apache 2.0, ללא חסימה במאגר.

• מקודד — 16 בלוקי Conformer שאומנו באמצעות CTC ושני ראשי סיווג: 348 פלטי תווים (256 הערכים הראשונים של ASCII, בתוספת קבוצה פונטית של 92 תווי Katakana עבור יפנית) ו־100,353 פלטי BPE הלקוחים מהטוקנייזר של Granite 4.0. גודל מוסתר 1,024, 8 ראשי קשב בגודל 128, גרעין קונבולוציה 15, קשב בלוקים באורך ארבע שניות.

• Projector — טרנספורמר שאילתות חלון דו-שכבתי מעל בלוקים של חמישה-עשר אמבדינגים אקוסטיים בני 1,024 ממדים, עם שלוש שאילתות ניתנות לאימון לכל בלוק ולכל שכבה. הוא מבצע דגימה מטה פי 5 על גבי הדגימה המטה פי 2 של המקודד, כך שמודל השפה רואה אמבדינגים ב-10 הרץ במקום פריימים ב-100 הרץ.

• מודל שפה — צ'קפוינט ביניים של granite-4.0-1b-base, שהורחב ל-16k פוזיציות עם YaRN, עם מתאמי LoRA שאומנו במשותף עם המקרן.

• אימון — כ-390,000 שעות של אודיו ציבורי וסינתטי, 40 ימים בסך הכול על 8 כרטיסי NVIDIA H100 (26 ימים של אימון מקודד, 14 של אימון פרוג'קטור) באשכול Blue Vela של IBM.

• שפות — אנגלית, צרפתית, גרמנית, ספרדית, פורטוגזית ויפנית לתמלול; תרגום לאנגלית ומאנגלית עבור שש השפות הללו, וכן מאנגלית לאיטלקית ומאנגלית למנדרינית.

390,000 השעות הוא המספר החשוב ביותר עבור מה שהמודל טוב בו. הכרטיס מפרק אותו, והבלוק הבודד הגדול ביותר אינו דיבור קריאה נקי: LibriHeavy מספק 45,600 שעות אודיו ללא פיסוק ועוד 45,800 שעות אודיו עם פיסוק, VoxPopuli Granary מוסיף 24,000 ועוד 23,900 עם פיסוק, ואז יש 59,900 שעות של מה ש-IBM מכנה ASR הקשרי — אותם קורפוסים נחתכו מחדש עם הקשר של מקטע קודם רועש שהוסף לפני הפרומפט. עוד 7,100 ו-16,500 שעות הן ASR עם הטיה למילות מפתח בקבוצות השפות האירופיות והיפניות בהתאמה. התערובת הזו היא הסיבה לכך שהשיפורים הבולטים הם פיסוק, שימוש באותיות רישיות, עמידות והטיה למילות מפתח ולא שיעור שגיאות מילים גולמי באנגלית נקייה.

המספר 5.06%, והאותיות הקטנות שמתחתיו

הטענה המרכזית של IBM היא שיעור שגיאת מילים ממוצע של 5.06% באנגלית על פני תשעת מערכי המבחן הציבוריים קצרי-הטווח של Open ASR Leaderboard, שאותם היא מתארת כמדרגים אותה במקום ה-2 בקרב מודלי ASR מובילים עם משקולות פתוחותכרטיס המודל מפרסם את אותו נתון תחת תווית שונה — "תוצאות רשמיות נכון ל-20 באוקטובר 2026" — בעוד שבלוג ההכרזה מכנה את ההרצה הבסיסית "לא רשמית, נכון ל-15 באוקטובר 2026". שני התיאורים הללו מרוחקים זה מזה חמישה ימים ותואר אחד, ואף אחד מחוץ ל-IBM לא שחזר אף אחד מהם.

טבלת ההשוואה שהכרטיס כולל שווה קריאה בעיון, מפני שכללי הבחירה שלה עושים עבודה רבה. היא מציגה את עשרת המודלים המובילים עם משקולות פתוחות לפי WER ממוצע, אחד לכל ארגון, כאשר Granite Speech 5.0 2B ממוקם שני:

• #1 Qwen3-ASR-1.7B-hf — 4.94% WER ממוצע.

• #2 Granite Speech 5.0 2B — 5.06%.

• #3 cohere-transcribe-03-2026 — 5.21%.

• #4 Hojo-ASR-V1 ו-#5 higgs-audio-v3-stt — 5.22% כל אחד.

• #6 thewhisper-large-v3-turbo — 5.24%. שימו לב שזהו צ'ק-פוינט קהילתי שנטל את שמו של Whisper, ולא whisper-large-v3-turbo של OpenAI, שמקבל 7.83% באותו לוח דירוג. באופן שגרתי מתבלבלים בין השניים, והבלבול מחמיא לכל השוואה שתקראו.

• #7 canary-qwen-2.5b — 5.38%; #8 ARK-ASR-0.6B — 5.44%; #9 MOSS-Transcribe-Diarize — 5.54%; #10 Voxtral-Small-24B-2507 — 5.81%.

שני דברים נובעים מכך. ראשית, הפער למוביל הוא 0.12 נקודות אחוז, אשר על פני תשע ערכות מבחן נמצא בתוך הרעש שמתקבל מתצורת פענוח שונה — זהו תיקו על המקום הראשון, המתואר כמקום שני. שנית, הפיזור מ-#2 ל-#6 הוא 0.18 נקודות. מה שמבדיל בין המודלים האלה באנגלית נקייה, זה לא דיוק. המסר המכירתי האמיתי של IBM חייב להיות במקום אחר, והוא אכן שם.

כאשר הרווח גדול מספיק כדי להיות משמעותי: רעש ומרחק

לוח הדירוג FFASR מודד דיבור רועש ומהדהד — תנאי שדה קרוב, SNR גבוה, SNR בינוני ו-SNR נמוך, כשהם ממוצעים יחד. זהו המבחן שבו דור 5.0 מתבדל מדור 4.1 בפער שאפשר להרגיש, וזהו המספר השימושי ביותר בגרסה ששוחררה.

• Granite Speech 5.0 2B — WER ממוצע של 14.80%, במקום ה-4 מתוך 42 מודלים בלוח המובילים (תוצאות נכון ל-18 באוקטובר 2026).

• granite-speech-4.1-2b-nar — 15.16%, #6.

• granite-speech-4.1-2b — 16.35%, #9.

• לשם השוואה: whisper-large-v3 נמצא ב-18.02% באותו לוח, ו-nvidia/parakeet-tdt-0.6b-v2 ב-17.66%.

מדובר בשיפור של 1.55 נקודות לעומת קודמו הישיר בשמע מרחוק ורועש — ירידה יחסית של כ-9.5% בשגיאות — בעוד שהממוצע באנגלית נקייה עבר מ-5.33% ל-5.06%, כ-5% ביחס. במילים אחרות, השיפור גדול בערך פי שניים בתנאים שבהם אנשים באמת מפעילים תמלול: חדרי ישיבות, מוקדי שיחות, מיקרופונים של מחשבים ניידים ומיקרופונים מרוחקים של טאבלטים. אם מערך ה-ASR שלך כבר טוב באודיו אולפני ומתפרק בחדר ישיבות, הגרסה הזו מיועדת לך.

סימני הפיסוק שופרו; השימוש באותיות גדולות לא.

הטבלה המספרית היחידה בכרטיס משווה בין 5.0 ל-4.1 לפי שיעור שגיאות פיסוק (PER, נמוך עדיף) ו-F1 של שימוש באותיות רישיות (גבוה עדיף), מחושב על זוגות מילים מיושרים לפי Levenshtein ולא על משפטים שלמים. קרא את הכיוון של כל שורה, כי התמונה אינה אחידה.

• LScln — PER 25.70 → 23.20; Cap-F1 89.71 → 90.16.

• LSoth — PER 22.27 → 21.22; Cap-F1 91.26 → 91.65.

• VoxPopuli — PER 24.86 → 23.70, אבל Cap-F1 95.35 → 95.07.

• רווחים-22 — PER 22.87 → 21.64, אבל Cap-F1 95.19 → 94.98.

• CV-EN — PER 9.13 → 9.18 (מעט גרוע יותר); Cap-F1 96.75 → 96.96.

• CV-DE — PER 3.66 → 3.65; Cap-F1 99.50 → 99.51 (בגרמנית שמות עצם נכתבים באותיות גדולות, ולכן השורה הזו כמעט מושלמת).

• CV-ES — PER 11.61 → 11.46, Cap-F1 95.68 → 95.62.

• CV-FR — PER 11.00 → 11.43 (גרוע יותר); Cap-F1 97.25 → 97.20.

• CV-PT — PER 7.86 → 7.53; Cap-F1 98.51 → 98.48.

הפיסוק נע בכיוון הנכון בשבעה מתוך תשעה מערכים; השימוש באותיות רישיות נע בכיוון הלא נכון בחמישה מתוך תשעה, בטווח של בין 0.03 ל-0.28 נקודות. הסיכום של IBM הוא "דיוק תעתוק גבוה יותר" ו"פיסוק ואותיות רישיות", וניתן להצדיקו ברמה המצטברת, והוא מעט נדיב ברמת הפרט. המשמעות המעשית: צפו לפחות פסיקים חסרים, ואל תצפו שהמודל פתאום יקלוט נכון שמות עצם פרטיים ותחילות משפטים.

שתי תכונות שמשנות את עבודת האינטגרציה

היכולות שסביר ביותר שישפיעו על פריסה בפועל כלל אינן נמדדות בכרטיס, מכיוון שהן תכונות בקרה ולא תכונות דיוק.

הנחיה באמצעות זיהוי שפה. אפשר להוסיף בראש את המשפט "הדיבור הוא בגרמנית. תעתיקו אותו בדיוק; אל תתרגמו." והמודל יתמלל גרמנית במקום לתרגם אותה לאנגלית. זה חשוב משום שמודל דיבור שמתרגם אוטומטית אינו שמיש עבור, נניח, ארכיון תמיכה בגרמנית — מקבלים תמלול באנגלית ומאבדים את הניסוח המקורי. ההנחיה עובדת גם כשהיא כתובה בשפת היעד, וזה המקרה הריאלי יותר עבור צינור עיבוד רב-לשוני.

הטיית מילות מפתח של עד 2,000 מונחים. המגבלה של קודמו אינה מצוינת כמספר קשיח בכרטיס 4.1, אך 5.0 מעלה את הרשימה הנתמכת לאלפיים מונחים, בהתאם לפרומפט, בכל תחומי ASR ותרגום דיבור. עבור שמות מוצרים, שמות תרופות, מזהי קריאות או רשימת ה-SKU של הלקוח עצמו, זהו ההבדל בין תמלול שמיש לתמלול הזקוק לתיקון. הכרטיס מציג את F1 של הטיית מילות מפתח כגרף עם הפעלת הטיה ובלעדיה, אך ללא ערכים מספריים בטקסט, לכן יש להתייחס לגודל השיפור כלא מכומת.

יש גם פרט תכנוני הקשור לבטיחות שכדאי להכיר: אם המודל מקבל פרומפט פגום או לא מוכר, IBM אומרת שהוא מתעלם מהפרומפט וחוזר לתמלול פשוט. זהו אילוץ מכוון על מידת ההשפעה שיכולה להיות לאודיו על המערכת, ו-IBM ממליצה לצמד את המודל ל-Granite Guardian לזיהוי סיכונים בסביבת ייצור.

מריץ את זה

Granite Speech 5.0 2B נתמך באופן מובנה ב-transformers>=4.52.1 דרך AutoModelForSpeechSeq2Seq ו-AutoProcessor. הכרטיס גם מתעד את vLLM, llama.cpp ו-mlx-audio, וזה חשוב יותר ממה שזה נשמע: זהו מודל שאפשר להריץ על מחשב נייד, ולא רק מאחורי אשכול GPU.

• אורך קטע — תמלל במקטעים של עד כשתי דקות, ופצל הקלטות ארוכות יותר באמצעות VAD. הקשר YaRN בגודל 16k אינו מהווה היתר להזין לו שעה של אודיו; הדיוק נפגע הרבה לפני שההקשר נפגע.

• llama.cpp — הכרטיס ממליץ על Q8_0 ומציין שקוונטיזציה ברמת ביטים נמוכה יותר מאבדת דיוק באודיו ארוך מכדקה בקירוב. זו אזהרה ספציפית באופן יוצא דופן, וראוי לקחת אותה כפשוטה.

• mlx-audio — 0.5.9 ואילך, בתוספת jinja2, אשר mlx-audio זקוק לו עבור תבנית הצ'אט אך אינו מתקין אותו בעצמו.

• פרומפטים הם ספציפיים למשימה וחשובים — "תמלל את הדיבור עם פיסוק ושימוש נכון באותיות גדולות" הוא מצב שונה מפרומפט התמלול הגולמי, ומצב ההטיה לפי מילות מפתח מקבל סיומת "מילות מפתח: …".

מה שעדיין אינו ניתן לדעת

יש שלושה דברים שראוי לומר בבירור, כי הסיקור שמסביב לא יעשה זאת.

ראשית, אין הערכה עצמאית. כל מספר לעיל מגיע מהרצת ההערכה של IBM עצמה או מהגשות של IBM ללוח הדירוג. התרשים של FFASR אומר "תוצאות רשמיות", כלומר ההגשה נמצאת בלוח, ולא שצד שלישי הריץ את המודל. אף אחד לא פרסם שחזור, תיאור של מצבי כשל, או השוואה ראש בראש על אודיו ש-IBM לא בחרה.

שנית, אין נקודת קצה מתארחת. כרטיס המודל מציין במפורש שהמודל "אינו מופעל על ידי שום ספק הסקה", וגם לא מצאתי אותו בקטלוג של OrcaRouter — רשימת 209 המודלים אינה מכילה שום צ'קפוינט של Granite Speech משום דור. כיום האפשרויות שלך הן המשקלים, או כלום. זה נורמלי למודל בן יומיים וזה ישתנה; תכנן אירוח עצמי בינתיים.

שלישית, הרישיונות שונים בין בני המשפחה באופן שקל למעוד עליו. הדגם 2B הוא Apache 2.0 ללא הגבלה מסחרית. דגם ה-TurboCTC הקטן מגיע בשתי גרסאות, אחת Apache 2.0 ואחת לא-מסחרית — השמות לא מבהירים במבט חטוף איזו היא איזו.

באיזה מצב זה משאיר צינור עיבוד דיבור

הארכיטקטורה הריאלית עבור פריסה של Granite Speech 5.0 2B בסוף 2026 היא מקודד-מפענח (encoder-decoder) באירוח עצמי שמתמלל אודיו, וקריאה נפרדת למודל שפה שעושה את מה שבא לאחר מכן: סיכום השיחה, חילוץ שדות, סיווג כוונה, ניקוי התמלול מול סכימה. השלב השני הזה הוא יצירת טקסט רגילה, וזה החלק שנהנה מכך שאינו מקובע לספק אחד — התמלול עובר לנקודת קצה אחת תואמת OpenAI שיכולה להגיע אל יותר מ-200 מודלים במחיר המחירון של הספק ללא תוספת רווח, כך שהחלפת מודל הניקוי היא שינוי תצורה ולא בנייה מחדש, ו-תקלה אצל ספק מפעילה failover במקום להפיל את הצינור יחד איתה.

עבור שלב הדיבור עצמו, ההחלטה השבוע מצומצמת יותר ממה שמרמז תרשים הבנצ'מרק. Granite Speech 5.0 2B הוא מודל ASR אנגלי עם משקולות פתוחות ואמין שנמנה עם שלושת המובילים, שיפור ברור לעומת קודמו שלו עצמו בדיוק בתנאים ששוברים ASR בייצור, ומודל רב-לשוני באמת עם תרגום ושליטה במילות מפתח שרוב המתחרים בגודל הזה אינם מציעים. הוא גם בן יומיים, עבר בנצ'מרק מטעם הספק, ולא שוחזר. הריצו אותו על האודיו הקשה ביותר שלכם לפני שאתם מאמינים ל-5.06%.