Granite Switch 4.1 30B: IBM צמצמה שנים עשר מתאמים לשניים

לפני חמישה חודשים IBM העלתה ל-Hugging Face תצוגה מקדימה של Granite Switch 30B עם שנים עשר מתאמים בתוכה ותוספת פרמטרים של 11.68% מעל המודל הבסיסי. ב-14 באוקטובר 2026 הגיע המודל המוגמר — Granite Switch 4.1 30B — ויש לו בדיוק שני מתאמים ותוספת של 3.89%. המספר הכותרתי ירד בשני שלישים, וזו ההשקה.

כדי לדייק במשמעות של "הגיע", כי בנקודה הזו סיקורים רבים נעשים מרושלים: המשקלים נחתו ב-Hub ב-14 באוקטובר 2026, ופוסט ההשקה של IBM עצמה, Granite Switch 4.1: צ'אט, החלטות ודיבור מנקודת קצה אחת, עלה ב-15 באוקטובר. זה יומיים לפני שהדברים האלה נכתבים. זהו שחרור מוכרז, לא שחרור שקט שמישהו מצא במירור, והוא אינו רישום מחדש של התצוגה המקדימה ממאי — הארטיפקט שונה, מספר האדפטרים שונה, ומסלול האודיו כלל לא היה קיים בתצוגה המקדימה. בהמשך מופרד בין מה שאפשר לקרוא מהמאגר לבין מה שרק IBM אמרה.

מה בעצם נמצא בצ'קפוינט?

Granite Switch 4.1 30B הוא קומפוזיציה, לא ארכיטקטורה חדשה. הוא לוקח Granite 4.1 30B — טרנספורמר צפוף בסגנון מפענח-בלבד, חלון של 131,072 טוקנים, אוצר מילים של 100,352 טוקנים — מקפיא אותו, ומרכיב עליו שני מתאמי LoRA מופעלים בתוספת מקודד דיבור. מניפסט הבנייה מוכנס למאגר לצד המשקולות, ולכן כל טענה מבנית שלהלן ניתנת לקריאה ולא להסתמכות על דיווח.

• guardian-core — aLoRA, רנק 16, אלפא 64, מחובר להקרנות הקשב בלבד (k_proj, o_proj, q_proj, v_proj), נלקח מ־Guardian Library וכוון לנזק, פריצת מודלים, גסויות, אלימות, תוכן מיני, הטיה חברתית והתנהגות לא אתית. טוקן בקרה <|guardian-core|>, מזהה 100352.

• החלטה — aLoRA, דרגה 64, אלפא 128, מחובר לכל שבע ההטלות כולל את ה-MLP, ואומן לעשות משהו צר יותר מצ'אט: בהינתן מצב ושאלה עם אפשרויות מתויגות, להחזיר התפלגות הסתברות מכוילת על פני התוויות האלה במעבר קדימה אחד. טוקן בקרה <|decision|>, מזהה 100353.

• דיבור — granite-speech-5.0-470m-turboctc, מקודד CTC קונפורמרי לא-אוטורגרסיבי בעל 470 מיליון פרמטרים, אנגלית בלבד, המחובר כנתיב קלט אודיו ולא כשירות שני.

אריתמטיקת המשקלים היא המספר הנקי ביותר בגרסה. בסיס: 28,865,728,512 פרמטרים. מורכב: 29,989,814,272. ההפרש הוא 1,124,085,760 פרמטרים, או +3.89%. אתה לא כותב את אסימוני הבקרה בעצמך — תבנית הצ'אט מכניסה אותם כאשר אתה מעביר adapter_name ארגומנט, מה שאומר שיכולת ההחלפה היא פרמטר בקשה ולא פריסה שנייה.

התצוגה המקדימה כללה שנים עשר מתאמים. הגרסה הסופית כוללת שניים.

זו ההחלטה ששווה להבין, כי במבט ראשון היא נראית כמו רגרסיה. צ'קפוינט התצוגה המקדימה — עדיין ב-Hub, עדיין Apache-2.0, מתאריך 5 במאי 2026 — נושא שנים-עשר אדפטרים משלוש Granite Libraries: ציטוט, שכתוב שאילתה, הבהרת שאילתה, זיהוי הזיות, יכולת מענה, זיהוי עובדתיות, מעקות בטיחות למדיניות, תיקון עובדתיות, guardian-core, אי-ודאות, בדיקת דרישות וייחוס הקשר. זו חבילה שימושית באמת, והיא חבילה שצריך להפעיל לגביה שיקול דעת, כי שנים-עשר אדפטרים פירושם שנים-עשר מתכוני הפעלה ושנים-עשר חוזי פלט שונים.

Granite Switch 4.1 30B שומר שניים מהם ומוסיף מקודד דיבור. הפשרה ש-IBM עשתה היא קריאות תמורת כיסוי: המודל המוגמר הוא מודל צ'אט שיכול גם לענות על שאלת החלטה עם הסתברות ולתמלל שמע, ואלה שלושה דברים שקורא יכול להחזיק בראשו בבת אחת. עשרת המתאמים האחרים לא נעלמו — הם עדיין מפורסמים, עדיין ניתנים להרכבה, והמרכיב במאגר granite-switch יבנה לך צ'קפוינט עם כל תת-קבוצה שתרצה, כולל כל השנים-עשר. מה שהשתנה הוא מה שמגיע דלוק כברירת מחדל.

זה מחיר אמיתי, וכדאי לתת לו שם במקום להחליק אותו: אם חיכיתם שמתאמי זיהוי ההזיות וייחוס ההקשר של ה-preview יגיעו לנקודת ביקורת 1.0, זה לא זה. זהו מודל צר יותר עם תקורה נמוכה יותר, וכלי ההרכבה הם הדבר שסוגר את הפער.

מתאם ההחלטה הוא החצי שאינו מודל צ׳אט

קריאת התפלגות הסתברות מתוך מודל שפה אינה חדשה. ביצוע זה במעבר קדימה אחד מול קבוצה קבועה של תוויות אפשרויות, עם מספרים מכוילים מספיק טוב כדי לנתב על פיהם, הוא החלק שדורש הסבר. המתכון המתועד הוא פרומפט מערכת קבוע של מנוע החלטה, State: תור המוערך על הבסיס הקפוא, ואז ### DECISION תור שמציג את השאלה ואת האפשרויות המסומנות בתווית של טוקן בודד. אתם מבקשים את ה-logprobs של בדיוק מזהי הטוקנים של אותן תוויות ומעלים אותם בחזקה. הדוגמה של הכרטיס עצמו מחזירה משהו כמו A: 0.982, B: 0.0035, C: 0.014 — והחלק המעניין הוא שאלה הגיעו מנקודת קצה רגילה של השלמה, לא ממסווג.

יש קמט הנדסי שההודעה מדלגת עליו. מנגנון ה-logprob-token-id מוגבל ל-128 מזהים לבקשה, כך ששאלת החלטה עם יותר מ-128 אפשרויות נכשלת לחלוטין. התיקון המתועד הוא לפצל את מזהי התוויות למקטעים של 128, לשלוח בקשה אחת לכל מקטע עם פרומפט זהה, ולשרשר — וזה זהה מתמטית לקריאה ללא תקרה, מכיוון שה-logprobs המוחזרים משתרעים על אוצר המילים המלא, ולכן הערך של כל תווית אינו תלוי באיזה מקטע ביקש אותה. בקשה נוספת אחת לכל 128 אפשרויות. זה מסוג הפרטים שקיימים רק בתוך ריפוזיטורי.

המספר המפורסם היחיד שמצורף למתאם הוא ה-Decision Index, מהדורה v0.3, תת-קבוצה ציבורית מהירה של 1,068 שורות: ציון כולל 50.1, עם ידע 32.4, שפה 58.6, אחזור 49.8, כלים 76.5 ואומנויות 26.4. כדאי לקרוא את הצורה ולא את הכותרת — 76.5 בכלים שלצד 26.4 באומנויות הוא פרופיל מאוד לא אחיד, והוא מספר לך יותר על היכן בטוח לכוון את המתאם מאשר הנתון הכולל. IBM גם מדווחת שהגשת המתאם באופן מקומי ומאחורי נקודת קצה מנוהלת של vLLM התאימו זו לזו בסטייה של כ-0.6 נקודות, וזו בדיקת שפיות שימושית על נתיב ההגשה למרות ש-IBM הריצה את שני החצאים שלו בעצמה.

דיבור לטקסט, וההסתייגות ש-IBM כתבה לתוך הכרטיס שלה עצמה

נתיב האודיו מעביר את התמלול דרך המקודד המוטמע ומשחיל אותו לתוך הקשר הצ'אט במקום חלק תוכן האודיו, כך שבקשה עם אודיו נראית כמו השלמת צ'אט רגילה עם חלק input_audio. ללא שרת דיבור שני, ללא תקציב השהיה שני.

המגבלות כולן מגיעות מהתיעוד של IBM עצמה ולא ממבקר: אנגלית בלבד, פלט באותיות קטנות וללא סימני פיסוק, ללא היגוי בזמן פענוח, ו—זו שצריכה להאט אותך—מקודד הדיבור ומודל השפה אינם מאומנים במשותףאין הטלה מאומנת שמחברת ביניהם. לפיכך, שגיאת תעתיק יכולה לשנות את מה שהמודל, או מתאם ההחלטה, מגיב לו, ושום דבר בצנרת לא יסמן זאת. אם אתה פורס משהו שלשגיאת תעתיק יש בו השלכות, המשפט הזה הוא מודל האיומים כולו שלך.

מאושר, מדווח על ידי הספק, לא מאומת

• מאומת מהמאגר — זהות מודל הבסיס, דירוגי שני האדפטרים ומודולי היעד שלהם, מזהי אסימוני הבקרה, ספירת הפרמטרים המשולבת והדלתא של +3.89%, חלון האסימונים של 131,072, רישוי Apache-2.0, וחלון התמיכה המקובע (Transformers 5.16–5.17, vLLM 0.26–0.28, PyTorch 2.11+).

• דווח על ידי הספק, לא שוחזר — הנתונים של Decision Index, הטענה ש-Granite Speech 5.0 TurboCTC הוא מודל ה-ASR המהיר ביותר בלוח המובילים של OpenASR, הטענה שהמודל המורכב צורך בערך את אותה כמות VRAM כמו הבסיס, הקביעה שהמתאם Guardian גובר על כמה מודלים סגורים לקבלת החלטות שצוינו בשמם במשימות הקשורות לבטיחות, והערת האגב בפוסט ההשקה שבנייה מותאמת של Granite Switch 3B שיחקה Doom בקצב של 60–100 החלטות לשנייה לעומת 10 לשנייה כפי שדווח. IBM אומרת שיגיעו עוד נתונים "בשבועות הקרובים", וזו הודאה שהראיות של היום דלות.

• אף אחד לא בדק — את כל השאר. אין הערכה מצד שלישי, אין רשומה בלוח המובילים, אין מדידה עצמאית של השהיה או תפוקה, ואין נקודת קצה מתארחת של IBM. המאגר מציג קומץ לייקים, ולפי מצב הדברים בעת כתיבת שורות אלה, למעשה אין הורדות. בן יומיים ובמידה רבה לא נקרא.

היכן זה ממוקם בסטאק

Granite Switch 4.1 30B הוא סיפור של אירוח עצמי. הכרטיס מפרט את Hugging Face Transformers ו-vLLM, מקבע חלון גרסאות צר, והצ'קפוינט פועל על שניהם ללא המרה. אין נקודת קצה מנוהלת, ולכן הצעד המעשי הראשון הוא GPU אחד וקונטיינר.

להיות ישרים לגבי כל השאר: שום מודל Granite לא נמצא היום בקטלוג של OrcaRouter, כך שאם אתה רוצה את הצ'קפוינט הזה, המסלול הוא ההפצה של IBM והחומרה שלך. מה שהפלטפורמה כן נותנת לך הוא ההחלטה שמסביב — יותר מ-200 מודלים מאחורי מפתח אחד עם מעבר אוטומטי לגיבוי, מחיר המחירון של הספק מועבר הלאה עם 0% תוספת — וזה מה שהכי חשוב בדיוק במצב הזה. צ'קפוינט בן יומיים בלי הערכה בלתי תלויה הוא מועמד, לא המכהן, והדבר הזול לעשות עם מועמד הוא להשאיר אותו לצד המודל שכבר נמצא בייצור ולהשוות על התעבורה שלך, במקום לסלול מחדש נתיב ייצור סביבו.

השאלה הפתוחה

ההימור מאחורי Granite Switch הוא שהרכבה עדיפה על קנה מידה עבור סוג מסוים של עבודה — אפליקציות שעונות, מחליטות ומתמללות, שבהן שלושה מודלים פירושם שלוש פריסות, שלוש השהיות ושלושה חשבונות. שיתוף מטמון KV אחד בין מתאמים, עם תשלום של 3.89% על כך, הוא הישג הנדסי יוצא דופן באמת, וזה החלק בגרסה הזו שעדיין יהיה חשוב בעוד שנה.

מה שלא הוכרע הוא אם התשובה שהורכבה טובה. הפרופיל שפורסם של מתאם ההחלטות אינו מאוזן, מסלול הדיבור הוא באנגלית בלבד ולא אומן במשותף, והמודל בן יומיים בלבד בלי שום הרצה עצמאית מאחוריו. קרא את מניפסט הבנייה, הרכב תת-קבוצה משלך, ובחן את מתאם ההחלטות מול סט התוויות שלך לפני שתסמוך על ה-50.1 של מישהו.