Granite Switch 4.1 8B לעומת Granite 4.2 3B: אותה מעבדה, שני הימורים שונים

הדבר הראשון שכדאי לדעת על Granite Switch 4.1 8B ו־Granite 4.2 3B הוא שהם לא ממש יריבים. הם שתי תשובות לשאלות שונות שבמקרה חולקות מעבדה, רישיון ומספר גרסה, והדרך המהירה ביותר לבזבז שבוע היא להתייחס לזה כאל עימות ישיר ולבחור מנצח. IBM שחררה את Granite 4.2 3B ב-25 באוגוסט 2026 כמודל חשיבה קטן: שלושה מצבי חשיבה, קריאה לכלים, הקשר של 128K המתרחב ל-512K. IBM שחררה את Granite Switch 4.1 8B ב-14 באוקטובר 2026 כהרכב: מודל טקסט קפוא בגודל 8B עם שני מתאמים הניתנים להחלפה ומקודד דיבור התלוי בו. האחד בנוי לחשוב קשה יותר; האחר בנוי לבצע יותר משימות מנקודת ביקורת אחת.

הדבר השני שכדאי לדעת עדין יותר, והוא הסיבה לכך שהצמד הזה בכלל שווה כתבה. סדרת Granite Switch בנויה על 4.1, משקולות הדור, בעוד שהקו הקונבנציונלי של IBM כבר עבר ל4.2. קראו את מניפסט הבנייה של Granite Switch 4.1 8B והבסיס הוא ibm-granite/granite-4.1-8b. קראו את כרטיס המודל של Granite 4.2 3B והוא עבר אימון-המשך מתוך ibm-granite/granite-4.1-3b-base. שני הקווים עומדים על אותו דור של משקולות שאומנו מראש ועושים איתן דברים מנוגדים: 4.2 עובר אימון-המשך נמרץ יותר עבור הסקה, Switch מרכיב לרוחב לשם רוחב. אף אחד מהם לא דחק את משנהו, ולכן הרפלקס של "מה חדש יותר" נותן לך כאן תשובה שגויה.

מה כל אחד הוא בפועל

Granite 4.2 3B is a dense decoder-only model at roughly 3 billion parameters — 40 layers, hidden size 2,560, SwiGLU with an 8,192 intermediate, grouped-query attention at 40 query heads against 8 KV heads, RoPE theta 1e7, RMSNorm at 1e-5, untied input and output embeddings, and the same 100,352-token vocabulary the Granite family has used for a while. Its distinguishing feature is that reasoning is a mode rather than a model: full thinking with <think>...</think> chain-of-thought, a non-thinking mode that skips it, and a low-effort mode that produces a short burst of reasoning on queries that do not need the full pass. Tool calling is reasoning-augmented, meaning the model reasons about which function to invoke rather than emitting a call pattern directly. Context is 128K natively with a documented extension to 512K.

Granite Switch 4.1 8B אינו מודל הסקה ואינו מנסה להיות כזה. הבסיס שלו הוא Granite 4.1 8B — 40 שכבות, גודל חבוי 4,096, 32 ראשי שאילתה מול 8 ראשי KV, חלון של 131,072 טוקנים — קפוא, עם שני מתאמי LoRA פעילים מעליו. guardian-core הוא בדרגה 16 מעל הטלות הקשב ונועד לזהות פגיעה, פריצת סייגים, ניבולי פה, אלימות, תוכן מיני, הטיה חברתית והתנהגות לא אתית. decision הוא בדרגה 64 מעל כל שבע ההטלות ונועד להחזיר התפלגות הסתברות מכוילת על אפשרויות מתויגות במעבר קדימה יחיד. הוסף Granite Speech 5.0 TurboCTC, מקודד קונפורמר בעל 470M פרמטרים, לתמלול. סך כולל משולב: 8,776,400,896 פרמטרים לעומת בסיס של 8,380,551,168 — עלייה של 4.72%.

הממדים שבהם הם למעשה נבדלים

• גודל — Granite Switch 4.1 8B ב-8.78B לעומת Granite 4.2 3B בכ-3B. כמעט פי שלושה משקלים, שזה על GPU בודד ההבדל בין נוח לצר.

• הקשר — 131,072 טוקנים לעומת 128K מובנה, עם מסלול הרחבה עד 512K. קרוב בבסיס, לא קרוב אם אתה זקוק למשטר ההקשר הארוך.

• חשיבה — ללא מצב חשיבה בכלל מול שלושה מהם. Granite Switch 4.1 8B עונה; Granite 4.2 3B מנמק תחילה, באופן אופציונלי.

• פלט מובנה — softmax מכויל על אפשרויות מתויגות מול תשובה מפרומפט. רק אחד מאלה נותן לך מספר שאפשר להחיל עליו סף.

• מודאליות — טקסט ואודיו בקלט, טקסט בפלט, לעומת טקסט בלבד.

• הרכב אדפטרים — שני aLoRAs הניתנים להחלפה ומרכיב ציבורי מול צ'קפוינט מונוליטי יחיד.

• גרסה — 14 באוקטובר 2026 לעומת 25 באוגוסט 2026, בהפרש של שבעה שבועות, שניהם Apache-2.0.

כאשר Granite 4.2 3B הוא הבחירה הברורה

כל דבר שצריך לחשוב לפני שהוא עונה, וכל דבר שצריך לרוץ בקטן. מודל 3B שמפעיל חשיבה במספר טוקנים מבוקר הוא כלי שונה ממודל 8B שאינו מפעיל חשיבה כלל, ובמתמטיקה, בלוגיקה רב-שלבית ובקוד מצבי החשיבה עושים עבודה אמיתית ולא רק מקשטים את הפלט. מצב המאמץ הנמוך הוא החלק שלא מעריכים מספיק: הוא נותן לך הגדרה אמצעית בין "לחשוב לעומק" לבין "לא לחשוב בכלל", וזה בדיוק מה שאתה רוצה כששאילתה פשוטה אבל לא טריוויאלית ואתה משלם לפי טוקן.

הרחבת ה-512K חשובה מאותה סיבה, אך בכיוון אחר. עבודה עם מסמכים ארוכים — קוד בקנה מידה של מאגר, קלטים בני מאות עמודים — היא התחום שבו חלון של 131K מתחיל לדרוש אסטרטגיות פיצול, ואילו Granite Switch 4.1 8B אינו מתעד מסלול הרחבה מעבר ל-131,072 שלו.

טביעת הרגל היא הטיעון השלישי, וזה לא טיעון קטן. שלושה מיליארד פרמטרים הם מודל ברמת מחשב נייד. אפשר להריץ את Granite 4.2 3B במקומות שבהם צ'קפוינט של 8.78B הוא פשוט לא אופציה, וזה הבדל ביכולות ולא העדפה.

כאשר Granite Switch 4.1 8B הוא הבחירה הברורה

כאשר הפלט שאתם צריכים הוא הסתברות ולא פסקה. אפשר להנחות מודל חשיבה לבחור באפשרות B, והוא ייתן לכם את האות. אבל הנחיות אינן הסתברויות: אי אפשר להחיל סף על אות, אי אפשר להשוות אות בין תורות כציון מכוייל, ואי אפשר לתעד אותו כערך ביטחון. מתאם ההחלטה מחזיר softmax על טוקני התווית ישירות — הקריאה המתועדת מבקשת מ-vLLM את ה-logprobs של בדיוק אותם מזהים ומעלה אותם בחזקה, ומייצרת פלט בצורה של A: 0.982, B: 0.0035, C: 0.014. זהו פרימיטיב לניתוב, לא תשובה.

כאשר בדיקת הבטיחות צריכה להיות רכיב ולא מדיניות. guardian-core רוכב על אותו צ'קפוינט, מופעל על ידי אסימון בקרה שתבנית הצ'אט מכניסה כאשר אתה מעביר adapter_name. אתה לא מקים מודל שני כדי לסנן קלטים; המסווג הוא מצב של המודל שכבר טענת.

כאשר אתה רוצה נקודת קצה אחת במקום שתיים, ובאופן ספציפי כאשר אודיו הוא אחד מהשניים. תמלול חולק את נקודת הקצה עם צ'אט והחלטות, כך ש-input_audioחלק תוכן בהשלמת צ'אט רגילה הוא כל מה שנדרש. ל-Granite 4.2 3B אין מסלול אודיו.

וכשתרצה להרכיב וריאנט משלך. ה-Composer ציבורי, קטלוג האדפטרים פתוח, ומניפסט הבנייה של נקודת הביקורת הזו נמצא תחת בקרת גרסאות לצד המשקולות — מה שאומר שהדרגות, מודולי היעד ומזהי אסימוני הבקרה כולם ניתנים לקריאה במקום להיות מוסקים.

ההסתייגויות הכנות משני הצדדים

ל-Granite Switch 4.1 8B אין שום הערכה עצמאית. הציון המפורסם היחיד שלו הוא ה-Decision Index, edition v0.3 public fast subset, בציון כולל של 42.9 — ידע 29.1, שפה 48.9, אחזור 49.8, כלים 59.8, אמנויות 18.0 — וההרצה הזו הייתה של IBM עצמה, פורסמה בכרטיס המודל של IBM, ואף אחד לא שיחזר אותה. אין רשומה של צד שלישי בלוח הדירוגים. המודל בן יומיים ב-Hub עם כמה עשרות הורדות.

נתיב הדיבור שלו צר יותר ממה שהכותרות מרמזות, ו-IBM אומרת זאת בעצמה: המקודד הוא אנגלי בלבד, התמליל יוצא באותיות קטנות וללא סימני פיסוק, והמקודד ומודל השפה אינם מאומנים במשותף — אין היטל מאומן שמצמד ביניהם, כך שתמלול שגוי עלול לשנות בשקט את מה שהמודל מגיב לו. Granite 4.2 3B, לעומת זאת, בן שבעה שבועות ולא יומיים, אך גם נתוני ההערכה שלו הם של IBM, וחלון ההקשר של 512K שלו הוא נתיב הרחבה ולא החלון המקורי.

לאף אחד מהמודלים האלה אין רשומה עצמאית בלוח התוצאות. זהו מאפיין של כל סדרת Granite 4.x נכון לעכשיו, ולא ביקורת על אף אחד משני הצ'קפוינטים.

הרצת את שניהם בלי להריץ שני סטאקים

ההבחנה השימושית לגבי הזיווג הזה היא ששני המודלים לא מתחרים על אותה בקשה, כך שהפריסה הריאלית היא שניהם, ברצף: Granite 4.2 3B במצב חשיבה, שבו החלק הקשה הוא הסקה; Granite Switch 4.1 8B, שבו החלק הקשה הוא מתן ציון להחלטה או תמלול הודעה קולית. זו ארכיטקטורה של שני קונטיינרים, וכדאי להיות מדויקים לגבי היכן שכבת ניתוב עוזרת והיכן לא: שום מודל Granite מכל דור אינו נמצא בקטלוג של OrcaRouter היום, כך שאיננו נתיב מתארח לאף אחד משני הצ'קפוינטים האלה — Granite Switch 4.1 8B ו-Granite 4.2 3B הם שניהם הורדה מ-Hugging Face בתוספת קונטיינר vLLM. מה שהפלטפורמה משנה הוא השכבה שמעליהם. למעלה מ-200 מודלים יושבים מאחורי מפתח אחד, מחיר המחירון של הספק מועבר הלאה עם 0% תוספת כך שהורדת מחיר של ספק נכנסת לתוקף באותו יום ולא ברענון הקטלוג הבא, וגם מעבר אוטומטי לגיבוי אומר שמודל שאתם רק מנסים יכול לשבת בנתיב פעיל בלי להפוך לנקודת כשל יחידה. הנקודה בכך שזה כבר קיים לפני שאחד ממודלי Granite יופיע בנקודת קצה מתארחת היא שההשוואה אז עולה מחרוזת מודל אחת במקום הגירה אחת.

אז איזה

בחרו ב-Granite 4.2 3B כאשר העומס הוא הסקה, כאשר המכונה קטנה, או כאשר הקלט ארוך מ-131K אסימונים. בחרו ב-Granite Switch 4.1 8B כאשר העומס דורש הסתברות החלטה מכוילת, מסנן בטיחות מובנה, או דיבור באותה נקודת קצה כמו הצ'אט. בחרו בשניהם אם יש לכם את כרטיסי ה-GPU, כי החפיפה ביניהם קטנה בהרבה מכפי שהתווית המשותפת "Granite 4.x" מציגה — ואל תבחרו באף אחד מהם על סמך מספר בנצ'מרק ש-IBM הריצה על הכרטיס של IBM, כי זה כל בסיס הראיות הציבורי לשניהם.