Granite Switch 4.1 8B מול LFM2.5 2.6B Base: האם יש כאן בחירה אמיתית?

זו ההשוואה בזוג שבקבוצה שנראית הכי פחות כמו קרב הוגן, אז הבה נטפל בכך מיד במקום להעמיד פנים אחרת. Granite Switch 4.1 8Bהוא צ'קפוינט מורכב בעל 8.78 מיליארד פרמטרים ש-IBM פרסמה ב-14 באוקטובר 2026: Granite 4.1 8B קפוא עם שני מתאמים הניתנים להחלפה ומקודד דיבור, המבצע צ'אט, ניקוד החלטות ותמלול מנקודת קצה אחת. LFM2.5 2.6B Baseהוא מודל טקסט מאומן מראש בעל 2.69 מיליארד פרמטרים ש-Liquid AI פרסמה ב-1 באוגוסט 2026, שנבנה במיוחד לפריסה על המכשיר — וחשוב מכך, כרטיס המודל של עצמו אומר שהוא צ'קפוינט בסיס ש"מומלץ רק למשימות הדורשות כוונון עדין כבד". להשוות ביניהם כאילו האחד יכול להחליף את האחר הוא שגיאת קטגוריה. ההשוואה ביניהם מספרת משהו שימושי יותר: היכן בעצם נמצא הגבול של כל אחד מהם, ולמה כמעט אף אחד לא יבחר בין השניים האלה.

אז זה לא תחרות השוואתית. זו מפה של ההחלטה שהיית מקבל בפועל — זו שבה יש לך יעד קצה ויעד שרת, ואתה מנסה להבין איזה מודל הולך לאן.

לשם מה כל אחד מיועד

LFM2.5 2.6B Base היא ארכיטקטורה היברידית, וההיברידיות היא העיקר. שלושים שכבות, מתוכן 22 הן בלוקים של קונבולוציה קצרה עם שער כפול ו-8 הן קשב עם שאילתות מקובצות — כך שרוב הסטאק הוא קונבולוציה ולא קשב, וזה מה שמשאיר את טביעת הזיכרון ואת העלות לכל טוקן נמוכות בחומרה קטנה. ממד חבוי 2,048, 32 ראשי שאילתה מול 8 ראשי KV, חלון הקשר של 131,072 טוקנים, אוצר מילים של 128,000 טוקנים, ותקציב אימון מקדים של 34 טריליון טוקנים. שש עשרה שפות מופיעות ברשימה: אנגלית, ערבית, סינית, צרפתית, גרמנית, איטלקית, יפנית, קוריאנית, פורטוגזית, ספרדית, וייטנאמית, תאית, אינדונזית, הינדי, רוסית ופולנית. Liquid מתארת את המשפחה כמיועדת לפריסה על המכשיר, ומספקת את מודל ה-Instruct התאום בפורמטים GGUF, ONNX ו-MLX לצד הצ'קפוינט המקורי.

Granite Switch 4.1 8B הוא האינסטינקט ההפוך המיושם על הבעיה ההפוכה. במקום לכווץ את המודל, הוא שומר על עמוד שדרה טקסטואלי גדול למדי ומוסיף יכולת מהצד. הבסיס הוא Granite 4.1 8B: 40 שכבות, גודל חבוי 4,096, 32 ראשי שאילתה מול 8 ראשי KV, חלון של 131,072 טוקנים, אוצר מילים של 100,352 טוקנים. על גבי זה יושבים guardian-core, אדפטר activated-LoRA בדרגה 16 מעל היטלי הקשב שמזהה נזק, ג'יילברייקינג, ניבול פה, אלימות, תוכן מיני, הטיה חברתית והתנהגות בלתי אתית; decision, אדפטר בדרגה 64 מעל כל שבעת ההיטלים שמחזיר softmax מכוייל מעל טוקנים של אפשרויות מתויגות במעבר קדימה אחד; ו-Granite Speech 5.0 TurboCTC, מקודד קונפורמר לא-אוטורגרסיבי בעל 470 מיליון פרמטרים לתמלול. הסכום הכולל הוא 8,776,400,896 פרמטרים לעומת בסיס של 8,380,551,168 — עלייה של 4.72%.

הממד שמכריע: instruct לעומת base

ההבדל הגדול היחיד בין שתי נקודות הביקורת האלה אינו גודל או ארכיטקטורה. הוא בכך שאחת היא מודל גמור והאחרת היא חומר גלם.

Granite Switch 4.1 8B מגיע מוכן לקריאה. האדפטרים מורכבים בפנים, אסימוני הבקרה מחווטים דרך תבנית הצ'אט, מתכוני הקריאה עבור אדפטר ההחלטה מתועדים עם קוד עובד, והכרטיס מפרט את גרסאות ה-Transformers וה-vLLM המדויקות שהוא דורש. מורידים אותו, מריצים אותו, והוא עושה את שלוש המשימות.

LFM2.5 2.6B Base לא עושה דבר מכל זה, מעצם תכנונו. ההנחיה של Liquid עצמה היא שהצ'קפוינט הזה מיועד ל"עוזרים ספציפיים לשפה (למשל יפנית) או לתחום (למשל רפואי), לאימון על נתונים קנייניים, או להתנסות בגישות חדשות של אימון-המשך" — ואם מה שאתם רוצים הוא מודל שעונה על שאלות ישר מהקופסה, הכרטיס מפנה במקום זאת אל האח שעבר אימון-המשך. לצ'קפוינט בסיסי אין התנהגות של ציות להוראות שאפשר להשוות, אין יישור, ואין משמעת של תבנית צ'אט. אם תעמידו את שניהם באותה הערכה, מודל Granite ייראה טוב באופן דרמטי מסיבה שאין לה שום קשר לשאלה איזה מהם הוא המודל הטוב יותר: אחד עבר אימון-המשך והשני לא.

• פרמטרים — 8.78B מורכבים לעומת 2.69B.

• שכבות — 40 בלוקי טרנספורמר צפופים לעומת 30 היברידיים (22 קונבולוציה קצרה עם שער כפול + 8 GQA).

• הקשר — 131,072 טוקנים מול 131,072 טוקנים. שווה לחלוטין, וזה יוצא דופן וראוי לציון.

• אוצר מילים — 100,355 (שלושה מזהים שמורים למתאמים) לעומת 128,000.

• מודאליות — קלט טקסט ואודיו, פלט טקסט לעומת טקסט בלבד.

• סוג נקודת ביקורת — מורכב, מאומן-המשך, מוכן לקריאה לעומת בסיס מאומן מראש לכוונון עדין.

• רישיון — Apache-2.0 לעומת רישיון LFM 1.0, שהוא לא Apache. ההבחנה הזו חשובה מבחינה מסחרית וקל לפספס אותה.

• עדויות שפורסמו — Decision Index אחד שהורץ על ידי ספק עם ציון כולל של 42.9, ללא הערכה בלתי תלויה, לעומת היעדר בנצ'מרק ציבורי בר-השוואה עבור נקודת הביקורת הבסיסית.

מה 2.69 מיליארד קונה לך ש-8.78 מיליארד לא יכול

ניידות, וזה לא יתרון שולי. מודל בגודל 2.69B ש-22 מתוך 30 השכבות שלו בנויות מקונבולוציות קצרות מיועד לחיות על מכשיר — מחשב נייד, SoC בדרגת טלפון, קופסה משובצת — ו-Liquid מספקת גרסאות GGUF, ONNX ו-MLX מכומתות בדיוק לשם כך. צ׳קפוינט מורכב בגודל 8.78B עם מקודד דיבור של 470M הוא ארטיפקט בצד השרת. הוא רץ על GPU, בתוך קונטיינר, מאחורי נקודת קצה.

משמעות הדבר היא שצורות הפריסה אינן חופפות: אחת מיועדת למקרה שבו הבקשה לא יכולה לצאת מהמכשיר, והאחרת מיועדת למקרה שבו היא יכולה. אם האילוץ הוא "אין רשת", ההשוואה תמה עוד לפני שהיא מתחילה, ושום כמות של קומפוזיציה לא תשנה אותה. הוסף על כך את נקודת הרישיון — LFM 1.0 ולא Apache-2.0 — וצ'קפוינט 2.6B הוא זה שתבחר כאשר בכוונתך לכוונן בעצמך מודל משלך על הנתונים שלך ולהשיק אותו במוצר, בעוד ש-Granite Switch הוא זה שתבחר כאשר אתה רוצה שלוש יכולות היום תחת רישיון מתירני.

מה קומפוזיציה מקנה לך ש-2.69B לא יכול?

שלוש עבודות מנקודת קצה אחת, והסתברות במקום תשובה.

מתאם ההחלטה הוא החלק שאין לו מקבילה בצד השני. בהינתן מצב ושאלה עם אפשרויות מסומנות, הוא מחזיר softmax מכויל על פני התוויות האלה במעבר קדימה אחד — הקריאה המתועדת מבקשת מ-vLLM את ה-logprobs של מזהי הטוקנים של התוויות בדיוק דרך logprob_token_ids ומעלה אותם בחזקה, ונותנת פלט שצורתו כמו A: 0.982, B: 0.0035, C: 0.014. פרומפטים נותנים לך טוקן; זה נותן לך מספר שאפשר להחיל עליו סף, למצע אותו ולחשב לו לוג. יש גם פרט מתועד שכדאי להכיר לפני שבונים עליו: vLLM מגביל את logprob_token_ids ל-128 מזהים לבקשה, כך ששאלה עם יותר מ-128 אפשרויות צריכה לחלק את מזהי התוויות שלה לקבוצות של 128, בקשת פרומפט זהה אחת לכל קבוצה, כאשר התוצאות משורשרות ומוחל softmax יחיד על פני קבוצת התוויות המלאה. מכיוון שה-logprobs המוחזרים משתרעים על כל אוצר המילים, הערך של כל תווית אינו תלוי בקבוצה שביקשה אותו, כך שהתוצאה המחולקת לקבוצות זהה מתמטית לקריאה ללא הגבלה.

הדיבור על אותה נקודת קצה הוא השני. שלח input_audio בתור חלק תוכן בהשלמת צ'אט רגילה, והמקודד בעל 470M מתמלל אותו לפני שילוב התמלול בהקשר. ההסתייגויות של IBM ספציפיות וראויות לחזרה: פלט באנגלית בלבד, באותיות קטנות וללא סימני פיסוק, והמקודד ומודל השפה הם לא מאומנים במשותף — אין היטל מאומן שמחבר ביניהם, כך שתמלול שגוי יכול לשנות בשקט את מה שהמודל מגיב לו. למודל קצה ללא נתיב אודיו כלל יש בעיה אחרת, ולא שאין בעיה.

והמתאם הבטיחותי הוא השלישי: מסווג נזק וג'יילבריק שרוכב על אותה נקודת ביקורת, ומופעל באמצעות אסימון בקרה שתבנית הצ'אט מכניסה כאשר מעבירים adapter_name, במקום מודל שני שיש לפרוס ולשלם עליו.

היכן משתלב נתב כשהתשובה היא "שניהם"

הגרסה הריאלית של ההשוואה הזו מסתיימת כששני המודלים נמצאים באותו מוצר. LFM2.5 2.6B Base, מכוונן עדין, על המכשיר, מטפל במה שלא יכול לצאת ממנו; Granite Switch 4.1 8B, בהתארחות עצמית, מטפל בהחלטות ובתמלול בצד השרת. זו ארכיטקטורה דו-שכבתית, והשאלה התפעולית שהיא מעלה היא מה קורה בתפר — מודל על-מכשיר שנכשל, שרת שרווי, בקשה שצריכה ליפול הלאה למשהו אחר. אף אחד מהצ'קפוינטים אינו בקטלוג של OrcaRouter היום, כך שאנחנו לא הדרך להשיג אף אחד מהם; הנקודה שבה אנחנו נעשים רלוונטיים היא שרשרת הגיבוי שמאחוריהם. מפתח API אחד מכסה יותר מ-200 מודלים מתארחים עם מעבר אוטומטי לגיבוי, ה-DSL לניתוב מאפשר לך להרכיב כמה מודלים לקריאה אחת במקום לבנות ידנית את הפיזור, ו-מחיר המחירון של הספק מועבר הלאה עם 0% תוספת כך שהורדת מחיר של ספק נכנסת לתוקף באותו יום. img src="4.png" alt="צילום מסך של קטלוג המודלים של OrcaRouter, שכותרתו 210 מודלים, 16 ספקים, מפתח API אחד, חשבונית אחת, עם פאסטות מודאליות המציגות 173 מודלי טקסט, 12 תמונה, 5 אמבדינגס, 10 וידאו ו-10 מודלי TTS, סרגל סינון צדדי עבור מודאליות קלט, אורך הקשר, מחיר קלט, סטטוס, שכבת גישה, סדרה ופרמטרים נתמכים, ורשימה של כרטיסי מודלים מהחדש לישן המתחילה ב-OrcaCyber Zero 1.5, OpenAI GPT-6.1 Sol ו-Anthropic Claude Sonnet 5.5 עם תעריפי הקלט והפלט שלהם למיליון טוקנים." /> זו השכבה שהופכת עיצוב דו-שכבתי לכזה ששורד ולא לשביר, וכדאי שהיא תהיה במקום לפני ששכבת הקצה מתחילה להיכשל בשטח.

פסק הדין, ככל שהוא

בחרו ב-LFM2.5 2.6B Base אם אתם מתכוונים לבצע כיוונון עדין, אם ההסקה חייבת להתבצע במכשיר, או אם טביעת רגל של 2.69B היא האילוץ הקשיח. בחרו ב-Granite Switch 4.1 8B אם אתם זקוקים להתפלגות החלטות מכוילת, למסווג בטיחות מובנה, או לתמלול מאותה נקודת קצה כמו הצ'אט, ואם מכולה מבוססת GPU מקובלת עליכם. החפיפה בין שני מקרי השימוש האלה קרובה לאפס, ולכן התשובה הכנה לשאלה "מי מנצח" היא שהשאלה פגומה מלכתחילה — ולכן הדבר המועיל יותר לקחת איתכם הוא שנקודת ביקורת בסיסית של 2.69B ומודל instruct מורכב של 8.78B אינם שני נקודות על קו איכות אחד. הם שני מוצרים שונים שבמקרה יש להם מספרי פרמטרים סמוכים.