Granite Switch 4.1 30B מול Nemotron 3.5 Lightning 30B A3B: מה המשמעות של "Switch" בכל אחד מהשמות

שני המודלים האלה הם בסביבות 30B, לשניהם יש מילה בשם שנשמעת כמו ניתוב, והם עושים איתה דברים שונים לחלוטין. Granite Switch 4.1 30B — משקלים ב-Hub מאז 14 באוקטובר 2026 — מחליף מתאמים: מודל בסיס צפוף אחד, שני נספחי LoRA מופעלים, כשכל אסימון מריץ את הרשת המלאה. Nemotron 3.5 Lightning 30B A3B, ש-NVIDIA פרסמה ב-11 באוגוסט 2026, מחליף מומחים: מערכת היברידית של Mamba-2 ו-MoE שבה רק כ-3 מיליארד מתוך 30 מיליארד הפרמטרים מופעלים לכל אסימון. אף אחד לא ערך השוואת ביצועים בין השניים, והכתבה הזו לא מתכוונת להעמיד פנים אחרת. ההשוואה השימושית באמת היא מה כל עיצוב עולה לך לכל אסימון ומה הוא מחזיר.

ההבחנה הנכונה אינה קפדנות יתר, כי השמות מזמינים בדיוק את המסקנה השגויה. "Switch" ב-Granite Switch מתייחס לשכבת מיתוג קלת משקל שקוראת אסימוני בקרה בקלט ואומרת לכל שכבת מפענח אילו משקולות LoRA להחיל על טווח האסימונים הזה. זה אינו ניתוב מסוג תערובת מומחים והוא אינו מפחית את החישוב לכל אסימון אפילו ב-FLOP בודד. "A3B" בשם של NVIDIA הוא ההפך: זוהי הצהרה מפורשת על כמה מעט מהמודל פועל בזמן הסקה.

לוח התוצאות, ממד אחר ממד

• פרמטרים — Granite Switch 4.1 30B מסתכם ל-29,989,814,272 על בסיס של 28,865,728,512 (+3.89%); Nemotron 3.5 Lightning 30B A3B הוא 30B בסך הכול עם כ-3B פעילים לכל טוקן.

• ארכיטקטורה — טרנספורמר צפוף מסוג decoder-only בתוספת שני מתאמי LoRA פעילים, לעומת היבריד משולב של Mamba-2, MoE וקשב.

• חישוב לכל טוקן — מעבר קדימה צפוף מלא של 30B לעומת בערך עשירית מזה בפרמטרים פעילים, וזו כל הנקודה של הסיומת A3B.

• הקשר — 131,072 טוקנים בצ'קפוינט של Switch; עד 1M ב-Nemotron Lightning, כאשר NVIDIA מתעדת 256K כנתון המעשי על H100 בודד.

• מצב הסקה — אין בתבנית הצ'אט של Switch; מתג enable_thinking הניתן להגדרה ב-Nemotron.

• קלט אודיו — מקודד דיבור מוטבע של 470M בדגם Switch; אין כזה בצד של NVIDIA.

• רישיון — Apache-2.0 לעומת OpenMDW-1.1. אלה אינם אותו מסמך והתנאים במורד הזרם שונים; קרא את זה שאתה למעשה מפיץ תחתיו.

• חומרה — כרטיס ה-Switch מפרט את Transformers ו-vLLM בתוך חלון גרסאות צר; NVIDIA מתעדת את Nemotron Lightning על H100 בודד או A100 80GB, עם בילד NVFP4 המיועד לפריסה.

מה שה-checkpoint של Granite Switch בעצם מעניק לך

ההרכב הוא המוצר. Granite Switch 4.1 30B מקפיא את Granite 4.1 30B ומצרף שני אדפטרים — בדרגה 16 guardian-core מסווג בטיחות על הטלות הקשב ואדפטר בדרגה 64 decision על כל שבע ההטלות — בתוספת מקודד הדיבור. בחירת האדפטר מתבצעת דרך תבנית הצ'אט כאשר מעבירים adapter_name, כך שזהו פרמטר של בקשה, ולא שירות נוסף.

מה שזה קונה הוא צפיפות יכולות: הכרעת בטיחות, התפלגות אפשרויות מכוילת ותמלול מתוך תהליך אחד, תמורת 1.12 מיליארד פרמטרים נוספים מעל בסיס שממילא התכוונת לטעון. לפני חצי שנה אותו פרויקט הוציא נקודת ביקורת לתצוגה מקדימה עם שנים-עשר מתאמים בתוספת של 11.68%; הגרסה המוגמרת צמצמה זאת לשניים ב-3.89%, כלומר IBM מחליפה כיסוי בקריאות. עשרת המתאמים האחרים עדיין קיימים, וה-composer יבנה לך נקודת ביקורת עם כל תת-קבוצה.

העלויות נמצאות בדיוק במקום שהייתם מצפים. שום דבר במנגנון המתאמים לא הופך את המודל הבסיסי למהיר יותר, מכיוון שהמודל הבסיסי צפוף ולא נגעו בו — כל טוקן עדיין מריץ את כל הרשת. מסלול הדיבור הוא באנגלית בלבד, באותיות קטנות, ללא סימני פיסוק, ובמילותיה של IBM עצמה, לא אומן במשותף עם מודל השפה, כך שתמלול שגוי משנה בשקט את השאלה שהמודל עונה עליה. והצ'קפוינט מגיע ברמת דיוק אחת ללא גרסה מכומתת רשמית, לעומת מודל של NVIDIA שווריאנט ה-NVFP4 המומלץ לפריסה שלו נמצא ב-Hub מאז תחילת אוגוסט.

מה שהמספרים של Nemotron בעצם מודדים

טבלת הבנצ'מרקים של NVIDIA עבור Nemotron 3.5 Lightning 30B A3B מלאה יותר מזו של IBM עבור מודל Switch, וכדאי לקרוא את הערת השוליים המצורפת לה. הנתונים — MMLU-Pro 81.94, GPQA Diamond 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58, PinchBench 85.37, AA-LCR 52.00 בהקשר ארוך — מתוארים על ידי NVIDIA כנמדדים תחת הרנס העקבי שלה עצמה, עם הסתייגות שהם עשויים להיות שונים מהמספרים המדווחים על ידי ספקים אחרים בעצמם. זהו מסגור כן יותר ממה שרוב כרטיסי המודל מצליחים להציג, והוא עדיין משאיר אותם בגדר נתונים מדווחי-ספק. NVIDIA פרסמה את המתכונים ב-NeMo Gym כך שההרצות ניתנות לשחזור בידי מישהו אחר, וזה אינו אותו דבר כמו שמישהו אחר כבר שחזר אותן.

הטענה המעניינת יותר היא זו שקשורה למהירות ולא לדיוק. מודל של 30B עם 3B פרמטרים פעילים הוא הימור שרוב העבודה הסוכנית אינה זקוקה לכך שכל הרשת תפעל על כל טוקן, ו-NVIDIA סיפקה לצידו פענוח ספקולטיבי — ראשי חיזוי מרובי טוקנים בתוספת המנסחים DFlash ו-DSpark — כדי לדחוף את התפוקה עוד קדימה. היא גם מציבה את Lightning כשכבת ביצוע מתחת למתכנן גדול יותר ולא כמודל ששואלים אותו שאלות קשות. מיקום זה הוא של NVIDIA, והוא גם העדשה הנכונה עבור טבלת הבנצ'מרקים: יעילות ברמת הטוקן היא מה שמופיע בחשבון.

המלכודת שבחיבור שני לוחות התוצאות האלה יחד

פורסם מספר אחד עבור היכולת המרכזית של מודל Switch — Decision Index, מהדורה v0.3, תת-קבוצה ציבורית מהירה של 1,068 שורות, כללי 50.1, עם ידע 32.4, שפה 58.6, אחזור 49.8, כלים 76.5 ואומנויות 26.4 — וקיימת טבלת בנצ'מרק מלאה עבור Nemotron Lightning. הצבת 50.1 לצד 81.94 או 51.56 תהיה שגיאת קטגוריה מהסוג הטהור ביותר.

מדד ההחלטה מנקד עד כמה הdecision adapter מדרג קבוצה קבועה של אפשרויות מתויגות. זה אינו מדד לאיכות הצ'אט או החשיבה של מודל הבסיס, ומודל הבסיס אינו משתנה על ידי המתאם. הטבלה של Nemotron מנקדת את המודל כולו על ידע, חשיבה, קידוד והקשר ארוך. צירים שונים, כלי בדיקה שונים, מחברים שונים, ואין ביניהם אף בנצ'מרק משותף. שניהם מדווחים על ידי הספק. אין אפשרות להשוות ביניהם, והדבר ההגון היחיד שאפשר לעשות עם השניים הוא לסרב לחסר אותם זה מזה.

מה שאתם יכולים לעשות באופן לגיטימי הוא לקרוא את הצורה של כל אחד מהם. הציון 76.5 של Decision Index ב-Tools לעומת 26.4 ב-Arts אומר שכדאי להפנות את המתאם להחלטות של בחירת כלים, ואסור לסמוך עליו בסיווג בתחומים פתוחים בלי הערכה משלכם. הציון 51.56 של Nemotron ב-SWE-bench Verified לעומת השיא של 70.12 באותה טבלה אומר לכם שהוא אינו סוכן הקוד החזק ביותר בקבוצת ההשוואה של עצמו — NVIDIA שמה בטבלה שלה מספר גבוה יותר של מתחרה, וזה לכל הפחות אות שכדאי לכבד.

איזה אחד, בשביל מה

אם הבעיה שלך היא לולאת סוכן ארוכה שמריצה אלפי החלטות כלים קצרות, הכלכלה של הפרמטרים מצביעה לכיוון אחד: MoE עם 3B פרמטרים פעילים על GPU בודד יבצע את העבודה הזו בשבר מהעלות לכל טוקן של מודל צפוף בגודל 30B, ולמודל Switch אין מנגנון לסגור את הפער הזה, כי ה"מתג" שלו לעולם לא מפחית את החישוב. תוסיפו לכך הקשר של 1M ומתג החשיבה, והמודל של NVIDIA פשוט בנוי לעומס העבודה הזה.

אם הבעיה שלך היא תהליך יחיד שחייב לענות למשתמש, לפלוט החלטת ניתוב מכוילת ולתמלל את מה שהמשתמש אמר, החשבון מתהפך. ל-Nemotron 3.5 Lightning אין ראש החלטה ואין נתיב אודיו בכלל, ולבקש יפה ממודל צ׳אט שיענה באות אחת אינו התפלגות מכוילת. Granite Switch 4.1 30B נותן לך את כל שלושת אלה מנקודת ביקורת אחת תמורת פחות מ-4% יותר משקלים מאשר הבסיס שלו, וזו יכולת שאי אפשר לקנות על ידי בחירה במודל טוב יותר.

המקרה השלישי, אם להיות כנים, הוא הנפוץ ביותר: אינך בוחר בין אלה כלל. שניהם ארטיפקטים של הרצה עצמית, שניהם ברישיון Apache-2.0 או OpenMDW-1.1 ולא נקודת קצה מתארחת, ואף אחד מהם לא הוערך באופן עצמאי. Granite Switch 4.1 30B הוא בן יומיים בלבד, עם נתון מפורסם יחיד; Nemotron 3.5 Lightning הוא בן חודשיים, עם טבלת ספק ומתכונים מפורסמים. זה לא מספיק כדי לתכנן הגירה על סמך זה.

לקבל תשובה אמיתית בלי מיגרציה

אף אחד מהמודלים אינו בקטלוג של OrcaRouter היום, ולכן שניהם משמעותם החומרה שלך וערוצי ההפצה של הספק עצמו — של IBM עבור נקודת הביקורת של Switch, של NVIDIA עבור Lightning. לומר אחרת פירושו להמציא נקודת קצה.

המקום שבו הפלטפורמה מצדיקה את מקומה הוא בכך שמועמד צריך להיות זול לבדיקה. מפתח אחד מכסה יותר מ-200 מודלים עם מעבר אוטומטי בעת כשל ומעביר הלאה את מחיר המחירון של הספק עם 0% תוספת, כך שכאשר מופיע מסלול מתארח לאחד משני המודלים, הצבתו לצד המודל שכבר נמצא בייצור היא שינוי תצורה ולא מחזור רכש. אל מול שני מודלים במשקולות פתוחות של 30B שנראים סבירים על הנייר, ואף אחד מחוץ לספק הרלוונטי לא מדד אף אחד מהם, ההחלטה שמשנה אינה באיזה כרטיס אתה מאמין. היא כמה בזול תוכל לגלות.

שורה תחתונה

Granite Switch 4.1 30B ו-Nemotron 3.5 Lightning 30B A3B חולקים מספר פרמטרים וכמעט שום דבר אחר. האחד הוא בסיס צפוף עם מתאמים הניתנים להחלפה, שנותן לך שלוש עבודות לכל תהליך בחישוב צפוף מלא לכל טוקן; האחר הוא היברידי דליל שנבנה כך שכל טוקן יעלה כמה שפחות וכך שאפשר להריץ לולאה ארוכה על GPU בודד. בחר לפי צורת עומס העבודה, לא לפי טבלת בנצ'מרק — ואם תיקח מכאן דבר אחד, קח את התיקון בשמות: החלפת מתאמים קונה לך יכולת, דלילות מומחים קונה לך תפוקה, ואף מודל כאן לא קונה לך את שניהם.