Granite 4.2 30B לעומת Nemotron 3.5 Lightning — ההוגה והמבצע. איור מחודש.
Guides & Insights

Granite 4.2 30B לעומת Nemotron 3.5 Lightning: ההוגה והעושה

מחבר

Rowan Sterling

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

Granite 4.2 30B ו-Nemotron 3.5 Lightning הם שני מודלים פתוחי-משקל בגודל 30B שיצאו בהפרש של ארבעה עשר ימים זה מזה, עם תפקידים כמעט הפוכים. Nemotron 3.5 Lightning, ששוחרר על ידי NVIDIA ב-11 באוגוסט 2026, הוא מודל היברידי Mixture-of-Experts עם סך של 30B ו-3B פעילים — שכבות state-space של Mamba-2, MoE, ואטנציה — שנועד להיות שכבת הביצוע של מערכות סוכנים: קריאות כלים מהירות, לולאות בנפח גבוה, עבודת תת-סוכנים, וריצה על GPU יחיד. Granite 4.2 30B, ש-IBM פרסמה בשקט על Hugging Face ב-25 באוגוסט 2026, הוא מודל חשיבה צפוף עם 29 מיליארד פרמטרים — חושב, עם מצבי חשיבה לבחירה ולמידת חיזוק סוכנית, וגם ניתן לאירוח עצמי. שניהם פתוחים (Apache 2.0 לעומת OpenMDW-1.1), שניהם מתאימים לחומרה שצוות יכול בפועל להחזיק, ושניהם שחרורים של אוגוסט שהמדדים שלהם עדיין מדווחים בעיקר על ידי הספקים. השאלה המעניינת היא לא איזה מהם טוב יותר, אלא איזה מהם אתה צריך — מתכנן, מבצע, או שניהם.

הפיצול בין מתכנן למבצע אינו המצאה של עורכים; זהו העיצוב של NVIDIA עצמה. Nemotron 3.5 Lightning זוקק מ־Nemotron 3 Ultra הגדול בהרבה, במפורש כדי שמודל חזיתי יוכל לטפל בתכנון בעוד Lightning מריץ את הלולאה, ו־NVIDIA שלחה אותו יחד עם NeMo Switchyard, ספריית ניתוב שמיישמת בדיוק את חלוקת העבודה הזו. Granite 4.2 30B, לעומת זאת, מנסה להיות הסוכן כולו בחבילת 30B אחת.

Granite 4.2 30B, ההוגה

דגם הדגל Granite 4.2 של IBM הוא טרנספורמר צפוף מסוג decoder-only עם שלושה מצבי חשיבה — חשיבה מלאה (עטופה ב-think>... ו-/think> תגיות), חשיבה במאמץ נמוך, ומצב ללא חשיבה — בתוספת קריאת כלים תואמת OpenAI ולמידת חיזוק אג'נטית (agentic) שאימנה אותו להפעיל מסופים, להריץ קוד ולחפש באינטרנט בסביבת ארגז חול. חלון ההקשר המקורי שלו בגודל 128K ניתן להרחבה ל-512K. כרטיס המודל של IBM טוען ל-89.17 ב-AIME 2025, 77.60 ב-MMLU-Pro, ו-57.00 ב-SWE-Bench Verified (במסגרת ההרצה) — כל אלה דיווחי הספק, אף אחד לא שוכפל באופן בלתי תלוי, ועדיין אין כניסה ל-Artificial Analysis. בקיצור, זהו מודל חשיבה כללי שכוון במיוחד לעבודה אג'נטית, והוא מגיע בקוונטיזציות BF16 ו-FP8, NVFP4/MXFP4, ו-GGUF כך שצוותים יכולים להריץ אותו בפועל.

A screenshot of the Hugging Face model card for ibm-granite/granite-4.2-30b (captured August 26, 2026), showing the card header, Model Summary with Model Type 'Decoder-only Dense Transformer (Reasoning)', Base Model 'Granite-4.1-30B-Base', Parameters 30B, Context 'Natively Supports 128K (Long-context extension to 512K)', bfloat16 precision, 12 tested languages, and 'Built-in <think>...</think> chain-of-thought'.

Nemotron 3.5 Lightning, העושה

המוצר של NVIDIA הוא בעל צורה שונה לחלוטין. השם "30B A3B" פירושו 30 מיליארד פרמטרים בסך הכול, כאשר רק כ-3 מיליארד פעילים עבור כל טוקן — ארכיטקטורה היברידית המשלבת Mamba-2, MoE ו-attention המאפשרת לו לייצר במהירות ובעלות נמוכה. הוא מגיע עם פענוח ספקולטיבי מובנה: ראשי חיזוי רב-טוקנים (Multi-Token Prediction), ובנוסף מודלי דראפט DFlash ו-DSpark, כך שמודל דראפט קטן מציע טוקנים שהמודל הראשי מאמת במקביל. NVIDIA טוענת למהירות פלט גבוהה פי 4 בהשוואה למודלים בגודל דומה, וכל המערכת רצה על GPU יחיד — RTX 5090, DGX Spark או Jetson — או עם הקשר (context) של 256K על H100 אחד, כאשר המודל תומך באופן עקרוני בהקשר של עד 1M. הרישיון שלו, OpenMDW-1.1, מכסה את המשקלים, את נתוני האימון ואת המתכונים.

המיצוב של NVIDIA עצמה ישיר לגבי מה ש-Lightning אינו: הערכה שפרסמה הראתה ביצועים חלשים ב-Terminal-Bench כסוכן ראשי — LLM Stats אימתו באופן עצמאי כ-24.6 ב-Terminal-Bench 2.1 — וההנחיה היא להשתמש בו כמבצע, לא כמתכנן. החוזקות המדווחות על ידו הן MMLU Pro 81.94, GPQA Diamond 75.44, SWE-Bench Verified 51.56, ו-PinchBench בדיוק של 86% תוך סיום משימות מהיר בכ-30% בהשוואה ל-Qwen 3.6 35B בדיוק דומה. כל אחת מהן היא מספר משלה של NVIDIA.

A screenshot of the Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 (captured August 26, 2026) showing the NVIDIA organization header, Total Parameters 30B (3B active), Context Length up to 1M tokens (256K for a single H100 deployment), and License openmdw-1.1.

לוח התוצאות, מסומן בכנות

ההשוואה המועילה היא צורת העמודה, לא ערכי השורה:

• Granite 4.2 30B — כ-29B צפוף, כל הפרמטרים פעילים; Apache 2.0; 128K מקורי / 512K מורחב; מצבי חשיבה שתוכלו לבחור לכל בקשה; דיווח ספק: SWE-Bench Verified 57.00, Terminal-Bench 2.1 29.24; החושב.

• Nemotron 3.5 Lightning — 30B סה״כ / 3B פעיל MoE היברידי; OpenMDW-1.1; 1M הקשר (256K מעשי על H100 אחד); פענוח ספקולטיבי (MTP/DFlash/DSpark); מדווח יצרן: SWE-Bench Verified 51.56, ~24.6 Terminal-Bench 2.1 (אומת ע״י LLM Stats); המבצע.

A two-column comparison scoreboard titled 'Granite 4.2 30B vs Nemotron 3.5 Lightning — the scoreboard'. Left column Granite 4.2 30B: Params ~29B dense, Context 128K / 512K ext, License Apache 2.0, Architecture dense Transformer, Terminal-Bench 2.1 29.24 (vendor), One GPU yes (quantized). Right column Nemotron 3.5 Lightning: Params 30B / 3B act MoE, Context 1M (256K practical), License OpenMDW-1.1, Architecture hybrid MoE (Mamba-2), Terminal-Bench 2.1 ~24.6 (LLM Stats), One GPU yes (NVFP4). Footer: 'Granite & Nemotron figures vendor-reported; Nemotron Terminal-Bench per LLM Stats.' OrcaRouter logo in the bottom-right corner.

קרא את השורות האלה כפי ש-NVIDIA מתכוונת: החולשה של Lightning ב-Terminal-Bench היא תכונה של העיצוב שלו — הוא לא אמור לתכנן, הוא אמור לבצע. המספרים של Granite הם מודל יחיד שטוען לעשות את שניהם. אף אחת מהסטים לא משוכפלת באופן עצמאי בעת ההשקה; שתיהן תהיינה בתוך שבועות.

המחסנית, לא המודל.

שני המודלים הם פחות מתחרים ויותר רכיבים משלימים של אותה מערכת. סוכן צריך מתכנן כדי לפרק משימה ומבצע כדי לטחון דרך אלף קריאות לכלים. Granite 4.2 30B מנסה למזג את שניהם למודל צפוף אחד; Nemotron 3.5 Lightning הוא במפורש חצי מערימה של שני מודלים, כשמודל ה-frontier הוא החצי השני. NVIDIA מכנה את הערימה הזו NeMo Switchyard; שכבת ניתוב עושה את אותו הדבר עם כל שילוב של מודלים מתארחים ומודלים באירוח עצמי.

כאן מקומה של הערת הניווט הכנה. אף אחד מהמודלים אינו על OrcaRouter — אנו לא מנתבים לא את Granite 4.2 30B ולא את Nemotron 3.5 Lightning, ושורת הזמינות של שניהם היא החומרה שלכם או הערוצים של הספק עצמו. אבל הדפוס של שני המודלים שהם מצביעים עליו הוא בדיוק מה ש-DSL לניתוב נועד לו: להרכיב נקודת קצה של Granite המתארחת עצמית עבור מעברי החשיבה ונקודת קצה של Lightning המתארחת עצמית עבור לולאות הביצוע, לשים מודל גבול מתארח בחזית עבור התכנון שזקוק ליותר מרחב, ולהניע את כל השלושה ממפתח API אחד עם מעבר אוטומטי למצב גיבוי. אינכם צריכים לבחור בין חושב למבצע — אתם יכולים להרכיב מחסנית שמשתמשת בכל אחד היכן שהוא חזק, ולתת לנתב לפסוק.

איזה אחד קודם?

אם אתה רוצה מודל יחיד שבבעלותך, מאגר קוד אחד, ומחסנית שירות אחת, ואתה מוכן לתת לו את כל עבודת ההיגיון והביצוע — התחל עם Granite 4.2 30B, אבל חכה ל-benchmark הבלתי-תלוי הראשון לפני שתסמוך על המספר 57.00 SWE-Bench. אם אתה בונה סוכן בנפח גבוה שבו רוב הקריאות הן שלבי כלים קצרים והשהייה היא התקציב, התחל עם Nemotron 3.5 Lightning ותן למודל חזיתי או ל-endpoint של Granite לעשות את החשיבה. אם אתה בונה משהו רציני, התשובה היא שניהם — החלטה שהשוואה של 30B בלבד לעולם לא הייתה מעלה על פני השטח.