Nemotron 3.5 Bolt 74B מול Gemma 4 26B A4B: שמונה נקודות אינדקס ואי-התאמה ברוחב סיביות
- OrcaחדשOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 לכל 1M טוקנים · 9 tok/s
- deepseekחדשDeepSeek: DeepSeek V4.1 Flash 10172026-10-17$0.15 / $0.60 לכל 1M טוקנים · 213 tok/s
- DeepSeekחדשDeepSeek: DeepSeek V4.1 Flash2026-10-1740אינטליגנציה
- OrcaחדשOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 לכל 1M טוקנים · 94 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952אינטליגנציה
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856אינטליגנציה
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 לכל 1M טוקנים · 789 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238אינטליגנציה
- OpenAIOpenAI: GPT-6 Sol2026-09-2248אינטליגנציה
- AnthropicAnthropic: Claude Opus 5.52026-09-2258אינטליגנציה
- xAIGrok 4.72026-09-2146אינטליגנציה
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 לכל 1M טוקנים · 39 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 לכל 1M טוקנים · 832 tok/s
- OpenAIOpenAI: GPT-6 Astra2026-09-0453אינטליגנציה77כתיבת קוד
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241אינטליגנציה76כתיבת קוד
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245אינטליגנציה76כתיבת קוד
- AnthropicAnthropic: Claude Fable 5.12026-09-0153אינטליגנציה82כתיבת קוד
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 לכל 1M טוקנים · 52 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 לכל 1M טוקנים · 120 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642אינטליגנציה72כתיבת קוד
כבר יש השוואה ראש-בראש בין NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GBלבין Google Gemma 4 26B A4B, ו-NVIDIA פרסמה אותה. היא מופיעה בטבלת הבנצ'מרקים בכרטיס הדגם של Bolt, שבה עמודת Gemma היא קו בסיס שהחברה בחרה. קריאה מדוקדקת של הטבלה הזו היא הדרך המהירה ביותר להבין מהם באמת שני המודלים האלה, כי שני הצ'קפוינטים לא מתחרים על אותה משימה, והמסגור של הספק עצמו אומר זאת בקול רם: מודלי ההשוואה נבחרו בשל היכולת שלהם להיכנס לתוך 24GB של זיכרון עם כימות של 4 סיביות. Bolt נכנס לתוך 24GB בדרך אחרת — 2.0625 סיביות לכל משקל בשכבות המומחים שלו — והפער בין שתי האסטרטגיות האלה הוא כל הסיפור.
שני המספרים שבכותרת אמיתיים. Artificial Analysis מדדה את Bolt ב-21 במדד Intelligence Index שלה, ואת Gemma 4 26B A4B — בתצורת ההסקה שלו — ב-17. אף אחד מהנתונים אינו מגיע מספק, ושניהם היו זמינים בדפי המודלים של הפאנל בזמן כתיבת שורות אלה.
ההשוואה ש-NVIDIA ערכה, והעמודה שהיא בחרה
הטבלה של NVIDIA עבור Bolt כוללת ארבעה עמודות: Qwen3.6-35B-A3B ב-BF16, Gemma 4 26B-A4B ב-BF16, Nemotron 3.5 Lightning 30B-A3B ב-BF16, ו-Bolt ב-IQ2. כל מספר בה מדווח על ידי הספק ולא שוחזר על ידי אף גורם עצמאי. הנה עמודת Gemma לעומת זו של Bolt, בנצ'מרק אחר בנצ'מרק.
• GDPVal-AA-V2 — Gemma 15.33, Bolt 28.47
• Terminal-Bench 2.1 — Gemma 37.22, Bolt 50.98
• Tau3 Banking — Gemma 14.02, Bolt 17.01
• HLE ללא כלים — Gemma 17.42, Bolt 25.30
• SciCode — Gemma 40.28, Bolt 41.02
• GPQA Diamond — Gemma 79.61, Bolt 86.43
• אחזור הקשר ארוך AA-LCR — Gemma 57.56, Bolt 64.06
• PinchBench — Gemma 74.70, Bolt 87.82
• חזון WebArena — Gemma 38.2, Bolt 50.86
• דיוק AA-Omniscience — Gemma 22.17, Bolt 16.90. Gemma מנצחת בשורה הזו, וזו השורה היחידה בטבלה שבה זה קורה.
• אי-הזיה ב-AA-Omniscience — Gemma 14.22, Bolt 61.27. זהו הפסד גדול וספציפי לשושלת של Gemma, וכדאי לעצור על כך: מדד אי-ההזיה של Omniscience מעניש מודל שעונה בביטחון כאשר הוא לא יודע משהו, והגרסה של Gemma שתועדה כאן מקבלת בערך רבע מהנתון של Bolt.
הסתייגות אחת חלה על כל הבלוק. NVIDIA הריצה את כולו, כולל עמודת Gemma, על בילד BF16 של Gemma מול בילד 2-bit של המודל שלה, ואז דיווחה על התוצאה בכרטיס המודל שלה.
שתי נקודות ביקורת, שני משטרי דחיסה
Gemma 4 26B A4B הוא מוצר שהושק, ועומדת מאחוריו כבר שנת שימוש. הוא נחת ב-Hugging Face ב-11 במרץ 2026 תחת רישיון Apache 2.0, עם 25.2 מיליארד פרמטרים בסך הכול ו-3.8 מיליארד פעילים לכל טוקן, עם מחסנית קשב היברידית המשזרת שכבות חלון הזזה מקומיות עם שכבות גלובליות, חלון הקשר של 256K, תמיכה מובנית בהנחיית מערכת ויכולות ראייה בכל גודל במשפחה. זהו מודל שאפשר לקחת, לכמת בעצמכם ל-4 סיביות ולהריץ, וכבר קיים אקוסיסטם גדול של כימותים מוכנים מראש.
Bolt הוא תוצאת דחיסה העוטה כרטיס דגם. NVIDIA לקחה את Nemotron 3.5 Super VL 120B-A12B — צ'קפוינט מולטימודאלי מאותו דור — והריצה עליו את Star Elastic, חיפוש ארכיטקטורה מונחה-ראוטר שחייב לעמוד בתקציב פריסה קשיח, במקרה הזה מתחת ל-24GB בגודל אצווה 1 ובחלון הקשר של 128K. ה-top-K של המומחים ירד מ-22 במודל האב ל-9. משקלי המומחים עברו לאחר מכן כימות ל-IQ2-XXS ב-2.0625 ביטים לרכיב, עם זיקוק מודע לכימות כדי להשיב את הדיוק, שכבות Mamba הושארו ב-NVFP4, שכבות ההטמעה והפלט ב-Q8_0, ומגדל הראייה חובר מחדש לאחר מכן.
התוצאה היא 74 מיליארד פרמטרים בקובץ של 24GB. זו אינה קוונטיזציה של מודל ששוחרר; זו רשת בעלת צורה שונה, שעבורה בוצע חיפוש תחת אילוץ זיכרון ולאחר מכן אומנה לשחזר.
למה רוחב הסיביות חשוב יותר מהפרמטרים
הצבו את השניים זה לצד זה והקריאה האינטואיטיבית היא שמודל 74B מנצח מודל 26B. הקריאה הזו כנראה נכונה במקרה הזה, והיא גם לא החלק המעניין, כי שני המודלים מתבקשים לעשות דברים שונים עם אותם 24GB.
• פרמטרים — Bolt 74B סה״כ, 9B פעילים לכל טוקן. Gemma 4 26B A4B: 25.2B סה״כ, 3.8B פעילים לכל טוקן.
• ארכיטקטורה — Bolt: LatentMoE היברידי Mamba-2–Transformer עם מקודד ראייה C-RADIO v4-H. Gemma: MoE עם קשב היברידי מקומי/גלובלי עם מגדל ראייה, ובגדלים אחרים במשפחה, אודיו.
• דיוק מאוחסן — Bolt מגיע באופן מקורי ב-2.0625 סיביות לכל משקל מומחה. המאגר של Gemma הוא 16-ביט, כאשר גרסאות 4-ביט ואימון מודע לכימות פורסמו בנפרד.
• הקשר — Bolt תומך בעד 256,000 טוקנים. Gemma 4 26B A4B: 256,000 טוקנים. השורה הזו היא תיקו, וזה מפתיע אנשים שמניחים שמודל ה-2-bit ויתר כאן על משהו. הוא לא ויתר.
קלטים — Bolt מקבל טקסט, תמונות וווידאו. Gemma 4 26B A4B מקבל טקסט ותמונות; וידאו מגיע כפריימים, ואודיו מוגבל לחברי המשפחה הקטנים יותר.
• רישיון — Bolt: OpenMDW-1.1. Gemma 4 26B A4B: Apache 2.0, כאשר לצידו ניצבת מדיניות השימוש האסור של Google.
• פענוח ספקולטיבי — Bolt מגיעה עם דראפטר LiLiCorr, המחובר דרך DFlash עם שבעה טוקנים ספקולטיביים במתכון הייחוס של NVIDIA. ל-Gemma 4 26B A4B אין דראפטר מסופק על ידי הספק; חיזוי רב-טוקני מופיע במודלים מכווננים עדין של הקהילה ולא בגרסת הבסיס.
ההשלכה המעשית של שורת הדיוק היא שההורדה של Bolt היא כבר הקטנה. אין עוד בילד 2-ביט למצוא, כי בילד ה-2-ביט הוא המודל. ה-26B של Gemma הוא צ'קפוינט 16-ביט שמצופה ממך לדחוס, וגרסת ה-4-ביט שרוב האנשים יגישו בפועל היא המרה שמישהו עשה ממנו.
כאשר הדגם הקטן יותר הוא הקנייה המשתלמת יותר
הטבלה של NVIDIA עצמה נותנת ל-Gemma שני דברים שראוי להתייחס אליהם ברצינות. דיוק AA-Omniscience נוטה לטובת Gemma עם 22.17 לעומת 16.90, והקריאה הישרה של זה היא שכיווץ ל-2 סיביות גבה מחיר מדיד מהשליפה העובדתית גם לאחר זיקוק. כל מי שעומס העבודה שלו אנציקלופדי ולא סוכני צריך לתת לשורה הזו משקל רב.
רישוי הוא השני. Apache 2.0 היא האפשרות הפחות מוגבלת הזמינה לפריסה מסחרית, ואילו OpenMDW-1.1, אף שנכתב להיות מתירני ואושר במפורש על ידי NVIDIA לשימוש מסחרי, הוא כלי חדש יותר שסביבו פחות ספרות ואין החלטות בתי משפט שמפרשות אותו. צוותים משפטיים ראו בעבר אחד מאלה ולא את האחר.
השלישי הוא בגרות. את Gemma 4 26B A4B ניתן להוריד מאז מרץ ולקרוא לו מנקודת קצה מתארחת מאז האביב. גרסאות מכומתות, כיוונונים עדינים, מתכוני הגשה ושחזורי בנצ'מרק — כולם קיימים. המאגר של Bolt עלה לאוויר באוקטובר. לא פורסם דבר עצמאי על ההשהיה שלו, ואין כימותים קהילתיים שאפשר להישען עליהם, כי אין מה לכמת.
רביעית, וקל לפספס: הדגמים האחים של Gemma בגודל 21B ומטה תומכים באודיו באופן מובנה. אם הפייפליין כולל דיבור, ה-26B A4B הוא הדגם הלא נכון מבין בני משפחתו, ואף דגם של Nemotron אינו הנכון.
מה העלות בפועל של החזקת כל אחד מהם
ל-Bolt אין מחיר, וזו אינה שגיאה בנתונים. אין נקודת קצה מתארחת עבורו בשום מקום, אין תעריף מחויב בדף המודל של Artificial Analysis עבורו, ואין ספק שמשרת אותו. להריץ אותו משמעו להחזיק במכונה, והמתכון הרפרנסי של NVIDIA הוא סוף שבוע ולא אחר צהריים: תמונת vLLM nightly מוצמדת, חבילת הקרנל b12x, תוסף מנתח הסקה (reasoning-parser) שנטען כקובץ נפרד, ואז הגדרות מפורשות עבור ה-v2 model runner, ה-backends הלינאריים וה-MoE, ה-backends של ה-attention וה-Mamba, סוגי ה-cache של Mamba, chunked prefill וקונפיגורציית speculative-decoding שמצביעה על ה-LiLiCorr drafter.
ל-Gemma 4 26B A4B יש מחיר בשני מקומות. בקטלוג שדרכו אנחנו מנתבים, google/gemma-4-26b-a4b-it רשום במחיר של $0.06 למיליון טוקני קלט ו-$0.33 למיליון טוקני פלט, בחלון הקשר של 262,144 טוקנים, עם זמן p50 עד לטוקן הראשון בסביבות 2.8 שניות — זה נתון שמדדנו בעצמנו בשבעת הימים האחרונים, לא טענה של ספק. Artificial Analysis עוקב אחר תמהיל ספקים שונה עבור אותו מודל ורושם $0.10 בקלט ו-$0.40 בפלט, וזה מסוג הפערים שמעידים שהמחיר הוא תכונה של נקודת הקצה ולא של המשקולות. שני המספרים כנים; הם מחירים של דברים שונים.
OrcaRouter מציב את המודלים שאנחנו כן מנתבים מאחורי מפתח אחד במחיר המחירון של הספק עם 0 אחוזי תוספת, כך שהורדת מחיר של ספק על מודל מנותב נכנסת לתוקף אצלנו באותו היום, ומעבר אוטומטי בין ספקים (failover) פירושו שבעיית קיבולת במעלה הזרם מנוסה שוב במקום להיחשף בפני המשתמשים שלך. אנחנו לא מארחים שום צ׳ק פוינט של Nemotron — הקטלוג נבדק ולא הונח כמובן מאליו, והמשפחה הזו אינה נמצאת בו — כך שבעמוד הזה הערבויות האלה מכסות את חצי ה-Gemma של ההשוואה ושום דבר מעבר לכך. מה שהן שוות בפועל הוא דרך לנסות את המודל הקטן יותר על תנועה אמיתית בלי חוזה נוסף, בזמן שאתם מחליטים אם הגדול יותר שווה את החומרה.
בחירה בין קובץ לשירות
ההשוואה הזו אינה צמודה מבחינת יכולות, וזה גם לא אמור להיות כך. Bolt הוא מודל גדול יותר ובעל יכולות גבוהות יותר, שעבר דחיסה חזקה ואינו ניתן להשכרה. Gemma 4 26B A4B הוא מודל חלש יותר במקצת שאפשר לשכור היום, ושחולשותיו מתועדות בידי אנשים שאין להם אינטרס בו.
בחר ב-Bolt אם עומס העבודה כולל צילומי מסך, קובצי PDF, פריימים של וידאו או דפדפן, אם הוא צריך לפעול ללא רשת, ואם מכונה עם מאיץ בדרגת Blackwell כבר נמצאת בחדר. קבל את העובדה שאתה זה שיגלה את התפוקה שלו, כי אף אחד לא פרסם אותה. בחר ב-Gemma 4 26B A4B אם אתה רוצה מודל טקסט ותמונה שאתה יכול לשלם עליו לפי מיליון טוקנים כבר אחר הצהריים, אם אתה צריך Apache 2.0, או אם שליפה עובדתית על מערך שאלות רחב חשובה יותר מהשלמת משימות סוכניות.
המדידה שתכריע את העניין היא זו שאיש עוד לא ביצע: הרצה בלתי תלויה של תפוקה ושהיה על הצ'קפוינט של 24GB, והרצה חוזרת בלתי תלויה של הטבלה של NVIDIA עם Gemma מכומתת לאותם 4 ביטים שהיצרן אומר שבחר בהם. עד שהם יתקיימו, הטיעון בעד Bolt נשען על טבלת יצרן ועל מספר פרמטרים, והטיעון בעד Gemma נשען על שנה של תוצאות של אנשים אחרים.
השוואות כמו זו הן גם המקום שבו מצבי הכשל מתגלים: תקריות AI מתועדות וכשלי סוכנים שמאחורי מודלים מהסוג הזה נאספים בארכיון תקריות AI של OrcaRouter, שבו כל רשומה נושאת את מקורותיה, החומרה, דירוג הביטחון ודגל המחלוקת שלה.
