Nemotron 3.5 Bolt E4B 4GB לעומת Nemotron 3.5 Bolt 74B-A9B 24GB: אותו שם, מכונות הפוכות

NVIDIA שחררה שני מודלים בשם Bolt בהפרש של שמונה ימים. NVIDIA-Nemotron-3.5-Bolt-E4B-4GB הגיע ב-23 באוקטובר 2026: מודל שיחתי טקסטואלי בלבד עם 8B פרמטרים בסך הכול, שעבר אימון לאחר (post-trained) מ-Gemma-4-E4B-it. NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB — המודל שרוב האנשים מתכוונים אליו כשהם אומרים Nemotron 3.5 Bolt — הגיע ב-15 באוקטובר: סוכן מולטימודלי עם 74B פרמטרים בסך הכול ו-9B פעילים, שנדחס לשני ביטים לכל משקל מומחה.

הם חולקים תג, רישיון וחלון השקה. הם אינם חולקים ארכיטקטורת אב, מודאליות, חלון הקשר, מערך מבחני ביצועים או תפקיד. הקריאה של "Bolt" כסולם גדלים היא הטעות שהשוואה זו נועדה למנוע.

האחד הוא נגזרת של Gemma. האחר הוא סוכן 120B דחוס.

השושלת מסבירה כמעט את כל השאר.

E4B החל את דרכו כ-Gemma-4-E4B-it, המודל הקטן של Google שעבר כיוונון להוראות, ו-NVIDIA ביצעה עליו אימון-המשך עם למידת חיזוק מתגמולים ניתנים לאימות וממשוב אנושי באמצעות NeMo-RL ו-NeMo-Gym. הארכיטקטורה היא של Gemma: סך של 8B פרמטרים עם 4B אפקטיביים, מסלול קלט ופלט לטקסט בלבד, וחלון הקשר של 64K. תרומתה של NVIDIA היא בהתנהגות, לא בשלד.

ה-74B החל את דרכו מ-Nemotron 3.5 Super VL 120B-A12B, מודל האב הרב-מודלי של NVIDIA עצמה. NVIDIA הריצה חיפוש ארכיטקטורה מונחה-ראוטר בשם Star Elastic תחת תקציב זיכרון של 24GB, והפיקה מודל היברידי בעל 74 מיליארד פרמטרים עם 9 מיליארד פרמטרים פעילים לכל טוקן, המשלב שכבות Mamba-2 ו-Transformer בתכנון LatentMoE, עם מקודד חזותי C-RADIO v4-H. הוא מקבל טקסט, תמונות ווידאו, ומטפל בהקשר של 256K טוקנים.

בפשטות: ה-E4B הוא מודל שיחה ש-NVIDIA כיווננה. ה-74B הוא מודל סוכן ש-NVIDIA דחסה. השם "Bolt" מתאר את מטרת הפריסה — אינטליגנציה לג'יגה-בייט — ולא ארכיטקטורה משותפת.

המפרטים, זה לצד זה

• סך הפרמטרים והפרמטרים הפעילים — 8B בסך הכול עם 4B אפקטיביים עבור E4B; 74B בסך הכול עם 9B פעילים עבור 74B.

• ארכיטקטורה — Gemma-4-E4B עבור המודל הקטן; Mamba-2 בתוספת LatentMoE היברידי של Transformer עבור המודל הגדול, עם דחיסת Star Elastic מהורה Super VL.

• מודאליות — קלט טקסט, פלט טקסט ב-E4B; קלט טקסט, תמונות ווידאו, פלט טקסט ב-74B.

• חלון הקשר — 64K טוקנים בקלט ו-64K בפלט עבור E4B; עד 256K טוקנים עבור 74B.

• דיוק — Q4_K_M עבור ה-GGUF המסופק של E4B; IQ2 בכ-2.0625 סיביות לכל משקל מומחה עבור ה-74B, עם NVFP4 בשכבות Mamba מסוימות והטמעות Q8_0.

• משקלים שפורסמו — 6.18GB Q4_K_M ו-15.88GB BF16 עבור E4B; 23.75GB של משקלי GGUF בתוספת מקרן חזותי, 24.12GB של safetensors מוכנים ל-vLLM, ו-149.8GB ב-BF16 עבור 74B.

• רישיון — OpenMDW-1.1 עבור שניהם, כאשר רכיב Gemma 4 נמצא תחת Apache 2.0 בסטאק של E4B.

• תאריך יציאה — 23 באוקטובר 2026 עבור E4B; 15 באוקטובר 2026 עבור 74B.

• סביבת ריצה — llama.cpp עבור ה-E4B, כאשר הכרטיס מסמן את המתכון כ"ממתין" למרות שהוא מגיע עם פקודות התחלה מהירה; vLLM עבור ה-74B, עם מתכון ייחוס שמנעל קונטיינר nightly לפי hash של commit.

כדאי לסמן מלכודת מטא-נתונים אחת לפני שהיא תגרום לטעות ברכישה. וידג'ט הקבצים של Hugging Face במאגר 74B מציג "22B params", בעוד שכרטיס המודל מפרט 74B בסך הכול ו-9B פעילים. הכרטיס צודק: 22B הוא שדה צד מיושן, לא וריאנט שלישי, וכל מי שמתאים חומרה לפי הווידג'ט ולא לפי הכרטיס יטעה קשות בכיוון ההפוך.

לטבלאות הבנצ'מרק אין אף שורה משותפת

זה הדבר החשוב ביותר להבין לפני שמשווים בין השניים, וזה הדבר שרוב הסיקורים מפספסים.

NVIDIA העריכה את המודל 74B בבנצ'מרקים GDPVal-AA-V2, Terminal-Bench 2.1, Tau3 Banking, HLE, AA-Omniscience, SciCode, GPQA Diamond, AA-LCR, PinchBench, MCP-Atlas, BrowseComp ו-WebArena. היא העריכה את המודל E4B בבנצ'מרקים MultiChallenge, RoleBench, RoleMRC, EQ-Bench v3, Brevity, BFCL-v3, When2Call, ToolSandbox, Tau2-Bench, IHEval, AgentIF, StructEval-T, IFBench, InverseIFEval, RULER, LongMemEval, LongBench v2, SysBench, GaRAGe, RAGTruth ו-RelyToolBench.

אין חפיפה. אין אפילו שורה אחת שמופיעה בשתי הטבלאות. שתי החבילות אף משתמשות בגרסאות שונות של מדד הסוכנים — Tau2 עבור ה-E4B, Tau3 Banking עבור ה-74B — כך שגם הזוג הדומה ביותר למראה אינו בר-השוואה.

פירוש הדבר שכל טענה מהצורה „ה-74B טוב ב-X נקודות מה-E4B” היא בדויה. NVIDIA לא פרסמה כלי הערכה משותף, ואף גורם שלישי לא הריץ אחד כזה. מה שהטבלאות כן תומכות בו הוא אמירה על כוונת תכנון:

• המודל 74B נמדד במשימות שנראות כמו עבודה — שימוש בטרמינל, גלישה, קידוד מדעי, שאלות ברמת תואר שני, הסקה בהקשר ארוך. התוצאות החזקות ביותר שפורסמו שלו הן BrowseComp 66.75, Terminal-Bench 2.1 50.98, GPQA Diamond 86.43, ו-AA-LCR 64.06.

• ה-E4B נמדד על משימות שנראות כמו שיחה — שימור פרסונה, היררכיית הוראות, לדעת מתי לקרוא לכלי, והתבססות על פלט הכלי. השורות החזקות ביותר שלו הן IHEval 84.79, RoleBench 67.05, RelyToolBench 63.16 ו-When2Call 63.36.

שתי הקבוצות מדווחות על ידי הספק ולא שוחזרו. הכרטיס של 74B מכיל קמט נוסף שראוי לציין: NVIDIA מתארת את המודל כמודל הפתוח המוביל בקטגוריה שלו ב-PinchBench, אבל הטבלה שלה עצמה מציגה את Qwen3.6-35B-A3B עם 88.07 לעומת 87.82 של Bolt. זה פער של 0.25 נקודות וטענה שלא ממש שורדת את הערת השוליים של עצמה.

טענות מהירות, עם החומרה המצורפת

תפוקה היא המקום היחיד שבו שני הכרטיסים מפרסמים נתונים, ובכל זאת אי אפשר להשוות ביניהם.

• E4B על RTX 5070 12GB — 106.2 עד 133.4 אסימונים לשנייה, 548 עד 1,238 מילישניות לאסימון הראשון, 3.5 עד 4.3GB של VRAM, נמדד עם llama.cpp ו-CUDA בגודל אצווה 1.

• E4B על Jetson Orin Nano 8GB — 13.0 עד 15.5 טוקנים לשנייה ו-5.8 עד 6.3 שניות עד לטוקן הראשון. אותו מודל, על החומרה שהפיץ' של "4GB" באמת מתייחס אליה.

• 74B על RTX Spark — 83.99 אסימונים לשנייה ב-AIPerf SPEED-Bench-Coding, עם ה-drafter LiLiCorr מחובר ושבעה אסימונים ספקולטיביים בכל שלב.

הנתון של 74B מניח צ'קפוינט drafter נפרד בגודל 1.13B, בנצ'מרק ספציפי, וחומרה שונה מכל אחת מהרצות ה-E4B. הנתון של E4B מניח שאין drafter. השוואה בין 133 ל-84 והמסקנה שהמודל הקטן מהיר יותר היא נכונה מבחינה טכנית וחסרת משמעות מעשית: האחד הוא מודל עם ארבעה מיליארד פרמטרים אפקטיביים על GPU שולחני, והאחר הוא מודל עם תשעה מיליארד פרמטרים פעילים על מכונה אחרת שאליה מחובר מפענח ספקולטיבי.

מה שהמספרים כן קובעים הוא צורתה של הפשרה. ה-E4B בנוי עבור זמן עד לטוקן הראשון; ה-74B בנוי עבור עבודה סוכנית מתמשכת שבה 84 טוקנים בשנייה מספיקים. שורת ה-Orin Nano היא נקודת האזהרה: מודל של 4GB על חומרה משובצת אינו הופך אוטומטית לבן שיח בזמן אמת.

זיכרון: 4GB ו-24GB הם מעטפות, לא קבצים

שני השמות משתמשים ביעד זיכרון, ואף אחד מהמספרים אינו ההורדה.

• E4B — קובץ Q4_K_M GGUF בנפח 6.18GB. NVIDIA מודדת 3.1 עד 4.3GB של VRAM בהרצות batch-1 משלה על חומרת RTX. הכרטיס אינו מפרסם קובץ בגודל 4GB.

• 74B — 22.02GB של משקולות GGUF בתוספת מקרן חזותי נפרד בנפח 1.73GB, בסך כולל של 23.75GB, או 24.12GB בגרסת ה-safetensors המוכנה ל-vLLM. כימות המומחים ב-2.0625 סיביות הוא מה שמאפשר את מעטפת ה-24GB.

• גרסאות BF16 — 15.88GB עבור ה-E4B, ו-149.8GB לאורך 63 שרדים עבור ה-74B. גרסאות הדיוק המלא מיועדות לאימון-מקדים (post-training), לא לפריסה, והכרטיס של ה-74B מציין זאת במפורש.

פער האחסון הוא בערך ארבעה לאחד בדיוק פריסה, ובערך תשעה לאחד בדיוק מלא. פער ה-VRAM קטן יותר מפער הפרמטרים משום שה-74B משלם על הדחיסה שלו בביטים, לא בגודל.

מודאליות והקשר קובעים יותר ממספר הפרמטרים.

חלון טקסט של 64K וחלון מולטימודלי של 256K אינם אותו מוצר עם מגבלות שונות.

המודל 74B יכול להתבונן בתמונה או בסרטון ולפעול על פיהם. כרטיס המודל שלו מפרט קלט RGB JPEG או PNG, וידאו MP4 באורך של עד שתי דקות, והנחיה של פריים אחד לשנייה ב-1080p או שני פריימים לשנייה ב-720p. הוא יכול לקרוא צילום מסך, תרשים, טופס או הזנת מצלמה, ואז לקרוא לכלים בהתבסס על מה שראה. זוהי היכולת שהופכת אותו לסוכן לגלישה ולעבודה על שולחן העבודה.

ה-E4B אינו יכול לראות. הוא מקבל טקסט ומחזיר טקסט, וחלון ה-64K שלו חלש באופן מובהק מעמיתיו באחזור מידע: RULER 86.99 לעומת 95.15 של Qwen3.5 4B, ו-LongBench v2 50.50 לעומת 59.93. אם היישום שלך צריך להחזיק מסמך ארוך או צילום מסך בתצוגה, ה-E4B הוא המודל הלא נכון, לא משנה כמה טובים ציוני הפרסונה שלו.

למי מיועד כל אחד

ה-E4B מיועד לשכבת הממשק. דמויות אינטראקטיביות, עוזרי קול, סוכנים במכשירים משולבים, רובוטים שצריכים לבחור תסריט ולדבר, וכל אפליקציה שבה המודל חייב להשיב בתוך כמה מאות מילישניות על חומרה שעולה פחות מתחנת עבודה. ההדגמות של NVIDIA ממחישות את הכוונה: רובוט Reachy Mini על Jetson Orin Nano שמשתמש ב-E4B כדי לבחור תסריטי אנימציה בזמן שמודל ראייה נפרד מטפל בתפיסה, ודמות NPC של נפח שמאמתת תשלום, מחפשת מתכון, אוספת מרכיבים ומוסרת פריט.

ה-74B מיועד לשכבת העבודה. סוכנים אישיים שפועלים תמיד, שגולשים, כותבים קוד, מנתחים נתונים, מנטרים משימות רקע וקוראים ל-API. הוא פועל על RTX Spark,‏ DGX Spark,‏ תחנות עבודה RTX PRO וכרטיסי GeForce RTX עם מספיק זיכרון, והוא תוכנן לפעול לצד יישומים אחרים בתוך תקציב של 24GB. פרופיל הבenchmark שלו — BrowseComp,‏ Terminal-Bench,‏ GPQA,‏ AA-LCR — הוא הפרופיל של מודל שמסיים משימות, לא של מודל שמנהל שיחה.

אף אחד מהם אינו תחליף לשני. אולפן משחקים שרוצה דמויות NPC אמינות אינו זקוק לסוכן מולטימודלי של 74B; פלטפורמת סוכנים שצריכה לקרוא דף אינטרנט ולהריץ פקודת טרמינל אינה יכולה להשתמש במודל שיחתי של 4B שטקסטואלי בלבד.

מה משפחת שני מודלים מרמזת לגבי פריסה

ההשלכה הארכיטקטונית המעניינת היא ש-NVIDIA שחררה תיק מוצרים ולא סולם. ה-E4B מטפל בשכבת הרפלקס, ה-74B מטפל בשכבת העבודה המקומית, ו-Super VL 120B-A12B מטפל במקרים הרב-מודליים הכבדים יותר. אלה שלושה תקציבי זיכרון שונים ושלושה תפקידים שונים, כולם תחת משפחת רישיונות אחת.

רוב היישומים עדיין יזדקקו לשכבה רביעית שאינם יכולים להוריד: מודל חזית עבור הבקשות שחורגות מהחומרה המקומית, או ספק שני עבור המודאליות שחסרה למודל המקומי. ניתוב כל אלה דרך API אחד — יותר מ-200 מודלים, 0% תוספת למחיר המחירון של הספק, מעבר אוטומטי לגיבוי כאשר ספק מתדרדר — מאפשר ל-Bolt המקומי להישאר במסלול המהיר ולמודל המתארח להישאר החריג. החלופה היא אינטגרציה, מפתח וחיוב נפרדים לכל מודל מעל השכבה המקומית.

מה יפתור את שאלת המשפחה

ריצה אחת. העבר את שני ה-Bolts דרך אותה רתמה על אותן משימות — סט שיחתי, סט סוכני וסט מולטימודלי — ופרסם את השורות. ל-NVIDIA יש נקודות הביקורת, מערך ההערכה והתמריץ; היא בחרה לפרסם במקום זאת שתי טבלאות נפרדות.

עד שזה קיים, הקריאה הניתנת להגנה היא זו: ה-74B הוא המודל היכול יותר בתכנון ובראיות, במשימות ש-NVIDIA בחרה למדוד. ה-E4B הוא המודל המתאים יותר למחלקה גדולה של ממשקים שבהם סוכן של 24GB הוא אבסורד ומודל שיחתי של 4GB הוא בדיוק הדבר הנכון. השם על הקופסה זהה. המכונה שבפנים לא.