Nemotron 3.5 Bolt יצא: מה באמת מכיל הצ'קפוינט הדו־ביטי בגודל 24GB של NVIDIA
- OrcaחדשOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 לכל 1M טוקנים · 62 tok/s
- OrcaחדשOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 לכל 1M טוקנים · 75 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2952אינטליגנציה
- anthropicAnthropic: Claude Sonnet 5.52026-09-2856אינטליגנציה
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 לכל 1M טוקנים · 722 tok/s
- OpenAIOpenAI: GPT-6 Luna2026-09-2238אינטליגנציה
- OpenAIOpenAI: GPT-6 Sol2026-09-2248אינטליגנציה
- AnthropicAnthropic: Claude Opus 5.52026-09-2258אינטליגנציה
- xAIGrok 4.72026-09-2146אינטליגנציה
- OrcaOrca: OrcaCyber Zero 1.02026-09-17$3.00 / $7.50 לכל 1M טוקנים · 36 tok/s
- OrcaOrca: OrcaVerify Text 1.02026-09-16$2.00 / $0.00 לכל 1M טוקנים · 821 tok/s
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-09-1040אינטליגנציה
- OpenAIOpenAI: GPT-6 Astra2026-09-0453אינטליגנציה77כתיבת קוד
- GoogleGoogle: Gemini 3.8 Flash2026-09-0241אינטליגנציה76כתיבת קוד
- AlibabaQwen: Qwen3.8 Max (0902)2026-09-0245אינטליגנציה76כתיבת קוד
- AnthropicAnthropic: Claude Fable 5.12026-09-0153אינטליגנציה82כתיבת קוד
- TencentTencent: Hy4 preview2026-08-28$0.83 / $2.50 לכל 1M טוקנים · 52 tok/s
- AlibabaQwen: Qwen3.8 Flash2026-08-26$0.15 / $0.47 לכל 1M טוקנים · 109 tok/s
- z-aiZ.ai: GLM 5.3 Flash2026-08-2642אינטליגנציה72כתיבת קוד
- DeepSeekDeepSeek: DeepSeek V4 Flash Vision (Exp)2026-08-21$0.22 / $0.66 לכל 1M טוקנים · 185 tok/s
המאגר של NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB הופיע ב-Hugging Face ב-7 באוקטובר 2026 ונשאר שם, בשקט, במשך שמונה ימים. ב-15 באוקטובר NVIDIA הכריזה עליו — פוסט בבלוג, הודעה לעיתונות ועמוד מחקר עם אותו תאריך — מה שאומר שהחלק המעניין בסיפור הזה אינו ההשקה. זה הפער. במשך שמונה ימים הדבר היחיד שאפשר היה לדעת על Nemotron 3.5 Bolt היה מה שכרטיס מודל וקבוצת safetensors אמרו, וכל השאר היה הסקה. הפער הזה נסגר כעת, וראוי לדייק לגבי מה שסגירתו בעצם קבעה, מפני שחלק ניכר ממה שאנשים חוזרים עליו על המודל הזה הגיע מהמאגר ולא מההכרזה, ושני הדברים אינם אותו מסמך.
מה שבטוח כעת, בפסקה אחת, הוא זה. Nemotron 3.5 Bolt 74B-A9B 24GB הוא מודל חזותי-לשוני מסוג mixture-of-experts בעל 74 מיליארד פרמטרים, עם 9 מיליארד פרמטרים פעילים לכל טוקן, ששוחרר ב-15 באוקטובר 2026 תחת רישיון OpenMDW-1.1, ומאחסן את משקולות המומחים שלו ב-2.0625 סיביות לרכיב כך שכל הדבר נכנס ל-24GB. הוא מיועד להריץ עבודה סוכנית מקומית — קריאות לכלים, גלישה, שימוש במסוף — על חומרת RTX ו-DGX Spark. הוא נמצא ב-Ollama כתג של 25GB עם חלון הקשר של 256K. הוא אינו נמצא בשום API מתארח, ואין לו מחיר. חלק אחד במשפט הזה נמדד באופן בלתי תלוי, והשאר הוא דברי הספק עצמו.
שני תאריכים, ואיזה מהם לצטט
יש הבדל אמיתי בין שני התאריכים והוא קובע כיצד עליך לקרוא את המשך המאמר הזה.
מאגר Hugging Face נוצר ב-7 באוקטובר 2026 בשעה 17:50 UTC. כרטיס המודל שבתוכו מכיל שדה Release Date שערכו Hugging Face 10/15/2026. עמוד המחקר של NVIDIA עצמה עבור הצ'קפוינט מסומן פורסם: 15 באוקטובר 2026. פוסט הבלוג של הספק שמכריז על דרגת Bolt מתוארך ל-15 באוקטובר 2026 ואומר, במילים מפורשות, ש-Super VL ו-Bolt 74B-A9B "זמינים כעת".
אז הקריאה הישרה היא ש-15 באוקטובר הוא תאריך היציאה, ו-7 באוקטובר הוא מתי שהתיקייה הופיעה. כל מי שמצטט את 7 באוקטובר כתאריך ההשקה מצטט חותמת זמן של קובץ; כל מי שמצטט את 15 באוקטובר מצטט את הספק. עם זאת, הפער של שמונת הימים חשוב מסיבה שונה מזו של התאריכים. הוא אומר שבמשך יותר משבוע המודל התקיים במצב שבו המאגר היה המשטח היחיד — בלי הודעה, בלי דף תמחור, בלי רשומה בלוח הדירוג, בלי שאף אחד מ-NVIDIA יאמר למה זה נועד. כל תיאור מוקדם של Bolt שנכתב בחלון הזה, כולל אלה שמסתובבים כעת, נבנה מהכרטיס. מתברר שהכרטיס היה מדויק. שווה לומר זאת בפשטות, כי התוצאה הרגילה במצבים כאלה היא שהוא לא.
מה שהמאגר לבדו מוכיח
כל מה שמופיע בסעיף הזה היה קריא מכרטיס המודל ומקובצי התצורה עוד לפני ש-NVIDIA אמרה מילה, והכול עדיין נכון.
• פרמטרים — 74 מיליארד בסך הכל, 9 מיליארד פעילים לכל טוקן. תערובת מומחים דלילה, לא מודל צפוף.
• ארכיטקטורה — שילוב היברידי של Mamba-2 ו-Transformer עם עמוד שדרה LatentMoE ומקודד חזותי C-RADIO v4-H. התצורה רושמת את המחלקה בשם NemotronH_Omni_Reasoning_V3.
• דיוק מאוחסן — IQ2_XXS ב-2.0625 סיביות לרכיב בשכבות FC1 ו-FC2 של המומחים המנותבים והמשותפים, שבהן נמצא עיקר המשקולות. שכבות Mamba הליניאריות יושבות על NVFP4, וההטמעות, ראש הפלט, הקשב ומשקולות LatentMoE על Q8_0.
• הקשר — עד 256K טוקנים, או 262,144 במתכוני הפריסה.
• קלטים ופלטים — טקסט, תמונות ווידאו נכנסים; טקסט יוצא.
• רישיון — OpenMDW-1.1, והכרטיס מציין זאת במפורש: "מוכן לשימוש מסחרי או לא-מסחרי."
• בסיסים ומקור — הכרטיס מצהיר שמודל הבסיס שלו הוא צ'קפוינט BF16 באותו שם, והקשר שלו אליו כמכומת, ותגיות מערך הנתונים מצביעות על אוספי הקדם-אימון והפוסט-אימון של Nemotron של NVIDIA.
• תאריכי המודל — דצמבר 2025 עד מאי 2026, עם חיתוך נתוני פוסט-אימון של מאי 2026. קראו זאת בעיון אם טריות חשובה לכם: המודל הוא מהדורת 2026 שנבנתה על נתונים שמסתיימים ארבעה וחצי חודשים לפני ששוחרר.
• סביבות ריצה — vLLM על NVIDIA Ampere, Hopper ו-Blackwell, ו-llama.cpp עבור RTX Spark ו-DGX Spark. הרשומה של Ollama בוטה יותר לגבי המגבלות: פריסת CUDA מתועדת, ו-Apple Silicon ו-Metal אינם נתמכים כרגע.
מה שההודעה הוסיפה
חומר הספק מוסיף שלושה דברים שהמאגר לא היה יכול לספר לך.
ראשית, המסגור המשפחתי. Bolt ממוצב כדרג הקצה של משפחת Nemotron, מתחת ל-Nemotron 3.5 Super VL עם 120B עבור סוכני שרת תמידיים, ומעל שום דבר מסוים — המשפט של NVIDIA עצמה מסדר אותם: Super VL ו-Bolt "מכסים את מלוא טווח פריסות הסוכנים, משרתי ארגונים גדולים ועד התקני קצה וחומרה מקומית." Nemotron 3.5 Bolt E4B 4GB, מודל בן 4 מיליארד פרמטרים לסוכנים שיחתיים ופיזיים, מגיע ב-23 באוקטובר.
שנית, סיפור הדחיסה, שהוא הטענה ההנדסית החדשנית באמת כאן. Bolt אינו מודל שאומן קטן ואז עבר קוונטיזציה. זהו Nemotron 3.5 Super VL — 120B בסך הכול, 12B פעילים — שהועבר דרך Star Elastic, חיפוש הארכיטקטורה המונחה־ראוטר של NVIDIA, תחת אילוץ קשיח להיכנס לפחות מ־24GB זיכרון בגודל אצווה 1 ובהקשר של 128K. Top-K של המומחים ירד מ־22 במודל האב ל־9 ב-Bolt, רוחבי הביניים של ה-MoE עברו חיפוש לכל שכבה, ואז הרשת הדחוסה עברה קוונטיזציה והועברה דרך זיקוק מודע־קוונטיזציה כדי להחזיר את הדיוק. המסקנה המוצהרת של NVIDIA היא החלק המעניין, והיא עמדה אמיתית, לא התרברבות: עבור תקציב זיכרון קבוע, דחיסה של מודל גדול כלפי מטה עדיפה על אימון מודל קטן מאפס. זו טענה שאפשר לבדוק, ואף אחד מחוץ ל-NVIDIA לא בדק אותה.
שלישית, שני מיקומים בלוח הדירוג שהספק הצהיר עליהם: מודל פתוח מס' 1 בקטגוריה שלו ב-PinchBench, ומודל פתוח מס' 2 ב-BrowseComp. שניהם תיאור של NVIDIA את המודל שלה ביחס לקטגוריה שהיא הגדירה.
מה שההכרזה לא מוסיפה הוא נקודת קצה זמינה. אין API מתארח, אין מחיר לפי טוקן, ואין דרך לקרוא ל-Nemotron 3.5 Bolt בלי לרכוש את החומרה שעליה הוא רץ. Artificial Analysis, שדירגה את המודל, מציינת את שדות המהירות והעלות שלו כלא זמינים בדיוק מהסיבה הזו: אין API זמין לציבור למדידה.
החלק שאף אחד מחוץ ל-NVIDIA לא הריץ
כאן המאמר חייב להאט, מפני שהפער בין מה שנמדד לבין מה שנטען רחב באופן חריג עבור מודל בגודל כזה.
בצד הנמדד יש מספר אחד, והוא טוב: Artificial Analysis מציבה את Nemotron 3.5 Bolt 74B-A9B במקום 21 במדד האינטליגנציה שלה, מה שמציב אותו במקום הרביעי מתוך 67 מודלים בקטגוריית ההשוואה שלו. זהו מדד בלתי תלוי של הצ׳קפוינט 2-bit בפועל, ולא של בניית ייחוס BF16, והוא הנתון השימושי ביותר הזמין עבור המודל הזה היום.
בצד הנטען נמצא כל השאר. כרטיס המודל כולל טבלה של שלושה־עשר בנצ'מרקים עם ארבעה עמודות — Qwen3.6-35B-A3B ב-BF16, Gemma 4 26B-A4B ב-BF16, Nemotron 3.5 Lightning 30B-A3B ב-BF16, ו-Bolt ב-IQ2 — וכל שורה בה הופקה על ידי NVIDIA, כולל שלושת עמודי הבסיס, שאותם NVIDIA בחרה מכיוון שהם נכנסים ל-24GB עם קוונטיזציה של 4 סיביות. Bolt הוא המנצח המודגש בעשרה שורות ואינו המנצח בשלוש: דיוק AA-Omniscience, שבו Gemma 4 26B-A4B משיגה 22.17 לעומת 16.90 של Bolt; אי-הזיה ב-AA-Omniscience, שבו Nemotron 3.5 Lightning 30B-A3B משיג 68.81 לעומת 61.27 של Bolt; ו-PinchBench, שבו Qwen3.6-35B-A3B משיג 88.07 לעומת 87.82 של Bolt. פרסום שלוש השורות שבהן אתה מפסיד הוא נקודה לזכות הספק ואינו משנה את מהות הטבלה: לא משוחזרת.
מספרי המהירות ראויים לפסקה משלהם כי הם נוגדים את השיווק. טבלת המדידות של NVIDIA עצמה, שנלקחה עם llama.cpp ב-Windows 11 ARM64 על Surface Laptop Ultra עם 128GB, מציגה את Bolt ב-83.99 טוקנים לשנייה ב-AIPerf SPEED-Bench-Coding — מאחורי Qwen3.6-35B-A3B עם 96.63 ו-Gemma 4 26B-A4B עם 100.56. באותו עמוד, משך ההרצה החוזרת מקצה לקצה על פני מסלולי סוכנים מציאותיים הוא 600.80 שניות עבור Bolt לעומת 453.97 עבור Qwen3.6 ו-480.68 עבור Gemma. המסר השיווקי הוא אינטליגנציה לג'יגה-בייט, לא מהירות, והטבלה של היצרן עצמו עקבית עם המסר הזה ולא עם טענה להיות המהיר ביותר.
אז צורת הראיות היא: ציון משולב עצמאי אחד שהוא מכובד, טבלת בנצ'מרקים של ספק שאיש לא שחזר, טבלת מהירות של ספק על מחשב נייד שאיש מחוץ ל-NVIDIA לא הריץ, ואפס מדידות השהיה עצמאיות. התייחס לכל מאמר שמדווח על הנתון של Bolt ב-PinchBench בלי לומר מי הפיק אותו כבלתי אמין, כולל כל מאמר שמסכים עם זה.
מה הגיע לצדו?
שחרור מודל הוא לעתים רחוקות רק המשקלים, והמערך התומך של Bolt גדול מהרגיל עבור משהו בלי API.
המנסח הספקולטיבי LiLiCorr מגיע איתו — 1.13 מיליארד פרמטרים, לא כולל ההטמעות המשותפות וראש הפלט, שאומן במשותף עם מודל היעד, ו-NVIDIA מדווחת על אורכי קבלה ממוצעים של 4.68 תחת פענוח חמדני ו-4.25 תחת דגימה הסתברותית עם שבעה טוקנים מנוסחים במקביליות 64 ב-vLLM. המנסח הוא צ'קפוינט נפרד להורדה, לא דגל זמן ריצה, והוא המנגנון שמאחורי נתון 84 TPS המצוטט עבור RTX Spark.
תמיכת פריימוורקים הגיעה מהר. Ollama מפרטת את nemotron-3.5-bolt בשלושה תגים — ברירת מחדל, תג 74B-A9B ותג IQ2 — כל אחד ב-25GB עם הקשר של 256K וקלט טקסט ותמונה, עם משגרים בשורה אחת עבור Claude Code, OpenCode, Hermes Agent ו-OpenClaw. מעבר לכך יש בנייה של GGUF מ-NVIDIA, שרשרת קוונטיזציות קהילתיות ב-4-bit וב-8-bit, והמרות MLX שהופיעו בתוך יום מההכרזה. עבור checkpoint שרץ על התקן בודד של 24GB, האקוסיסטם הזה שמגיע בתוך ארבעים ושמונה שעות הוא האות האמיתי לכך שזה ארטיפקט שמיש ולא דמו.
האזהרה המעשית לכל מי שמתכנן להשתמש בזה: הנתון של 24GB הוא רצפה למשקולות, לא תקרה לעומס העבודה. תמונות, פריימים של וידאו, היסטוריית שיחה ותוצאות כלים חולקים כולם את תקציב ההקשר, וההערה של Ollama עצמה אומרת שההקשר השמיש תלוי בזיכרון הזמין. הורדה של 25GB שנכנסת בנוחות אינה אותו דבר כמו סשן של 256K טוקנים שנכנס בנוחות.
לאן זה משאיר אותך, ולאן זה לא
אם עומס העבודה שלך הוא מקומי ואג'נטי — שימוש בטרמינל, גלישה, קריאה לכלים, איתור באגים בקוד במכשיר שבבעלותך — Nemotron 3.5 Bolt 74B-A9B 24GB הוא כעת בחירה מוצדקת עם ציון עצמאי אחד וסט משקולות שתוכל לבדוק. הטיעון לדחיסה שמאחוריו הוא באמת מעניין, הרישיון מתיר שימוש מסחרי, והכלים הופיעו תוך יום.
אם עומס העבודה שלך צריך להיות נקרא מקוד שרץ במקום שאינו בבעלותך, המודל הזה אינו אופציה היום, והתשובה הכנה ל״איך אני משתמש בו״ היא שאתה מריץ אותו בעצמך על חומרת NVIDIA או שאתה ממתין. בדקנו את הקטלוג שלנו במקום להניח, ואין בו מודל NVIDIA — כך שאין כאן שום דבר שנוכל לנתב אליו, ולומר אחרת יהיה שקר. מה ש-OrcaRouter כן מציע הוא החצי השני של פריסה משולבת: המודלים שאליהם היית קורא כשבקשה קשה מדי, ארוכה מדי או לא מוכרת מדי עבור צ'קפוינט מקומי של 2 ביט, מאחורי מפתח אחד על פני יותר מ-200 מודלים במחיר המחירון של הספק בלי תוספת, עם מעבר אוטומטי לגיבוי כשספק מתערער. שילוב של Bolt מקומי עם API מנותב הוא ארכיטקטורה הגיונית. להעמיד פנים ש-Bolt נמצא בצד המנותב זה לא.
הדבר שצריך לעקוב אחריו אינו טבלת הבנצ'מרק הבאה. אלא האם מישהו מחוץ ל-NVIDIA מפרסם ריצת השהיה על הצ'קפוינט בגודל 24GB על חומרה שקורא באמת מחזיק ברשותו, והאם בכלל מופיע endpoint מתארח. עד שאחד מאלה יקרה, המפרט הוא הבטחה, וציון אינדקס אחד הוא הדבר היחיד שעומד מאחוריו.
תוצאה כמו זו היא גם תזכורת לכך שטעויות של מודלים כבר מתועדות: תקריות AI וכשלי סוכנים מאחורי מודלים בקטגוריה הזו נאספים בה-OrcaRouter AI Incident Archive, שבו כל רשומה נושאת את המקורות, חומרת האירוע, דירוג הביטחון ודגל המחלוקת שלה.
