Nemotron 3.5 Bolt 74B לעומת Nemotron 3 Ultra: 1.5 נקודות אינדקס, פי שבעה מהפרמטרים

המספר המפתיע ביותר במשפחת N​VIDIA N​emotron 3.5 אינו גודלו של דגם הדגל שלה. הוא זה שN​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB, צ׳קפוינט בן 74 מיליארד פרמטרים שנדחס ל-24 גיגה-בייט בשני ביטים למשקל, נמצא במרחק של 1.5 נקודות מN​emotron 3 Ultra, המודל עם 550 מיליארד פרמטרים שממנו זוקקה שאר המשפחה, במדד האינטליגנציה של Artificial Analysis שהורץ באופן עצמאי — 21.4 לעומת 22.9. פי שבעה פרמטרים, פי שישה מחשוב פעיל לכל טוקן, ופער שאפשר לאבד בתוך פסי השגיאה של מבחן. המשקלים של Bolt הופיעו ב-Hugging Face ב-7 באוקטובר 2026, כשההכרזה של N​VIDIA באה לאחר מכן ב-15 באוקטובר; Ultra יצא ב-4 ביוני 2026.

שני המודלים אינם ניתנים להחלפה זה בזה, והמקומות שבהם הם נבדלים מלמדים יותר מאשר ציון הכותרת. גם מה שהדחיסה שימרה וגם מה שהיא השליכה גלוי במספרים שפורסמו, והם אינם אותן שורות.

מה כל אחד מהם הוא

Ultra הוא ספינת הדגל של הדור הקודם והמורה במרכז צינור הזיקוק של NVIDIA. זהו מודל היברידי Mamba-2 עם 550B בסך הכול ו-55B פעילים, עם חיזוי מרובה טוקנים, שיצא תחת OpenMDW-1.1 עם נתוני האימון והמתכונים שלו, ונבנה לעבודה סוכנית ארוכת טווח עם עד מיליון טוקנים של הקשר ותקרת פלט של 65,000 טוקנים לכל בקשה. הטענה של NVIDIA עצמה לגביו הייתה שהוא מודל המשקלים הפתוחים האמריקאי בעל האינטליגנציה הגבוהה ביותר בחלון ההשקה שלו, והתיעוד העצמאי תומך בכך במידה רבה: הפאנל נותן לו ציון 22.9 בתצורת החשיבה שלו, עם 156 טוקני פלט בשנייה שנמדדו, 1.29 שניות עד לטוקן הראשון, וחציון של 19 שניות לזמן תגובה מקצה לקצה.

Bolt הוא שכבת ה-edge של הדור החדש, והוא אינו Ultra מזוקק במובן הישיר. ההורה שלו הוא Nemotron 3.5 Super VL 120B-A12B, המודל המולטימודלי בעל 120 מיליארד הפרמטרים ש-NVIDIA השיקה לצידו. הדחיסה בוצעה על ידי Star Elastic, חיפוש הארכיטקטורה מונחה-הראוטר של NVIDIA, אשר ביצע אופטימיזציה עבור אובדן זיקוק הידע הנמוך ביותר שעמד בתקרת נפח קשיחה של מתחת ל-24GB בגודל אצווה 1 ובהקשר של 128K — והוריד את ה-top-K של המומחים מ-22 ל-9 וכימת את משקולות המומחים ל-IQ2-XXS ב-2.0625 סיביות לרכיב, עם זיקוק מודע-כימות כדי לשחזר את הדיוק. הוא כולל מקודד ראייה C-RADIO v4-H מכיוון שההורה שלו היה מולטימודלי.

השורות העצמאיות, שני הצדדים

כל מה שמופיע להלן הוא מ-Artificial Analysis אלא אם צוין אחרת, וזה מה שהופך את ההשוואה לשימושית: שני המודלים הורצו על ידי אותו מעריך תחת אותה מערכת בדיקה.

• מדד אינטליגנציה — Bolt 21.4; Ultra 22.9. נמדד באופן עצמאי עבור שניהם.

• GDPval-AA (מנורמל) — Bolt 0.240; Ultra 0.257. פער של 1.7 נקודות בבנצ׳מרק שנבנה מתוצרי עבודה תעסוקתיים אמיתיים.

• SciCode — Bolt 0.397; Ultra 0.403. למעשה באותה רמה.

• Humanity's Last Exam, ללא כלים — Bolt 24.7 אחוז; Ultra 28.4 אחוז. הפער של ארבע נקודות כאן הוא הגדול ביותר ברשימה הזו במונחים יחסיים.

• אחזור הקשר ארוך AA-LCR — Bolt‏ 69.7 אחוז; Ultra‏ 79.3 אחוז. עשר נקודות, והעדות הברורה ביותר למחיר של דחיסת 2 סיביות.

• AA-Omniscience — Bolt: 17.1 אחוזי דיוק עם 56.3 אחוזי אי-הזיה; Ultra: 22.6 אחוזי דיוק עם 70.3 אחוזי אי-הזיה. דגם הדגל הוא גם בעל ידע רב יותר וגם מכויל טוב יותר, וזו התוצאה הפחות מפתיעה בעמוד.

• Terminal-Bench 4.0 (סט קשה יותר) — שניהם מקבלים אפס. אף מודל לא פותר את הרמה הזו, כולל דגם הדגל.

• חלון הקשר — Bolt: עד 256,000 טוקנים לפי כרטיס המודל, ו-262,144 ברשומת הפאנל. Ultra: עד 1,000,000 לפי N​VIDIA, עם פלט מקסימלי של 65,000 טוקנים.

• קלטים — Bolt: טקסט, תמונות ווידאו נכנסים, טקסט יוצא. Ultra: טקסט נכנס, טקסט יוצא. שום דבר בחומרי ההשקה של הדגם המוביל אינו טוען לקיומו של מגדל חזותי.

• מחיר — Bolt: אין. אין תעריף מדוד מפורסם עבור הצ'קפוינט של 24GB, והפאנל אינו מפרט נתון קלט או פלט עבורו. Ultra: $0.60 למיליון טוקני קלט ו-$2.50 למיליון פלט, עם קלט במטמון ב-$0.16, והוצאה מדודה של $0.60 לכל משימת Intelligence Index.

• מהירות — Bolt: אין מדידה עצמאית. Ultra: 156.1 אסימוני פלט לשנייה, 1.29 שניות עד לאסימון הראשון, חציון של 14.6 שניות זמן חשיבה לכל תגובה.

• טביעת רגל — Bolt: 24GB ב-IQ2, ניתן לפריסה על A100, H100 או רכיב Blackwell בודד. Ultra: פריסה מרובת מאיצים; המתכון של NVIDIA עצמה עבור נקודות הביקורת של המורה במשפחה הזו מציין ארבעה B200 או שמונה H100 כרף תחתון, ו-Ultra הוא הדגם הגדול ביותר.

מדוע פער המדד קטן מפער הגודל, ומה המשמעות של זה

ישנם שני הסברים כנים ושניהם כנראה נכונים בחלקם.

הראשון הוא ש־Intelligence Index הוא מדד משולב שמתגמל פרוצדורה יותר מאשר זכירה. Bolt איבד את העובדות המאוחסנות שלו בגלל קוונטיזציה של 2 סיביות — אפשר לראות זאת בשורות הדיוק — אבל שמר על מספיק מההתנהגות של שרשרת מחשבה, קריאה לכלים ופלט מובנה כדי לקבל ניקוד במשימות המשולבות. שימו לב שהיתרון של Ultra מתרכז בדיוק במקום שבו הזיכרון חשוב: אחזור בהקשר ארוך, דיוק אומניסיינס, שיעור הזיות, שאלות מדעיות קשות שדורשות עובדה ולא שיטה.

השני הוא שחיפוש ארכיטקטורה על הורה חזק הוא שימוש טוב יותר בתקציב קבוע מאשר אימון קטן מאפס, וזה הטיעון המפורש של NVIDIA בתיעוד של Bolt. לקחת מורה מולטימודלי של 120B ולחפש את התלמיד הרחב ביותר שנכנס ל-24GB הוא תרגיל שונה מאימון מקדים של מודל 30B, והצ'ק פוינט המתקבל של 74B/9B נמצא במקום שבו 74B יעיל באופן יוצא דופן היה נמצא.

מה שזה לא אומר הוא ש-Bolt מחליף את Ultra. מודל שמודה באי-ודאות לעתים קרובות יותר (56.3 לעומת 70.3 אחוז אי-הזיה, בכיוון הלא נכון) ומאחזר מהקשר ארוך בצורה פחות מהימנה הוא עוזר גרוע יותר לשאלות שאנשים באמת שואלים. הוא עוזר טוב יותר למשימות שהן בעיקרן פרוצדורה: קריאה לכלים, מילוי טפסים, עריכת קבצים, קריאת צילום מסך ולחיצה על הדבר הנכון.

שני הדברים שאולטרה לא יכול לעשות

היתרונות של Bolt מצומצמים, ושניהם מבניים ולא מספריים.

זה מתאים. צ׳קפוינט של 24GB רץ על חומרה שאדם מחזיק בבעלותו, בלי רשת, בלי מונה לפי טוקן ובלי משא ומתן על קיבולת. האינטליגנציה של Ultra נגישה רק דרך API, במחיר של $0.60 לקלט ו-$2.50 לפלט למיליון טוקנים, ובערך $0.60 של הוצאה לכל משימת אינדוקס. המחיר הזה נמוך באמת עבור מודל מהמעמד שלה, ולכן מסלול האירוח הוא אפשרות אמיתית ולא פשרה — אבל הוא עדיין מסלול שדורש קישוריות ואמון בזמינות של מישהו אחר.

הוא רואה. מקודד הראייה C-RADIO v4-H של Bolt מעניק לו קלט תמונה ווידאו, וכרטיס המודל של NVIDIA מדווח על 50.86 ב-WebArena vision ועל 66.75 ב-BrowseComp. Ultra הוא מודל טקסט. אם תפקידו של הסוכן כולל צילומי מסך, קובצי PDF, קריאת לוחות בקרה או אוטומציה של דפדפן עם מצב חזותי, לא ניתן להחליף בו את ספינת הדגל של הדור הישן בשום מחיר.

איך לבחור

בחר ב-Ultra אם עומס העבודה עתיר הסקה וטקסטואלי בלבד: ניתוח רב-שלבי, אוספי מסמכים ארוכים, כתיבת קוד על פני מאגרים גדולים, או כל דבר שבו טעות עולה ביוקר. הציונים העצמאיים שלו עוקפים את Bolt כמעט בכל מקום, המחיר הוא מהנמוכים בקטגוריית הבינה הגבוהה, והתפוקה שלו נמדדת ולא משוערת.

קחו את Bolt אם עומס העבודה רץ על חומרה שבשליטתכם, צריך לראות, או חייב להמשיך לפעול כשהרשת לא זמינה. פער המדד של 1.5 נקודות הוא אמיתי וצר מספיק כדי שההחלטה תתקבל בדרך כלל על בסיס הפריסה ולא על בסיס האיכות — והעובדה ש-N​VIDIA שחררה קובץ של 24GB שמקבל ציון בטווח של שתי נקודות מספינת הדגל 550B שלה היא העובדה בעלת הערך החדשותי הגבוה יותר מבין שתי ההשחרורים.

יש דרך ביניים שראויה לציון, כי כך NVIDIA ממקמת את המשפחה ולא כפי שקונה של מודל בודד היה עושה: מבצע מקומי קטן שמבצע קריאות לכלים וקריאת מסך, עם מודל מתארח גדול יותר שמטפל בתכנון ובחשיבה מורכבת. ארכיטקטורה כזו זקוקה לדרך אמינה להגיע לחצי המתארח על פני יותר מספק אחד, וזו המטרה של מנגנון ה-failover של OrcaRouter — ניסיון חוזר אוטומטי בין ספקים מאחורי נקודת קצה אחת, על מפתח שמגיע גם ליותר מ-200 מודלים במחיר המחירון של הספק עם 0 אחוז תוספת. איננו מארחים אף מודל של NVIDIA; משפחת Nemotron אינה בקטלוג שלנו, ואין כאן שום טענה שאנו מספקים אותה. הנקודה היא רק שעיצוב סוכן דו-שכבתי זקוק לכך שהשכבה השנייה תהיה ניתנת לניתוב, ונקודת קצה מקודדת קשיחה של ספק בודד היא הדרך הרגילה שבה עיצוב כזה נכשל.

מה היה משנה את הדף הזה

שתי מדידות. הראשונה היא ריצת תפוקה ו־latency עצמאית על ה־checkpoint בגודל 24GB, אשר או תאשר או תהרוס את ההצדקה להשתמש בו כ־executor מקומי במהירות אינטראקטיבית; נכון להיום המספר היחיד הזמין הוא 83.99 טוקנים לשנייה של NVIDIA עצמה על AIPerf SPEED-Bench-Coding, שנמדד על מכונה בדרגת מחשב נייד ואינו בר־השוואה למערכת הבדיקות של הפאנל. השנייה היא הרצה חוזרת ועצמאית של benchmarks סוכניים על משקולות 2-bit בקוונטיזציה שנשלטת בידי צד שלישי — בטבלת הספק, Bolt מנצח את Ultra ב־Terminal-Bench 2.1 בכמעט 27 נקודות, והטענה הזו נושאת משקל עצום ללא אימות חיצוני.

שום דבר מכל זה אינו סיבה להימנע מהמודל, אלא רק סיבה להכיר את ההיסטוריה: התקריות המתועדות בתחום ה-AI וכשלי הסוכנים שמאחורי מודלים במחלקה הזו מרוכזים בthe OrcaRouter AI Incident Archive, שבו כל רשומה נושאת את המקורות, חומרת האירוע, דירוג האמינות ודגל המחלוקת שלה.