Nemotron 3.5 Bolt מול Nemotron 3.5 Lightning: מה אומרת הטבלה של NVIDIA עצמה כשקוראים את שתי העמודות

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB וNVIDIA Nemotron 3.5 Lightning 30B-A3B הם שני דרגים של אותה משפחה, שיצאו בהפרש של עשרה שבועות זה מזה, והיצרן כבר פרסם טבלה שמעמידה אותם ראש בראש. זה יוצא דופן ושימושי: רוב הטבלאות הראש בראש שאתם קוראים מורכבות בידי עיתונאי או בידי ספק שבוחר השוואות מחמיאות, ואילו זו מעבדה שעורכת בנצ'מרק למודל החדש יותר של עצמה מול המודל הישן יותר של עצמה, בפומבי, כשהמודל הישן מוצג כבסיס השוואה. היא עדיין מדווחת בידי הספק, ואף אחד מחוץ ל-NVIDIA לא שחזר ולו שורה אחת ממנה — אבל הכוונה שמאחוריה אינה מוטלת בספק, וכך גם כיוון התוצאה. Bolt לוקח שנים עשר מתוך שלושה עשר השורות. כדאי להבין בדיוק איזו שורה הוא מפסיד ולמה דווקא השורה הזאת היא המעניינת.

מבנה המשפחה חשוב לפני המספרים. Nemotron 3.5 Lightning שוחרר ב-11 באוגוסט 2026 כשכבת הביצוע של מחסנית סוכנים — מודל היברידי של 30B בסך הכול ו-3B פעילים, ש-NVIDIA זיקקה מתוך Nemotron 3 Ultra הגדול בהרבה, במיוחד כדי שמודל חזיתי יעשה את התכנון בזמן ש-Lightning טוחן קריאות לכלים על GPU בודד. Bolt הוא שושלת אחרת לחלוטין: הוא נדחס ממודל Nemotron 3.5 Super VL עם 120B-A12B, ולא מ-Ultra, והוא קיים כדי להיות כללי חזון-שפה שנכנס ל-24GB. שניהם בעלי משקלים פתוחים תחת OpenMDW-1.1, שניהם תערובות מומחים דלילות על עמודי שדרה היברידיים של Mamba-2, ושניהם מגיעים עם פענוח ספקולטיבי — Lightning עם ראשי Multi-Token Prediction בתוספת מודלי טיוטה DFlash ו-DSpark, ו-Bolt עם מודל טיוטה LiLiCorr המונע דרך DFlash ומציע שבעה טוקנים קדימה.

המוצא המשותף מפסיק להיות שימושי ברגע שבו עליך להחליט, מפני ששני המודלים עונים על שאלות שונות. האחד הוא מבצע זול. האחר הוא גנרליסט מקומי.

קריאת הטבלה לפי תפקיד, לא לפי ניקוד

כל נתון שלהלן מגיע מכרטיס המודל של NVIDIA עצמה עבור הצ'קפוינט Bolt 24GB, שמפרט את Lightning כבסיס השוואה. עמודת Bolt היא IQ2, ארטיפקט מכומת של 2 סיביות. עמודת Lightning היא BF16, לא מכומתת. חוסר הסימטריה הזה הוא הדבר האחד החשוב ביותר לדעת על הטבלה, והוא פועל לטובת Bolt — הוא מנצח באותן שורות בעודו דחוס בפי שמונה בקירוב ביחס למודל האב שלו.

• הסקה סוכנית כללית — GDPVal-AA-V2: Bolt 28.47, Lightning 18.26. פער של עשר נקודות, והשורה הקרובה ביותר ל"עד כמה זה טוב בעבודה היומיומית בסגנון משרדי שהמודל נבנה עבורה".

• עבודת טרמינל — Terminal-Bench 2.1: Bolt 50.98, Lightning 23.46. זהו הפער הרחב ביותר בלוח וזה לא מפתיע, מכיוון שההנחיה של NVIDIA עצמה לגבי Lightning היא שהוא לא אמור להיות הסוכן הראשי. הערכה בלתי תלויה רשמה בערך 24.6 עבור Lightning באותו בנצ'מרק, שזה מספיק קרוב ל-23.46 של הספק כדי להצביע שהמספר אמיתי.

• חשיבה מדעית וידע — GPQA Diamond: Bolt 86.43, Lightning 75.57. SciCode: Bolt 41.02, Lightning 31.38. Humanity's Last Exam ללא כלים: Bolt 25.30, Lightning 10.47. עקביות על פני שלושה סוגים שונים של שאלות קשות.

• הסקה בהקשר ארוך — AA-LCR: Bolt 64.06, Lightning 49.19. חמש עשרה נקודות, וכאן מגבלת הזיכרון אינה הגורם המגביל עבור אף אחד מהמודלים.

• סוכנות ווב וגלישה — BrowseComp: Bolt 66.75, Lightning 36.81. שלושים נקודות. הפער הבודד הגדול ביותר בטבלה, וזה שסותר באופן הישיר ביותר את הרעיון של Lightning כמבצע אוטונומי.

• צפיפות שימוש בכלים — MCP-Atlas: Bolt 52.20, Lightning 46.4. PinchBench: Bolt 87.82, Lightning 83.43. שניהם קרובים יותר מהפערים שלמעלה, מה שעולה בקנה אחד עם תדריך העיצוב בפועל של Lightning: צעדי כלים קצרים בתדירות גבוהה.

• ראייה — ראיית WebArena: Bolt 50.86, ל-Lightning אין רשומה. זה לא פער בדיווח. Lightning הוא טקסט נכנס, טקסט יוצא; אין לו מקודד ראייה לניקוד.

השורה היחידה שבה Lightning מנצח, ולמה זה לא רעש

AA-Omniscience — אי-הזיה: Nemotron 3.5 Lightning ‏68.81, Nemotron 3.5 Bolt ‏61.27. בחצי הדיוק של אותה הערכה, השניים נמצאים במרחק של שליש נקודה זה מזה — 16.90 עבור Bolt לעומת 16.63 עבור Lightning — מה שהופך את הפער בחצי אי-ההזיה לכל הסיפור ולא לארטיפקט עיגול. המודל הקטן, הישן יותר, הלא-מכומת, מרוסן באופן מדיד יותר באשר לאמירת דברים שאינו יודע.

זהו ממצא אמיתי ויש לו מנגנון סביר. Bolt הגיע לטביעת הרגל שלו באמצעות כימות דו-סיביות אגרסיבי עם זיקוק מודע לכימות; החלק המאבד של התהליך הזה הוא בדיוק החלק ששולט באי-ודאות מכוילת. Lightning קטן יותר אך נמצא בדיוק מלא של BF16, ויעד הזיקוק שלו היה מודל חשיבה ולא יחס דחיסה. אם מצב הכשל של הסוכן שלך הוא תשובה שגויה ובטוחה שמתפשטת לפעולה, זו השורה שצריך לשקול במשקל הכבד ביותר — ואין כמות של תחכום ניתוב שמתקנת מודל שממציא יותר.

יצרנים ממעטים לפרסם טבלה שמכילה שורה שבה הדגם החדש שלהם מפסיד. העובדה שזו כן מכילה שורה כזו היא ראיה קטנה לכך שהטבלה אינה פרסומית בלבד.

עלות השירות היא הציר השני האמיתי

הציונים שלמעלה אינם כל ההחלטה, מכיוון ששני המודלים האלה אינם יקרים באותה מידה להרצה.

• פרמטרים פעילים — Bolt מפעיל 9B לכל טוקן; Lightning מפעיל בערך 3B. פי שלושה כוח חישוב לכל טוקן עבור המודל הגדול יותר, בכל טוקן, לנצח.

• מעטפת זיכרון — Bolt הוא קובץ בנפח 24GB שבו הכול כבר דחוס; Lightning הוא צ'קפוינט BF16 בגודל 30B שדורש GPU יחיד ומתאים בנוחות ל-RTX 5090, ל-DGX Spark או לרכיב Jetson.

• הקשר — שניהם מוגדרים ל-1M טוקנים, ושניהם למעשה צרים יותר. Lightning מספק 256K על H100 בודד לפני שחישובי הזיכרון נעשים מסורבלים; החלון המפורסם של Bolt הוא 262,144, וחלון זה חולק את אותם 24GB עם מטמון ה-KV, התמונות ותוצאות הכלים.

• טענות מהירות — NVIDIA טוענת עד פי 4 מהירות פלט לעומת מודלים בגודל דומה עבור Lightning באמצעות מודלי הטיוטה MTP ו-DFlash/DSpark שלה, ולפחות 80 טוקנים לשנייה של פענוח כיעד התכנון עבור Bolt, כאשר 84 נמדדו ב-AIPerf SPEED-Bench על RTX Spark ו-83.99 בהרצת llama.cpp על Surface Laptop Ultra עם 128GB. שני הנתונים הם נתוני ספק. אף אחד מחוץ ל-NVIDIA לא שחזר אותם.

• מדידה — לאף אחד מהשניים אין מחיר של שירות מתארח מאיתנו או מכל פלטפורמה שנוכל להפנות אותך אליה. העלות היא החומרה שלך בכל מקרה, וזו בדיוק הסיבה שמספר הפרמטרים הפעילים חשוב יותר מאשר בהשוואה לשירות מתארח.

מה שהפאנל יכול היה למדוד ומה שלא

ל-Artificial Analysis יש רשומה עבור Nemotron 3.5 Bolt 74B-A9B והיא מעניקה לו ציון 21 במדד האינטליגנציה, רביעי מתוך 67 במחלקת טביעת הרגל שלו, לעומת חציון של 8 במחלקה. שדות המהירות ועלות-למשימה שלו מציגים N/A, כי אין נקודת קצה מתארחת לקרוא לה. שני השדות הריקים האלה הם המצב האמיתי של המודל: רצפת האינטליגנציה שלו מאומתת באופן בלתי תלוי, ותקרת הביצועים שלו אינה.

אין רשומה של Artificial Analysis עבור Nemotron 3.5 Lightning בזמן כתיבת שורות אלו, מה שמשאיר את כל ההשוואה נשענת על הכרטיס של NVIDIA עצמה. נקודת הנתונים העצמאית שכן קיימת — אימות LLM Stats של כ-24.6 ב-Terminal-Bench 2.1, עקיבה עם 23.46 של הספק — תומכת במספרים של הספק ולא סותרת אותם. זה מרגיע לגבי הטבלה מבלי להוות תחליף להרנס שני.

איך באמת לבחור

כוונת התכנון מכריעה את רוב המקרים לפני שהבנצ'מרקים עושים זאת. Lightning הוא מבצע מעצם בנייתו: ההנחיה של NVIDIA עצמה היא לתת למודל frontier לתכנן ול-Lightning להריץ את הלופ, והשורות הטובות ביותר שלו בטבלה הן אלה של קריאות כלים בתדירות גבוהה ולא אלה של סוכן אוטונומי. Bolt הוא ג'נרליסט מעצם בנייתו: אותה טבלה מראה שהוא הרחק מלפנים בסוכנות גלישה ובעבודת טרמינל, שהן המשימות בעלות אופי מתכנן ש-Lightning מעולם לא נועד להחזיק בהן — והוא היחיד מבין השניים שמסוגל לראות.

ההרכב ששני המודלים נבנו עבורו הוא מתכנן, מבצע ומומחה מקומי. מכיוון שאף אחד מהצ'קפוינטים לא מגיע עם מחיר של שירות מתארח, החלוקה נופלת על החומרה שלך ונקודת קצה אחת מולה מבצעת את העבודה השימושית: כלל ניתוב ששולח לולאות קצרות של קריאות כלים לפריסת Lightning, את הבקשות הנושאות ראייה והמפעילות דפדפן ל-Bolt, וכל דבר שדורש הסקה חזיתית אמיתית למודל מתארח — הכל מאחורי מפתח אחד, עם מעבר כשל בין ספקים במעלה הזרם כאשר רגל מתארחת מתדרדרת. הכלל חי בתצורה ולא בכל שירות, וזה ההבדל בין שכבת ניתוב לכתיבה מחדש.

השאלה הפתוחה היא ריצה עצמאית בודדת. אם צד שלישי משחזר את הפערים ב-Terminal-Bench וב-BrowseComp על Bolt, הצ'קפוינט של 24GB הוא באמת הג'נרליסט החזק יותר, והטיעון לטובת שכבת ה-30B מצטמצם לכלכלת תפוקה בלבד. אם לא, הקריאה הכנה היא ש-74B מכומת ב-2 סיביות ו-30B ב-BF16 קרובים יותר ממה שטבלה של ספק אחד מרמזת — ושהשורה של אי-הזיה, זו ש-Lightning מנצח בה, ראויה למשקל רב יותר ממה שמיקומה בתחתית הכרטיס מרמז.