Nemotron 3.5 Bolt 74B מול Qwen3.8-Max: הפער הרחב ביותר בטבלה

לכל השוואה במשפחת N​emotron 3.5 Bolt יש פער. בזו הפער הוא הרחב ביותר. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB מקבל 21.4 במדד Artificial Analysis Intelligence Index; Qwen3.8-Max, ספינת הדגל של A​libaba והמודל בעל הציון הגבוה ביותר בסדרת ההשוואות הזו, מקבל 45.4 באותו לוח תוצאות שהופעל באופן עצמאי. אלה 24 נקודות, יותר מציון המדד כולו של המודל הקטן יותר, וזו נקודת המוצא הכנה לכל מי ששואל אם סוכן מקומי של 24GB יכול לשמש כתחליף לחזית.

זה לא יכול. מה שהופך את הצמד לשווה לכתוב עליו הוא ששני המודלים מנצחים בשורות שונות לחלוטין, ושטבלת הבנצ'מרקים של NVIDIA עצמה משווה את Bolt למודל Qwen שאינו זה.

שני מודלים שאין להם דבר במשותף מלבד מולטימודליות

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB הוא מודל חזותי-לשוני בעל 74 מיליארד פרמטרים, שנדחס לצ׳קפוינט של 2 סיביות שנכנס לזיכרון של 24 גיגה-בייט. המשקלים שלו הועלו ל-Hugging Face ב-7 באוקטובר 2026; NVIDIA הזכירה אותו בפוסט השקה ב-15 באוקטובר. הוא מיועד לעבודה סוכנית מקומית — קריאה לכלים, גלישה באינטרנט, שימוש בטרמינל, קריאת מסך — והוא נמכר כהורדה ולא כשירות, בלי שמפורסם עבורו מחיר מדוד בשום מקום.

Qwen3.8-Max הוא המבנה ההפוך. המודל המוביל של Alibaba הוא תערובת מומחים דלילה, שהחברה מציבה ישירות מול המודלים הסגורים החזקים ביותר בחלון ההשקה שלו, ומוגש דרך שלושה פורמטים של תקשורת — משטח תואם OpenAI, משטח תואם Anthropic ו-DashScope של Alibaba עצמה — באזורים שונים: בייג'ינג, סינגפור, טוקיו, פרנקפורט ווירג'יניה. המודל המתארח הושק ב-3 באוגוסט 2026 עם קלט תמונה ווידאו, הקשר של מיליון טוקנים ומתג חשיבה; תמונת המצב מ-2 בספטמבר היא הגרסה שנמדדת כעת בלוחות המובילים. האח בעל המשקולות הפתוחות באותה משפחה, Qwen3.8-2.4T-A95B, הוא מהדורה נפרדת ולא המודל הנמדד כאן.

האחד הוא קובץ. השני הוא שירות. להשוואה עדיין יש תועלת, מפני שהשירות מפרסם מחיר והקובץ לא, וההבדל ביניהם הוא מה שפריסה מקומית למעשה קונה.

• מדד Intelligence Index — NVIDA Nemotron 3.5 Bolt 74B-A9B 24GB: 21.4. Qwen3.8-Max: 45.4. שניהם נמדדו באופן עצמאי על ידי Artificial Analysis.

• הקשר — 262,144 טוקנים עבור הצ'קפוינט של NVIDIA לעומת כ-983,000 עבור Qwen3.8-Max, עם פלט מקסימלי של 131,072 טוקנים בצד של Alibaba.

• פרמטרים — 74B סה"כ ו-9B פעילים עבור Bolt; דגם הדגל של Alibaba הוא תערובת מומחים דלילה מסדר שונה לחלוטין, ומפעיל כ-95B פרמטרים לכל טוקן בצורתו בעלת המשקלים הפתוחים.

• קלט — טקסט, תמונות ווידאו נכנסים, טקסט יוצא בשניהם. זהו הממד היחיד שבו השניים באמת דומים זה לזה.

• מחיר — Qwen3.8-Max: $2.00 למיליון טוקני קלט, $6.00 למיליון פלט, $0.25 עבור קלט שמור במטמון. Bolt: כלום, כי אין נקודת קצה לרכישה.

• עלות לכל משימה ב-Intelligence Index — $5.41 עבור Qwen3.8-Max, כפי שנמדד. אין נתון עבור Bolt, מאותה סיבה.

• מהירות — Qwen3.8-Max: 39.8 אסימוני פלט לשנייה עם 3.06 שניות עד לאסימון הראשון וחציון של 50.3 שניות של זמן חשיבה לכל תגובה, הכול נמדד באופן עצמאי. Bolt: לא קיימת מדידת תפוקה עצמאית.

השורות, שמהן מגיעות 24 הנקודות

Artificial Analysis הריצו את שניהם. קריאת הפירוט שורה-אחר-שורה מועילה יותר מאשר הציון המשולב, מפני שהציון המשולב מסתיר את העובדה שאף אחד מהמודלים לא מוביל באופן אחיד.

• Terminal-Bench 2.1 — Qwen3.8-Max ‏88.8%, נמדד באופן בלתי תלוי. ל-Bolt אין רשומה עצמאית במדד זה; N​VIDIA מדווחת על 50.98 בכרטיס הדגם שלה.

• GPQA Diamond — Qwen3.8-Max 92.8 אחוזים באופן עצמאי. הנתון 86.43 של Bolt הוא נתון של N​VIDIA עצמה, ולפאנל אין מספר עצמאי עבורו.

• Humanity's Last Exam, ללא כלים — Qwen3.8-Max 43.1 אחוז לעומת 24.7 אחוז של Bolt, שניהם נמדדו באופן בלתי תלוי.

• אחזור בהקשר ארוך (AA-LCR) — 80.3 אחוז לעומת 69.7 אחוז, שניהם נמדדו.

• קידוד מדעי (SciCode) — 52.1 אחוז לעומת 39.7 אחוז, שניהם נמדדו.

• הסקה רב-מודלית (MMMU-Pro) — Qwen3.8-Max ‏82.8 אחוז, נמדד באופן עצמאי. ל-Bolt אין רשומה עצמאית, וזו השמטה בולטת עבור מודל שנקודת המכירה העיקרית שלו היא שהוא יכול לראות.

• תוצרים תעסוקתיים (GDPval-AA) — Qwen3.8-Max 0.583 מנורמל מול 0.240 של Bolt, שניהם נמדדו.

• פעילות סוכנית ותפעול IT — Qwen3.8-Max מציג 42.4 אחוז ב-APEX-Agents, 40.3 אחוז ב-ITBench-SRE ו-45.0 אחוז בהערכת סוכן-אנליסט. ל-Bolt אין ציונים עצמאיים באף אחת משלוש העמודות הללו.

• אי-הזיה (AA-Omniscience) — Qwen3.8-Max עם 71.2% לעומת 56.3% של Bolt, עם דיוק של 31.7% לעומת 17.1%. שלא כמו בהשוואת Bolt מול Ultra, שבה המודל הדחוס מנצח בשורת הכיול, כאן דגם הדגל זוכה בשניהם.

• עלות לכל משימת אינדוקס — 5.41 דולר עבור Qwen3.8-Max. זהו הנתון הגבוה ביותר של עלות לכל משימה במשפחת ההשוואות סביב המודל הזה, וזה המספר שהופך את האפשרות המקומית למעניינת אפילו בפער של 24 נקודות.

מה קונים ב-$5.41 למשימה, ומה קונים ב-24GB במקום

הכלכלה של Qwen3.8-Max אינה שגרתית עבור מודל חזית: המחיר לכל טוקן — $2.00 בקלט ו-$6.00 בפלט — הוא מתון, אך המודל מבלה זמן רב בחשיבה. זמן החשיבה החציוני בהרצות של הפאנל הוא 50.3 שניות, וזמן התגובה מקצה לקצה עומד בממוצע על 65.9 שניות. משימה שלוקחת למודל דקה של התלבטות פנימית מייצרת הרבה טוקני פלט, והעלות לכל משימת אינדקס היא המדד שחושף זאת. זו אינה ביקורת על המודל — חשיבה עמוקה היא המוצר — אבל זו הסיבה שלולאת סוכן בנפח גבוה מתייקרת במהירות בשכבה הזו.

זה בדיוק עומס העבודה שעבורו Bolt נבנה. לצ'קפוינט מקומי אין כלל מדי עלות לפי טוקן: העלות השולית של קריאה לכלי היא חשמל, והעלות הקבועה היא GPU. עבור סוכן שפעיל כל הזמן ומבצע אלפי צעדים פרוצדורליים קטנים — קריאת מסך, קריאה לנקודת קצה, עריכת קובץ — ההשוואה אינה 21.4 מול 45.4, אלא קבוע מול חשבונית הולכת וגדלה. הניסוח של N​VIDIA עצמה הוא ש-Bolt קיים כדי שמשימות סוכניות יומיומיות יוכלו לרוץ מקומית בלי לשלוח את עומס העבודה לענן, והוא מדווח על 50.86 ב-WebArena vision ועל 66.75 ב-BrowseComp בדיוק עבור אותן משימות.

המלכודת היא שהעלות הקבועה אמיתית והשהיה אינה ידועה. מתכון ההגשה הרפרנסי של NVIDIA הוא רב-שלבי: בנייה מקובעת של vLLM nightly, חבילת הקרנל b12x, תוסף מנתח-חשיבה שהורד בנפרד, מנועי Mamba ו-attention מפורשים, ותצורת פענוח ספקולטיבי המשתמשת בדראפטר LiLiCorr עם שבעה אסימוני טיוטה. התפוקה מפורסמת על ידי NVIDIA כ-83.99 אסימונים לשנייה ב-AIPerf SPEED-Bench-Coding על מכונה בדרגת מחשב נייד — מספר של ספק על בנצ'מרק של ספק, בלי הרצה עצמאית שאפשר לבדוק אותו מולה.

קו הבסיס ש-NVIDIA בחרה

יש עוד דבר אחד שראוי לשים לב אליו, וזה שיעור קריאה ולא שיעור טכני. טבלת הבנצ׳מרקים בכרטיס המודל של Bolt כוללת מודל Qwen כנקודת השוואה — והוא Qwen3.6-35B-A3B, מודל קטן בהרבה ממודל הדגל שנמדד בעמוד הזה. הטבלה של NVIDIA מראה ש-Bolt מנצח ב-Terminal-Bench 2.1, GPQA Diamond, BrowseComp, GDPVal, Tau3 Banking, SciCode, AA-LCR ו-MCP-Atlas מול המודל הזה, בעוד שהוא מפסיד ב-AA-Omniscience accuracy, AA-Omniscience non-hallucination ו-PinchBench.

ייתכן בהחלט שההשוואות האלה נכונות. אבל קורא שמסיק מהטבלה ש"Bolt מנצח את Qwen" משווה מודל edge של 74B ל-MoE צפוף-מדרג של 35B, ולא לדרג החזית של Alibaba. מול Qwen3.8-Max התיעוד העצמאי מראה כיוון הפוך כמעט בכל שורה משותפת, והפער מתרחב ולא מצטמצם במבחנים הקשים ביותר. כשספק בוחר לעצמו את קווי הבסיס, המהלך ההוגן הוא לבדוק מהו קו הבסיס.

איך להחליט

בחר ב-Qwen3.8-Max כאשר הנכונות היא האילוץ. אם המשימה היא ניתוח רב-שלבי, חשיבה רב-מודאלית מורכבת, עבודה סוכנית עם השלכות ממשיות, או כל דבר שנמדד לפי הבנצ'מרקים שבהם הוא מקדים ב-24 נקודות, האפשרות המקומית אינה מועמדת — ובמחיר של $2.00 ו-$6.00 למיליון טוקנים, הוא מתומחר כתשתית ולא כמותרות. זהו גם המודל שיש לבחור בו כאשר זרימת העבודה דורשת פלטים מובנים, קריאה נייטיבית לכלים והקשר של מיליון טוקנים בקריאה אחת, שכל אלה A​libaba מתעדת כנתמכים.

בחר ב-Bolt כאשר האילוץ הוא היכן שהעבודה מתרחשת. פרטיות, פעולה לא מקוונת, השהיה שאינה תלויה ברשת, ועלות לכל קריאה שאינה קיימת הם ארבעה טיעונים נפרדים, וכל אחד מהם מספיק בפני עצמו עבור חלק מהצוותים. המודל מוכשר בנהלים וחלש בשליפה; כוון אותו לראשון.

עבור החצי המתארח, Qwen3.8-Max נגיש דרך OrcaRouter בתור qwen/qwen3.8-max/ על אותו מפתח כמו יותר מ-200 מודלים אחרים, במחיר המחירון של הספק של Alibaba בלי תוספת רווח — כלומר שינוי במחיר של ספק נוחת אצלנו באותו יום ולא בסוף מחזור חיוב. זה חשוב יותר בשכבה הזאת מאשר בשכבה זולה, משום ש-5.41 דולר למשימת אינדקס הוא מספר שצוות כספים ירצה לבדוק מחדש מדי חודש. מה ששינוי הניתוב משנה בצורת ההחלטה הוא בעיית הנפח: עומס עבודה שהוא 90 אחוז צעדים פרוצדורליים קטנים ו-10 אחוז הסקה קשה יכול לשלוח את ה-10 אחוז לכאן ולהשאיר את השאר מקומית, עם מעבר אוטומטי בין ספקים במקרה כשל כך שהשכבה המתארחת מתדרדרת לניסיון חוזר ולא להשבתה.

אנחנו לא מארחים שום מודל N​VIDIA ואין לנו נקודת קצה של Bolt — משפחת N​emotron לא נמצאת בקטלוג שלנו, והחצי המקומי של ההשוואה הזו הוא שאלת חומרה שאף שכבת ניתוב לא נוגעת בה.

המספר הבלתי פתור

מה שאיש לא פרסם הוא המדידה שהייתה משלימה את ההשוואה הזו: הרצה עצמאית של השהיה ותפוקה על הצ'קפוינט של 24GB בגודל אצווה של אחד, על מכונה שאדם יכול לקנות. אם מתברר שצ'קפוינט 74B ב-2 ביטים מריץ צעדי סוכן אינטראקטיביים במהירות שמישה, הפער של 24 נקודות הופך לפער שאפשר לעקוף — מקומי לפרוצדורה, מתארח להסקה. אם לא, האפשרות המקומית היא כלי אצווה וההשוואה מצטמצמת למחיר. בכל מקרה, התשובה נמצאת במרחק פרסום אחד, וזה הדבר שכדאי לחפש לפני שמתכננים פריסה סביב המודל הזה.

השוואות כמו זו הן גם המקום שבו מצבי הכשל מתגלים: תקריות AI מתועדות וכשלי סוכנים שמאחורי מודלים מהסוג הזה נאספים בארכיון תקריות AI של OrcaRouter, שבו כל רשומה נושאת את מקורותיה, החומרה, דירוג הביטחון ודגל המחלוקת שלה.