כרטיס כותרת שנוצר המשווה בין NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB ל-Qwen3.8-27B, עם פאנלים המציגים הורדה מפורסמת של 22.02GB של משקולות בתוספת מקרן חזותי של 1.73GB מול בנייה קהילתית של ארבעה-ביט בגודל 16.46GB, כימות שנעשה על ידי הספק עם דיסטילציה מודעת כימות מול כימות שנעשה על ידי צדדים שלישיים ללא הערכה מפורסמת, עלות דיוק שפורסמה כירידה של שתיים עד חמש נקודות מול כך שאיש לא מדד אותה, הקשר 262,144 טוקנים מול 262,144 נייטיבי ומיליון שניתן להרחבה, וזמינות: אין נקודת קצה מול תעריף מתארח של 0.33 ו-2.40 דולר למיליון טוקנים. כותרת תחתונה מציינת שנתוני הדיוק של Bolt והבנצ'מרקים של ספק Qwen הם כל אחד טענות שלא שוחזרו על ידי המעבדה שבנתה את המודל, ושהמחיר והשיהוי המתארחים הם מדידות שלנו עצמנו של נקודת הקצה שלנו.
Guides & Insights

Nemotron 3.5 Bolt 24GB לעומת Qwen3.8-27B: שניהם נכנסים ל-24GB — רק אחד מספר לך כמה זה עלה

מחבר

Alistair Wren

תאריך פרסום

מודלים אחרונים · 20צפו בכל המודלים →
בנצ'מרקים: Artificial Analysis · מתעדכן יומית
חזרה לכל הפוסטים

מסתובב סיפור נחמד על שני המודלים האלה: ה-N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB נכנס ל-24 גיגה-בייט ואילו ה-Qwen3.8-27Bלא. המחצית הראשונה נכונה והמחצית השנייה אינה מעודכנת. A​libaba פרסמה את Qwen3.8-27B באוגוסט 2026 כמודל ראייה-שפה צפוף עם 27 מיליארד פרמטרים, שהמשקולות שלו ב-16 ביט מגיעות לכ-56GB, ותוך ימים הקהילה כבר יצרה גרסאות ארבע-ביט שלו בנפח 16.46GB. שני המודלים נכנסים כיום ל-24GB. ההבדל ששווה להתווכח עליו הוא ש-N​VIDIA תכננה את הדחיסה, פרסמה כמה היא עלתה, וסיפקה אותה כמוצר — ואילו צד ה-Q​wen של ההשוואה ההיא הוא גרסה שמישהו אחר הכין, עם חשבון שאף אחד לא סיכם.

מה כל מודל הוא בפועל

Bolt הוא היברידי מסוג תערובת מומחים: 74 מיליארד פרמטרים בסך הכול, 9 מיליארד פעילים לכל טוקן, שכבות מרחב-מצב של Mamba-2 השזורות עם מומחים וקשב, בתוספת מקודד חזותי C-RADIO v4-H. הוא קיים בצורת 24GB שלו מכיוון ש-NVIDIA הריצה חיפוש ארכיטקטורה מונחה-ראוטר כנגד תקציב טביעת-רגל, ואז כימתה את המומחים ל-2.0625 סיביות לכל אלמנט, ותיקנה את הנזק באמצעות זיקוק מודע-כימות.

Qwen3.8-27B הוא מודל צפוף. כל 27 מיליארד הפרמטרים נקראים עבור כל טוקן, וסעיף הארכיטקטורה בכרטיס המודל מתאר מחסנית בת 64 שכבות המסודרת כשש עשרה חזרות של שלושה בלוקים של קשב לינארי עם שער, שלאחריהם בלוק אחד של קשב מלא עם שער, עם חיזוי רב-טוקני שאומן על פני מספר שלבים והקשר מקורי של 262,144 טוקנים הניתן להרחבה למיליון. הוא מבין תמונות ווידאו באופן מקורי, והוא חושף שליטה בחשיבה לכל בקשה באמצעות הגדרת מאמץ חשיבה ודגל שמשמר הקשר חשיבה בין תורות.

פילוסופיות ייצור שונות, ושתיהן מופצות כמשקלים פתוחים תחת רישיונות מתירניים מספיק — OpenMDW-1.1 עבור Bolt, ו-Apache 2.0 עבור Qwen3.8-27B.

שתי דחיסות, שאחת מהן מתועדת

זה החלק של ההשוואה שמכריע.

ה-checkpoint בגודל 24GB של NVIDIA נדחס על ידי NVIDIA, והעלות מפורסמת. מהדורת BF16 של אותו מודל מכילה טבלה עם שתי העמודות זו לצד זו, כך שהמחיר של מומחי 2-bit גלוי שורה אחר שורה:

• GPQA Diamond — 86.43 ב-2-bit לעומת 88.83 ב-16-bit, ירידה של 2.40 נקודות.

• Terminal-Bench 2.1 — 50.98 לעומת 53.93, הפסד של 2.95.

• BrowseComp — 66.75 לעומת 70.00, הפסד של 3.25.

• הסקת הקשר ארוך AA-LCR — 64.06 לעומת 67.38, ירידה של 3.32.

• HLE ללא כלים — 25.30 לעומת 28.73, הפסד של 3.43.

• דיוק AA-Omniscience — 16.90 לעומת 21.80, ירידה של 4.90.

ושתי שורות שהולכות בכיוון ההפוך: ב-AA-Omniscience non-hallucination המודל הדחוס משיג 61.27 לעומת 56.14 בדיוק מלא, וב-WebArena vision השניים צמודים בפער של עד נקודה אחת. אלה נתוני ספק, שלא שוחזרו, והם עדיין התיאור המלא ביותר שפרסמה מעבדה כלשהי על מה שדחיסה של 24GB עשתה למודל שלה עצמה.

עכשיו הצד של Qwen. קיימת גרסת ארבעה ביטים של Qwen3.8-27B בגודל 16.46GB, היא פורסמה על ידי צד שלישי, והיא מגיעה בלי שום מדידת דיוק כלל. לא מדידה חלשה — אלא כלום. כך גם לגבי הגרסאות של 9.83GB ו-7.27GB שנמצאות מתחתיה, ולגבי הגרסה של 21.98GB שמעליה. כל מה שמודל חזותי-לשוני צפוף של 27B מפסיד כשהמשקלים שלו נדחסים לארבעה ביטים, איש לא פרסם עבורו מספר, מה שאומר שחשבון הזיכרון שמאפשר את ההתאמה הוא החצי הקל, ושאלת היכולת פתוחה לחלוטין.

האסימטריה הזו היא הגרסה הכנה של העימות הזה. Bolt אומר לך את המחיר שלו. Qwen3.8-27B מאלץ אותך לשלם מחיר שעליך לאמוד בעצמך.

הפאנל הבלתי תלוי, ומה הוא מכסה ומה אינו מכסה

Artificial Analysis מודדת את Qwen3.8-27B ברמת המודל המלאה בתצורת החשיבה המקסימלית שלו: Intelligence Index של 34, הראשון מבין 141 מודלים בפאנל; כ-41 טוקני פלט לשנייה, אותם היא מדרגת במקום ה-51 מתוך 63; ועלות של $0.50 למיליון קלט ו-$3.00 למיליון פלט בתמהיל הספקים שהיא עוקבת אחריו, שאותה היא מכנה יקרה במיוחד עבור מודל עם משקולות פתוחות בגודל כזה. היא גם מציינת שהמודל מילולי מאוד, עם 200 מיליון טוקנים שנוצרו במהלך הרצת האינדקס.

אותו פאנל מדרג את Bolt במדד אינטליגנציה של 21, רביעי מתוך 67 מודלים בקטגוריה שלו, כאשר גם המהירות וגם העלות אינן זמינות משום שאין API ציבורי שמשרת אותו. פער של שלוש עשרה נקודות הוא פער רחב, והוא נמדד באותו אופן עבור שניהם, מה שהופך אותו לקביעה הבודדת המהימנה ביותר במאמר הזה. יש בה גם הסתייגות שחשובה יותר ממה שזה נשמע: סיכום ההשוואה של הפאנל עצמו מכנה את Qwen3.8-27B איטי במיוחד ומאוד עתיר מילים, כך שהמודל שמנצח באינטליגנציה הוא זה שממתינים לו זמן רב יותר.

בנוגע למודאליות, שני העמודים חלוקים בדרך שראויה לציון, שכן פאנל מפרט אינו זהה לדף מוצר. כרטיס הספק של Qwen מתאר הבנה נייטיבית של תמונות וווידאו; פאנל הניתוח מפרט קלט טקסט, תמונה וווידאו עבור Qwen3.8-27B בתצוגות מסוימות וקלט טקסט ותמונה עבור Bolt. שני המודלים רואים. אף אחד מהם אינו רואה באופן זהה, וההבדל באופן שבו צדדים שלישיים מתארים את השניים הוא תזכורת לבדוק טענת מודאליות מול כרטיס המודל ולא מול שורת סיכום.

A screenshot of the Artificial Analysis model page for Qwen3.8 27B in its xhigh reasoning configuration, showing the Alibaba attribution, an open-weights label, a release date of August 2026, an Intelligence Index score of 34 with a rank of first of 141 models, a speed rank of 51st of 63 at 41.4 output tokens per second, an input price of 0.50 dollars and output price of 3.00 dollars per million tokens with an 80 percent cache discount, a verbosity figure of 200 million output tokens, a 256 thousand token context window, and text image and video input.

טבלת הספקים בצד של Q​wen

כרטיס המודל של A​libaba הוא ארוך, והשורות האג'נטיות שלו הן הסיבה שהמודל הזה בכלל מעניין בהשוואה ל-Bolt. Terminal Bench 2.1 ב-73.0, SWE-bench Pro ב-61.7, GPQA Diamond ב-89.2, HLE ב-30.8, LiveCodeBench v6 ב-90.3, OSWorld-Verified ב-84.3 ו-AndroidWorld ב-81.9 — כולם הוערכו על ידי A​libaba, ברוב המקרים בתוך מסגרת ההרצה של C​laude Code, בחלון הקשר של 256,000 טוקנים.

המספרים האלה אינם בני השוואה לטבלה של Bolt. רתמות הערכה שונות, תאריכי הערכה שונים, בחירות קו בסיס שונות, ובמקרה של Bolt קבוצת קו בסיס שנבחרה חלקית כדי להיכנס ל-24GB בארבעה ביט. ההצהרה היחידה הישרה היא שציוני הסוכן המפורסמים של Qwen3.8-27B גבוהים מציוני הסוכן המפורסמים של Bolt, ששתי קבוצות המספרים מגיעות מהמעבדות שבנו את המודלים, ואף אחת מהמעבדות לא הריצה את חבילת הבנצ'מרק של האחרת.

מספר אחד של Qwen ראוי לציון מסיבה אחרת. הכרטיס של Qwen עצמו מודה בתוצאה 89.2 ב-GPQA Diamond, בעוד הכרטיס של Bolt טוען ל-86.43 — קרוב מספיק לכך שהבדל בתשתית ההרצה יכול להעביר כל אחד מהם לעקוף את האחר. זה קנה המידה שבו טבלאות של ספקים מכריעות בוויכוחים. זה לא קנה המידה שבו אתה אמור להכריע ויכוח.

לשכור אחד, והלטנציה שאתה יורש

ל-Bolt אין נקודת קצה. אין תעריף לצטט, אין ספק שמגיש אותו, ואין דרך להעריך אותו על התעבורה שלך בלי להשלים את מתכון הפריסה של N​VIDIA — מכולת vLLM ה-nightly המקובעת, חבילת הקרנל שנשלפת בזמן ריצה, תוסף מנתח החשיבה, הבקאנדים של b12x, מטמון ה-KV מסוג fp8 ומקביליות מוגשת של רצף אחד.

Qwen3.8-27B ניתן להורדה ולקריאה, והשילוב הזה הוא הסיבה שלעימות הזה יש בכלל תשובה מעשית. אנו מגישים qwen/qwen3.8-27b על התשתית שלנו במחיר 0.33 דולר למיליון טוקני קלט ו-2.40 דולר למיליון טוקני פלט. הרשומה בקטלוג מפרטת חלון הקשר של 262,144 טוקנים עם קלט טקסט, תמונה וווידאו, ופרסום בתעריף כזה אפשרי מצדנו מכיוון ש-OrcaRouter מעביר הלאה את מחיר המחירון של הספק עם ללא תוספת מחיר — אם ספק מוריד מחיר, השינוי פעיל כאן באותו יום ולא במחזור החיוב הבא.

השהיה, עם זאת, ראויה להימסר ביושר ולא באופן מחמיא. במהלך שבעת הימים שהסתיימו ב-16 באוקטובר 2026, נקודת הקצה שלנו עבור מודל זה דיווחה על זמן p50 עד לאסימון הראשון של 10.00 שניות ועל p95 של 10.00 שניות, מהירות פלט של 515 אסימונים לשנייה, ושיעור שגיאות של 2.1%. הסדרה היומית מסבירה את המצטבר: 1.42 שניות ב-10 באוקטובר, 1.65 ב-11, 2.83 ב-12, ואז 10.00 ב-13 וב-15, 1.91 ב-14. שניים משישה ימים הגיעו לתקרה של חלון המדידה שלנו ושלושה לא.

זה לא מספר נחמד, וזה המספר. זו גם הסיבה המוחשית שמעבר אוטומטי לגיבוי קיים כמאפיין ניתוב ולא כסיסמה: המתנה לטוקן ראשון שהיא בסדר ביום שני ועשרה שניות ביום רביעי היא בדיוק מצב הכשל ששרשרת גיבוי נועדה לו, וה-DSL לניתוב קיים כדי ש"נסה את המודל הזה, עבור לזה אם הוא נחלש" יהיה קונפיגורציה ולא קוד אפליקציה. למודל בבעלותך — Bolt, או בנייה מקומית של Q​wen — אין בעיה כזו ואין אפשרות כזו. הוא מהיר כמו שה-GPU שלך מהיר, כל יום, בלי צד שלישי בדרך ובלי מודל שני לפנות אליו כשהוא נתקע.

A generated two-column scoreboard titled NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB vs Qwen3.8-27B. The left column reads total and active parameters 74 billion and 9 billion, architecture sparse mixture-of-experts, published download 23.75 gigabytes including the vision projector, quantisation performed by the vendor with quantisation-aware distillation, accuracy cost published as a two to five point drop across thirteen benchmarks, independent Intelligence Index 21, context 262,144 tokens, and availability with no hosted endpoint. The right column reads total and active parameters 27 billion dense with all parameters active, architecture dense with gated linear attention blocks, published download about 56 gigabytes at 16 bits or 16.46 gigabytes in a third-party four-bit build, quantisation performed by third parties with no published accuracy evaluation, accuracy cost unmeasured, independent Intelligence Index 34 in the xhigh configuration, context 262,144 native and up to 1,000,000 extensible, and availability on the OrcaRouter endpoint at 0.33 and 2.40 dollars per million tokens with a ten second p50 time to first token over the last seven days. A footer distinguishes the two independently measured Intelligence Index figures from every vendor benchmark row, and states that the hosted price and latency are our own measurements.

איך זה נפתר בפועל

אין מנצח למסור, כי שני המודלים אינם מתחרים על אותה משבצת.

אם האילוץ שלך הוא מכונה בלי רשת, או עבודה שאסור לה לצאת מהמכשיר, Bolt היא התשובה ועלות הדחיסה המפורסמת היא מחיר הכניסה. שום דבר ב-Qwen3.8-27B לא משנה זאת, מפני שאי אפשר להוריד לעצמך דרך לפריסה של 24GB ש-NVIDIA עוד לא בנתה ותיעדה — אפשר לקרב אותה עם בנייה של ארבעה סיביות שאיכותה לא נמדדה ושאותה מקרן חזותי תצטרך להשיג בנפרד.

אם האילוץ שלך הוא יכולת לדולר והרשת זמינה, Qwen3.8-27B מוביל בשלוש עשרה נקודות במדד היחיד שמדד את שניהם, בתעריף מפורסם, תחת רישיון שהצוות המשפטי שלך ראה בעבר. הבנייה המקומית של ארבעה סיביות היא נתיב שלישי סביר, וזה הנתיב שבו עליך לצפות לבצע הערכה משלך במקום לרשת טבלה של מישהו אחר.

החלק ששני המודלים משאירים לך הוא אותו הדבר: לאף אחד מהם אין בנצ'מרק עצמאי מול השני, אף מעבדה לא מדדה את המודל של האחרת, והדעות מיום הראשון שמסתובבות עליהם הן קריאות של כרטיסי ספק. הורד את שניהם, הרץ את המשימות שלך, והשאר את זה שמסיים. זו התוצאה היחידה בהשוואה הזאת שלא תפורסם על ידי אחת משתי המעבדות שבנו אותם.

A screenshot of the Hugging Face model card for Qwen3.8-27B showing the repository header, the note that the weights are provided in the Hugging Face Transformers format and are compatible with vLLM SGLang and TokenSpeed, the model overview listing 27 billion parameters, 64 layers, a 262,144 token native context length extensible to 1,000,000 tokens, and multi-token prediction trained across multiple steps, and the opening of the benchmark section covering coding and agentic evaluations.

מה שהמספרים לא יכולים לספר לך הוא אם משהו מזה השתבש בשטח: תקריות ה-AI המתועדות וכשלי סוכנים סביב מודלים מהסוג הזה נאספים בOrcaRouter AI Incident Archive, שבו כל ערך נושא מקורות משלו, חומרה, דירוג ביטחון וסימון מחלוקת.

© 2026 OrcaRouter

מוצר

מודלי AIפתרונותOpen SourceOpen Weightsתמחור

משאבים

תיעודבלוגאינטגרציותסטטוסתמיכהארכיון תקריות בינה מלאכותיתמרכז האמון

לספקים

מפעילים פלטפורמת הסקה (inference)? הציגו את המודלים שלכם ב-OrcaRouter.

providers@orcarouter.ai

הצטרפו לקהילה שלנו

Discordsupport@orcarouter.aiXGitHubYouTube

מהבלוג

Muse Spark מול Qwen 4 Max: למחצית מההשוואה הזו אין עדיין נקודת קצהMuse Spark מול Muse Spark 1.3: אחד מהשמות האלה הוא גרסה, וזו כל התשובהMuse Spark מול Muse Glimmer: מה באמת שורד כאשר מודל חזיתי מזוקק ל-30 מיליארד פרמטריםKrea 3: פחות מ-8 שניות לעריכה, $0.06 לתמונה, ומספר רפרנסים ש-Krea לא מצליחה להסכים עליוKrea 3 מול MAI Image 2.6 Preview: 16,400 הצבעות מול דדליין

ספקי מודלים

OpenAI API76Google API30Qwen API27Anthropic API13Z.ai API10DeepSeek API9Kling API8MiniMax API6Grok API5Kimi API4Tencent API4Obsidian API3