NVIDIA שחררה בשקט מודל טיוטה עבור דגם הדגל 816B של Meta

NVIDIA published nvidia/Muse-Spark-Open-816B-A42B-DFlash2 to Hugging Face on October 16, 2026, and told nobody. The repository is a draft checkpoint — a 4.38-billion-parameter speculative-decoding model whose entire job is to guess the next several tokens of Muse-Spark-Open-816B-A42B, Meta's 816-billion-parameter open-weight flagship, so the large model can verify a whole block of guesses in one forward pass instead of emitting one token at a time. There is no NVIDIA blog post, no announcement thread, no press release, and as of writing the repository shows zero downloads and zero likes. What it does have is a model card with acceptance-length tables, a working vLLM invocation, and a short list of things it conspicuously declines to claim. This is what the artifact says and what it does not. What the numbers cannot tell you is whether any of it has gone wrong in the field: the documented AI incidents and agent failures around models in this class are collected in the OrcaRouter AI Incident Archive where each entry carries its own sources, severity, confidence grade and disputed flag.

מה שיצא, לפי הסדר שבו אפשר לבדוק אותו

כל מה שלהלן מגיע מהמאגר או מה-API של Hugging Face עצמו עבורו. שום דבר מזה לא מחייב לסמוך על בנצ'מרק של ספק.

• התזמון — המאגר נוצר בשעה 04:40 UTC ב-16 באוקטובר 2026, והמשקולות שלו הועלו כ-40 דקות לאחר מכן; שורת ההפצה של הכרטיס עצמו מציינת "Huggingface: 10/16/2026". אין פרסום נלווה בבלוג המפתחים של NVIDIA, וכרטיס המודל מפנה רק למאמר DFlash ולפרויקט Model Optimizer.

• הארטיפקט — קובץ safetensors אחד ב-BF16, 4,384,162,432 פרמטרים, כ-8.8 GB אחסון. מחלקת הארכיטקטורה היא DFlash2DraftModel, עם חמש שכבות מפענח צפופות, קשב חלון-מחליק לא-סיבתי בחלון של 2,048, גודל מוסתר של 8,192, 128 ראשי שאילתה מול 16 ראשי מפתח-ערך ב-64 ממדים כל אחד, ואוצר מילים של 202,048. גודל בלוק הוא 8; הטיוטה נוגעת בחמש שכבות של היעד — 3, 19, 31, 47 ו-59 — מתוך 62.

• הוא ללא הגבלת גישה — Hugging Face מדווחת שהמאגר ציבורי ופתוח ללא הגבלה. אפשר להוריד את ה-drafter כבר עכשיו, בעוד המאגר המיועד של Meta עדיין נמצא מאחורי מסך התחברות לאישור תנאים.

• מערך הרישיונות — ה-checkpoint של הטיוטה כפוף ל-NVIDIA Open Model Agreement, והכרטיס מוסיף על כך את Muse Model License של Meta, כאשר מחרוזת הייחוס "Built with Muse Spark Open" נדרשת מכל דבר שנבנה על גביו.

• המקור, כפי שצוין על ידי NVIDIA — ההודעה של הצד השלישי של הכרטיס עצמו אומרת במפורש כי Muse-Spark-Open-816B-A42B "אינו בבעלות או בפיתוח של NVIDIA" וכי מנסח זה "אומן על ידי NVIDIA לשימוש עם מודל היעד הזה". הנחיות האימון מגיעות מ-Nemotron-Post-Training-Dataset-v2 של NVIDIA, כ-3.48 מיליון דגימות רב-לשוניות המשתרעות על מתמטיקה, קוד ו-STEM, עם תגובות שסונתזו על ידי מודל היעד על פני חמש רמות של מאמץ הסקה.

• שרשרת הכלים — הכרטיס אומר שהמודל אומן עם "גרסת בנייה טרום-הפצה של NVIDIA Model Optimizer 0.47". ‏Model Optimizer 0.47.0 שוחרר לציבור ב-23 בספטמבר 2026, ו-0.48.0rc0 הגיע בעקבותיו ב-8 באוקטובר, כך שהמתכון שממנו יצא הדרפטר הזה הוא כעת משהו שצד שלישי יכול להריץ מחדש.

זה לא מודל הטיוטה הראשון עבור המודל הזה, ולא מודל הטיוטה הראשון של NVIDIA.

שתי העובדות האלה חשובות כדי לשפוט מה באמת חדש כאן, כי כל אחת מהן לבדה הייתה גורמת לדרופ להיראות כמו משהו שהוא לא.

NVIDIA מפרסמת בשקט מודלי טיוטה ממשפחת DFlash עבור משקולות פתוחות של אחרים מאז הקיץ: MiniMax-M2.7-DFlash באמצע יוני, Kimi-K2.6-DFlash ואחר כך Kimi-K2.7-Code-DFlash לאורך יוני ויולי, ומודל טיוטה Nemotron 3.5 Lightning 30B בתחילת אוגוסט. מודל טיוטה Muse Spark Open מבית NVIDIA הוא הפריט הבא בסדרה, ולא הופעת בכורה.

גם ל-Muse Spark Open כבר היו מודלי טיוטה לפני כן. צ׳קפוינט DFlash2 תחת ארגון צד שלישי פורסם ב-Hugging Face ב-13 באוקטובר, וצ׳קפוינט DSpark עבור אותו יעד עודכן לאחרונה ב-15 באוקטובר — שניהם בערך חודש אחרי מערך יום-האפס של Meta עצמה, שנקרא DFlash V2 עבור סביבת ריצה אחת ו-DSpark עבור האחרת. אז ״קיים מודל טיוטה עבור Muse Spark Open״ אינו הסיפור.

הסיפור מצומצם יותר ושימושי יותר: כעת קיים עבור המודל צ'קפוינט BF16 DFlash2 של NVIDIA עצמה, שאומן באמצעות Model Optimizer, שפורסם עבור חומרת Blackwell עם vLLM כמנוע הנבדק שלו. אם אתם בוחרים איזה drafter להריץ, הבחירה היא למעשה בחירה של סטאק הגשה, ושם שתי הדרכים מתפצלות.

המספרים, והתנאים המדויקים המצורפים להם

NVIDIA מדווחת על גודל אחד בשלושה מערכי בדיקה: אורך הקבלה, המספר הממוצע של טוקנים הנפלטים בכל צעד יצירה, הנמדד עם אורך טיוטה 7.

• MT-Bench, 80 שאלות בשני תורים — 3.73 טוקנים לכל צעד שהתקבל בפענוח חמדני ו-3.01 בדגימה. מתמטיקה היא הקטגוריה החזקה ביותר עם 4.47; מדעי הרוח היא החלשה ביותר עם 2.92.

• SPEED-Bench איכותני, 880 פרומפטים ב-11 קטגוריות — 3.72 בשיטת greedy ו-3.01 בדגימה. רב-לשוניות מגיעה ל-4.27 וקידוד ל-4.15, בעוד שכתיבה נגררת ב-3.05.

• תפוקת SPEED-Bench, קלטים של 32,000 טוקנים — 3.30 במצב חמדני ו-2.78 במצב דגימה, וכאן התמונה מחמירה: קטגוריית האנטרופיה הגבוהה צונחת ל-2.51 במצב חמדני ו-2.16 במצב דגימה, לעומת 3.71 עבור טקסט באנטרופיה נמוכה.

• התנאים — מאמץ החשיבה xhigh, 4,096 אסימוני פלט, מקביליות 32, על צומת GB300 בודד ב-TP4 וב-EP4, מוגש דרך vLLM כאשר היעד ב-NVFP4. נתוני ה-greedy הם בטמפרטורה 0; נתוני הדגימה הם בטמפרטורה 1.0 ללא חיתוך top-p או top-k, תוך שימוש בשיטה הסתברותית לדגימת טיוטה.

שלוש הסתייגויות צריכות לבוא לצד המספרים האלה, ולא מתחתם. ראשית, הן מדווחות על ידי הספק, ואנחנו לא שחזרנו אף אחת מהן, וגם אף אחד אחר לא פרסם מדידה בלתי תלויה של הצ'קפוינט הזה. שנית, אורך הקבלה אינו האצה — הוא התקרה שממנה ההאצה מחושבת. כל טוקן שמתקבל עדיין צריך לעבור אימות על ידי מודל בעל 816 מיליארד פרמטרים, וגם מעבר קדימה של הדראפטר עצמו עולה משהו; NVIDIA לא פרסמה יחס טוקנים לשנייה ולא השוואת השהיה, וזה המספר שמי שקורא ושוקל אם לפרוס את זה היה רוצה לראות. שלישית, כל זה נמדד ב-concurrency 32, וזה לא המשטר שבו פענוח ספקולטיבי בדרך כלל משתלם במידה הרבה ביותר — הרווחים מתרכזים בזרמים בודדים, מוגבלי השהיה ובבאצ'ים קטנים, ושרת עמוס מקבל פחות.

מה שהטבלאות האלה לא מודדות כלל הוא איכות הפלט. אימות תחת פענוח חמדני (greedy decoding) מיועד להחזיר את הטוקנים של מודל היעד עצמו, ולכן עמודת ה-greedy קרובה לטענת מהירות בלבד. עמודת הדגימה (sampling) היא זו שכדאי לבדוק על התעבורה שלכם, מפני שמייצר טיוטות הסתברותי משנה את אופן המעבר על ההתפלגות, ולא רק את המהירות.

איך בעצם היית מפעיל את זה

הכרטיס מספק הפעלה נתמכת אחת, והיא דגל בודד בשרת vLLM. אתה מגיש את היעד, ומעביר את מודל הטיוטה דרך הארגומנט speculative-config: השיטה היא "dflash", המודל הוא צ'קפוינט של NVIDIA, מספר הטוקנים הספקולטיביים הוא 7, שיטת דגימת הטיוטה היא הסתברותית, והפקודה דורשת אמון בקוד מרוחק. TensorRT-LLM הוא המנוע השני שהכרטיס מפרט; vLLM הוא זה שהכרטיס מכנה כמנוע ההאצה וזה שהוא בדק על Blackwell.

שני פערים ראויים לציון. שורת החומרה הנתמכת של הכרטיס היא NVIDIA Blackwell עם Linux, כך שמדובר במסלול של GPU למרכזי נתונים ולא במשהו שמשתלב במערך מבוסס Apple-silicon או במערך צרכני. ו-SGLang — שהוא סביבת ההרצה שחומר ההשקה של Meta עצמה מנתב דרכה את DFlash V2 — אינו מופיע כלל ברשימת המנועים של NVIDIA עבור ה-checkpoint הזה. שני ה-drafters אינם ניתנים להחלפה; אם מחסנית ההגשה שלך היא SGLang, המאגר הזה לא נכתב עבורך.

מה שמנסח משנה עבור הקורא, ומה שהוא לא משנה

פענוח ספקולטיבי הוא החלק בהסקה של מודלים גדולים שמגיע לאנשים שלעולם לא יורידו משקל, כי זהו המנוף העיקרי לכך שמודלים פתוחים עצומים יכולים להיות מוגשים בזול. מנסח טוב יותר פירושו יותר אסימונים מקובלים בכל צעד, מה שאומר יותר תפוקה לכל GPU, וזה מה שבסופו של דבר מתבטא במחיר נמוך יותר ובאסימון ראשון מהיר יותר ב-API. זו הסיבה שמודל של 4.38B הוא חדשות למרות שכמעט אף אחד שקורא עליו לא יריץ אותו.

עם זאת, זה לא מציב מודל 816B על השולחן שלך. מדובר בתוסף של 8.8 GB למודל יעד שהצ'קפוינט המעשי הקטן ביותר שלו נמדד במאות ג'יגה-בייט, על סיליקון Blackwell, תחת שני רישיונות המונחים זה על גבי זה. זה לא מודל שמשוחחים איתו, הוא לא מפיק טקסט משל עצמו, והוא לא יכול לפעול כלל בלי היעד שהוא אומן להכין עבורו טיוטות.

אם אתם רוצים את היכולת של Muse Spark בלי כל זה, הקו המוגש הוא המקום שבו היא נמצאת: Muse Spark 1.2 ו-Muse Spark 1.1 הם שני הצ'קפוינטים ש-OrcaRouter מנתב אליהם, שניהם במחיר המחירון של Meta עם 0% תוספת שמועברת ישירות, מכיוון שמחיר הספק מועבר הלאה ולא מתומחר בתוספת. Muse Spark Open והצ'קפוינט הטיוטה הזה של DFlash2 הם לא נמצאים בקטלוג שלנו ואנחנו לא מתכוונים לרמוז אחרת — מודל טיוטה עבור משקלים באירוח עצמי הוא תשתית באירוח עצמי. המקום שבו אנחנו עדיין שימושיים סביב זה הוא החלק המשעמם: API אחד על פני יותר מ-200 מודלים, מעבר אוטומטי לגיבוי כאשר ספק מתדרדר, ו-DSL לניתוב שמעביר תעבורה בין מודלים באמצעות קונפיגורציה ולא באמצעות שינוי בקוד, שזו דרך זולה לגלות מה עושה צ'קפוינט שטרם הוכח בתעבורה אמיתית בלי להמר על נתיב פרודקשן עליו.

מה יפתור את השאלות הפתוחות

ארבעה דברים היו משנים את הקטע הזה, ואף אחד מהם אינו תעלומה לגבי הכוונות של NVIDIA.

• מספר שיפור מהירות מקצה לקצה — טוקנים לשנייה או זמן השהיה, בהשוואה לקו בסיס תואם שאינו ספקולטיבי על אותה חומרה, כפי שנמדד בידי כל גורם מלבד NVIDIA. אורך הקבלה מלמד שהטיוטה נקלטת לעתים קרובות; הוא אינו מלמד שהשרת נעשה מהיר יותר.

• השוואת יעד בין BF16 ל-NVFP4 — כל טבלה שפורסמה נמדדה מול יעד ה-NVFP4, שהוא היעד שרוב האנשים יגישו בפועל, אך הכרטיס אינו מדווח על מקרה שבו היעד הורץ בדיוק גבוה יותר.

• תמיכה מחוץ ל-vLLM ול-TensorRT-LLM — אם הצ'קפוינט יופיע ב-SGLang, שני מודלי הטיוטה DFlash2 עבור Muse Spark Open הופכים לניתנים להחלפה במקום להיות תלויים בסטאק, ואז הבחירה ביניהם נעשית פשוטה.

• אימון מחדש על כלים ששוחררו — המנסח הזה נוצר מבנייה טרום-הפצה של Model Optimizer 0.47. מאחר ש-0.47.0 זמינה לציבור מאז 23 בספטמבר ו-0.48.0rc0 יצאה מאז 8 באוקטובר, ניתן לבחון את המתכון, וצ'קפוינט שאומן עליו כנראה היה מדווח על משהו מעט טוב יותר.

עד שלפחות הראשון מביניהם יתממש, הסיכום הכנה הוא ש-NVIDIA סיפקה מודל טיוטה מתועד היטב, ללא הגבלת גישה, ספציפי לחומרה, עבור דגם הדגל של מישהו אחר, פרסמה את אורכי הקבלה, ודילגה על ההכרזה — והסיבה שכדאי לשים לב אינה ש-Muse Spark Open הפך למהיר יותר, אלא שהתשתית להפיכת משקלים פתוחים של 816 מיליארד פרמטרים לברי-השגה בקנה מידה ממשיכה להגיע בשקט כזה.