150 מיליון טוקנים ל-MW של Muse Spark Open, מפוענח: רוב המספר הזה הוא קלט שמור במטמון

Meta השיקה את Muse Spark Open ב-15 באוקטובר 2026, ובשמונת הימים הראשונים לחייו הציבוריים המספר שכל סקירה רצתה היה חסר. Artificial Analysis הציגה את המחיר, הציגה מדד Intelligence Index של 39, ולא פירטה כלל תפוקת הגשה. ב-23 באוקטובר זה השתנה: המודל מופיע ב-AA-AgentPerf בקצב של עד כ-150 מיליון טוקנים בשנייה לכל מגוואט של כוח מאיץ על ארבעה כרטיסי NVIDIA GB300 או B300, ובקצב של כ-70 מיליון על AMD MI355X. זה לא סיפור השקה — המשקלים בני תשעה ימים. זה סיפור על מה שהמספר הזה מודד, משום שהמדד סופר גם טוקני קלט וגם פלט, ובקצה המקביליות הגבוהה של העקומה כמעט כל מה שהוא סופר הוא קריאה ממטמון.

מה ש-AA-AgentPerf למעשה סופר

AA-AgentPerf אינו מבחן צ'אט עם שעון עצר. Artificial Analysis בנתה אותו עבור עומסי סוכנים, והעומס הוא העיקר: הוא משחזר מסלולי סוכן קידוד אמיתיים מול מאגרים ציבוריים, הפעלות נמשכות עד כ-200 סבבים, והקלט לכל בקשה נע בין כ-5,000 ל-131,000 טוקנים, עם ממוצע סמוך ל-27,000. הפלטים קצרים ולא אחידים — חציון סביב 150 טוקנים, עם פרצי חשיבה ארוכים יותר מדי פעם. תפקידו של שרת בעומס הזה הוא בעיקר לשמור במטמון קידומת גדולה מאוד ובעיקרה ללא שינוי, ולהשיב במהירות לתגובות קטנות.

יחידת המדד הראשית מוגדרת בעמוד ה-datacenter של Artificial Analysis כתפוקת שרת כוללת — אסימוני קלט ועוד אסימוני פלט לשנייה — לכל מגוואט של הספק מאיץ. ההספק נמדד ברמת ה-GPU, ה-die וה-HBM, לא בשקע החשמל ולא ב-TDP נקוב, ולכן „מגוואט” כאן אינו חשבון החשמל של מתקן. גם המקביליות אינה קבועה: מערכת הבדיקה מגבירה את העומס בהדרגה, ואז מבצעת חיפוש בינארי אחר המספר הגבוה ביותר של סוכנים מקבילים שהמערכת מחזיקה בלי לשבור יעד אינטראקטיביות, כאשר הניקוד הוא מהירות פלט ב-p25 וזמן עד לאסימון הראשון ב-p95 על פני חלון מצב יציב שבו כל סוכן היה פעיל לפחות 30 שניות.

מה שאומר ש-150M הוא תקרה, לא מהירות שיוט. זו התפוקה הזמינה ברמת המקביליות שבה מהירות לכל סוכן עומדת על הערך הנמוך ביותר שהיעד מאפשר. אותה חומרה מכוונת לסוכן זריז יותר מניבה מספר קטן בהרבה, ואף שקופית השקה לא מצטטת אותו.

המספרים כפי שפורסמו

• תקרת תפוקה — עד ~150 מיליון אסימונים לשנייה לכל מגה-וואט על ארבעה מעבדי GB300 או B300, כפי שדווח על ידי Artificial Analysis ב-23 באוקטובר.

• AMD — ~70 מיליון טוקנים/שנייה לכל מגה-וואט ב-MI355X, בערך חצי מהתוצאה של NVIDIA באותו עומס עבודה.

• בתוך NVIDIA — GB300 הראה יתרון על B300 לאחר שמהירויות הפלט עלו, לפי אותו דוח.

• מהירות באירוח — 142.9 טוקני פלט בשנייה ו-0.76 שניות עד לטוקן הראשון בדף המודל, לעומת חציון של 75.4 טוקנים בשנייה במודלים דומים עם משקלים פתוחים.

• אינטליגנציה — AA Intelligence Index 39, לעומת חציון של 19 עבור מודלים עם משקלים פתוחים בגודל דומה.

• מחיר — $1.25 למיליון טוקני קלט ו-$4.25 למיליון טוקני פלט, עם הנחת מטמון של 88%, תעריף משולב של $0.78 והוצאה של $0.84 לכל משימת Index.

רק שלושת הראשונים חדשים השבוע. השאר נמצאים בעמוד מאז ההשקה, והם מושכים לכיוון שונה מזה של נתון התפוקה: זול לכל טוקן שנשמר במטמון, יקר לכל טוקן שנוצר. דווקא בהצבת שתי העובדות האלה זו לצד זו טמונה הקריאה השימושית.

הבדיקה הצולבת: 43 נקודות הפעלה על אותו עומס עבודה

בקשת pull request של SGLang cookbook שמוזגה ב-22 באוקטובר פרסמה חמישה פריסות GB300 שנמדדו באותו תרחיש סוכן-קידוד AA AgentPerf, יום אחד לפני עדכון לוח המובילים. חמש הנקודות נבחרו מתוך 43 קונפיגורציות שנמדדו, תוך שמירה על שני קצוות חזית ההשהיה–תפוקה וכיסוי 81% משטחה. הן התמונה הציבורית הבהירה ביותר של איך נראית עקומת השירות של Muse Spark Open — וה-PR הוא פרויקט framework שמדגים את הסטאק של עצמו, לכן יש לקרוא אותו כמקרה מיטבי מכויל ולא כמקרה ניטרלי.

• מקביליות 1, שני צמתים, TP8·EP8 — 485.8 אסימוני פלט בשנייה למשתמש בודד, 2,514 אסימונים כוללים בשנייה לכל GPU, זמן p95 לאסימון ראשון של 0.10 שניות.

• מקביליות 16, ארבעה GPUs, TP4·EP4 — 208.7 אסימונים/שנייה למשתמש, 49,646 סך אסימונים/שנייה ל-GPU.

• מקביליות 64 — 97.1 אסימונים/שנייה למשתמש, 114,342 אסימונים/שנייה בסך הכול לכל GPU.

• מקביליות 160 עם HiCache — 40.9 אסימונים/שנייה למשתמש, 185,382 אסימונים/שנייה בסך הכול לכל GPU, מהם 1,237 הם פלט שנוצר.

• מטמון — שיעורי פגיעה בקידומת של 96.8% עד 97.6% לאורך חמש ההרצות, וזה מה שהופך את נתוני סך הטוקנים לגדולים כפי שהם.

התבליט האחרון הוא כל הטיעון בשורה אחת. בראש העקומה, הפלט הנוצר הוא כ-0.7% מהטוקנים שהמדד מונה. יתר ה-99.3% הם קלט, וכ-97% מהקלט הזה הוגש מהמטמון. הכותרת של 150M-per-MW והנתון של 40.9 tokens/s-per-user הם אותה ריצה, שנקראת משני קצוות מנוגדים. שניהם לא שגויים, אבל הם עונים על שאלות שונות, והשאלה השנייה היא השאלה שבאמת יש למוצר אג'נטי.

החשבון לפחות עקבי, וזה משחק לטובתו של המספר. ארבעה GB300s צורכים בסדר גודל של חמישה עד שישה קילוואט של הספק מאיצים; 150M אסימונים/שנייה לכל MW מרמז על בערך 750,000 עד 900,000 אסימונים בשנייה עבור הצומת, או 190,000 עד 225,000 לכל GPU. נקודת השיא של SGLang היא 185,382 אסימונים/שנייה בסך הכול לכל GPU. אותו סדר גודל, אותה צורה. זה החשבון שלנו מול המדידה שלהם, אבל הסכמה מסוג זה היא מה שאומר לך שהכותרת לא הורכבה מריצה אחרת.

מספר ה-AMD הוא זה שמשנה את ההחלטה

מחצית מהתפוקה למגוואט אינה הבדל זניח של עיגול בין ספקים. זהו ההבדל בין שתי תוכניות פריסה, והוא מתיישר עם עקומת העלות ש-SemiAnalysis מפרסמת ב-InferenceX עבור אותו מודל ב-FP4. ב-128 טוקנים לשנייה למשתמש, B300 מסתכם ב-$0.019 למיליון טוקנים לעומת MI355X ב-$0.024. ב-191 טוקנים לשנייה למשתמש, $0.027 לעומת $0.044. ב-254, $0.046 לעומת $0.076. אלה נקודות תרשים באינטרפולציה שנגזרו מריצות מדודות, בתמחור של $2.26 לשעת-שבב B300 ו-$1.50 לשעת-שבב MI355X.

השבב של AMD זול יותר לשעה ויקר יותר לכל טוקן בכל נקודה על העקומה הזו, והפער מתרחב ככל שמבקשים יותר אינטראקטיביות. זו הצורה שמצפים לה כאשר יעילות צריכת החשמל של פלטפורמה אחת היא חצי מזו של האחרת, ולכן הפיצול בין 70M ל-150M ראוי ליותר תשומת לב מאשר ה-150M בפני עצמו.

שני סייגים, ושניהם מצד המעריכים ולא מצדנו. כאשר AA-AgentPerf הושק ביוני, Artificial Analysis ציינה כי תצורת ה-MI355X שלו נבנתה בבית ולא הוגשה על ידי AMD, וכי ייתכן שמרווח הביצועים גדול יותר במערכות שהיא כיוונה בעצמה — כך שנתון AMD הוא רצפה, בעוד שנתוני NVIDIA אינם כאלה. וכן, נתון תפוקה אינו תוצאת דיוק. שער הדיוק של MI35x, שמכסה את מסלול ה-ROCm של המודל הזה, טרם הורץ על חומרה, ואחד משני ספי העובר/נכשל שלו נכתב כמציין מקום בלי מדידת AMD מאחוריו. נכון לשבוע זה, לשאלת היעילות יש תשובה. לשאלת הנכונות אין.

מה זה עושה לחשבון של אירוח עצמי מול שכירות

Muse Spark Open רשום במחיר של $1.25 למיליון טוקנים בקלט ו-$4.25 למיליון בפלט, עם הנחת מטמון של 88% שמביאה עומס עבודה משולב ביחס 7:2:1 ל-$0.78 למיליון. אלה המספרים שפריסה עצמית חייבת לנצח, וההשוואה היא המקום שבו רוב האינטרנט יטעה השבוע.

הציבו את הנתון של InferenceX — $0.019 למיליון טוקנים על B300 בקצב 128 טוקנים/שנייה למשתמש — לצד $0.78 משוקלל, ואירוח עצמי נראה זול פי ארבעים. זה לא. ה-$0.019 מתומחר על פני כל הטוקנים, ובטרייס של סוכן כמעט כולם קלט שנשמר במטמון. ה-$0.78 משקלל קלט ופלט ביחס שנותן לפלט משקל גדול בהרבה ממה שנותן טרייס AgentPerf. תמחרו בנפרד את הקלט והפלט של עומס העבודה שלכם לפני שאתם מאמינים לאיזה מכפיל — וזכרו שעלות חומרה מפורסמת לכל טוקן בדרך כלל אינה כוללת את שעות הסרק, את צוות התפעול ואת הקיבולת שאתם מחזיקים לשיא.

הגרסה הכנה: אירוח עצמי של Muse Spark Open יכול לנצח, וסוג העומס שבו הוא מנצח מעוצב כמעט בדיוק כמו זה ש-AgentPerf בודק — קידומות ארוכות, יציבות וניתנות לשמירה במטמון, תשובות קצרות שנוצרות, מקביליות גבוהה, צומת שנשארת עסוקה. מוצר צ'אט עם הנחיות קצרות ותשובות ארוכות הוא כמעט ההפך, ובמחיר של $4.25 למיליון טוקני פלט מחיר השכירות אינו החלק בחשבון שיכאיב.

• משקלים — צ'קפוינט ה-BF16 הוא בסביבות 1.65TB; גרסת ה-NVFP4 היא בערך 537GB.

• צומת מינימלי הגיוני — ארבעה מעבדי GPU מסוג Blackwell Ultra, התצורה שממנה מגיעים נתוני התפוקה החדשים. Meta גם הדגימה את המודל פועל באופן מקומי על פני שני M5 Ultra Mac Studios, וזו הצעה שונה: הדגמת תחנת עבודה, לא תוכנית הגשה.

• רישיון — רישיון המודל Muse. חינמי לרוב השימושים, אך חברות עם הכנסות שנתיות ברוטו מעל 20 מיליון דולר זקוקות להסכם עם Meta כדי להציע אותו כשירות, ומוצרים שנבנו עליו חייבים לשאת הודעה "Built with Muse Spark Open".

היכן להריץ אותו, ומה ראוטר משנה

OrcaRouter מנתב את Muse Spark 1.1 ואת Muse Spark 1.2 ואינו מגיש את הצ'קפוינט הפתוח, כך שאין כאן שום טענה לגבי אירוחו. מה שכדאי לדעת הוא שהצ'קפוינטים המתארחים מופיעים באותם $1.25 ו-$4.25 כמו מחיר ה-API של המודל הפתוח עצמו. לפיכך, המשקלים הפתוחים אינם דרך זולה יותר לקרוא למודל הזה; הם דרך להחזיק בנתיב ההגשה. אם אינכם מתכוונים להחזיק בו, הבחירה היא בין צ'קפוינטים מתארחים, וזו בחירה שהיא שינוי תצורה ולא מיגרציה.

אם בכוונתכם להחזיק בזה בעצמכם, הדרך ההגיונית לגלות אם עומס העבודה שלכם מתנהג כמו טרייס של AgentPerf היא להריץ במקביל ולא לעבור. השאירו צ'קפוינט מתארח כגיבוי בסטאק שלכם, העבירו חלק מהתעבורה לפריסה החדשה, והחזירו אותה כשהמספרים מאכזבים. ברגל המתארחת של ההשוואה הזו OrcaRouter מעביר את מחיר המחירון של הספק ללא תוספת של 0%, כך שהבנצ'מרק מול החומרה שלכם אינו מתומחר ביתר מצידנו; failover אוטומטי וה-DSL לניתוב הם מה שהופכים העברת תעבורה לשינוי תצורה ולא לשינוי קוד; ומיזוג מודלים קיים אם תעדיפו להשוות תשובות על פני פאנל מאשר להשוות תשתיות.

מה לראות

• סוכנים למגה-וואט — תוצאות ההשקה של AA-AgentPerf ביוני פורסמו ביחידה הזו, בסביבות 91,500 סוכנים ל-MW עבור GB300 NVL72 על DeepSeek V4 Pro ברמת 20 טוקנים לשנייה. מספר סוכנים דומה עבור Muse Spark Open הוא מה שיאפשר לדרג אותו מול מודלים אחרים, ולא רק לתאר אותו.

• הסקירה המעמיקה של Meta על serving מ-26 באוקטובר — מדווח על ידי הספק, אז יש לתייג זאת ככזה כשהוא מתפרסם, אבל הפרט השימושי שיש לחפש הוא איזו מקביליות נתון היעילות מניח.

• תצורת MI355X שהוגשה על ידי AMD — תוצאת מחצית התפוקה נמדדת מול תצורה ש-Artificial Analysis בנתה בעצמה, ו-AA אמרה שייתכן שהמרווח שם גדול יותר.

• שער הדיוק של MI35x נוחת עם מספרים אמיתיים — יעילות ללא בדיקת נכונות היא חצי מהחלטת פריסה, והחצי הממלא-מקום של השער הזה הוא עדיין ממלא מקום.

הקריאה המועילה של השבוע היא צרה וספציפית. Muse Spark Open הוא, על פי הראיות שפורסמו כעת, מודל יעיל באופן יוצא דופן להגשה על Blackwell במקביליות גבוהה עם הקשר הניתן לשמירה במטמון, יעיל שם בערך פי שניים מאשר על MI355X באותה משימה, ומתומחר כמודל פרימיום כאשר שוכרים אותו לפי טוקן. לכל אחת מהטענות האלה יש מספר מאחוריה. אף אחת מהן לא אומרת שהמודל מהיר בדרך שבה משתמש חווה מהירות — המספר הזה הוא 40.9 טוקנים לשנייה במקביליות שבה נמצאת הכותרת.