Muse Spark Open 150M โทเคนต่อ MW ถอดรหัสแล้ว: ตัวเลขส่วนใหญ่นั้นเป็นอินพุตที่แคชไว้

Meta เปิดตัว Muse Spark Open เมื่อวันที่ 15 ตุลาคม 2026 และตลอดแปดวันแรกนับจากที่เปิดเผยต่อสาธารณะ ตัวเลขที่ทุกบทความต้องการนั้นยังหายไป Artificial Analysis ระบุราคา ระบุ Intelligence Index ที่ 39 และไม่ได้ระบุอัตราการให้บริการ (throughput) ไว้เลย เมื่อวันที่ 23 ตุลาคม สิ่งนี้เปลี่ยนไป: โมเดลปรากฏบน AA-AgentPerf ด้วยอัตราสูงสุดประมาณ 150 ล้านโทเคนต่อวินาทีต่อกำลังของตัวเร่งความเร็วทุก 1 เมกะวัตต์ เมื่อใช้ GPU NVIDIA GB300 หรือ B300 จำนวนสี่ตัว และประมาณ 70 ล้านบน MI355X ของ AMD นี่ไม่ใช่เรื่องราวการเปิดตัว — น้ำหนักโมเดลมีอายุเก้าวันแล้ว แต่เป็นเรื่องเกี่ยวกับสิ่งที่ตัวเลขนั้นวัด เพราะเมตริกนี้นับทั้งโทเคนอินพุตและเอาต์พุต และที่ปลายด้านการทำงานพร้อมกันสูงของเส้นโค้ง เกือบทุกสิ่งที่นับได้คือการอ่านจากแคช

สิ่งที่ AA-AgentPerf กำลังนับอยู่จริง ๆ

AA-AgentPerf ไม่ใช่ benchmark แชตที่จับเวลาด้วยนาฬิกาจับเวลา Artificial Analysis สร้างมันขึ้นมาสำหรับงานประเภท agent และตัวงานนี่แหละคือหัวใจสำคัญ: มันเล่นซ้ำ trajectory ของ coding agent จริงกับ repository สาธารณะ เซสชันยาวได้ถึงประมาณ 200 เทิร์น และอินพุตต่อคำขอมีช่วงตั้งแต่ราว 5,000 ถึง 131,000 โทเคน โดยมีค่าเฉลี่ยใกล้ 27,000 เอาต์พุตนั้นสั้นและไม่สม่ำเสมอ — ค่ามัธยฐานอยู่ที่ราว 150 โทเคน เป็นช่วง ๆ ที่มีระลอกการให้เหตุผลยาวขึ้นมาคั่น หน้าที่ของเซิร์ฟเวอร์ในงานลักษณะนี้คือการเก็บ prefix ขนาดใหญ่ที่แทบไม่เปลี่ยนแปลงไว้ในแคชให้ได้เป็นส่วนใหญ่ และตอบกลับข้อความสั้น ๆ ได้อย่างรวดเร็ว

หน่วยหลัก (headline unit) ถูกกำหนดไว้บนหน้า datacenter ของ Artificial Analysis ว่าเป็นทรูพุตของเซิร์ฟเวอร์ทั้งหมด — โทเค็นอินพุตบวกเอาต์พุตต่อวินาที — ต่อเมกะวัตต์ของกำลังตัวเร่ง กำลังไฟวัดที่ GPU, die และ HBM ไม่ได้วัดที่ผนังและไม่ได้วัดที่ TDP ตามพิกัด ดังนั้น "เมกะวัตต์" ในที่นี้จึงไม่ใช่ค่าไฟฟ้าของศูนย์ข้อมูล ความพร้อมกัน (concurrency) ก็ไม่ได้ถูกกำหนดตายตัวเช่นกัน: ฮาร์เนสจะเพิ่มโหลดแบบไล่ระดับ แล้วทำการค้นหาแบบไบนารีเพื่อหาจำนวนเอเจนต์ที่ทำงานพร้อมกันสูงสุดที่ระบบรองรับได้โดยไม่ทำให้เป้าหมายด้านการโต้ตอบเสียไป โดยให้คะแนนเป็นความเร็วเอาต์พุตที่ p25 และเวลาไปยังโทเค็นแรกที่ p95 ตลอดหน้าต่างสภาวะคงตัวซึ่งเอเจนต์ทุกตัวทำงานต่อเนื่องมาอย่างน้อย 30 วินาที

ซึ่งหมายความว่า 150M คือเพดาน ไม่ใช่ความเร็วในการทำงานปกติ มันคือทรูพุตที่ทำได้ ณ ระดับการทำงานพร้อมกันซึ่งความเร็วต่อเอเจนต์อยู่ที่ค่าต่ำสุดที่เป้าหมายอนุญาต ฮาร์ดแวร์เดียวกันที่ปรับแต่งสำหรับเอเจนต์ที่ฉับไวขึ้นจะให้ตัวเลขที่น้อยกว่ามาก และไม่มีสไลด์เปิดตัวใดอ้างอิงตัวเลขนั้น

ตัวเลขตามที่เผยแพร่

• เพดานอัตราการประมวลผล — สูงถึง ~150 ล้านโทเคน/วินาที ต่อ 1 MW บน GPU GB300 หรือ B300 จำนวนสี่ตัว ตามรายงานของ Artificial Analysis เมื่อวันที่ 23 ตุลาคม

• AMD — ~70M โทเคน/วินาที ต่อ MW บน MI355X ซึ่งประมาณครึ่งหนึ่งของผลลัพธ์ของ NVIDIA ในภาระงานเดียวกัน

• ภายใน NVIDIA — GB300 แสดงให้เห็นถึงความเหนือกว่า B300 เมื่อความเร็วเอาต์พุตเพิ่มขึ้น ตามรายงานเดียวกัน

• ความเร็วแบบโฮสต์ — 142.9 โทเค็นเอาต์พุต/วินาที และ 0.76 วินาทีถึงโทเค็นแรกในรายการของโมเดล เทียบกับค่ามัธยฐาน 75.4 โทเค็น/วินาทีสำหรับโมเดลโอเพนเวตที่เทียบเคียงได้

• ความฉลาด — ดัชนี AA Intelligence อยู่ที่ 39 เทียบกับค่ามัธยฐาน 19 สำหรับโมเดลแบบเปิดน้ำหนักที่มีขนาดใกล้เคียงกัน

• ราคา — $1.25 ต่อล้านโทเค็นอินพุต และ $4.25 ต่อล้านโทเค็นเอาต์พุต พร้อมส่วนลดแคช 88% อัตราผสม $0.78 และค่าใช้จ่าย $0.84 ต่องาน Index

มีเพียงสามรายการแรกเท่านั้นที่เป็นของใหม่ในสัปดาห์นี้ ส่วนที่เหลืออยู่บนหน้ามาตั้งแต่เปิดตัว และ它們ชี้ไปคนละทิศทางกับตัวเลขทรูพุต คือถูกเมื่อคิดต่อโทเคนที่แคชไว้ แต่แพงเมื่อคิดต่อโทเคนที่สร้างขึ้น การวางข้อเท็จจริงสองข้อนี้ไว้เคียงกันคือจุดที่การตีความที่มีประโยชน์เกิดขึ้น

การตรวจสอบยืนยัน: 43 จุดการทำงานบนภาระงานเดียวกัน

พูลรีเควสต์ cookbook ของ SGLang ที่ถูก merge เมื่อวันที่ 22 ตุลาคมได้เผยแพร่การติดตั้งใช้งาน GB300 จำนวนห้ารายการที่วัดบนสถานการณ์ coding-agent ของ AA AgentPerf ชุดเดียวกัน หนึ่งวันก่อนการอัปเดตกระดานผู้นำ ห้าจุดนี้ถูกเลือกจาก 43 การกำหนดค่าที่วัดได้ โดยคงทั้งสองปลายของพรมแดนด้าน latency-throughput และครอบคลุม 81% ของพื้นที่ของพรมแดนนั้น พวกมันเป็นภาพสาธารณะที่ชัดเจนที่สุดของรูปร่างเส้นโค้งการให้บริการของ Muse Spark Open — และเนื่องจาก PR นี้เป็นโปรเจกต์เฟรมเวิร์กที่สาธิตสแต็กของตัวเอง จึงควรอ่านมันเป็นกรณีที่ดีที่สุดที่ปรับแต่งแล้วมากกว่ากรณีที่เป็นกลาง

• การทำงานพร้อมกัน 1, สองโหนด, TP8·EP8 — 485.8 โทเคนเอาต์พุต/วินาที สำหรับผู้ใช้คนเดียว, 2,514 โทเคนรวม/วินาทีต่อ GPU, เวลา p95 ถึงโทเคนแรก 0.10 วินาที

• Concurrency 16, GPU สี่ตัว, TP4·EP4 — 208.7 โทเค็น/วินาทีต่อผู้ใช้, 49,646 โทเค็น/วินาทีรวมต่อ GPU

• การทำงานพร้อมกัน 64 — 97.1 โทเค็น/วินาทีต่อผู้ใช้, 114,342 โทเค็น/วินาทีรวมต่อ GPU

• การทำงานพร้อมกัน 160 รายการด้วย HiCache — 40.9 โทเคน/วินาทีต่อผู้ใช้, 185,382 โทเคน/วินาทีรวมต่อ GPU ซึ่ง 1,237 เป็นเอาต์พุตที่สร้างขึ้น

• แคช — อัตราการเข้าถึงแคชแบบ prefix อยู่ที่ 96.8% ถึง 97.6% จากการรันทั้งห้าครั้ง ซึ่งเป็นสิ่งที่ทำให้ตัวเลขโทเคนรวมมีค่าสูงขนาดนั้น

หัวข้อย่อยสุดท้ายนั้นคือข้อโต้แย้งทั้งหมดในบรรทัดเดียว ที่จุดสูงสุดของกราฟ เอาต์พุตที่สร้างขึ้นคิดเป็นประมาณ 0.7% ของโทเค็นที่เมตริกนับ อีก 99.3% เป็นอินพุต และประมาณ 97% ของอินพุตนั้นให้บริการจากแคช ตัวเลขพาดหัว 150M-per-MW และตัวเลข 40.9 โทเค็น/วินาทีต่อผู้ใช้ คือการรันเดียวกันที่อ่านจากคนละปลาย ทั้งสองไม่ผิด แต่ตอบคำถามคนละข้อ และข้อที่สองคือคำถามที่ผลิตภัณฑ์เอเจนต์มีจริง ๆ

การคำนวณอย่างน้อยก็สอดคล้องกัน ซึ่งเป็นผลดีต่อตัวเลขนั้น GB300 สี่ตัวใช้กำลังของตัวเร่งความเร็วในระดับห้าถึงหกกิโลวัตต์; 150M tokens/s ต่อ MW บ่งบอกถึงประมาณ 750,000 ถึง 900,000 tokens ต่อวินาทีสำหรับโหนด หรือ 190,000 ถึง 225,000 ต่อ GPU จุดสูงสุดของ SGLang คือ 185,382 total tokens/s ต่อ GPU ลำดับเดียวกัน รูปร่างเดียวกัน นั่นคือการคำนวณของเรากับการวัดของพวกเขา แต่ความสอดคล้องแบบนั้นคือสิ่งที่บอกคุณว่าตัวเลขพาดหัวไม่ได้ประกอบขึ้นจากการรันที่แตกต่างออกไป

ตัวเลข AMD คือตัวที่ทำให้การตัดสินใจเปลี่ยนไป

การมี throughput ต่อเมกะวัตต์เพียงครึ่งเดียวไม่ใช่ความแตกต่างระดับการปัดเศษระหว่างผู้จำหน่าย มันคือความแตกต่างระหว่างแผนการติดตั้งใช้งานสองแบบ และสอดคล้องกับเส้นต้นทุนที่ SemiAnalysis เผยแพร่บน InferenceX สำหรับโมเดลเดียวกันใน FP4 ที่ 128 tokens/s ต่อผู้ใช้ B300 คำนวณออกมาได้ $0.019 ต่อล้านโทเคน เทียบกับ MI355X ที่ $0.024 ที่ 191 tokens/s ต่อผู้ใช้ $0.027 เทียบกับ $0.044 ที่ 254, $0.046 เทียบกับ $0.076 เหล่านี้เป็นจุดบนกราฟที่ประมาณค่าแทรกจากผลรันที่วัดจริง โดยคิดราคาที่ $2.26 ต่อชิป-ชั่วโมงของ B300 และ $1.50 ต่อชิป-ชั่วโมงของ MI355X

ชิปของ AMD ถูกกว่าต่อชั่วโมงและแพงกว่าต่อโทเค็นในทุกจุดบนเส้นโค้งนั้น และช่องว่างจะกว้างขึ้นเมื่อคุณต้องการการโต้ตอบมากขึ้น นั่นคือรูปร่างที่คุณคาดหวังเมื่อประสิทธิภาพการใช้พลังงานของแพลตฟอร์มหนึ่งเป็นครึ่งหนึ่งของอีกแพลตฟอร์ม และนั่นคือเหตุผลว่าทำไมการแบ่ง 70M เทียบกับ 150M จึงควรได้รับความสนใจมากกว่าตัว 150M เพียงลำพัง

ข้อควรระวังสองประการ ซึ่งทั้งคู่มาจากผู้ประเมิน ไม่ใช่จากเรา เมื่อ AA-AgentPerf เปิดตัวในเดือนมิถุนายน Artificial Analysis ระบุว่าคอนฟิกูเรชัน MI355X ของตนถูกสร้างขึ้นภายในองค์กรเอง ไม่ได้ส่งโดย AMD และ headroom อาจมีมากกว่าในระบบที่ตนปรับแต่งเอง — ดังนั้นตัวเลขของ AMD จึงเป็นค่าพื้นในแบบที่ตัวเลขของ NVIDIA ไม่ได้เป็น และตัวเลข throughput ไม่ใช่ผลลัพธ์ด้านความแม่นยำ เกตด้านความแม่นยำของ MI35x ที่ครอบคลุมเส้นทาง ROCm ของโมเดลนี้ยังไม่ได้รับการรันบนฮาร์ดแวร์ และหนึ่งในสองเกณฑ์ผ่าน/ไม่ผ่านของเกตนี้ถูกเขียนเป็น placeholder โดยไม่มีผลการวัดจาก AMD รองรับอยู่เบื้องหลัง ณ สัปดาห์นี้ คำถามด้านประสิทธิภาพมีคำตอบแล้ว ส่วนคำถามด้านความถูกต้องยังไม่มี

มันส่งผลอย่างไรต่อยอดรวมเปรียบเทียบระหว่างการโฮสต์เองกับการเช่า

Muse Spark Open ระบุราคาไว้ที่ $1.25 ต่อล้านโทเคนอินพุต และ $4.25 ต่อล้านโทเคนเอาต์พุต โดยมีส่วนลดแคช 88% ซึ่งทำให้เวิร์กโหลดแบบผสม 7:2:1 อยู่ที่ $0.78 ต่อล้าน นั่นคือตัวเลขที่การติดตั้งแบบโฮสต์เองต้องเอาชนะให้ได้ และการเปรียบเทียบนี้คือจุดที่อินเทอร์เน็ตส่วนใหญ่จะทำผิดในสัปดาห์นี้

ลองวางตัวเลข InferenceX ที่ $0.019 ต่อล้านโทเค็นบน B300 ที่ 128 โทเค็น/วินาทีต่อผู้ใช้ ไว้ข้างตัวเลข $0.78 แบบผสม แล้วการโฮสต์เองจะดูถูกกว่าถึงสี่สิบเท่า ซึ่งไม่ใช่เลย ราคา $0.019 คิดครอบคลุมโทเค็นทั้งหมด และใน agent trace เกือบทั้งหมดเป็นอินพุตที่แคชไว้ ตัวเลข $0.78 ผสมอินพุตและเอาต์พุตในสัดส่วนที่ให้น้ำหนักกับเอาต์พุตมากกว่าที่ trace ของ AgentPerf ให้น้ำหนัก คิดต้นทุนอินพุตและเอาต์พุตของเวิร์กโหลดคุณเองแยกจากกันก่อนจะเชื่อตัวคูณใด ๆ — และโปรดทราบว่าต้นทุนฮาร์ดแวร์ต่อโทเค็นที่เผยแพร่ไว้มักไม่รวมชั่วโมงที่ไม่ได้ใช้งาน ทีมปฏิบัติการ และความจุที่คุณกันไว้สำหรับช่วงพีค

เวอร์ชันที่ตรงไปตรงมา: การโฮสต์ Muse Spark Open ด้วยตัวเองสามารถชนะได้ และภาระงานที่มันชนะนั้นมีรูปร่างแทบจะเหมือนกับสิ่งที่ AgentPerf ทดสอบทุกประการ — คำนำหน้าที่ยาว เสถียร และแคชได้ คำตอบที่สร้างขึ้นสั้น การทำงานพร้อมกันสูง และโหนดที่ทำงานอยู่ตลอดเวลา ผลิตภัณฑ์แชตที่มีพรอมป์ต์สั้นและคำตอบยาวกลับเกือบจะตรงกันข้าม และที่ราคา $4.25 ต่อล้านโทเคนเอาต์พุต ค่าเช่าไม่ใช่ส่วนของบิลที่จะทำให้เจ็บปวด

• ค่าน้ำหนัก — เช็กพอยต์ BF16 มีขนาดประมาณ 1.65TB; บิลด์ NVFP4 มีขนาดประมาณ 537GB

• โหนดขั้นต่ำที่สมเหตุสมผล — Blackwell Ultra GPU สี่ตัว ซึ่งเป็นคอนฟิกูเรชันที่ตัวเลขทรูพุตชุดใหม่มาจาก Meta ยังได้สาธิตการรันโมเดลแบบโลคัลบน M5 Ultra Mac Studio สองเครื่องด้วย ซึ่งเป็นเรื่องที่แตกต่างออกไป: เป็นการสาธิตบนเวิร์กสเตชัน ไม่ใช่แผนสำหรับการให้บริการ

• สัญญาอนุญาต — Muse Model License ใช้ฟรีสำหรับการใช้งานส่วนใหญ่ แต่บริษัทที่มีรายได้รวมต่อปีเกิน 20 ล้านดอลลาร์สหรัฐจำเป็นต้องมีข้อตกลงกับ Meta เพื่อเสนอเป็นบริการ และผลิตภัณฑ์ที่สร้างขึ้นบนพื้นฐานนี้ต้องมีข้อความ "Built with Muse Spark Open"

จะรันที่ไหน และเราเตอร์เปลี่ยนอะไรบ้าง

OrcaRouter กำหนดเส้นทางไปยัง Muse Spark 1.1 และ Muse Spark 1.2 และไม่ได้ให้บริการเช็กพอยต์แบบเปิด ดังนั้นไม่มีสิ่งใดในที่นี้เป็นข้อกล่าวอ้างเกี่ยวกับการโฮสต์มัน สิ่งที่น่ารู้คือ hosted checkpoints มีราคาแสดงอยู่ที่ $1.25 และ $4.25 เท่ากับราคา API ของโมเดลแบบเปิดเอง ดังนั้น open weights จึงไม่ใช่วิธีที่ถูกกว่าในการเรียกใช้โมเดลนี้ แต่เป็นวิธีที่จะเป็นเจ้าของเส้นทางการให้บริการ หากคุณไม่ได้จะเป็นเจ้าของมันเอง ทางเลือกก็คือเลือกระหว่าง hosted checkpoints และทางเลือกนั้นเป็นการเปลี่ยนแปลงการกำหนดค่า ไม่ใช่การย้ายระบบ

หากคุณจะดูแลมันเอง วิธีที่สมเหตุสมผลในการตรวจสอบว่า workload ของคุณมีพฤติกรรมเหมือน AgentPerf trace หรือไม่ คือการรันแบบขนานแทนที่จะสลับไปมา เก็บ hosted checkpoint ไว้เป็น fallback ในสแตกของคุณเอง แบ่งทราฟฟิกส่วนหนึ่งไปที่ deployment ใหม่ และย้ายกลับเมื่อผลตัวเลขไม่เป็นอย่างที่หวัง ในขา hosted ของการเปรียบเทียบนั้น OrcaRouter ส่งต่อราคาตามรายการของผู้ให้บริการโดยบวกเพิ่ม 0% ดังนั้นการ benchmark เทียบกับฮาร์ดแวร์ของคุณจึงไม่ถูกบวกเพิ่มฝั่งเรา; automatic failover และ routing DSL คือสิ่งที่ทำให้การย้ายทราฟฟิกเป็นการเปลี่ยนการกำหนดค่าแทนการเปลี่ยนโค้ด; และ model fusion พร้อมให้ใช้หากคุณอยากเปรียบเทียบคำตอบจากหลายโมเดลใน panel มากกว่าจะเปรียบเทียบโครงสร้างพื้นฐาน

ดูอะไรดี

• เอเจนต์ต่อเมกะวัตต์ — ผลการเปิดตัวในเดือนมิถุนายนของ AA-AgentPerf เผยแพร่ในหน่วยนั้น โดยอยู่ที่ประมาณ 91,500 เอเจนต์ต่อ MW สำหรับ GB300 NVL72 บน DeepSeek V4 Pro ที่ระดับ 20 โทเค็น/วินาที จำนวนเอเจนต์ที่เทียบได้สำหรับ Muse Spark Open คือสิ่งที่ทำให้它可以ถูกจัดอันดับเทียบกับโมเดลอื่นได้ แทนที่จะเป็นเพียงแค่ถูกอธิบายได้

• การวิเคราะห์เชิงลึกเรื่องการให้บริการของ Meta ในวันที่ 26 ตุลาคม — เป็นข้อมูลที่ผู้ขายรายงานเอง ดังนั้นเมื่อเผยแพร่ออกมา ควรระบุให้ชัดว่าเป็นเช่นนั้น แต่รายละเอียดที่มีประโยชน์ที่ควรดูคือตัวเลขประสิทธิภาพนั้นอ้างอิงคอนเคอร์เรนซีระดับใด

• การกำหนดค่า MI355X ที่ AMD ส่งเข้ามา — ผลลัพธ์แบบครึ่งหนึ่งของทรูพุตนั้นวัดเทียบกับการกำหนดค่าที่ Artificial Analysis สร้างขึ้นเอง และ AA ระบุว่าส่วนเผื่อที่เหลืออยู่ในจุดนั้นอาจมีมากกว่า

• เกตความแม่นยำของ MI35x ที่มาพร้อมตัวเลขจริง — ประสิทธิภาพโดยไม่มีการตรวจสอบความถูกต้องเป็นเพียงครึ่งหนึ่งของการตัดสินใจนำไปใช้งาน และส่วนที่เป็นตัวยึดตำแหน่งของเกตนั้นก็ยังคงเป็นตัวยึดตำแหน่งอยู่

ข้อสรุปที่มีประโยชน์ของสัปดาห์นี้แคบและเจาะจง Muse Spark Open จากหลักฐานที่เผยแพร่ในตอนนี้ เป็นโมเดลที่ให้บริการได้อย่างมีประสิทธิภาพผิดปกติบน Blackwell เมื่อมี concurrency สูงพร้อมบริบทที่แคชได้ มีประสิทธิภาพในสภาวะนั้นราวสองเท่าของ MI355X ในงานเดียวกัน และมีราคาแบบโมเดลระดับพรีเมียมเมื่อเช่าใช้แบบคิดตามโทเคน ทุกข้อกล่าวอ้างเหล่านี้มีตัวเลขรองรับ ไม่มีข้อใดบอกว่าโมเดลเร็วในแบบที่ผู้ใช้รู้สึกได้ว่าเร็ว — ตัวเลขนั้นคือ 40.9 โทเคนต่อวินาที ณ ระดับ concurrency ที่พาดหัวข่าวตั้งอยู่