NVIDIA เปิดตัว Drafter สำหรับเรือธง 816B ของ Meta อย่างเงียบๆ

NVIDIA published nvidia/Muse-Spark-Open-816B-A42B-DFlash2 to Hugging Face on October 16, 2026, and told nobody. The repository is a draft checkpoint — a 4.38-billion-parameter speculative-decoding model whose entire job is to guess the next several tokens of Muse-Spark-Open-816B-A42B, Meta's 816-billion-parameter open-weight flagship, so the large model can verify a whole block of guesses in one forward pass instead of emitting one token at a time. There is no NVIDIA blog post, no announcement thread, no press release, and as of writing the repository shows zero downloads and zero likes. What it does have is a model card with acceptance-length tables, a working vLLM invocation, and a short list of things it conspicuously declines to claim. This is what the artifact says and what it does not. What the numbers cannot tell you is whether any of it has gone wrong in the field: the documented AI incidents and agent failures around models in this class are collected in the OrcaRouter AI Incident Archive where each entry carries its own sources, severity, confidence grade and disputed flag.

สิ่งที่ปล่อยออกไปแล้ว เรียงตามลำดับที่สามารถตรวจสอบได้

ทุกอย่างด้านล่างนี้มาจากรีโพซิทอรีหรือจาก API ของ Hugging Face เองสำหรับมัน ไม่มีสิ่งใดต้องอาศัยการเชื่อถือเบนช์มาร์กของผู้ขาย

• จังหวะเวลา — ที่เก็บโค้ดถูกสร้างขึ้นเมื่อเวลา 04:40 UTC ของวันที่ 16 ตุลาคม 2026 และค่าน้ำหนักของมันถูกคอมมิตเมื่อประมาณสี่สิบนาทีต่อมา; บรรทัดการเปิดตัวของบัตรเองระบุว่า "Huggingface: 10/16/2026" ไม่มีสิ่งตีพิมพ์ที่มาพร้อมกันบนบล็อกนักพัฒนาของ NVIDIA และบัตรโมเดลอ้างอิงเฉพาะกระดาษ DFlash และโครงการ Model Optimizer

• อาร์ติแฟกต์ — ไฟล์ safetensors หนึ่งไฟล์ในรูปแบบ BF16 มีพารามิเตอร์ 4,384,162,432 ตัว ใช้พื้นที่จัดเก็บประมาณ 8.8 GB คลาสของสถาปัตยกรรมคือ DFlash2DraftModel ซึ่งมีเลเยอร์ตัวถอดรหัสแบบหนาแน่นห้าเลเยอร์ มีการให้ความสนใจแบบ sliding-window ที่ไม่เป็นเชิงสาเหตุที่หน้าต่างขนาด 2,048 มีขนาดฮิดเดน 8,192 มีหัว query 128 หัวเทียบกับหัว key-value 16 หัว ที่ขนาด 64 มิติต่อหัว และมีคลังคำศัพท์ขนาด 202,048 ขนาดบล็อกคือ 8; ตัวดราฟต์จะดึงข้อมูลจากห้าเลเยอร์ของโมเดลเป้าหมาย ได้แก่เลเยอร์ 3, 19, 31, 47 และ 59 จากทั้งหมด 62 เลเยอร์

• มันไม่มีการจำกัดการเข้าถึง — Hugging Face รายงานว่าที่เก็บนี้เป็นสาธารณะและไม่มีข้อจำกัด คุณสามารถดาวน์โหลด drafter ได้ทันที ในขณะที่รีพอซิทอรีเป้าหมายของ Meta ยังคงอยู่หลังการเข้าสู่ระบบที่ต้องยอมรับข้อกำหนด

• ชั้นของสัญญาอนุญาต — เช็กพอยต์ฉบับร่างอยู่ภายใต้ NVIDIA Open Model Agreement และการ์ดได้เพิ่ม Meta's Muse Model License เข้ามาซ้อนอีกชั้น โดยกำหนดให้สิ่งที่สร้างขึ้นจากโมเดลนี้ต้องมีข้อความระบุที่มา "Built with Muse Spark Open"

• แหล่งที่มา ซึ่ง NVIDIA ระบุไว้ — ข้อความแจ้งจากบุคคลที่สามของการ์ดเองระบุอย่างชัดเจนว่า Muse-Spark-Open-816B-A42B "ไม่ได้เป็นเจ้าของหรือพัฒนาโดย NVIDIA" และโมเดลผู้ร่างนี้ "ได้รับการฝึกโดย NVIDIA เพื่อใช้กับโมเดลเป้าหมายนั้น" พรอมต์สำหรับการฝึกมาจาก Nemotron-Post-Training-Dataset-v2 ของ NVIDIA ซึ่งเป็นตัวอย่างหลายภาษาประมาณ 3.48 ล้านตัวอย่าง ครอบคลุมคณิตศาสตร์ โค้ด และ STEM โดยมีคำตอบที่สังเคราะห์ขึ้นโดยโมเดลเป้าหมายในระดับความพยายามในการใช้เหตุผลห้าระดับ

• ชุดเครื่องมือ — การ์ดระบุว่าโมเดลนี้ถูกฝึกด้วย "บิลด์ก่อนเผยแพร่ของ NVIDIA Model Optimizer 0.47" โดย Model Optimizer 0.47.0 เปิดตัวสู่สาธารณะเมื่อวันที่ 23 กันยายน 2026 และ 0.48.0rc0 ตามออกมาเมื่อวันที่ 8 ตุลาคม ดังนั้นสูตรที่ดราฟเตอร์นี้ได้ออกมาจึงกลายเป็นสิ่งที่บุคคลที่สามสามารถรันซ้ำได้แล้ว

นี่ไม่ใช่ดราฟเตอร์ตัวแรกสำหรับโมเดลนี้ และไม่ใช่ดราฟเตอร์ตัวแรกของ NVIDIA

ข้อเท็จจริงทั้งสองข้อนั้นสำคัญต่อการตัดสินว่าอะไรคือของใหม่จริง ๆ ที่นี่ เพราะข้อใดข้อหนึ่งเพียงลำพังจะทำให้การเปิดตัวครั้งนี้ดูเหมือนเป็นสิ่งที่มันไม่ใช่

NVIDIA เผยแพร่ดราฟเตอร์ตระกูล DFlash สำหรับเวตแบบเปิดของผู้อื่นอย่างเงียบ ๆ มาตั้งแต่ช่วงซัมเมอร์: MiniMax-M2.7-DFlash ในช่วงกลางเดือนมิถุนายน, Kimi-K2.6-DFlash และจากนั้น Kimi-K2.7-Code-DFlash ตลอดเดือนมิถุนายนและกรกฎาคม และดราฟเตอร์ Nemotron 3.5 Lightning 30B ในช่วงต้นเดือนสิงหาคม ดราฟเตอร์ Muse Spark Open จาก NVIDIA เป็นรายการถัดไปในซีรีส์ ไม่ใช่การเปิดตัวครั้งแรก

Muse Spark Open เองก็มีดราฟเตอร์อยู่ก่อนหน้านี้แล้วเช่นกัน เช็กพอยต์ DFlash2 ภายใต้องค์กรบุคคลที่สามได้รับการเผยแพร่บน Hugging Face เมื่อวันที่ 13 ตุลาคม และเช็กพอยต์ DSpark สำหรับเป้าหมายเดียวกันได้รับการอัปเดตล่าสุดเมื่อวันที่ 15 ตุลาคม — ทั้งคู่เกิดขึ้นประมาณหนึ่งเดือนหลังจากสแตก day-zero ของ Meta เอง ซึ่งตั้งชื่อ DFlash V2 สำหรับรันไทม์หนึ่ง และ DSpark สำหรับอีกรันไทม์หนึ่ง ดังนั้น “มีดราฟเตอร์สำหรับ Muse Spark Open” จึงไม่ใช่ประเด็น

เรื่องราวนี้แคบลงและมีประโยชน์มากขึ้น: เช็กพอยต์ BF16 DFlash2 ที่ผ่านการฝึกด้วย Model Optimizer ของ NVIDIA เอง ตอนนี้มีอยู่สำหรับโมเดลนี้แล้ว โดยเผยแพร่สำหรับฮาร์ดแวร์ Blackwell พร้อม vLLM เป็นเอนจินที่ผ่านการทดสอบ หากคุณกำลังเลือกว่าจะรัน drafter ตัวใด การเลือกนั้นแท้จริงแล้วคือการเลือก serving stack และนั่นคือจุดที่สองเส้นทางแยกออกจากกัน

ตัวเลข และเงื่อนไขที่แน่นอนซึ่งผูกอยู่กับตัวเลขเหล่านั้น

NVIDIA รายงานค่าปริมาณหนึ่งค่าจากชุดทดสอบสามชุด ได้แก่ ความยาวที่ยอมรับ ซึ่งเป็นจำนวนโทเค็นเฉลี่ยที่ถูกปล่อยออกมาต่อขั้นตอนการสร้างหนึ่งครั้ง โดยวัดที่ความยาวดราฟต์ 7

• MT-Bench คำถาม 80 ข้อแบบสองรอบ — 3.73 โทเคนต่อขั้นตอนที่ได้รับการยอมรับภายใต้การถอดรหัสแบบ greedy และ 3.01 ภายใต้การสุ่มตัวอย่าง หมวดคณิตศาสตร์แข็งแกร่งที่สุดที่ 4.47 ส่วนมนุษยศาสตร์อ่อนแอที่สุดที่ 2.92

• SPEED-Bench เชิงคุณภาพ พรอมป์ต์ 880 รายการใน 11 หมวดหมู่ — 3.72 ในโหมด greedy และ 3.01 ในโหมด sampling งานหลายภาษาได้ถึง 4.27 และงานเขียนโค้ด 4.15 ขณะที่งานเขียนต่ำอยู่ที่ 3.05

• ทรูพุตของ SPEED-Bench สำหรับอินพุตขนาด 32,000 โทเคน — 3.30 สำหรับแบบ greedy และ 2.78 สำหรับแบบ sampling และนี่คือจุดที่ภาพเริ่มแย่ลง: กลุ่มเอนโทรปีสูงดิ่งลงเหลือ 2.51 สำหรับแบบ greedy และ 2.16 สำหรับแบบ sampling เทียบกับ 3.71 สำหรับข้อความเอนโทรปีต่ำ

• เงื่อนไข — ความพยายามในการให้เหตุผลระดับ xhigh, เอาต์พุต 4,096 โทเค็น, การประมวลผลพร้อมกัน 32, บนโหนด GB300 เพียงโหนดเดียวที่ TP4 และ EP4, ให้บริการผ่าน vLLM โดยโมเดลเป้าหมายอยู่ในรูปแบบ NVFP4 ค่าที่ได้จากวิธี greedy ใช้ temperature 0 ส่วนค่าที่ได้จากการสุ่มตัวอย่างใช้ temperature 1.0 โดยไม่มีการตัดทอนด้วย top-p หรือ top-k และใช้วิธีการสุ่มตัวอย่างแบบร่างเชิงความน่าจะเป็น

ข้อควรระวังสามข้อควรอยู่ข้าง ๆ ตัวเลขเหล่านั้น ไม่ใช่ใต้ตัวเลขเหล่านั้น ข้อแรก ตัวเลขเหล่านี้เป็นข้อมูลที่ผู้ขายรายงาน และเราไม่ได้ทำซ้ำผลใด ๆ เหล่านั้น อีกทั้งยังไม่มีใครเผยแพร่การวัดที่เป็นอิสระของเช็กพอยต์นี้ ข้อสอง ความยาวการยอมรับไม่ใช่ความเร็วที่เพิ่มขึ้น — มันเป็นเพดานที่ใช้คำนวณความเร็วที่เพิ่มขึ้น ทุกโทเค็นที่ได้รับการยอมรับยังต้องผ่านการตรวจสอบยืนยันโดยโมเดลขนาด 816 พันล้านพารามิเตอร์ และการ forward pass ของดราฟเตอร์เองก็มีต้นทุนเช่นกัน NVIDIA ไม่ได้เผยแพร่อัตราส่วนโทเค็นต่อวินาทีหรือการเปรียบเทียบความหน่วง ซึ่งเป็นตัวเลขที่ผู้อ่านซึ่งกำลังตัดสินใจว่าจะนำไปใช้งานจริงต้องการ ข้อสาม ทั้งหมดถูกวัดที่ concurrency 32 ซึ่งไม่ใช่สภาวะที่ speculative decoding มักให้ผลตอบแทนดีที่สุด — ผลตอบแทนจะกระจุกตัวอยู่ในสตรีมเดี่ยวที่มีแบตช์ต่ำและถูกจำกัดด้วยความหน่วง ส่วนเซิร์ฟเวอร์ที่มีภาระงานหนาแน่นจะได้น้อยกว่า

สิ่งที่ตารางเหล่านี้ไม่ได้วัดเลยคือคุณภาพของเอาต์พุต การตรวจสอบภายใต้การถอดรหัสแบบ greedy ถูกออกแบบมาเพื่อคืนโทเคนของโมเดลเป้าหมายเอง ดังนั้นคอลัมน์ greedy จึงใกล้เคียงกับข้ออ้างเรื่องความเร็วล้วน ๆ ส่วนคอลัมน์การสุ่มตัวอย่างคือคอลัมน์ที่ควรนำไปทดสอบกับทราฟฟิกของคุณเอง เพราะดราฟเตอร์เชิงความน่าจะเป็นเปลี่ยนวิธีการเดินผ่านการแจกแจง ไม่ใช่แค่เปลี่ยนความเร็วเท่านั้น

วิธีที่คุณจะเปิดมันจริง ๆ

การ์ดนี้ให้การเรียกใช้งานที่รองรับหนึ่งรายการ และมันเป็นแฟล็กเดียวบนเซิร์ฟเวอร์ vLLM คุณให้บริการ target แล้วส่ง drafter ผ่านอาร์กิวเมนต์ speculative-config: method คือ "dflash" โมเดลคือเช็กพอยต์ของ NVIDIA จำนวนโทเคน speculative คือ 7 วิธีสุ่มตัวอย่าง draft เป็นแบบ probabilistic และคำสั่งต้องตั้งค่าให้ trust remote code TensorRT-LLM เป็นเอนจินตัวที่สองที่การ์ดระบุ; vLLM เป็นตัวที่ถูกระบุชื่อว่าเป็นเอนจินเร่งความเร็ว และเป็นตัวที่ทดสอบบน Blackwell

มีช่องว่างสองจุดที่ควรค่าแก่การเอ่ยถึง บรรทัดฮาร์ดแวร์ที่รองรับของการ์ดนี้คือ NVIDIA Blackwell กับ Linux ดังนั้นนี่จึงเป็นเส้นทางแบบ GPU สำหรับดาต้าเซ็นเตอร์ มากกว่าจะเป็นอะไรที่หลอมรวมเข้ากับเซตอัป Apple silicon หรือเซตอัปสำหรับผู้ใช้ทั่วไปได้ และ SGLang — ซึ่งเป็นรันไทม์ที่สื่อเปิดตัวของ Meta เองส่ง DFlash V2 ผ่าน — ไม่ปรากฏอยู่ในรายการเอนจินของ NVIDIA สำหรับเช็กพอยต์นี้เลย ตัวร่างทั้งสองแบบใช้แทนกันไม่ได้ หากสแตกการให้บริการของคุณคือ SGLang รีโพซิทอรีนี้ก็ไม่ได้เขียนมาเพื่อคุณ

สิ่งที่ผู้ร่างเปลี่ยนแปลงเพื่อผู้อ่าน และสิ่งที่ไม่ได้เปลี่ยนแปลง

การถอดรหัสเชิงคาดการณ์ (speculative decoding) เป็นส่วนหนึ่งของการอนุมานโมเดลขนาดใหญ่ที่ไปถึงผู้คนซึ่งจะไม่มีวันดาวน์โหลดน้ำหนักโมเดลเลย เพราะมันเป็นคันโยกหลักที่กำหนดว่าโมเดลเปิดขนาดใหญ่มากจะให้บริการได้ถูกราคาแค่ไหน ดราฟเตอร์ที่ดีขึ้นหมายถึงโทเคนที่ถูกยอมรับมากขึ้นต่อขั้น ซึ่งหมายถึงปริมาณงานที่มากขึ้นต่อ GPU และนั่นคือสิ่งที่ท้ายที่สุดจะปรากฏเป็นราคาที่ถูกลงและโทเคนแรกที่เร็วขึ้นบน API นั่นคือเหตุผลที่โมเดลขนาด 4.38B เป็นข่าว แม้ว่าแทบไม่มีใครที่อ่านเกี่ยวกับมันจะรันมันก็ตาม

อย่างไรก็ตาม ตัวนี้ไม่ได้เอาโมเดล 816B มาวางไว้บนโต๊ะคุณ มันเป็นไฟล์แนบขนาด 8.8 GB ที่ต่อกับเป้าหมายซึ่งเช็กพอยต์ที่ใช้งานได้จริงขนาดเล็กที่สุดมีหน่วยวัดเป็นหลายร้อย GB บนซิลิคอน Blackwell ภายใต้ใบอนุญาตสองฉบับที่ซ้อนทับกัน มันไม่ใช่โมเดลที่คุณใช้แชต มันไม่สร้างข้อความของตัวเอง และมันทำงานไม่ได้เลยหากไม่มีเป้าหมายที่มันถูกฝึกมาเพื่อร่างให้

ถ้าคุณต้องการความสามารถของ Muse Spark โดยไม่มีส่วนนั้น สายที่ให้บริการคือที่ที่มันอยู่: Muse Spark 1.2 และ Muse Spark 1.1เป็นเช็กพอยต์สองตัวที่ OrcaRouter จัดเส้นทางให้ ทั้งคู่ในราคาตามที่ Meta ประกาศโดยบวกเพิ่ม 0% ส่งผ่านตรง ๆ เพราะราคาจากผู้ให้บริการถูกส่งผ่านตรง ๆ แทนที่จะบวกเพิ่ม Muse Spark Open และเช็กพอยต์ดราฟต์ DFlash2 นี้ไม่ได้อยู่ในแคตตาล็อกของเรา และเราไม่ตั้งใจจะสื่อเป็นอย่างอื่น — ตัวดราฟต์สำหรับเวตที่โฮสต์เองก็คือโครงสร้างพื้นฐานที่โฮสต์เอง ส่วนจุดที่เรายังมีประโยชน์ในเรื่องนี้คือส่วนที่น่าเบื่อ: API เดียวครอบคลุมกว่า 200 โมเดล การสลับสำรองอัตโนมัติเมื่อผู้ให้บริการมีประสิทธิภาพลดลง และ DSL สำหรับกำหนดเส้นทางที่ย้ายทราฟฟิกระหว่างโมเดลผ่านการตั้งค่าแทนที่จะแก้โค้ด ซึ่งเป็นวิธีราคาถูกในการดูว่าเช็กพอยต์ที่ยังไม่ผ่านการพิสูจน์ทำงานอย่างไรกับทราฟฟิกจริง โดยไม่ต้องเดิมพันเส้นทางโปรดักชันกับมัน

อะไรจะคลี่คลายประเด็นที่ยังค้างอยู่ได้

สี่สิ่งที่จะเปลี่ยนบทความชิ้นนี้ และไม่มีข้อใดเป็นเรื่องลึกลับเกี่ยวกับเจตนาของ NVIDIA

• ตัวเลขความเร็วที่เพิ่มขึ้นแบบ end-to-end — โทเคนต่อวินาทีหรือความหน่วง เมื่อเทียบกับ baseline แบบไม่ใช้ speculative ที่เข้าคู่กันบนฮาร์ดแวร์เดียวกัน โดยวัดโดยใครก็ตามที่ไม่ใช่ NVIDIA ความยาวที่ได้รับการยอมรับ (acceptance length) บอกคุณว่า draft ถูกนำไปใช้บ่อยครั้งเพียงใด แต่ไม่ได้บอกว่าเซิร์ฟเวอร์เร็วขึ้น

• การเปรียบเทียบเป้าหมายระหว่าง BF16 กับ NVFP4 — ตารางที่เผยแพร่ทุกตารางล้วนวัดเทียบกับเป้าหมาย NVFP4 ซึ่งเป็นสิ่งที่คนส่วนใหญ่จะให้บริการจริง แต่การ์ดไม่ได้รายงานกรณีใดเลยที่เป้าหมายถูกเรียกใช้ด้วยความแม่นยำที่สูงกว่า

• รองรับการใช้งานนอก vLLM และ TensorRT-LLM — หากเช็กพอยต์นี้ปรากฏใน SGLang ดราฟเตอร์ DFlash2 สองตัวสำหรับ Muse Spark Open จะกลายเป็นสิ่งที่ใช้แทนกันได้แทนที่จะผูกติดกับสแตกใดสแตกหนึ่ง ซึ่งนั่นคือจุดที่การเลือกระหว่างทั้งสองกลายเป็นเรื่องง่าย

• การเทรนใหม่บนเครื่องมือที่เผยแพร่แล้ว — ดราฟเตอร์ตัวนี้มาจากบิลด์ก่อนเผยแพร่ของ Model Optimizer 0.47 เมื่อ 0.47.0 เปิดให้ใช้สาธารณะตั้งแต่ 23 กันยายน และ 0.48.0rc0 ออกมาตั้งแต่ 8 ตุลาคม สูตรนี้จึงตรวจสอบได้ และเช็กพอยต์ที่เทรนบนสูตรนี้คงรายงานค่าที่ดีขึ้นเล็กน้อย

จนกว่าอย่างน้อยสิ่งแรกในนั้นจะเกิดขึ้นจริง สรุปที่ตรงไปตรงมาคือ NVIDIA ได้ส่งมอบดราฟเตอร์ที่มีเอกสารประกอบครบถ้วน ไม่มีข้อจำกัดการเข้าถึง และจำเพาะต่อฮาร์ดแวร์ สำหรับเรือธงของคนอื่น เผยแพร่ความยาวการยอมรับ และไม่ประกาศข่าว — และเหตุผลที่ควรใส่ใจไม่ใช่ว่า Muse Spark Open เร็วขึ้น แต่คือโครงสร้างพื้นฐานสำหรับทำให้น้ำหนักแบบเปิด 816 พันล้านพารามิเตอร์จ่ายไหวในระดับสเกลยังคงมาถึงอย่างเงียบเชียบแบบนี้เรื่อย ๆ