Ming-3.0-asr-tiny กับ Moonshine 250M: โมเดลหนึ่งไม่หยุดฟัง ส่วนอีกโมเดลหนึ่งจะไม่เริ่มจนกว่าคุณจะพูดจบ

มีปัญหาการตั้งชื่อที่ต้องเคลียร์ก่อนเป็นอันดับแรก เพราะมันเปลี่ยนความหมายของการเปรียบเทียบนี้ Moonshine เผยแพร่เช็กพอยต์สามตัว — Tiny ที่ 34M, Small ที่ 123M และ Medium ที่ 245M — และMoonshine 250M เป็นชื่อเรียกย่อที่ชุมชนใช้เรียกตัวท็อปของไลน์นี้ ซึ่งเป็นเช็กพอยต์ที่มีชื่อรีโพซิทอรีว่าmoonshine-streaming-medium และที่ดัชนี safetensors มีจำนวนพารามิเตอร์รวมจริง 265,898,112 ตัว ไม่มีไฟล์ใดในองค์กร Moonshine ที่ชื่อ 250M โมเดลนั้นเป็นตัวรู้จำเสียงแบบสตรีมมิ่งภาษาอังกฤษที่มีเอนโคเดอร์แบบหน้าต่างเลื่อนและดีโคเดอร์แบบออโตรีเกรสซีฟ สร้างมาสำหรับแล็ปท็อปหรือโทรศัพท์ เปิดตัวในเดือนมกราคม 2026 ภายใต้ MIT Ming-3.0-asr-tiny เป็นตัวรู้จำเสียงภาษาจีนและอังกฤษขนาด 8.87 พันล้านพารามิเตอร์ ซึ่งน้ำหนักโมเดลปรากฏบน Hugging Face เมื่อวันที่ 14 ตุลาคม 2026 โดยไม่มีการประกาศ สร้างขึ้นรอบเอนโคเดอร์รูปร่างแบบ Whisper และดีโคเดอร์แบบ Mixture-of-Experts จำนวน 128 ผู้เชี่ยวชาญ และออกแบบมาให้อ่านคลิปทั้งหมดในครั้งเดียว พวกเขาไม่ใช่คู่แข่งในตลาดเดียวกัน พวกเขาเป็นสองคำตอบที่ต่างกันสำหรับคำถามที่ว่าเมื่อใดตัวรู้จำเสียงจึงได้รับอนุญาตให้พูด เช็กพอยต์ที่บทความนี้เรียกว่า Moonshine 250M มีการบันทึกไว้ที่ การ์ดโมเดล Moonshine Streaming Medium โดยดัชนี safetensors รายงานพารามิเตอร์ 265,898,112 ตัว เทียบกับป้ายกำกับ 245M บนการ์ด ความล้มเหลวของ AI และเหตุการณ์ของเอเจนต์ที่ได้รับการบันทึกไว้ซึ่งอยู่เบื้องหลังการเปิดตัวแบบนี้ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มา ระดับความรุนแรง เกรดความเชื่อมั่น และแฟล็กข้อโต้แย้งของตัวเอง

คำถามนั้นเป็นกรอบที่มีประโยชน์ และให้การตัดสินใจที่ชัดเจนกว่าตารางความแม่นยำ Moonshine 250M ปล่อยคำออกมาขณะที่เสียงยังไหลเข้ามา โดยใช้ประมาณ 0.1 ถึง 1 TOPS Ming-3.0-asr-tiny จะไม่ปล่อยอะไรออกมาจนกว่าคุณจะส่งไฟล์ที่สมบูรณ์ให้ แล้วจึงปล่อยข้อความถอดเสียงที่ไม่มีเวลากำกับเลย

สิ่งที่แต่ละอันถูกสร้างขึ้นมาเพื่อทำจริง ๆ

สถาปัตยกรรมของ Moonshine เป็นการพลิกกลับอย่างจงใจต่อข้อประนีประนอมแบบสตรีมมิ่งทั่วไป เอนโคเดอร์เป็นทรานส์ฟอร์เมอร์แบบหน้าต่างเลื่อนที่มีความสนใจเฉพาะที่แบบมีขอบเขตและไม่มีการฝังตำแหน่งเลย — การ์ดเรียกสิ่งนี้ว่า ergodic — โดยแบ่งหน้าต่างเป็น (16, 4) ในสองเลเยอร์แรกและสองเลเยอร์สุดท้าย และเป็น (16, 0) ในเลเยอร์ตรงกลาง ซึ่งให้การมองล่วงหน้าประมาณ 80 มิลลิวินาที ข้อมูลตำแหน่งถูกฉีดเข้าโดยอะแดปเตอร์หลังเอนโคเดอร์ แล้วป้อนเข้าสู่ดีโคเดอร์แบบ causal มาตรฐานที่ใช้ RoPE ฟรอนต์เอนด์เสียงทำงานที่ 50 Hz โดยใช้การดำเนินการในโดเมนเวลาอย่างง่ายแทนเมลสเปกโตรแกรม

ตัวถอดรหัส (decoder) ทำงานแบบ autoregressive และ Moonshine ระบุว่าสิ่งนี้แลกมาด้วยอะไร: latency ของเอาต์พุตแบบเต็มจะเพิ่มขึ้นตามความยาวของทรานสคริปต์ แม้เวลาถึงโทเค็นแรกจะต่ำก็ตาม นี่คือข้อจำกัดตามจริงของการออกแบบ และเป็นประโยคเดียวที่ควรจำไว้เมื่อเปรียบเทียบคำกล่าวอ้างเรื่องสตรีมมิ่ง สตรีมมิ่งหมายความว่าคำแรกๆ ปรากฏอย่างรวดเร็ว แต่ไม่ได้หมายความว่าคำสุดท้ายจะปรากฏเร็วตามสัดส่วน

Ming ไม่สตรีม และการ์ดของมันระบุไว้เช่นนั้น: ตัวอย่างที่บันเดิลมาด้วยไม่รองรับอินพุตแบบสตรีมมิ่ง เสียงยาวสามารถแบ่งเป็นชังก์ได้ผ่านอาร์กิวเมนต์เพื่อรับมือกับคอนเท็กซ์ 8,192 ตำแหน่ง แต่การแบ่งไฟล์เป็นชังก์ไม่เหมือนกับการรับฟีดสด และฟิลด์รูปแบบเอาต์พุตในคอนฟิกถูกตั้งเป็น plain สิ่งที่ Ming ทำแทนคือการพาบริบทไปด้วย มันรับฮอตเวิร์ดหรือบทสนทนาก่อนหน้าเป็นส่วนหนึ่งของพรอมต์ถอดเสียง และได้รับการประเมินบนชุดทดสอบภาษาถิ่นจีนสิบห้าชุด — หูหนาน, หมิ่นหนาน, กวางตุ้ง, ฉวนยวี่, เซี่ยงไฮ้, อานฮุย, ตะวันออกเฉียงเหนือ, เหอหนาน, หูเป่ย, เจียงซู, แคะ, ส่านซี, ชานตง, เทียนจิน, ยูนนาน Moonshine รองรับเฉพาะภาษาอังกฤษและไม่มีสิ่งเหล่านี้เลย

จำนวนพารามิเตอร์ทั้งสอง และเหตุใดจึงแตกต่างกัน

รายละเอียดที่น่าพิจารณา เพราะมันเป็นสิ่งประเภทที่ค่อย ๆ ทำให้ตารางเปรียบเทียบเพี้ยนไปโดยไม่รู้ตัว: การ์ดของ Moonshine เองระบุว่า Medium มีพารามิเตอร์ 245M มีเลเยอร์เอนโคเดอร์ 14 ชั้นและเลเยอร์ดีโคเดอร์ 14 ชั้น เอนโคเดอร์มิติ 768 และดีโคเดอร์มิติ 640 ส่วนดัชนี safetensors ในรีโพซิทอรีเดียวกันรายงานว่า 265,898,112 ช่องว่างอยู่ที่ประมาณ 21 ล้าน หรือราวแปดจุดห้าเปอร์เซ็นต์ และนี่ไม่ใช่ความคลาดเคลื่อนจากการปัดเศษ — มันคือความแตกต่างระหว่างการนับเฉพาะแบ็กโบนกับการนับทุกอย่างที่จัดส่งมาพร้อมกับมัน

Ming ประสบปัญหาเดียวกันในขนาดที่ใหญ่กว่า ดัชนีของมันรายงานค่าพารามิเตอร์ 8,865,800,992 ตัว; แผนภูมิของมันระบุชื่อโมเดลว่า 8.6B-A2B ซึ่งเป็นคำย่อของจำนวนรวม 8.6 พันล้าน โดยมีประมาณ 2 พันล้านตัวที่ใช้งานต่อโทเคน ป้ายชื่อนี้ต่ำกว่าดัชนีอยู่ประมาณ 270 ล้าน

• พารามิเตอร์ทั้งหมด — Ming-3.0-asr-tiny 8.87B (index) เทียบกับ Moonshine 250M 266M (index); ป้ายกำกับของผู้ขายระบุว่า 8.6B และ 245M

• ใช้งานต่อโทเคน — ประมาณ 2B สำหรับ Ming เนื่องจากมีผู้เชี่ยวชาญ 8 จาก 128 รายที่ถูกกำหนดเส้นทางในแต่ละขั้นตอน ส่วน Moonshine ใช้ทั้งหมด 266M ซึ่งเป็นแบบ dense

• Encoder — 32 เลเยอร์, 1,280 มิติ, 20 หัว, 128 ไบนเมล, โครงสร้างแบบ Whisper เทียบกับทรานส์ฟอร์เมอร์แบบเออร์โกดิกหน้าต่างเลื่อน 14 เลเยอร์ที่ 768 มิติบนฟรอนต์เอนด์ 50 Hz

• Decoder — 24 เลเยอร์, ผู้เชี่ยวชาญ 128 คน, แบบ autoregressive; เทียบกับ 14 เลเยอร์, แบบ dense, autoregressive

• โมเดลความหน่วง — ป้อนคลิปทั้งไฟล์เข้า ได้ข้อความถอดเสียงออกมา ไม่มีการสตรีม; เทียบกับการมองล่วงหน้า ~80 ms และได้รับโทเคนแรกขณะที่เสียงยังคงไหลเข้ามา

• เอาต์พุต — ข้อความถอดเสียงแบบธรรมดา ไม่มีเวลากำกับ ไม่มีการแยกผู้พูด เปรียบเทียบกับข้อความถอดเสียงจากตัวถอดรหัสแบบออโตเรเกรสซีฟซึ่งไม่มีการกำหนดเวลากำกับในการ์ดเช่นกัน

• ภาษา — ภาษาจีนและภาษาอังกฤษ พร้อมชุดทดสอบภาษาถิ่นจีน 15 ชุด เทียบกับภาษาอังกฤษเท่านั้น

• สัญญาอนุญาต — ทั้งสองใช้ MIT โดยยังคงส่วนหัว Apache-2.0 ที่มาพร้อมกันไว้ในที่เก็บของ Ming

ความแม่นยำ โดยมีข้อแม้ว่าพวกมันไม่เคยถูกทดสอบกับเสียงเดียวกัน

การ์ดของ Moonshine รายงานค่า WER เฉลี่ยที่ 6.65 จากชุดข้อมูลภาษาอังกฤษแปดชุดสำหรับ Medium: 10.68 บน AMI, 11.90 บน Earnings-22, 9.46 บน GigaSpeech, 2.08 บน LibriSpeech test-clean, 5.00 บน test-other, 2.58 บน SPGISpeech, 2.99 บน TED-LIUM และ 8.54 บน VoxPopuli ฝึกด้วยเสียงพูดประมาณ 300,000 ชั่วโมง

Ming รายงานค่า WER เฉลี่ย 3.99 บนชุดข้อมูลสาธารณะภาษาอังกฤษของตน — LibriSpeech clean และ other, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English และ VoxPopuli — และค่า CER เฉลี่ย 3.55 บนชุดข้อมูลภาษาจีนของตน ฝึกด้วยปริมาณข้อมูลที่ไม่เปิดเผย

สิ่งล่อใจคือการเอา 3.99 ไปวางข้าง 6.65 แล้วประกาศว่า Ming แม่นยำกว่าในภาษาอังกฤษ อย่าทำเช่นนั้น สองในห้าชุดข้อมูลภาษาอังกฤษแตกต่างกัน วิธีการรวมผลก็แตกต่างกัน การ์ดของ Moonshine ไม่ได้เผยแพร่รายละเอียดแยกตามชุดข้อมูลที่เทียบเข้ากับห้าชุดของ Ming ได้อย่างลงตัว และไม่มีผู้ขายรายใดนำของอีกฝ่ายไปทดสอบ ในชุดข้อมูลเดียวที่ทั้งสองรายงาน — VoxPopuli — Ming ไม่ได้เผยแพร่ตัวเลขภาษาอังกฤษแยกตามชุดในคำบรรยายเลย มีแต่ค่าเฉลี่ย ดังนั้นแม้แต่ส่วนที่ทับซ้อนเพียงจุดเดียวนี้ก็ไม่สามารถเปรียบเทียบได้จากการ์ด ทุกตัวเลขที่นี่เป็นข้อมูลที่ผู้ขายรายงานและยังไม่มีการทำซ้ำ

สิ่งที่กล่าวได้เมื่อไม่มีชุดทดสอบร่วมกันนั้นเป็นเรื่องเชิงโครงสร้าง Moonshine เป็นโมเดลแบบ dense ที่มีพารามิเตอร์ 266 ล้านตัว ฝึกด้วยข้อมูลภาษาอังกฤษ 300,000 ชั่วโมง Ming เป็นโมเดล mixture-of-experts ที่มีพารามิเตอร์ 8.87 พันล้านตัว โดยมีพารามิเตอร์ที่ใช้งานจริงประมาณ 2 พันล้านตัว ฝึกบนข้อมูลที่มันไม่ได้อธิบายไว้ และประเมินบนภาษาจีนและอังกฤษซึ่งมีองค์ประกอบของภาษาถิ่นสูง โมเดลที่มีพารามิเตอร์ที่ใช้งานมากกว่า 17 เท่าและมีไพรเออร์แบบโมเดลภาษาควรแม่นยำกว่าบนเสียงภาษาอังกฤษที่ยาก และน่าจะเป็นเรื่องน่าแปลกใจถ้าไม่เป็นเช่นนั้น นั่นเป็นความคาดหวังจากสถาปัตยกรรม ไม่ใช่ผลจากการวัด

จุดที่ความเป็นจริงของการติดตั้งใช้งานแตกต่างกันออกไป

Ming ต้องการเครื่อง Linux ที่มี CUDA GPU, Python 3.12, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 และ trust_remote_code=Trueเพื่อโหลดโค้ดโมเดลของตัวเอง น้ำหนักโมเดลมีขนาดประมาณ 17.7 GB ใน BF16 กระจายอยู่สอง shard มีเส้นทางการให้บริการ SGLang ที่ปักหมุดไว้กับ adapter commit ที่เฉพาะเจาะจง ซึ่งเป็นสัญญาณว่าผู้ขายคาดหวังให้ระบบนี้ทำงานอยู่เบื้องหลัง API มากกว่าบนโต๊ะทำงาน

Moonshine 250M ตั้งเป้าหมายการใช้หน่วยความจำต่ำกว่า 1 GB และประมาณ 0.1 ถึง 1 TOPS โดยทำงานผ่านเฟรมเวิร์ก Moonshine Voice สำหรับอุปกรณ์ edge และผ่าน Transformers และการ์ดระบุไว้อย่างชัดเจนว่าเส้นทางผ่าน Transformers ยังไม่ได้รองรับการสตรีมมิ่งที่มีประสิทธิภาพเต็มรูปแบบ — it พึ่งพาการรองรับ sliding-window ของ flash-attention หากต้องการพฤติกรรมการสตรีมมิ่งที่สถาปัตยกรรมสัญญาไว้ เส้นทางผ่านเฟรมเวิร์กคือเส้นทางที่มอบสิ่งนั้นให้

รีโพซิทอรีคือที่ที่ラインของ checkpoint ปรากฏให้เห็นจริง ๆ: แท็ก 24 รายการครอบคลุมตระกูล Tiny, Small และ Medium พร้อมกับเฟรมเวิร์กที่การ์ดบอกให้ใช้หากต้องการสตรีมมิ่งจริง นั่นคือเรื่องราวการบำรุงรักษาที่ Ming ยังไม่มี และเป็นครึ่งหนึ่งด้านปฏิบัติของการเลือกครั้งนี้

นั่นคือการเปรียบเทียบทั้งหมดในสองประโยค: โมเดลหนึ่งถูกออกแบบมาให้ถูกลืมไปเมื่ออยู่ในอุปกรณ์ ส่วนอีกโมเดลหนึ่งถูกออกแบบมาให้ให้บริการจาก GPU พร้อมกับรายการฮอตเวิร์ดที่แนบมาด้วย

สิ่งที่ทีมที่ให้ความสำคัญกับภาษาจีนเป็นอันดับแรกควรลงมือทำจริง ๆ

หากผลิตภัณฑ์ของคุณเป็นคำบรรยายสดหรือคำสั่งเสียงภาษาอังกฤษ Moonshine 250M กำลังทำงานที่ Ming ทำไม่ได้เลย และช่องว่างด้านความแม่นยำ — ไม่ว่าจะออกมาเป็นเท่าใด — ก็ไม่น่าจะสำคัญไปกว่าความจริงที่ว่า Ming ไม่สามารถประมวลผลสตรีมสดได้ การสตรีมไม่ใช่ฟีเจอร์ที่คุณค่อยเพิ่มทีหลังให้กับสถาปัตยกรรมที่อ่านคลิปทั้งคลิป แต่เป็นคุณสมบัติของเอนโคเดอร์

หากผลิตภัณฑ์ของคุณเกี่ยวข้องกับเสียงพูดภาษาจีน หรือภาษาถิ่น หรือไปป์ไลน์แบบแบตช์ที่ถอดความย้อนหลังและชื่อต่าง ๆ มีความสำคัญ Ming คือหนึ่งในสองตัวเลือกนี้เพียงตัวเดียวที่แก้ปัญหาดังกล่าวได้ และมันเพิ่งเปิดตัวได้ห้าวันโดยมียอดดาวน์โหลดอยู่ที่หลักสิบ คำแนะนำที่ตรงไปตรงมาคือให้ทำการทดสอบเปรียบเทียบกับเสียงของคุณเอง และให้คะแนนจากความสามารถในการเรียกคืนชื่อเฉพาะ (named-entity recall) แทนอัตราความผิดพลาดระดับตัวอักษร เพราะนั่นคือแกนที่ Ming ถูกสร้างขึ้นมาเพื่อรองรับ

สำหรับทีมที่กำลังทำการเปรียบเทียบแบบ bake-off นี้ ปัญหาด้านปฏิบัติการไม่ใช่ตัวโมเดล แต่คือระบบเชื่อมต่อ: สแตกสองชุด ชุดดีเพนเดนซีสองชุด ชุดข้อมูลรับรองสองชุด และไม่มีทางเปรียบเทียบทั้งสองบนทราฟฟิกเดียวกันได้โดยไม่ต้องสร้างฮาร์เนสขึ้นมา OrcaRouter ไม่ได้โฮสต์โมเดลใดในสองโมเดลนี้ — Ming-3.0-asr-tiny และ Moonshine 250M เป็นเวตเปิดที่โฮสต์เอง — แต่ก็รวมโมเดลที่โฮสต์ไว้กว่า 200 โมเดลไว้หลังคีย์ API เดียวพร้อมระบบ failover อัตโนมัติ ดังนั้น baseline แบบโฮสต์ที่คุณใช้ให้คะแนนเปรียบเทียบจึงอยู่เคียงข้างผู้สมัครที่คุณโฮสต์เองได้โดยไม่ต้องมีสัญญาที่สอง ราคาตามรายการของผู้ให้บริการถูกส่งต่อโดยมีมาร์กอัป 0% ซึ่งเป็นตัวเลขที่สำคัญเมื่อคุณเปรียบเทียบต้นทุนต่อชั่วโมงของเสียงแทนที่จะเป็นต้นทุนต่อโทเค็น

คำถามที่ยังเปิดอยู่ซึ่งน่าจับตา

การ์ดของ Ming ระบุว่าฮอตเวิร์ดเป็นเพียงคำใบ้ ไม่ใช่การรับประกัน และเอาต์พุตเป็นข้อความที่ไม่มีเวลาประทับระดับคำหรือการแยกผู้พูด การ์ดของ Moonshine ระบุว่าตัวถอดรหัสของมันสามารถสร้างคำขึ้นมาเองและทำวลีซ้ำในส่วนเสียงสั้นหรือมีเสียงรบกวน ทั้งสองซื่อสัตย์เกี่ยวกับรูปแบบความผิดพลาด ซึ่งมากกว่าที่การ์ดส่วนใหญ่ทำได้ และทั้งสองกำลังอธิบายข้อแลกเปลี่ยนพื้นฐานเดียวกันจากคนละสุดทาง: ตัวถอดรหัสออโตรีเกรสซีฟที่สร้างข้อความลื่นไหล บางครั้งก็จะสร้างข้อความลื่นไหลที่ไม่เคยถูกพูดจริง

สิ่งที่จะทำให้การเปรียบเทียบนี้ได้ข้อสรุปไม่ใช่เบนช์มาร์ก แต่เป็นกรณีการใช้งาน ลองรันทั้งสองตัวกับเสียงของคุณเองชุดเดียวกันยาวยี่สิบนาที — ครึ่งหนึ่งสด อีกครึ่งแบบแบตช์ ครึ่งหนึ่งภาษาอังกฤษ อีกครึ่งไม่ใช่ — แล้วการตัดสินใจจะไม่เกี่ยวกับจำนวนพารามิเตอร์อีกต่อไป จนถึงตอนนั้น คำอธิบายที่ถูกต้องของการเทียบกันครั้งนี้คือ โมเดลหนึ่งถูกสร้างมาเพื่อฟังอย่างต่อเนื่อง ส่วนอีกโมเดลถูกสร้างมาเพื่ออ่านอย่างละเอียด และชื่อของตัวที่เล็กกว่านั้นเป็นชื่อเรียกสั้น ๆ ทางการตลาดสำหรับเช็กพอยต์ที่จริง ๆ แล้วมี 266 ล้านพารามิเตอร์