การ์ดชื่อเรื่องที่สร้างขึ้นซึ่งอ่านว่า 'พารามิเตอร์สิบสามเท่า งานสองเท่าครึ่ง' พร้อมคำโปรยที่วาง Ming-3.0-audio-flash เทียบกับ Ming-3.0-audio-tiny ในฐานะการออกแบบเดียวในสองระดับขนาด อัปโหลดห่างกันสี่นาทีเมื่อวันที่ 3 กันยายน 2026 สามแถวที่มีหมายเลขกำกับอ่านว่า 'Flash: รวม 126B, ใช้งาน 6.5B, น้ำหนัก 259 GB, GPU 4 ถึง 8 ตัว', 'Tiny: รวม 9.3B, ใช้งาน 2.7B, น้ำหนัก 20.7 GB, GPU 1 ถึง 2 ตัว' และ 'Shared: สัญญาอนุญาต MIT, หน้าต่าง 131,072 โทเค็น, โทเค็นไนเซอร์เดียวกัน' ส่วนท้ายอ่านว่า 'ตัวเลขพารามิเตอร์ ขนาด และการให้บริการอ้างอิงตามรีโพซิทอรีของ inclusionAI วันที่ 18 พฤศจิกายน 2026'
Guides & Insights

Ming-3.0-audio-flash เทียบกับ Ming-3.0-audio-tiny: พารามิเตอร์มากกว่า 13 เท่า และปริมาณงานมากกว่า 2.5 เท่า

ผู้เขียน

Gideon Frost

วันที่เผยแพร่

โมเดลล่าสุด · 20ดูโมเดลทั้งหมด →
เบนช์มาร์ก: Artificial Analysis · อัปเดตทุกวัน
กลับไปยังโพสต์ทั้งหมด

Ming-3.0-audio-flash และ Ming-3.0-audio-tinyมาถึง Hugging Face ห่างกันสี่นาทีในวันที่ 3 กันยายน 2026 — tiny เวลา 11:45 UTC, flash เวลา 11:49 — และตั้งแต่นั้นมาทั้งคู่ก็ถูกสับสนว่าเป็นตัวเดียวกัน เช้านี้ความสับสนกลายเป็นรูปธรรม คลัง flash ถูกแก้ไขเมื่อ 08:26 UTC ด้วยคอมมิตชื่อ "Update Flash BBA score to 99.8% and add the overall #1 leaderboard result"; คลัง tiny ถูกแก้ไขสองนาทีแปดวินาทีถัดมา ด้วยคอมมิตชื่อ "Update shared Flash BBA score to 99.8%…" ซึ่งมีประโยคเดียวกันและไฟล์ PNG กระดานผู้นำเดียวกัน โมเดล tiny ไม่มีรายการ Artificial Analysis ของตัวเอง ดังนั้นหากคุณเคยเห็น 99.8% ที่ระบุว่าเป็นของ Ming-3.0-audio-tiny ตัวเลขนั้นเป็นของพี่ใหญ่ของมัน และเดินทางมาด้วยการคัดลอกวาง

สิ่งนี้ควรพูดก่อนเพราะมันเป็นกรอบให้ทุกอย่างที่เหลือ สองตัวนี้ไม่ใช่คู่แข่งกัน แต่เป็นดีไซน์เดียวกันในสองสเกล ซึ่งใช้โทเค็นไนเซอร์ หน้าต่างบริบท สัญญาอนุญาต และเส้นทางโค้ดสำหรับให้บริการร่วมกัน และต่างกันเพียงจำนวนเต็มไม่กี่ค่าภายใน config.json คำถามที่น่าสนใจไม่ใช่ว่าตัวไหนชนะ — flash ชนะในตัวเลขคุณภาพที่เผยแพร่ทุกตัว — แต่เป็นว่าคุณกำลังจ่ายเงินให้จำนวนเต็มค่าไหนจริง ๆ และตัวเล็กทำอะไรได้ดีกว่าจริง ๆ

สิ่งที่รีโพซิทอรีทั้งสองมีร่วมกันจริง ๆ

เริ่มจากส่วนที่เหมือนกันก่อน เพราะมีส่วนเหล่านี้มากกว่าที่คุณจะคาดไว้เมื่อเทียบกับช่องว่างของจำนวนพารามิเตอร์ 13.5×

• ชื่อสถาปัตยกรรม — ทั้งสองประกาศ model_type: bailing_moe_v3_audio ซึ่งเป็นเส้นทางโค้ด Transformers แบบกำหนดเองเดียวกัน

• โทเค็นไนเซอร์ — ทั้งสองใช้คลังคำศัพท์ 157,184 โทเค็น โดยมีตัวแทนเสียงที่ดัชนี 157,168 พรอมต์ที่เขียนขึ้นสำหรับตัวหนึ่งสามารถโหลดบนอีกตัวได้

• หน้าต่างบริบท — ทั้งสองระบุ max_position_embeddings: 131072โดยมีค่า RoPE theta เท่ากันที่ 6,000,000 และไม่มีการปรับสเกล

• ความกว้างของการจัดเส้นทาง — ทั้งสองเปิดใช้งานผู้เชี่ยวชาญ 8 คนต่อโทเค็น นี่คือตัวเลขที่ทำให้คู่นี้เปรียบเทียบกันได้เลย

• อินพุตและเอาต์พุต — อินพุตเป็นเสียงพร้อมคำสั่งที่เป็นข้อความ; เอาต์พุตเป็นข้อความ หรือข้อความพร้อมเสียงพูดสังเคราะห์ผ่าน Talker ที่เป็นตัวเลือก

• สัญญาอนุญาต — MIT ทั้งสอง个项目 โดยมีไฟล์ข้อจำกัดความรับผิดทางกฎหมายเดียวกัน

• โค้ด — README ของโมเดลขนาดจิ๋วบอกให้คุณ git clone รีโพซิทอรี GitHub ของโมเดล flash. มีอิมพลีเมนเทชันหนึ่งเดียว มีชุดสคริปต์ตัวอย่างหนึ่งชุด มีคู่มือเสียงหนึ่งชุด.

เนื่องจากโค้ดเป็นแบบใช้ร่วมกัน เช็กพอยต์ทั้งสองจึงสลับใช้แทนกันได้ทันทีในระดับ API การเปลี่ยนจากตัวหนึ่งไปอีกตัวเป็นเพียงการเปลี่ยนชื่อโมเดล ซึ่งเป็นคุณสมบัติที่ทำให้ไปป์ไลน์สองชั้นสร้างได้อย่างประหยัด และยังเป็นคุณสมบัติที่ทำให้เผยแพร่คะแนนของโมเดลผิดได้ง่ายอีกด้วย

A screenshot of the inclusionAI Ming-3.0-audio-flash model card on Hugging Face, showing the audio-to-audio tag, MIT licence, a reported model size of 128B params and 2,572 downloads in the last month, plus a model summary table that gives the developer as inclusionAI, the model type as a native audio-language mixture-of-experts, and 126B total parameters with 6.5B activated per inference step.

จำนวนเต็มสี่จำนวนที่ไม่ได้ใช้ร่วมกัน

ทุกสิ่งที่แตกต่างกันจะอยู่ใน text_config และมีเพียงตัวเลขสี่ตัวเท่านั้นที่สำคัญ

• เลเยอร์ — flash 42, tiny 24

• ผู้เชี่ยวชาญ — flash 512, tiny 128

• ความกว้างของ Expert — flash moe_intermediate_size 768, tiny 512

• ขนาด Hidden — flash 2,560, tiny 1,536

เมื่อคูณออกมาแล้ว คุณจะได้ตัวเลขหลักที่การ์ดระบุไว้: พารามิเตอร์ทั้งหมด 126B โดยมี 6.5B ที่ใช้งานอยู่สำหรับ flash, ทั้งหมด 9.3B โดยมี 2.7B ที่ใช้งานอยู่สำหรับ tiny บนดิสก์ ความแตกต่างคือน้ำหนัก bfloat16 จำนวน 259.33 GB ใน 25 ชาร์ด เทียบกับ 20.7 GB ในสองชาร์ด

ตอนนี้ให้ดูอัตราส่วนแทนตัวเลขสัมบูรณ์ เพราะนี่คือส่วนที่สเปกชีตมักซุกไว้ พารามิเตอร์ทั้งหมดต่างกัน 13.5 เท่า น้ำหนักบนดิสก์ต่างกัน 12.5 เท่า แต่พารามิเตอร์ที่ใช้งานจริงต่างกันเพียง 2.4 เท่า โมเดล flash เก็บคลังผู้เชี่ยวชาญที่ใหญ่กว่ามากและเรียกใช้จำนวนใกล้เคียงกัน ส่วนโมเดล tiny มีคลังเล็กกว่าและเรียกใช้จำนวนใกล้เคียงกัน ดังนั้น flash ไม่ได้แพงกว่า tiny ต่อโทเคนถึงสิบสามเท่า — แต่ใกล้เคียงสองเท่าครึ่งมากกว่า โดยมีพื้นที่หน่วยความจำใหญ่กว่าสิบสามเท่าซึ่งส่วนใหญ่ปล่อยว่างอยู่ นี่คือการแลกเปลี่ยนแบบ sparse-MoE แบบคลาสสิก และหมายความว่าต้นทุนที่แท้จริงของการเลือก flash คือความจุ ไม่ใช่ทรูพุต คุณกำลังซื้อคลังที่ใหญ่ขึ้น และคุณต้องเก็บคลังทั้งหมดไว้ในหน่วยความจำ ไม่ว่าคลิปที่กำหนดจะดึงมาใช้หรือไม่

A generated two-column scoreboard titled 'Ming-3.0-audio-flash vs Ming-3.0-audio-tiny - the scoreboard'. The flash column reads 126B total parameters, 6.5B active per step, 259 GB of weights, long-audio chain 12.31, URO-Bench-Pro 81.92, serving profile 4 x 80GB H800. The tiny column reads 9.3B total parameters, 2.7B active per step, 20.7 GB of weights, long-audio chain 10.56, URO-Bench-Pro 54.15, serving profile 1 GPU for text. The footer reads 'Sizes and serving profiles per the inclusionAI repositories; benchmark figures vendor-reported and unaudited.'

ผลที่ตามมาอย่างหนึ่งทำให้หลายคนประหลาดใจ โมเดลทั้งสองประกาศหน้าต่าง 131,072 โทเค็นเท่ากัน และชวนให้สรุปว่าทั้งคู่รองรับเสียงเดียวกันได้ แต่ไม่ใช่เช่นนั้น บริบทเป็นขีดจำกัด ไม่ใช่ความสามารถ และตัวเลขของผู้จำหน่ายเองในหัวข้อถัดไปแสดงให้เห็นชัดเจนว่าความเข้าใจของโมเดลที่เล็กกว่าหยุดลงตรงไหน ก่อนที่หน้าต่างจะเต็มเสียอีก

สิ่งที่ตารางของผู้ขายเองบอกไว้

ภาพการประเมินบนการ์ดทั้งสองใบถูกสร้างโดย inclusionAI และรายงานโมเดลทั้งสองรุ่นเคียงข้างกัน ตัวเลขเหล่านี้เป็นตัวเลขจากผู้จำหน่าย ยังไม่ผ่านการตรวจสอบ และการเลือกงานเป็นของผู้จำหน่าย อย่างไรก็ตาม ยังคงเป็นการเปรียบเทียบในระดับงานเพียงอย่างเดียวที่มีอยู่ เนื่องจาก Artificial Analysis ให้คะแนนเฉพาะรุ่น flash

• คะแนนเชนเสียงยาว — flash 12.31, tiny 10.56

• LongAudioSpan — flash 41.12, tiny 35.45

• URO-Bench-Pro — flash 81.92, tiny 54.15

• VoiceBench — flash 86.74, tiny 74.29

มีสองเรื่องที่ควรชี้ให้เห็นชัดเจน เรื่องแรกคือลำดับ: รุ่น tiny แพ้ในทุกข้อ ดังนั้นจึงไม่มีใครควรเลือกมันโดยคาดหวังความเท่าเทียม เรื่องที่สองซึ่งชัดเจนน้อยกว่า: ช่องว่างใหญ่กว่ามากใน benchmark ด้านการให้เหตุผลจากเสียง (URO-Bench-Pro ลดลง 27.8 คะแนน และ VoiceBench ลดลง 12.5) เมื่อเทียบกับ benchmark เสียงยาว (ลดลง 1.75 และ 5.67) ไม่ว่า experts และ layers ที่เพิ่มเข้ามาจะแลกอะไรมาได้ สิ่งที่ได้มาส่วนใหญ่คือความสามารถในการให้เหตุผลกับสิ่งที่ได้ยิน ไม่ใช่ความอึดดิบในการรับมือกับบันทึกเสียงยาว

และตัวเลขเสียงยาวของ flash เองก็อ่อนในเชิงสัมบูรณ์ — คะแนนเชน 12.31 จากสเกลเท่าไรก็ตามของ benchmark นั้น เทียบกับ 34.54 ของ Qwen3.8-Omni Flash และ 49.63 ของ Gemini 3.8 Flash บนการ์ดเดียวกัน ดังนั้นการตีความคู่นี้อย่างตรงไปตรงมาจึงไม่ใช่ "flash ดี tiny แย่" แต่คือทั้งสอง checkpoint ไม่ใช่โมเดลสำหรับบันทึกเสียงยาว และ tiny ก็ยังอ่อนกว่าอย่างชัดเจนในทุกสิ่งที่ benchmark เสียงสั้นวัด

เส้นแบ่งของฮาร์ดแวร์กำหนดขึ้นจากไบต์ ไม่ใช่พารามิเตอร์

นี่คือจุดที่การตัดสินใจมักเกิดขึ้นเอง และ README ทั้งสองฉบับระบุเจาะจงอย่างผิดปกติเกี่ยวกับโปรไฟล์ที่พวกเขาได้ตรวจสอบแล้ว

• Ming-3.0-audio-flash — โปรไฟล์การให้บริการ 128K อ้างอิงที่ tensor parallelism 4 บน H800 ขนาด 80 GB; เสียงยาวอาจทำให้เกิด OOM กับโปรไฟล์ดังกล่าว โดยมีแนวทางสำรองแบบ 8 GPU ที่จัดทำเอกสารไว้; SGLang ได้รับการตรวจสอบที่สี่ GPU สำหรับเอาต์พุตข้อความ; SGLang-Omni ที่ --thinker.tp_size 2 บนการ์ดสองใบ

• Ming-3.0-audio-tiny — vLLM-Omni โดยมี Thinker บน GPU หนึ่งตัวสำหรับข้อความและ ASR หรือ Thinker บน GPU 0 และ Talker บน GPU 1 สำหรับเสียงพูด; SGLang ผ่านการตรวจสอบบน GPU หนึ่งตัวสำหรับข้อความ; SGLang-Omni บนการ์ดเดียวกับ --talker.gpu 0.

อ่านบรรทัดเหล่านั้นในฐานะการตัดสินใจด้านโครงสร้างพื้นฐาน ไม่ใช่ข้อกำหนดสเปก Flash ต้องใช้โหนดที่มี GPU หลายตัวและต้องมีเหตุผลที่จะครอบครองมัน Tiny ต้องใช้การ์ดเพียงใบเดียว และหากคุณต้องการเพียงการถอดเสียงหรือการตอบคำถามจากเสียง มันต้องใช้การ์ดใบเดียวโดยไม่มี Talker เลย — ไม่มีขั้นตอนการสังเคราะห์เสียง ไม่มีโปรเซสที่สอง ไม่มีการเลือกเสียง ความแตกต่างในทางปฏิบัติระหว่างทั้งสองไม่ใช่จำนวน GPU ที่มากกว่าสี่เท่า แต่คือสิ่งที่คุณกำลังติดตั้งนั้นพอดีกับเครื่องที่คุณมีอยู่แล้วหรือไม่

มีผลกระทบลำดับที่สองที่ปรากฏในงานปฏิบัติการ checkpoint ขนาด 259 GB จำนวน 25 แชร์ดต้องถูกดึงไปยังทุกโหนดที่ให้บริการ checkpoint นั้น กำหนดเวอร์ชัน และดูแลให้พร้อมใช้งานอยู่เสมอ โปรไฟล์สำรองแบบแปด GPU หมายความว่าแผนความจุของคุณต้องรองรับโมเดลที่บางครั้งต้องใช้การ์ดเป็นสองเท่าสำหรับทราฟฟิกเท่าเดิม checkpoint ขนาด 20.7 GB จำนวนสองแชร์ดพอดีอยู่ในเลเยอร์อิมเมจคอนเทนเนอร์ เริ่มทำงานได้ในไม่กี่วินาที และขยายขนาดได้ด้วยการเพิ่มรีพลิกา สำหรับเครื่องมือภายในที่ทราฟฟิกเป็นช่วง ๆ ความแตกต่างนี้มีอิทธิพลเหนื่อตัวเลขคุณภาพทุกตัวในบทความนี้

A screenshot of the inclusionAI Ming-3.0-audio-tiny model card on Hugging Face, showing the audio-to-audio tag, MIT licence, a reported model size of 9B params and 5,442 downloads in the last month, the headline 'Hear clearly. Understand deeply. Act intelligently.', and a model summary table listing the developer as inclusionAI, the model type as a compact native audio-language mixture-of-experts, and 9.3B total parameters with 2.7B activated per inference step.

ไปป์ไลน์แบบสองชั้นที่เช็กพอยต์ทั้งสองนี้ถูกสร้างขึ้นมาเพื่อ

นี่คือกรณีการใช้งานที่คู่นี้รองรับจริง และเป็นกรณีที่ model card ของโมเดลทั้งสองไม่ได้อธิบายไว้: รัน tiny model กับทุกอย่าง และรัน flash model เฉพาะกับสิ่งที่รอดเท่านั้น

การประมวลผลรอบแรกแบบประหยัดด้วย Ming-3.0-audio-tiny สามารถตอบได้ว่า "ไฟล์นี้มีเสียงพูดหรือไม่", "เป็นภาษาใด", "มีผู้พูดกี่คน", "เสียงสะอาดพอที่จะคุ้มค่าต่อการถอดความหรือไม่" — และทำได้บนการ์ดเพียงใบเดียวด้วยอัตราที่การ์ดนั้นรองรับได้ โดยมีเพียงคลิปที่ต้องใช้การวิเคราะห์ การจัดการภาษาถิ่น หรือการถอดความอย่างละเอียดเท่านั้นที่จะถูกส่งต่อไปยัง Ming-3.0-audio-flash เนื่องจากตัวตัดคำ รูปแบบพรอมต์ และโค้ดสำหรับให้บริการถูกใช้ร่วมกัน การเรียกครั้งที่สองจึงเป็นคำขอเดิมแต่ใช้ชื่อโมเดลต่างกัน ไม่มีการเข้ารหัสใหม่ ไม่มีการเขียนพรอมต์ใหม่ และไม่มีการเชื่อมต่อระบบครั้งที่สองให้ต้องดูแล

จุดสำคัญอยู่ที่เรื่องเศรษฐศาสตร์ ถ้าหนึ่งในห้าของออดิโอของคุณเป็นงานยาก โมเดล flash จะเห็นปริมาณเพียงหนึ่งในห้า และคุณสามารถกำหนดขนาดโหนดให้รองรับสัดส่วนนั้นแทนที่จะรองรับช่วงพีคได้ ถ้าออดิโอเกือบทั้งหมดเป็นงานยาก คาสเคดก็ไม่ได้ประโยชน์อะไร และคุณควรใช้ flash อย่างเดียว — ซึ่งเป็นสิ่งที่มีประโยชน์ที่จะได้เรียนรู้จากการคัดแยกด้วยโมเดลขนาดเล็กเป็นเวลาหนึ่งสัปดาห์ก่อนที่คุณจะลงทุนกับ H800 สี่ตัว

รูปแบบเดียวกันนี้ปรากฏขึ้นหนึ่งชั้นถัดไป ในการเรียกข้อความรอบ ๆ โมเดลเสียง ได้แก่ ตัวจำแนกที่ตัดสินว่าคลิปหนึ่งอยู่ในระดับใด การสกัดแบบมีโครงสร้างจากบทถอดความ และบทสรุปที่เขียนขึ้นภายหลัง สิ่งเหล่านี้คือการเติมข้อความแชททั่วไป และ OrcaRouter กำหนดเส้นทางให้它們ข้ามโมเดลมากกว่า 200 โมเดลภายใต้คีย์เดียวโดยบวกกำไร 0%พร้อมการสลับไปยังระบบสำรองโดยอัตโนมัติ — เพื่อให้ตัวจำแนกที่ควบคุมระดับเสียงที่มีต้นทุนสูงของคุณไม่กลายเป็นส่วนประกอบที่ทำให้ไปป์ไลน์ล่ม DSL การกำหนดเส้นทางคือส่วนที่ทำให้การตัดสินใจเรื่องระดับสามารถแสดงออกมาเป็นการกำหนดค่าแทนที่จะเป็นโค้ด: ส่งคลิปสั้นที่สะอาดไปทางหนึ่ง คลิปยาวหรือที่มีสำเนียงอีกทางหนึ่ง และปล่อยให้โมเดลสำรองครอบคลุมช่องว่างเมื่อผู้ให้บริการมีประสิทธิภาพลดลง เราไม่ได้ให้บริการเช็กพอยต์ Ming ทั้งสองตัว ทั้งคู่เป็นไฟล์ดาวน์โหลดที่คุณรันเอง

วิธีจัดการเรื่องนี้ด้วยเสียงของคุณเอง

ทั้งสองเช็กพอยต์เป็น MIT ทั้งคู่ใช้เส้นทางโค้ดเดียวกัน และในกรณีเล็กมากทั้งคู่ก็เล็กพอที่จะทดสอบได้โดยไม่ต้องมีการหารือเรื่องการจัดซื้อจัดจ้าง สิ่งนี้ทำให้การวัดผลสักหนึ่งบ่ายให้ข้อมูลที่เป็นประโยชน์มากกว่าตัวเลขใด ๆ ข้างต้น

ดึงสองร้อยคลิปจากทราฟฟิกของคุณเอง โดยให้น้ำหนักไปทางเคสยาก — คำพูดที่มีสำเนียง ผู้พูดพูดทับกัน เสียงรบกวนพื้นหลัง และบันทึกเสียงยาวที่คุณมีอยู่จริง รันทั้งสองโมเดลด้วยพรอมป์ต์เดียวกัน แล้วให้คะแนนสามอย่าง: ความแม่นยำในการถอดเสียงเป็นข้อความบนคลิปที่คุณมีเฉลย ป้ายกำกับภาษาถูกต้องหรือไม่ และเอาต์พุตใช้ไม่ได้บ่อยแค่ไหน ไม่ใช่แค่ผิด จากนั้นรันแคสเคดและวัดว่ามีกี่คลิปที่โมเดลเล็กจัดการได้ดีพอจนไม่ต้องใช้โมเดลแฟลชเลย

ตัวเลขสุดท้ายตัวนั้นเป็นตัวเดียวที่ตัดสินโครงสร้างพื้นฐาน ถ้ามันออกมาสูง คุณจะได้การติดตั้งแบบ GPU ตัวเดียวที่มีโมเดลขนาดใหญ่คอยรองรับส่วนท้ายอยู่เบื้องหลัง ถ้ามันออกมาต่ำ คุณได้เรียนรู้ว่าเวิร์กโหลดของคุณคือเวิร์กโหลดที่ flash model ถูกสร้างมาเพื่อรองรับ และ tiny เป็นการทดลองที่มีประโยชน์มากกว่าจะเป็นระดับชั้นหนึ่ง คำตอบไม่ว่าทางไหนก็มีต้นทุนต่ำ แต่การเดาจากจำนวนพารามิเตอร์ไม่ใช่ เพราะ 13.5× บนการ์ดและ 2.4× ในงบประมาณการคำนวณชี้ไปยังฮาร์ดแวร์ที่แตกต่างกันโดยสิ้นเชิง และมีเพียงข้อมูลที่คุณบันทึกไว้เท่านั้นที่บอกได้ว่าคุณกำลังซื้อตัวไหน

© 2026 OrcaRouter

สำหรับผู้ให้บริการ

ให้บริการแพลตฟอร์มการอนุมานอยู่หรือไม่ นำโมเดลของคุณขึ้น OrcaRouter

[email protected]

เข้าร่วมคอมมูนิตี้ของเรา

Discord[email protected]XLinkedInGitHubYouTube