Ming-3.0-asr-tiny กับ Granite Speech 5.0 470M TurboCTC: พารามิเตอร์มากกว่า 19 เท่า แต่ไม่มีทรูพุตเลย

วางMing-3.0-asr-tiny และ Granite Speech 5.0 470M TurboCTC ไว้ในหน้าเดียวกัน แล้วตัวเลขแรกที่โผล่ขึ้นมาคืออัตราส่วนพารามิเตอร์: 8.87 พันล้านเทียบกับ 470 ล้าน หรือประมาณสิบเก้าต่อหนึ่ง อย่างที่สองคือโมเดลเล็กคือตัวที่สร้างมาเพื่อความเร็วด้วยส่วนต่างมหาศาล และอย่างที่สามคือนี่ไม่ใช่ความขัดแย้ง Granite Speech 5.0 470M TurboCTC ไม่มีดีโคเดอร์ให้รัน — มันเป็นเอนโคเดอร์ที่ปล่อยอักขระออกมาแล้วหยุด Ming-3.0-asr-tiny มีดีโคเดอร์แบบ mixture-of-experts 24 ชั้นที่เขียนทีละโทเคน และสามารถบอกล่วงหน้าได้ว่าจะมีการเอ่ยชื่อใดบ้าง ตัวหนึ่งเป็นเครื่องจักรด้านทรูพุตสำหรับเสียงภาษาอังกฤษ อีกตัวเป็นเครื่องจักรด้านบริบทสำหรับเสียงภาษาจีน IBM เปิดตัว Granite Speech 5.0 470M TurboCTC เมื่อวันที่ 25 สิงหาคม 2026 พร้อมโพสต์บล็อก รายงานทางเทคนิค และรายการบนกระดานผู้นำ Open ASR; inclusionAI วางน้ำหนักของ Ming-3.0-asr-tiny บน Hugging Face เมื่อวันที่ 14 ตุลาคม 2026 โดยไม่มีการประกาศใด ๆ เลย ตัวเลข Granite ทุกตัวที่ใช้ที่นี่มาจาก การ์ดโมเดล Granite Speech 5.0 470M TurboCTC ซึ่งมีตาราง Open ASR การกวาดทดสอบเสียงรบกวน และข้อความระบุภาษาเดียว ความล้มเหลวของ AI และเหตุการณ์ของเอเจนต์ที่ได้รับการบันทึกไว้ซึ่งอยู่เบื้องหลังการเปิดตัวเช่นนี้ถูกรวบรวมไว้ใน the OrcaRouter AI Incident Archive โดยแต่ละรายการมีแหล่งที่มาของตัวเอง ระดับความรุนแรง เกรดความเชื่อมั่น และธงข้อโต้แย้ง

ไม่มีโมเดลใดอยู่ในแคตตาล็อกของ OrcaRouter และไม่มีโมเดลใดปรากฏในการประเมินของอีกฝ่าย ดังนั้นจึงไม่มีการเปรียบเทียบแบบตัวต่อตัวจากผู้ขายให้อ้างอิง ทุกอย่างด้านล่างนี้ดึงมาจากการกำหนดค่าและแผนภูมิที่เผยแพร่ของแต่ละโมเดลเอง โดยระบุที่มาไว้ตามนั้น

ทางแยกเชิงสถาปัตยกรรม พูดให้ตรง ๆ

Granite Speech 5.0 470M TurboCTC เป็นโมเดลแบบ encoder-only และ IBM ระบุว่าเป็นความตั้งใจที่จะตัดขาดจากอดีตของตนเอง โดยโมเดล Granite Speech รุ่นก่อนหน้าเป็น encoder อะคูสติก โปรเจกเตอร์ และโมเดลภาษา Granite ที่มี LoRA adapters กล่าวอีกนัยหนึ่งคือ它们是โมเดลภาษาที่สวมไมโครโฟน รุ่น 5.0 ตัดโมเดลภาษาออกทั้งหมด และปรับให้เหมาะสมกับวัตถุประสงค์ CTC บนหัว BPE ขนาด 16,384 หน่วย บล็อก conformer สิบหกบล็อก มิติซ่อน 1,024 หัว attention แปดหัว block attention เหนือ 128 เฟรม self-conditioning ที่บล็อกที่แปด และเคอร์เนลคอนโวลูชันกว้าง 7

การทำซับแซมปลิงเป็นส่วนที่สร้างความเร็ว เสียงเข้ามาในรูปแบบ log-mel บวกเดลตา ที่ 100 เฟรมต่อวินาทีใน 320 มิติ การลดขนาดลง 2 เท่าสามขั้นตอน — เริ่มจากรีเชปที่นำเฟรมต่อเนื่องมาซ้อนกัน จากนั้นใช้คอนโวลูชันแบบมีสไตรด์ภายในบล็อกคอนฟอร์เมอร์สองบล็อกแรก — ทำให้เหลือ 12.5 โทเคนเอาต์พุตต่อวินาที บล็อกของ IBM ระบุชัดเจนว่านี่คือการเปลี่ยนแปลงจากเอนโคเดอร์รุ่นก่อนๆ ของบริษัท ซึ่งปล่อยอักขระ 50 ตัวต่อวินาที: จำนวนขั้นตอนเอาต์พุตต่อเสียงหนึ่งวินาทีน้อยลงสี่เท่า และไม่มีลูปแบบ autoregressive ที่ตัดสินใจแต่ละขั้นตอน

Ming-3.0-asr-tiny ไปในทิศทางตรงกันข้ามในทุกแกนที่สำคัญตรงนี้ ตัวถอดรหัสของมันประกอบด้วยเลเยอร์ mixture-of-experts จำนวน 24 ชั้น มีผู้เชี่ยวชาญ 128 ตัว โดยกำหนดเส้นทางแปดตัวต่อโทเคน มี shared expert หนึ่งตัวและเลเยอร์แรกแบบ dense สลับระหว่างเลเยอร์ Kimi Delta Attention สามชั้นกับเลเยอร์ Gated MLA หนึ่งชั้น มันเขียนโทเคนแบบ autoregressive นอกจากนี้ยังมีเอนโคเดอร์รูปร่างแบบ Whisper จำนวน 32 ชั้น มิติ 1,280 — ซึ่งมีรูปร่างเหมือน Whisper large-v3 โดย repository มีไฟล์ modeling_whisper_encoder.py และประกาศ MIT ของ OpenAI ในไฟล์แยกต่างหาก Ming เก็บ language model ไว้และทำให้มันเป็นส่วนที่มีต้นทุนสูง

ตัวเลขเหล่านี้มาจากไหนกันแน่

ส่วนนี้คือส่วนที่ใช้ตัดสินว่าข้อกล่าวอ้างของแต่ละโมเดลสมควรได้รับความน่าเชื่อถือมากน้อยเพียงใด และการเปิดตัวทั้งสองครั้งนี้ก็ไม่สามารถนำมาเทียบกันได้ในเชิงประเภท

• Granite Speech 5.0 470M TurboCTC — ค่า WER รวมอยู่ที่ 5.00% ในชุดข้อมูลภาษาอังกฤษแบบสั้นสาธารณะบน Open ASR leaderboard ณ วันที่ 25 สิงหาคม 2026 โดยมี 1.93% บน LibriSpeech test-clean และ 3.59% บน test-other รุ่นพี่น้องที่ไม่ใช่เชิงพาณิชย์ได้คะแนน 4.85% อัตราการประมวลผลมากกว่า 12,600 RTFx บน H200 ตัวเดียวด้วยการอนุมานแบบแบตช์ มีรายงานทางเทคนิคบน arXiv และโพสต์บล็อกของ Hugging Face และผลลัพธ์ได้รับการส่งไปยังลีดเดอร์บอร์ดสาธารณะที่แสดงรายการเหล่านี้

• Ming-3.0-asr-tiny — ค่า CER เฉลี่ย 3.55 บนชุดข้อมูลสาธารณะภาษาจีน, WER เฉลี่ย 3.99 บนชุดข้อมูลสาธารณะภาษาอังกฤษ, 8.42 บนชุดข้อมูลภาษาถิ่น 15 ชุด, 1.67 ในห้าโดเมนภายในองค์กร, 4.36 บน aggregate ของ context-ASR ข้อมูลทั้งหมดนี้มีอยู่ในรูปแบบภาพ PNG บน model card ไม่มี technical report ไม่มีการส่งผลเข้าร่วม leaderboard และไม่มี evaluation script ใน repository

โพสต์บล็อกนั้นคุ้มค่าที่จะเปิดด้วยเหตุผลเดียวกับที่การ์ดโมเดลนั้นคุ้มค่า: มันคือร่องรอยที่ Ming ไม่มี IBM เผยแพร่บทความที่ระบุวันที่ รายงานทางเทคนิค และรายการบนลีดเดอร์บอร์ด และข้อกล่าวอ้างเรื่องทรูพุตในบทความนั้นสามารถตรวจสอบเทียบกับคอนฟิกแบตช์ที่บทความกล่าวถึงได้

ความไม่สมมาตรนั้นไม่ใช่การตำหนิตัวเลขของ Ming แต่เป็นข้อความเกี่ยวกับสิ่งที่คุณตรวจสอบได้ ใครก็ตามสามารถรันตัวเลข Open ASR ของ Granite ซ้ำจากข้อมูลสาธารณะได้ภายในบ่ายเดียว ส่วนการรันของ Ming ซ้ำนั้นต้องสร้างชุดทดสอบของมันขึ้นใหม่ รวมถึงโดเมนภายในองค์กรห้าโดเมนซึ่งไม่ได้เผยแพร่องค์ประกอบ

ความไม่สมมาตรอีกประการหนึ่ง และมันกลับกันในอีกทาง: สองโมเดลไม่ได้ใช้ชุดประเมินชุดเดียวกันแม้แต่ชุดเดียว แผนภูมิของ Granite เป็นภาษาอังกฤษเท่านั้น ครอบคลุม LibriSpeech, AMI, Earnings-22, GigaSpeech, SPGISpeech, TED-LIUM และ VoxPopuli ส่วนค่าเฉลี่ยภาษาอังกฤษของ Ming ใช้ LibriSpeech, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English และ VoxPopuli — ทับซ้อนกันสองในห้า โดยมีการรวมผลต่างกัน ผู้อ่านที่ต้องการรู้ว่า "ตัวไหนแม่นยำกว่ากันในภาษาอังกฤษ" จะไม่ได้คำตอบจากผู้ขายทั้งสองราย เพราะทั้งคู่ไม่ได้ตั้งคำถามนี้

คำว่า Speed ในที่นี้หมายถึงสองสิ่งที่แตกต่างกัน

12,600 RTFx ของ IBM เป็นตัวเลขทรูพุตแบบแบตช์: เสียงที่ถูกป้อนผ่าน GPU ครั้งละมาก ๆ มากกว่าสามชั่วโมงครึ่งของคำพูดต่อการประมวลผลหนึ่งวินาที มันเป็นตัวเลขที่เหมาะสำหรับการถอดเสียงคลังเก็บถาวร และแทบไม่มีความหมายสำหรับไมโครโฟนแบบสด IBM มีสตรีมมิ่งออกมาจริง — เดโม WebGPU ในเบราว์เซอร์, chunkwise attention และเส้นทาง MLX สำหรับ Apple Silicon — แต่ตัวเลขพาดหัวอธิบายกรณีแบบแบตช์

Ming ไม่ได้เผยแพร่ RTFx เลย สิ่งที่เผยแพร่คือขนาด ได้แก่ น้ำหนัก BF16 จำนวน 17.7 GB และตัวถอดรหัสแบบ autoregressive ที่มีผู้เชี่ยวชาญ 128 ตัว วงจรทีละโทเคนคือแบบจำลองต้นทุน เสียงที่เพิ่มขึ้นทุกวินาทีหมายถึงขั้นตอนของตัวถอดรหัสที่มากขึ้น และทุกขั้นตอนของตัวถอดรหัสต้องแตะการตัดสินใจเลือกเส้นทางในบรรดาผู้เชี่ยวชาญ 128 ตัว นั่นคือเหตุผลเชิงโครงสร้างที่โมเดลแบบ encoder-only ที่เล็กกว่า 19 เท่าเป็นตัวที่มีข้ออ้างเรื่อง throughput และไม่จำเป็นต้องมีการ benchmark ก็เป็นจริง

ผลลัพธ์ในทางปฏิบัติคือสิ่งเหล่านี้ไม่ได้แข่งขันกันสำหรับการปรับใช้แบบเดียวกัน Granite Speech 5.0 470M TurboCTC ถูกออกแบบมาให้อยู่บนแล็ปท็อป โทรศัพท์ หรือ H200 เครื่องเดียวที่ประมวลผลคลังพอดแคสต์อย่างต่อเนื่อง Ming-3.0-asr-tiny ต้องใช้ CUDA GPU, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 และ trust_remote_code=Trueรวมถึงอะแดปเตอร์ SGLang แยกต่างหากที่ปักหมุดไว้กับคอมมิตเฉพาะ หากคุณต้องการให้บริการมัน หนึ่งในนั้นคือรายการ dependency ที่คุณใส่ลงในผลิตภัณฑ์ได้

ความสามารถที่ Granite ยอมสละไปเพื่อไปให้ถึงจุดนั้น

การออกแบบแบบ encoder-only ให้ความเร็วและขนาดที่ดีกว่า และ IBM ก็เปิดเผยตรงไปตรงมาเกี่ยวกับสิ่งที่ต้องแลก บล็อกของบริษัทระบุว่าโมเดล 5.0 ยอมสละความสามารถที่เวอร์ชันที่มาพร้อม LM เคยมี โดยระบุชื่อการแปลเสียงพูดและ keyword biasing ตัวที่สองคือประเด็นที่น่าสนใจ เพราะ keyword biasing เป็นสิ่งที่ Ming เรียกว่า Context ASR และถือเป็นฟีเจอร์หลักของตน

Ming รองรับรายการคำฮอตเวิร์ดหรือบทสนทนาในเทิร์นก่อนหน้าเป็นส่วนหนึ่งของพรอมต์สำหรับการถอดเสียง และตัวอย่างของผู้ขายเองก็ให้แง่คิดที่ดี: คลิปเสียงที่ชื่อภาพยนตร์ 同囚 ถูกถอดออกมาเป็น 同球 เมื่อใช้เส้นทางปกติ และถอดได้ถูกต้องเมื่อมีการระบุหัวข้อและรายการฮอตเวิร์ด การ์ดนี้ระบุอย่างระมัดระวังว่าฮอตเวิร์ดเป็นเพียงคำใบ้ ไม่ใช่การรับประกัน ซึ่งเป็นการอธิบายอย่างตรงไปตรงมา — การให้น้ำหนักจะเปลี่ยนความน่าจะเป็น แต่ไม่ได้บังคับผลลัพธ์

Granite Speech 5.0 470M TurboCTC ไม่มีสิ่งใดเทียบเท่าได้ ไม่มีพรอมป์ต ไม่มีฟิลด์บริบท ไม่มีรายการชื่อให้ป้อน เพราะไม่มีโมเดลภาษาสำหรับกำหนดเงื่อนไข หากเสียงของคุณแน่นไปด้วยชื่อผลิตภัณฑ์ ชื่อยา หรือนามสกุลจากฐานข้อมูลลูกค้า โมเดลมีเครื่องมือเพียงอย่างเดียวเท่านั้น คือสิ่งที่มันเรียนรู้มาในระหว่างการฝึก คำตอบของ IBM สำหรับปัญหาประเภทนี้คือโน้ตบุ๊กสำหรับไฟน์ทูนด้วยข้อมูลของคุณเอง ซึ่งเป็นเวิร์กโฟลว์ที่แตกต่างออกไปและมีค่าใช้จ่ายที่ต่างกัน

การครอบคลุมภาษาเป็นไปในลักษณะเดียวกัน Granite เป็นภาษาอังกฤษ โดยระบุว่าเป็นภาษาที่รองรับเพียงภาษาเดียว ฝึกด้วยเสียงภาษาอังกฤษประมาณ 60,000 ชั่วโมงภายในสิบวันบน H100 จำนวนแปดตัว Ming รองรับภาษาจีนและอังกฤษ พร้อมชุดทดสอบภาษาถิ่นจีนระดับภูมิภาคสิบห้าชุด รวมถึงภาษากวางตุ้ง หมิ่นใต้ และเซี่ยงไฮ้ และมีค่าเฉลี่ยภาษาถิ่นที่ 8.42 ซึ่งแผนภูมิของมันเองจัดให้อยู่เหนือเส้นฐานแบบเปิดทุกรายการที่ระบุไว้

การเลือกระหว่างพวกมัน

หากเสียงของคุณเป็นภาษาอังกฤษและปัญหาของคุณคือปริมาณ — การบันทึกการโทร คลังเก็บข้อมูล ถอดความการประชุม หรืออะไรก็ตามที่ต้นทุนต่อชั่วโมงสำคัญกว่าความแม่นยำจุดสุดท้าย Granite Speech 5.0 470M TurboCTC คือจุดเริ่มต้นที่สมเหตุสมผลกว่า และข้อเท็จจริงที่ว่ามันทำงานแบบควอนไทซ์ผ่านรันไทม์ C++ แบบเนทีฟโดยไม่ต้องใช้ Python ถือเป็นข้อได้เปรียบด้านการติดตั้งใช้งานที่ความครอบคลุมภาษาถิ่นจีนมากเพียงใดก็ชดเชยไม่ได้

ถ้าเสียงของคุณเป็นภาษาจีนกลางหรือภาษาถิ่น หรือถ้าปัญหาด้านความแม่นยำคือคำวิสามานยนามที่คุณระบุล่วงหน้าได้ Ming-3.0-asr-tiny คือตัวเดียวในสองตัวที่จัดการเรื่องนี้ และจัดการด้วยสถาปัตยกรรมที่ออกแบบมาเพื่อสิ่งนี้โดยเฉพาะ ไม่ใช่การฟайнทูนที่ติดเพิ่มเข้ามา นอกจากนี้มันยังมีอายุเพียงห้าวันและมียอดดาวน์โหลด 35 ครั้ง ซึ่งหมายความว่าคุณจะเป็นหนึ่งในกลุ่มแรกที่ได้ค้นพบว่ามันล้มเหลวอย่างไร

มีกรณีที่สามที่ควรกล่าวถึง: คุณต้องการทั้งสองอย่าง และต้องการรู้ว่าตัวใดกำลังชนะบนทราฟฟิกของคุณเอง นี่คือปัญหาการจัดเส้นทางที่ OrcaRouter ถูกสร้างมาเพื่อแก้ไข ไม่มีโมเดลใดในสองตัวนี้ถูกโฮสต์ไว้ที่นั่น — Ming-3.0-asr-tiny และ Granite Speech 5.0 470M TurboCTC ต่างเป็นโมเดลน้ำหนักเปิดที่โฮสต์เอง — แต่ endpoint เดียวกันที่ให้บริการโมเดลที่โฮสต์ของคุณสามารถให้บริการเส้นทาง ASR ที่เป็นตัวเลือกได้ ด้วยระบบ failover อัตโนมัติ เพื่อให้คำขอที่ล้มเหลวถอยกลับไปยังตัวเดิมแทนที่จะปรากฏต่อผู้ใช้ และใช้คีย์เดียวข้ามโมเดลกว่า 200 ตัว เพื่อให้การเปรียบเทียบไม่ต้องมีสัญญาที่สอง

สิ่งที่ผู้จำหน่ายทั้งสองรายยังไม่เคยแสดงให้คุณเห็น

ทั้งสองโมเดลยังไม่เคยถูกให้คะแนนโดยผู้ใดที่เป็นอิสระเลย ตัวเลขของ Granite อย่างน้อยก็อยู่บน leaderboard สาธารณะที่ทีมอื่นก็ส่งผลเข้าร่วมด้วย ซึ่งหมายความว่าสามารถโต้แย้งได้ ส่วนของ Ming อยู่ในไฟล์ PNG สี่ไฟล์ที่ยังอยู่ระหว่างการแก้ไขในช่วงบ่ายของวันที่เผยแพร่ การ์ดของทั้งสองไม่ได้ระบุ word-level timestamps หรือ speaker diarisation ดังนั้น pipeline ใดก็ตามที่ต้องการข้อมูลเวลา จึงอยู่นอกขอบเขตสำหรับทั้งสอง — การ์ดของ Granite อธิบายว่าเอาต์พุตเป็นการถอดเสียงแบบธรรมดา และบันทึกการใช้งานของ Ming ระบุชัดเจนว่าเอาต์พุตเป็นข้อความถอดเสียงที่ไม่มี word-level timestamps หรือ speaker diarisation

การเปรียบเทียบที่จะชี้ขาดเรื่องนี้ได้จริงนั้น ผู้จำหน่ายทั้งสองรายไม่สามารถดำเนินการได้ ต้องใช้คลังข้อมูลชุดเดียว คู่ภาษาคู่เดียว สคริปต์ให้คะแนนชุดเดียว และโมเดลทั้งสองบน GPU ตัวเดียวกัน จนกว่าจะมีใครเผยแพร่สิ่งนั้น ข้อความเดียวที่ป้องกันได้คือสิ่งที่สถาปัตยกรรมทั้งสองบอกอยู่แล้ว นั่นคือ โมเดล autoregressive mixture-of-experts ที่ใหญ่กว่า 19 เท่าไม่ได้แข่งขันกับโมเดล CTC แบบ encoder-only ในเรื่องทรูพุต และโมเดล CTC แบบ encoder-only ไม่สามารถถูกกำหนดได้ว่าจะให้คาดหวังคำใด