Nemotron 3.5 Transcribe เทียบกับ NVIDIA Parakeet TDT 0.6B: ผู้ครองตำแหน่งที่มียอดดาวน์โหลด 626,000 ครั้ง ได้พบกับผู้สืบทอดตำแหน่งของตน

ยอดดาวน์โหลดบน Hugging Face มากกว่า 626,000 ครั้งเป็นของ NVIDIA Parakeet TDT 0.6B ซึ่งเป็นทรานสดิวเซอร์ขนาด 600 ล้านพารามิเตอร์ที่เป็นตัวรู้จำภาษาอังกฤษแบบโฮสต์เองโดยค่าเริ่มต้นตั้งแต่เปิดตัวในเดือนสิงหาคม 2025 แทบไม่มีใครใช้งานมันเดี่ยว ๆ เลย: การติดตั้งใช้งานมาตรฐานคือใช้ Parakeet สำหรับถ้อยคำ ตัวแยกผู้พูดแยกต่างหาก และขั้นตอนรวมผลเพื่อเย็บเอาต์พุตทั้งสองเข้าด้วยกันที่ขอบเขตของเซกเมนต์ Nemotron 3.5 Transcribe ซึ่งเผยแพร่เป็นน้ำหนักเปิดในวันที่ 28 ตุลาคม 2026 เป็นข้อเสนอของ NVIDIA ที่จะลบเลเยอร์ตรงกลางนั้นออก — เช็กพอยต์เดียวที่ถอดเสียง แยกเสียงได้สูงสุดแปดเสียงและประทับเวลาให้ พร้อมรองรับสี่สิบภาษา โดยไม่ต้องใช้คาสเคด นอกจากนี้ยังช้ากว่าถึงสี่สิบสามเท่าต่อ GPU-วินาที และมีขนาดบนดิสก์ใหญ่กว่าประมาณยี่สิบห้าเท่า ซึ่งเป็นส่วนที่ประกาศไม่ได้พูดถึงเป็นอันดับแรก

สิ่งที่น่าสนใจเกี่ยวกับการเปรียบเทียบนี้คือโมเดลทั้งสองเป็นของบริษัทเดียวกัน นี่ไม่ใช่ผู้ท้าชิงที่มาจากภายนอกเพื่อเข้ามาแทนที่ผู้นำตลาดเดิม แต่เป็น NVIDIA ที่ขายผลิตภัณฑ์ชิ้นที่สองซึ่งหนักกว่ามากให้คุณ เพื่อทำงานอีกครึ่งหนึ่งซึ่งผลิตภัณฑ์แรกของพวกเขาไม่เคยถูกสร้างขึ้นมาเพื่อทำสิ่งนั้น

สองสถาปัตยกรรม สองทฤษฎีเกี่ยวกับงาน

Parakeet TDT 0.6B v3 คือเอนโคเดอร์ FastConformer ที่ป้อนดีโคเดอร์แบบ token-and-duration transducer โมเดล TDT จะทำนายทั้งโทเคนและระยะเวลาต่อหนึ่งขั้น ซึ่งทำให้สามารถข้ามเฟรมและทำงานเร็วกว่าเวลาจริงได้มาก นั่นคือเหตุผลทั้งหมดที่มันเร็ว มันรองรับ 25 ภาษายุโรปพร้อมการตรวจจับภาษาอัตโนมัติ มีการประทับเวลาระดับคำในตัว และเผยแพร่ภายใต้ CC-BY-4.0 ซึ่งแทบจะเป็นสัญญาอนุญาตที่ไม่มีข้อผูกมัดมากที่สุดเท่าที่จะเป็นไปได้ มันไม่มีการแทนผู้พูดใด ๆ เลย — ไม่ใช่แบบอ่อน แต่ไม่มีเลย

Nemotron 3.5 Transcribe เป็นโมเดลภาษาที่เสริมความสามารถด้านเสียงพูด ประกอบด้วยตัวเข้ารหัสเสียงพูด โมเดล Nemotron 3 Diarization แบบแช่แข็งที่ฉีดคุณลักษณะกิจกรรมของผู้พูดผ่าน Parallel Expert Encoder และตัวถอดรหัสแบบผสมผู้เชี่ยวชาญ (mixture-of-experts) ที่ผสาน Mamba–Transformer แบบไฮบริด โดยมีพารามิเตอร์ประมาณ 4 พันล้านตัวจากทั้งหมด 30 พันล้านตัวที่ทำงานในแต่ละโทเคน โมเดลนี้ไม่ได้จำแนกเฟรม แต่สร้างข้อความ ซึ่งเป็นเหตุผลว่าทำไมจึงสามารถสั่งให้มันสร้างข้อความได้อย่างไร

• พารามิเตอร์ — รวมทั้งหมดประมาณ 30B โดยใช้งานจริงประมาณ 4B ต่อโทเค็น เทียบกับ 600M

• การถอดรหัส — การสร้างแบบ autoregressive เทียบกับ token-and-duration transducer แบบ non-autoregressive

• สัญญาอนุญาต — OpenMDW-1.1 เทียบกับ CC-BY-4.0

• ภาษา — ถอดเสียง 40 ภาษา, แปลไปหรือมาจากภาษาอังกฤษ 31 ภาษา เทียบกับ 25 ภาษายุโรปที่มีการตรวจจับอัตโนมัติ

• ผู้พูด — สูงสุด 8 คน พร้อมระบุว่าใครเป็นผู้พูด ใน 13 ภาษา เทียบกับไม่มีเลย

• การประทับเวลา — การจัดแนว CTC หลังถอดรหัส, การระบุเวลาระดับคำที่กำหนดผู้พูด เทียบกับแบบเนทีฟ

• ปริมาณงาน (Throughput) — RTFx 462 บน Open ASR Leaderboard เทียบกับ RTFx 3,333

• ความยาวเสียงและการสตรีม — ไฟล์ละ 1 ชั่วโมง, แบบบันทึกเท่านั้นเทียบกับแบบบันทึก, โดยมีโมเดลสตรีมมิ่งขนาด 0.6B ที่เป็นรุ่นพี่น้องจัดการเสียงสดแยกต่างหาก

ตัวเลขความแม่นยำจะเปลี่ยนไปตามว่าใครเป็นผู้โฮสต์

ในค่าเฉลี่ยภาษาอังกฤษแบบข้อความสั้นของ Open ASR Leaderboard บน Hugging Face นั้น Parakeet TDT 0.6B v3 อยู่ที่ 6.34% และ Nemotron 3.5 Transcribe อยู่ที่ 5.33% นั่นคือช่องว่างประมาณหนึ่งจุดบนลีดเดอร์บอร์ดสาธารณะเดียวกัน ซึ่งเป็นการเปรียบเทียบที่น่าเชื่อถือกว่าการเปรียบเทียบส่วนใหญ่ในชุดบทความนี้ — ใช้ชุดทดสอบเดียวกัน ชุดข้อมูลทดสอบเดียวกัน และเป็นการส่งผลของผู้พัฒนาทั้งสองรายเอง แต่เรื่องนี้ยังไม่ใช่ภาพรวมทั้งหมด เพราะทั้งสองรายการถูกให้คะแนนในเวลาที่ต่างกัน และค่าเฉลี่ยของลีดเดอร์บอร์ดได้รับอิทธิพลหลักจากเสียงพูดอ่านออกเสียงที่สะอาด

Artificial Analysis เล่าเรื่องที่แตกต่างออกไปมาก และควรค่าแก่การทำความเข้าใจว่าทำไม บนกระดานนั้น รายการ Parakeet อยู่ที่ 4.5% ซึ่งนำหน้าค่าเฉลี่ย Open ASR ของมันมากกว่าที่ค่าเฉลี่ยนั้นจะบ่งชี้ ขณะที่ Nemotron 3.5 Transcribe อยู่ที่ 3.4% ค่า 4.5% นั้นเป็นของการกำหนดค่าของ endpoint ที่โฮสต์ไว้ ไม่ใช่ของ checkpoint บนฮาร์ดแวร์ของคุณเอง และตัวเลือกด้าน batching และ decoding ของผู้ติดตั้งระบบทำให้ตัวเลขขยับได้เกือบหนึ่งจุด การนำคะแนน Parakeet ที่โฮสต์ไว้มาเปรียบเทียบกับคะแนนที่โฮสต์เองนั้นเป็นข้อผิดพลาดที่พบบ่อยที่สุดเพียงหนึ่งเดียวในการรายงานข่าวสัปดาห์นี้ และมันก็ให้ผลในทางกลับกันเช่นกัน: ข้อกล่าวอ้างตอนเปิดตัวของ NVIDIA ที่ 2.8% สำหรับ Nemotron เป็นตัวเลขจากการส่งผล และ 3.4% ปัจจุบันบนกระดานคือผลการวัด

ภาพที่ผ่านการตรวจทานโดยมนุษย์อย่างเป็นอิสระนั้นแคบลงไปอีก ในชุดภาษาอังกฤษของ Perit นั้น Parakeet TDT 0.6B v3 อยู่ที่ WER 2.13% อันดับ 14 จาก 22 โดย 54% ของคลิปถูกถอดความได้อย่างสมบูรณ์ GPT Transcribe และ MAI Transcribe 2 อยู่ที่ 1.76% ในอันดับที่ 6 และ 7 เช็กพอยต์ 30B ของ Nemotron 3.5 Transcribe ไม่ได้อยู่ในตารางอันดับนั้นเลย ส่วนโมเดล nemotron-3.5-asr-streaming-0.6b ที่อยู่ในตารางนั้นอยู่ที่ 3.35% อันดับ 21 — เป็นโมเดลคนละตัวสำหรับงานคนละแบบ และมักถูกเข้าใจผิดว่าเป็นตัวที่บทความนี้กำลังพูดถึง

สิ่งที่การแทนที่ลบจริง ๆ

โครงสร้างแบบคาสเคดที่ผู้ใช้ Parakeet ใช้งานอยู่ในปัจจุบันมีสามส่วนและมีโหมดความล้มเหลวสามแบบ ตัวรู้จำเสียงสร้างข้อความพร้อมเวลาของแต่ละคำ ตัวแยกผู้พูด (diarizer) สร้างช่วงการพูดของผู้พูด การรวม (merge) เป็นการกำหนดช่วงการพูดให้กับคำ และทำเช่นนั้นด้วยฮิวริสติกแบบทับซ้อนซึ่งผิดพลาดในจุดที่สำคัญที่สุดพอดี — เมื่อมีคนสองคนพูดพร้อมกัน ตัวเลขที่ NVIDIA รายงานเองสำหรับการแทนที่ด้วยโมเดลเดียวเล็งเป้าไปที่ความล้มเหลวนั้นโดยตรง: อัตราความผิดพลาดของการแยกผู้พูด 18.26% ครอบคลุม 21 ภาษา บนเบนช์มาร์ก David AI ซึ่งดีที่สุดในบรรดา 14 ระบบ; WER แบบ concatenated min-permutation 32.4% บน VoiceArena ซึ่งดีที่สุดในบรรดา 14 ระบบ โดยอันดับรองลงมาคือคาสเคด Multitalker Parakeet ร่วมกับ Nemotron 3 Diarization ที่ 34.2%; และคำอ้างอิงถูกตัดทิ้ง 8.32% ในเสียงพูดภาษาอังกฤษที่มีการพูดทับซ้อน เมื่อเทียบกับค่ามัธยฐานที่ประมาณ 31%

นั่นคือตัวเลขจากผู้ขายบนฮาร์เนสของผู้ขาย และยังไม่ได้รับการทำซ้ำอย่างอิสระ แต่สังเกตว่าอันดับรองคืออะไร: แคสเคดของ NVIDIA เอง ซึ่งสร้างจากโมเดลในชื่อของการเปรียบเทียบนี้ บริษัทกำลังเผยแพร่การทดสอบมาตรฐานที่ผลิตภัณฑ์ใหม่ของตนเอาชนะผลิตภัณฑ์เก่าบวกกับตัวแยกผู้พูด นั่นเป็นหลักฐานที่ตรงไปตรงมาอย่างผิดปกติ และยังเป็นหลักฐานประเภทที่ผู้ขายอยู่ในตำแหน่งที่ดีที่สุดในการผลิต และมีแนวโน้มน้อยที่สุดที่จะเผยแพร่หากผลออกไปในทางตรงกันข้าม

สิ่งที่สองที่ตัวแทนลบออกไปคือการจัดการภาษา Parakeet รองรับ 25 ภาษายุโรป ส่วน Nemotron รองรับ 40 ภาษาสำหรับการถอดเสียง และ 31 ภาษาสำหรับการแปลเป็นหรือจากภาษาอังกฤษ โดยมีการระบุผู้พูดใน 13 ภาษา หากคิวของคุณหยุดอยู่ที่ EU ความแตกต่างนั้นก็เป็นเพียงเรื่องทางวิชาการ หากคิวนั้นรวมภาษาอาหรับ จีนกลาง ฮินดี หรือญี่ปุ่น Parakeet ก็ไม่เคยเป็นตัวเลือกตั้งแต่แรก และการเปรียบเทียบก็คือระหว่าง Nemotron กับสิ่งอื่นโดยสิ้นเชิง

ค่าใช้จ่ายที่คุณต้องจ่ายเพื่อเปลี่ยนมันคือเท่าไร

เริ่มจากทรูพุตก่อน 3,333 RTFx ของ Parakeet เทียบกับ 462 ของ Nemotron คือความต่าง 7.2× บนฮาร์เนสของลีดเดอร์บอร์ดชุดเดียวกัน — เป็นช่องว่างที่เล็กกว่าที่อัตราส่วนพารามิเตอร์บ่งชี้นัย เพราะ MoE เปิดใช้งานเพียงประมาณ 4 พันล้านจาก 30 พันล้านค่าน้ำหนักต่อโทเคน แต่ก็ยังเป็นช่องว่างจริง ๆ อยู่ดี คำกล่าวอ้างที่หวือหวากว่าของ NVIDIA ซึ่งระบุว่าสูงถึง 2,238 วินาทีของเสียงต่อวินาทีบน RTX PRO 6000 Blackwell หนึ่งตัวนั้น อาศัยเช็กพอยต์ NVFP4 ร่วมกับโมเดลดราฟต์ DFlash2 และวัดบนคลิป 30 วินาทีที่การประมวลผลพร้อมกันสูง ตัวเลขทั้งสองไม่ได้ผิด — มันวัดการตั้งค่าที่ต่างกัน และแผนความจุที่อิงจากตัวเลขที่ใหญ่กว่าจะทำให้คุณผิดหวังในการประชุมยาวหนึ่งชั่วโมง

Footprint เป็นข้อที่สอง Parakeet TDT 0.6B ใช้พื้นที่เพียงไม่กี่กิกะไบต์และทำงานได้สบายบน GPU ระดับกลาง ส่วนบิลด์แบบควอนไทซ์ทำงานบน CPU ได้ Nemotron 3.5 Transcribe มีขนาดหลายสิบกิกะไบต์ใน BF16 และต้องใช้ vLLM พร้อมปลั๊กอิน NeMo Speech หรือ SGLang-Omni บนตัวเร่งความเร็วสำหรับศูนย์ข้อมูล ไม่มีเวอร์ชันใดที่โมเดล 30B จะมาแทนที่โมเดล 0.6B บนฮาร์ดแวร์เดียวกันได้

ความสมบูรณ์ ข้อที่สาม Parakeet มีประสบการณ์ใช้งานจริงมาหนึ่งปี มีคำตอบในฟอรัมหนึ่งพันรายการ และมีชุดเครื่องมือที่ใช้งานได้ใน NeMo, Transformers และ C++ runtime ส่วน Nemotron 3.5 Transcribe เพิ่งมีอายุได้หนึ่งวัน การรองรับ GGUF และ NeMo-Speech.cpp ถูกระบุว่ากำลังจะมาในเร็ว ๆ นี้ ส่วนบิลด์โลคอลแบบควอนไทซ์ยังไม่เปิดตัว หากไปป์ไลน์ของคุณจำเป็นต้อง “น่าเบื่อ” นั่นคือเหตุผลให้รออีกหนึ่งไตรมาส มากกว่าจะเป็นเหตุผลในการปฏิเสธโมเดลนี้

ในกรณีที่ผู้ดำรงตำแหน่งเดิมยังคงชนะอย่างเด็ดขาด

ประการแรกคืออะไรก็ตามที่เป็นแบบโต้ตอบได้ การถอดรหัสแบบ transducer ของ Parakeet จะคืนคำออกมาในขณะที่เสียงมาถึง และ timestamp แบบเนทีฟของมันเป็นคุณสมบัติของตัวถอดรหัส ไม่ใช่ขั้นตอนการจัดแนวแบบย้อนหลัง Nemotron 3.5 Transcribe ถูกสร้างขึ้นอย่างชัดเจนสำหรับเสียงที่บันทึกไว้ — โพสต์บน Hugging Face ของ NVIDIA เองระบุไว้เช่นนั้น — และมีโมเดลสตรีมมิ่งแยกต่างหากขนาด 0.6B สำหรับเซสชันแบบสด หากผลิตภัณฑ์ของคุณคือคำบรรยายแบบสด โมเดลทั้งสองในพาดหัวนี้ไม่ใช่คำตอบที่ถูกต้อง โมเดลสตรีมมิ่งในตระกูลเดียวกันต่างหากคือคำตอบ และนั่นเป็นการเปรียบเทียบที่แตกต่างออกไป

อะไรก็ตามที่ติดตั้งภายในองค์กรในขนาดเล็กสำหรับสองคน คลินิกที่มีการ์ดเวิร์กสเตชันหนึ่งใบ สำนักงานกฎหมายที่มีคลังเอกสารและเจ้าหน้าที่กำกับดูแลการปฏิบัติตามกฎระเบียบ กลุ่มวิจัยที่มีทุน GPU เพียงตัวเดียว: Parakeet ขนาด 0.6B คือการติดตั้งใช้งานที่สมจริง ส่วน Nemotron ขนาด 30B ไม่ใช่ ส่วนต่างความแม่นยำราวหนึ่งจุดบนภาษาอังกฤษที่ชัดเจนไม่คุ้มกับฮาร์ดแวร์ที่ต้องใช้

อะไรก็ได้ที่เป็นภาษาอังกฤษล้วนและไม่มีความต้องการระบุผู้พูด สำหรับสามรายการ ซึ่งส่วนใหญ่เป็นงานถอดเสียง สรุปตามจริงก็คือ การดาวน์โหลดส่วนใหญ่ของ Parakeet จำนวน 626,000 ครั้ง ใช้กับงานที่การอัปเกรดไม่ได้ทำให้ดีขึ้น

การทำให้ไปป์ไลน์ยังทำงานได้แม้ครึ่งหนึ่งของมันเป็นฮาร์ดแวร์ของคุณเอง

การโฮสต์ตัวรู้จำด้วยตนเองทำให้เกิดโหมดความล้มเหลวแบบหนึ่งที่ API แบบ managed ไม่มี นั่นคือ การ์ดของคุณ ไดรเวอร์ของคุณ และช่วงเวลาบำรุงรักษาของคุณ นี่คือเหตุผลโดยตรงที่ต้องเก็บอีกครึ่งหนึ่งของไปป์ไลน์ — ตัวสรุป ตัวจำแนก และตัวสกัดที่เปลี่ยนบทถอดเสียงให้เป็นระเบียนแบบมีโครงสร้าง — ไว้บนเอนด์พอยต์ที่มีระบบสำรองซ้ำซ้อนในตัว OrcaRouter รองรับโมเดลข้อความและมัลติโมดัลมากกว่า 200 โมเดลภายใต้คีย์เดียว โดยมี การ failover อัตโนมัติข้ามผู้ให้บริการเมื่อระบบต้นทางมีประสิทธิภาพลดลง ราคาตามรายการของผู้ให้บริการถูกส่งผ่านโดยไม่มีมาร์กอัป 0% และมี routing DSL ที่ให้คุณกำหนดบันทึกการประชุมและบันทึกการโทรไปยังโมเดลต่างๆ ได้โดยไม่ต้องผสานรวมซ้ำ Nemotron 3.5 Transcribe และ Parakeet TDT 0.6B ต่างอยู่นอกแคตตาล็อกนั้น — เราไม่ให้บริการ speech-to-text — แต่เลย์เวอร์ที่อ่านเอาต์พุตของโมเดลเหล่านี้ไม่จำเป็นต้องล้มเหลวเมื่อ GPU ตัวใดตัวหนึ่งล้มเหลว

การตัดสินใจอัปเกรด

เปลี่ยน Parakeet เป็น Nemotron 3.5 Transcribe หากแคสเคดคือสิ่งที่สร้างความลำบากให้คุณ: หากคุณต้องดูแลตัวแยกผู้พูดและขั้นตอนการรวมผล หากการประชุมของคุณมีผู้พูดมากกว่าสองคน หากเสียงของคุณไม่ใช่ภาษายุโรป หรือหากคำว่า "overlapping speech" ปรากฏในตั๋วสนับสนุนของคุณ ในกรณีนั้น checkpoint 30B ไม่ใช่ของฟุ่มเฟือย แต่คือการกำจัดองค์ประกอบที่เคลื่อนไหวได้สองส่วนและงบข้อผิดพลาดของมันออกไป และต้นทุนด้าน throughput ก็คือต้นทุนด้าน throughput — การ์ดเพียงใบเดียวยังประมวลผลเสียงได้มากกว่าที่ทีมซึ่งประชุมกันหนาแน่นจะสร้างออกมาได้มากนัก

ใช้ Parakeet ต่อไปหากเสียงของคุณเป็นภาษาอังกฤษหรือภาษายุโรป ผู้พูดของคุณเป็นที่รู้จักหรือไม่สำคัญ ฮาร์ดแวร์ของคุณเป็นเวิร์กสเตชัน และไปป์ไลน์ของคุณทำงานได้ โมเดลใหม่ไม่ได้ทำให้โมเดลเก่าล้าสมัย แต่ครอบคลุมกรณีที่โมเดลเก่าไม่เคยถูกออกแบบมาให้รองรับ และควรจับตาดูกระดานจัดอันดับอิสระต่อไป เพราะตัวเลขทุกตัวในบทความนี้ที่สนับสนุน Nemotron 3.5 Transcribe ด้านการแยกเสียงผู้พูด (diarization) เป็นข้อมูลของ NVIDIA เอง และยังไม่มีการเผยแพร่ความเห็นที่สอง