Hy-SimulMT กับ Hy-SimulMT-30B-A3B: ชื่อเดียวกัน หกไฟล์ สองเอาต์พุต

พิมพ์ Hy-SimulMTลงใน Hugging Face แล้วคุณจะไม่พบรีโพซิทอรีที่ใช้ชื่อนั้น คุณจะพบหกรีโพซิทอรี และทุกตัวมีชื่อว่า Hy-SimulMT-30B-A3B โดยมีคำต่อท้ายกำกับ นั่นคือการเปรียบเทียบทั้งหมดในประโยคเดียว Hy-SimulMT คือชื่อที่ Tencent Hunyuan ใช้ในประกาศเมื่อวันที่ 26 ตุลาคม 2026 — ระบบล่ามจีน↔อังกฤษแบบเรียลไทม์ที่สื่อบรรยายว่าทำงานช้ากว่าผู้พูดประมาณสามวินาที Hy-SimulMT-30B-A3B คือชื่อบนอาร์ติแฟกต์ที่คุณดาวน์โหลดได้จริง ไม่มีรุ่นน้องที่เล็กกว่าภายใต้ชื่อสั้นนี้ ไม่มีตัวแปรแบบ dense และไม่มีโมเดล "base" ธรรมดาที่ซ่อนอยู่ข้างหลัง ชื่อสั้นคือโครงการ ส่วนชื่อยาวคือตระกูลไฟล์หกไฟล์ สิ่งที่ตามมาคือการตัดสินใจที่หน้าเปรียบเทียบ (versus page) มักกลบไว้: จะรันตัวไหนในหกตัวนั้น และทำไมคำตอบจึงต่างกันระหว่างการซ้อนคำบรรยายกับฟีดการประชุมที่ต้องการเพียงเอาต์พุตเสียง

สิ่งที่ Tencent เปิดตัว และสิ่งที่มันตัดสินใจจะเรียกมันว่า

คลังเก็บโค้ดของ Tencent เองใช้ Hy-SimulMT เป็นชื่อโปรเจกต์: "โมเดลแปลแบบเรียลไทม์พร้อมกันที่พัฒนาโดย Tencent Hunyuan" การ์ดโมเดลจัดหมวดไว้ภายใต้ป้ายย่อเดียวกัน คอลเล็กชันใช้ชื่อว่า "Hy Simultaneous Interpretation Model" ไม่มีที่ใดในเอกสารนั้นที่กำหนดลำดับชั้นของตระกูลและสมาชิกอย่างชัดเจน — ไม่มี Hy-SimulMT-Small ไม่มี Hy-SimulMT-Mini ไม่มี checkpoint แบบ dense สำหรับผู้ที่ไม่มีตัวเร่งความเร็ว 80 กิกะไบต์ น้ำหนักทุกชิ้นที่เผยแพร่เป็นสถาปัตยกรรม mixture-of-experts ระดับ 30B เดียวกัน

ดังนั้นรายการทั้งหกรายการในคอลเลกชันจึงไม่ใช่โมเดลหกแบบในความหมายที่มีนัยสำคัญใดๆ พวกมันคือโมเดลเดียวในบรรจุภัณฑ์หกแบบ:

• Hy-SimulMT-30B-A3B — เอาต์พุตแบบแปลเท่านั้น ความแม่นยำเต็มรูปแบบ safetensors

• Hy-SimulMT-30B-A3B-Interleave — ทรานสคริปต์ต้นฉบับพร้อมคำแปล ความแม่นยำเต็มรูปแบบ safetensors

• Hy-SimulMT-30B-A3B-FP8และHy-SimulMT-30B-A3B-Interleave-FP8 — รูปแบบเอาต์พุตสองแบบเดียวกันในบิลด์จุดลอยตัวแบบ 8 บิตที่ออกแบบมาสำหรับการให้บริการบน GPU เดียว

• Hy-SimulMT-30B-A3B-GGUF และ Hy-SimulMT-30B-A3B-Interleave-GGUF — รูปแบบเอาต์พุตสองแบบเดียวกันที่ผ่านการควอนไทซ์สำหรับ llama.cpp ที่ Q4_K_M และ Q8_0

สถาปัตยกรรมภายใต้ระบบนี้คือโมเดลแบบ sparse ที่มี 30.4 พันล้านพารามิเตอร์ โดยมีพารามิเตอร์ที่ทำงานอยู่ประมาณ 3 พันล้านตัวต่อโทเคน: 48 เลเยอร์, ผู้เชี่ยวชาญ 128 ตัว โดยแต่ละโทเคนมี 8 ตัวที่ถูกกำหนดเส้นทางและ 1 ตัวที่ใช้ร่วมกัน และตัวเข้ารหัสเสียง 24 เลเยอร์ที่รับเสียง 16 kHz เป็นหน้าต่าง 30 วินาที การออกแบบตัวเข้ารหัสนั้นคือส่วนที่น่าสังเกต โมเดลถูกสร้างมาเพื่อบริโภคเสียงขณะที่ยังส่งมา ไม่ใช่เพื่อรับไฟล์ที่เสร็จสมบูรณ์แล้ว ซึ่งเป็นเหตุผลว่าทำไมข้ออ้างเรื่อง latency และข้ออ้างเรื่อง benchmark จึงวัดจากคนละสิ่ง และทำไมทั้งสองจึงไม่ได้บอกคุณว่าไฟล์ใดในหกไฟล์เป็นตัวที่ทำให้เกิดตัวเลขนั้น

สัญญาอนุญาตคือ Apache-2.0 และไม่มีข้อจำกัด ซึ่งเป็นข้อเท็จจริงเดี่ยวที่แข็งแกร่งที่สุดในการเปิดตัวครั้งนี้ ไม่มีแบบฟอร์ม ไม่มีเกณฑ์การใช้งานที่ยอมรับได้ ไม่มีข้อกำหนดห้ามใช้เชิงพาณิชย์ อนุญาตให้ใช้เชิงพาณิชย์ ดัดแปลง และเผยแพร่ต่อ และ Tencent ได้เผยแพร่ชุดเครื่องมือฝึกอบรมควบคู่กับเซิร์ฟเวอร์สำหรับการอนุมาน ดังนั้นการฝึกอบรมต่อเนื่องจึงเป็นกรณีการใช้งานที่ตั้งใจไว้ ไม่ใช่การใช้งานที่ไม่ได้รับการสนับสนุน

ตัวเลือกที่สำคัญจริง ๆ คือรูปแบบของผลลัพธ์

ระหว่างเช็กพอยต์ความแม่นยำเต็มสองตัว ความแตกต่างไม่ได้อยู่ที่คุณภาพ แต่อยู่ที่สิ่งที่โมเดลได้รับอนุญาตให้พูด base checkpoint ส่งออกเฉพาะคำแปลและไม่มีอย่างอื่น ส่วน Interleave checkpoint จะส่งออกข้อความต้นฉบับที่รู้จำได้ แล้วจึงส่งคำแปล โดยสลับกันไปในจังหวะเดียวกับที่เสียงสตรีมมา

ฟังดูเป็นเรื่องผิวเผินจนกว่าคุณจะดูว่าละบบเหล่านี้ถูกนำไปใช้ที่ไหน ฟีดการประชุมสดที่ขับเคลื่อน text-to-speech ต้องการ base checkpoint: ทรานสคริปต์เป็นภาระที่ไม่จำเป็น ซึ่งกินโทเค็นเอาต์พุต เพิ่มความหน่วงให้ทุกชังก์ และรั่วภาษาต้นทางเข้าไปในไปป์ไลน์ที่มีผู้บริโภคเพียงเสียงเท่านั้น การซ้อนทับคำบรรยาย การบันทึกเพื่อการปฏิบัติตามข้อกำหนด ทรานสคริปต์สองภาษา หรือเวิร์กโฟลว์ใด ๆ ที่มนุษย์ต้องตรวจสอบคำแปลกับสิ่งที่พูด ต้องการ Interleave checkpoint เพราะทางเลือกอื่นคือการรันตัวรู้จำเสียงแยกต่างหากคู่กับตัวแปล แล้วหวังว่าทั้งสองจะแบ่งส่วนเสียงด้วยวิธีเดียวกัน ซึ่งพวกมันจะไม่ทำเช่นนั้น

ตัวอย่างการปรับใช้ด้วยคำสั่งเดียวของ Tencent เองมีค่าเริ่มต้นเป็นตัวแปร Interleave:

• bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave

นั่นเป็นค่าเริ่มต้นที่สมเหตุสมผลสำหรับเดโม ซึ่งการแสดงข้อความต้นฉบับพิสูจน์ว่าระบบกำลังฟังอยู่ แต่เป็นค่าเริ่มต้นที่ผิดสำหรับผลิตภัณฑ์ที่ใช้เสียงเพียงอย่างเดียว และเป็นรายละเอียดเดียวที่สื่อส่วนใหญ่ซึ่งรายงานเกี่ยวกับรีลีสนี้มองข้ามไป หากคุณกำลังประเมินโมเดลในแง่ต้นทุนโทเค็นหรือความหน่วงแบบ end-to-end คุณกำลังวัดระบบที่แตกต่างกันไป ขึ้นอยู่กับว่าคุณโหลดเช็กพอยต์ใด

มีต้นทุนอันดับสองของ Interleave ที่การ์ดบอกเป็นนัยแต่ไม่ได้ระบุปริมาณไว้ ทรานสคริปต์แบบสตรีมมิ่งสามารถเปลี่ยนแปลงได้ เอาต์พุตช่วงแรกอาจถูกแก้ไขเมื่อมีเสียงเข้ามาเพิ่ม ดังนั้นไคลเอนต์ที่แสดงข้อความบางส่วนจึงต้องถูกออกแบบให้ยอมรับการแก้ไข ไม่ใช่เพียงเพิ่มบรรทัดต่อท้ายเท่านั้น บทวิเคราะห์ของ AlphaSignal เกี่ยวกับการเปิดตัวชี้ประเด็นนี้โดยตรง และเป็นรายละเอียดการผสานรวมชนิดที่ทำให้ต้นแบบสองวันกลายเป็นสามสัปดาห์

เกณฑ์มาตรฐานไม่ได้ระบุว่าพวกเขาวัดตัวแปรใด

เทนเซนต์เผยแพร่คะแนนแบบสั้นสี่รายการและตัวเลขความหน่วงแบบยาวหนึ่งรายการ และทุกแถวถูกติดป้ายว่า "Hy-SimulMT" — ไม่ใช่ Hy-SimulMT-30B-A3B และแน่นอนว่าไม่ใช่การเทียบ base กับ Interleave นั่นคือช่องว่างที่ตรงไปตรงมาในการเปิดตัวครั้งนี้ และมันสำคัญกว่าตัวเลขใด ๆ เพียงตัวเดียวในนั้น

• FLEURS — 90.3. Gemini3.5-LiveTranslate ได้คะแนน 92.4 ดังนั้นนี่จึงไม่ใช่ชัยชนะในหมวดหมู่นี้

• CoVoST2 — 75.5 ต่ำกว่า Qwen3.8-LiveTranslate ซึ่งได้ 82.1 นี่คือความพ่ายแพ้ที่ชัดเจนที่สุดในตาราง และเป็นจุดที่ข่าวพาดหัวมักมองข้าม

• ACL6060 — 81.2 Gemini3.5-LiveTranslate ได้คะแนน 82.6

• RealSI-Sentence — 84.7 ซึ่งสูงที่สุดในชุดการเปรียบเทียบ

• ความหน่วงแบบ long-form ของ RealSI — StreamLAAL ประมาณสามวินาที ซึ่งระบุว่าเป็นค่าที่ต่ำที่สุดในบรรดาระบบที่นำมาเปรียบเทียบ

ทั้งหมดนี้ดำเนินการโดยผู้จำหน่าย ไม่มีรายการใดได้รับการทำซ้ำโดยอิสระ และการ์ดระบุชัดเจนว่า StreamLAAL ไม่ใช่การวัดเดียวกับเวลาถึงเอาต์พุตเสียงพูดแรก วิดีโอสาธิตเป็นการเล่นซ้ำแบบออฟไลน์ ดังนั้นเวลาการเล่นของวิดีโอจึงไม่ใช่ค่าความหน่วงแบบเรียลไทม์เช่นกัน ควรอ่านตารางนี้เป็นชุดข้อกล่าวอ้างจากห้องปฏิบัติการที่สร้างโมเดล ซึ่งทำบนชุดทดสอบที่ห้องปฏิบัติการเลือกเอง โดยไม่ระบุชื่อตัวแปร

การละเว้นข้อมูลครั้งล่าสุดนั้นใครก็ตามที่มีฮาร์ดแวร์สามารถแก้ได้ภายในบ่ายเดียว: รัน checkpoint ทั้งสองตัวกับเสียงเดียวกันแล้วเผยแพร่ส่วนต่าง จนกว่าจะมีคนทำ สิ่งที่สมเหตุสมผลที่สุดคือสันนิษฐานว่าตัวเลขที่เผยแพร่นั้นอธิบายเส้นทางการแปลเท่านั้น เพราะนั่นคือการวัดที่สะอาดกว่า — ตัวแปร Interleave ต้องปล่อยโทเคนมากกว่า และโทเคนที่มากขึ้นในตัวถอดรหัสแบบสตรีมมิ่งก็หมายถึงความหน่วงที่มากขึ้น แต่นั่นเป็นข้อสันนิษฐาน ไม่ใช่การเปิดเผยข้อมูล

รูปแบบคือการตัดสินใจที่สาม และเส้นทาง GGUF ก็มีจุดที่ต้องระวัง

เช็กพอยต์ความแม่นยำเต็มมีขนาดประมาณ 61 GB ใน BF16 ซึ่งทำให้ระดับขั้นต่ำในทางปฏิบัติสำหรับการปรับใช้ที่ราบรื่นอยู่ที่ตัวเร่งขนาด 80 GB และนั่นคือตัวเลขที่คุณต้องเผื่องบไว้หากตั้งใจจะให้บริการโมเดลตามที่จัดส่งมา บิลด์ FP8 มีขึ้นก็เพื่อลดข้อกำหนดดังกล่าวลงมาให้เหลือการ์ดขนาดเล็กเพียงใบเดียว และ Tencent ก็วางตำแหน่งผลิตภัณฑ์ไว้เช่นนั้น

เส้นทาง GGUF ดูประหยัดกว่าอีก และขนาดไฟล์ก็ชัดเจนเป็นรูปธรรม รีโพซิทอรี Interleave GGUF ระบุว่า Q4_K_M อยู่ที่ 19.7 GB และ Q8_0 อยู่ที่ 33.3 GB การควอนไทซ์โมเดล 30 พันล้านพารามิเตอร์ให้เหลือ 19.7 GB คือความแตกต่างระหว่าง "ต้องใช้การ์ดสำหรับดาต้าเซ็นเตอร์" กับ "ใส่ในเวิร์กสเตชันได้" และเป็นเวอร์ชันที่คนส่วนใหญ่จะลองเป็นอันดับแรก

จุดติดก็คือ การรองรับสถาปัตยกรรมนี้ใน llama.cpp ยังไม่ถูก merge เข้า upstream repository โดย Tencent ส่งบริดจ์ที่คาดว่าจะมีเซิร์ฟเวอร์ llama.cpp ที่รองรับเสียงและรันอยู่แล้ว พร้อมสวิตช์ MODEL_TYPE — target_only สำหรับ checkpoint ที่แปลอย่างเดียว และ source_target สำหรับ checkpoint แบบสลับกัน — และเอกสารแนะนำให้รอการเปิดตัวอย่างเป็นทางการ การรันบิลด์แบบควอนไทซ์ในวันนี้หมายถึงการรันบริดจ์ของผู้จำหน่ายบน llama.cpp บิลด์ที่ยังไม่รู้จักว่าโมเดลนี้คืออะไร นั่นเป็นสิ่งที่สมเหตุสมผลสำหรับการประเมิน แต่เป็นรากฐานที่เปราะบางสำหรับผลิตภัณฑ์ และโหมดความล้มเหลวคือ dependency ที่คุณไม่สามารถอัปเกรดแยกจากแพตช์ของผู้จำหน่ายได้

สำหรับเส้นทาง vLLM ข้อกำหนดคือเวอร์ชัน 0.31 หรือใหม่กว่า ซึ่งรองรับ HYV3ForCausalLM พร้อมกับแพ็กเกจ simulst การติดตั้งใช้งานแบบหลาย GPU ได้รับการสนับสนุนผ่าน tensor parallelism ตัวติดตั้งแบบคำสั่งเดียวจะเปิดบริการเว็บและ API บนพอร์ต 8080 และเซิร์ฟเวอร์โมเดลบนพอร์ต 8800 และทำงานในสภาพแวดล้อมแยกต่างหาก ซึ่งหมายความว่าอาจติดตั้ง SimulInfer ใหม่หรือเปลี่ยนเวอร์ชันของ dependency หากคุณชี้ไปยังสแตกที่มีอยู่แล้ว Tencent จึงจัดทำเอกสารขั้นตอนทีละขั้นไว้ด้วยเหตุผลนี้เอง

สิ่งที่ต้องใช้ในการให้บริการ และสิ่งที่รีลีสไม่ได้รวมไว้

เอาต์พุตเสียงและการโคลนเสียงไม่ใช่คุณสมบัติของเช็กพอยต์ โมเดลสร้างข้อความ การเปลี่ยนข้อความนั้นให้เป็นเสียงในเสียงของผู้พูดต้องใช้บริการ TTS ที่กำหนดค่าแยกต่างหาก และทุกส่วนของประโยคนั้นล้วนมีต้นทุนตามมา: บริการอีกตัวที่ต้องรัน เน็ตเวิร์กฮ็อปอีกครั้งในงบความหน่วง ข้อกำหนดของผู้ให้บริการอีกรายที่ต้องตรวจสอบ และจุดล้มเหลวอีกจุดระหว่างไมโครโฟนกับผู้ฟัง การ์ดโมเดลระบุเรื่องนี้อย่างตรงไปตรงมา และมันเป็นช่องว่างที่ใหญ่ที่สุดเพียงหนึ่งเดียวระหว่างเดโมกับล่ามที่พร้อมนำไปใช้งาน

ยังไม่มี API แบบโฮสต์ให้บริการ และไม่มีราคาที่ประกาศออกมา จุดสัมผัสสำหรับผู้บริโภคของ Tencent คือแอป Hy Translate ซึ่งมีแพ็กเกจฟรีบน Android และ iOS — เป็นวิธีที่ถูกที่สุดในการฟังว่าโมเดลทำอะไรได้ และไร้ประโยชน์ในฐานะ dependency สำหรับ production สำหรับอย่างอื่นคุณต้องโฮสต์เอง ซึ่งหมายความว่าต้นทุนคือตัวเร่งความเร็ว เวลาดำเนินงาน และค่าใช้จ่าย TTS ไม่ใช่อัตราต่อโทเคนที่คุณใส่ลงในสเปรดชีตได้

ความครอบคลุมของภาษาก็สมควรได้รับการตรวจสอบอย่างละเอียดในระดับเดียวกัน ตัวบทในเอกสารระบุถึงภาษาจีนและภาษาอังกฤษแบบสองทิศทาง เมทาดาทาบน Hugging Face ติดแท็ก checkpoint นี้ว่ามี 36 ภาษา ไม่มีการเผยแพร่รายการของอีก 34 ภาษา และตัวอย่างในรีโพซิทอรีเองล้วนเป็น en-zh หรือ zh-en ให้ถือว่าแท็กนี้เป็นเมทาดาทาที่สืบทอดมาก่อน จนกว่า Tencent จะระบุเป็นอย่างอื่น และอย่าวางแผนเปิดตัวรองรับ 36 ภาษาโดยอาศัยเพียงแท็กนี้

ข้อกล่าวอ้างที่ต้องมีแหล่งที่มาที่สอง

การเปรียบเทียบกับล่ามมนุษย์เป็นข้ออ้างที่ถูกอ้างถึงมากที่สุดและมีการสนับสนุนน้อยที่สุดของการเปิดตัวครั้งนี้ Tencent รายงานว่าคุณภาพ "เทียบเท่าล่ามพร้อมกันระดับผู้เชี่ยวชาญของมนุษย์ ขณะที่มักตอบสนองได้เร็วกว่า" โดยอิงจากบันทึกเสียงที่เก็บรวบรวมใหม่ 18 รายการ รายการละประมาณหกนาที จากสิบโดเมน ประเมินโดยล่ามผู้มีประสบการณ์หกคน — สามคนมี CATTI ระดับ 1 และสามคนมีระดับ 2 สำหรับแต่ละระดับ มีการใช้คะแนนที่ดีที่สุดจากล่ามสามคน

รายละเอียดสุดท้ายนั้นมีน้ำหนักมาก การเอาผลที่ดีที่สุดจากสามครั้งมาเทียบกับการรันโมเดลเพียงครั้งเดียวถือเป็นการกำหนดกรอบที่เอื้อประโยชน์อย่างมาก และการ์ดไม่ได้เผยแพร่ช่วงความเชื่อมั่นหรือการแยกผลรายโดเมนเลย อีกทั้งยังไม่เผยแพร่คะแนนความคล้ายของผู้พูดเชิงวัตถุสำหรับการโคลนเสียง ซึ่งเป็นคุณลักษณะที่มีแนวโน้มมากที่สุดที่จะชี้ขาดว่าการนำไปใช้จริงจะรู้สึกยอมรับได้สำหรับคนที่อยู่ในห้องหรือไม่ ข้อจำกัดที่การ์ดระบุเอง — ว่าผลการค้นพบถูกจำกัดขอบเขตด้วยตัวอย่าง ผู้เข้าร่วม และการตั้งค่าของตน และไม่ใช่การประเมินที่ครอบคลุม — คือการตีความที่ถูกต้อง เสียงทางการแพทย์ กฎหมาย และบทสนทนาที่มีเสียงรบกวนเป็นพื้นที่ที่การเปรียบเทียบล่ามจำเป็นต้องมีตัวเลขรายโดเมนอย่างแท้จริง และนั่นคือตัวเลขที่หายไป

นักแปลล่ามมืออาชีพยังคงเป็นตัวเลือกที่เหมาะสมในทุกกรณีที่เกี่ยวข้องกับความรับผิดชอบ การตรวจทานโดยผู้เชี่ยวชาญ หรือการตัดสินใจที่มีเดิมพันสูง นั่นคือกรอบความคิดของ Tencent ไม่ใช่ของนักวิจารณ์ และควรค่าแก่การย้ำ เพราะฉบับพาดหัวของประกาศนี้ไม่ได้สื่อเช่นนั้น

หากคุณโฮสต์มันด้วยตัวเอง ให้วางบางสิ่งไว้ด้านหลังมัน

เนื่องจากไม่มีเช็กพอยต์ใดอยู่ในแค็ตตาล็อกของ OrcaRouter เราจึงไม่ใช่เส้นทางไปยังทั้งสองตัว และบทความนี้จะไม่แสร้งทำเป็นอย่างอื่น นั่นไม่ได้ทำให้เราเตอร์ไม่เกี่ยวข้องกับระบบล่ามที่โฮสต์เอง — แต่ย้ายเราเตอร์ไปไว้ที่ edge เส้นทางการแปลสดเป็นห่วงโซ่ยาว: การจับเสียง เซิร์ฟเวอร์โมเดล บริการ TTS ที่อาจมีหรือไม่มีก็ได้ และไคลเอนต์ แต่ละข้อต่ออาจหยุดชะงัก และการหยุดชะงักระหว่างการประชุมนั้นแย่กว่าการแปลที่แย่กว่าเล็กน้อย การวางโมเดลข้อความที่โฮสต์ไว้หลังปลายทางเดียวกันในฐานะตัวสำรองสำหรับเส้นทางถอดข้อความ — ไม่ใช่เส้นทางเสียง — หมายความว่าเมื่อเซิร์ฟเวอร์โมเดลล่ม ระบบจะถอยไปใช้ข้อความถอดความที่อ่านได้แทนความเงียบ

OrcaRouter คือ API เดียวที่อยู่ด้านหน้าโมเดลที่โฮสต์มากกว่า 200 โมเดล โดยบวกเพิ่ม 0% ราคาตามรายการของผู้ให้บริการถูกส่งผ่านโดยไม่มีการเพิ่มใด ๆ และ routing DSL คือวิธีที่ใช้แสดงกฎสำรอง โดยไม่ต้องมีการผสานรวมครั้งที่สอง การ failover อัตโนมัติคือส่วนที่สำคัญตรงนี้: กฎจะทำงานเมื่อเกิดความล้มเหลวจากต้นทาง ไม่ใช่เมื่อมนุษย์สังเกตว่าคำบรรยายหยุดลง

แล้วไฟล์ไหนล่ะ

กรอบการเปรียบเทียบแบบตรงข้ามจะละลายหายไปเมื่อคุณรู้ว่าชื่อเหล่านั้นหมายถึงอะไร และสิ่งที่เหลืออยู่คือการตัดสินใจเรื่องการจัดแพ็กเกจซึ่งมีคำตอบตรงไปตรงมาสามข้อ

หากคุณกำลังสร้างผลิตภัณฑ์ด้านเสียง — การเป็นล่ามในการประชุม, โอเวอร์เลย์สำหรับคอลเซ็นเตอร์, อะไรก็ตามที่เอาต์พุตเป็นเสียง — ให้ใช้ Hy-SimulMT-30B-A3B หรือบิลด์ FP8 ของมัน หากการ์ด 80 GB ใบเดียวเป็นข้อจำกัด คุณไม่จำเป็นต้องมีข้อความถอดเสียง ไม่ต้องจ่ายเพื่อสร้างมัน และเช็กพอยต์ฐานเป็นเส้นทางที่ให้ความหน่วงสะอาดกว่า

หากมีมนุษย์จะอ่านผลลัพธ์ ให้ใช้ Hy-SimulMT-30B-A3B-Interleave. คำบรรยาย รายงานการประชุมแบบสองภาษา เวิร์กโฟลว์การจัดเก็บและตรวจทานเพื่อการปฏิบัติตามข้อกำหนด ล้วนต้องใช้ข้อความต้นฉบับ และการรันระบบรู้จำเสียงแยกต่างหากควบคู่ไปกับตัวแปลคือหนทางที่ทำให้คุณได้บทถอดเสียงสองชุดที่ไม่ตรงกันว่าประโยคสิ้นสุดตรงไหน

หากคุณกำลังประเมินผลมากกว่าการนำไปใช้งานจริง ให้ใช้ Hy-SimulMT-30B-A3B-Interleave-GGUF ที่ Q4_K_M ยอมรับไฟล์ขนาด 19.7 GB และดีเพนเดนซี llama.cpp ที่ยังไม่ได้ merge และมองมันเป็นวิธีหนึ่งในการฟังโมเดลบนฮาร์ดแวร์ที่คุณมีอยู่แล้ว ค่อยอัปเกรดไปยังเส้นทาง FP8 vLLM เมื่อคุณตัดสินใจแล้วว่าคุณภาพคุ้มค่ากับการ์ด

คำถามที่ยังเปิดอยู่ไม่ใช่ไฟล์ไหนดีกว่า แต่คือว่าคะแนนที่เผยแพร่เหล่านั้นอธิบายไฟล์ที่คุณเลือกหรือไม่ Tencent มีฮาร์ดแวร์ที่จะตอบเรื่องนี้ได้ภายในหนึ่งวัน และจนกว่าจะทำเช่นนั้น ใครก็ตามที่อ้างอิง 90.3 หรือ 84.7 ควรระบุว่าพวกเขาเชื่อว่าเช็กพอยต์ใดในหกตัวเป็นตัวที่สร้างคะแนนนั้น