Hy-SimulMT so với Hy-SimulMT-30B-A3B: Một cái tên, sáu tệp, hai đầu ra

Nhập Hy-SimulMT vào Hugging Face và bạn sẽ không tìm thấy kho lưu trữ nào mang tên đó. Bạn sẽ tìm thấy sáu kho, và kho nào cũng có tên là Hy-SimulMT-30B-A3B kèm theo một hậu tố. Đó là toàn bộ phép so sánh gói trong một câu. Hy-SimulMT là tên Tencent Hunyuan đặt cho thông báo ngày 26 tháng 10 năm 2026 — trình phiên dịch Trung↔Anh theo thời gian thực mà báo chí mô tả là chạy chậm hơn người nói khoảng ba giây. Hy-SimulMT-30B-A3B là tên trên sản phẩm bạn thực sự có thể tải xuống. Không có phiên bản anh em nhỏ hơn dưới tên ngắn, không có biến thể dense, không có mô hình "base" thuần nào ẩn phía sau nó. Tên ngắn là một dự án; tên dài là một họ gồm sáu tệp. Phần tiếp theo là quyết định mà một trang so sánh đối đầu thường che giấu: nên chạy tệp nào trong sáu tệp đó, và vì sao câu trả lời lại khác nhau đối với lớp phủ phụ đề và đối với luồng cuộc họp chỉ cần đầu ra âm thanh.

Tencent đã phát hành gì và quyết định gọi nó là gì

Kho lưu trữ của chính Tencent coi Hy-SimulMT là tên dự án: "một mô hình dịch đồng thời theo thời gian thực do Tencent Hunyuan phát triển." Thẻ mô hình xếp nó dưới cùng nhãn ngắn đó. Bộ sưu tập có tiêu đề "Hy Simultaneous Interpretation Model." Trong tài liệu đó không có chỗ nào định nghĩa một hệ thứ bậc gồm một dòng mô hình và các thành viên của nó — không có Hy-SimulMT-Small, không có Hy-SimulMT-Mini, không có checkpoint dense dành cho những người không có bộ tăng tốc 80 gigabyte. Mọi trọng số được phát hành đều là cùng một kiến trúc mixture-of-experts thuộc lớp 30B.

Vậy nên sáu mục trong bộ sưu tập không phải là sáu mẫu theo bất kỳ nghĩa thực chất nào. Chúng là một mẫu duy nhất dưới sáu kiểu đóng gói:

• Hy-SimulMT-30B-A3B — đầu ra chỉ gồm bản dịch, độ chính xác đầy đủ, safetensors.

• Hy-SimulMT-30B-A3B-Interleave — bản ghi nguồn cùng bản dịch, độ chính xác đầy đủ, safetensors.

• Hy-SimulMT-30B-A3B-FP8 và Hy-SimulMT-30B-A3B-Interleave-FP8 — cùng hai dạng đầu ra đó trong bản dựng dấu phẩy động tám bit dành cho việc phục vụ trên một GPU.

• Hy-SimulMT-30B-A3B-GGUF và Hy-SimulMT-30B-A3B-Interleave-GGUF — hai dạng đầu ra giống nhau được lượng tử hóa cho llama.cpp, ở Q4_K_M và Q8_0.

Kiến trúc bên dưới là một mô hình thưa 30,4 tỷ tham số với khoảng 3 tỷ tham số hoạt động trên mỗi token: 48 lớp, 128 chuyên gia với tám chuyên gia được định tuyến và một chuyên gia dùng chung trên mỗi token, cùng một bộ mã hóa âm thanh 24 lớp nhận âm thanh 16 kHz trong các cửa sổ 30 giây. Thiết kế bộ mã hóa đó là phần đáng chú ý. Mô hình được xây dựng để xử lý âm thanh ngay khi âm thanh vẫn đang truyền đến, chứ không phải để nhận một tệp đã hoàn chỉnh — đó là lý do tại sao tuyên bố về độ trễ và tuyên bố về benchmark được đo trên những thứ khác nhau, và tại sao cả hai đều không cho bạn biết tệp nào trong sáu tệp đã tạo ra con số đó.

Giấy phép là Apache-2.0 và không bị gated, đây là sự thật đơn lẻ mạnh nhất trong bản phát hành. Không có biểu mẫu, không có cổng chấp nhận sử dụng, không có điều khoản phi thương mại. Được phép sử dụng thương mại, sửa đổi và phân phối lại, và Tencent đã công bố bộ công cụ huấn luyện song song với máy chủ suy luận để việc tiếp tục huấn luyện là một mục đích sử dụng dự kiến chứ không phải là điều không được hỗ trợ.

Lựa chọn thực sự quan trọng là hình dạng đầu ra.

Giữa hai checkpoint full-precision, khác biệt không nằm ở chất lượng. Mà ở điều mô hình được phép nói. Checkpoint base chỉ phát ra bản dịch và không gì khác. Checkpoint Interleave phát ra văn bản nguồn đã được nhận dạng rồi đến bản dịch, xen kẽ theo dòng âm thanh.

Nghe có vẻ chỉ là chuyện bề ngoài cho đến khi bạn nhìn vào nơi các hệ thống này được triển khai. Một luồng cuộc họp trực tiếp dùng để điều khiển text-to-speech muốn checkpoint cơ sở: bản ghi lời nói là gánh nặng thừa làm tốn token đầu ra, tăng độ trễ ở mỗi đoạn, và làm rò rỉ ngôn ngữ nguồn vào một pipeline mà đầu ra duy nhất là giọng nói. Một lớp phủ phụ đề, một bản ghi phục vụ tuân thủ, một bản ghi song ngữ, hay bất kỳ quy trình nào mà con người phải đối chiếu bản dịch với lời đã nói đều muốn checkpoint Interleave, vì lựa chọn thay thế là chạy một bộ nhận dạng giọng nói riêng bên cạnh trình dịch và hy vọng hai bên phân đoạn âm thanh theo cùng một cách. Chúng sẽ không làm vậy.

Ví dụ triển khai bằng một lệnh của chính Tencent mặc định sử dụng biến thể Interleave:

• bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave

Đó là một mặc định hợp lý cho bản demo, nơi việc hiển thị văn bản nguồn chứng minh hệ thống đang lắng nghe. Đó là mặc định sai đối với một sản phẩm chỉ dùng giọng nói, và đây là chi tiết mà hầu hết các bài đưa tin về bản phát hành này bỏ qua. Nếu bạn đang đánh giá mô hình dựa trên chi phí token hoặc độ trễ đầu-cuối, thì bạn đang đo một hệ thống khác nhau tùy thuộc vào checkpoint mà bạn đã tải.

Có một chi phí bậc hai đối với Interleave mà thẻ ám chỉ nhưng không định lượng. Bản ghi chép lời nói dạng luồng có thể thay đổi. Đầu ra ban đầu có thể được sửa lại khi có thêm âm thanh đến, vì vậy một ứng dụng khách hiển thị văn bản một phần phải được xây dựng để chấp nhận các chỉnh sửa thay vì chỉ nối thêm dòng. Bài viết của AlphaSignal về bản phát hành nêu trực tiếp điểm này, và đó là kiểu chi tiết tích hợp có thể biến một nguyên mẫu hai ngày thành một nguyên mẫu ba tuần.

Các benchmark không cho biết họ đã đo biến thể nào.

Tencent công bố bốn điểm số dạng ngắn và một con số độ trễ dạng dài, và mỗi hàng đều được dán nhãn "Hy-SimulMT" — không phải Hy-SimulMT-30B-A3B, và chắc chắn không phải bản base so với Interleave. Đó là khoảng trống trung thực trong bản phát hành, và nó quan trọng hơn bất kỳ con số riêng lẻ nào trong đó.

• FLEURS — 90.3. Gemini3.5-LiveTranslate đạt 92.4, vì vậy đây không phải là một chiến thắng ở hạng mục này.

• CoVoST2 — 75.5, xếp sau Qwen3.8-LiveTranslate ở mức 82.1. Đây là mức thua kém rõ ràng nhất trong bảng và là điều mà các bài báo giật tít thường có xu hướng bỏ qua.

• ACL6060 — 81,2. Gemini3.5-LiveTranslate đạt 82,6.

• RealSI-Sentence — 84.7, cao nhất trong nhóm so sánh.

• Độ trễ dạng dài của RealSI — StreamLAAL khoảng ba giây, được mô tả là mức thấp nhất trong số các hệ thống được so sánh.

Tất cả đều do nhà cung cấp tự thực hiện. Không có nội dung nào được tái lập độc lập và thẻ nêu rõ rằng StreamLAAL không phải là cùng một phép đo với thời gian đến đầu ra giọng nói đầu tiên. Các video minh họa là bản phát lại ngoại tuyến, nên thời điểm phát lại của chúng cũng không phải là số đo độ trễ trực tiếp. Hãy đọc bảng này như một tập hợp các tuyên bố từ phòng thí nghiệm đã xây dựng mô hình, được đưa ra trên một bộ kiểm thử do chính họ chọn, với biến thể không được nêu tên.

Thiếu sót cuối cùng đó có thể được sửa trong một buổi chiều bởi bất kỳ ai có phần cứng: chạy cả hai checkpoint trên cùng một đoạn âm thanh và công bố mức chênh lệch. Cho đến khi có ai đó làm vậy, giả định hợp lý là các con số đã công bố mô tả luồng chỉ dịch, vì đó là phép đo sạch hơn — biến thể Interleave phải phát ra nhiều token hơn, mà nhiều token hơn trong một bộ giải mã streaming nghĩa là độ trễ cao hơn. Nhưng đó là một giả định, không phải là một sự tiết lộ.

Định dạng là quyết định thứ ba, và con đường GGUF có một cạm bẫy.

Checkpoint độ chính xác đầy đủ có dung lượng khoảng 61 GB ở BF16. Điều đó đặt mức sàn thực tế để triển khai thoải mái ở một accelerator 80 GB, và đó là con số cần dự trù nếu bạn định phục vụ mô hình nguyên bản như khi xuất xưởng. Bản dựng FP8 tồn tại chính xác để kéo yêu cầu đó xuống một card nhỏ hơn duy nhất, và Tencent định vị nó theo cách đó.

Hướng GGUF trông còn rẻ hơn nữa, và kích thước tệp là những con số cụ thể. Kho GGUF của Interleave liệt kê Q4_K_M ở 19,7 GB và Q8_0 ở 33,3 GB. Một bản lượng tử hóa 19,7 GB của mô hình 30 tỷ tham số chính là khác biệt giữa "cần một card trung tâm dữ liệu" và "vừa trên một máy trạm", và đó là phiên bản mà hầu hết mọi người sẽ thử đầu tiên.

Vấn đề là llama.cpp chưa hợp nhất hỗ trợ cho kiến trúc này vào kho lưu trữ upstream. Tencent cung cấp một cầu nối kỳ vọng một máy chủ llama.cpp đã chạy sẵn và có khả năng xử lý âm thanh, với một công tắc MODEL_TYPE — target_only cho checkpoint chỉ dịch, source_target cho checkpoint xen kẽ — và tài liệu khuyên nên chờ bản phát hành chính thức. Chạy bản dựng lượng tử hóa ngay hôm nay nghĩa là chạy một cầu nối của nhà cung cấp bên trên một bản dựng llama.cpp mà vẫn chưa biết mô hình này là gì. Đó là việc hợp lý để đánh giá. Nhưng nó là nền tảng mong manh cho một sản phẩm, và kiểu lỗi là một phụ thuộc mà bạn không thể nâng cấp độc lập với bản vá của nhà cung cấp.

Đối với phương án vLLM, yêu cầu là phiên bản 0.31 trở lên có hỗ trợ HYV3ForCausalLM, cùng với gói simulst. Triển khai đa GPU được hỗ trợ thông qua song song tensor. Trình cài đặt bằng một lệnh khởi động dịch vụ web và API trên cổng 8080 và máy chủ mô hình trên cổng 8800, và nó chạy trong một môi trường biệt lập — nghĩa là nó có thể cài lại SimulInfer hoặc thay đổi phiên bản phụ thuộc nếu bạn trỏ nó tới một ngăn xếp hiện có. Tencent có tài liệu hướng dẫn từng bước chính vì lý do đó.

Những gì cần có để phục vụ, và những gì bản phát hành không bao gồm

Đầu ra giọng nói và nhân bản giọng nói không phải là thuộc tính của checkpoint. Mô hình tạo ra văn bản. Việc chuyển văn bản đó thành giọng nói bằng giọng của người nói đòi hỏi một dịch vụ TTS được cấu hình riêng, và mỗi phần của câu đó đều kéo theo một chi phí: thêm một dịch vụ phải vận hành, thêm một chặng mạng trong ngân sách độ trễ, thêm một điều khoản nhà cung cấp phải xem xét, và thêm một điểm lỗi giữa micrô và người nghe. Thẻ mô hình nói thẳng về điều này, và đó là khoảng cách lớn nhất giữa bản demo và một trình phiên dịch có thể triển khai.

Cũng không có API được host sẵn và không có giá công bố. Mảng tiêu dùng của Tencent là ứng dụng Hy Translate, ứng dụng này cung cấp gói miễn phí trên Android và iOS — cách rẻ nhất để nghe xem mô hình làm được gì, và vô dụng như một phụ thuộc cho môi trường sản xuất. Với mọi thứ còn lại, bạn phải tự host, nghĩa là chi phí nằm ở bộ tăng tốc phần cứng, thời gian vận hành và hóa đơn TTS, chứ không phải mức giá theo token mà bạn có thể đưa vào bảng tính.

Độ phủ ngôn ngữ cũng cần được soi xét kỹ lưỡng như vậy. Phần văn xuôi ghi nhận khả năng song ngữ Trung–Anh hai chiều. Siêu dữ liệu của Hugging Face gắn thẻ cho checkpoint là 36 ngôn ngữ. Không có danh sách nào về 34 ngôn ngữ còn lại được công bố, và các ví dụ của chính kho lưu trữ đều là en-zh hoặc zh-en. Hãy coi thẻ đó là siêu dữ liệu kế thừa cho đến khi Tencent công bố thông tin khác, và đừng lập kế hoạch triển khai 36 ngôn ngữ chỉ dựa vào một thẻ.

Những tuyên bố cần nguồn thứ hai

So sánh với phiên dịch viên con người là tuyên bố được trích dẫn nhiều nhất của bản công bố này và cũng là tuyên bố được chứng minh ít nhất. Tencent báo cáo chất lượng “ngang ngửa với các phiên dịch viên đồng thời chuyên nghiệp là con người, trong khi thường phản hồi nhanh hơn”, dựa trên 18 bản ghi mới được thu thập, mỗi bản khoảng sáu phút, lấy từ mười lĩnh vực, được đánh giá bởi sáu phiên dịch viên giàu kinh nghiệm — ba người có chứng chỉ CATTI Cấp 1 và ba người có Cấp 2. Với mỗi cấp, điểm cao nhất trong số ba phiên dịch viên đã được sử dụng.

Chi tiết cuối cùng đó đang gánh một vai trò rất lớn. Việc lấy kết quả tốt nhất trong ba lần đối chiếu với một lần chạy mô hình duy nhất là một cách dựng phép so sánh khá rộng rãi, và thẻ không công bố khoảng tin cậy hay phân tích chi tiết theo từng lĩnh vực. Thẻ cũng không công bố điểm tương đồng người nói khách quan nào cho việc nhân bản giọng nói — tính năng có khả năng quyết định nhất liệu một triển khai có được những người có mặt trong phòng chấp nhận hay không. Giới hạn do chính thẻ nêu — rằng phát hiện bị giới hạn bởi các mẫu, người tham gia và thiết lập của nó, và không phải là một đánh giá toàn diện — là cách hiểu đúng. Âm thanh hội thoại trong lĩnh vực y tế, pháp lý và môi trường ồn ào chính là nơi một phép so sánh phiên dịch sẽ cần đến các con số theo từng lĩnh vực, và đó chính là những con số đang thiếu.

Phiên dịch viên chuyên nghiệp vẫn là lựa chọn đúng đắn ở bất cứ đâu có liên quan đến trách nhiệm giải trình, đánh giá chuyên môn hoặc một quyết định có tính rủi ro cao. Đó là cách Tencent định khung vấn đề, không phải của một nhà phê bình, và điều này đáng được nhắc lại vì phiên bản tiêu đề của thông cáo này đã không làm vậy.

Nếu bạn tự host nó, hãy đặt một thứ gì đó phía sau nó.

Không checkpoint nào nằm trong danh mục của OrcaRouter, nên chúng tôi không phải là tuyến đến một trong hai, và bài viết này sẽ không giả vờ ngược lại. Điều đó không làm cho bộ định tuyến trở nên không liên quan đến một trình thông dịch tự triển khai — nó chuyển bộ định tuyến ra vùng biên. Một đường dịch trực tiếp là một chuỗi dài: thu nhận âm thanh, máy chủ mô hình, dịch vụ TTS tùy chọn và máy khách. Mỗi mắt xích đều có thể bị treo, và một lần treo trong cuộc họp còn tệ hơn một bản dịch kém hơn một chút. Đặt một mô hình văn bản chạy trên máy chủ phía sau cùng một điểm cuối như phương án dự phòng cho đường phiên âm — không phải cho đường âm thanh — nghĩa là khi máy chủ mô hình chết, hệ thống suy giảm thành một bản phiên âm đọc được thay vì im lặng.

OrcaRouter là một API duy nhất đứng trước hơn 200 mô hình được lưu trữ với mức phụ phí 0%, giá niêm yết của nhà cung cấp được chuyển nguyên vẹn không cộng thêm gì, và DSL định tuyến chính là cách một quy tắc dự phòng được diễn đạt mà không cần tích hợp thứ hai. Chuyển đổi dự phòng tự động mới là phần quan trọng ở đây: quy tắc kích hoạt khi có sự cố từ phía thượng nguồn, chứ không phải khi có người nhận ra phụ đề đã ngừng hiển thị.

Vậy thì tệp nào

Cách đặt vấn đề đối lập sẽ tan biến khi bạn biết những cái tên ấy ám chỉ điều gì, và những gì còn lại chỉ là một quyết định đóng gói với ba câu trả lời trung thực.

Nếu bạn đang xây dựng một sản phẩm giọng nói — thông dịch cuộc họp, lớp phủ tổng đài, bất cứ thứ gì mà đầu ra là âm thanh — hãy dùng Hy-SimulMT-30B-A3B, hoặc bản dựng FP8 của nó nếu bạn bị giới hạn bởi một thẻ 80 GB. Bạn không cần bản chép lời, bạn không muốn trả tiền để tạo ra nó, và checkpoint cơ sở là lựa chọn có độ trễ tốt hơn.

Nếu con người sẽ đọc đầu ra, hãy dùng Hy-SimulMT-30B-A3B-Interleave. Phụ đề, biên bản song ngữ, quy trình ghi nhận và rà soát tuân thủ đều cần văn bản nguồn, và chạy một bộ nhận dạng riêng song song với trình dịch chính là cách bạn có được hai bản ghi mà không thống nhất về chỗ câu kết thúc.

Nếu bạn đang đánh giá thay vì triển khai, hãy chọn Hy-SimulMT-30B-A3B-Interleave-GGUF ở Q4_K_M, chấp nhận tệp 19,7 GB và phần phụ thuộc llama.cpp chưa hợp nhất, đồng thời coi đó là cách để nghe mô hình trên phần cứng bạn đã sở hữu. Chỉ nâng cấp lên đường FP8 vLLM khi bạn đã quyết định rằng chất lượng xứng đáng với chiếc card.

Câu hỏi còn bỏ ngỏ không phải là tệp nào tốt hơn. Mà là liệu các điểm số đã công bố có mô tả đúng tệp bạn đã chọn hay không. Tencent có phần cứng để trả lời điều đó trong một ngày, và cho đến khi làm được, bất kỳ ai trích dẫn 90.3 hoặc 84.7 đều nên nói rõ họ tin checkpoint nào trong sáu checkpoint đã tạo ra điểm số đó.