Hy-SimulMT vs Hy-SimulMT-30B-A3B: Satu Nama, Enam File, Dua Output

Ketik Hy-SimulMT di Hugging Face dan Anda tidak akan menemukan repositori dengan nama itu. Anda akan menemukan enam, dan masing-masing disebut Hy-SimulMT-30B-A3B dengan akhiran yang ditempelkan. Itulah keseluruhan perbandingannya dalam satu kalimat. Hy-SimulMT adalah nama yang diberikan Tencent Hunyuan pada pengumuman tanggal 26 Oktober 2026 — penerjemah real-time Tionghoa↔Inggris yang menurut liputan pers berjalan sekitar tiga detik di belakang pembicara. Hy-SimulMT-30B-A3B adalah nama pada artefak yang benar-benar dapat Anda unduh. Tidak ada saudara yang lebih kecil dengan nama pendek itu, tidak ada varian dense, tidak ada model "base" biasa yang tersembunyi di baliknya. Nama pendek adalah sebuah proyek; nama panjang adalah keluarga berisi enam berkas. Berikutnya adalah keputusan yang biasanya dikubur halaman versus: mana dari keenamnya yang harus dijalankan, dan mengapa jawabannya berbeda untuk overlay subtitle dan untuk feed rapat yang hanya membutuhkan keluaran audio.

Apa yang dirilis Tencent, dan apa yang mereka putuskan untuk menyebutnya

Repositori Tencent sendiri memperlakukan Hy-SimulMT sebagai nama proyek: "model terjemahan simultan real-time yang dikembangkan oleh Tencent Hunyuan." Kartu model mencatatnya di bawah label pendek yang sama. Koleksinya berjudul "Hy Simultaneous Interpretation Model." Tidak di mana pun dalam materi tersebut terdapat hierarki yang terdefinisi antara sebuah keluarga dan anggotanya — tidak ada Hy-SimulMT-Small, tidak ada Hy-SimulMT-Mini, tidak ada checkpoint dense untuk orang tanpa akselerator 80 gigabyte. Setiap bobot yang dirilis adalah arsitektur mixture-of-experts kelas 30B yang sama.

Jadi, enam entri dalam koleksi tersebut bukanlah enam model dalam arti yang berarti. Itu adalah satu model dalam enam kemasan:

• Hy-SimulMT-30B-A3B — output khusus terjemahan, presisi penuh, safetensors.

• Hy-SimulMT-30B-A3B-Interleave — transkrip sumber beserta terjemahan, presisi penuh, safetensors.

• Hy-SimulMT-30B-A3B-FP8 dan Hy-SimulMT-30B-A3B-Interleave-FP8 — dua bentuk keluaran yang sama dalam build floating-point delapan bit yang ditujukan untuk serving GPU tunggal.

• Hy-SimulMT-30B-A3B-GGUF dan Hy-SimulMT-30B-A3B-Interleave-GGUF — dua bentuk keluaran yang sama yang dikuantisasi untuk llama.cpp, pada Q4_K_M dan Q8_0.

Arsitektur di baliknya adalah model sparse 30,4 miliar parameter dengan sekitar 3 miliar parameter aktif per token: 48 lapisan, 128 expert dengan delapan yang dirutekan dan satu yang dibagikan per token, serta encoder audio 24 lapisan yang menerima audio 16 kHz dalam jendela 30 detik. Desain encoder itulah bagian yang layak diperhatikan. Model ini dirancang untuk mengonsumsi audio saat audio itu masih tiba, bukan untuk menerima berkas yang sudah selesai — itulah sebabnya klaim latensi dan klaim benchmark diukur pada hal yang berbeda, dan mengapa keduanya tidak memberi tahu Anda berkas mana dari keenam berkas yang menghasilkan angka tersebut.

Lisensinya adalah Apache-2.0 dan tanpa pembatasan, yang merupakan fakta tunggal terkuat dalam rilis ini. Tidak ada formulir, tidak ada gerbang penggunaan yang dapat diterima, tidak ada klausul non-komersial. Penggunaan komersial, modifikasi, dan redistribusi diizinkan, dan Tencent telah menerbitkan perangkat pelatihan bersama server inferensi sehingga pelatihan lanjutan menjadi penggunaan yang dimaksudkan, bukan penggunaan yang tidak didukung.

Pilihan yang benar-benar penting adalah bentuk output.

Di antara dua checkpoint presisi penuh, perbedaannya bukanlah kualitas. Perbedaannya adalah apa yang diizinkan untuk dikatakan oleh model. Checkpoint base hanya mengeluarkan terjemahan dan tidak ada yang lain. Checkpoint Interleave mengeluarkan teks sumber yang dikenali lalu terjemahannya, diselang-seling seiring audio dialirkan.

Kedengarannya kosmetik sampai Anda melihat di mana sistem-sistem ini diterapkan. Feed rapat langsung yang menggerakkan text-to-speech membutuhkan checkpoint dasar: transkripnya adalah beban mati yang memakan token keluaran, menambah latensi pada setiap potongan, dan membocorkan bahasa sumber ke dalam pipeline yang satu-satunya konsumennya adalah suara. Overlay subtitel, perekaman kepatuhan, transkrip bilingual, atau alur kerja apa pun yang mengharuskan manusia memeriksa terjemahan terhadap apa yang dikatakan membutuhkan checkpoint Interleave, karena alternatifnya adalah menjalankan pengenal ucapan terpisah di samping penerjemah dan berharap keduanya mensegmentasi audio dengan cara yang sama. Keduanya tidak akan begitu.

Contoh penerapan satu perintah milik Tencent sendiri secara default menggunakan varian Interleave:

• bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave

Itu adalah default yang masuk akal untuk demo, yang mana menampilkan teks sumber membuktikan bahwa sistem sedang mendengarkan. Itu adalah default yang salah untuk produk berbasis suara saja, dan itulah satu detail yang dilewatkan sebagian besar liputan tentang rilis ini. Jika Anda mengevaluasi model berdasarkan biaya token atau latensi end-to-end, Anda mengukur sistem yang berbeda bergantung pada checkpoint yang Anda muat.

Ada biaya tingkat kedua pada Interleave yang tersirat dalam kartu tersebut tetapi tidak dikuantifikasi. Transkrip streaming bersifat dapat berubah. Output awal dapat direvisi saat lebih banyak audio masuk, sehingga klien yang menampilkan teks parsial harus dibangun untuk menerima koreksi, bukan baris yang hanya bisa ditambahkan. Tulisan AlphaSignal tentang rilis ini menyatakan hal tersebut secara langsung, dan ini adalah jenis detail integrasi yang mengubah prototipe dua hari menjadi tiga minggu.

Tolok ukur tersebut tidak menyebutkan varian mana yang mereka ukur

Tencent menerbitkan empat skor bentuk pendek dan satu angka latensi bentuk panjang, dan setiap baris diberi label "Hy-SimulMT" — bukan Hy-SimulMT-30B-A3B, dan tentu bukan base versus Interleave. Itulah celah yang jujur dalam rilis tersebut, dan itu lebih penting daripada angka mana pun di dalamnya.

• FLEURS — 90,3. Gemini3.5-LiveTranslate mendapat skor 92,4, jadi ini bukan kemenangan kategori.

• CoVoST2 — 75,5, di bawah Qwen3.8-LiveTranslate pada 82,1. Ini adalah kekalahan paling jelas dalam tabel dan yang cenderung dilewatkan oleh liputan utama.

• ACL6060 — 81.2. Gemini3.5-LiveTranslate mendapat skor 82.6.

• RealSI-Sentence — 84,7, tertinggi dalam kumpulan perbandingan.

• Latensi bentuk panjang RealSI — StreamLAAL sekitar tiga detik, dijelaskan sebagai yang terendah di antara sistem yang dibandingkan.

Semua ini dijalankan oleh vendor. Tidak satu pun telah direproduksi secara independen, dan kartu tersebut secara eksplisit menyatakan bahwa StreamLAAL bukan pengukuran yang sama dengan waktu hingga output ucapan pertama. Video demonstrasi adalah pemutaran ulang offline, jadi waktu pemutarannya juga bukan pembacaan latensi langsung. Bacalah tabel itu sebagai sekumpulan klaim dari laboratorium yang membangun model, yang dibuat pada harness pilihannya sendiri, dengan varian yang dibiarkan tanpa nama.

Kelalaian terakhir itu bisa diperbaiki dalam satu sore oleh siapa pun yang memiliki perangkat kerasnya: jalankan kedua checkpoint pada audio yang sama dan terbitkan delta-nya. Sampai seseorang melakukannya, asumsi yang wajar adalah bahwa angka-angka yang dipublikasikan menggambarkan jalur khusus terjemahan, karena itulah pengukuran yang lebih bersih — varian Interleave harus mengeluarkan lebih banyak token, dan lebih banyak token dalam decoder streaming berarti lebih banyak latensi. Tetapi itu adalah asumsi, bukan pengungkapan.

Format adalah keputusan ketiga, dan jalur GGUF punya jebakan.

Checkpoint presisi penuh berukuran sekitar 61 GB dalam BF16. Itu menetapkan batas bawah praktis untuk deployment yang nyaman pada akselerator 80 GB, yang merupakan angka yang perlu dianggarkan jika Anda berniat menyajikan model sebagaimana dirilis. Versi FP8 hadir justru untuk menurunkan kebutuhan tersebut ke satu kartu yang lebih kecil, dan Tencent memposisikannya seperti itu.

Rute GGUF tampaknya masih lebih murah, dan ukuran filenya konkret. Repositori Interleave GGUF mencantumkan Q4_K_M pada 19.7 GB dan Q8_0 pada 33.3 GB. Kuantisasi 19.7 GB dari model 30 miliar parameter adalah perbedaan antara "membutuhkan kartu data-centre" dan "muat di workstation," dan itu adalah versi yang akan pertama kali dicoba kebanyakan orang.

Masalahnya adalah dukungan llama.cpp untuk arsitektur ini belum digabungkan ke repositori upstream. Tencent menyediakan bridge yang mengharapkan server llama.cpp yang sudah berjalan dan mendukung audio, dengan sakelar MODEL_TYPE — target_only untuk checkpoint khusus terjemahan, source_target untuk checkpoint interleaved — dan dokumentasinya menyarankan menunggu rilis resmi. Menjalankan build terkuantisasi saat ini berarti menjalankan bridge dari vendor di atas build llama.cpp yang belum mengetahui model apa ini. Itu hal yang wajar dilakukan untuk evaluasi. Namun itu fondasi yang rapuh untuk sebuah produk, dan mode kegagalannya adalah dependensi yang tidak dapat Anda tingkatkan secara independen dari patch vendor.

Untuk jalur vLLM, persyaratannya adalah versi 0.31 atau yang lebih baru dengan dukungan HYV3ForCausalLM, ditambah paket simulst. Deployment multi-GPU didukung melalui tensor parallelism. Installer satu perintah akan menyalakan layanan web dan API pada port 8080 serta server model pada 8800, dan installer ini berjalan di lingkungan terisolasi — artinya ia mungkin memasang ulang SimulInfer atau mengubah versi dependensi jika Anda mengarahkannya ke stack yang sudah ada. Tencent mendokumentasikan langkah demi langkah justru karena alasan itu.

Apa yang dibutuhkan untuk melayani, dan apa yang tidak disertakan dalam rilis

Output suara dan kloning suara bukanlah properti dari checkpoint. Model menghasilkan teks. Mengubah teks itu menjadi suara dalam suara pembicara memerlukan layanan TTS yang dikonfigurasi secara terpisah, dan setiap bagian dari kalimat itu membawa biaya: layanan lain yang harus dijalankan, lompatan jaringan lain dalam anggaran latensi, ketentuan vendor lain untuk ditinjau, dan titik kegagalan lain antara mikrofon dan pendengar. Kartu model menjelaskan hal ini secara langsung, dan ini adalah kesenjangan terbesar antara demo dan interpreter yang dapat di-deploy.

Tidak ada juga API yang dihosting dan tidak ada harga yang dipublikasikan. Antarmuka konsumen Tencent adalah aplikasi Hy Translate, yang menawarkan tier gratis di Android dan iOS — cara termurah untuk mendengar kemampuan model ini, dan tidak berguna sebagai dependensi produksi. Untuk semua hal lainnya, Anda melakukan hosting sendiri, yang berarti biayanya adalah akselerator, waktu operasional, dan tagihan TTS, bukan tarif per token yang bisa Anda masukkan ke spreadsheet.

Cakupan bahasa layak mendapat pemeriksaan yang sama. Teks prosa mendokumentasikan bahasa Mandarin dan Inggris dua arah. Metadata Hugging Face menandai checkpoint dengan 36 bahasa. Tidak ada daftar 34 bahasa lainnya yang dipublikasikan, dan contoh milik repositori sendiri semuanya en-zh atau zh-en. Perlakukan tag itu sebagai metadata warisan sampai Tencent mendokumentasikan sebaliknya, dan jangan merencanakan peluncuran 36 bahasa hanya berdasarkan sebuah tag.

Klaim-klaim yang memerlukan sumber kedua

Perbandingan dengan juru bahasa manusia adalah klaim yang paling banyak dikutip dari rilis ini sekaligus yang paling sedikit didukung. Tencent melaporkan kualitas "setara dengan juru bahasa simultan manusia yang ahli, sekaligus sering kali merespons lebih cepat," berdasarkan 18 rekaman yang baru dikumpulkan dengan durasi sekitar enam menit masing-masing, diambil dari sepuluh domain, dan dievaluasi oleh enam juru bahasa berpengalaman — tiga pemegang CATTI Level 1 dan tiga pemegang Level 2. Untuk setiap level, skor terbaik di antara ketiga juru bahasa tersebut digunakan.

Detail terakhir itu memainkan peran besar. Mengambil yang terbaik dari tiga percobaan dibandingkan dengan satu kali menjalankan model adalah konstruksi yang murah hati, dan kartu tersebut tidak menerbitkan interval kepercayaan atau rincian per domain. Kartu itu juga tidak menerbitkan skor objektif kemiripan penutur untuk kloning suara, yaitu fitur yang paling mungkin menentukan apakah suatu penerapan terasa dapat diterima oleh orang-orang di ruangan tersebut. Batasan dari kartu itu sendiri — bahwa temuan tersebut dibatasi oleh sampel, peserta, dan pengaturannya, serta bukan merupakan penilaian yang menyeluruh — adalah pembacaan yang tepat. Audio percakapan medis, hukum, dan yang bising adalah persis tempat perbandingan juru bahasa memerlukan angka per domain, dan itulah angka yang hilang.

Juru bahasa profesional tetap menjadi pilihan yang tepat setiap kali pertanggungjawaban, tinjauan ahli, atau keputusan berisiko tinggi ikut terlibat. Itu adalah cara Tencent membingkainya, bukan cara seorang kritikus, dan hal itu layak diulang karena versi judul dari rilis ini tidak melakukannya.

Jika Anda melakukan self-host, letakkan sesuatu di belakangnya.

Tak satu pun checkpoint ada di katalog OrcaRouter, jadi kami bukan rute menuju salah satunya, dan tulisan ini tidak akan berpura-pura sebaliknya. Itu tidak membuat router menjadi tidak relevan bagi interpreter self-hosted — posisinya bergeser ke tepi. Jalur penerjemahan langsung adalah rantai panjang: penangkapan audio, server model, layanan TTS opsional, dan klien. Setiap tautan dapat terhenti, dan terhentinya proses dalam rapat lebih buruk daripada terjemahan yang sedikit kurang baik. Menempatkan model teks hosted di belakang endpoint yang sama sebagai fallback untuk jalur transkrip — bukan untuk jalur audio — berarti server model yang mati menurunkan kualitas menjadi transkrip yang tetap terbaca, bukan diam total.

OrcaRouter adalah satu API di depan lebih dari 200 model yang di-hosting dengan markup 0%, harga daftar penyedia diteruskan tanpa tambahan apa pun, dan DSL perutean adalah cara aturan fallback diungkapkan tanpa integrasi kedua. Failover otomatis adalah bagian yang penting di sini: aturan tersebut dipicu oleh kegagalan upstream, bukan oleh manusia yang menyadari bahwa subtitel berhenti.

File yang mana, kalau begitu

Kerangka "versus" itu luruh begitu Anda tahu apa yang dirujuk oleh nama-nama tersebut, dan yang tersisa hanyalah keputusan pengemasan dengan tiga jawaban yang jujur.

Jika Anda membangun produk suara — interpretasi rapat, overlay pusat panggilan, apa pun yang keluarannya berupa audio — gunakan Hy-SimulMT-30B-A3B, atau build FP8-nya jika satu kartu 80 GB menjadi kendala. Anda tidak memerlukan transkrip, Anda tidak ingin membayar untuk menghasilkannya, dan checkpoint dasar adalah jalur latensi yang lebih bersih.

Jika manusia akan membaca keluarannya, gunakan Hy-SimulMT-30B-A3B-Interleave. Subtitle, notulen bilingual, alur kerja perekaman dan peninjauan kepatuhan semuanya memerlukan teks sumber, dan menjalankan pengenal terpisah bersama penerjemah adalah cara Anda berakhir dengan dua transkrip yang tidak sepakat tentang di mana kalimat berakhir.

Jika Anda sedang mengevaluasi, bukan menerapkan, gunakan Hy-SimulMT-30B-A3B-Interleave-GGUF pada Q4_K_M, terima file 19,7 GB dan dependensi llama.cpp yang belum digabungkan, dan anggap ini sebagai cara untuk mendengarkan model pada perangkat keras yang sudah Anda miliki. Tingkatkan ke jalur FP8 vLLM hanya setelah Anda memutuskan bahwa kualitasnya sepadan dengan kartunya.

Pertanyaan yang masih terbuka bukanlah file mana yang lebih baik. Melainkan apakah skor yang dipublikasikan menggambarkan file yang Anda pilih. Tencent memiliki perangkat keras untuk menjawabnya dalam satu hari, dan sampai itu dilakukan, siapa pun yang mengutip 90.3 atau 84.7 harus menyebutkan checkpoint mana dari enam checkpoint yang menurut mereka menghasilkannya.