Hy-SimulMT vs Hy-SimulMT-30B-A3B: jedna nazwa, sześć plików, dwa wyjścia

Wpisz Hy-SimulMT w Hugging Face i nie znajdziesz repozytorium o tej nazwie. Znajdziesz sześć repozytoriów, a każde z nich nazywa się Hy-SimulMT-30B-A3B z dołączonym sufiksem. To całe porównanie w jednym zdaniu. Hy-SimulMT to nazwa, którą Tencent Hunyuan nadał w ogłoszeniu z 26 października 2026 r. tłumaczowi ustnemu chińsko-angielskiemu w czasie rzeczywistym, opisywanemu w relacjach prasowych jako działający z około trzysekundowym opóźnieniem wobec mówcy. Hy-SimulMT-30B-A3B to nazwa artefaktu, który można faktycznie pobrać. Pod krótką nazwą nie ma mniejszego rodzeństwa, żadnego gęstego wariantu ani zwykłego modelu „base”, który by się za nią krył. Krótka nazwa to projekt; długa nazwa to rodzina sześciu plików. To, co następuje, to decyzja, którą strona porównawcza zwykle zakopuje: który z tych sześciu uruchomić i dlaczego odpowiedź jest inna w przypadku nakładki z napisami oraz transmisji ze spotkania, w której potrzebne jest tylko wyjście audio.

Co Tencent wydał i jak zdecydował się to nazwać

Własne repozytorium Tencentu traktuje Hy-SimulMT jako nazwę projektu: „model tłumaczenia symultanicznego w czasie rzeczywistym opracowany przez Tencent Hunyuan”. Karta modelu umieszcza go pod tą samą krótką etykietą. Kolekcja nosi tytuł „Hy Simultaneous Interpretation Model”. Nigdzie w tych materiałach nie ma zdefiniowanej hierarchii rodziny i jej członków — nie ma Hy-SimulMT-Small, nie ma Hy-SimulMT-Mini, nie ma gęstego checkpointu dla osób bez akceleratora o pojemności 80 gigabajtów. Każdy udostępniony zestaw wag to ta sama architektura mieszaniny ekspertów klasy 30B.

Zatem sześć pozycji w kolekcji nie jest w żadnym istotnym sensie sześcioma modelami. To jeden model w sześciu opakowaniach:

• Hy-SimulMT-30B-A3B — wynik wyłącznie tłumaczeniowy, pełna precyzja, safetensors.

• Hy-SimulMT-30B-A3B-Interleave — transkrypcja źródłowa wraz z tłumaczeniem, pełna precyzja, safetensors.

• Hy-SimulMT-30B-A3B-FP8 i Hy-SimulMT-30B-A3B-Interleave-FP8 — te same dwa kształty wyjściowe w ośmiobitowej wersji zmiennoprzecinkowej przeznaczonej do serwowania na pojedynczym GPU.

• Hy-SimulMT-30B-A3B-GGUF i Hy-SimulMT-30B-A3B-Interleave-GGUF — te same dwa kształty wyjściowe skwantyzowane dla llama.cpp, w Q4_K_M i Q8_0.

Architektura leżąca u podstaw to rzadki model o 30,4 mld parametrów, z około 3 mld parametrów aktywnych na token: 48 warstw, 128 ekspertów — ośmiu routowanych i jeden współdzielony na token — oraz 24-warstwowy enkoder audio, który przyjmuje dźwięk 16 kHz w 30-sekundowych oknach. Warto zwrócić uwagę właśnie na konstrukcję tego enkodera. Model jest zbudowany tak, aby przetwarzać dźwięk, gdy ten jeszcze napływa, a nie odbierać gotowy plik — dlatego twierdzenie o opóźnieniu i twierdzenie o wynikach benchmarku są mierzone na różnych rzeczach i dlatego żadne z nich nie mówi, który z sześciu plików dał daną liczbę.

Licencja to Apache-2.0 i nie obowiązują w niej żadne bramki dostępu, co jest najsilniejszym pojedynczym faktem w tym wydaniu. Żadnego formularza, żadnej bramki dopuszczalnego użytku, żadnej klauzuli niekomercyjnej. Dozwolone jest użytkowanie komercyjne, modyfikacja i redystrybucja, a Tencent opublikował wraz z serwerem wnioskowania zestaw narzędzi do trenowania, dzięki czemu dalsze trenowanie jest zamierzonym zastosowaniem, a nie nieobsługiwanym.

Wybór, który naprawdę ma znaczenie, to kształt wyjścia

Między dwoma checkpointami pełnej precyzji różnica nie dotyczy jakości. Chodzi o to, co modelowi wolno powiedzieć. Bazowy checkpoint emituje tłumaczenie i nic więcej. Checkpoint Interleave emituje rozpoznany tekst źródłowy, a następnie tłumaczenie, przeplatane wraz ze strumieniowaniem dźwięku.

To brzmi kosmetycznie, dopóki nie spojrzysz na to, gdzie te systemy są wdrażane. Transmisja na żywo ze spotkania zasilająca syntezę mowy potrzebuje bazowego checkpointu: transkrypcja jest zbędnym balastem, który zużywa tokeny wyjściowe, dodaje opóźnienie do każdego fragmentu i wprowadza język źródłowy do potoku, którego jedynym odbiorcą jest głos. Nakładka z napisami, zapis na potrzeby zgodności, transkrypcja dwujęzyczna lub dowolny przepływ pracy, w którym człowiek musi sprawdzić tłumaczenie z tym, co zostało powiedziane, potrzebuje checkpointu Interleave, ponieważ alternatywą jest uruchamianie osobnego rozpoznawacza mowy obok tłumacza i liczenie na to, że oba podzielą dźwięk na segmenty w ten sam sposób. Nie zrobią tego.

Własny przykład wdrożenia jednym poleceniem od Tencent domyślnie używa wariantu Interleave:

• bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave

To rozsądne ustawienie domyślne w przypadku demonstracji, w której wyświetlanie tekstu źródłowego dowodzi, że system słucha. To jednak niewłaściwe ustawienie domyślne dla produktu wyłącznie głosowego i to właśnie ten szczegół pomija większość omówień tego wydania. Jeśli oceniasz model pod kątem kosztu tokenów lub opóźnienia end-to-end, mierzysz inny system w zależności od tego, który checkpoint został wczytany.

Interleave ma koszt wtórny, który karta sugeruje, ale nie kwantyfikuje. Transkrypcje strumieniowe są modyfikowalne. Wczesne dane wyjściowe mogą być korygowane w miarę napływania kolejnego dźwięku, więc klient wyświetlający częściowy tekst musi być zbudowany tak, aby akceptować poprawki, a nie tylko dopisywać wiersze. Opis wydania przygotowany przez AlphaSignal wprost to podkreśla, a to właśnie tego rodzaju szczegół integracyjny sprawia, że dwudniowy prototyp zamienia się w trzytygodniowy.

Testy porównawcze nie wskazują, który wariant zmierzono.

Tencent publikuje cztery wyniki dla krótkich form i jedną wartość opóźnienia dla długiej formy, a każdy wiersz jest oznaczony jako „Hy-SimulMT” — nie Hy-SimulMT-30B-A3B, a już na pewno nie jako base versus Interleave. To jest uczciwa luka w komunikacie i ma większe znaczenie niż jakakolwiek pojedyncza liczba w nim.

• FLEURS — 90,3. Gemini3.5-LiveTranslate uzyskuje wynik 92,4, więc to nie jest wygrana w kategorii.

• CoVoST2 — 75,5, za Qwen3.8-LiveTranslate z wynikiem 82,1. To najwyraźniejsza strata w tabeli i ta, którą relacje nagłówkowe zwykle pomijają.

• ACL6060 — 81,2. Gemini3.5-LiveTranslate uzyskuje 82,6.

• RealSI-Sentence — 84,7, najwyższy wynik w zestawie porównawczym.

• Opóźnienie długiej formy RealSI — StreamLAAL wynoszący około trzech sekund, opisywany jako najniższy wśród porównywanych systemów.

Wszystkie są prowadzone przez dostawców. Żadne nie zostało niezależnie odtworzone, a karta wyraźnie stwierdza, że StreamLAAL nie jest tym samym pomiarem co czas do pierwszego wyjścia mowy. Filmy demonstracyjne są odtwarzaniem offline, więc ich czas odtwarzania również nie jest odczytem opóźnienia na żywo. Odczytuj tabelę jako zestaw twierdzeń laboratorium, które zbudowało model, sformułowanych na wybranym przez nie stanowisku testowym, przy pozostawionym bez nazwy wariancie.

To ostatnie pominięcie może naprawić w jedno popołudnie każdy, kto ma odpowiedni sprzęt: uruchomić oba punkty kontrolne na tym samym audio i opublikować deltę. Dopóki ktoś tego nie zrobi, rozsądnym założeniem jest, że opublikowane liczby dotyczą ścieżki wyłącznie tłumaczeniowej, ponieważ jest to czystszy pomiar — wariant Interleave musi emitować więcej tokenów, a więcej tokenów w dekoderze strumieniowym oznacza większe opóźnienie. To jednak założenie, a nie ujawnienie.

Format to trzecia decyzja, a ścieżka GGUF ma pewien haczyk.

Pełnoprecyzyjny checkpoint ma około 61 GB w BF16. To wyznacza praktyczne minimum dla komfortowego wdrożenia na akceleratorze 80 GB — i tę liczbę należy uwzględnić w budżecie, jeśli zamierzasz serwować model w wersji dostarczonej przez producenta. Wersja FP8 istnieje właśnie po to, aby obniżyć to wymaganie do jednej mniejszej karty, i Tencent tak ją pozycjonuje.

Ścieżka GGUF wygląda jeszcze taniej, a rozmiary plików są konkretne. Repozytorium Interleave GGUF podaje Q4_K_M jako 19,7 GB, a Q8_0 jako 33,3 GB. Kwantyzacja modelu o 30 miliardach parametrów do 19,7 GB to różnica między „wymaga karty do centrów danych” a „mieści się na stacji roboczej”, a to wersja, którą większość ludzi wypróbuje najpierw.

Haczyk polega na tym, że obsługa tej architektury w llama.cpp nie została scalona z repozytorium upstream. Tencent dostarcza mostek, który oczekuje już działającego serwera llama.cpp obsługującego audio, z przełącznikiem MODEL_TYPE — target_only dla checkpointu wyłącznie do tłumaczenia, source_target dla przeplatanego — a dokumentacja zaleca poczekać na oficjalne wydanie. Uruchomienie dzisiaj skwantyzowanej kompilacji oznacza uruchomienie mostka dostawcy na kompilacji llama.cpp, która jeszcze nie wie, czym jest ten model. To rozsądne posunięcie na potrzeby oceny. To jednak kruchy fundament dla produktu, a tryb awarii to zależność, której nie można zaktualizować niezależnie od łatki dostawcy.

W przypadku ścieżki vLLM wymagana jest wersja 0.31 lub nowsza z obsługą HYV3ForCausalLM, a także pakiet simulst. Wdrożenie na wielu GPU jest obsługiwane dzięki równoległości tensorowej. Instalator uruchamiany jedną komendą podnosi usługę webową i API na porcie 8080 oraz serwer modelu na porcie 8800, a działa przy tym w izolowanym środowisku — co oznacza, że może ponownie zainstalować SimulInfer lub zmienić wersje zależności, jeśli wskażesz go na istniejący stos. Właśnie z tego powodu Tencent dokumentuje ścieżkę krok po kroku.

Co potrzeba, aby służyć, i czego wydanie nie obejmuje

Generowanie mowy i klonowanie głosu nie są właściwościami checkpointu. Model generuje tekst. Przekształcenie tego tekstu w mowę w głosie mówiącego wymaga osobno skonfigurowanej usługi TTS, a każdy fragment tego zdania wiąże się z kosztem: kolejna usługa do uruchomienia, kolejny przeskok sieciowy w budżecie opóźnień, kolejne warunki dostawcy do przejrzenia i kolejny punkt awarii między mikrofonem a słuchaczem. Karta modelu mówi o tym wprost i jest to największa pojedyncza luka między demem a interpreterem gotowym do wdrożenia.

Nie ma również hostowanego API ani opublikowanej ceny. Konsumenckim produktem Tencenta jest aplikacja Hy Translate, która oferuje darmowy plan na Androida i iOS — najtańszy sposób, by usłyszeć, co potrafi model, i bezużyteczna jako zależność produkcyjna. Wszystko inne hostujesz samodzielnie, co oznacza, że koszt to akcelerator, czas operacyjny i rachunek za TTS, a nie stawka za token, którą można wpisać do arkusza kalkulacyjnego.

Pokrycie językowe zasługuje na taką samą wnikliwą analizę. Opis dokumentuje tłumaczenie dwukierunkowe chińsko-angielskie. Metadane Hugging Face oznaczają checkpoint tagiem 36 języków. Nie opublikowano listy pozostałych 34 języków, a przykłady w samym repozytorium dotyczą wyłącznie en-zh lub zh-en. Traktuj ten tag jako odziedziczoną metadaną, dopóki Tencent nie udokumentuje inaczej, i nie planuj wdrożenia obejmującego 36 języków wyłącznie na podstawie tagu.

Twierdzenia, które wymagają drugiego źródła

Porównanie z ludzkimi tłumaczami ustnymi to najczęściej cytowane twierdzenie tej publikacji i zarazem najmniej poparte dowodami. Tencent podaje, że jakość jest „na poziomie doświadczonych ludzkich tłumaczy symultanicznych, a przy tym często odpowiada szybciej”, na podstawie 18 nowo zebranych nagrań, każde trwające około sześciu minut, pochodzących z dziesięciu dziedzin i ocenionych przez sześciu doświadczonych tłumaczy ustnych — trzech z certyfikatem CATTI poziom 1 i trzech z poziomem 2. Dla każdego poziomu wykorzystano najlepszy wynik spośród trzech tłumaczy.

Ten ostatni szczegół odgrywa dużą rolę. Wybór najlepszego z trzech wyników w porównaniu z pojedynczym uruchomieniem modelu to korzystne ujęcie, a karta nie publikuje przedziałów ufności ani podziału według domen. Nie publikuje też obiektywnego wyniku podobieństwa mówców dla klonowania głosu, czyli funkcji, która najprawdopodobniej zdecyduje o tym, czy wdrożenie będzie akceptowalne dla osób obecnych w pomieszczeniu. Własne ograniczenie karty — że wniosek jest ograniczony przez jej próbki, uczestników i ustawienia i nie stanowi kompleksowej oceny — to właściwa interpretacja. Audio medyczne, prawne i zaszumione rozmowy to dokładnie te obszary, w których porównanie tłumaczy ustnych wymagałoby liczb dla poszczególnych domen, a właśnie tych liczb brakuje.

Zawodowi tłumacze ustni pozostają właściwym wyborem wszędzie tam, gdzie w grę wchodzi odpowiedzialność, weryfikacja ekspercka lub decyzja o wysokiej stawce. To ujęcie Tencent, a nie krytyka, i warto je powtórzyć, ponieważ wersja nagłówkowa tego komunikatu tego nie zrobiła.

Jeśli hostujesz go samodzielnie, postaw coś za nim.

Żaden z checkpointów nie znajduje się w katalogu OrcaRouter, więc nie jesteśmy trasą do żadnego z nich, a ten tekst nie będzie udawał, że jest inaczej. To nie czyni routera nieistotnym dla samodzielnie hostowanego interpretera — przenosi go na obrzeża. Ścieżka tłumaczenia na żywo to długi łańcuch: przechwytywanie dźwięku, serwer modelu, opcjonalna usługa TTS i klient. Każde ogniwo może się zablokować, a przestój na spotkaniu jest gorszy niż nieco gorsze tłumaczenie. Umieszczenie hostowanego modelu tekstowego za tym samym punktem końcowym jako fallbacku dla ścieżki transkrypcji — nie dla ścieżki audio — oznacza, że niedziałający serwer modelu sprowadza się do czytelnego transkryptu zamiast ciszy.

OrcaRouter to jedno API obsługujące ponad 200 hostowanych modeli z 0% narzutu, cena katalogowa dostawcy przekazywana bez żadnych dodatków, a DSL routingu to sposób wyrażania reguły awaryjnej bez drugiej integracji. Automatyczne przełączanie awaryjne jest tu tym, co naprawdę się liczy: reguła uruchamia się na skutek awarii upstreamu, a nie dlatego, że człowiek zauważy, iż napisy zniknęły.

Który plik w takim razie

Przeciwstawienie znika, gdy wiadomo, do czego odnoszą się nazwy, a pozostaje decyzja dotycząca opakowania z trzema uczciwymi odpowiedziami.

Jeśli budujesz produkt głosowy — tłumaczenie spotkań, nakładkę na centrum obsługi, cokolwiek, gdzie wynikiem jest dźwięk — wybierz Hy-SimulMT-30B-A3B, albo jego wersję FP8, jeśli ograniczeniem jest pojedyncza karta 80 GB. Nie potrzebujesz transkryptu, nie chcesz płacić za jego generowanie, a bazowy checkpoint to korzystniejsza pod względem opóźnień ścieżka.

Jeśli wynik będzie czytać człowiek, wybierz Hy-SimulMT-30B-A3B-Interleave. Napisy, dwujęzyczne protokoły, przepływy pracy związane z przechwytywaniem i przeglądem zgodności — wszystkie wymagają tekstu źródłowego, a uruchamianie osobnego mechanizmu rozpoznawania obok tłumacza prowadzi do dwóch transkrypcji, które nie zgadzają się co do tego, gdzie zakończyło się zdanie.

Jeśli oceniasz model, a nie wdrażasz go, wybierz Hy-SimulMT-30B-A3B-Interleave-GGUF w wersji Q4_K_M, zaakceptuj plik o rozmiarze 19,7 GB i niezmergowaną zależność llama.cpp, i traktuj to jako sposób, by usłyszeć model na sprzęcie, który już masz. Przejdź na ścieżkę FP8 vLLM dopiero wtedy, gdy uznasz, że jakość jest warta tej karty.

Otwartą kwestią nie jest to, który plik jest lepszy. Jest nią to, czy opublikowane wyniki opisują plik, który wybrałeś. Tencent ma sprzęt, by odpowiedzieć na to w ciągu jednego dnia, a dopóki tego nie zrobi, każdy, kto cytuje 90,3 lub 84,7, powinien powiedzieć, który z sześciu checkpointów jego zdaniem go wygenerował.