Hy-SimulMT vs Hy-SimulMT-30B-A3B: één naam, zes bestanden, twee uitvoerresultaten

Typ Hy-SimulMT in Hugging Face en je zult geen repository met die naam vinden. Je vindt er zes, en ze heten allemaal Hy-SimulMT-30B-A3B met een suffix erachter. Dat is de hele vergelijking in één zin. Hy-SimulMT is de naam die Tencent Hunyuan op de aankondiging van 26 oktober 2026 plakte — de realtime Chinees↔Engels-tolk waarvan de persberichtgeving zei dat hij ongeveer drie seconden achter de spreker aanliep. Hy-SimulMT-30B-A3B is de naam op het artefact dat je daadwerkelijk kunt downloaden. Er is geen kleinere broer onder de korte naam, geen dense variant, geen gewoon "base"-model dat erachter schuilgaat. De korte naam is een project; de lange naam is een familie van zes bestanden. Wat volgt is de beslissing die een versus-pagina meestal begraaft: welke van die zes je moet draaien, en waarom het antwoord verschilt voor een ondertiteloverlay en voor een vergaderfeed die alleen audio-uit nodig heeft.

Wat Tencent heeft uitgebracht, en hoe het besloot het te noemen

Tencents eigen repository behandelt Hy-SimulMT als de projectnaam: "een realtime simultaanvertaalmodel ontwikkeld door Tencent Hunyuan." De modelkaart plaatst het onder hetzelfde korte label. De collectie heet "Hy Simultaneous Interpretation Model." Nergens in dat materiaal staat een gedefinieerde hiërarchie van een familie en haar leden — geen Hy-SimulMT-Small, geen Hy-SimulMT-Mini, geen dense checkpoint voor wie geen accelerator van 80 gigabyte heeft. Elk vrijgegeven gewicht is dezelfde 30B-klasse mixture-of-experts-architectuur.

Dus de zes vermeldingen in de collectie zijn in geen enkele betekenisvolle zin zes modellen. Het betreft één model in zes verpakkingen:

• Hy-SimulMT-30B-A3B — uitvoer uitsluitend voor vertaling, volledige precisie, safetensors.

• Hy-SimulMT-30B-A3B-Interleave — brontranscript plus vertaling, volledige precisie, safetensors.

• Hy-SimulMT-30B-A3B-FP8 en Hy-SimulMT-30B-A3B-Interleave-FP8 — dezelfde twee uitvoervormen in een acht-bits floating-point-build bedoeld voor single-GPU-serving.

• Hy-SimulMT-30B-A3B-GGUF en Hy-SimulMT-30B-A3B-Interleave-GGUF — dezelfde twee uitvoervormen, gekwantiseerd voor llama.cpp, in Q4_K_M en Q8_0.

De onderliggende architectuur is een sparse model met 30,4 miljard parameters, waarvan ongeveer 3 miljard parameters per token actief zijn: 48 lagen, 128 experts met acht gerouteerde en één gedeelde per token, en een audio-encoder met 24 lagen die audio van 16 kHz in vensters van 30 seconden verwerkt. Dat encoderontwerp is het deel dat opvalt. Het model is gebouwd om audio te verwerken terwijl die nog binnenkomt, niet om een afgerond bestand te ontvangen — daarom worden de latencyclaim en de benchmarkclaim op verschillende dingen gemeten, en daarom vertelt geen van beide je welk van de zes bestanden het getal heeft geproduceerd.

De licentie is Apache-2.0 en kent geen toegangsdrempel, wat het sterkste afzonderlijke feit in de release is. Geen formulier, geen poort voor aanvaardbaar gebruik, geen niet-commerciële clausule. Commercieel gebruik, wijziging en herdistributie zijn toegestaan, en Tencent heeft naast de inferentieserver een trainingskit gepubliceerd, zodat voortgezette training een bedoeld gebruik is in plaats van een niet-ondersteund gebruik.

De keuze die er echt toe doet, is de vorm van de uitvoer

Tussen de twee full-precision checkpoints is het verschil niet kwaliteit. Het is wat het model mag zeggen. Het base checkpoint geeft de vertaling en niets anders weer. Het Interleave checkpoint geeft de herkende brontekst en vervolgens de vertaling weer, verweven zoals de audiostreams.

Dat klinkt cosmetisch tot je kijkt naar waar deze systemen worden ingezet. Een live vergaderfeed die tekst-naar-spraak aanstuurt, wil het basischeckpoint: het transcript is dode ballast die outputtokens kost, latency toevoegt aan elk chunk en de brontaal laat lekken naar een pijplijn waarvan de enige consument een stem is. Een ondertitelingslaag, een compliance-vastlegging, een tweetalig transcript of elke workflow waarbij een mens de vertaling moet controleren tegen wat er gezegd is, wil het Interleave-checkpoint, want het alternatief is een aparte spraakherkenner naast de vertaler draaien en hopen dat de twee de audio op dezelfde manier segmenteren. Dat zullen ze niet doen.

Het eigen voorbeeld van Tencent voor deployment met één commando gebruikt standaard de Interleave-variant:

• bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave

Dat is een verstandige standaard voor een demo, waar het tonen van de brontekst bewijst dat het systeem luistert. Het is de verkeerde standaard voor een product dat alleen spraak gebruikt, en het is het ene detail dat de meeste berichtgeving over deze release overslaat. Als je het model evalueert op tokenkosten of end-to-end latentie, meet je een ander systeem afhankelijk van welke checkpoint je hebt geladen.

Er kleeft een secundaire kost aan Interleave die de kaart impliceert maar niet kwantificeert. Streamingtranscripten zijn veranderlijk. Vroege uitvoer kan worden herzien naarmate er meer audio binnenkomt, dus een client die gedeeltelijke tekst toont, moet zo worden gebouwd dat hij correcties accepteert in plaats van alleen append-only-regels. De uiteenzetting van AlphaSignal over de release maakt dit punt direct duidelijk, en het is precies het soort integratiedetail dat van een prototype van twee dagen een van drie weken maakt.

De benchmarks vermelden niet welke variant ze hebben gemeten.

Tencent publiceert vier korte-vormscores en één lange-vormlatentiegetal, en elke rij is gelabeld als "Hy-SimulMT" — niet Hy-SimulMT-30B-A3B, en zeker niet base versus Interleave. Dat is het eerlijke hiaat in de release, en het weegt zwaarder dan welk afzonderlijk getal erin dan ook.

• FLEURS — 90,3. Gemini3.5-LiveTranslate scoort 92,4, dus dit is geen overwinning in de categorie.

• CoVoST2 — 75,5, achter Qwen3.8-LiveTranslate op 82,1. Dit is het duidelijkste verlies in de tabel en degene die de kopberichtgeving doorgaans overslaat.

• ACL6060 — 81,2. Gemini3.5-LiveTranslate scoort 82,6.

• RealSI-Sentence — 84,7, het hoogste in de vergelijkingsset.

• RealSI-latentie bij lange vormen — een StreamLAAL van ongeveer drie seconden, beschreven als de laagste onder de vergeleken systemen.

Deze zijn allemaal door de leverancier uitgevoerd. Geen ervan is onafhankelijk gereproduceerd, en de kaart vermeldt expliciet dat StreamLAAL niet dezelfde meting is als de tijd tot eerste spraakoutput. De demonstratievideo's zijn offline herspelingen, dus hun afspeeltiming is ook geen live latentiemeting. Lees de tabel als een reeks beweringen van het laboratorium dat het model heeft gebouwd, gedaan op een testopzet die het zelf heeft gekozen, waarbij de variant niet bij naam wordt genoemd.

Die laatste weglating kan iedereen met de hardware in een middag oplossen: laat beide checkpoints op dezelfde audio draaien en publiceer het verschil. Totdat iemand dat doet, is de redelijke aanname dat de gepubliceerde cijfers het translation-only pad beschrijven, omdat dat de schonere meting is — de Interleave-variant moet meer tokens genereren, en meer tokens in een streamingdecoder betekent meer latency. Maar het is een aanname, geen openbaarmaking.

Formaat is de derde beslissing, en het GGUF-pad heeft een addertje onder het gras

De checkpoint met volledige precisie is ongeveer 61 GB in BF16. Daarmee ligt de praktische ondergrens voor een comfortabele deployment bij een accelerator van 80 GB, en dat is het getal dat u in uw budget moet opnemen als u het model wilt serveren zoals het wordt geleverd. De FP8-build bestaat precies om die vereiste terug te brengen naar één kleinere kaart, en zo positioneert Tencent het ook.

De GGUF-route lijkt nog goedkoper, en de bestandsgroottes zijn concreet. De Interleave GGUF-repository vermeldt Q4_K_M op 19,7 GB en Q8_0 op 33,3 GB. Een kwantisatie van 19,7 GB van een model met 30 miljard parameters is het verschil tussen "heeft een datacenterkaart nodig" en "past op een werkstation", en het is de versie die de meeste mensen als eerste zullen proberen.

Het addertje onder het gras is dat de ondersteuning van llama.cpp voor deze architectuur nog niet is samengevoegd in de upstream-repository. Tencent levert een brug die een al draaiende, audio-capabele llama.cpp-server verwacht, met een MODEL_TYPE-schakelaar — target_only voor het checkpoint dat alleen vertaalt, source_target voor het geïnterlinieerde — en de documentatie raadt aan te wachten op een officiële release. De gequantiseerde build vandaag draaien betekent een leveranciersbrug draaien bovenop een llama.cpp-build die nog niet weet wat dit model is. Dat is een redelijke keuze voor een evaluatie. Het is een fragiele basis voor een product, en de faalmodus is een afhankelijkheid die je niet onafhankelijk van de patch van de leverancier kunt upgraden.

Voor het vLLM-pad is versie 0.31 of nieuwer vereist met ondersteuning voor HYV3ForCausalLM, plus het pakket simulst. Implementatie op meerdere GPU's wordt ondersteund via tensor-parallellisme. De installer met één commando start de web- en API-service op poort 8080 en de modelserver op 8800, en draait in een geïsoleerde omgeving — wat betekent dat het SimulInfer opnieuw kan installeren of versies van afhankelijkheden kan wijzigen als je het op een bestaande stack richt. Tencent documenteert precies daarom een stapsgewijze aanpak.

Wat er nodig is om te dienen, en wat de release niet bevat

Spraakuitvoer en stemkloning zijn geen eigenschappen van het checkpoint. Het model produceert tekst. Om die tekst om te zetten in spraak in de stem van de spreker is een afzonderlijk geconfigureerde TTS-dienst nodig, en elk onderdeel van die zin brengt kosten met zich mee: nog een dienst om te draaien, nog een netwerkhop in het latentiebudget, nog een set leveranciersvoorwaarden om te beoordelen, en nog een faalpunt tussen de microfoon en de luisteraar. De modelkaart is hier duidelijk over, en het is de grootste kloof tussen de demo en een inzetbare tolk.

Er is ook geen gehoste API en geen gepubliceerde prijs. Het consumentenaanbod van Tencent is de Hy Translate-app, die een gratis versie biedt op Android en iOS — de goedkoopste manier om te horen wat het model doet, en onbruikbaar als productieafhankelijkheid. Voor al het overige moet je zelf hosten, wat betekent dat de kosten de accelerator, de operationele tijd en de TTS-rekening zijn, niet een tarief per token dat je in een spreadsheet kunt zetten.

Taaldekking verdient dezelfde nauwgezette controle. De tekst documenteert bidirectioneel Chinees en Engels. In de Hugging Face-metadata is het checkpoint getagd met 36 talen. Er is geen lijst van de overige 34 gepubliceerd, en de eigen voorbeelden van de repository zijn allemaal en-zh of zh-en. Behandel de tag als overgeërfde metadata totdat Tencent het tegendeel documenteert, en plan op grond van een tag geen uitrol in 36 talen.

De beweringen die een tweede bron nodig hebben

De vergelijking met menselijke tolken is de meest geciteerde claim van de release en de minst onderbouwde. Tencent meldt een kwaliteit "op één lijn met ervaren menselijke simultaantolken, terwijl het vaak sneller reageert", op basis van 18 nieuw verzamelde opnames van ongeveer zes minuten elk, afkomstig uit tien domeinen, beoordeeld door zes ervaren tolken — drie met CATTI Level 1 en drie met Level 2. Voor elk niveau werd de beste score onder de drie tolken gebruikt.

Dat laatste detail is bepalend. Het beste van drie tegenover één enkele modelrun zetten is een genereuze constructie, en de kaart publiceert geen betrouwbaarheidsintervallen of een uitsplitsing per domein. Ook publiceert ze geen objectieve sprekersimilariteitsscore voor de voicecloning, het onderdeel dat het meest waarschijnlijk bepaalt of een implementatie acceptabel aanvoelt voor de mensen in de ruimte. De beperking die de kaart zelf noemt — dat de bevinding wordt begrensd door haar steekproeven, deelnemers en instellingen, en geen alomvattende beoordeling is — is de juiste lezing. Medische, juridische en rumoerige gespreksaudio zijn precies waar een tolkvergelijking cijfers per domein nodig zou hebben, en juist die cijfers ontbreken.

Professionele tolken blijven de juiste keuze zodra verantwoording, deskundige beoordeling of een beslissing met grote gevolgen aan de orde is. Dat is de framing van Tencent, niet die van een criticus, en het is de moeite waard om dat te herhalen, omdat de kopversie van deze release dat niet deed.

Als je het zelf host, zet er dan iets achter.

Geen van beide checkpoints staat in de catalogus van OrcaRouter, dus wij vormen geen route naar een van beide, en dit stuk zal niet doen alsof dat anders is. Dat maakt een router niet irrelevant voor een self-hosted interpreter — het verplaatst hem naar de rand. Een live vertaalpad is een lange keten: audio-opname, de modelserver, een optionele TTS-dienst en de client. Elke schakel kan vastlopen, en een hapering in een vergadering is erger dan een iets slechtere vertaling. Een gehost tekstmodel achter hetzelfde endpoint zetten als fallback voor het transcriptpad — niet voor het audiopad — betekent dat een uitgevallen modelserver degradeert naar een leesbaar transcript in plaats van stilte.

OrcaRouter is één API voor meer dan 200 gehoste modellen met 0% markup, de lijstprijs van de provider wordt doorgegeven zonder dat er iets bovenop komt, en de routing-DSL is de manier waarop een fallbackregel wordt uitgedrukt zonder een tweede integratie. Automatische failover is hier het belangrijkste: de regel treedt in werking bij een upstream-storing, niet doordat iemand merkt dat de ondertiteling is gestopt.

Welk bestand dan?

De tegenstelling lost op zodra je weet waar de namen naar verwijzen, en wat overblijft is een verpakkingsbeslissing met drie eerlijke antwoorden.

Als je een spraakproduct bouwt — meetinginterpretatie, een callcenter-overlay, alles waarbij de output audio is — neem dan Hy-SimulMT-30B-A3B, of de FP8-build ervan als één 80GB-kaart de beperking is. Je hebt het transcript niet nodig, je wilt er niet voor betalen om het te genereren, en de basis-checkpoint is het schonere latencypad.

Als een mens de uitvoer gaat lezen, neem Hy-SimulMT-30B-A3B-Interleave. Ondertitels, tweetalige notulen, vastlegging voor compliance en reviewworkflows hebben allemaal de brontekst nodig, en een aparte herkenner naast de vertaler laten draaien is hoe je twee transcripties krijgt die het er niet over eens zijn waar de zin eindigde.

Als je aan het evalueren bent in plaats van te deployen, neem Hy-SimulMT-30B-A3B-Interleave-GGUF in Q4_K_M, accepteer het bestand van 19,7 GB en de niet-samengevoegde llama.cpp-afhankelijkheid, en beschouw het als een manier om het model te horen op hardware die je al bezit. Stap pas over op het FP8 vLLM-pad zodra je hebt besloten dat de kwaliteit de kaart waard is.

De openstaande vraag is niet welk bestand beter is. Het is of de gepubliceerde scores het bestand beschrijven dat je hebt gekozen. Tencent heeft de hardware om dat binnen een dag te beantwoorden, en totdat Tencent dat doet, zou iedereen die 90,3 of 84,7 citeert moeten zeggen welke van de zes checkpoints volgens hen dat heeft geproduceerd.