Hy-SimulMT vs Hy-SimulMT-30B-A3B: Ett namn, sex filer, två utdata

Skriv Hy-SimulMT i Hugging Face och du hittar inget repository med det namnet. Du hittar sex, och varenda ett av dem heter Hy-SimulMT-30B-A3B med ett suffix påslutet. Det är hela jämförelsen i en mening. Hy-SimulMT är namnet Tencent Hunyuan satte på tillkännagivandet den 26 oktober 2026 — realtidstolken för kinesiska↔engelska som pressbevakningen beskrev som ungefär tre sekunder efter talaren. Hy-SimulMT-30B-A3B är namnet på artefakten du faktiskt kan ladda ner. Det finns ingen mindre syskonmodell under kortnamnet, ingen dense-variant, ingen vanlig "base"-modell som gömmer sig bakom det. Kortnamnet är ett projekt; långnamnet är en familj på sex filer. Det som följer är det beslut som en versus-sida vanligtvis begraver: vilken av de sex du ska köra, och varför svaret skiljer sig för en undertextoverläggning och för ett mötesflöde som bara behöver ljud ut.

Vad Tencent släppte, och vad de valde att kalla det

Tencents eget repositorium behandlar Hy-SimulMT som projektnamnet: "en realtidsmodell för simultanöversättning utvecklad av Tencent Hunyuan." Modellkortet för in den under samma korta beteckning. Samlingen har titeln "Hy Simultaneous Interpretation Model." Ingenstans i materialet finns en definierad hierarki över en familj och dess medlemmar – ingen Hy-SimulMT-Small, ingen Hy-SimulMT-Mini, ingen dense-checkpoint för personer som inte har en accelerator med 80 gigabyte. Varje publicerad vikt har samma mixture-of-experts-arkitektur i 30B-klassen.

Så de sex posterna i kollektionen är inte sex modeller i någon meningsfull bemärkelse. De är en modell i sex förpackningar:

• Hy-SimulMT-30B-A3B — utdata endast för översättning, full precision, safetensors.

• Hy-SimulMT-30B-A3B-Interleave — källtranskript plus översättning, full precision, safetensors.

• Hy-SimulMT-30B-A3B-FP8 och Hy-SimulMT-30B-A3B-Interleave-FP8 — samma två utdataformer i ett åttabitars flyttalsbygge avsett för körning på en enda GPU.

• Hy-SimulMT-30B-A3B-GGUF och Hy-SimulMT-30B-A3B-Interleave-GGUF — samma två utdataformer kvantiserade för llama.cpp, vid Q4_K_M och Q8_0.

Arkitekturen under huven är en gles modell med 30,4 miljarder parametrar och ungefär 3 miljarder parametrar aktiva per token: 48 lager, 128 experter med åtta routade och en delad per token, samt en ljudkodare med 24 lager som tar emot 16 kHz-ljud i 30-sekundersfönster. Det är kodarens design som är värd att lägga märke till. Modellen är byggd för att konsumera ljud medan det fortfarande anländer, inte för att ta emot en färdig fil – vilket är anledningen till att latenspåståendet och benchmarkpåståendet mäts på olika saker, och till att ingen av dem berättar vilken av de sex filerna som producerade siffran.

Licensen är Apache-2.0 och utan spärrar, vilket är det starkaste enskilda faktumet i lanseringen. Inget formulär, ingen grind för godtagbar användning, ingen klausul om icke-kommersiell användning. Kommersiell användning, modifiering och vidaredistribution är tillåten, och Tencent har publicerat en träningsverktygslåda tillsammans med inferensservern så att fortsatt träning är en avsedd användning snarare än en icke understödd sådan.

Det val som faktiskt spelar roll är utdatans form

Skillnaden mellan de två fullprecisions-checkpointarna är inte kvaliteten. Det är vad modellen tillåts säga. Bas-checkpointen ger endast översättningen och inget annat. Interleave-checkpointen ger den igenkända källtexten och därefter översättningen, invävt allteftersom ljudet strömmar.

Det låter kosmetiskt ända tills man tittar på var dessa system används. En live-ström från ett möte som driver text-till-tal vill ha bas-checkpointen: transkriptet är död last som kostar output-tokens, lägger till latens för varje chunk och läcker källspråket in i en pipeline vars enda konsument är en röst. Ett undertextöverlägg, en compliance-inspelning, en tvåspråkig transkription eller vilket arbetsflöde som helst där en människa måste kontrollera översättningen mot det som sades vill ha Interleave-checkpointen, eftersom alternativet är att köra en separat taligenkännare bredvid översättaren och hoppas att de två segmenterar ljudet på samma sätt. Det kommer de inte att göra.

Tencents eget exempel på distribution med ett enda kommando använder som standard Interleave-varianten:

• bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave

Det är en vettig standardinställning för en demo, där att visa källtexten bevisar att systemet lyssnar. Det är fel standardinställning för en produkt som bara är röstbaserad, och det är den detalj som de flesta genomgångar av den här versionen hoppar över. Om du utvärderar modellen utifrån tokenkostnad eller end-to-end-fördröjning mäter du ett annat system beroende på vilken checkpoint du har laddat.

Det finns en andrahandskostnad för Interleave som kortet antyder men inte kvantifierar. Strömmande transkript är föränderliga. Tidig utdata kan revideras när mer ljud anländer, så en klient som visar delvis text måste byggas för att ta emot rättelser i stället för rader som bara läggs till. AlphaSignals genomgång av lanseringen tar upp denna punkt direkt, och det är den typ av integrationsdetalj som förvandlar en tvådagarsprototyp till en treveckors.

Benchmarkarna säger inte vilken variant de mätte

Tencent publicerar fyra kortformatspoäng och en latenssiffra för långformat, och varje rad är märkt "Hy-SimulMT" — inte Hy-SimulMT-30B-A3B, och absolut inte bas kontra Interleave. Det är den ärliga luckan i släppet, och den spelar större roll än någon enskild siffra i det.

• FLEURS — 90,3. Gemini3.5-LiveTranslate får 92,4, så det här är ingen kategorivinst.

• CoVoST2 — 75,5, bakom Qwen3.8-LiveTranslate på 82,1. Detta är den tydligaste förlusten i tabellen och den som rubrikbevakningen tenderar att hoppa över.

• ACL6060 — 81,2. Gemini3.5-LiveTranslate får 82,6.

• RealSI-Sentence — 84,7, det högsta i jämförelseuppsättningen.

• RealSI latens för långa former — en StreamLAAL på ungefär tre sekunder, beskriven som den lägsta bland de jämförda systemen.

Alla dessa är genomförda av leverantören. Ingen har oberoende reproducerats, och kortet säger uttryckligen att StreamLAAL inte är samma mätning som tid till första talutmatning. Demonstrationsvideorna är offlineuppspelningar, så deras uppspelningstid är inte heller en live-latensmätning. Läs tabellen som en uppsättning påståenden från laboratoriet som byggde modellen, gjorda på en testrigg som det själv valde, med varianten lämnad namnlös.

Det sista utelämnandet kan åtgärdas på en eftermiddag av vem som helst med hårdvaran: kör båda checkpoints på samma ljud och publicera deltat. Tills någon gör det är det rimliga antagandet att de publicerade siffrorna beskriver vägen med enbart översättning, eftersom det är den renare mätningen — Interleave-varianten måste sända ut fler tokens, och fler tokens i en strömmande avkodare innebär mer latens. Men det är ett antagande, inte ett avslöjande.

Formatet är det tredje beslutet, och GGUF-vägen har en hake

Den fullprecisionscheckpointen är ungefär 61 GB i BF16. Det innebär att den praktiska lägstanivån för en bekväm driftsättning ligger på en accelerator med 80 GB, vilket är siffran att budgetera för om du avser att köra modellen som den levereras. FP8-versionen finns just för att få ner det kravet till ett enda mindre kort, och Tencent positionerar den på det sättet.

GGUF-vägen ser ännu billigare ut, och filstorlekarna är konkreta. Interleave GGUF-repositoriet listar Q4_K_M på 19,7 GB och Q8_0 på 33,3 GB. En kvantisering på 19,7 GB av en modell med 30 miljarder parametrar är skillnaden mellan "kräver ett datacenterkort" och "får plats på en arbetsstation", och det är den version som de flesta kommer att prova först.

Haken är att llama.cpp-stödet för den här arkitekturen inte har slagits samman i upstream-repot. Tencent levererar en brygga som förväntar sig en redan körande, ljudkapabel llama.cpp-server, med en MODEL_TYPE-växel – target_only för den enbart översättande checkpointen, source_target för den interfolierade – och dokumentationen råder till att vänta på en officiell release. Att köra det kvantiserade bygget i dag innebär att köra en leverantörsbrygga ovanpå ett llama.cpp-bygge som ännu inte vet vad den här modellen är. Det är en rimlig sak att göra för en utvärdering. Det är en bräcklig grund för en produkt, och felsättet är ett beroende som du inte kan uppgradera oberoende av leverantörens patch.

För vLLM-vägen krävs version 0.31 eller nyare med stöd för HYV3ForCausalLM, plus paketet simulst. Multi-GPU-distribution stöds via tensor-parallellism. Installationsprogrammet med ett enda kommando startar webb- och API-tjänsten på port 8080 och modellservern på 8800, och det körs i en isolerad miljö – vilket innebär att det kan installera om SimulInfer eller ändra beroendeversioner om du pekar det mot en befintlig stack. Tencent dokumenterar en steg-för-steg-väg just av den anledningen.

Vad som krävs för att servera, och vad utgåvan inte innehåller

Talutmatning och röstkloning är inte egenskaper hos checkpointen. Modellen producerar text. Att omvandla den texten till tal i talarens röst kräver en separat konfigurerad TTS-tjänst, och varje del av den meningen innebär en kostnad: ytterligare en tjänst att driva, ytterligare ett nätverkshopp i latensbudgeten, ytterligare en leverantörs villkor att granska och ytterligare en felpunkt mellan mikrofonen och lyssnaren. Modellkortet är tydligt om detta, och det är den enskilt största klyftan mellan demon och en driftsättningsbar tolk.

Det finns inte heller något hostat API och inget publicerat pris. Tencents konsumentprodukt är appen Hy Translate, som erbjuder en gratisnivå på Android och iOS – det billigaste sättet att höra vad modellen kan, och oanvändbart som produktionsberoende. För allt annat sköter du hosting själv, vilket innebär att kostnaden är acceleratorn, driftstiden och TTS-räkningen, inte ett pris per token som du kan föra in i ett kalkylblad.

Språktäckning förtjänar samma granskning. Prosatexten dokumenterar dubbelriktad översättning mellan kinesiska och engelska. Hugging Face-metadatan taggar checkpointen med 36 språk. Ingen lista över de övriga 34 har publicerats, och repots egna exempel är alla en-zh eller zh-en. Behandla taggen som ärvd metadata tills Tencent dokumenterar något annat, och planera inte en utrullning för 36 språk enbart på grund av en tagg.

Påståendena som behöver en andra källa

Jämförelsen med mänskliga tolkar är det mest citerade påståendet i lanseringen och det minst underbyggda. Tencent rapporterar kvalitet "i nivå med mänskliga experttolkar inom simultantolkning, samtidigt som den ofta svarar snabbare", baserat på 18 nyinsamlade inspelningar på cirka sex minuter vardera, hämtade från tio domäner, utvärderade av sex erfarna tolkar – tre med CATTI Level 1 och tre med Level 2. För varje nivå användes den bästa poängen bland de tre tolkarna.

Den där sista detaljen gör en hel del arbete. Att ta det bästa av tre mot en enda modellkörning är en generös konstruktion, och kortet publicerar inga konfidensintervall eller någon uppdelning per domän. Det publicerar inte heller någon objektiv talarlikhetspoäng för röstkloningen, vilket är den funktion som mest sannolikt avgör om en driftsättning känns acceptabel för personerna i rummet. Kortets egen begränsning – att resultatet begränsas av dess urval, deltagare och inställningar och inte är en heltäckande bedömning – är den korrekta tolkningen. Medicinskt, juridiskt och brusigt samtalsljud är precis där en tolk­jämförelse skulle behöva siffror per domän, och det är just dessa siffror som saknas.

Professionella tolkar är fortfarande rätt val närhelst ansvarsskyldighet, expertgranskning eller beslut med höga insatser är involverat. Det är Tencents inramning, inte en kritikers, och det är värt att upprepa eftersom rubrikversionen av det här pressmeddelandet inte gjorde det.

Om du självhostar det, sätt något bakom det

Ingen av checkpointarna finns i OrcaRouters katalog, så vi är ingen väg till någon av dem, och den här artikeln kommer inte att låtsas något annat. Det gör inte en router irrelevant för en självhostad tolk — det flyttar den till kanten. En väg för liveöversättning är en lång kedja: ljudupptagning, modellservern, en valfri TTS-tjänst och klienten. Varje länk kan stanna av, och ett avbrott under ett möte är värre än en något sämre översättning. Att lägga en hostad textmodell bakom samma endpoint som reserv för transkriptionsvägen — inte för ljudvägen — innebär att en död modellserver degraderar till en läsbar transkription i stället för tystnad.

OrcaRouter är ett API framför över 200 hostade modeller med 0 % påslag, leverantörens listpris förs vidare utan något påslag, och routing-DSL:en är hur en reservregel uttrycks utan en andra integration. Automatisk failover är det som spelar roll här: regeln utlöses vid ett fel uppströms, inte när en människa märker att undertexterna har slutat fungera.

Vilken fil, då

Motsatsframställningen upplöses när man vet vad namnen syftar på, och det som återstår är ett förpackningsbeslut med tre ärliga svar.

Om du bygger en röstprodukt – mötestolkning, en callcenter-overlay, vad som helst där utdata är ljud – ta Hy-SimulMT-30B-A3B, eller dess FP8-bygge om ett enda 80 GB-kort är begränsningen. Du behöver inte transkriptionen, du vill inte betala för att generera den, och bascheckpointen är den renare latensvägen.

Om en människa ska läsa utdata, välj Hy-SimulMT-30B-A3B-Interleave. Undertexter, tvåspråkiga protokoll, efterlevnadsdokumentation och granskningsflöden behöver alla källtexten, och att köra en separat igenkännare vid sidan av översättaren är hur man till slut får två transkriptioner som inte är överens om var meningen slutade.

Om du utvärderar i stället för att driftsätta, ta Hy-SimulMT-30B-A3B-Interleave-GGUF i Q4_K_M, acceptera filen på 19,7 GB och det osammanslagna llama.cpp-beroendet, och se det som ett sätt att höra modellen på hårdvara du redan äger. Uppgradera till FP8 vLLM-vägen först när du har avgjort att kvaliteten är värd kortet.

Den öppna frågan är inte vilken fil som är bättre. Den är huruvida de publicerade poängen beskriver filen du valde. Tencent har hårdvaran som krävs för att svara på det inom en dag, och tills de gör det bör alla som citerar 90,3 eller 84,7 säga vilken av de sex kontrollpunkterna de tror producerade den.