Hy-SimulMT vs Hy-SimulMT-30B-A3B: un nome, sei file, due output

Digita Hy-SimulMT su Hugging Face e non troverai un repository con quel nome. Ne troverai sei, e ognuno di essi si chiama Hy-SimulMT-30B-A3B con un suffisso aggiunto. Questo è l'intero confronto in una frase. Hy-SimulMT è il nome che Tencent Hunyuan ha dato all'annuncio del 26 ottobre 2026 — l'interprete in tempo reale cinese↔inglese che la stampa ha descritto come in ritardo di circa tre secondi rispetto a chi parla. Hy-SimulMT-30B-A3B è il nome sull'artefatto che puoi effettivamente scaricare. Non esiste un fratello minore sotto il nome breve, nessuna variante densa, nessun semplice modello "base" nascosto dietro di esso. Il nome breve è un progetto; il nome lungo è una famiglia di sei file. Quello che segue è la decisione che una pagina di confronto di solito seppellisce: quale di quei sei eseguire, e perché la risposta è diversa per un overlay di sottotitoli e per un feed di riunione che ha bisogno solo dell'uscita audio.

Cosa ha rilasciato Tencent, e come ha deciso di chiamarlo

Il repository ufficiale di Tencent tratta Hy-SimulMT come nome del progetto: «un modello di traduzione simultanea in tempo reale sviluppato da Tencent Hunyuan». La scheda del modello lo classifica con la stessa etichetta breve. La raccolta è intitolata «Hy Simultaneous Interpretation Model». In nessuna parte di quel materiale è definita una gerarchia di una famiglia e dei suoi membri — nessun Hy-SimulMT-Small, nessun Hy-SimulMT-Mini, nessun checkpoint dense per chi non dispone di un acceleratore da 80 gigabyte. Ogni peso rilasciato è la stessa architettura mixture-of-experts di classe 30B.

Quindi le sei voci della collezione non sono sei modelli in alcun senso significativo. Sono un unico modello in sei confezioni:

• Hy-SimulMT-30B-A3B — output solo traduzione, precisione completa, safetensors.

• Hy-SimulMT-30B-A3B-Interleave — trascrizione sorgente più traduzione, precisione completa, safetensors.

• Hy-SimulMT-30B-A3B-FP8 e Hy-SimulMT-30B-A3B-Interleave-FP8 — le stesse due forme di output in una versione in virgola mobile a otto bit pensata per il serving su singola GPU.

• Hy-SimulMT-30B-A3B-GGUF e Hy-SimulMT-30B-A3B-Interleave-GGUF — gli stessi due formati di output quantizzati per llama.cpp, a Q4_K_M e Q8_0.

L'architettura sottostante è un modello sparso da 30,4 miliardi di parametri con circa 3 miliardi di parametri attivi per token: 48 livelli, 128 esperti con otto instradati e uno condiviso per token, e un encoder audio a 24 livelli che accetta audio a 16 kHz in finestre da 30 secondi. È il design di quell'encoder la parte che vale la pena notare. Il modello è costruito per consumare audio mentre sta ancora arrivando, non per ricevere un file finito — ecco perché l'affermazione sulla latenza e quella sul benchmark vengono misurate su cose diverse, e perché nessuna delle due ti dice quale dei sei file abbia prodotto il numero.

La licenza è Apache-2.0 e senza restrizioni, il che è il dato singolo più significativo del rilascio. Nessun modulo, nessun filtro di uso accettabile, nessuna clausola non commerciale. Sono consentiti l'uso commerciale, la modifica e la ridistribuzione, e Tencent ha pubblicato un toolkit di training insieme al server di inferenza, così che il training continuo sia un uso previsto anziché non supportato.

La scelta che conta davvero è la forma dell'output

Tra i due checkpoint a piena precisione, la differenza non è la qualità. È ciò che al modello è consentito dire. Il checkpoint base emette la traduzione e nulla più. Il checkpoint Interleave emette il testo sorgente riconosciuto e poi la traduzione, interlacciati man mano che gli audio vengono trasmessi.

Sembra un dettaglio estetico finché non guardi dove vengono distribuiti questi sistemi. Un feed di riunione dal vivo che alimenta la sintesi vocale vuole il checkpoint base: la trascrizione è peso morto che costa token di output, aggiunge latenza a ogni chunk e fa trapelare la lingua di origine in una pipeline il cui unico consumatore è una voce. Un overlay per i sottotitoli, una cattura per la conformità, una trascrizione bilingue o qualsiasi flusso di lavoro in cui una persona debba verificare la traduzione rispetto a ciò che è stato detto vuole il checkpoint Interleave, perché l'alternativa è eseguire un riconoscitore vocale separato accanto al traduttore e sperare che i due segmentino l'audio allo stesso modo. Non lo faranno.

L'esempio di distribuzione con un solo comando di Tencent utilizza per impostazione predefinita la variante Interleave:

• bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave

Quello è un default sensato per una demo, in cui mostrare il testo di origine dimostra che il sistema sta ascoltando. È il default sbagliato per un prodotto solo vocale, ed è il dettaglio che la maggior parte della copertura di questa release trascura. Se stai valutando il modello sul costo in token o sulla latenza end-to-end, stai misurando un sistema diverso a seconda del checkpoint che hai caricato.

C'è un costo di secondo ordine per Interleave che la scheda implica ma non quantifica. Le trascrizioni in streaming sono mutabili. L'output iniziale può essere rivisto man mano che arriva altro audio, quindi un client che visualizza testo parziale deve essere progettato per accettare correzioni anziché righe solo in aggiunta. L'articolo di AlphaSignal sul rilascio lo dice direttamente, ed è il tipo di dettaglio di integrazione che trasforma un prototipo di due giorni in uno di tre settimane.

I benchmark non dicono quale variante abbiano misurato.

Tencent pubblica quattro punteggi short-form e un valore di latenza long-form, e ogni riga è etichettata "Hy-SimulMT" — non Hy-SimulMT-30B-A3B, e certamente non base rispetto a Interleave. Questo è il gap onesto nel rilascio, e conta più di qualsiasi singolo numero al suo interno.

• FLEURS — 90,3. Gemini3.5-LiveTranslate ottiene 92,4, quindi non è una vittoria di categoria.

• CoVoST2 — 75,5, dietro Qwen3.8-LiveTranslate a 82,1. Questa è la perdita più evidente nella tabella e quella che la copertura dei titoli tende a trascurare.

• ACL6060 — 81.2. Gemini3.5-LiveTranslate ottiene 82.6.

• RealSI-Sentence — 84,7, il valore più alto nel set di confronto.

• Latenza long-form di RealSI — uno StreamLAAL di circa tre secondi, descritto come il più basso tra i sistemi confrontati.

Tutte queste prove sono eseguite dal fornitore. Nessuna è stata riprodotta in modo indipendente, e la scheda è esplicita sul fatto che StreamLAAL non è la stessa misurazione del tempo alla prima uscita vocale. I video dimostrativi sono replay offline, quindi anche la loro tempistica di riproduzione non è una lettura di latenza in tempo reale. Leggi la tabella come un insieme di affermazioni del laboratorio che ha creato il modello, effettuate su un harness che ha scelto, con la variante lasciata senza nome.

Quell'ultima omissione è risolvibile in un pomeriggio da chiunque abbia l'hardware: basta eseguire entrambi i checkpoint sullo stesso audio e pubblicare il delta. Finché qualcuno non lo fa, l'ipotesi ragionevole è che i numeri pubblicati descrivano il percorso della sola traduzione, perché è la misura più pulita — la variante Interleave deve emettere più token, e più token in un decoder in streaming significano più latenza. Ma è un'ipotesi, non una dichiarazione esplicita.

Il formato è la terza decisione, e il percorso GGUF ha un intoppo

Il checkpoint a piena precisione è di circa 61 GB in BF16. Questo fissa il limite minimo pratico per un deployment agevole a un acceleratore da 80 GB, ed è il valore da mettere a budget se si intende servire il modello così come viene fornito. La build FP8 esiste proprio per ridurre tale requisito a una singola scheda più piccola, e Tencent la presenta in questi termini.

La strada GGUF sembra ancora più economica, e le dimensioni dei file sono concrete. Il repository Interleave GGUF elenca Q4_K_M a 19,7 GB e Q8_0 a 33,3 GB. Una quantizzazione da 19,7 GB di un modello da 30 miliardi di parametri è la differenza tra «richiede una scheda da data center» e «entra in una workstation», ed è la versione che la maggior parte delle persone proverà per prima.

Il problema è che il supporto di llama.cpp per questa architettura non è stato integrato nel repository upstream. Tencent fornisce un bridge che presuppone un server llama.cpp già in esecuzione e in grado di gestire l'audio, con uno switch MODEL_TYPE — target_only per il checkpoint solo traduzione, source_target per quello interleaved — e la documentazione consiglia di attendere una release ufficiale. Eseguire oggi la build quantizzata significa eseguire un bridge del fornitore sopra una build di llama.cpp che non sa ancora cosa sia questo modello. È una cosa ragionevole da fare per una valutazione. È una base fragile per un prodotto, e la modalità di guasto è una dipendenza che non puoi aggiornare indipendentemente dalla patch del fornitore.

Per il percorso vLLM, il requisito è la versione 0.31 o successiva con supporto a HYV3ForCausalLM, oltre al pacchetto simulst. Il deployment multi-GPU è supportato tramite tensor parallelism. L'installer con un solo comando avvia il servizio web e API sulla porta 8080 e il model server sulla 8800, e viene eseguito in un ambiente isolato: ciò significa che potrebbe reinstallare SimulInfer o modificare le versioni delle dipendenze se lo si punta a uno stack esistente. Tencent documenta un percorso passo dopo passo proprio per questo motivo.

Cosa comporta servire, e cosa non include il rilascio

L'output vocale e la clonazione della voce non sono proprietà del checkpoint. Il modello produce testo. Trasformare quel testo in parlato con la voce del parlante richiede un servizio TTS configurato separatamente, e ogni elemento di quella frase comporta un costo: un altro servizio da eseguire, un altro salto di rete nel budget di latenza, le condizioni di un altro fornitore da esaminare e un altro punto di guasto tra il microfono e l'ascoltatore. La model card è chiara al riguardo, ed è il singolo maggiore divario tra la demo e un interprete distribuibile.

Non esiste inoltre alcuna API ospitata né un prezzo pubblicato. L'interfaccia consumer di Tencent è l'app Hy Translate, che offre un piano gratuito su Android e iOS — il modo più economico per sentire cosa sa fare il modello, e inutile come dipendenza di produzione. Per tutto il resto devi ospitare da te, il che significa che il costo è l'acceleratore, il tempo operativo e la bolletta TTS, non una tariffa per token che puoi inserire in un foglio di calcolo.

La copertura linguistica merita lo stesso esame. La documentazione descrive il cinese e l'inglese in modalità bidirezionale. I metadati di Hugging Face etichettano il checkpoint con 36 lingue. Non è pubblicato alcun elenco delle altre 34, e gli esempi del repository stesso sono tutti en-zh o zh-en. Considera il tag come un metadato ereditato finché Tencent non documenta diversamente, e non pianificare una distribuzione su 36 lingue sulla base di un tag.

Le affermazioni che necessitano di una seconda fonte

Il confronto con gli interpreti umani è l'affermazione più citata del rilascio e quella meno supportata. Tencent riporta una qualità «paragonabile a quella di interpreti simultanei umani esperti, con tempi di risposta spesso più rapidi», sulla base di 18 registrazioni raccolte di recente di circa sei minuti ciascuna, provenienti da dieci domini, valutate da sei interpreti esperti — tre in possesso della certificazione CATTI di livello 1 e tre di livello 2. Per ciascun livello, è stato utilizzato il punteggio migliore tra i tre interpreti.

Quel dettaglio finale ha un peso notevole. Prendere il migliore di tre rispetto a una singola esecuzione del modello è una costruzione generosa, e la scheda non pubblica intervalli di confidenza né una ripartizione per dominio. Non pubblica inoltre alcun punteggio oggettivo di similarità del parlante per la clonazione vocale, che è la caratteristica più suscettibile di determinare se un'implementazione risulti accettabile alle persone presenti nella stanza. La limitazione dichiarata dalla scheda stessa — ossia che il risultato è circoscritto ai suoi campioni, ai partecipanti e alle impostazioni, e non costituisce una valutazione esaustiva — è la lettura corretta. L'audio medico, legale e conversazionale rumoroso è esattamente l'ambito in cui un confronto tra interpreti avrebbe bisogno di numeri per dominio, e sono proprio quei numeri a mancare.

Gli interpreti professionisti restano la scelta giusta ogni volta che entrano in gioco responsabilità, revisione esperta o una decisione ad alto rischio. È l'inquadramento di Tencent, non quello di un critico, e vale la pena ripeterlo perché la versione in titolo di questo comunicato non lo ha fatto.

Se lo ospiti autonomamente, metti qualcosa dietro.

Nessuno dei due checkpoint è nel catalogo di OrcaRouter, quindi non siamo una rotta verso nessuno dei due, e questo articolo non fingerà il contrario. Ciò non rende un router irrilevante per un interprete self-hosted — lo sposta in periferia. Un percorso di traduzione live è una lunga catena: acquisizione audio, il server del modello, un servizio TTS opzionale e il client. Ogni anello può bloccarsi, e un blocco durante una riunione è peggio di una traduzione leggermente peggiore. Mettere un modello di testo ospitato dietro lo stesso endpoint come fallback per il percorso della trascrizione — non per il percorso audio — significa che un server del modello morto degrada a una trascrizione leggibile invece che al silenzio.

OrcaRouter è un'unica API davanti a oltre 200 modelli ospitati con markup dello 0%, il prezzo di listino del provider viene passato senza aggiungere nulla, e il DSL di routing è il modo in cui si esprime una regola di fallback senza una seconda integrazione. Il failover automatico è l'aspetto che conta qui: la regola scatta in caso di errore a monte, non quando una persona si accorge che i sottotitoli si sono fermati.

Quale file, allora?

La contrapposizione si dissolve una volta capito a cosa si riferiscono i nomi, e ciò che resta è una decisione di packaging con tre risposte oneste.

Se stai costruendo un prodotto vocale — interpretazione di riunioni, un overlay per call center, qualsiasi cosa in cui l'output sia audio — scegli Hy-SimulMT-30B-A3B, o la sua build FP8 se il vincolo è una singola scheda da 80 GB. Non ti serve la trascrizione, non vuoi pagare per generarla, e il checkpoint di base è il percorso di latenza più pulito.

Se un essere umano leggerà l'output, scegli Hy-SimulMT-30B-A3B-Interleave. I sottotitoli, i verbali bilingui e i flussi di lavoro di acquisizione e revisione per la conformità hanno tutti bisogno del testo di origine, ed eseguire un riconoscitore separato accanto al traduttore è il modo in cui ti ritrovi con due trascrizioni che non concordano su dove finisca la frase.

Se stai valutando anziché distribuire, scegli Hy-SimulMT-30B-A3B-Interleave-GGUF in Q4_K_M, accetta il file da 19,7 GB e la dipendenza da llama.cpp non unificata, e consideralo un modo per ascoltare il modello su hardware che già possiedi. Passa al percorso FP8 vLLM solo dopo aver deciso che la qualità vale la scheda.

La questione aperta non è quale file sia migliore. È se i punteggi pubblicati descrivano il file che hai scelto. Tencent ha l'hardware per rispondere in un giorno, e finché non lo fa, chiunque citi 90,3 o 84,7 dovrebbe dire quale dei sei checkpoint ritiene lo abbia prodotto.