Hy-SimulMT vs Hy-SimulMT-30B-A3B: Ein Name, sechs Dateien, zwei Ausgaben

Geben Sie Hy-SimulMT in Hugging Face ein, und Sie werden kein Repository mit diesem Namen finden. Sie werden sechs finden, und jedes davon heißt Hy-SimulMT-30B-A3B mit einem angehängten Suffix. Das ist der gesamte Vergleich in einem Satz. Hy-SimulMT ist der Name, den Tencent Hunyuan der Ankündigung am 26. Oktober 2026 gegeben hat – der Echtzeit-Dolmetscher Chinesisch↔Englisch, von dem in Presseberichten die Rede war, er laufe etwa drei Sekunden hinter dem Sprecher her. Hy-SimulMT-30B-A3B ist der Name auf dem Artefakt, das Sie tatsächlich herunterladen können. Es gibt kein kleineres Geschwister unter dem kurzen Namen, keine dichte Variante, kein einfaches „Base“-Modell, das sich dahinter versteckt. Der kurze Name ist ein Projekt; der lange Name ist eine Familie aus sechs Dateien. Was folgt, ist die Entscheidung, die eine Versus-Seite normalerweise vergräbt: welche dieser sechs Sie ausführen sollten und warum die Antwort für ein Untertitel-Overlay anders ausfällt als für einen Meeting-Feed, der nur Audioausgabe braucht.

Was Tencent veröffentlichte – und wie es beschloss, es zu nennen.

Tencent behandelt Hy-SimulMT im eigenen Repository als Projektnamen: „ein von Tencent Hunyuan entwickeltes Echtzeit-Simultanübersetzungsmodell“. Die Model Card führt es unter derselben Kurzbezeichnung. Die Sammlung trägt den Titel „Hy Simultaneous Interpretation Model“. Nirgends in diesem Material gibt es eine definierte Hierarchie aus einer Familie und ihren Mitgliedern – kein Hy-SimulMT-Small, kein Hy-SimulMT-Mini, keinen dichten Checkpoint für Leute ohne einen 80-Gigabyte-Beschleuniger. Jedes veröffentlichte Gewicht ist dieselbe Mixture-of-Experts-Architektur der 30B-Klasse.

Die sechs Einträge in der Sammlung sind also in keiner sinnvollen Hinsicht sechs Modelle. Sie sind ein Modell in sechs Verpackungen:

• Hy-SimulMT-30B-A3B — Nur-Übersetzungsausgabe, volle Präzision, safetensors.

• Hy-SimulMT-30B-A3B-Interleave — Quelltranskript plus Übersetzung, volle Präzision, Safetensors.

• Hy-SimulMT-30B-A3B-FP8 und Hy-SimulMT-30B-A3B-Interleave-FP8 — dieselben beiden Ausgabeformen in einem 8-Bit-Gleitkomma-Build, der für das Serving auf einer einzelnen GPU vorgesehen ist.

• Hy-SimulMT-30B-A3B-GGUF und Hy-SimulMT-30B-A3B-Interleave-GGUF — dieselben beiden Ausgabeformen, für llama.cpp quantisiert, in Q4_K_M und Q8_0.

Die zugrunde liegende Architektur ist ein spärliches Modell mit 30,4 Milliarden Parametern, von denen pro Token etwa 3 Milliarden Parameter aktiv sind: 48 Schichten, 128 Experten – acht geroutete und ein geteilter pro Token – sowie ein 24-schichtiger Audio-Encoder, der 16-kHz-Audio in 30-Sekunden-Fenstern verarbeitet. Das Design dieses Encoders ist der bemerkenswerte Teil. Das Modell ist darauf ausgelegt, Audio zu verarbeiten, während es noch eintrifft, nicht eine fertige Datei zu empfangen – weshalb die Latenzangabe und die Benchmark-Angabe an unterschiedlichen Dingen gemessen werden und weshalb keine von beiden Ihnen verrät, welche der sechs Dateien die Zahl erzeugt hat.

Die Lizenz ist Apache-2.0 und ohne Zugangsbeschränkung, was die stärkste einzelne Tatsache in der Veröffentlichung ist. Kein Formular, keine Freigabe zur zulässigen Nutzung, keine Nichtkommerzielle-Klausel. Kommerzielle Nutzung, Änderung und Weitergabe sind erlaubt, und Tencent hat zusammen mit dem Inferenzserver ein Trainings-Toolkit veröffentlicht, sodass das Weitertrainieren ein vorgesehener Anwendungsfall und kein nicht unterstützter ist.

Die Entscheidung, auf die es wirklich ankommt, ist die Form der Ausgabe.

Zwischen den beiden Full-Precision-Checkpoints liegt der Unterschied nicht in der Qualität. Er besteht darin, was das Modell sagen darf. Der Base-Checkpoint gibt die Übersetzung und sonst nichts aus. Der Interleave-Checkpoint gibt den erkannten Quelltext und dann die Übersetzung aus, verzahnt mit den Audiostreams.

Das klingt kosmetisch, bis man sich ansieht, wo diese Systeme eingesetzt werden. Ein Live-Meeting-Feed, der Text-to-Speech speist, will den Basis-Checkpoint: Das Transkript ist Ballast, der Ausgabe-Tokens kostet, bei jedem Chunk Latenz hinzufügt und die Ausgangssprache in eine Pipeline einsickern lässt, deren einziger Konsument eine Stimme ist. Ein Untertitel-Overlay, eine Compliance-Aufzeichnung, ein zweisprachiges Transkript oder jeder Workflow, in dem ein Mensch die Übersetzung mit dem Gesagten abgleichen muss, will den Interleave-Checkpoint, denn die Alternative besteht darin, neben dem Übersetzer einen separaten Spracherkenner laufen zu lassen und zu hoffen, dass beide das Audio gleich segmentieren. Das werden sie nicht.

Tencents eigenes Beispiel für die Bereitstellung mit einem einzigen Befehl verwendet standardmäßig die Interleave-Variante:

bash deploy.sh --install-server --model tencent/Hy-SimulMT-30B-A3B-Interleave

Das ist eine sinnvolle Voreinstellung für eine Demo, bei der das Anzeigen des Quelltextes beweist, dass das System zuhört. Für ein reines Sprachprodukt ist es die falsche Voreinstellung, und es ist das eine Detail, das die meisten Berichte über diese Veröffentlichung auslassen. Wenn Sie das Modell anhand der Tokenkosten oder der End-to-End-Latenz bewerten, messen Sie je nach geladenem Checkpoint ein anderes System.

Interleave hat einen Kostenfaktor zweiter Ordnung, den die Karte andeutet, aber nicht beziffert. Streaming-Transkripte sind veränderlich. Frühe Ausgaben können überarbeitet werden, sobald mehr Audio eintrifft, daher muss ein Client, der Teiltext anzeigt, so gebaut sein, dass er Korrekturen akzeptiert, statt nur Zeilen anzuhängen. AlphaSignals Bericht über das Release spricht diesen Punkt direkt an, und es ist genau die Art von Integrationsdetail, das aus einem Zwei-Tage-Prototypen einen dreiwöchigen macht.

Die Benchmarks sagen nicht, welche Variante sie gemessen haben.

Tencent veröffentlicht vier Kurzform-Scores und einen Langform-Latenzwert, und jede Zeile ist mit „Hy-SimulMT“ beschriftet – nicht mit Hy-SimulMT-30B-A3B und erst recht nicht mit Basis gegenüber Interleave. Das ist die ehrliche Lücke in der Veröffentlichung, und sie wiegt schwerer als jede einzelne Zahl darin.

• FLEURS — 90,3. Gemini3.5-LiveTranslate erzielt 92,4, das ist also kein Kategoriesieg.

• CoVoST2 — 75,5, hinter Qwen3.8-LiveTranslate mit 82,1. Dies ist die deutlichste Niederlage in der Tabelle und diejenige, die die Schlagzeilenberichterstattung tendenziell überspringt.

• ACL6060 — 81,2. Gemini3.5-LiveTranslate erreicht 82,6.

• RealSI-Sentence — 84,7, der höchste Wert im Vergleichsset.

• RealSI-Langform-Latenz – eine StreamLAAL von etwa drei Sekunden, beschrieben als die niedrigste unter den verglichenen Systemen.

Alle diese Angaben wurden vom Anbieter durchgeführt. Keine davon wurde unabhängig reproduziert, und die Karte stellt ausdrücklich klar, dass StreamLAAL nicht dieselbe Messung ist wie die Zeit bis zur ersten Sprachausgabe. Bei den Demonstrationsvideos handelt es sich um Offline-Wiedergaben, sodass auch ihr Wiedergabezeitpunkt keine Live-Latenzmessung ist. Betrachten Sie die Tabelle als eine Reihe von Behauptungen aus dem Labor, das das Modell entwickelt hat, erhoben mit einer Testumgebung, die es selbst ausgewählt hat, wobei die Variante ungenannt bleibt.

Diese letzte Auslassung lässt sich von jedem mit der entsprechenden Hardware an einem Nachmittag beheben: beide Checkpoints auf demselben Audio laufen lassen und das Delta veröffentlichen. Bis dahin ist die vernünftige Annahme, dass die veröffentlichten Zahlen den reinen Übersetzungspfad beschreiben, weil das die sauberere Messung ist — die Interleave-Variante muss mehr Tokens ausgeben, und mehr Tokens in einem Streaming-Decoder bedeuten mehr Latenz. Aber das ist eine Annahme, keine Offenlegung.

Das Format ist die dritte Entscheidung, und der GGUF-Weg hat einen Haken.

Der Full-Precision-Checkpoint umfasst in BF16 etwa 61 GB. Damit liegt die praktische Untergrenze für einen komfortablen Betrieb bei einem 80-GB-Beschleuniger – mit dieser Zahl sollten Sie rechnen, wenn Sie das Modell im Auslieferungszustand bereitstellen wollen. Der FP8-Build existiert genau dafür, diese Anforderung auf eine einzelne kleinere Karte zu senken, und Tencent positioniert ihn auch so.

Der GGUF-Weg wirkt noch günstiger, und die Dateigrößen sind konkret. Das Interleave-GGUF-Repository listet Q4_K_M mit 19,7 GB und Q8_0 mit 33,3 GB auf. Eine 19,7-GB-Quantisierung eines Modells mit 30 Milliarden Parametern ist der Unterschied zwischen „braucht eine Rechenzentrumskarte“ und „passt auf eine Workstation“, und es ist die Version, die die meisten zuerst ausprobieren werden.

Der Haken ist, dass die llama.cpp-Unterstützung für diese Architektur noch nicht in das Upstream-Repository übernommen wurde. Tencent liefert eine Bridge, die einen bereits laufenden, audiofähigen llama.cpp-Server erwartet, samt einem MODEL_TYPE-Schalter – target_only für den reinen Übersetzungs-Checkpoint, source_target für den verschachtelten – und die Dokumentation rät dazu, auf eine offizielle Version zu warten. Den quantisierten Build heute zu verwenden bedeutet, eine Hersteller-Bridge auf einem llama.cpp-Build laufen zu lassen, der noch nicht weiß, was dieses Modell ist. Für eine Evaluierung ist das durchaus vernünftig. Als Fundament für ein Produkt ist es fragil, und der Fehlermodus besteht in einer Abhängigkeit, die man nicht unabhängig vom Patch des Herstellers aktualisieren kann.

Für den vLLM-Pfad gilt die Anforderung Version 0.31 oder neuer mit Unterstützung für HYV3ForCausalLM sowie das Paket simulst. Multi-GPU-Deployment wird über Tensor-Parallelität unterstützt. Der Ein-Befehl-Installer startet den Web- und API-Dienst auf Port 8080 und den Modellserver auf 8800 und läuft in einer isolierten Umgebung – was bedeutet, dass er SimulInfer neu installieren oder Abhängigkeitsversionen ändern kann, wenn man ihn auf einen bestehenden Stack richtet. Tencent dokumentiert aus genau diesem Grund einen schrittweisen Weg.

Was zum Bereitstellen nötig ist und was das Release nicht enthält

Sprachausgabe und Stimmklonen sind keine Eigenschaften des Checkpoints. Das Modell erzeugt Text. Um diesen Text in Sprache in der Stimme des Sprechenden umzuwandeln, ist ein separat konfigurierter TTS-Dienst erforderlich, und jeder Teil dieses Satzes hat seinen Preis: einen weiteren Dienst, der betrieben werden muss, einen weiteren Netzwerksprung im Latenzbudget, weitere Anbieterbedingungen, die geprüft werden müssen, und einen weiteren Fehlerpunkt zwischen Mikrofon und Zuhörendem. Die Modellkarte ist diesbezüglich eindeutig, und dies ist die größte einzelne Lücke zwischen der Demo und einem einsatzfähigen Dolmetscher.

Es gibt auch keine gehostete API und keinen veröffentlichten Preis. Tencents Consumer-Oberfläche ist die Hy Translate App, die unter Android und iOS einen kostenlosen Tarif bietet – der günstigste Weg zu hören, was das Modell leistet, und als Produktionsabhängigkeit nutzlos. Für alles andere hostest du selbst, was bedeutet, dass die Kosten der Beschleuniger, die Betriebszeit und die TTS-Rechnung sind, nicht ein Preis pro Token, den man in eine Tabellenkalkulation eintragen kann.

Die Sprachabdeckung verdient dieselbe genaue Prüfung. Der Fließtext dokumentiert bidirektional Chinesisch und Englisch. Die Hugging-Face-Metadaten kennzeichnen den Checkpoint mit 36 Sprachen. Es ist keine Liste der anderen 34 veröffentlicht, und die eigenen Beispiele des Repositorys sind ausschließlich en-zh oder zh-en. Behandle das Tag als geerbte Metadaten, bis Tencent etwas anderes dokumentiert, und plane keinen 36-Sprachen-Rollout auf der Grundlage eines Tags.

Die Behauptungen, die eine zweite Quelle benötigen

Der Vergleich mit menschlichen Dolmetschern ist die am häufigsten zitierte Behauptung der Veröffentlichung und zugleich die am schlechtesten belegte. Tencent berichtet von einer Qualität „auf Augenhöhe mit erfahrenen menschlichen Simultandolmetschern, während das System oft schneller reagiert“, basierend auf 18 neu erhobenen Aufnahmen von jeweils etwa sechs Minuten aus zehn Bereichen, die von sechs erfahrenen Dolmetschern bewertet wurden – drei mit CATTI Level 1 und drei mit CATTI Level 2. Für jede Stufe wurde die beste Bewertung unter den drei Dolmetschern verwendet.

Dieses letzte Detail hat es in sich. Das Beste aus drei Läufen gegen einen einzelnen Modelldurchlauf zu nehmen, ist eine großzügige Konstruktion, und die Karte veröffentlicht weder Konfidenzintervalle noch eine Aufschlüsselung nach Bereichen. Sie veröffentlicht außerdem keinen objektiven Sprecherähnlichkeitswert für das Voice-Cloning, also genau das Merkmal, das am ehesten darüber entscheidet, ob eine Bereitstellung für die Menschen im Raum akzeptabel wirkt. Die Einschränkung der Karte selbst – dass der Befund durch ihre Stichproben, Teilnehmenden und Einstellungen begrenzt und keine umfassende Bewertung ist – ist die richtige Lesart. Medizinische, rechtliche und verrauschte Gesprächsaudios sind genau die Bereiche, in denen ein Dolmetschervergleich Zahlen pro Domäne bräuchte, und genau diese Zahlen fehlen.

Professionelle Dolmetscher bleiben die richtige Wahl, wann immer es um Verantwortlichkeit, fachliche Prüfung oder eine folgenschwere Entscheidung geht. Das ist die Darstellung von Tencent, nicht die eines Kritikers, und es lohnt sich, das zu wiederholen, weil die Schlagzeilenfassung dieser Mitteilung es nicht getan hat.

Wenn du es selbst hostest, stell etwas dahinter.

Keiner der beiden Checkpoints ist in OrcaRouters Katalog, also sind wir für keinen von beiden eine Route, und dieser Beitrag wird nicht so tun, als wäre es anders. Das macht einen Router für einen selbst gehosteten Interpreter nicht irrelevant – es verlagert ihn an den Rand. Ein Live-Übersetzungspfad ist eine lange Kette: Audioaufnahme, der Modellserver, ein optionaler TTS-Dienst und der Client. Jedes Glied kann ins Stocken geraten, und ein Stocken in einem Meeting ist schlimmer als eine etwas schlechtere Übersetzung. Ein gehostetes Textmodell hinter demselben Endpunkt als Fallback für den Transkriptpfad – nicht für den Audiopfad – bereitzustellen bedeutet, dass ein ausgefallener Modellserver auf ein lesbares Transkript statt auf Stille zurückfällt.

OrcaRouter ist eine API vor über 200 gehosteten Modellen bei 0 % Aufschlag, wobei der Listenpreis des Anbieters unverändert weitergegeben wird, und die Routing-DSL ist die Art und Weise, wie eine Fallback-Regel ausgedrückt wird ohne eine zweite Integration. Automatisches Failover ist hier der entscheidende Punkt: Die Regel greift bei einem Upstream-Fehler, nicht erst, wenn ein Mensch bemerkt, dass die Untertitel ausgeblieben sind.

Welche Datei dann?

Die Gegenüberstellung löst sich auf, sobald man weiß, worauf die Namen verweisen, und übrig bleibt eine Verpackungsentscheidung mit drei ehrlichen Antworten.

Wenn Sie ein Sprachprodukt entwickeln – Meeting-Dolmetschen, ein Callcenter-Overlay, irgendetwas, bei dem die Ausgabe Audio ist –, dann nehmen Sie Hy-SimulMT-30B-A3B, oder dessen FP8-Build, wenn eine einzelne 80-GB-Karte die einschränkende Vorgabe ist. Sie brauchen das Transkript nicht, Sie wollen nicht dafür bezahlen, es zu erzeugen, und der Basis-Checkpoint ist der sauberere Weg mit geringerer Latenz.

Wenn ein Mensch die Ausgabe lesen soll, nehmen Sie Hy-SimulMT-30B-A3B-Interleave. Untertitel, zweisprachige Protokolle, Compliance-Erfassung und Review-Workflows benötigen alle den Ausgangstext, und einen separaten Erkenner parallel zum Übersetzer laufen zu lassen, führt dazu, dass man zwei Transkripte erhält, die sich darüber uneinig sind, wo der Satz geendet hat.

Wenn Sie evaluieren, statt produktiv einzusetzen, nehmen Sie Hy-SimulMT-30B-A3B-Interleave-GGUF mit Q4_K_M, akzeptieren Sie die 19,7-GB-Datei und die nicht zusammengeführte llama.cpp-Abhängigkeit und betrachten Sie es als eine Möglichkeit, das Modell auf Hardware zu hören, die Sie bereits besitzen. Wechseln Sie erst dann zum FP8-vLLM-Pfad, wenn Sie entschieden haben, dass die Qualität die Karte wert ist.

Die offene Frage ist nicht, welche Datei besser ist. Sie lautet, ob die veröffentlichten Scores die Datei beschreiben, die du ausgewählt hast. Tencent hat die Hardware, das an einem Tag zu beantworten, und bis Tencent das tut, sollte jeder, der 90,3 oder 84,7 zitiert, sagen, welcher der sechs Checkpoints diesen Wert seiner Meinung nach erzeugt hat.