Ming-3.0-audio-tiny vs. Voxtral 4B TTS: Das eine ist ein Zuhörer mit angehängter Stimme, das andere verkauft nichts anderes.

Wenn Sie Sprachausgabe erzeugen wollen und sonst nichts, sollte dieser Vergleich etwa dreißig Sekunden dauern. Voxtral 4B TTS ist ein Text-to-Speech-Modell: Text als Eingabe, 24-kHz-Audio als Ausgabe, zwanzig voreingestellte Stimmen, neun Sprachen, eine veröffentlichte Latenztabelle und Lizenzbedingungen, die es Ihnen untersagen, das Ergebnis zu verkaufen. Ming-3.0-audio-tiny ist ein Audio-Sprachmodell, das nebenbei einen Sprachgenerator mitbringt — ein 1,4 GB großer Talker, der an einen 17,74 GB großen Thinker geschraubt wurde, mit drei benannten Stimmen und einer Klonfunktion; das steckt in einem Repository, dessen Evaluierungsabschnitt die Synthese nicht ein einziges Mal bewertet. Wenn Sprachausgabe das Produkt ist, ist der Vergleich vorbei, bevor er beginnt. Die dokumentierten KI-Ausfälle und Agentenvorfälle hinter Releases wie diesem sind in the OrcaRouter AI Incident Archive gesammelt, wobei jeder Eintrag eigene Quellen, Schweregrad, Vertrauensgrad und ein Umstritten-Kennzeichen enthält.

Die interessante Variante der Frage ist die andere: Sie bauen etwas, das Audio verstehen und zurücksprechen muss, und Sie entscheiden, ob Sie ein Modell kaufen, das beides erledigt, oder einen Listener an eine dedizierte Stimme anbinden. Dort werden aus den dreißig Sekunden ein Nachmittag, weil die beiden Optionen an unterschiedlichen Stellen scheitern und nur eine von ihnen eine Zahl mitbringt, mit der Sie planen können.

Die Lizenz entscheidet mehr als der Benchmark

Beginne mit dem Punkt, den keine noch so gründliche Evaluierung beheben kann. Voxtral 4B TTS steht unter CC BY-NC 4.0 – nicht kommerziell –, eine Lizenz, die von den Referenzstimm-Datensätzen übernommen wurde, mit denen das Modell erstellt wurde: EARS, CML-TTS, IndicVoices-R und ein arabisches Natural-Audio-Set. Mistral gibt dies auf der Karte unmissverständlich an und verweist kommerzielle Nutzer auf seine API. Die Gewichte sind also für Forschung und persönliche Nutzung offen, und der kommerzielle Weg führt über eine Preisliste statt über einen Download.

Ming-3.0-audio-tiny ist MIT in den Metadaten der Karte und in der LICENSE des GitHub-Repositorys, auf das sie verweist. Wissenswert: Das Hugging-Face-Repository selbst enthält keine LICENSE-Datei, und die beiden mitgelieferten Referenzstimmen tragen keine eigenen separaten Bedingungen. MIT ist hier eine durchaus permissive Angabe, aber es ist eine Angabe in Metadaten statt einer Datei im Artefakt, und die Beschaffung wird das bemerken.

• Kommerzielle Nutzung — Ming: ja, MIT, Gewichte und Code. Voxtral: nicht über die Gewichte; die Anbieter-API ist der zulässige Weg.

• Enthaltene Stimmen — Ming: drei benannte, zwei davon als Referenz-WAVs mit Transkripten mitgeliefert. Voxtral: zwanzig Presets.

• Sprachen — Ming: Chinesisch und Englisch für das Modell insgesamt, ohne separate Talker-Sprachliste. Voxtral: Englisch, Französisch, Spanisch, Deutsch, Italienisch, Portugiesisch, Niederländisch, Arabisch und Hindi.

• Ausgabe — Ming: was auch immer der Talker erzeugt; die Karte gibt weder Abtastrate noch Container an. Voxtral: 24 kHz, WAV, PCM, FLAC, MP3, AAC oder Opus.

• Was Sie ausführen — Ming: der Thinker, 17,74 GB, plus ein 1,4 GB Talker und 1,6 GB VAE auf einem zweiten Gerät. Voxtral: ein BF16-Checkpoint auf einer einzelnen GPU mit mindestens 16 GB.

• Veröffentlichte Sprachqualität — Ming: keine. Voxtral: ebenfalls keine, dafür aber eine Latenz- und Durchsatztabelle, was mehr als nichts ist.

Diese letzte Zeile ist die ehrliche Zusammenfassung der Evidenzbasis dieses Vergleichs. Keiner der beiden Anbieter hat einen Natürlichkeitswert, eine Angabe zur Sprecherähnlichkeit oder eine Wortfehlerrate für synthetisierte Sprache veröffentlicht. Mistral hat veröffentlicht, wie schnell es ist; inclusionAI hat veröffentlicht, wie gut das Modell zuhört. Niemand hat veröffentlicht, wie gut eines der beiden klingt.

Was Mistrals Zahlen tatsächlich sagen

Die Voxtral-Tabelle ist ein Serving-Benchmark, und es kommt darauf an, sie richtig zu lesen. Gemessen auf einer einzelnen NVIDIA H200 mit vLLM-Omni 0.18.0, einer Eingabe von 500 Zeichen und einem zehnsekündigen Referenzclip:

• Nebenläufigkeit 1 — 70 ms Latenz, Echtzeitfaktor 0,103, etwa 119 Zeichen pro Sekunde pro GPU.

• Nebenläufigkeit 16 — 331 ms, RTF 0,237, etwa 879 Zeichen pro Sekunde.

• Parallelität 32 — 552 ms, RTF 0,302, etwa 1.431 Zeichen pro Sekunde.

Zwei Dinge folgen daraus. Erstens: Der RTF steigt mit der Parallelität – von 0,103 auf 0,302 –, der Durchsatzgewinn durch Batching ist also real, aber sublinear; man erhält etwa zwölfmal so viele Zeichen für ungefähr den achtfachen Echtzeitfaktor. Zweitens sind 70 ms bis zum ersten Audio bei Parallelität 1 die Zahl, die entscheidet, ob sich ein Voice-Agent lebendig anfühlt, und es ist eine Zahl, die Ming-3.0-audio-tiny nicht hat. Nicht etwa eine schlechtere. Gar keine.

Mistral bezeichnet all dies als nicht reproduziert und anbieterbetrieben, was auch zutrifft. Aber es ist zumindest eine Behauptung, an die eine Methode geknüpft ist: genannte Hardware, genannte Runtime-Version, genannte Eingabelänge, genannte Referenzlänge. Man könnte den Harness nachbauen.

Das, was Mings Sprachpfad nicht beantworten kann.

Die Sprachausgabe des winzigen Modells wird in der Karte in drei Sätzen beschrieben: integrierte Stimmen oder eine Referenzstimme, drei benannte Stimmen, Klonen aus einem Referenzclip samt dessen exaktem Transkript. Der Deployment-Leitfaden ergänzt das operative Detail – der Talker läuft als zweite Stufe bei 0,18 einer zweiten Karte, begrenzt auf ein Ausgabe-Token mit Temperatur 0.0, weil er keinen Text generiert.

Nirgends im Repository gibt es eine Abtastrate für die synthetisierte Ausgabe, ein Natürlichkeitsmaß, ein Ähnlichkeitsmaß zum Referenzclip oder eine Aussage darüber, ob die drei Stimmen dieselbe Stimme in unterschiedlichen Registern oder tatsächlich unterschiedliche Sprecher sind. Die Evaluationsbilder decken Erkennung, Audio-Intelligenz und Text ab. Sprachgenerierung ist die eine Fähigkeit, die der Anbieter in seinen Highlights bewirbt und überhaupt nicht evaluiert.

Das ist kein Skandal, aber eine Planungseinschränkung. Mit Voxtral lässt sich ein Deployment dimensionieren, bevor man es hört: eine Karte, 16 GB, 119 Zeichen pro Sekunde bei einer Parallelität von 1 und eine Preisliste für den kommerziellen Weg. Bei Ming dimensioniert man die Hardware (zwei Karten, die zweite bei 0,18 Auslastung) und erfährt dann durch das Generieren von etwas mehr über die Stimme.

Wenn das kombinierte Modell ohnehin die richtige Antwort ist

Es gibt ein triftiges Argument für den Talker, und es lautet nicht „billigeres T​TS“. Es besteht darin, dass dasselbe Modell das Audio gehört hat und nun darüber spricht. Ming-3.0-audio-tiny akzeptiert Audio plus eine Textanweisung und gibt Text oder Text plus Sprache zurück. Eine Frage zu einer Aufnahme, laut und in einem Durchgang beantwortet, ohne dass ein Transkript in ein zweites Modell serialisiert wird. Kein Fehler nach dem Muster „Die ASR sagte ‚their‘, die T​TS las es falsch“, weil es kein zweites Modell und keinen Zwischentext gibt, der verfälscht werden könnte.

Das ist wichtig für die Beantwortung gesprochener Fragen, für einen Assistenten, der einen Raum abhört und antwortet, und für alles, bei dem die Antwort ein Satz über etwas ist, das er gerade gehört hat. Es spielt keine Rolle für Erzählungen, Hörbücher, Synchronisation oder jegliche Workloads, bei denen der Text von woanders kam – und genau dafür wurde Voxtral gebaut, mit zwanzig Stimmen und neun Sprachen gegenüber Mings drei und zwei.

• Kontinuität im selben Modell — Ming: ja, ein einziger Forward-Pass von Audio zu Sprache. Voxtral: Text als Eingabe, also muss die zuhörende Hälfte von woanders kommen.

• Stimmenvielfalt — Ming: drei benannte plus Klonen. Voxtral: zwanzig Voreinstellungen plus Referenzstimmen-Anpassung.

• Streaming — Ming: nicht angeboten; der Talker ist eine Bühne, kein Stream. Voxtral: Die Karte bewirbt Streaming- und Batch-Inferenz, und die eigene API-Demo des Anbieters ist die Referenzimplementierung.

• Mehrsprachige Sprachunterstützung — Ming: Chinesisch und Englisch. Voxtral: neun Sprachen, mit vermerkten Dialekten.

• Kostenstruktur — Ming: feste Hardware, zwei Karten, keine Abrechnung pro Zeichen. Voxtral: Gewichte kostenlos für nichtkommerzielle Nutzung, API für alles andere pro Zeichen bepreist.

Was ein Router zu einem Sprachprodukt hinzufügt – und was nicht.

OrcaRouter bietet keines von beiden an. Ming-3.0-audio-tiny ist ein Checkpoint, den Sie selbst betreiben, und Voxtral 4B T​TS ist über Mistrals eigene API erreichbar; keines davon ist in unserem Katalog, und dieser Beitrag ist kein Angebot, eines der beiden zu hosten. Der Platz des Routers in einem Sprachprodukt ist der Text, der die Stimme umgibt: das Skript zu generieren, es in die neun Sprachen zu übersetzen, die Voxtral unterstützt, die Zusammenfassung dessen zu schreiben, was der Anrufer gesagt hat, und zu entscheiden, ob ein Segment einen Menschen benötigt. Das sind gewöhnliche Textaufrufe – mehr als 200 Textmodelle hinter einem Schlüssel zum Listenpreis des Anbieters mit 0 % Aufschlag, mit automatischem Failover sodass eine Charge von zehntausend Clips nicht ins Stocken gerät, weil ein Upstream einen schlechten Nachmittag hatte.

Das ist eine echte Ersparnis in einer Dubbing-Pipeline und ein Rundungsfehler in einer Single-Model-Demo. Es berührt auch nicht die Frage, um die es in diesem Artikel geht, nämlich ob die Stimme etwas taugt.

Wie kann man sich entscheiden, ohne vorher eines von beiden gehört zu haben?

Wenn es sich bei dem Produkt um Sprache handelt, wählen Sie Voxtral und kalkulieren Sie die Lizenzkosten ein: Verwenden Sie die nichtkommerziellen Gewichte zur Evaluierung und wechseln Sie für alles, was Sie ausliefern, zur API – zu dem jeweils aktuellen Preis pro Zeichen. Sie erhalten eine Latenztabelle, zwanzig Stimmen, neun Sprachen und eine Runtime, die mit vLLM-Omni getestet wurde. Sie verzichten auf das Recht, kommerziell selbst zu hosten, was für viele Teams die eigentliche Entscheidung ist.

Wenn das Produkt ein Verstehen ist, das gelegentlich spricht, wähle Ming-3.0-audio-tiny, plane zwei GPUs ein und behandle den Talker als noch nicht vermessene Funktion — baue zuerst den Fallback. Erzeuge zwanzig Sätze für alle drei Stimmen, höre sie an und behalte die Möglichkeit, später ein dediziertes TTS-Modell einzutauschen. Die Architektur unterstützt diesen Austausch sauber, weil der Thinker ohnehin Text zurückgibt; der Talker ist ein Anhang, nicht das Rückgrat.

Und in beiden Fällen halten Sie fest, was Sie gemessen haben. Keiner der Anbieter hat das getan, und das erste Team, das für eines der beiden Modelle eine Natürlichkeits- oder Ähnlichkeitskennzahl veröffentlicht, erweist dem Feld einen Gefallen – auch den Anbietern.

Die zweiunddreißigste Antwort, überarbeitet

Die Kurzfassung oben in diesem Beitrag besagte, der Vergleich sei in dreißig Sekunden erledigt. Er ist in dreißig Sekunden erledigt, wenn Sprache Ihr Produkt ist und Sie bereit sind, für eine Lizenz zu zahlen. Es dauert länger, wenn Sie etwas bauen, das zuhört und dann spricht, denn die beiden Optionen sind keine Substitute: Die eine ist eine Stimme ohne Ohren, die andere sind Ohren mit einer Stimme, die noch nie bewertet wurde. Die dreißig Sekunden bringen Sie zur Frage. Der Rest des Beitrags ist der Teil, in dem Sie herausfinden, welche davon Sie tatsächlich brauchen.