Ming-3.0-audio-tiny vs Voxtral 4B TTS: de een is een luisteraar met een stem eraan vast, de ander heeft niets anders te verkopen

Als je spraak wilt genereren en niets anders, zou deze vergelijking ongeveer dertig seconden moeten duren. Voxtral 4B T​TS is een tekst-naar-spraakmodel: tekst erin, audio van 24 kHz eruit, twintig presetstemmen, negen talen, een gepubliceerde latentietabel en licentievoorwaarden die je ervan weerhouden het resultaat te verkopen. Ming-3.0-audio-tiny is een audio-taalmodel dat toevallig een spraakgenerator bevat — een Talker van 1,4 GB vastgeschroefd op een Thinker van 17,74 GB, met drie benoemde stemmen en een kloneringspad, binnen een repository waarvan de evaluatiesectie nooit ook maar één keer synthese meet. Als spraak het product is, is de vergelijking al voorbij voordat ze begint. De gedocumenteerde AI-fouten en agentincidenten achter releases zoals deze zijn verzameld in het OrcaRouter AI Incident Archive waar elke vermelding haar eigen bronnen, ernst, betrouwbaarheidsgraad en betwist-markering heeft.

De interessante versie van de vraag is de andere: je bouwt iets dat audio moet begrijpen en moet terugspreken, en je beslist of je één model koopt dat beide doet of een luisteraar aan een toegewijde stem koppelt. Dat is waar de dertig seconden een middag worden, omdat de twee opties op verschillende plekken falen en slechts één ervan een getal oplevert waarop je kunt plannen.

De licentie beslist meer dan de benchmark.

Begin met het punt dat geen enkele evaluatie kan oplossen. Voxtral 4B TTS is CC BY-NC 4.0 — niet-commercieel — overgenomen van de referentiestem-datasets waarmee het model is gebouwd: EARS, CML-TTS, IndicVoices-R en een Arabische natuurlijke-audio-set. Mistral vermeldt dit duidelijk op de kaart en verwijst commerciële gebruikers naar zijn API. De gewichten zijn dus open voor onderzoek en persoonlijk gebruik, en de commerciële route is een tariefkaart in plaats van een download.

Ming-3.0-audio-tiny is MIT in de metadata van de kaart en in de LICENSE van de GitHub-repository waarnaar het verwijst. Wetenswaardig: de Hugging Face-repository zelf bevat geen LICENSE-bestand, en de twee meegeleverde referentiestemmen hebben geen eigen afzonderlijke voorwaarden. MIT is hier een oprecht permissieve claim, maar het is een claim in metadata in plaats van een bestand in het artefact, en inkoop zal dat opmerken.

• Commercieel gebruik — Ming: ja, MIT, gewichten en code. Voxtral: niet op basis van de gewichten; de leveranciers-API is de goedgekeurde route.

• Inbegrepen stemmen — Ming: drie met naam, waarvan twee geleverd als referentie-WAV's met transcripties. Voxtral: twintig presets.

• Talen — Ming: Chinees en Engels voor het model als geheel, zonder een afzonderlijke talenlijst voor Talker. Voxtral: Engels, Frans, Spaans, Duits, Italiaans, Portugees, Nederlands, Arabisch en Hindi.

• Uitvoer — Ming: wat de Talker ook produceert; de kaart specificeert noch de samplefrequentie, noch de container. Voxtral: 24 kHz, WAV, PCM, FLAC, MP3, AAC of Opus.

• Wat je draait — Ming: de Thinker, 17,74 GB, plus een Talker van 1,4 GB en een VAE van 1,6 GB op een tweede apparaat. Voxtral: één BF16-checkpoint op één GPU met minimaal 16 GB.

• Gepubliceerde spraakkwaliteit — Ming: geen. Voxtral: ook geen, maar in plaats daarvan een latentie- en doorvoertabel, wat meer is dan niets.

Die laatste rij is de eerlijke samenvatting van de bewijsbasis van deze vergelijking. Geen van beide leveranciers heeft een naturaliteitsscore, een sprekersgelijkeniscijfer of een woordfoutpercentage voor gesynthetiseerde spraak gepubliceerd. Mistral heeft gepubliceerd hoe snel het gaat; inclusionAI heeft gepubliceerd hoe goed het model luistert. Niemand heeft gepubliceerd hoe goed een van beide klinkt.

Wat de cijfers van Mistral echt zeggen

De Voxtral-tabel is een servingbenchmark, en het is belangrijk om die correct te lezen. Gemeten op één NVIDIA H200 met vLLM-Omni 0.18.0, een invoer van 500 tekens en een referentieclip van tien seconden:

• Gelijktijdigheid 1 — 70 ms latentie, realtimefactor 0,103, ongeveer 119 tekens per seconde per GPU.

• Gelijktijdigheid 16 — 331 ms, RTF 0.237, ongeveer 879 tekens per seconde.

• Gelijktijdigheid 32 — 552 ms, RTF 0,302, ongeveer 1.431 tekens per seconde.

Hieruit volgen twee dingen. Ten eerste stijgt de RTF met de gelijktijdigheid — 0,103 naar 0,302 — dus de doorvoerwinst van batchverwerking is reëel maar sublineair; je krijgt ruwweg twaalf keer zoveel tekens voor ongeveer acht keer de real-timefactor. Ten tweede is 70 ms tot de eerste audio bij een gelijktijdigheid van 1 het getal dat bepaalt of een spraakagent levend aanvoelt, en dat is een getal dat Ming-3.0-audio-tiny niet heeft. Niet een slechter getal. Geen getal.

Mistral bestempelt dit alles als niet-gereproduceerd en door de leverancier uitgevoerd, en dat is het ook. Maar het is tenminste een bewering met een methode erbij: genoemde hardware, genoemde runtimeversie, genoemde invoerlengte, genoemde referentielengte. Je zou de harness opnieuw kunnen bouwen.

Het ding dat Mings spraakpad niet kan beantwoorden

De spraakuitvoer van het kleine model wordt op de kaart in drie zinnen beschreven: ingebouwde stemmen of een referentiestem, drie met naam genoemde stemmen, en klonen op basis van een referentieclip plus het exacte transcript daarvan. De deploymentgids voegt het operationele detail toe: de Talker draait als tweede fase op 0,18 seconde per kaart, beperkt tot één uitvoertoken met temperatuur 0,0 omdat hij geen tekst genereert.

Nergens in de repository staat een bemonsteringsfrequentie voor de gesynthetiseerde uitvoer, een maat voor natuurlijkheid, een maat voor gelijkenis met de referentieclip, of een uitspraak over of de drie stemmen dezelfde stem in verschillende registers zijn of echt verschillende sprekers. De evaluatieafbeeldingen bestrijken herkenning, audio-intelligentie en tekst. Spraakgeneratie is de enige capaciteit die de leverancier in zijn hoogtepunten adverteert en helemaal niet evalueert.

Dat is geen schandaal, maar het is een planningsbeperking. Met Voxtral kun je een deployment dimensioneren voordat je hem hoort: één kaart, 16 GB, 119 tekens per seconde bij concurrency 1, en een tariefkaart voor het commerciële traject. Bij Ming dimensioneer je de hardware (twee kaarten, de tweede op 0,18 benutting) en ontdek je pas hoe de stem klinkt door iets te genereren.

Wanneer het gecombineerde model toch het juiste antwoord is

Er is een echt argument voor de Talker, en dat is niet "goedkopere TTS". Het is dat hetzelfde model de audio heeft gehoord en er nu over spreekt. Ming-3.0-audio-tiny accepteert audio plus een tekstinstructie en retourneert tekst, of tekst plus spraak. Een vraag over een opname, hardop beantwoord, in één doorgang, zonder dat er een transcript naar een tweede model wordt geserialiseerd. Geen "de ASR zei 'their', de TTS las het verkeerd"-fout, omdat er geen tweede model is en geen tussenliggende tekst om te corrumperen.

Dat is van belang voor gesproken vraagbeantwoording, voor een assistent die meeluistert in een ruimte en antwoordt, en voor alles waarbij het antwoord een zin is over iets wat hij net heeft gehoord. Het maakt niet uit voor vertelteksten, audioboeken, nasynchronisatie of welke workload dan ook waarbij de tekst ergens anders vandaan kwam — en dat zijn precies de workloads waarvoor Voxtral is gebouwd, met twintig stemmen en negen talen tegenover Ming's drie en twee.

• Continuïteit binnen hetzelfde model — Ming: ja, één forward pass van audio naar spraak. Voxtral: tekst als invoer, dus de luisterhelft moet ergens anders vandaan komen.

• Stemvariatie — Ming: drie benoemde stemmen plus klonen. Voxtral: twintig presets plus aanpassing aan een referentiestem.

• Streaming — Ming: niet aangeboden; de Talker is een fase, geen stream. Voxtral: de kaart adverteert streaming en batch-inferentie, en de eigen API-demo van de leverancier is de referentie-implementatie.

• Meertalige spraak — Ming: Chinees en Engels. Voxtral: negen talen, met vermelding van dialecten.

• Kostenstructuur — Ming: vaste hardware, twee kaarten, geen meter per teken. Voxtral: gewichten gratis voor niet-commercieel gebruik, API per teken geprijsd voor al het overige.

Wat een router toevoegt aan een spraakproduct, en wat niet

OrcaRouter levert geen van beide. Ming-3.0-audio-tiny is een checkpoint die je zelf draait en Voxtral 4B TTS is bereikbaar via Mistral's eigen API; geen van beide zit in onze catalogus, en dit stuk is geen aanbieding om een van beide te hosten. De plek van de router in een spraakproduct is de tekst rondom de stem: het script genereren, dat vertalen naar de negen talen die Voxtral ondersteunt, de samenvatting schrijven van wat de beller zei, beslissen of een segment een mens nodig heeft. Dat zijn gewone tekstcalls — meer dan 200 tekstmodellen achter één sleutel tegen providerlijstprijs met 0% markup toegevoegd, met automatische failover zodat een batch van tienduizend clips niet vastloopt omdat één upstream een slechte middag had.

Dat is een echte besparing in een dubbingpipeline en een afrondingsfout in een demo met één model. Het raakt ook niet aan de vraag waar dit artikel over gaat, namelijk of de stem eigenlijk wel goed is.

Hoe kun je kiezen zonder een van beide eerst te horen?

Als het product spraak is, kies dan Voxtral en begroot de licentiekosten: draai de niet-commerciële weights om te evalueren en stap voor alles wat je uitbrengt over op de API, tegen het geldende tarief per teken. Je krijgt een latentietabel, twintig stemmen, negen talen en een runtime die is getest met vLLM-Omni. Je doet afstand van het recht om commercieel zelf te hosten, en dat is voor veel teams de echte beslissing.

Als het product "begrip dat af en toe spreekt" is, kies dan Ming-3.0-audio-tiny, begroot twee GPU's en behandel de Talker als een ongemeten functie — bouw eerst de fallback. Genereer twintig zinnen in alle drie de stemmen, luister ernaar en houd de optie open om later een toegewijd TTS-model in te wisselen. De architectuur ondersteunt die wissel netjes, omdat de Thinker sowieso tekst retourneert; de Talker is een aanhangsel, niet de ruggengraat.

En noteer in beide gevallen wat je hebt gemeten. Geen van beide leveranciers heeft dat gedaan, en het eerste team dat voor een van beide modellen een naturaliteits- of gelijkeniscijfer publiceert, bewijst het vakgebied een dienst — ook de leveranciers.

Het tweeëndertigste antwoord, herzien

De korte versie bovenaan dit stuk zei dat de vergelijking in dertig seconden voorbij was. Die is in dertig seconden voorbij als spraak je product is en je bereid bent voor een licentie te betalen. Het duurt langer als je iets bouwt dat luistert en dan praat, omdat de twee opties geen substituten zijn: de ene is een stem zonder oren, de andere zijn oren met een stem die nooit is beoordeeld. Die dertig seconden brengen je bij de vraag. De rest van het stuk is het deel waarin je erachter komt welke van die twee je eigenlijk nodig hebt.