Ming-3.0-asr-tiny vs Moonshine 250M: Het ene model stopt nooit met luisteren, het andere begint pas als jij klaar bent

Er is een naamgevingsprobleem dat eerst moet worden opgehelderd, want het verandert wat deze vergelijking is. Moonshine publiceert drie checkpoints — Tiny met 34M, Small met 123M en Medium met 245M — en Moonshine 250M is de afkorting die de community gebruikt voor de top van die reeks, het checkpoint waarvan de repositorynaam moonshine-streaming-medium is en waarvan de safetensors-index in werkelijkheid 265.898.112 parameters telt. Geen enkel bestand binnen de Moonshine-organisatie heet 250M. Dat model is een Engelse streaming-herkenner met een sliding-window-encoder en een autoregressieve decoder, gebouwd voor een laptop of een telefoon, in januari 2026 uitgebracht onder MIT. Ming-3.0-asr-tiny is een Chinees-Engelse herkenner met 8,87 miljard parameters waarvan de gewichten op 14 oktober 2026 zonder aankondiging op Hugging Face verschenen, gebouwd rond een Whisper-vormige encoder en een mixture-of-experts-decoder met 128 experts, en ontworpen om een hele clip in één keer te lezen. Ze zijn geen rivalen in dezelfde markt. Ze zijn twee verschillende antwoorden op de vraag wanneer een herkenner mag spreken. Het checkpoint dat dit stuk Moonshine 250M noemt, is gedocumenteerd op de modelkaart van Moonshine Streaming Medium, waar de safetensors-index 265.898.112 parameters meldt tegenover het 245M-label op de kaart. De gedocumenteerde AI-fouten en agent-incidenten achter releases zoals deze zijn verzameld in het OrcaRouter AI Incident Archive, waar elke vermelding haar eigen bronnen, ernst, betrouwbaarheidsgraad en betwistmarkering heeft.

Die vraag is het nuttige kader, en ze levert een schonere beslissing op dan een nauwkeurigheidstabel zou doen. Moonshine 250M genereert woorden terwijl de audio nog binnenkomt, bij ongeveer 0,1 tot 1 TOPS. Ming-3.0-asr-tiny genereert niets totdat je het een volledig bestand geeft, en dan genereert het een transcriptie zonder helemaal geen tijdstempels.

Wat elk ervan eigenlijk is gebouwd om te doen

Moonshine's architectuur is een bewuste omkering van het gebruikelijke streamingcompromis. De encoder is een sliding-window-transformer met begrensde lokale attention en helemaal geen positionele embeddings — de kaart noemt het ergodisch — met vensters als (16, 4) in de eerste twee en laatste twee lagen en (16, 0) in de tussenliggende lagen, wat ongeveer 80 milliseconden lookahead oplevert. Positionele informatie wordt na de encoder geïnjecteerd door een adapter, die een standaard causale decoder met RoPE aanstuurt. De audiofrontend draait op 50 Hz met eenvoudige tijddomeinbewerkingen in plaats van een mel-spectrogram.

De decoder is autoregressief, en Moonshine zegt wat dat kost: de latentie van de volledige uitvoer groeit met de lengte van het transcript, zelfs wanneer de tijd tot het eerste token laag is. Dat is de eerlijke beperking van het ontwerp, en het is de ene zin die je in gedachten moet houden bij het vergelijken van streamingclaims. Streaming betekent dat de eerste woorden snel verschijnen; het betekent niet dat het laatste woord evenredig snel verschijnt.

Ming streamt niet, en op de bijbehorende kaart staat het ook: het meegeleverde voorbeeld accepteert geen streaminginvoer. Lange audio kan via een argument in stukken worden verdeeld tegen een context van 8.192 posities, maar een bestand in stukken verdelen is niet hetzelfde als een livefeed consumeren, en het veld voor uitvoerformaat in de configuratie staat op plain. Wat Ming in plaats daarvan doet, is context meedragen. Het accepteert hotwords of de voorgaande dialoogbeurt als onderdeel van de transcriptieprompt, en het wordt geëvalueerd op vijftien Chinese dialecttestsets — Hunan, Minnan, Kantonees, Chuanyu, Shanghai, Anhui, Noordoost, Henan, Hubei, Jiangsu, Hakka, Shaanxi, Shandong, Tianjin, Yunnan. Moonshine is alleen Engels en heeft niets hiervan.

De twee parameteraantallen, en waarom ze verschillen

Een detail dat de moeite van het stilstaan waard is, want het is precies het soort ding dat stilletjes een vergelijkingstabel ondermijnt: Moonshine's eigen kaart vermeldt Medium met 245M parameters, 14 encoder- en 14 decoderlagen, een encoder met 768 dimensies en een decoder met 640 dimensies. De safetensors-index in dezelfde repository meldt 265.898.112. Het verschil is ongeveer 21 miljoen, ruwweg acht en een half procent, en het is geen afrondingsfout — het is het verschil tussen een backbone meetellen en alles meetellen wat ermee wordt geleverd.

Ming heeft hetzelfde probleem in een grotere omvang. De index ervan rapporteert 8,865,800,992 parameters; de grafieken labelen het model als 8.6B-A2B, een afkorting voor 8,6 miljard totaal met ongeveer 2 miljard actief per token. Het label ligt ongeveer 270 miljoen onder de index.

• Totaal aantal parameters — Ming-3.0-asr-tiny 8,87B (index) versus Moonshine 250M 266M (index); labels van de leverancier vermelden 8,6B en 245M.

• Actief per token — ongeveer 2B voor Ming, aangezien 8 van de 128 experts per stap worden gerouteerd. Alle 266M voor Moonshine, dat dense is.

• Encoder — 32 lagen, 1.280 dimensies, 20 heads, 128 mel-bins, Whisper-vormig, versus een 14-laags ergodische sliding-window-transformer met 768 dimensies over een 50 Hz-frontend.

• Decoder — 24 lagen, 128 experts, autoregressief; versus 14 lagen, dense, autoregressief.

• Latentiemodel — hele clip erin, transcriptie eruit, geen streaming; versus ~80 ms vooruitkijken en een eerste token terwijl de audio nog binnenkomt.

• Uitvoer — platte transcriptietekst, geen tijdstempels, geen diarisatie; versus transcriptietekst van een autoregressieve decoder die ook geen tijdstempelpad in de kaart heeft.

• Talen — Chinees en Engels plus 15 Chinese dialecttestsets; versus alleen Engels.

• Licentie — MIT voor beide, waarbij de gebundelde Apache-2.0-headers in Ming's repository behouden blijven.

Nauwkeurigheid, met de kanttekening dat ze nooit op dezelfde audio zijn getest.

De modelkaart van Moonshine rapporteert een gemiddelde WER van 6,65 over acht Engelse sets voor Medium: 10,68 op AMI, 11,90 op Earnings-22, 9,46 op GigaSpeech, 2,08 op LibriSpeech test-clean, 5,00 op test-other, 2,58 op SPGISpeech, 2,99 op TED-LIUM en 8,54 op VoxPopuli. Getraind op ongeveer 300.000 uur spraak.

Ming rapporteert een gemiddelde WER van 3,99 op zijn Engelse openbare sets — LibriSpeech clean en other, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English en VoxPopuli — en een gemiddelde CER van 3,55 op zijn Chinese sets. Getraind op een niet bekendgemaakte hoeveelheid data.

De verleiding is om 3,99 naast 6,65 te zetten en te verklaren dat Ming nauwkeuriger is in het Engels. Doe dat niet. Twee van de vijf Engelse sets verschillen, de aggregatie verschilt, de kaart van Moonshine publiceert geen uitsplitsing per set die netjes aansluit op de vijf van Ming, en geen van beide leveranciers heeft de ander getest. Op de enige set die beide rapporteren — VoxPopuli — publiceert Ming helemaal geen Engels cijfer per set in de tekst, alleen het gemiddelde, dus zelfs die enige overlap kan niet op basis van de kaarten worden vergeleken. Elk getal hier is door de leverancier gerapporteerd en niet gereproduceerd.

Wat zonder een gedeelde testset gezegd kan worden, is structureel. Moonshine is een dense model met 266 miljoen parameters, getraind op 300.000 uur Engels. Ming is een mixture-of-experts-model met 8,87 miljard parameters en ongeveer 2 miljard actieve parameters, getraind op data die het niet beschrijft, geëvalueerd op Chinees en Engels met een zware dialectcomponent. Een model met zeventien keer zoveel actieve parameters en een taalmodel-prior zou nauwkeuriger moeten zijn op moeilijke Engelse audio, en het zou verrassend zijn als dat niet zo was. Dat is een verwachting op basis van architectuur, geen meting.

Waar de deploymentrealiteiten uiteenlopen

Ming heeft een Linux-machine nodig met een CUDA-GPU, Python 3.12, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 en trust_remote_code=True om zijn eigen modelcode te laden. De gewichten zijn ongeveer 17,7 GB in BF16, verdeeld over twee shards. Er is een SGLang-servingpad, vastgezet op een specifieke adaptercommit, wat een signaal is dat de leverancier verwacht dat dit achter een API draait in plaats van op een bureau.

Moonshine 250M mikt op minder dan 1 GB geheugen en ruwweg 0,1 tot 1 TOPS. Het draait via het Moonshine Voice-framework voor edge-apparaten en via Transformers, en de kaart zegt ronduit dat het Transformers-pad nog geen volledig efficiënte streaming implementeert — het leunt op de sliding-window-ondersteuning van flash-attention. Als je het streaminggedrag wilt dat de architectuur belooft, is het framework-pad de route die dat levert.

De repository is waar de checkpoint-lijn daadwerkelijk zichtbaar is: vierentwintig tags verspreid over een Tiny-, Small- en Medium-familie, plus het framework dat de kaart je aanraadt te gebruiken als je echte streaming wilt. Dat is een onderhoudsverhaal dat Ming nog niet heeft, en het is de praktische helft van de keuze.

Dat is de hele vergelijking in twee zinnen: het ene model is ontworpen om binnen een apparaat vergeten te worden, en het andere is ontworpen om vanaf een GPU te worden aangeboden met een hotwordlijst eraan gekoppeld.

Wat een team dat Chinees als voertaal heeft, eigenlijk zou moeten doen

Als je product een live-ondertiteling of een spraakcommando in het Engels is, doet Moonshine 250M het werk dat Ming helemaal niet kan doen, en de nauwkeurigheidskloof — hoe groot die ook blijkt te zijn — zal waarschijnlijk niet zwaarder wegen dan het feit dat Ming geen live stream kan verwerken. Streaming is geen functie die je later toevoegt aan een architectuur die hele clips leest; het is een eigenschap van de encoder.

Als je product Chinese spraak is, of een regionaal dialect, of een batchpipeline waarbij transcripties achteraf worden geproduceerd en namen belangrijk zijn, is Ming de enige van de twee die het probleem aanpakt, en het is vijf dagen oud met een downloadaantal in de tientallen. De eerlijke aanbeveling is een bake-off op je eigen audio, beoordeeld op recall van benoemde entiteiten in plaats van karakterfoutpercentage, want dat is de as waarvoor Ming is gebouwd.

Voor teams die die bake-off draaien, is het operationele probleem niet het model, maar de plumbing: twee stacks, twee sets afhankelijkheden, twee sets inloggegevens, en geen manier om ze op hetzelfde verkeer te vergelijken zonder een testharnas te bouwen. OrcaRouter host geen van beide modellen — Ming-3.0-asr-tiny en Moonshine 250M zijn zelfgehoste open weights — maar het doet 200-plus gehoste modellen achter één API-sleutel plaatsen met automatische failover, zodat de gehoste baseline waartegen je scoort naast je zelfgehoste kandidaat kan staan zonder een tweede contract. Lijstprijzen van providers worden tegen 0% markup doorgegeven, en dat is het getal dat ertoe doet wanneer je kosten per uur audio vergelijkt in plaats van kosten per token.

De open vraag die het volgen waard is

De modelkaart van Ming zegt dat hotwords aanwijzingen zijn, geen garanties, en dat de uitvoer tekst is zonder tijdstempels op woordniveau of sprekerdiarisatie. De modelkaart van Moonshine zegt dat de decoder woorden kan hallucineren en zinnen kan herhalen bij korte of ruizige segmenten. Beide zijn eerlijk over faalmodi, wat meer is dan de meeste modelkaarten voor elkaar krijgen, en beide beschrijven hetzelfde onderliggende compromis vanuit tegenovergestelde hoeken: een autoregressieve decoder die vloeiende tekst produceert, zal soms vloeiende tekst produceren die niet is gezegd.

Wat deze vergelijking zou beslechten, is geen benchmark maar een gebruiksscenario. Laat beide draaien op dezelfde twintig minuten van je eigen audio — half live, half batch, half Engels, half niet — en de beslissing gaat helemaal niet meer over parameteraantallen. Tot dan is de juiste beschrijving van de confrontatie dat het ene model is gebouwd om continu te luisteren en het andere om zorgvuldig te lezen, en dat de naam op het kleinere een marketingafkorting is voor een checkpoint dat in feite 266 miljoen parameters heeft.