Ming-3.0-asr-tiny vs Granite Speech 5.0 470M TurboCTC: 19× zoveel parameters, geen enkele doorvoerwinst

Zet Ming-3.0-asr-tiny en Granite Speech 5.0 470M TurboCTC op dezelfde pagina en het eerste getal dat opvalt is de parameterverhouding: 8,87 miljard tegenover 470 miljoen, ruwweg negentien tegen één. Het tweede is dat het kleine model degene is die met een enorme marge voor snelheid is gebouwd, en het derde is dat dit geen tegenstrijdigheid is. Granite Speech 5.0 470M TurboCTC heeft geen decoder om te draaien — het is een encoder die tekens emit en stopt. Ming-3.0-asr-tiny heeft een 24-laags mixture-of-experts-decoder die één token per keer schrijft en vooraf kan worden verteld welke namen er gezegd gaan worden. De ene is een throughput-machine voor Engelse audio. De andere is een contextmachine voor Chinese audio. IBM bracht Granite Speech 5.0 470M TurboCTC op 25 augustus 2026 uit met een blogpost, een technisch rapport en een vermelding in de Open ASR-leaderboard; inclusionAI zette op 14 oktober 2026 de gewichten van Ming-3.0-asr-tiny op Hugging Face zonder enige aankondiging. Elk Granite-cijfer dat hier wordt gebruikt, komt uit de modelkaart van Granite Speech 5.0 470M TurboCTC, die de Open ASR-tabel, de ruissweep en de verklaring over één taal bevat. De gedocumenteerde AI-fouten en agentincidenten achter releases als deze zijn verzameld in het OrcaRouter AI Incident Archive waar elke vermelding haar eigen bronnen, ernst, betrouwbaarheidsgraad en betwist-vlag bevat.

Geen van beide modellen staat in de OrcaRouter-catalogus, en geen van beide komt voor in de evaluatie van het andere, dus er is geen directe vergelijking tussen leveranciers om aan te halen. Alles hieronder is afkomstig uit de eigen gepubliceerde configuratie en grafieken van elk model, als zodanig gelabeld.

De architectonische splitsing, ronduit gesteld

Granite Speech 5.0 470M TurboCTC is een encoder-only-model, en IBM zegt dat dit een bewuste breuk met zijn eigen verleden is. Eerdere Granite Speech-modellen bestonden uit een akoestische encoder, een projector en een Granite-taalmodel met LoRA-adapters — oftewel taalmodellen met een microfoon. De 5.0-generatie laat het taalmodel volledig vallen en optimaliseert een CTC-doelstelling over een BPE-head met 16.384 eenheden. Zestien conformer-blokken, 1.024 verborgen dimensies, acht attention-heads, block-attention over 128 frames, self-conditioning bij het achtste blok en een convolutiekernel met breedte 7.

De subsampling is het onderdeel dat de snelheid oplevert. Audio komt binnen als log-mel plus delta's met 100 frames per seconde in 320 dimensies. Drie fasen van 2× reductie — eerst een reshape die opeenvolgende frames stapelt, dan strided convoluties in de eerste twee conformer-blokken — brengen dat naar 12,5 outputtokens per seconde. De blog van IBM zegt expliciet dat dit de verandering is ten opzichte van de eerdere encoders van IBM, die 50 tekens per seconde uitvoerden: vier keer minder uitvoerstappen per seconde audio, en geen autoregressieve lus die elk daarvan bepaalt.

Ming-3.0-asr-tiny ging op alle hier relevante punten de tegenovergestelde richting op. De decoder bestaat uit 24 lagen mixture-of-experts met 128 experts, waarvan er acht per token worden gerouteerd, een gedeelde expert en een dichte eerste laag, met afwisselend drie K​imi Delta Attention-lagen en één Gated MLA-laag. Tokens worden autoregressief geschreven. Het bevat ook een Whisper-vormige encoder met 32 lagen en 1.280 dimensies — de vorm van Whisper large-v3, waarbij de repository modeling_whisper_encoder.py en de MIT-vermelding van O​penAI in een apart bestand meelevert. Ming behield het taalmodel en maakte dat tot het dure onderdeel.

Waar de cijfers eigenlijk vandaan komen

Dit is het gedeelte dat bepaalt hoeveel gewicht de beweringen van beide modellen verdienen, en de twee releases zijn niet van dezelfde aard.

• Granite Speech 5.0 470M TurboCTC — 5,00% geaggregeerde WER over de openbare Engelse short-form-sets op de Open ASR leaderboard, per 25 augustus 2026, met 1,93% op LibriSpeech test-clean en 3,59% op test-other. Het niet-commerciële zustermodel scoort 4,85%. De doorvoer bedraagt meer dan 12.600 RTFx op één enkele H200 met batched inference. Er is een technisch rapport op arXiv en een blogpost op Hugging Face, en de resultaten zijn ingediend bij een openbaar leaderboard dat ze vermeldt.

• Ming-3.0-asr-tiny — 3,55 gemiddelde CER op openbare Chinese sets, 3,99 gemiddelde WER op openbare Engelse sets, 8,42 op vijftien dialectensets, 1,67 over vijf interne domeinen, 4,36 op een context-ASR-aggregatie. Dat alles bestaat als PNG-afbeeldingen op een modelkaart. Er is geen technisch rapport, geen inzending voor een leaderboard en geen evaluatiescript in de repository.

Die blogpost is de moeite waard om te openen om dezelfde reden als de modelkaart: het is het spoor dat Ming niet heeft. IBM publiceerde een gedateerd artikel, een technisch rapport en een vermelding op een leaderboard, en de doorvoerclaim in het artikel kan worden gecontroleerd aan de hand van de batchconfiguratie die het beschrijft.

Die asymmetrie is geen diskrediet voor Mings cijfers; het is een uitspraak over wat je kunt controleren. Iedereen kan Granites Open ASR-cijfers binnen een middag opnieuw berekenen op basis van openbare data. Om die van Ming opnieuw uit te voeren, moet je de testsets reconstrueren, inclusief vijf interne domeinen waarvan de samenstelling niet openbaar is.

Nog een asymmetrie, en die werkt de andere kant op: de twee modellen delen geen enkele evaluatieset. De grafieken van Granite zijn alleen Engelstalig en bestrijken LibriSpeech, AMI, Earnings-22, GigaSpeech, SPGISpeech, TED-LIUM en VoxPopuli. Het Engelse gemiddelde van Ming gebruikt LibriSpeech, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English en VoxPopuli — met overlap op twee van de vijf, met een andere aggregatie. Een lezer die wil weten "welke is nauwkeuriger in het Engels", krijgt van geen van beide leveranciers een antwoord, omdat geen van beide de vraag heeft gesteld.

Snelheid betekent hier twee verschillende dingen.

IBM's 12,600 RTFx is een doorvoergetal voor batchverwerking: audio die in bulk door een GPU wordt gejaagd, meer dan drieënhalf uur spraak per seconde rekenwerk. Het is het juiste getal voor het transcriberen van een archief, en het is nagenoeg betekenisloos voor een live microfoon. IBM levert wel streaming — een WebGPU-demo in de browser, chunkgewijze attention en een MLX-pad voor Apple Silicon — maar het kopcijfer beschrijft het batchscenario.

Ming publiceert helemaal geen RTFx. Wat het publiceert, is een omvang: 17,7 GB aan BF16-gewichten en een autoregressieve decoder met 128 experts. De token-voor-token-lus is het kostenmodel. Elke extra seconde audio betekent meer decoderstappen, en elke decoderstap brengt een routingbeslissing over 128 experts met zich mee. Dat is de structurele reden waarom een 19× kleiner encoder-only model degene is met een doorvoerclaim, en dat heeft geen benchmark nodig om waar te zijn.

De praktische consequentie is dat deze niet om dezelfde deployment concurreren. Granite Speech 5.0 470M TurboCTC is ontworpen om op een laptop, een telefoon of een enkele H200 te draaien die een podcastarchief doorwerkt. Ming-3.0-asr-tiny heeft een CUDA-GPU, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 en trust_remote_code=True, en een aparte SGLang-adapter die op een specifieke commit is vastgepind als je het wilt serveren. Een van die twee is een afhankelijkhedenlijst die je in een product kunt stoppen.

De capaciteit die Granite opgaf om daar te komen

Het encoder-only-ontwerp levert snelheid en omvang op, en IBM is openhartig over de rekening. In zijn blog staat dat de 5.0-modellen capaciteiten opgeven die de met LM uitgeruste versies hadden, waarbij spraakvertaling en keyword biasing worden genoemd. Die tweede is juist interessant, omdat keyword biasing precies is wat Ming Context ASR noemt en als belangrijkste kenmerk behandelt.

Ming accepteert een lijst met hotwords of de voorafgaande dialoogbeurt als onderdeel van de transcriptieprompt, en het voorbeeld van de leverancier zelf is leerzaam: een audioclip waarin de filmtitel 同囚 op het gewone pad als 同球 uit de bus komt en correct zodra het onderwerp en een hotwordlijst worden meegegeven. De kaart zegt zorgvuldig dat hotwords hints zijn en geen garanties, wat de eerlijke framing is — biasen verschuift de waarschijnlijkheid, het dwingt de uitvoer niet af.

Granite Speech 5.0 470M TurboCTC heeft geen equivalent. Er is geen prompt, geen contextveld, geen lijst met namen om aan te leveren, omdat er geen taalmodel is om te conditioneren. Als je audio vol zit met productnamen, medicijnnamen of achternamen uit een klantendatabase, heeft het model precies één hulpmiddel: wat het tijdens de training heeft geleerd. IBM's antwoord op dat soort problemen is een notebook voor fine-tuning op je eigen data, wat een andere workflow met andere kosten is.

Taalondersteuning werkt op dezelfde manier. Granite is Engels, opgegeven als de enige ondersteunde taal, getraind op ongeveer 60.000 uur Engelse audio in tien dagen op acht H100's. Ming is Chinees en Engels met vijftien regionale Chinese dialecttestsets, waaronder Kantonees, Minnan en Shanghainees, en een dialectgemiddelde van 8,42 dat volgens zijn eigen grafieken boven elke open baseline staat die het vermeldt.

Kiezen tussen hen

Als je audio Engels is en je probleem volume is — gespreksopnames, archieven, vergadertranscripties, alles waarbij de kosten per uur zwaarder wegen dan het laatste beetje nauwkeurigheid — dan is Granite Speech 5.0 470M TurboCTC het verstandigere uitgangspunt, en het feit dat het gekwantiseerd draait via een native C++-runtime zonder Python is een implementatievoordeel dat geen enkele Chinese dialectdekking compenseert.

Als je audio Mandarijn of een regionaal dialect is, of als het nauwkeurigheidsprobleem eigennamen betreft die je vooraf kunt opsommen, is Ming-3.0-asr-tiny de enige van de twee die dat aanpakt, en wel met een architectuur die daarvoor is gebouwd in plaats van een erop geplakte fine-tune. Het is ook vijf dagen oud met 35 downloads, wat betekent dat je een van de eersten zou zijn die ontdekt hoe het faalt.

Er is een derde geval dat het benoemen waard is: je wilt beide, en je wilt weten welke wint op je eigen verkeer. Dat is het routeringsprobleem waarvoor OrcaRouter is gebouwd. Geen van deze modellen wordt daar gehost — Ming-3.0-asr-tiny en Granite Speech 5.0 470M TurboCTC zijn beide zelfgehoste open weights — maar dezelfde endpoint die vóór je gehoste modellen staat, kan ook vóór een kandidaat-ASR-pad staan, met automatische failover, zodat een mislukte aanvraag terugvalt op de huidige oplossing in plaats van bij een gebruiker terecht te komen, en één sleutel voor meer dan 200 modellen zodat de vergelijking geen tweede contract vereist.

Wat geen van beide leveranciers u heeft laten zien

Geen van beide modellen is door een onafhankelijke partij beoordeeld. De cijfers van Granite staan ten minste op een openbaar leaderboard waaraan ook andere teams bijdragen, wat betekent dat erover te discussiëren valt; die van Ming staan in vier PNG's waaraan nog werd gewerkt op de middag dat ze werden gepubliceerd. Geen van beide kaarten documenteert timestamps op woordniveau of sprekerdiarisatie, dus elke pipeline die timing nodig heeft valt voor beide buiten beschouwing — de kaart van Granite beschrijft eenvoudige transcriptie-uitvoer, en de gebruiksnotities van Ming zeggen expliciet dat de uitvoer transcriptietekst is zonder timestamps op woordniveau of diarisatie.

De vergelijking die dit daadwerkelijk zou beslechten, kan door geen van beide leveranciers worden uitgevoerd. Er is één corpus, één taalpaar, één scorescript en beide modellen op dezelfde GPU voor nodig. Totdat iemand dat publiceert, is de enige verdedigbare uitspraak degene die de architecturen al doen: een negentien keer groter autoregressief mixture-of-experts-model concurreert niet met een encoder-only CTC-model op doorvoer, en een encoder-only CTC-model kan niet worden verteld welke woorden het moet verwachten.