Een gegenereerde titelkaart met de tekst 'Dertien keer de parameters, tweeënhalf keer het werk', met een ondertitel die Ming-3.0-audio-flash tegenover Ming-3.0-audio-tiny plaatst als één ontwerp op twee schalen, vier minuten na elkaar geüpload op 3 september 2026. Drie genummerde rijen luiden 'Flash: 126B totaal, 6,5B actief, 259 GB aan gewichten, 4 tot 8 GPU's', 'Tiny: 9,3B totaal, 2,7B actief, 20,7 GB aan gewichten, 1 tot 2 GPU's' en 'Gedeeld: MIT-licentie, contextvenster van 131.072 tokens, identieke tokenizer'. De voettekst luidt 'Parameter-, grootte- en serveercijfers volgens de inclusionAI-repositories, 18 november 2026.'
Guides & Insights

Ming-3.0-audio-flash vs Ming-3.0-audio-tiny: dertien keer zoveel parameters, tweeënhalf keer zoveel werk

Auteur

Gideon Frost

Publicatiedatum

Nieuwste modellen · 20Bekijk alle modellen →
Benchmarks: Artificial Analysis · dagelijks bijgewerkt
Terug naar alle berichten

Ming-3.0-audio-flash en Ming-3.0-audio-tiny verschenen op 3 september 2026 vier minuten na elkaar op Hugging Face — tiny om 11:45 UTC, flash om 11:49 — en sindsdien worden de twee met elkaar verward. Vanmorgen werd de verwarring letterlijk. De flash-repository werd om 08:26 UTC bewerkt met een commit getiteld "Update Flash BBA-score naar 99,8% en voeg het algehele #1 leaderboard-resultaat toe"; de tiny-repository werd twee minuten en acht seconden later bewerkt met een commit getiteld "Update gedeelde Flash BBA-score naar 99,8%…", met dezelfde zin en dezelfde leaderboard-PNG. Het tiny-model heeft geen eigen vermelding in Artificial Analysis, dus als je een 99,8% hebt gezien die aan Ming-3.0-audio-tiny werd toegeschreven, dan hoorde dat cijfer bij zijn grotere broer en is het via kopiëren en plakken doorgegeven.

Dat is om te beginnen het vermelden waard, omdat het al het andere in perspectief plaatst. Dit zijn geen twee concurrenten. Het is één ontwerp op twee schalen: ze delen een tokenizer, een contextvenster, een licentie en een serving-codepad, en verschillen alleen in een handvol gehele getallen in config.json. De interessante vraag is niet welke wint — de flash wint op elk gepubliceerd kwaliteitscijfer — maar voor welke van die gehele getallen je eigenlijk betaalt, en waar de kleinere echt beter in is.

Wat de twee repositories eigenlijk gemeen hebben

Begin met de onderdelen die identiek zijn, want het zijn er meer dan je zou verwachten bij een parameterverschil van 13,5×.

• Architectuurnaam — beide declareren model_type: bailing_moe_v3_audio, hetzelfde aangepaste Transformers-codepad.

• Tokenizer — beide gebruiken een vocabulaire van 157.184 tokens, met de audio-placeholder op index 157.168. Een prompt die voor de één is geschreven, laadt op de ander.

• Contextvenster — beide declareren max_position_embeddings: 131072, met dezelfde RoPE-theta van 6.000.000 en zonder toegepaste scaling.

• Routingbreedte — beide activeren 8 experts per token. Dit is het getal dat het tweetal überhaupt vergelijkbaar maakt.

• Invoer en uitvoer — audio plus een tekstinstructie als invoer; tekst, of tekst met gesynthetiseerde spraak via een optionele Talker, als uitvoer.

• Licentie — MIT op beide, met hetzelfde juridische disclaimerbestand.

• Code — de README van het tiny model zegt dat je git clone van de GitHub-repository van het flash model moet uitvoeren. Er is één implementatie, één set voorbeeldscripts, één stijlgids.

Omdat de code gedeeld is, zijn de twee checkpoints op API-niveau direct uitwisselbaar. Overschakelen van de ene naar de andere is een wijziging van de modelnaam, en dat is precies de eigenschap die een tweelaagse pipeline goedkoop maakt om te bouwen en ook de eigenschap die het gemakkelijk maakt om de score van het verkeerde model te publiceren.

A screenshot of the inclusionAI Ming-3.0-audio-flash model card on Hugging Face, showing the audio-to-audio tag, MIT licence, a reported model size of 128B params and 2,572 downloads in the last month, plus a model summary table that gives the developer as inclusionAI, the model type as a native audio-language mixture-of-experts, and 126B total parameters with 6.5B activated per inference step.

De vier gehele getallen die niet gemeenschappelijk zijn

Alles wat afwijkt, staat in text_config, en er zijn maar vier getallen die ertoe doen.

• Lagen — flash 42, tiny 24.

• Experts — flash 512, tiny 128.

• Expertbreedte — flash moe_intermediate_size 768, tiny 512.

• Verborgen grootte — flash 2.560, tiny 1.536.

Vermenigvuldig je dat, dan kom je uit op de kerncijfers die de kaarten noemen: 126B totale parameters met 6,5B actief voor flash, 9,3B totaal met 2,7B actief voor tiny. Op schijf is het verschil 259,33 GB aan bfloat16-gewichten in 25 shards tegenover 20,7 GB in twee.

Kijk nu naar de verhouding in plaats van de absolute getallen, want dit is het deel dat de specbladen verbergen. Het totale aantal parameters verschilt met factor 13,5×. Gewichten op schijf verschillen met factor 12,5×. Maar actieve parameters verschillen met slechts factor 2,4×. Het flash-model houdt een veel grotere bibliotheek met experts aan en raadpleegt een vergelijkbaar aantal daarvan; het tiny-model heeft een kleinere bibliotheek en raadpleegt een vergelijkbaar aantal. Het flash-model is dus niet dertien keer duurder per token dan het tiny-model — het ligt dichter bij tweeënhalf keer, met een geheugenvoetafdruk die dertien keer groter is en grotendeels ongebruikt blijft. Dat is de klassieke sparse-MoE-afweging, en het betekent dat de werkelijke kosten van het kiezen voor flash capaciteit zijn, niet doorvoer: je koopt een grotere bibliotheek, en je moet de hele bibliotheek in het geheugen houden, ongeacht of een gegeven clip daar nu wel of niet gebruik van maakt.

A generated two-column scoreboard titled 'Ming-3.0-audio-flash vs Ming-3.0-audio-tiny - the scoreboard'. The flash column reads 126B total parameters, 6.5B active per step, 259 GB of weights, long-audio chain 12.31, URO-Bench-Pro 81.92, serving profile 4 x 80GB H800. The tiny column reads 9.3B total parameters, 2.7B active per step, 20.7 GB of weights, long-audio chain 10.56, URO-Bench-Pro 54.15, serving profile 1 GPU for text. The footer reads 'Sizes and serving profiles per the inclusionAI repositories; benchmark figures vendor-reported and unaudited.'

Eén gevolg verrast mensen. Beide modellen declareren hetzelfde venster van 131.072 tokens, en het is verleidelijk om te concluderen dat ze dezelfde audio aankunnen. Dat is niet zo. Context is een limiet, geen capaciteit, en de eigen cijfers van de leverancier in de volgende sectie laten precies zien waar het begrip van het kleinere model het begeeft, ruim voordat het venster vol is.

Wat de eigen tabellen van de leverancier zeggen

De evaluatieafbeeldingen op beide kaarten zijn geproduceerd door inclusionAI en tonen de twee modellen naast elkaar. Dit zijn leverancierscijfers, niet gecontroleerd, en de taakselectie is die van de leverancier; ze zijn nog steeds de enige vergelijking per taak die bestaat, omdat Artificial Analysis alleen de flash scoort.

• Score voor lange-audioketen — flash 12.31, tiny 10.56.

• LongAudioSpan — flash 41,12, tiny 35,45.

• URO-Bench-Pro — flash 81.92, tiny 54.15.

• VoiceBench — flash 86,74, tiny 74,29.

Twee dingen zijn het vermelden waard. Ten eerste de ordening: de tiny verliest op elk ervan, dus niemand zou die moeten kiezen in de verwachting van pariteit. Ten tweede, en minder voor de hand liggend: het verschil is veel groter bij de audio-reasoningbenchmarks (URO-Bench-Pro, 27,8 punten lager, en VoiceBench, 12,5 lager) dan bij de langaudio-benchmarks (1,75 en 5,67 lager). Wat de extra experts en lagen ook hebben opgeleverd, ze hebben vooral meer redeneervermogen over het gehoorde opgeleverd, niet meer ruw uithoudingsvermogen over een lange opname.

En de eigen long-audio-cijfers van de flash zijn in absolute termen zwak — een chain score van 12,31 op wat de schaal van die benchmark ook is, tegenover 34,54 voor Qwen3.8-Omni Flash en 49,63 voor Gemini 3.8 Flash op dezelfde kaart. De eerlijke lezing van het tweetal is dus niet "flash is goed, tiny is slecht". Het is dat geen van beide checkpoints een model voor lange opnames is, en dat de tiny simpelweg nog zwakker is in alles wat de short-audio-benchmarks meten.

De hardwaregrens wordt bepaald door de bytes, niet door de parameters

Dit is waar de keuze zich meestal vanzelf maakt, en de twee README's zijn ongewoon specifiek over de profielen die ze hebben gevalideerd.

• Ming-3.0-audio-flash — referentieprofiel voor 128K-serving op tensorparallelisme 4 over 80 GB H800's; lange audio kan daarbij OOM veroorzaken, met een gedocumenteerde terugvaloptie op 8 GPU's; SGLang gevalideerd op vier GPU's voor tekstuitvoer; SGLang-Omni bij --thinker.tp_size 2 op een paar kaarten.

• Ming-3.0-audio-tiny — vLLM-Omni met de Thinker op één GPU voor tekst en ASR, of Thinker op GPU 0 en Talker op GPU 1 voor spraak; SGLang gevalideerd op één GPU voor tekst; SGLang-Omni op één kaart met --talker.gpu 0.

Lees die regels als een infrastructuurbeslissing, niet als een specificatie. Flash heeft een multi-GPU-node nodig en een reden om die te bezetten. Tiny heeft één kaart nodig, en als je alleen transcriptie of audio-vraagbeantwoording wilt, heeft het één kaart nodig zonder enige Talker — geen spraaksynthesefase, geen tweede proces, geen stemselectie. Het praktische verschil tussen de twee is niet vier keer zoveel GPU's; het is of het ding dat je uitrolt past op een machine die je al hebt.

Er is een tweedegraads effect dat zich in de operationele praktijk manifesteert. Een checkpoint van 25 shards en 259 GB moet naar elke node die het bedient worden opgehaald, van een versie worden voorzien en warm worden gehouden; het fallbackprofiel met acht GPU's betekent dat je capaciteitsplanning moet tolereren dat een model af en toe twee keer zoveel kaarten nodig heeft voor hetzelfde verkeer. Een checkpoint van twee shards en 20,7 GB past in een containerimagelaag, start binnen enkele seconden en kan worden opgeschaald door replica's toe te voegen. Voor interne tooling met piekbelasting domineert dat verschil elk kwaliteitscijfer in dit artikel.

A screenshot of the inclusionAI Ming-3.0-audio-tiny model card on Hugging Face, showing the audio-to-audio tag, MIT licence, a reported model size of 9B params and 5,442 downloads in the last month, the headline 'Hear clearly. Understand deeply. Act intelligently.', and a model summary table listing the developer as inclusionAI, the model type as a compact native audio-language mixture-of-experts, and 9.3B total parameters with 2.7B activated per inference step.

De tweetrapspipeline waarvoor deze twee checkpoints zijn gebouwd.

Hier is de use case die het paar feitelijk dient, en het is er een die geen van beide modelkaarten beschrijft: laat het tiny-model op alles draaien, en het flash-model alleen op wat overleeft.

Een goedkope eerste ronde met Ming-3.0-audio-tiny kan antwoord geven op "zit er spraak in dit bestand", "welke taal is het", "hoeveel sprekers zijn er", "is de audio schoon genoeg om transcriptie waard te zijn" — en dat kan op één kaart, in het tempo dat die kaart haalt. Alleen de clips die redenering, omgang met dialecten of een zorgvuldige transcriptie vereisen, gaan daarna naar Ming-3.0-audio-flash. Omdat de tokenizer, het promptformaat en de serveercode gedeeld zijn, is de tweede aanroep hetzelfde verzoek met een andere modelnaam; er is geen hercodering, geen herschreven prompt en geen tweede integratie om te onderhouden.

De economie is de kern. Als een vijfde van je audio moeilijk is, ziet het flash-model maar een vijfde van het volume, en kun je zijn node dimensioneren voor dat deel in plaats van voor de piek. Als bijna al je audio moeilijk is, levert de cascade niets op en kun je beter alleen flash draaien — wat een nuttige les is om te leren uit een week triage met kleine modellen voordat je je vastlegt op vier H800s.

Dezelfde vorm verschijnt een laag hoger, in de tekstaanroepen rond de audiomodellen: de classifier die bepaalt tot welke tier een clip behoort, de gestructureerde extractie uit een transcript, de samenvatting die achteraf wordt geschreven. Dat zijn gewone chat-completions, en OrcaRouter routeert ze over meer dan 200 modellen achter één sleutel tegen 0% markup, met automatische failover — zodat de classifier die je dure audiotier bewaakt niet het onderdeel wordt dat de pipeline platlegt. De routing-DSL is het stuk dat de tierbeslissing uitdrukbaar maakt als configuratie in plaats van code: stuur korte schone clips de ene kant op, lange of met accent de andere, en laat een fallbackmodel het gat dichten wanneer een provider degradeert. We serveren geen van beide Ming-checkpoints; beide zijn downloads die je zelf draait.

Hoe je het met je eigen audio regelt

Beide checkpoints zijn MIT, beide passen in hetzelfde codepad, en beide zijn in het kleine geval klein genoeg om te testen zonder een inkoopgesprek. Dat maakt een middag meten informatiever dan elk van de bovenstaande cijfers.

Haal tweehonderd clips uit je eigen verkeer, met de nadruk op het moeilijke uiteinde — spraak met een accent, sprekers die door elkaar praten, achtergrondruis, de lange opnames die je daadwerkelijk hebt. Draai beide modellen met dezelfde prompts en beoordeel drie dingen: transcriptienauwkeurigheid op de clips waarvoor je ground truth hebt, of het taallabel klopte, en hoe vaak de uitvoer onbruikbaar was in plaats van louter fout. Draai daarna de cascade en meet bij hoeveel clips het tiny model het goed genoeg deed, zodat het flash model nooit nodig was.

Dat laatste getal is het enige dat de infrastructuur bepaalt. Als de uitkomst hoog is, heb je een implementatie met één GPU, met een groot model erachter voor de staart. Als de uitkomst laag is, heb je geleerd dat jouw workload de workload is waarvoor het flashmodel is gebouwd, en dat de tiny een nuttig experiment was in plaats van een tier. Elk antwoord is goedkoop. Gokken op basis van een parameteraantal is dat niet, want de 13,5× op de kaart en de 2,4× in het rekenbudget wijzen op volledig verschillende hardware, en alleen jouw opnamen kunnen je vertellen welke je koopt.