Ming-3.0-asr-tiny vs Granite Speech 5.0 470M TurboCTC: 19× parametrarna, ingen genomströmning

Ställ Ming-3.0-asr-tiny och Granite Speech 5.0 470M TurboCTC på samma sida och det första talet som sticker ut är parameterkvoten: 8,87 miljarder mot 470 miljoner, ungefär nitton mot ett. Det andra är att den lilla modellen är den som är byggd för hastighet med enorm marginal, och det tredje är att detta inte är en motsägelse. Granite Speech 5.0 470M TurboCTC har ingen avkodare att köra — den är en kodare som skickar ut tecken och stannar. Ming-3.0-asr-tiny har en 24-lagrig mixture-of-experts-avkodare som skriver en token i taget och kan i förväg få veta vilka namn som kommer att sägas. Den ena är en genomströmningsmaskin för engelskt ljud. Den andra är en kontextmaskin för kinesiskt ljud. IBM släppte Granite Speech 5.0 470M TurboCTC den 25 augusti 2026 med ett blogginlägg, en teknisk rapport och en post på Open ASR-resultatlistan; inclusionAI lade ut vikterna för Ming-3.0-asr-tiny på Hugging Face den 14 oktober 2026 utan något tillkännagivande alls. Varje Granite-siffra som används här kommer från modellkortet för Granite Speech 5.0 470M TurboCTC, som innehåller Open ASR-tabellen, brussvepet och uttalandet om ett enda språk. De dokumenterade AI-felen och agentincidenterna bakom lanseringar som denna samlas i OrcaRouter AI Incident Archive, där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och flagga för omstridd status.

Ingen av modellerna finns i OrcaRouters katalog, och ingen av dem förekommer i den andras utvärdering, så det finns ingen direkt jämförelse mellan leverantörer att citera. Allt nedan är hämtat från varje modells egen publicerade konfiguration och diagram, märkt som sådant.

Det arkitektoniska vägskälet, uttryckt i klartext

Granite Speech 5.0 470M TurboCTC är en encoder-only-modell, och IBM säger att det är ett medvetet brott med sitt eget förflutna. Tidigare Granite Speech-modeller bestod av en akustisk encoder, en projektor och en Granite-språkmodell med LoRA-adapter – vilket innebär att de var språkmodeller med en mikrofon. 5.0-generationen slopar språkmodellen helt och optimerar ett CTC-mål över ett BPE-huvud med 16 384 enheter. Sexton conformer-block, 1 024 dolda dimensioner, åtta attention-huvuden, blockattention över 128 ramar, självkonditionering vid det åttonde blocket och en faltningskärna med bredd 7.

Subsamplingen är den del som ger hastigheten. Ljud kommer in som log-mel plus deltan vid 100 ramar per sekund i 320 dimensioner. Tre steg med 2× reduktion – först en reshape som staplar konsekutiva ramar, sedan stegade faltningar inuti de två första conformer-blocken – tar det till 12,5 utdatatoken per sekund. IBM:s blogg är tydlig med att detta är ändringen från dess tidigare kodare, som gav 50 tecken per sekund: fyra gånger färre utdatasteg per sekund ljud, och ingen autoregressiv loop som bestämmer var och en.

Ming-3.0-asr-tiny gick åt andra hållet i varje avseende som spelar roll här. Dess avkodare består av 24 lager mixture-of-experts med 128 experter, åtta dirigerade per token, en delad expert och ett tätt första lager, där tre K​imi Delta Attention-lager växlar med ett Gated MLA-lager. Den skriver tokens autoregressivt. Den har också en 32-lagers, 1 280-dimensionell Whisper-formad kodare – formen hos Whisper large-v3, där repot levererar modeling_whisper_encoder.py och O​penAI:s MIT-meddelande i en separat fil. Ming behöll språkmodellen och gjorde den till den dyra delen.

Var siffrorna faktiskt kommer ifrån

Det här är avsnittet som avgör hur stor vikt respektive modells påståenden förtjänar, och de två lanseringarna är inte jämförbara till sin karaktär.

• Granite Speech 5.0 470M TurboCTC — 5,00 % aggregerad WER över de offentliga engelska kortformsuppsättningarna på Open ASR-leaderboarden, per den 25 augusti 2026, med 1,93 % på LibriSpeech test-clean och 3,59 % på test-other. Dess icke-kommersiella syskonmodell uppnår 4,85 %. Genomströmningen är över 12 600 RTFx på en enda H200 med batchad inferens. Det finns en teknisk rapport på arXiv och ett blogginlägg på Hugging Face, och resultaten är inskickade till en offentlig leaderboard som listar dem.

• Ming-3.0-asr-tiny — 3,55 genomsnittlig CER på offentliga kinesiska dataset, 3,99 genomsnittlig WER på offentliga engelska dataset, 8,42 på femton dialektdataset, 1,67 över fem interna domäner, 4,36 på ett kontext-ASR-aggregat. Allt finns som PNG-bilder på ett modellkort. Det finns ingen teknisk rapport, ingen inskickning till leaderboard och inget utvärderingsskript i kodförrådet.

Det blogginlägget är värt att öppna av samma anledning som modellkortet är: det är spåret som Ming inte har. IBM publicerade en daterad artikel, en teknisk rapport och en post på en resultattavla, och genomströmningspåståendet i artikeln kan kontrolleras mot den batchkonfiguration som den beskriver.

Den asymmetrin är inte en kritik av Mings siffror; det är ett uttalande om vad man kan kontrollera. Vem som helst kan köra om Granites Open ASR-siffror från offentliga data på en eftermiddag. Att köra om Mings kräver att man rekonstruerar dess testset, inklusive fem interna domäner vars sammansättning inte är publicerad.

Ännu en asymmetri, och den går i motsatt riktning: de två modellerna delar inte en enda utvärderingsmängd. Granites diagram är enbart på engelska och omfattar LibriSpeech, AMI, Earnings-22, GigaSpeech, SPGISpeech, TED-LIUM och VoxPopuli. Mings engelska genomsnitt använder LibriSpeech, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English och VoxPopuli – med överlappning på två av fem, med olika aggregering. En läsare som vill veta ”vilken som är mer korrekt på engelska” kommer inte att få ett svar från någon av leverantörerna, eftersom ingen av dem ställde frågan.

Hastighet betyder två olika saker här

IBM:s 12 600 RTFx är ett satsvis genomströmningstal: ljud som skickas genom en GPU i bulk, mer än tre och en halv timmes tal per beräkningssekund. Det är rätt siffra för att transkribera ett arkiv, och det är nästan meningslöst för en live-mikrofon. IBM levererar visserligen streaming – en WebGPU-demo i webbläsaren, chunkwise attention och en MLX-väg för Apple Silicon – men den framhävda siffran beskriver batchfallet.

Ming publicerar ingen RTFx alls. Det Ming publicerar är en storlek: 17,7 GB BF16-vikter och en autoregressiv dekoder med 128 experter. Loopen token för token är kostnadsmodellen. Varje extra sekund ljud innebär fler dekodersteg, och varje dekodersteg innefattar ett routningsbeslut över 128 experter. Det är den strukturella anledningen till att en 19× mindre encoder-only-modell är den som har ett påstående om genomströmning, och det behöver ingen benchmark för att vara sant.

Den praktiska konsekvensen är att dessa inte konkurrerar om samma driftsättning. Granite Speech 5.0 470M TurboCTC är utformad för att ligga på en laptop, en telefon eller en enda H200 som tuggar sig igenom ett podcastarkiv. Ming-3.0-asr-tiny kräver en CUDA-GPU, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 och trust_remote_code=True, samt en separat SGLang-adapter låst till en specifik commit om du vill servera den. En av dessa är en beroendelista som du kan lägga in i en produkt.

Förmågan som Granite offrade för att nå dit

Encoder-only-designen ger snabbhet och storlek, och IBM är öppna med vad det kostar. I sin blogg skriver de att 5.0-modellerna avstår från funktioner som de LM-utrustade versionerna hade, och nämner talöversättning och nyckelordsbiasering. Det andra är det intressanta, eftersom nyckelordsbiasering är precis det som Ming kallar Context ASR och behandlar som sin främsta funktion.

Ming tar emot en lista med hotwords eller föregående dialogvända som en del av transkriptionsprompten, och leverantörens eget exempel är instruktivt: ett ljudklipp där filmtiteln 同囚 blir 同球 på den vanliga vägen och korrekt när ämnet och en lista med hotwords tillhandahålls. Kortet är noga med att säga att hotwords är ledtrådar snarare än garantier, vilket är den ärliga formuleringen – biasering förskjuter sannolikheten, den tvingar inte fram någon utdata.

Granite Speech 5.0 470M TurboCTC har ingen motsvarighet. Det finns ingen prompt, inget kontextfält, ingen lista med namn att ange, eftersom det inte finns någon språkmodell att betinga. Om ditt ljud är fullt av produktnamn, läkemedelsnamn eller efternamn från en kunddatabas har modellen exakt ett verktyg: det den lärde sig under träningen. IBMs svar på den typen av problem är en notebook för finjustering på dina egna data, vilket är ett annat arbetsflöde med en annan kostnad.

Språktäckningen fungerar på samma sätt. Granite är engelska, angivet som det enda språk som stöds, tränat på ungefär 60 000 timmar engelskt ljud under tio dagar på åtta H100. Ming är kinesiska och engelska med femton regionala kinesiska dialekttestset, inklusive kantonesiska, minnan och shanghainesiska, och ett dialektgenomsnitt på 8,42 som dess egna diagram placerar före varje öppen baslinje som den listar.

Att välja mellan dem

Om ditt ljud är på engelska och ditt problem är volym – samtalsinspelningar, arkiv, mötestranskriptioner, allt där kostnaden per timme väger tyngre än den sista droppen noggrannhet – är Granite Speech 5.0 470M TurboCTC en mer förnuftig utgångspunkt, och det faktum att det körs kvantiserat via en nativ C++-runtime utan Python är en driftsfördel som ingen mängd täckning av kinesiska dialekter kan väga upp.

Om ditt ljud är mandarin eller en regional dialekt, eller om noggrannhetsproblemet är egennamn som du kan lista i förväg, är Ming-3.0-asr-tiny den enda av de två som hanterar det, och den gör det med en arkitektur byggd för det i stället för en påklistrad finjustering. Den är också bara fem dagar gammal och har 35 nedladdningar, vilket innebär att du skulle vara bland de första att upptäcka hur den misslyckas.

Ett tredje fall som är värt att nämna: du vill ha båda, och du vill veta vilken som vinner på din egen trafik. Det är det routingproblem som OrcaRouter är byggt för. Ingen av dessa modeller hostas där – Ming-3.0-asr-tiny och Granite Speech 5.0 470M TurboCTC är båda självhostade öppna vikter – men samma endpoint som ligger framför dina hostade modeller kan ligga framför en kandidatväg för ASR, med automatisk failover så att en misslyckad förfrågan faller tillbaka till den befintliga lösningen i stället för att dyka upp för en användare, och en nyckel för över 200 modeller så att jämförelsen inte kräver ett andra avtal.

Vad ingen av leverantörerna har visat dig

Ingen av modellerna har utvärderats av någon oberoende part. Granites siffror finns åtminstone på en offentlig resultattavla som även andra team skickar in till, vilket innebär att de går att argumentera emot; Mings siffror finns i fyra PNG-filer som fortfarande redigerades på eftermiddagen då de publicerades. Inget av korten dokumenterar tidsstämplar på ordnivå eller talardiariisering, så alla pipelines som behöver tidsangivelser ligger utanför ramen för båda — Granites kort beskriver vanlig transkriptionsutdata, och Mings användningsanteckningar säger uttryckligen att utdata är transkriptionstext utan tidsstämplar på ordnivå eller diariisering.

Jämförelsen som faktiskt skulle avgöra detta kan inte köras av någon av leverantörerna. Den kräver ett korpus, ett språkpar, ett poängsättningsskript och båda modellerna på samma GPU. Tills någon publicerar det är det enda försvarbara påståendet det som arkitekturerna redan gör: en nitton gånger större autoregressiv mixture-of-experts-modell konkurrerar inte med en encoder-only CTC-modell när det gäller genomströmning, och man kan inte tala om för en encoder-only CTC-modell vilka ord den ska förvänta sig.