Granite Speech 5.0 2B: IBM:s nya ASR-modell låg på Hugging Face i två veckor innan IBM tillkännagav den

Repositoriet för Granite Speech 5.0 2B skapades den 7 oktober 2026. Vikterna checkades in samma kväll, med ett incheckningsmeddelande som bara säger "Upload granite-speech-5.0-2b checkpoint." Modellkortet låg sedan där i tretton dagar och redigerades offentligt – benchmarkdiagram lades till den 13:e, ett releasedatum och officiella resultat från resultattavlan stämplades in den 19:e, en modellsignaturfil den 20:e – innan IBM publicerade blogginlägget som faktiskt tillkännagav modellen, den 21 oktober 2026. Det blogginlägget är en dag gammalt när jag skriver detta, och det är fortfarande det enda IBM har sagt om modellen någonstans: det finns inget pressmeddelande, ingen meddelandesida på ibm.com och ingenting på Granite-produktsidan utöver den generiska landningssidan. De dokumenterade AI-felen och agentincidenterna bakom releaser som den här samlas i OrcaRouter AI Incident Archive där varje post har sina egna källor, allvarlighetsgrad, konfidensgrad och flagga för omstridd status.

Så den ärliga beskrivningen är varken "oannonserad" eller "lanserad med pompa och ståt". Det är en modell som under två veckor tyst gick att ladda ner, vars modellkort skrevs öppet och som annonserades en dag före den här artikeln. Det som följer skiljer de delar som går att kontrollera från de delar som fortfarande bara är IBMs ord.

Vad finns det egentligen i checkpointen?

Granite Speech 5.0 2B är en tal-språkmodell: en Conformer-akustisk kodare som matar en liten språkmodell genom en projektor. Den är den direkta efterföljaren till granite-speech-4.1-2b, som släpptes den 29 april 2026 med samma parameterantal och samma Apache 2.0-licens.

• Storlek och format – 2B parametrar, BF16-safetensors, Apache 2.0, ingen åtkomstbegränsning på repositoriet.

• Encoder — 16 Conformer-block tränade med CTC och två klassificeringshuvuden: 348 teckenutdata (de första 256 ASCII-posterna, plus en fonetisk katakana-uppsättning på 92 tecken för japanska) och 100 353 BPE-utdata hämtade från Granite 4.0-tokenizern. Dold storlek 1 024, 8 uppmärksamhetshuvuden om 128, faltningskärna 15, blockuppmärksamhet på fyra sekunder.

• Projector — en tvåskiktad fönster-query-transformer över block med femton 1 024-dimensionella akustiska embeddingar, med tre tränbara queries per block och lager. Den nedskalar 5× utöver encoderns 2×, så språkmodellen ser 10 Hz-embeddingar i stället för 100 Hz-ramar.

• Språkmodell – en mellanliggande checkpoint av granite-4.0-1b-base, utökad till 16k positioner med YaRN, med LoRA-adaptrar tränade tillsammans med projektorn.

• Träning – ungefär 390 000 timmar offentligt och syntetiskt ljud, totalt 40 dagar på 8 NVIDIA H100 (26 dagar av kodarträning, 14 av projektorträning) på IBMs Blue Vela-kluster.

• Språk — engelska, franska, tyska, spanska, portugisiska och japanska för transkribering; översättning till och från engelska för dessa sex, samt engelska till italienska och engelska till mandarin.

De 390 000 timmarna är den siffra som betyder mest för vad modellen är bra på. Kortet bryter ner det, och det största enskilda blocket är inte rent uppläst tal: LibriHeavy tillhandahåller 45 600 timmar ointerpunkterat ljud och ytterligare 45 800 timmar interpunkterat ljud, VoxPopuli Granary tillför 24 000 plus 23 900 interpunkterade, och sedan finns 59 900 timmar av det IBM kallar kontextuell ASR – samma korpusar omklippta med en brusig kontext från föregående segment placerad före prompten. Ytterligare 7 100 respektive 16 500 timmar är nyckelordsbiasad ASR i de europeiska respektive japanska språkgrupperna. Den mixen är anledningen till att de främsta förbättringarna är interpunktion, versalisering, robusthet och nyckelordsbias snarare än rå ordfelsfrekvens på ren engelska.

Siffran 5,06 % och den finstilta texten under den

IBM:s viktigaste påstående är en 5,06 % genomsnittlig ordfelfrekvens för engelska över de nio offentliga kortformatstestseten i Open ASR Leaderboard, vilket IBM beskriver som en placering på #2 bland de främsta ASR-modellerna med öppna vikter. Modellkortet publicerar samma siffra med en annan etikett – "officiella resultat per den 20 oktober 2026" – medan bloggen för tillkännagivandet kallar den bakomliggande körningen "inofficiell, per den 15 oktober 2026". Dessa två beskrivningar skiljer sig åt med fem dagar och ett adjektiv, och ingen utanför IBM har reproducerat någon av dem.

Jämförelsediagrammet som kortet innehåller är värt att läsa noggrant, eftersom dess urvalsregler gör en hel del arbete. Det visar de tio främsta modellerna med öppna vikter baserat på genomsnittlig WER, en per organisation, där Granite Speech 5.0 2B placeras på andra plats:

• #1 Qwen3-ASR-1.7B-hf — 4,94 % genomsnittlig WER.

• #2 Granite Speech 5.0 2B — 5,06 %.

• #3 cohere-transcribe-03-2026 — 5,21 %.

• #4 Hojo-ASR-V1 och #5 higgs-audio-v3-stt — 5,22 % vardera.

• #6 thewhisper-large-v3-turbo — 5,24 %. Observera att detta är en community-checkpoint som lånar Whisper:s namn, inte O​penAI:s whisper-large-v3-turbo, som får 7,83 % på samma leaderboard. De två förväxlas rutinmässigt och förväxlingen smickrar vilken jämförelse du än läser.

• #7 canary-qwen-2.5b — 5,38 %; #8 ARK-ASR-0.6B — 5,44 %; #9 MOSS-Transcribe-Diarize — 5,54 %; #10 Voxtral-Small-24B-2507 — 5,81 %.

Av detta följer två saker. För det första är gapet till ledaren 0,12 procentenheter, vilket över nio testset ligger inom det brus man får av en annan avkodningskonfiguration – detta är ett delat förstaplatsresultat som beskrivs som andraplats. För det andra är spridningen från #2 till #6 0,18 punkter. Vad som än skiljer dessa modeller åt på ren engelska, så är det inte noggrannhet. IBMs egentliga säljargument måste ligga någon annanstans, och det gör det.

Där förstärkningen är tillräckligt stor för att ha betydelse: brus och avstånd

FFASR-topplistan mäter brusigt och efterklangsrikt tal – närfält, hög SNR, medelhög SNR och låg SNR vägda samman. Det här är utvärderingen där 5.0-generationen skiljer sig från 4.1-generationen med en marginal du kan känna, och det är den mest användbara siffran i lanseringen.

• Granite Speech 5.0 2B — 14,80 % genomsnittlig WER, rankad #4 av 42 modeller på resultattavlan (resultat per den 18 oktober 2026).

• granite-speech-4.1-2b-nar — 15,16 %, #6.

• granite-speech-4.1-2b — 16,35 %, #9.

• För jämförelse: whisper-large-v3 ligger på 18,02 % på samma resultattavla, och nvidia/parakeet-tdt-0.6b-v2 på 17,66 %.

Det är en förbättring med 1,55 punkter jämfört med den närmast föregående versionen på fjärrfältsljud och bullrigt ljud – ungefär en relativ felminskning på 9,5 % – medan genomsnittet för ren engelska gick från 5,33 % till 5,06 %, cirka 5 % relativt. Med andra ord är förbättringen ungefär dubbelt så stor under de förhållanden där människor faktiskt använder transkribering: konferensrum, callcenter, laptopmikrofoner, surfplattemikrofoner på avstånd. Om din ASR-stack redan fungerar bra för studioljud men faller samman i ett mötesrum, är den här versionen riktad till dig.

Interpunktionen förbättrades; versaliseringen gjorde det inte.

Den enda numeriska tabellen i kortet jämför 5.0 mot 4.1 för interpunktionsfelkvot (PER, lägre är bättre) och F1 för versalisering (högre är bättre), beräknat på Levenshtein-anpassade ordpar snarare än hela meningar. Läs av riktningen för varje rad, eftersom bilden inte är enhetlig.

• LScln — PER 25,70 → 23,20; Cap-F1 89,71 → 90,16.

• LSoth — PER 22,27 → 21,22; Cap-F1 91,26 → 91,65.

• VoxPopuli — PER 24,86 → 23,70, men Cap-F1 95,35 → 95,07.

• Vinst-22 — PER 22,87 → 21,64, men Cap-F1 95,19 → 94,98.

• CV-EN — PER 9,13 → 9,18 (något sämre); Cap-F1 96,75 → 96,96.

• CV-DE — PER 3,66 → 3,65; Cap-F1 99,50 → 99,51 (tyska använder stor begynnelsebokstav för substantiv, vilket är varför den här raden är nästan perfekt).

• CV-ES — PER 11,61 → 11,46, Cap-F1 95,68 → 95,62.

• CV-FR — PER 11,00 → 11,43 (sämre); Cap-F1 97,25 → 97,20.

• CV-PT — PER 7,86 → 7,53; Cap-F1 98,51 → 98,48.

Interpunktionen rörde sig i rätt riktning i sju av nio uppsättningar; versaliseringen rörde sig i fel riktning i fem av nio, med mellan 0,03 och 0,28 poäng. IBMs sammanfattning är "högre transkriptionsnoggrannhet" och "interpunktion och versaler", vilket är försvarbart på aggregerad nivå och något generöst i detaljerna. Den praktiska tolkningen: förvänta dig färre saknade kommatecken, förvänta dig inte att modellen plötsligt ska få egennamn och meningsinledningar rätt.

Två funktioner som förändrar integrationsarbetet

De förmågor som mest sannolikt påverkar en faktisk driftsättning benchmarkas inte alls i kortet, eftersom de är kontrollfunktioner snarare än noggrannhetsfunktioner.

Språk-ID-promptning. Du kan lägga till "Talet är på tyska. Transkribera det exakt; översätt det inte." före, och då transkriberar modellen tyska i stället för att översätta det till engelska. Detta är viktigt eftersom en talmodell som översätter automatiskt är oanvändbar för till exempel ett tyskspråkigt supportarkiv – du får en engelsk transkription och förlorar den ursprungliga formuleringen. Prompten fungerar också när den skrivs på målspråket, vilket är det mer realistiska fallet för en flerspråkig pipeline.

Nyckelordsbiasning upp till 2 000 termer. Föregångarens gräns anges inte som ett hårt tal i 4.1-kortet, men 5.0 höjer den lista som stöds till två tusen termer, per prompt, för både ASR och talöversättning. För produktnamn, läkemedelsnamn, ticket-ID:n eller en kunds egen SKU-lista är detta skillnaden mellan en användbar transkription och en som behöver korrigeras. Kortet rapporterar F1 för nyckelordsbiasning som ett diagram med och utan biasning tillämpad, men inga numeriska värden i text, så betrakta förbättringens storlek som okvantifierad.

Det finns också en säkerhetsdesigndetalj som är värd att känna till: om modellen får en felaktigt utformad eller okänd prompt säger IBM att den ignorerar prompten och faller tillbaka till vanlig transkribering. Det är en avsiktlig begränsning av hur mycket ljud kan påverka systemet, och IBM rekommenderar att modellen kombineras med Granite Guardian för riskdetektering i produktion.

Kör det

Granite Speech 5.0 2B stöds inbyggt i transformers>=4.52.1 via AutoModelForSpeechSeq2Seq och AutoProcessor. Modellkortet dokumenterar även vLLM, llama.cpp och mlx-audio, vilket är viktigare än det låter: det här är en modell som du kan köra på en bärbar dator, inte bara bakom ett GPU-kluster.

• Segmentlängd – transkribera i block på upp till ungefär två minuter och dela längre inspelningar med VAD. 16k YaRN-kontexten är inget frikort för att mata in en timmes ljud; noggrannheten försämras långt innan kontexten gör det.

• llama.cpp — kortet rekommenderar Q8_0 och anger att kvantisering med lägre bitdjup förlorar noggrannhet på ljud som är längre än ungefär en minut. Det är en ovanligt specifik varning och värd att ta bokstavligt.

• mlx-audio — 0.5.9 eller senare, plus jinja2, som mlx-audio behöver för chattmallen men inte installerar själv.

• Prompter är uppgiftsspecifika och spelar roll — "transkribera talet med korrekt interpunktion och versalisering" är ett annat läge än prompten för råtranskript, och det nyckelordsbiaserade läget får suffixet "Keywords: …".

Det som ännu inte går att veta

Tre saker förtjänar att sägas rakt ut, eftersom rapporteringen runt omkring inte kommer att göra det.

För det första finns det ingen oberoende utvärdering. Varje siffra ovan kommer från IBM:s egen utvärderingskörning eller från bidrag som IBM själva har skickat in till ledartavlan. FFASR-diagrammet säger "officiella resultat", vilket innebär att bidraget finns på tavlan, inte att en tredje part har kört modellen. Ingen har publicerat en reproduktion, en redogörelse för felbeteenden eller en direkt jämförelse på ljud som IBM inte har valt.

För det andra finns det ingen värdbaserad slutpunkt. Modellkortet säger direkt att modellen ”inte driftsätts av någon Inference Provider”, och jag kunde inte hitta den i OrcaRouter-katalogen heller – listningen med 209 modeller innehåller ingen Granite Speech-checkpoint av någon generation. I dag är dina alternativ vikterna, eller ingenting. Det är normalt för en modell som är två dagar gammal och det kommer att ändras; planera för självhosting under tiden.

För det tredje skiljer sig licenserna inom familjen på ett sätt som är lätt att snubbla på. 2B är Apache 2.0 utan kommersiell begränsning. Den lilla TurboCTC-modellen levereras i två varianter, en med Apache 2.0 och en icke-kommersiell – namngivningen gör det inte uppenbart vid en snabb blick vilken som är vilken.

Var detta lämnar en talpipeline

Den realistiska arkitekturen för en driftsättning av Granite Speech 5.0 2B i slutet av 2026 är en självhostad encoder-decoder som transkriberar ljud, och ett separat anrop till en språkmodell som utför vad som än kommer sedan: sammanfattar samtalet, extraherar fält, klassificerar avsikt och rensar transkriptionen mot ett schema. Det andra steget är vanlig textgenerering, och det är den del som tjänar på att inte vara hårdkodad till en leverantör — transkriptionen skickas till en OpenAI-kompatibel endpoint som kan nå 200+ modeller till leverantörens listpris utan påslag, så att byta ut rensningsmodellen är en konfigurationsändring i stället för en ombyggnad, och vid ett leverantörsavbrott sker en redundansväxling i stället för att det drar ner pipelinen med sig.

För själva talsteget är beslutet den här veckan snävare än benchmarkdiagrammet antyder. Granite Speech 5.0 2B är en trovärdig engelsk ASR-modell med öppna vikter bland de tre bästa, en tydlig förbättring jämfört med sin egen föregångare just under de förhållanden som får ASR att fallera i produktion, och en genuint flerspråkig modell med översättning och nyckelordskontroll som de flesta konkurrenter i den här storleken inte erbjuder. Den är också bara två dagar gammal, benchmarkad av leverantören och inte reproducerad. Kör den på din egen svåraste ljudfil innan du tror på 5,06 %.