Granite Speech 5.0 2B: IBM's nieuwe ASR-model stond twee weken op Hugging Face voordat IBM het aankondigde

De repository voor Granite Speech 5.0 2B is aangemaakt op 7 oktober 2026. De gewichten werden diezelfde avond gecommit, met een commitbericht dat alleen "Upload granite-speech-5.0-2b checkpoint." vermeldt. De modelkaart bleef daar vervolgens dertien dagen lang staan, terwijl die in het openbaar werd bewerkt — benchmarkgrafieken toegevoegd op de 13e, een releasedatum en officiële leaderboardresultaten erop gezet op de 19e, een bestand met de modelhandtekening op de 20e — voordat IBM de blogpost publiceerde die het model daadwerkelijk aankondigde, op 21 oktober 2026. Die blogpost is één dag oud op het moment dat ik dit schrijf, en het is nog steeds het enige dat IBM ergens over het model heeft gezegd: er is geen persbericht, geen aankondigingspagina op ibm.com, en niets op de Granite-productsite buiten de algemene landingspagina. De gedocumenteerde AI-fouten en agentincidenten achter releases zoals deze worden verzameld in het OrcaRouter AI Incident Archive, waarbij elke vermelding zijn eigen bronnen, ernst, betrouwbaarheidsgraad en betwistmarkering bevat.

Dus de eerlijke beschrijving is niet "onaangekondigd" en ook niet "met veel tamtam gelanceerd". Het is een model dat twee weken lang geruisloos te downloaden was, waarvan de kaart openlijk werd geschreven, en dat pas een dag voor dit artikel zijn aankondiging kreeg. Wat volgt scheidt de controleerbare delen van de delen die nog enkel IBM's woord zijn.

Wat er eigenlijk in het checkpoint zit

Granite Speech 5.0 2B is een spraak-taalmodel: een Conformer-akoestische encoder die via een projector een klein taalmodel aanstuurt. Het is de directe opvolger van granite-speech-4.1-2b, dat op 29 april 2026 werd uitgebracht met hetzelfde aantal parameters en dezelfde Apache 2.0-licentie.

• Grootte en formaat — 2B parameters, BF16 safetensors, Apache 2.0, geen gating op de repository.

• Encoder — 16 Conformer-blokken, getraind met CTC en twee classificatiekoppen: 348 tekenuitvoer (de eerste 256 ASCII-items, plus een fonetische Katakana-set van 92 tekens voor Japans) en 100.353 BPE-uitvoer ontleend aan de Granite 4.0-tokenizer. Verborgen grootte 1.024, 8 aandachtkoppen van 128, convolutiekernel 15, blokattentie van vier seconden.

• Projector — een tweelaagse window-query-transformer over blokken van vijftien 1.024-dimensionale akoestische embeddings, met drie trainbare queries per blok en laag. Hij downsamplet 5× bovenop de 2× van de encoder, zodat het taalmodel embeddings van 10 Hz ziet in plaats van frames van 100 Hz.

• Taalmodel — een tussenliggend checkpoint van granite-4.0-1b-base, uitgebreid naar 16k posities met YaRN, met LoRA-adapters die gezamenlijk met de projector zijn getraind.

• Training — ongeveer 390.000 uur aan openbare en synthetische audio, in totaal 40 dagen op 8 NVIDIA H100's (26 dagen encoder-training, 14 dagen projector-training) op IBM's Blue Vela-cluster.

• Talen — Engels, Frans, Duits, Spaans, Portugees en Japans voor transcriptie; vertaling van en naar het Engels voor die zes, plus Engels naar Italiaans en Engels naar Mandarijn.

De 390.000 uur is het getal dat het belangrijkst is voor waar het model goed in is. De kaart splitst het uit en het grootste afzonderlijke blok is geen schone voorgelezen spraak: LibriHeavy levert 45.600 uur audio zonder interpunctie en nog eens 45.800 uur audio met interpunctie, VoxPopuli Granary voegt 24.000 plus 23.900 uur met interpunctie toe, en dan zijn er 59.900 uur van wat IBM contextuele ASR noemt — dezelfde corpora opnieuw gesneden met een rumoerige context van het vorige segment vooraan in de prompt. Nog eens 7.100 en 16.500 uur zijn op trefwoorden gebiaste ASR in respectievelijk de Europese en Japanse taalgroepen. Die mix is waarom de opvallendste verbeteringen interpunctie, hoofdlettergebruik, robuustheid en trefwoordbias zijn, en niet het ruwe woordfoutpercentage op schoon Engels.

Het getal van 5,06% en de kleine lettertjes eronder

De hoofdclaim van IBM is een gemiddeld woordfoutpercentage voor Engels van 5,06% over de negen openbare short-form-testsets van de Open ASR Leaderboard, waarmee het volgens eigen beschrijving #2 onder de beste open-weight ASR-modellen. De modelkaart publiceert hetzelfde cijfer onder een ander label — "officiële resultaten per 20 oktober 2026" — terwijl de aankondigingsblog de onderliggende run "onofficieel, per 15 oktober 2026" noemt. Die twee beschrijvingen liggen vijf dagen en één bijvoeglijk naamwoord uit elkaar, en niemand buiten IBM heeft een van beide gereproduceerd.

De vergelijkingsgrafiek op de kaart is het nauwkeurig lezen waard, omdat de selectieregels ervan veel werk verrichten. Hij toont de tien beste open-weight modellen op gemiddelde WER, één per organisatie, met Granite Speech 5.0 2B op de tweede plaats:

• #1 Qwen3-ASR-1.7B-hf — 4,94% gemiddelde WER.

• #2 Granite Speech 5.0 2B — 5,06%.

• #3 cohere-transcribe-03-2026 — 5,21%.

• #4 Hojo-ASR-V1 en #5 higgs-audio-v3-stt — elk 5,22%.

• #6 thewhisper-large-v3-turbo — 5,24%. Let op: dit is een community-checkpoint dat de naam Whisper leent, niet OpenAI's whisper-large-v3-turbo, dat 7,83% scoort op dezelfde leaderboard. De twee worden vaak door elkaar gehaald, en de verwarring vleit elke vergelijking die je leest.

• #7 canary-qwen-2.5b — 5,38%; #8 ARK-ASR-0.6B — 5,44%; #9 MOSS-Transcribe-Diarize — 5,54%; #10 Voxtral-Small-24B-2507 — 5,81%.

Twee dingen volgen daaruit. Ten eerste is de achterstand op de koploper 0,12 procentpunt, wat over negen testsets binnen de ruis valt die je krijgt van een andere decoderingsconfiguratie — dit is een gedeelde eerste plaats, beschreven als een tweede plaats. Ten tweede is de spreiding van #2 tot #6 0,18 punt. Wat deze modellen op schoon Engels ook van elkaar scheidt, het is niet nauwkeurigheid. IBM's echte verkoopverhaal moet ergens anders liggen, en dat is ook zo.

Waar de winst groot genoeg is om ertoe te doen: ruis en afstand

De FFASR-ranglijst meet rumoerige en galmende spraak — nabijveld-, hoge-SNR-, midden-SNR- en lage-SNR-omstandigheden samen gemiddeld. Dit is de evaluatie waarin de 5.0-generatie zich met een voelbare marge onderscheidt van de 4.1-generatie, en het is het nuttigste getal in de release.

• Granite Speech 5.0 2B — 14,80% gemiddelde WER, #4 van de 42 modellen op de ranglijst (resultaten per 18 oktober 2026).

• granite-speech-4.1-2b-nar — 15,16%, #6.

• granite-speech-4.1-2b — 16,35%, #9.

• Ter vergelijking: whisper-large-v3 staat op 18,02% in dezelfde ranglijst, en nvidia/parakeet-tdt-0.6b-v2 op 17,66%.

Dat is een verbetering van 1,55 punt ten opzichte van de directe voorganger op far-field- en rumoerige audio — ongeveer een relatieve foutreductie van 9,5% — terwijl het gemiddelde voor schoon Engels van 5,33% naar 5,06% ging, ongeveer 5% relatief. Met andere woorden: de verbetering is ongeveer twee keer zo groot in de omstandigheden waarin mensen transcriptie daadwerkelijk inzetten: vergaderruimtes, callcenters, laptopmicrofoons, microfoons van tablets op afstand. Als je ASR-stack al prima is op studioaudio en in een vergaderruimte uit elkaar valt, is deze release op jou gericht.

Interpunctie verbeterd; hoofdlettergebruik niet.

De enige numerieke tabel in de kaart vergelijkt 5.0 met 4.1 op interpunctiefoutpercentage (PER, lager is beter) en hoofdlettergebruik-F1 (hoger is beter), berekend op Levenshtein-uitgelijnde woordparen in plaats van hele zinnen. Let op de richting van elke rij, want het beeld is niet uniform.

• LScln — PER 25.70 → 23.20; Cap-F1 89.71 → 90.16.

• LSoth — PER 22,27 → 21,22; Cap-F1 91,26 → 91,65.

• VoxPopuli — PER 24,86 → 23,70, maar Cap-F1 95,35 → 95,07.

• Winst-22 — PER 22,87 → 21,64, maar Cap-F1 95,19 → 94,98.

• CV-EN — PER 9.13 → 9.18 (iets slechter); Cap-F1 96.75 → 96.96.

• CV-DE — PER 3,66 → 3,65; Cap-F1 99,50 → 99,51 (het Duits schrijft zelfstandige naamwoorden met een hoofdletter, daarom is deze rij bijna perfect).

• CV-ES — PER 11,61 → 11,46, Cap-F1 95,68 → 95,62.

• CV-FR — PER 11.00 → 11.43 (slechter); Cap-F1 97.25 → 97.20.

• CV-PT — PER 7,86 → 7,53; Cap-F1 98,51 → 98,48.

Interpunctie ging in de goede richting bij zeven van de negen sets; hoofdlettergebruik ging in de verkeerde richting bij vijf van de negen, met tussen 0,03 en 0,28 punten. IBM's samenvatting luidt "hogere transcriptienauwkeurigheid" en "interpunctie en hoofdlettergebruik", wat op geaggregeerd niveau verdedigbaar is en op detailniveau enigszins ruimhartig. De praktische lezing: verwacht minder ontbrekende komma's, verwacht niet dat het model plotseling eigennamen en zinsbeginnen correct krijgt.

Twee functies die het integratiewerk veranderen

De capaciteiten die waarschijnlijk het meeste invloed hebben op een daadwerkelijke implementatie worden helemaal niet in de kaart gebenchmarkt, omdat het sturingsfuncties zijn en geen nauwkeurigheidsfuncties.

Prompten met taal-ID. Je kunt "The speech is in German. Transcribe it exactly; do not translate." ervoor zetten, en het model transcribeert dan Duits in plaats van het naar het Engels te vertalen. Dit is van belang omdat een spraakmodel dat automatisch vertaalt onbruikbaar is voor bijvoorbeeld een Duitstalig supportarchief — je krijgt een Engelse transcriptie en verliest de oorspronkelijke formulering. De prompt werkt ook wanneer hij in de doeltaal is geschreven, wat het meest realistische geval is voor een meertalige pipeline.

Keyword-biasing tot 2.000 termen. De limiet van de voorganger wordt niet als hard getal genoemd in de 4.1-kaart, maar 5.0 verhoogt de ondersteunde lijst naar tweeduizend termen, per prompt, voor zowel ASR als spraakvertaling. Voor productnamen, medicijnnamen, ticket-ID's of de eigen SKU-lijst van een klant is dit het verschil tussen een bruikbaar transcript en een dat correctie nodig heeft. De kaart vermeldt keyword-biasing-F1 als een grafiek met en zonder toegepaste biasing, maar zonder numerieke waarden in tekst, dus behandel de grootte van de verbetering als niet gekwantificeerd.

Er is nog een detail over het veiligheidsontwerp dat het kennen waard is: als het model een misvormde of onbekende prompt ontvangt, zegt IBM dat het de prompt negeert en terugvalt op gewone transcriptie. Dat is een bewuste beperking van de mate waarin audio het systeem kan beïnvloeden, en IBM raadt aan het model in productie te combineren met Granite Guardian voor risicodetectie.

Het uitvoeren

Granite Speech 5.0 2B wordt native ondersteund in transformers>=4.52.1 via AutoModelForSpeechSeq2Seq en AutoProcessor. De modelkaart documenteert ook vLLM, llama.cpp en mlx-audio, wat meer zegt dan het lijkt: dit is een model dat je op een laptop kunt draaien, niet alleen achter een GPU-cluster.

• Segmentlengte — transcribeer in stukken van maximaal ongeveer twee minuten en splits langere opnames met VAD. De 16k YaRN-context is geen vrijbrief om er een uur audio in te stoppen; de nauwkeurigheid gaat ruim vóór de context al achteruit.

llama.cpp — de kaart adviseert Q8_0 en stelt dat kwantisering met lagere bitdiepte nauwkeurigheid verliest bij audio die langer is dan ongeveer een minuut. Dat is een ongewoon specifieke waarschuwing en het is de moeite waard die letterlijk te nemen.

• mlx-audio — 0.5.9 of later, plus jinja2, dat mlx-audio nodig heeft voor de chat-template maar niet zelf installeert.

• Prompts zijn taakspecifiek en doen ertoe — "transcribeer de spraak met correcte interpunctie en hoofdlettergebruik" is een andere modus dan de prompt voor een onbewerkt transcript, en de modus met trefwoordbias krijgt een "Keywords: …"-suffix.

Wat nog niet kenbaar is

Drie dingen moeten ronduit gezegd worden, want de berichtgeving eromheen zal dat niet doen.

Ten eerste is er geen onafhankelijke evaluatie. Elk getal hierboven komt uit IBM's eigen evaluatierun of uit leaderboard-inzendingen die IBM heeft gedaan. De FFASR-grafiek zegt 'officiële resultaten', wat betekent dat de inzending op het leaderboard staat, niet dat een derde partij het model heeft gedraaid. Niemand heeft een reproductie, een uiteenzetting over faalmodi of een rechtstreekse vergelijking gepubliceerd op audio die IBM niet zelf heeft gekozen.

Ten tweede is er geen gehost endpoint. De modelkaart stelt direct dat het model "door geen enkele Inference Provider is gedeployed", en ik kon het ook niet vinden in de OrcaRouter-catalogus — de lijst met 209 modellen bevat geen Granite Speech-checkpoint van welke generatie dan ook. Op dit moment zijn je opties de gewichten, of niets. Dat is normaal voor een model dat twee dagen oud is, en dat zal veranderen; bereid je in de tussentijd voor op self-hosting.

Ten derde verschillen de licenties binnen de familie op een manier waar je gemakkelijk over struikelt. De 2B is Apache 2.0 zonder commerciële beperking. Het kleine TurboCTC-model wordt in twee varianten geleverd, één Apache 2.0 en één niet-commercieel — aan de naamgeving is niet in één oogopslag te zien welke welke is.

Wat dit betekent voor een spraakpijplijn

De realistische architectuur voor een Granite Speech 5.0 2B-implementatie eind 2026 is een zelfgehoste encoder-decoder die audio transcribeert, plus een aparte taalmodelaanroep die doet wat daarna komt: de oproep samenvatten, velden extraheren, intentie classificeren, het transcript volgens een schema opschonen. Die tweede fase is gewone tekstgeneratie, en juist dat deel profiteert ervan dat het niet aan één leverancier vastzit — het transcript gaat naar één OpenAI-compatibel endpoint dat toegang heeft tot 200+ modellen tegen de lijstprijs van de provider, zonder toeslag, zodat het wisselen van het opschoningsmodel een configuratiewijziging is in plaats van een herbouw, en een storing bij een provider zorgt voor failover in plaats van dat de pijplijn daardoor uitvalt.

Voor de spraakfase zelf is de beslissing deze week beperkter dan de benchmarkgrafiek suggereert. Granite Speech 5.0 2B is een geloofwaardig top-drie open-weight Engels ASR-model, een duidelijke verbetering ten opzichte van zijn eigen voorganger precies in de omstandigheden die ASR in productie doen falen, en een echt meertalig model met vertaling en trefwoordbeheer die de meeste concurrenten van deze omvang niet bieden. Het is ook twee dagen oud, door de leverancier gebenchmarkt en niet gereproduceerd. Draai het op je eigen moeilijkste audio voordat je 5,06% gelooft.