Granite Speech 5.0 2B: il nuovo modello ASR di IBM è rimasto su Hugging Face per due settimane prima che IBM lo annunciasse

Il repository per Granite Speech 5.0 2B è stato creato il 7 ottobre 2026. I pesi sono stati caricati la stessa sera, con un messaggio di commit che dice solo "Upload granite-speech-5.0-2b checkpoint." La model card è poi rimasta lì per tredici giorni a essere modificata pubblicamente — grafici di benchmark aggiunti il 13, una data di rilascio e risultati ufficiali della classifica apposti il 19, un file di firma del modello il 20 — prima che IBM pubblicasse il post del blog che l'ha effettivamente annunciato, il 21 ottobre 2026. Quel post del blog ha un giorno di vita mentre scrivo, ed è ancora l'unica cosa che IBM ha detto sul modello in qualunque luogo: non c'è nessun comunicato stampa, nessuna pagina di annuncio su ibm.com e nulla sul sito del prodotto Granite oltre alla landing page generica. I fallimenti documentati dell'IA e gli incidenti degli agenti dietro rilasci come questo sono raccolti nell'OrcaRouter AI Incident Archive in cui ogni voce riporta le proprie fonti, gravità, livello di confidenza e flag di contestazione.

Quindi la descrizione onesta non è "non annunciato" e neppure "lanciato con grande clamore". È un modello che è stato scaricabile in silenzio per due settimane, la cui scheda è stata scritta apertamente, e che ha ricevuto il suo annuncio un giorno prima di questo articolo. Quanto segue separa le parti verificabili da quelle che sono ancora solo parole di IBM.

Che cosa c'è effettivamente nel checkpoint

Granite Speech 5.0 2B è un modello speech-language: un encoder acustico Conformer che alimenta un piccolo modello linguistico tramite un proiettore. È il successore diretto di granite-speech-4.1-2b, rilasciato il 29 aprile 2026 con lo stesso numero di parametri e la stessa licenza Apache 2.0.

• Dimensioni e formato — 2B parametri, safetensors BF16, Apache 2.0, nessuna restrizione di accesso sul repository.

• Encoder — 16 blocchi Conformer addestrati con CTC e due teste di classificazione: 348 output a livello di carattere (le prime 256 voci ASCII, più un set fonetico di 92 caratteri Katakana per il giapponese) e 100.353 output BPE tratti dal tokenizer Granite 4.0. Dimensione nascosta 1.024, 8 teste di attenzione da 128, kernel di convoluzione 15, attenzione a blocchi di quattro secondi.

• Projector — un transformer di query a finestra a due strati su blocchi di quindici embedding acustici a 1.024 dimensioni, con tre query addestrabili per blocco e strato. Esegue un downsampling di 5× in aggiunta al 2× dell'encoder, così il modello linguistico vede embedding a 10 Hz invece di frame a 100 Hz.

• Modello linguistico — un checkpoint intermedio di granite-4.0-1b-base, esteso a 16k posizioni con YaRN, con adattatori LoRA addestrati congiuntamente al proiettore.

• Addestramento — circa 390.000 ore di audio pubblico e sintetico, 40 giorni in totale su 8 NVIDIA H100 (26 giorni di addestramento dell'encoder, 14 di addestramento del proiettore) sul cluster Blue Vela di IBM.

• Lingue — inglese, francese, tedesco, spagnolo, portoghese e giapponese per la trascrizione; traduzione da e verso l'inglese per queste sei lingue, oltre alla traduzione dall'inglese all'italiano e dall'inglese al mandarino.

Le 390.000 ore sono il dato che conta di più per ciò in cui il modello eccelle. La scheda lo suddivide e il blocco singolo più ampio non è parlato letto pulito: LibriHeavy fornisce 45.600 ore di audio senza punteggiatura e altre 45.800 di audio con punteggiatura, VoxPopuli Granary aggiunge 24.000 ore più 23.900 con punteggiatura, e poi ci sono 59.900 ore di quello che IBM chiama ASR contestuale — gli stessi corpora ri-ritagliati con un contesto rumoroso del segmento precedente anteposto al prompt. Altre 7.100 e 16.500 ore sono ASR con bias verso parole chiave rispettivamente nei gruppi linguistici europeo e giapponese. È questa combinazione a spiegare perché i miglioramenti principali riguardino punteggiatura, maiuscole, robustezza e bias verso parole chiave, anziché il tasso di errore sulle parole grezzo sull'inglese pulito.

Il numero 5,06%, e le note in piccolo sotto di esso

La principale affermazione di IBM è un tasso medio di errore di parola in inglese del 5,06% sui nove set di test pubblici short-form della Open ASR Leaderboard, che descrive come posizionato al #2 tra i migliori modelli ASR a pesi aperti. La model card pubblica lo stesso dato con un'etichetta diversa — "risultati ufficiali al 20 ottobre 2026" — mentre il blog dell'annuncio definisce la run sottostante "non ufficiale, al 15 ottobre 2026". Queste due descrizioni distano cinque giorni e un aggettivo, e nessuno al di fuori di IBM ha riprodotto né l'una né l'altra.

Il grafico comparativo riportato nella scheda merita una lettura attenta, perché le sue regole di selezione hanno un ruolo importante. Mostra i dieci migliori modelli a pesi aperti in base al WER medio, uno per organizzazione, con Granite Speech 5.0 2B al secondo posto:

• #1 Qwen3-ASR-1.7B-hf — WER medio 4,94%.

• #2 Granite Speech 5.0 2B — 5,06%.

• #3 cohere-transcribe-03-2026 — 5,21%.

• #4 Hojo-ASR-V1 e #5 higgs-audio-v3-stt — 5,22% ciascuno.

• #6 thewhisper-large-v3-turbo — 5.24%. Nota che questo è un checkpoint della community che prende in prestito il nome di Whisper, non il whisper-large-v3-turbo di OpenAI, che ottiene 7.83% nella stessa classifica. I due vengono abitualmente confusi e la confusione lusinga qualunque confronto si stia leggendo.

• #7 canary-qwen-2.5b — 5,38%; #8 ARK-ASR-0.6B — 5,44%; #9 MOSS-Transcribe-Diarize — 5,54%; #10 Voxtral-Small-24B-2507 — 5,81%.

Ne conseguono due cose. Primo, il divario dal leader è di 0,12 punti percentuali, che su nove set di test rientra nel rumore che si ottiene con una diversa configurazione di decodifica — si tratta di un pareggio per il primo posto, descritto come secondo posto. Secondo, la forbice tra il #2 e il #6 è di 0,18 punti. Qualunque cosa distingua questi modelli sull'inglese pulito, non è l'accuratezza. Il vero messaggio di IBM deve essere altrove, e lo è.

Dove il guadagno è abbastanza grande da fare la differenza: rumore e distanza

La classifica FFASR misura il parlato rumoroso e riverberante — condizioni di campo vicino, SNR alto, SNR medio e SNR basso, mediate insieme. Questa è la valutazione in cui la generazione 5.0 si separa dalla generazione 4.1 con un margine che si percepisce, ed è il dato più utile del rilascio.

• [1]Granite Speech 5.0 2B[/1] — WER medio del 14,80%, classificato al 4° posto su 42 modelli nella classifica (risultati al 18 ottobre 2026).

granite-speech-4.1-2b-nar — 15,16%, #6.

• granite-speech-4.1-2b — 16,35%, #9.

• Per dare un'idea: whisper-large-v3 si colloca al 18,02% nella stessa classifica, e nvidia/parakeet-tdt-0.6b-v2 al 17,66%.

Si tratta di un miglioramento di 1,55 punti rispetto al predecessore immediato su audio a campo lontano e rumoroso — all'incirca una riduzione relativa degli errori del 9,5% — mentre la media per l'inglese pulito è passata dal 5,33% al 5,06%, circa il 5% in termini relativi. In altre parole, il miglioramento è all'incirca il doppio nelle condizioni in cui le persone implementano davvero la trascrizione: sale conferenze, call center, microfoni dei laptop, microfoni distanti dei tablet. Se il tuo stack ASR è già a posto sull'audio da studio e crolla in una sala riunioni, questa release è pensata per te.

Punteggiatura migliorata; maiuscole no

L'unica tabella numerica nella scheda confronta 5.0 con 4.1 sul tasso di errore di punteggiatura (PER, minore è meglio) e sull'F1 delle maiuscole (maggiore è meglio), calcolati su coppie di parole allineate secondo Levenshtein anziché su frasi intere. Leggi la direzione di ciascuna riga, perché il quadro non è uniforme.

• LScln — PER 25,70 → 23,20; Cap-F1 89,71 → 90,16.

• LSoth — PER 22,27 → 21,22; Cap-F1 91,26 → 91,65.

• VoxPopuli — PER 24,86 → 23,70, ma Cap-F1 95,35 → 95,07.

• Earnings-22 — PER 22,87 → 21,64, ma Cap-F1 95,19 → 94,98.

• CV-EN — PER 9.13 → 9.18 (leggermente peggiore); Cap-F1 96.75 → 96.96.

• CV-DE — PER 3.66 → 3.65; Cap-F1 99.50 → 99.51 (il tedesco scrive i sostantivi con la maiuscola, ed è per questo che questa riga è quasi perfetta).

• CV-ES — PER 11,61 → 11,46, Cap-F1 95,68 → 95,62.

• CV-FR — PER 11,00 → 11,43 (peggiore); Cap-F1 97,25 → 97,20.

• CV-PT — PER 7,86 → 7,53; Cap-F1 98,51 → 98,48.

La punteggiatura si è mossa nella direzione giusta in sette set su nove; l'uso delle maiuscole si è mosso nella direzione sbagliata in cinque su nove, di un valore compreso tra {{1}}0.03{{/1}} e {{2}}0.28{{/2}} punti. La sintesi di IBM è «maggiore accuratezza della trascrizione» e «punteggiatura e uso delle maiuscole», il che è difendibile nel complesso e leggermente generoso nel dettaglio. La lettura pratica: aspettatevi meno virgole mancanti, non aspettatevi che il modello azzecchi improvvisamente i nomi propri e gli inizi di frase.

Due funzionalità che cambiano il lavoro di integrazione

Le capacità più suscettibili di incidere su un'implementazione effettiva non sono affatto sottoposte a benchmark nella scheda, perché sono funzionalità di controllo anziché funzionalità di accuratezza.

Prompting tramite ID della lingua. È possibile anteporre "Il parlato è in tedesco. Trascrivilo esattamente; non tradurlo." e il modello trascriverà il tedesco invece di tradurlo in inglese. Questo è importante perché un modello vocale che traduce automaticamente è inutilizzabile per, ad esempio, un archivio di assistenza in tedesco: si ottiene una trascrizione in inglese e si perde la formulazione originale. Il prompt funziona anche quando è scritto nella lingua di destinazione, che è il caso più realistico per una pipeline multilingue.

Keyword biasing fino a 2.000 termini. Il limite del predecessore non è indicato come numero fisso nella scheda 4.1, ma la 5.0 porta l'elenco supportato a duemila termini, per prompt, sia in ASR sia nella traduzione vocale. Per nomi di prodotti, nomi di farmaci, ID ticket o l'elenco di SKU di un cliente, questa è la differenza tra una trascrizione utilizzabile e una che necessita di correzione. La scheda riporta l'F1 del keyword-biasing come grafico con e senza biasing applicato, ma nessun valore numerico nel testo, quindi l'entità del miglioramento va considerata non quantificata.

C'è anche un dettaglio di progettazione della sicurezza che vale la pena conoscere: se il modello riceve un prompt malformato o poco familiare, IBM afferma che ignora il prompt e passa alla trascrizione semplice. Si tratta di un vincolo deliberato su quanto l'audio possa influenzare il sistema, e IBM consiglia di abbinare il modello a Granite Guardian per il rilevamento dei rischi in produzione.

Eseguendolo

Granite Speech 5.0 2B è supportato nativamente in transformers>=4.52.1 tramite AutoModelForSpeechSeq2Seq e AutoProcessor. La card documenta anche vLLM, llama.cpp e mlx-audio, il che conta più di quanto sembri: questo è un modello che puoi eseguire su un portatile, non solo dietro un cluster di GPU.

• Lunghezza del segmento — trascrivi in blocchi fino a circa due minuti e suddividi le registrazioni più lunghe con VAD. Il contesto YaRN da 16k non è una licenza per fornirgli un'ora di audio; la precisione peggiora ben prima che lo faccia il contesto.

• llama.cpp — la scheda consiglia Q8_0 e afferma che la quantizzazione a bit inferiori perde accuratezza su audio più lungo di circa un minuto. È un avviso insolitamente specifico e vale la pena prenderlo alla lettera.

• mlx-audio — 0.5.9 o successivo, più jinja2, che mlx-audio richiede per il template di chat ma non installa autonomamente.

• {{1}}I prompt{{/1}} sono specifici per l'attività e sono importanti — "trascrivi il parlato con punteggiatura e maiuscole corrette" è una modalità diversa dal prompt di trascrizione grezza, e la modalità con bias sulle parole chiave richiede un suffisso "Parole chiave: …".

Ciò che non è ancora conoscibile

Tre cose vanno dette chiaramente, perché il resto della copertura non lo farà.

Innanzitutto, non esiste una valutazione indipendente. Ogni numero sopra proviene dal run di valutazione di IBM stessa o dalle sottomissioni alla classifica effettuate da IBM. Il grafico FFASR dice "risultati ufficiali", il che significa che la sottomissione è presente in classifica, non che un terzo abbia eseguito il modello. Nessuno ha pubblicato una riproduzione, un'analisi dei casi di fallimento o un confronto testa a testa su audio non scelto da IBM.

In secondo luogo, non esiste un endpoint ospitato. La model card afferma direttamente che il modello «non è distribuito da alcun provider di inferenza», e non sono riuscito a trovarlo nemmeno nel catalogo di OrcaRouter: l'elenco dei 209 modelli non contiene alcun checkpoint di Granite Speech di nessuna generazione. Oggi le opzioni sono i pesi, o niente. È normale per un modello che ha due giorni e cambierà; nel frattempo, pianifica il self-hosting.

Terzo, le licenze variano all’interno della famiglia in un modo che può facilmente trarre in inganno. Il 2B è Apache 2.0 senza restrizioni commerciali. Il piccolo modello TurboCTC è disponibile in due varianti, una Apache 2.0 e una non commerciale — la denominazione non rende ovvio a colpo d’occhio quale sia quale.

Dove questo lascia una pipeline vocale

L'architettura realistica per un deployment di Granite Speech 5.0 2B alla fine del 2026 è un encoder-decoder self-hosted che trascrive l'audio, e una chiamata separata a un modello linguistico che fa ciò che viene dopo: riassumere la chiamata, estrarre campi, classificare l'intento, ripulire la trascrizione rispetto a uno schema. Quella seconda fase è normale generazione di testo, ed è la parte che beneficia del non essere vincolata a un singolo fornitore — la trascrizione va a un unico endpoint compatibile OpenAI che può raggiungere oltre 200 modelli al prezzo di listino del fornitore senza alcun ricarico aggiunto, quindi cambiare il modello di pulizia è una modifica di configurazione anziché una ricostruzione, e un'interruzione del fornitore esegue il failover invece di far cadere con sé l'intera pipeline.

Per la fase speech in sé, la decisione di questa settimana è più ristretta di quanto suggerisca il grafico di benchmark. Granite Speech 5.0 2B è un credibile modello ASR inglese open-weights tra i primi tre, un netto miglioramento rispetto al suo predecessore proprio nelle condizioni che mandano in crisi l'ASR in produzione, e un modello davvero multilingue con traduzione e controllo delle parole chiave che la maggior parte dei concorrenti di questa dimensione non offre. È anche uscito da due giorni, benchmarkato dal fornitore e non riprodotto. Eseguilo sul tuo audio più difficile prima di credere a 5.06%.