Granite Speech 5.0 2B: IBMs neues ASR-Modell lag zwei Wochen auf Hugging Face, bevor IBM es ankündigte

Das Repository für Granite Speech 5.0 2B wurde am 7. Oktober 2026 erstellt. Die Gewichte wurden am selben Abend committet, mit einer Commit-Nachricht, die nur „Upload granite-speech-5.0-2b checkpoint.“ lautet. Die Model Card blieb dann dreizehn Tage lang dort und wurde öffentlich bearbeitet – Benchmark-Diagramme am 13. hinzugefügt, ein Veröffentlichungsdatum und offizielle Leaderboard-Ergebnisse am 19. eingetragen, eine Modell-Signaturdatei am 20. – bevor IBM am 21. Oktober 2026 den Blogbeitrag veröffentlichte, der es tatsächlich ankündigte. Dieser Blogbeitrag ist, während ich dies schreibe, einen Tag alt, und er ist immer noch das Einzige, was IBM irgendwo über das Modell gesagt hat: Es gibt keine Pressemitteilung, keine Ankündigungsseite auf ibm.com und nichts auf der Granite-Produktseite außer der generischen Landingpage. Die dokumentierten KI-Fehlfunktionen und Agenten-Vorfälle hinter Releases wie diesem sind gesammelt in dem OrcaRouter AI Incident Archive, wo jeder Eintrag seine eigenen Quellen, seinen Schweregrad, seine Konfidenzstufe und sein Disputed-Flag führt.

Die ehrliche Beschreibung lautet also weder „ohne Ankündigung“ noch „mit großem Tamtam gestartet“. Es ist ein Modell, das zwei Wochen lang still herunterladbar war, dessen Modellkarte offen geschrieben wurde und das seine Ankündigung einen Tag vor diesem Artikel erhielt. Im Folgenden wird getrennt, was überprüfbar ist, von dem, was weiterhin nur IBMs Wort ist.

Was steckt eigentlich in dem Checkpoint?

Granite Speech 5.0 2B ist ein Speech-Language-Modell: ein akustischer Conformer-Encoder, der über einen Projektor ein kleines Sprachmodell speist. Es ist der direkte Nachfolger von granite-speech-4.1-2b, das am 29. April 2026 mit derselben Parameteranzahl und derselben Apache-2.0-Lizenz veröffentlicht wurde.

• Größe und Format — 2B Parameter, BF16-Safetensors, Apache 2.0, kein Gating im Repository.

• Encoder — 16 Conformer-Blöcke, trainiert mit CTC und zwei Klassifikationsköpfen: 348 Zeichenausgaben (die ersten 256 ASCII-Einträge sowie ein 92-Zeichen-Set phonetischer Katakana für Japanisch) und 100.353 BPE-Ausgaben aus dem Granite 4.0-Tokenizer. Hidden Size 1.024, 8 Attention-Heads mit je 128, Faltungskernel 15, Vier-Sekunden-Block-Attention.

• Projektor — ein zweischichtiger Window-Query-Transformer über Blöcke von fünfzehn 1.024-dimensionalen akustischen Embeddings, mit drei trainierbaren Queries pro Block und Schicht. Er reduziert die Abtastrate zusätzlich zur 2-fachen des Encoders um den Faktor 5, sodass das Sprachmodell Embeddings mit 10 Hz statt Frames mit 100 Hz sieht.

• Sprachmodell – ein Zwischen-Checkpoint von granite-4.0-1b-base, erweitert auf 16k Positionen mit YaRN, mit LoRA-Adaptern, die gemeinsam mit dem Projektor trainiert wurden.

• Training — etwa 390.000 Stunden öffentliches und synthetisches Audio, insgesamt 40 Tage auf 8 NVIDIA H100s (26 Tage Encoder-Training, 14 Tage Projektor-Training) auf IBMs Blue-Vela-Cluster.

Sprachen — Englisch, Französisch, Deutsch, Spanisch, Portugiesisch und Japanisch für die Transkription; Übersetzung von und nach Englisch für diese sechs Sprachen sowie Englisch ins Italienische und Englisch ins Mandarin.

Die 390.000 Stunden sind die Zahl, die am wichtigsten dafür ist, worin das Modell gut ist. Die Karte schlüsselt sie auf, und der größte Einzelblock ist keine saubere vorgelesene Sprache: LibriHeavy liefert 45.600 Stunden Audio ohne Satzzeichen und weitere 45.800 Stunden Audio mit Satzzeichen, VoxPopuli Granary fügt 24.000 plus 23.900 mit Satzzeichen hinzu, und dann gibt es 59.900 Stunden von dem, was IBM kontextuelle ASR nennt — dieselben Korpora neu zugeschnitten, mit einem verrauschten Kontext des vorherigen Segments, der dem Prompt vorangestellt wird. Weitere 7.100 bzw. 16.500 Stunden sind Keyword-biased ASR in der europäischen bzw. japanischen Sprachgruppe. Diese Mischung ist der Grund, warum die herausragenden Verbesserungen Zeichensetzung, Großschreibung, Robustheit und Keyword-Biasing sind und nicht die rohe Wortfehlerrate bei sauberem Englisch.

Die Zahl 5,06 % und das Kleingedruckte darunter

IBMs zentrale Behauptung ist eine durchschnittliche englische Wortfehlerrate von 5,06 % über die neun öffentlichen Kurzformat-Testsätze des Open ASR Leaderboard, das sie als Platz 2 unter den besten Open-Weight-ASR-Modellen einstuft. Die Modellkarte veröffentlicht dieselbe Zahl unter einer anderen Bezeichnung – „offizielle Ergebnisse mit Stand vom 20. Oktober 2026" –, während der Ankündigungsblog den zugrunde liegenden Lauf als „inoffiziell, mit Stand vom 15. Oktober 2026" bezeichnet. Diese beiden Beschreibungen liegen fünf Tage und ein Adjektiv auseinander, und niemand außerhalb von IBM hat eine von beiden reproduziert.

Die Vergleichstabelle auf der Karte sollte man genau lesen, denn ihre Auswahlregeln leisten viel Arbeit. Sie zeigt die zehn besten Modelle mit offenen Gewichten anhand der durchschnittlichen WER, eines pro Organisation, wobei Granite Speech 5.0 2B den zweiten Platz belegt:

• #1 Qwen3-ASR-1.7B-hf — 4,94 % durchschnittliche WER.

• #2 Granite Speech 5.0 2B — 5,06 %.

• #3 cohere-transcribe-03-2026 — 5,21 %.

• #4 Hojo-ASR-V1 und #5 higgs-audio-v3-stt — jeweils 5,22 %.

• #6 thewhisper-large-v3-turbo — 5,24 %. Beachten Sie, dass dies ein Community-Checkpoint ist, der sich den Namen von Whisper leiht, nicht OpenAIs whisper-large-v3-turbo, das auf derselben Rangliste 7,83 % erzielt. Die beiden werden regelmäßig verwechselt, und die Verwechslung schmeichelt jedem Vergleich, den man gerade liest.

• #7 canary-qwen-2.5b — 5,38 %; #8 ARK-ASR-0.6B — 5,44 %; #9 MOSS-Transcribe-Diarize — 5,54 %; #10 Voxtral-Small-24B-2507 — 5,81 %.

Zwei Dinge folgen daraus. Erstens beträgt der Abstand zum Führenden 0,12 Prozentpunkte, was bei neun Testsets innerhalb des Rauschens liegt, das man durch eine andere Dekodierungskonfiguration erhält – das ist ein Gleichstand auf dem ersten Platz, beschrieben als zweiter Platz. Zweitens beträgt die Spanne von #2 bis #6 0,18 Punkte. Was diese Modelle bei sauberem Englisch auch unterscheidet, es ist nicht die Genauigkeit. IBMs eigentliches Verkaufsargument muss woanders liegen, und das tut es.

Wo der Gewinn groß genug ist, um relevant zu sein: Rauschen und Entfernung

Das FFASR-Leaderboard misst verrauschte und hallige Sprache – Nahfeldbedingungen sowie Bedingungen mit hohem, mittlerem und niedrigem SNR werden gemeinsam gemittelt. Dies ist die Bewertung, bei der sich die 5.0-Generation mit einem spürbaren Vorsprung von der 4.1-Generation absetzt, und sie ist die nützlichste {{1}}Zahl{{/1}} in der Veröffentlichung.

• Granite Speech 5.0 2B — 14,80 % durchschnittliche WER, Platz 4 von 42 Modellen auf dem Board (Ergebnisse Stand 18. Oktober 2026).

• granite-speech-4.1-2b-nar — 15,16 %, Nr. 6.

• granite-speech-4.1-2b — 16,35 %, #9.

• Zum Vergleich: whisper-large-v3 liegt auf demselben Board bei 18,02 %, und nvidia/parakeet-tdt-0.6b-v2 bei 17,66 %.

Das ist eine Verbesserung um 1,55 Punkte gegenüber dem unmittelbaren Vorgänger bei Freifeld- und verrauschtem Audio – eine relative Fehlerreduktion von etwa 9,5 % –, während sich der Durchschnitt für klares Englisch von 5,33 % auf 5,06 % verbesserte, etwa 5 % relativ. Mit anderen Worten: Die Verbesserung ist unter den Bedingungen, in denen Menschen Transkription tatsächlich einsetzen, etwa doppelt so groß: Konferenzräume, Callcenter, Laptop-Mikrofone, entfernte Tablet-Mikrofone. Wenn Ihr ASR-Stack bei Studio-Audio bereits gut ist und in einem Besprechungsraum auseinanderfällt, richtet sich dieses Release an Sie.

Zeichensetzung verbessert; Großschreibung nicht.

Die einzige numerische Tabelle auf der Karte vergleicht 5.0 mit 4.1 bei der Interpunktionsfehlerrate (PER, niedriger ist besser) und der F1 für Großschreibung (höher ist besser), berechnet auf Levenshtein-alignierten Wortpaaren statt auf ganzen Sätzen. Beachten Sie die Richtung jeder Zeile, denn das Bild ist nicht einheitlich.

• LScln — PER 25,70 → 23,20; Cap-F1 89,71 → 90,16.

• LSoth — PER 22,27 → 21,22; Cap-F1 91,26 → 91,65.

• VoxPopuli — PER 24,86 → 23,70, aber Cap-F1 95,35 → 95,07.

• Earnings-22 — KGV 22,87 → 21,64, aber Cap-F1 95,19 → 94,98.

• CV-EN — PER 9.13 → 9.18 (etwas schlechter); Cap-F1 96.75 → 96.96.

CV-DE — PER 3,66 → 3,65; Cap-F1 99,50 → 99,51 (Im Deutschen werden Substantive großgeschrieben, weshalb diese Zeile nahezu perfekt ist).

• CV-ES — PER 11,61 → 11,46, Cap-F1 95,68 → 95,62.

• CV-FR — PER 11,00 → 11,43 (schlechter); Cap-F1 97,25 → 97,20.

• CV-PT — PER 7,86 → 7,53; Cap-F1 98,51 → 98,48.

Die Zeichensetzung entwickelte sich bei sieben von neun Sets in die richtige Richtung; die Großschreibung entwickelte sich bei fünf von neun in die falsche Richtung, und zwar um zwischen 0,03 und 0,28 Punkte. IBMs Zusammenfassung lautet „höhere Transkriptionsgenauigkeit“ und „Zeichensetzung und Großschreibung“, was im Aggregat vertretbar und im Detail etwas großzügig ist. Die praktische Lesart: Rechnen Sie mit weniger fehlenden Kommas, erwarten Sie aber nicht, dass das Modell plötzlich Eigennamen und Satzanfänge richtig hinbekommt.

Zwei Funktionen, die die Integrationsarbeit verändern

Die Fähigkeiten, die sich am wahrscheinlichsten auf einen tatsächlichen Einsatz auswirken, werden in der Karte überhaupt nicht bewertet, weil es sich um Steuerungsfunktionen und nicht um Genauigkeitsfunktionen handelt.

Language-ID-Prompting. Sie können „The speech is in German. Transcribe it exactly; do not translate." voranstellen, und das Modell transkribiert Deutsch, statt es ins Englische zu übersetzen. Das ist wichtig, denn ein Sprachmodell, das automatisch übersetzt, ist beispielsweise für ein deutschsprachiges Support-Archiv unbrauchbar – man erhält ein englisches Transkript und verliert den ursprünglichen Wortlaut. Der Prompt funktioniert auch, wenn er in der Zielsprache formuliert ist, was für eine mehrsprachige Pipeline der realistischere Fall ist.

Keyword-Biasing für bis zu 2.000 Begriffe. Die Obergrenze des Vorgängers wird in der 4.1-Karte nicht als harte Zahl angegeben, aber 5.0 erhöht die unterstützte Liste auf zweitausend Begriffe pro Prompt, sowohl für ASR als auch für Sprachübersetzung. Bei Produktnamen, Arzneimittelnamen, Ticket-IDs oder der eigenen SKU-Liste eines Kunden ist dies der Unterschied zwischen einem brauchbaren Transkript und einem, das korrigiert werden muss. Die Karte meldet Keyword-Biasing-F1 als Diagramm mit und ohne angewendetes Biasing, jedoch ohne numerische Werte im Text, sodass die Größe der Verbesserung als nicht quantifiziert zu betrachten ist.

Ein weiteres sicherheitsrelevantes Design-Detail, das man kennen sollte: Wenn das Modell einen fehlerhaften oder unbekannten Prompt erhält, ignoriert es laut IBM diesen Prompt und fällt auf eine reine Transkription zurück. Das ist eine bewusste Einschränkung, wie stark Audio das System beeinflussen kann, und IBM empfiehlt, das Modell mit Granite Guardian zur Risikoerkennung im Produktivbetrieb zu kombinieren.

Es ausführen.

Granite Speech 5.0 2B wird nativ in transformers>=4.52.1 über AutoModelForSpeechSeq2Seq und AutoProcessor unterstützt. Die Modellkarte dokumentiert außerdem vLLM, llama.cpp und mlx-audio, was wichtiger ist, als es klingt: Dies ist ein Modell, das man auf einem Laptop ausführen kann, nicht nur hinter einem GPU-Cluster.

Segmentlänge — in Abschnitten von bis zu etwa zwei Minuten transkribieren und längere Aufnahmen mit VAD aufteilen. Der 16k-YaRN-Kontext ist keine Lizenz, eine Stunde Audio einzuspeisen; die Genauigkeit verschlechtert sich deutlich, bevor der Kontext an seine Grenzen stößt.

• llama.cpp — die Karte empfiehlt Q8_0 und stellt fest, dass Quantisierung mit niedrigeren Bitbreiten bei Audio, das länger als etwa eine Minute ist, an Genauigkeit verliert. Das ist eine ungewöhnlich spezifische Warnung und es lohnt sich, sie wörtlich zu nehmen.

• mlx-audio — 0.5.9 oder höher, plus jinja2, das mlx-audio für die Chat-Vorlage benötigt, aber nicht selbst installiert.

• Prompts sind aufgabenspezifisch und entscheidend – „Transkribiere die Sprache mit korrekter Zeichensetzung und Großschreibung“ ist ein anderer Modus als der Prompt für das Rohtranskript, und der keyword-basierte Modus erhält ein Suffix „Keywords: …“.

Was noch nicht zu wissen ist

Drei Dinge sollten klar gesagt werden, weil die übrige Berichterstattung es nicht tun wird.

Erstens gibt es keine unabhängige Evaluierung. Jede Zahl oben stammt aus einem eigenen Evaluierungslauf von IBM oder aus Leaderboard-Einreichungen, die IBM vorgenommen hat. Das FFASR-Diagramm sagt „offizielle Ergebnisse“; das bedeutet, dass die Einreichung auf dem Leaderboard steht, nicht dass ein Dritter das Modell ausgeführt hat. Niemand hat eine Reproduktion, eine Analyse der Fehlermodi oder einen direkten Vergleich mit Audio veröffentlicht, das IBM nicht ausgewählt hat.

Zweitens gibt es keinen gehosteten Endpoint. Die Model Card sagt direkt, dass das Modell „von keinem Inference-Anbieter bereitgestellt wird“, und ich konnte es auch nicht im OrcaRouter-Katalog finden – die Liste mit 209 Modellen enthält keinen Granite-Speech-Checkpoint irgendeiner Generation. Heute sind Ihre Optionen die Gewichte oder nichts. Das ist normal für ein zwei Tage altes Modell und wird sich ändern; planen Sie in der Zwischenzeit Self-Hosting ein.

Drittens unterscheiden sich die Lizenzen innerhalb der Familie auf eine Weise, über die man leicht stolpert. Das 2B steht unter Apache 2.0 ohne kommerzielle Einschränkung. Das kleine TurboCTC-Modell wird in zwei Varianten ausgeliefert, eine unter Apache 2.0 und eine nicht-kommerzielle – die Benennung macht nicht auf den ersten Blick ersichtlich, welche welche ist.

Was das für eine Sprachpipeline bedeutet

Die realistische Architektur für einen Granite Speech 5.0 2B-Einsatz Ende 2026 ist ein selbst gehosteter Encoder-Decoder, der Audio transkribiert, und ein separater Sprachmodellaufruf, der erledigt, was als Nächstes kommt: den Call zusammenzufassen, Felder zu extrahieren, die Absicht zu klassifizieren, das Transkript anhand eines Schemas zu bereinigen. Diese zweite Stufe ist gewöhnliche Textgenerierung, und sie profitiert davon, nicht an einen Anbieter fest verdrahtet zu sein — das Transkript geht an einen einzigen O​penAI-kompatiblen Endpunkt, der über 200 Modelle zum Listenpreis des Anbieters ohne Aufschlag erreichen kann, sodass der Austausch des Bereinigungsmodells eine Konfigurationsänderung statt eines Neuaufbaus ist, und ein Anbieterausfall ein Failover auslöst, statt die Pipeline mitzureißen.

Für die Sprachstufe selbst ist die Entscheidung diese Woche enger, als das Benchmark-Diagramm vermuten lässt. Granite Speech 5.0 2B ist ein glaubwürdiges Open-Weights-Englisch-ASR-Modell unter den Top drei, eine deutliche Verbesserung gegenüber seinem eigenen Vorgänger genau unter den Bedingungen, die ASR im Produktivbetrieb scheitern lassen, und ein wirklich mehrsprachiges Modell mit Übersetzung und Keyword-Steuerung, das die meisten Wettbewerber dieser Größe nicht bieten. Es ist außerdem zwei Tage alt, vom Anbieter gebenchmarkt und nicht reproduziert. Testen Sie es an Ihrem eigenen schwierigsten Audiomaterial, bevor Sie 5,06 % glauben.