Granite Speech 5.0 2B vs Granite Speech 5.0 470M TurboCTC : 35× le débit pour 0,45 point de WER

IBM a publié deux checkpoints Granite Speech 5.0 à un jour d’intervalle, et ce qui est intéressant à leur sujet, ce n’est pas que l’un soit plus gros. C’est que Granite Speech 5.0 2B obtient un WER moyen en anglais de 5,06 % à 570 RTFx sur l’Open ASR Leaderboard, tandis que Granite Speech 5.0 470M TurboCTC obtient 5,51 % à 19 870 RTFx — environ trente-cinq fois plus de débit pour bien moins d’un demi-point de précision. Si vous avez cru que le nombre de paramètres vous apportait quelque chose de proportionnel, il n’en est rien. Il vous apporte la traduction, le biais par mots-clés, le contrôle de l’identification de langue et un modèle de langue capable de suivre une consigne. La vitesse ne figure pas sur cette liste. Les défaillances documentées de l’IA et les incidents d’agents à l’origine de sorties comme celle-ci sont recensés dans l’OrcaRouter AI Incident Archive où chaque entrée comporte ses propres sources, un niveau de gravité, une note de confiance et un indicateur de contestation.

Les deux chiffres sont ceux d’IBM, mesurés sur le même classement et datés à une semaine d’intervalle, ce qui en fait l’une des comparaisons au sein d’une même famille les plus propres disponibles — et aussi une comparaison pour laquelle il faut toujours partir du principe qu’il s’agit d’une évaluation réalisée par le fournisseur plutôt que d’une évaluation auditée. Aucun des deux modèles n’a fait l’objet d’une reproduction indépendante et, au moment de la rédaction, aucun n’est servi par un fournisseur d’inférence que je puisse trouver, y compris notre propre catalogue.

La même semaine, deux récits de sortie différents

Ces deux modèles ne sont pas des jumeaux de tailles différentes. Ils ont été publiés différemment et sont construits différemment, et les historiques de publication expliquent pourquoi leurs fiches de modèle se lisent de façon si différente.

• Granite Speech 5.0 2B — dépôt créé le 7 octobre 2026, poids commités le soir même, fiche modifiée au grand jour pendant deux semaines, date de publication estampillée au 20 octobre, billet d’annonce le 21 octobre. Nouveau modèle, début discret, final retentissant.

• Granite Speech 5.0 470M TurboCTC — lancé pour la première fois le 25 août 2026 en tant que modèle exclusivement anglais avec une performance annoncée de 12 600 RTFx. La version du 21 octobre est une mise à jour, et non un nouveau modèle : la même architecture, une nouvelle tête BPE multilingue de 16 384 jetons, six langues supplémentaires, ainsi que la ponctuation et la capitalisation natives.

Cette différence compte lorsqu’on lit les chiffres. Les 5,06 % du 2B correspondent à une nouvelle évaluation d’un nouveau checkpoint. Les 5,51 % du 470M constituent une amélioration par rapport au chiffre de 5,78 % publié en août, et le blog d’IBM le présente comme « un meilleur WER en anglais malgré l’ajout de six langues », ce qui est la bonne façon de l’interpréter — la mise à jour multilingue n’a pas fait perdre de précision en anglais, elle en a fait gagner.

Deux architectures, une conséquence

{{1}}Granite Speech 5.0 2B{{/1}} est un modèle parole-langage. Un {{2}}encodeur Conformer CTC à 16 blocs{{/2}} alimente un {{3}}projecteur Transformer à requêtes fenêtrées sur deux couches{{/3}}, qui sous-échantillonne {{4}}10×{{/4}} vers des {{5}}plongements acoustiques à 10 Hz{{/5}}, lesquels entrent dans un {{6}}checkpoint intermédiaire de granite-4.0-1b-base étendu à 16k positions avec YaRN{{/6}}. Le {{7}}fine-tuning supervisé{{/7}} est un {{8}}LoRA{{/8}} sur le {{9}}projecteur et le modèle de langage{{/9}} conjointement. La {{10}}génération est autorégressive{{/10}} : le {{11}}modèle de langage écrit la transcription jeton par jeton{{/11}}.

Granite Speech 5.0 470M TurboCTC est un encodeur. Seize blocs Conformer, objectif CTC, une tête de classification BPE multilingue de 16 384 unités, un sous-échantillonnage temporel par 8 pour ramener les trames de 100 Hz à 12,5 Hz, un décodage glouton non autorégressif. Pas de projecteur, pas de modèle de langue, pas de boucle de génération. La sortie est ponctuée et mise en majuscules parce que le modèle a été entraîné à émettre la ponctuation dans le flux de jetons, et non parce qu’un second modèle l’a ajoutée ensuite.

La conséquence, c’est toute la comparaison. Un modèle 2B qui génère des tokens a un plancher de latence par token qu’aucune quantité de traitement par lots ne supprime entièrement ; un encodeur non autorégressif émet toute sa sortie en une seule passe avant, si bien que le débit évolue avec la taille du lot et presque rien d’autre. C’est ainsi qu’un modèle doté d’un quart des paramètres finit trente-cinq fois plus rapide plutôt que quatre fois plus rapide.

C’est aussi pourquoi le 470M sacrifie des éléments que possède le 2B. Il n’y a aucun prompt à suivre, donc pas d’instruction d’identification de langue, ni de liste de mots-clés, ni de traduction — une tête CTC associe l’acoustique à des tokens, on ne peut pas lui demander de restituer de la parole allemande sous forme de texte anglais.

Le tableau des scores, et d’où vient chaque chiffre

Paramètres — Granite Speech 5.0 2B : 2B ; Granite Speech 5.0 470M TurboCTC : 470M.

• WER en anglais, moyenne des 9 ensembles Open ASR — 5,06 % contre 5,51 %. Les deux exécutions d’évaluation IBM, du 15 au 20 octobre 2026.

• Débit, RTFx — 570 contre 19 870. Même banc d'évaluation du classement, même plage de dates.

• WER en conditions bruitées et réverbérantes, FFASR — 14,80 % (rang n° 4 sur 42) contre 17,57 % (rang n° 12). Le modèle 2B est plus robuste d’environ 2,8 points.

• Licence — Apache 2.0 pour les deux. Le TurboCTC a également un pendant -NC sous CC-BY-NC-SA-4.0 ; vérifiez le nom du dépôt avant toute diffusion.

• Langues — six langues de transcription (En, Fr, De, Es, Pt, Ja) avec traduction, contre sept (avec l’italien) sans traduction.

• Fonctionnalités de contrôle — invite d’identification de la langue, biais de mots-clés jusqu’à 2 000 termes et traduction vocale sur le 2B ; aucune sur le 470M.

• Entraînement — 390 000 heures sur 40 jours sur 8 H100 pour le 2B ; 153 000 heures sur 24 jours sur 8 H100 pour le 470M.

L’écart de robustesse est la ligne que les gens sautent. Une vitesse trente-cinq fois supérieure attire l’œil, mais 17,57 % de WER sur de l’audio bruité en champ lointain contre 14,80 % représente un écart d’erreur relative de 19 %, et l’audio bruité est ce que la plupart des déploiements réels ont. Si votre audio provient d’un ordinateur portable dans une cuisine, l’avantage de vitesse du petit modèle est consacré à une transcription que vous devez ensuite corriger.

Le seul domaine où le 470M gagne réellement en précision

Japonais. La fiche TurboCTC affirme qu’elle surpasse le modèle 2B en taux d’erreur de caractères sur CSJ eval1, CommonVoice-17 et FLEURS — les trois jeux de test — et l’indique explicitement dans le texte de la fiche plutôt que de l’enfouir dans un graphique. Les chiffres eux-mêmes ne figurent que dans une figure, si bien que l’ampleur de la victoire n’est pas citable, mais le sens de l’écart correspond à l’affirmation d’IBM concernant ses deux propres modèles, ce qui la rend plus crédible qu’une comparaison entre fournisseurs.

Il existe un mécanisme plausible. Le modèle 2B traite le japonais en ajoutant un ensemble phonétique de 92 caractères en katakana à la tête de caractères, ainsi que 16 500 heures d’ASR japonais biaisé par mots-clés et 9 600 heures de T​TS Fineweb-2 à l’entraînement, mais il fait encore passer le résultat par un modèle de langue entraîné principalement sur du texte européen. Le 470M utilise un vocabulaire BPE multilingue unique de 16 384 unités, intégrant le japonais dès le départ, et consacre 8 130 heures à ReazonSpeech et 1 860 heures à du japonais synthétique. Si votre produit est la transcription de japonais à grande échelle, c’est la seule confrontation où le petit modèle est à la fois plus rapide et meilleur, et il vaut la peine de le tester directement avant de choisir le 2B par défaut pour sa taille.

Coût, calculé plutôt que devisé

IBM ne publie pas de prix pour l’un ou l’autre modèle. Les deux sont des poids sous Apache 2.0, donc le coût de leur exécution est le coût du matériel, et les chiffres RTFx sont le seul levier dont vous disposez pour l’estimer.

Prenons une charge de travail de 1 000 heures d’audio par jour — une archive de centre d’appels de taille moyenne. À 570 RTFx, le modèle 2B nécessite environ 6 300 secondes de temps GPU, soit un peu plus de 1,7 heure GPU. À 19 870 RTFx, le modèle 470M nécessite environ 181 secondes, soit 0,05 heure GPU. Sur une H100 à environ 2 à 3 $ l’heure, cela représente quelques dollars par jour contre quelques centimes. Les deux chiffres sont petits, et c’est tout l’intérêt : à cette échelle, aucun des deux modèles n’est coûteux, et la décision doit être fondée sur la précision et les capacités, pas sur la puissance de calcul.

L’arithmétique change à l’autre extrémité. Si vous transcrivez un flux en temps réel sur un ordinateur portable, ou si vous exécutez une application embarquée, le 2B a besoin d’un GPU pour rester en avance sur le temps réel, tandis que le 470M dispose d’une marge confortable — c’est pourquoi IBM positionne TurboCTC pour les ordinateurs portables, les téléphones et les appareils en périphérie, et documente mlx-audio pour Apple Silicon. Le 2B fonctionne aussi sur llama.cpp et mlx-audio, mais en Q8_0, avec un avertissement indiquant que la quantification en bits inférieurs perd en précision au-delà d’environ une minute d’audio.

Choisir, dans l'ordre où la décision a réellement lieu

Ne commencez pas par le benchmark. Commencez par ce que la tâche exige, car trois des différences sont des exigences strictes plutôt que des compromis.

La sortie doit-elle être dans une langue différente de celle de l’entrée ?Alors c’est le 2B, et il n’y a pas de comparaison à faire. Le 470M ne peut pas traduire. Cette seule exigence l’élimine pour les pipelines de sous-titres, les notes de réunion multilingues et toute archive en anglais constituée à partir d’un audio non anglais.

La transcription doit-elle contenir des termes spécifiques ?Noms de produits, noms de médicaments, identifiants de tickets, liste de SKU d’un client — le 2B accepte jusqu’à 2 000 termes sous forme de liste de mots-clés et a été entraîné sur 23 600 heures d’audio avec biais de mots-clés précisément pour cela. Le 470M n’a pas d’interface de prompt. Un déploiement piloté par glossaire sur le petit modèle n’est pas possible.

L’audio est-il propre ? Si oui, l’écart de 0,45 point en anglais est faible et l’avantage de vitesse de 35× est presque gratuit. Si non — réunions, centres d’appels, micros en champ lointain — l’écart FFASR de 2,8 points indique que les erreurs du petit modèle vous coûteront plus que ce que sa vitesse vous permet d’économiser.

Est-ce du japonais ?Testez d'abord le modèle 470M. IBM affirme qu'il l'emporte sur les trois ensembles de test en japonais.

Est-ce sur un appareil ? Le 470M a été conçu pour cela. Le 2B peut fonctionner sur un appareil, mais n’a pas été conçu pour cela.

Pour être honnête, il ne s’agit pas de deux tailles d’un même produit. L’un est un système de transcription et de traduction doté d’une interface de contrôle ; l’autre est un moteur de transcription très rapide et très bon marché, sans aucun contrôle. La plupart des équipes qui pensent avoir besoin du « meilleur » doivent en réalité d’abord répondre aux questions de traduction et de glossaire, et ces deux réponses permettent de trancher.

Faire tourner les deux sans parier sur l’un ou l’autre

Pour une équipe qui teste cette famille, la configuration de production raisonnable consiste à déployer les deux, car ils ont des modes de défaillance opposés. Le 470M gère la transcription en masse de fichiers propres à un coût qui tend vers zéro ; le 2B gère l’audio difficile, l’audio non anglais et tout ce qui nécessite un glossaire. Un routeur qui classe chaque fichier entrant — détection de langue, estimation du rapport signal-bruit, vérification de la présence d’un glossaire — et l’envoie au bon checkpoint représente peut-être cinquante lignes de code, et il réduit votre taux d’erreur sur la queue de distribution sans payer le prix du 2B sur le gros du volume.

Cette étape de classification est un petit appel de modèle, et c'est la partie qu'il vaut la peine de faire passer par un seul point de terminaison plutôt que d'intégrer un deuxième SDK de fournisseur : OrcaRouter expose plus de 200 modèles derrière une API unique compatible OpenAI, au prix catalogue du fournisseur, sans marge ajoutée, et son DSL de routage peut exprimer la répartition selon la langue et la qualité sous forme de règle plutôt que de code applicatif. Le basculement automatique importe surtout dans la semaine qui suit une publication comme celle-ci, lorsqu'un point de contrôle a deux jours, que rien n'est vérifié de manière indépendante et que la manière la plus sûre de l'essayer est de garder un second chemin prêt. Rien de tout cela ne vous aide encore à exécuter Granite Speech lui-même — aucun des deux points de contrôle n'est servi par nous aujourd'hui, donc les modèles vocaux restent auto-hébergés et la couche de routage commence un cran en aval.

Si vous n'en déployez qu'un seul, déployez le 2B. C'est le modèle capable de faire tout ce que le 470M peut faire, à une vitesse toujours trente-cinq fois plus rapide que le temps réel et avec une précision meilleure sur tous les benchmarks publiés par IBM, sauf le japonais. Le 470M est le spécialiste que vous ajoutez lorsque la facture ou le profil de latence le justifie — pas le choix par défaut avec lequel vous commencez.