Ming-3.0-asr-tiny vs Granite Speech 5.0 470M TurboCTC : 19× plus de paramètres, aucun gain de débit

Placez Ming-3.0-asr-tiny et Granite Speech 5.0 470M TurboCTC sur la même page, et le premier chiffre qui saute aux yeux est le rapport de paramètres : 8,87 milliards contre 470 millions, soit environ dix-neuf pour un. Le deuxième, c'est que le petit modèle est celui conçu pour la vitesse, et de très loin. Le troisième, c'est que ce n'est pas contradictoire. Granite Speech 5.0 470M TurboCTC n'a aucun décodeur à exécuter : c'est un encodeur qui émet des caractères et s'arrête. Ming-3.0-asr-tiny possède un décodeur à mélange d'experts de 24 couches qui écrit un token à la fois et auquel on peut indiquer à l'avance quels noms vont être prononcés. L'un est une machine à débit pour l'audio anglais. L'autre est une machine à contexte pour l'audio chinois. IBM a publié Granite Speech 5.0 470M TurboCTC le 25 août 2026 avec un article de blog, un rapport technique et une entrée au classement Open ASR ; inclusionAI a mis les poids de Ming-3.0-asr-tiny sur Hugging Face le 14 octobre 2026 sans la moindre annonce. Tous les chiffres Granite utilisés ici proviennent de la fiche modèle de Granite Speech 5.0 470M TurboCTC, qui contient le tableau Open ASR, le balayage du bruit et la mention d'une langue unique. Les défaillances de l'IA et les incidents d'agents documentés qui sous-tendent des publications comme celle-ci sont rassemblés dans l'archive des incidents IA d'OrcaRouter où chaque entrée comporte ses propres sources, un niveau de gravité, une note de confiance et un indicateur de contestation.

Aucun des deux modèles ne figure dans le catalogue OrcaRouter, et aucun n’apparaît dans l’évaluation de l’autre ; il n’existe donc pas de comparaison directe entre fournisseurs à citer. Tout ce qui suit provient de la configuration et des graphiques publiés par chaque modèle, et est signalé comme tel.

La bifurcation architecturale, dite simplement

Granite Speech 5.0 470M TurboCTC est un modèle uniquement encodeur, et IBM le présente comme une rupture délibérée avec son propre passé. Les modèles Granite Speech précédents étaient un encodeur acoustique, un projecteur et un modèle de langage Granite avec des adaptateurs LoRA — autrement dit, c’étaient des modèles de langage portant un microphone. La génération 5.0 abandonne entièrement le modèle de langage et optimise un objectif CTC sur une tête BPE de 16 384 unités. Seize blocs conformer, 1 024 dimensions cachées, huit têtes d’attention, une attention par blocs sur 128 trames, un auto-conditionnement au huitième bloc et un noyau de convolution de largeur 7.

Le sous-échantillonnage est la partie qui produit la vitesse. L’audio arrive sous forme de log-mel plus deltas à 100 trames par seconde en 320 dimensions. Trois étapes de réduction d’un facteur 2 — d’abord un reshape qui empile des trames consécutives, puis des convolutions à pas dans les deux premiers blocs Conformer — ramènent cela à 12,5 jetons de sortie par seconde. Le blog d’IBM précise explicitement qu’il s’agit là du changement par rapport à ses encodeurs précédents, qui émettaient 50 caractères par seconde : quatre fois moins d’étapes de sortie par seconde d’audio, et aucune boucle autoregressive pour décider chacune d’elles.

Ming-3.0-asr-tiny a pris la direction opposée sur chaque axe qui compte ici. Son décodeur est composé de 24 couches de mélange d’experts avec 128 experts, dont huit routés par token, un expert partagé et une première couche dense, alternant trois couches Kimi Delta Attention avec une couche Gated MLA. Il écrit les tokens de façon autorégressive. Il embarque aussi un encodeur de type Whisper à 32 couches et 1 280 dimensions — la forme de Whisper large-v3, le dépôt fournissant modeling_whisper_encoder.py et la notice MIT d’OpenAI dans un fichier séparé. Ming a conservé le modèle de langue et en a fait la partie coûteuse.

D'où viennent réellement les chiffres

C’est la section qui détermine quel crédit accorder aux affirmations de l’un ou l’autre modèle, et les deux publications ne sont pas comparables par nature.

• Granite Speech 5.0 470M TurboCTC — un WER agrégé de 5,00 % sur les jeux de données publics anglais de format court du classement Open ASR, au 25 août 2026, avec 1,93 % sur LibriSpeech test-clean et 3,59 % sur test-other. Son homologue non commercial obtient 4,85 %. Le débit dépasse 12 600 RTFx sur un seul H200 avec inférence par lots. Il existe un rapport technique sur arXiv et un article de blog Hugging Face, et les résultats sont soumis à un classement public qui les répertorie.

• Ming-3.0-asr-tiny — CER moyen de 3,55 sur les ensembles publics chinois, WER moyen de 3,99 sur les ensembles publics anglais, 8,42 sur quinze ensembles dialectaux, 1,67 sur cinq domaines internes, 4,36 sur un agrégat ASR contextuel. Tout cela existe sous forme d’images PNG sur une fiche de modèle. Il n’y a ni rapport technique, ni soumission à un classement, ni script d’évaluation dans le dépôt.

Cet article de blog vaut la peine d’être ouvert pour la même raison que la fiche de modèle : c’est la piste que Ming n’a pas. IBM a publié un article daté, un rapport technique et une entrée dans un classement, et l’affirmation relative au débit dans l’article peut être vérifiée par rapport à la configuration de traitement par lots qu’il décrit.

Cette asymétrie n’est pas une critique des chiffres de Ming ; c’est une affirmation sur ce que l’on peut vérifier. N’importe qui peut recalculer les résultats Open ASR de Granite à partir de données publiques en un après-midi. Recalculer ceux de Ming nécessite de reconstituer ses jeux de test, y compris cinq domaines internes dont la composition n’est pas publiée.

Une asymétrie de plus, et elle joue dans l’autre sens : les deux modèles ne partagent pas un seul jeu d’évaluation. Les graphiques de Granite sont exclusivement en anglais et couvrent LibriSpeech, AMI, Earnings-22, GigaSpeech, SPGISpeech, TED-LIUM et VoxPopuli. La moyenne anglaise de Ming utilise LibriSpeech, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English et VoxPopuli — avec un chevauchement sur deux des cinq, et une agrégation différente. Un lecteur qui veut savoir « lequel est le plus précis en anglais » n’obtiendra de réponse d’aucun des deux fournisseurs, parce qu’aucun n’a posé la question.

Ici, « speed » signifie deux choses différentes

Le 12 600 RTFx d’IBM est un chiffre de débit par lots : de l’audio traité en masse via un GPU, soit plus de trois heures et demie de parole par seconde de calcul. C’est le bon chiffre pour transcrire des archives, et il est presque dénué de sens pour un micro en direct. IBM propose bien du streaming — une démo WebGPU dans le navigateur, une attention par blocs et une voie MLX pour Apple Silicon —, mais le chiffre phare décrit le cas par lots.

Ming ne publie aucun RTFx. Ce qu’il publie, c’est une taille : 17,7 Go de poids BF16 et un décodeur autorégressif avec 128 experts. La boucle token par token constitue le modèle de coût. Chaque seconde d’audio supplémentaire implique davantage d’étapes de décodeur, et chaque étape de décodeur touche une décision de routage parmi 128 experts. C’est la raison structurelle pour laquelle un modèle encodeur seul 19 fois plus petit est celui qui affiche une revendication de débit, et cela n’a pas besoin d’un benchmark pour être vrai.

La conséquence pratique est que ces solutions ne sont pas en concurrence pour le même déploiement. Granite Speech 5.0 470M TurboCTC est conçu pour tenir sur un ordinateur portable, un téléphone ou un seul H200 qui avale une archive de podcasts. Ming-3.0-asr-tiny nécessite un GPU CUDA, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 et trust_remote_code=True, ainsi qu’un adaptateur SGLang distinct épinglé à un commit spécifique si vous voulez le servir. L’une de ces options correspond à une liste de dépendances que vous pouvez intégrer dans un produit.

La capacité que Granite a sacrifiée pour y parvenir

La conception à encodeur seul permet de gagner en vitesse et en compacité, et IBM est franc sur la contrepartie. Son blog indique que les modèles 5.0 abandonnent des capacités dont disposaient les versions équipées d'un LM, citant la traduction de la parole et le biais par mots-clés. Ce second point est le plus intéressant, car le biais par mots-clés est précisément ce que Ming appelle Context ASR et présente comme sa fonctionnalité phare.

Ming accepte une liste de mots-clés ou le tour de dialogue précédent dans le prompt de transcription, et l’exemple du fournisseur lui-même est instructif : un extrait audio où le titre du film 同囚 ressort comme 同球 dans le cas standard, puis correctement une fois que le sujet et une liste de mots-clés sont fournis. La fiche précise avec soin que les mots-clés sont des indices et non des garanties, ce qui est une formulation honnête — le biais modifie les probabilités, il n’impose pas la sortie.

Granite Speech 5.0 470M TurboCTC n’a pas d’équivalent. Il n’y a ni prompt, ni champ de contexte, ni liste de noms à fournir, car il n’y a pas de modèle de langage à conditionner. Si votre audio regorge de noms de produits, de noms de médicaments ou de noms de famille issus d’une base de données clients, le modèle ne dispose que d’un seul outil : ce qu’il a appris pendant l’entraînement. La réponse d’IBM à ce type de problème est un notebook pour le fine-tuning sur vos propres données, ce qui constitue un flux de travail différent, avec un coût différent.

La couverture linguistique suit le même schéma. Granite est en anglais, indiqué comme la seule langue prise en charge, entraîné sur environ 60 000 heures d’audio en anglais en dix jours sur huit H100. Ming est en chinois et en anglais, avec quinze jeux de test de dialectes chinois régionaux, dont le cantonais, le minnan et le shanghaïen, et une moyenne de 8,42 pour les dialectes que ses propres graphiques placent devant toutes les références ouvertes qu’il répertorie.

Choisir entre eux

Si votre audio est en anglais et que votre problème est le volume — enregistrements d'appels, archives, transcriptions de réunions, tout ce où le coût horaire prime sur le dernier point de précision — Granite Speech 5.0 470M TurboCTC est le point de départ le plus judicieux, et le fait qu'il s'exécute en version quantifiée via un runtime C++ natif sans Python est un avantage de déploiement qu'aucune couverture de dialectes chinois ne compense.

Si votre audio est en mandarin ou dans un dialecte régional, ou si le problème de précision concerne des noms propres que vous pouvez lister à l’avance, Ming-3.0-asr-tiny est le seul des deux à y répondre, et il le fait grâce à une architecture conçue pour cela plutôt qu’à un fine-tuning ajouté après coup. Il n’a aussi que cinq jours et compte 35 téléchargements, ce qui signifie que vous seriez parmi les premiers à découvrir comment il échoue.

Il existe un troisième cas qui mérite d’être nommé : vous voulez les deux, et vous voulez savoir lequel l’emporte sur votre propre trafic. C’est le problème de routage pour lequel OrcaRouter a été conçu. Aucun de ces modèles n’est hébergé là-bas — Ming-3.0-asr-tiny et Granite Speech 5.0 470M TurboCTC sont tous deux des modèles à poids ouverts auto-hébergés — mais le même point de terminaison qui sert de façade à vos modèles hébergés peut aussi servir de façade à un chemin ASR candidat, avec un basculement automatique de sorte qu’une requête échouée retombe sur le modèle en place au lieu de remonter jusqu’à un utilisateur, et une seule clé pour plus de 200 modèles afin que la comparaison ne nécessite pas un second contrat.

Ce qu’aucun des deux fournisseurs ne vous a montré

Aucun des deux modèles n'a été évalué par un tiers indépendant. Les chiffres de Granite figurent au moins sur un classement public auquel d'autres équipes soumettent aussi leurs résultats, ce qui signifie qu'on peut les contester ; ceux de Ming se trouvent dans quatre PNG qui étaient encore en cours de modification l'après-midi de leur publication. Aucune des deux fiches ne documente les horodatages au niveau des mots ni la diarisation des locuteurs, donc tout pipeline nécessitant des informations temporelles est hors périmètre pour les deux — la fiche de Granite décrit une sortie de transcription simple, et les notes d'utilisation de Ming indiquent explicitement que la sortie est un texte de transcription sans horodatages au niveau des mots ni diarisation.

La comparaison qui permettrait réellement de trancher ne peut être réalisée par aucun des deux fournisseurs. Il faudrait un seul corpus, une seule paire de langues, un seul script d’évaluation, et les deux modèles sur le même GPU. Tant que personne ne publie cela, la seule affirmation défendable est celle que les architectures formulent déjà : un modèle autoregressif à mélange d’experts dix-neuf fois plus grand n’est pas en concurrence avec un modèle CTC à encodeur seul en termes de débit, et on ne peut pas indiquer à un modèle CTC à encodeur seul quels mots attendre.