Ming-3.0-audio-tiny tourne désormais sur un seul GPU — et sa configuration affiche enfin 128K

Le checkpoint derrière Ming-3.0-audio-tiny est téléchargeable depuis le 3 septembre 2026 — deux fragments safetensors, 17,7 Go, poussés neuf minutes après la création du dépôt lui-même. Ce qui n'existait pas jusqu'à cette semaine, c'était presque tout ce qui vous indique comment l'exécuter. Entre le 16 et le 19 octobre 2026, inclusionAI a remplacé la configuration livrée en septembre, transformant une variante vidéo-langage-audio dotée d'une fenêtre de 8 192 tokens en une variante audio uniquement qui annonce 131 072, a ajouté le Talker qui produit la parole, a ajouté deux clips de voix de référence avec leurs transcriptions et — après trois jours pendant lesquels le dépôt n'avait aucune fiche de modèle du tout — en a rédigé une. Le code vers lequel ces documents renvoient est arrivé sur GitHub le 15 octobre, dans un dépôt nommé d'après le grand frère, Ming-3.0-audio-flash, et il comporte trois profils de déploiement pour le petit modèle que le petit modèle n'a jamais eus. Rien de tout cela n'a été annoncé. La question à laquelle il vaut donc la peine de répondre n'est pas de savoir ce qui est nouveau, car les poids ont sept semaines et sont identiques octet pour octet à ceux du jour de leur arrivée. C'est ce qu'un lecteur peut désormais exécuter qu'il ne pouvait pas exécuter lundi dernier, et ce que cela coûte en précision lorsqu'il le fait.Les défaillances d'IA et incidents d'agents documentés derrière des versions comme celle-ci sont rassemblés dans the OrcaRouter AI Incident Archive où chaque entrée comporte ses propres sources, son niveau de gravité, sa note de confiance et un indicateur de contestation.

Qu’est-ce qui a changé, daté du commit

Le journal de commits de Hugging Face est assez court pour être lu en entier, et sa forme est inhabituelle : trois commits en septembre, rien pendant trois semaines, puis six en quatre jours.

• 3 septembre, 11:45 et 11:49 UTC — le dépôt est créé, puis les deux shards sont déposés sous « Ajouter des fichiers à l'aide de l'outil upload-large-folder ». Le fichier README qui les accompagne est intitulé « Ming Audio V3 », déclare Apache 2.0, ajoute au dépôt l'étiquette automatic-speech-recognition, et indique que le dépôt « documente actuellement le chemin ASR ».

• 17 septembre — le examples/ dossier est supprimé. Après cela, le dépôt ne contient plus que les poids, le code de modélisation personnalisé et une courte fiche, et rien d'autre.

• 16 octobre, 08:14 à 08:20 UTC — celui qui a des conséquences. config.json est réécrit : max_position_embeddings sur la colonne vertébrale textuelle passe de 8 192 à 131 072, transformers_version de 4.56.2 à 5.14.1, et audio_config.model_type de bailing_moe_v3_vl_audio à bailing_moe_v3_audio — le type vidéo-langage-audio qui ne décrit plus le modèle. Dans le même push, auto_map gagne des entrées AutoModel et AutoProcessor qu'il n'avait pas, un processor_config.json apparaît, et l'talker/arborescence arrive : un modèle de parole de 1,4 Go, un VAE de 1,6 Go, un encodeur de locuteur CAM++, des transducteurs à états finis de normalisation de texte pour l'anglais et le chinois. L'ancien README est retiré dans le même push — pendant les trois jours qui suivent, le dépôt n'a plus aucune fiche modèle.

• 17 octobre, 11:44 UTC — « Ajouter des préréglages vocaux. » Deux WAV de référence, US_James.wav et 灵楷.wav, plus un fichier JSON contenant leurs transcriptions exactes.

• 19 octobre, 10 h 36, 11 h 44 et 11 h 49 UTC — trois commits de nettoyage et de mise en ligne.

• 19 octobre, 13:19 UTC — « Ajouter la fiche du modèle Ming-3.0-audio-tiny. » 8 514 octets, et le premier document de l’histoire du dépôt qui décrit un modèle de parole et d’audio plutôt qu’un chemin ASR.

Le volet GitHub a sa propre chronologie, et elle commence plus tard. inclusionAI/Ming-3.0-audio-flash a été créé le 15 octobre à 03:50 UTC — six semaines après l’existence des poids — et des push y étaient encore effectués le 19 octobre à 14:53 UTC. Il compte huit étoiles, un fichier de licence MIT, et un deploy/ répertoire contenant six profils YAML, dont trois sont nommément destinés au checkpoint tiny. Il n’existe pas de dépôt inclusionAI/Ming-3.0-audio-tiny ; cette URL renvoie 404, et le code du modèle tiny réside dans le dépôt flash aux côtés de celui de son homologue.

La réécriture de la config, c'est ça la vraie histoire.

Un champ de longueur de contexte multiplié par 16 est le genre de changement qui est soit cosmétique, soit structurel, et dans ce cas, le reste du diff indique qu’il est structurel. En septembre, le dépôt a publié modeling_bailing_moe_v3_audio.py et processing_bailing_moe_v3_audio.py dans l’arborescence, mais sa configuration décrivait une tour audio de type bailing_moe_v3_vl_audio — un vestige d’une version vidéo-langage — et sa fiche vous indiquait d’instancier le modèle avec trust_remote_code=False, ce que ne veulent pas les fichiers de modélisation personnalisés. La configuration d’octobre est la première où le type déclaré, l’environnement d’exécution déclaré et le chemin de code concordent.

• Backbone — 24 couches, dimension cachée 1 536, 16 têtes d’attention, 128 experts routés avec 8 actifs par token et un expert partagé, taille intermédiaire des experts 512, première couche dense à l’indice 1, facteur d’échelle de routage 2,5, vocabulaire 157 184.

• Attention — MLA, avec un latent KV de dimension 512 et un latent de requête de dimension 256, rope_theta 6 000 000, partial_rotary_factor 0,5. La forme KV à rang faible est ce qui rend même défendable une fenêtre de 131 072 tokens sur une seule carte : le cache stocke le latent, et non les clés et valeurs par tête.

• Tour audio — 32 couches, largeur 1 280, 20 têtes, un contexte de 3 000 trames et 128 bandes mel, avec un sous-échantillonneur de noyau [3,3,3] et de pas [2,2,2]. ID du jeton audio 157 168.

• Taille — 9,3 Md de paramètres au total, 2,7 Md activés par token, bfloat16 de bout en bout, déclaré pour Transformers 5.14.1.

• Entrées et sorties — audio et instruction textuelle en entrée ; texte en sortie, ou texte et parole synthétisée via le Talker en option. Chinois et anglais, y compris accents et dialectes, selon la carte.

Ce que la réécriture de la configuration ne fait pas, c’est ajouter le moindre poids. Les quatre fichiers safetensors du dépôt — deux shards Thinker, le Talker, le VAE — ont les mêmes tailles à chaque révision que j’ai vérifiée, jusqu’au téléversement initial. Il s’agissait d’une modification de documentation et de packaging apportée à un checkpoint inchangé, ce qui explique précisément pourquoi le saut de 8 192 à 131 072 est fiable : personne n’a réentraîné quoi que ce soit, de sorte que l’on peut vérifier cette affirmation en chargeant le modèle et en lui demandant un contexte long plutôt que de la croire sur parole.

Un élément de documentation reste encore incohérent. Le tag de pipeline Hugging Face de premier niveau du dépôt indique text-to-speech, alors que le résumé de la fiche le qualifie de modèle audio-langage qui accepte des instructions et renvoie du texte ou de la parole. Le tag est un vestige du fait que le Talker est la capacité la plus récemment modifiée, et c'est le genre de détail qui n'importe à personne, sauf à la personne qui filtre le Hub par tâche.

Un GPU pour le texte, deux pour la parole

C'est ici que le petit modèle mérite son nom, et il n'est visible que parce que les profils de déploiement sont désormais publics. Le profil texte du modèle flash s'exécute sur devices: "0,1,2,3,4,5,6,7" avec tensor_parallel_size: 8 — huit cartes de 80 Go, ce qu'imposent 256 Go de poids bf16 avant toute allocation de cache. Le petit modèle possède trois profils qui lui sont propres, et deux d'entre eux ne demandent qu'une seule carte.

• Texte et ASR, vLLM-Omni — une seule étape sur les appareils : « 0 », taille de parallélisme tensoriel 1, max_model_len 131 072, max_num_batched_tokens 32 768, gpu_memory_utilization 0,92, échantillonnage à une température de 0,6 et jusqu'à 65 536 jetons de sortie.

• Audio complet avec sortie vocale — deux étapes. Le Thinker sur appareils : « 0 » à 0,78 de la carte, et le Talker sur appareils : « 1 » à 0,18, l’étape Talker étant limitée à un jeton de sortie et à une température de 0,0 car elle ne génère pas de texte.

• Reproduction ASR — un pipeline « thinker-only » auquel est greffé un processeur de logits 10-gram sans répétition, l’audio étant limité à un seul clip par prompt, max_model_len 131 072, température 0.0, 32 768 tokens de sortie. C’est la configuration dans laquelle les chiffres de reconnaissance du fournisseur ont été obtenus, et il vaut la peine de la copier exactement si vous comptez comparer.

• SGLang — un GPU, un périphérique visible, sortie texte uniquement. La fiche indique explicitement que la sortie vocale n’est pas disponible sur ce chemin.

Ces profils sont des fichiers, pas de la prose, et ils sont visibles dans le répertoire deploy/ du dépôt flash — six profils YAML, dont trois nommés d'après le minuscule checkpoint.

Interprétez les chiffres de mémoire avec honnêteté. 0,92 est une proportion de n’importe quelle carte vers laquelle vous dirigez l’étape, pas une exigence : les fragments du Thinker totalisent 17,74 Go, donc les poids tiennent dans une carte de 24 Go avec environ 6 Go restants pour le cache et les activations. La réservation de 0,92 est dimensionnée pour une fenêtre de 131 072 tokens plus un lot de 32 768 tokens à la fois, et elle diminue si vous réduisez max_model_len. Ce que vous ne pouvez pas faire sur une seule carte, c’est produire de la parole, car le Talker et son VAE sont un second processus avec un second ensemble de poids — 3 Go avant l’encodeur CAM++ et les transducteurs — et le profil de référence leur attribue leur propre périphérique. Du texte sur un GPU, une conversation à voix haute sur deux : c’est le calcul honnête, et c’est une ligne budgétaire différente de celle des huit du modèle frère.

Qu’y a-t-il réellement dans le téléchargement ?

Le dépôt totalise 20,78 Go. Le Thinker fait 17,74 Go répartis en deux fragments de 9,55 Go et 8,19 Go ; le Talker ajoute 1,40 Go, son VAE 1,56 Go, l’encodeur de locuteur 28 Mo, et les fichiers du tokeniseur et du normaliseur constituent le reste. Il n’existe aucune variante quantifiée, aucun checkpoint plus petit et aucune conversion GGUF publiée par le fournisseur ; le chiffre bf16 constitue donc le plancher, sauf si vous le quantifiez vous-même.

• Chargement — AutoProcessor.from_pretrained(..., trust_remote_code=True, use_fast=False) et AutoModelForCausalLM.from_pretrained(..., dtype=torch.bfloat16, device_map="auto", trust_remote_code=True). L'extrait de la fiche lui-même convertit ensuite audio_feats vers le dtype du modèle manuellement, ce qui est un petit signe que le chemin du processeur n'était pas la priorité.

• Le contrat ASR — le prompt validé demande au modèle de nommer la langue parlée et de placer une tabulation entre l’étiquette de langue et la transcription. Si vous construisez un harnais d’évaluation, cette tabulation est votre parseur. Une instruction générique « transcris ceci » ne correspond pas à la configuration qu’inclusionAI a mesurée.

• Voix — la voix par défaut de vLLM-Omni est une voix intégrée appelée 灵小柔, et le répertoire du modèle fournit deux préréglages de référence, 灵楷 et US_James, avec leurs transcriptions. Le clonage vocal nécessite un WAV de référence ainsi que sa transcription exacte ; la fiche signale que vous ne pouvez pas combiner une sélection de voix intégrée avec un extrait de référence dans une même requête.

• Licence — MIT dans les métadonnées de la carte et dans le LICENSE du dépôt GitHub, daté de 2025. À noter ce qui manque : le dépôt Hugging Face ne contient aucun fichier LICENSE qui lui soit propre. Le seul texte de licence physiquement présent à l'intérieur appartient à un modèle d'identification de langue intégré sous talker/data/. L'affirmation MIT est réelle, mais elle se trouve à un clic de là, dans un dépôt nommé d'après l'autre modèle.

• Traction — trois téléchargements et cinq « J’aime », pour la semaine en cours. Le modèle flash compte 22 téléchargements et huit « J’aime ». Aucun de ces deux chiffres n’est une preuve de qualité ; tous deux montrent qu’une mise en ligne de septembre, sans fiche modèle et sans annonce, n’a pas circulé.

L’image de référence, et la colonne manquante

Trois PNG dans assets/ portent l’évaluation, et les trois proviennent de l’exécution d’inclusionAI elle-même. Le fournisseur marque les entrées auto-évaluées d’un astérisque et précise que les modèles de comparaison ont été reproduits avec ses propres prompts et paramètres de décodage, de sorte que leurs chiffres peuvent différer de leurs rapports officiels. Aucune évaluation indépendante de ce checkpoint n’a été publiée que je puisse trouver — aucune entrée d’arène, aucun score tiers — ce qui signifie que chaque chiffre ci-dessous provient d’un fournisseur décrivant son propre modèle. Ce n’est pas une raison de les ignorer ; c’est une raison de les lire comme un cahier des charges plutôt qu’un verdict.

La comparaison utile est minime face à son propre homologue, car les deux ont utilisé le même harnais. En reconnaissance, le plus petit modèle perd un peu et, sur le raisonnement audio long, il perd beaucoup.

• Moyenne ASR chinoise — taux d’erreur sur les caractères de 3,79 pour Ming-3.0-audio-tiny contre 3,45 pour Ming-3.0-audio-flash. Plus le chiffre est bas, mieux c’est, donc tiny est à 0,34 point derrière.

• Moyenne ASR en anglais — 4,36 contre 3,69. Moyenne pour les dialectes — 10,29 contre 9,40.

• BigBenchAudio — 99,20 contre 99,40. Une égalité dans les faits, et la seule ligne où l’écart de taille ne se voit pas.

• MMAU — 75,90 contre 82,00. MMAR — 67,70 contre 74,40. MMSU — 73,06 contre 78,82. MMAU-Pro — 56,42 contre 66,41.

• Précision sur les audios longs — 56,39 contre 66,30. LongAudioSpan — 35,45 contre 41,12. Score de chaîne sur les audios longs — 10,56 contre 12,31.

• Interaction vocale — {{1}}URO-Bench-Pro 54,15{{/1}} contre {{2}}81,92{{/2}}, une chute de 27,8 points. {{3}}VoiceBench 74,29{{/3}} contre {{4}}86,74{{/4}}. {{5}}SpeechFCEval 69,80{{/5}} contre {{6}}82,60{{/6}}.

• Appel d’outils — BFCL-v3 Audio 79,80 contre 81,40. Musique — MuchoMusic 58,07 contre 65,65.

Les lignes de dialectes constituent l’exception intéressante, car tiny ne perd pas uniformément. Il surpasse son grand frère sur l’Anhui (5,42 contre 5,76), le mandarin du Nord-Est (4,21 contre 4,28), le Jiangsu (11,44 contre 12,15), le Shaanxi (5,81 contre 6,00), le Shandong (10,17 contre 10,69) et le Yunnan (11,28 contre 11,53), et perd nettement sur le hakka (24,08 contre 16,51), le hokkien (14,15 contre 12,84) et le shanghaïen (12,49 contre 11,15). Qu’un modèle à 2,7 B de paramètres actifs tienne six des quinze lignes de dialectes face à un modèle à 6,5 B de paramètres actifs est l’élément le plus favorable de toute l’évaluation, et il est enfoui au milieu d’un tableau où la moyenne le masque.

Deux lacunes méritent d’être signalées, car elles sont vérifiables et la fiche ne les relève pas. Premièrement, cinq lignes de l’image de reconnaissance ne comportent aucune valeur pour le modèle tiny — les lignes de diarisation des locuteurs et de permutation minimale concaténée pour AISHELL-4, AliMeeting et AMI sont imprimées sous forme de tiret. Ce que le modèle tiny fait sur la question « qui a parlé quand » n’est pas publié. Deuxièmement, l’image relative à l’intelligence textuelle comporte quatre colonnes, et aucune d’elles ne correspond au modèle tiny : ses colonnes sont Ming-3.0-audio-flash, Qwen3.8-Omni Flash, Qwen3.5-Omni Plus et Qwen3.5-Omni Flash. La section d’évaluation de la fiche indique que les chiffres ci-dessous incluent les résultats des deux variantes de Ming, ce qui est vrai pour les deux images audio et ne l’est pas pour celle du texte. Si vous avez besoin de savoir si le backbone tiny peut soutenir une conversation de raisonnement, inclusionAI ne vous l’a pas dit.

Ce que la semaine vous a réellement apporté

Avant le 16 octobre, un lecteur qui voulait tester ce checkpoint disposait d’un téléchargement de 17,7 Go, d’une configuration décrivant un modèle vidéo-langage avec une fenêtre de 8K, et d’une fiche lui demandant de charger du code personnalisé sans activer le code personnalisé. Après le 19 octobre, il dispose d’une configuration qui correspond à ses propres fichiers de modélisation, d’une affirmation de 128K qui peut être testée sur des poids inchangés, de trois profils de déploiement nommés, dont un sur un seul GPU, d’un pack vocal avec transcriptions, et d’une fiche qui indique à quoi sert le modèle. Rien de tout cela n’est un nouveau modèle. Tout cela fait la différence entre un checkpoint sur un disque et un checkpoint que quelqu’un peut évaluer en un après-midi.

Le coût est la partie que le dimensionnement dissimule. Dans les propres tableaux du fournisseur, passer du modèle à 6,5 B de paramètres actifs à celui à 2,7 B vous fait gagner un huitième du nombre de GPU et vous coûte 27,8 points sur URO-Bench-Pro, dix sur VoiceBench et environ un cinquième du score Chain sur l'audio long. C'est un compromis raisonnable pour un service de transcription, mauvais pour tout ce qui doit raisonner sur une heure d'audio, et le fournisseur a imprimé les deux colonnes côte à côte pour que vous puissiez décider lequel vous construisez.

Là où un routeur mérite sa place, et là où il ne la mérite pas

OrcaRouter ne sert pas Ming-3.0-audio-tiny. Il ne figure pas dans notre catalogue, nous ne pouvons pas vous fournir de point de terminaison pour ce modèle, et rien ici ne doit être interprété comme une offre en ce sens. Dans un pipeline construit autour d’un checkpoint comme celui-ci, l’intérêt d’un routeur réside dans la moitié qui n’est pas le checkpoint. Les systèmes vocaux sont surtout du travail textuel : le prompt qui décide quoi demander à l’audio, le parseur qui transforme une étiquette de langue délimitée par des tabulations en sortie structurée, le résumé rédigé à partir de la transcription, la classification qui décide si un fichier audio va au modèle 2,7B ou à celui de 126B. Ce sont des appels textuels ordinaires, et une API pour plus de 200 modèles à 0 % de majoration — le prix catalogue du fournisseur est répercuté, de sorte qu’une baisse de prix d’un fournisseur est effective de notre côté le jour même — est plus simple à intégrer qu’une pile de contrats fournisseurs. Le basculement automatique est ce qui vous permet de faire reposer une partie d’un pipeline sur un modèle nouvellement documenté sans miser tout le parcours dessus.

La frontière mérite d’être énoncée clairement. Un checkpoint de 17,7 Go que vous exécutez sur votre propre GPU relève de l’infrastructure, et non d’un appel d’API. Un routeur achemine des appels. Il ne transforme pas un modèle audio à poids ouverts en modèle hébergé, et il ne transforme pas trois téléchargements en preuves de production.

Que regarder

Trois choses changeraient ce tableau, et toutes trois sont vérifiables. Premièrement, un score indépendant : dès qu’une arène ou un évaluateur tiers référence ce checkpoint, l’écart de 27,8 points en interaction vocale cesse d’être une auto-évaluation du fournisseur pour devenir un point de données ; jusque-là, notez que le même fournisseur a aussi publié six lignes dialectales où le plus petit modèle l’emporte. Deuxièmement, un fichier LICENSE dans le dépôt Hugging Face, ce qui ferait passer MIT d’un lien dans une fiche à un fait dans l’artefact que lit réellement un processus d’approvisionnement. Troisièmement, un dépôt GitHub minuscule et spécifique : aujourd’hui, les profils de déploiement qui rendent réelle l’affirmation du GPU unique vivent dans un dépôt nommé d’après le modèle plus grand, ce qui convient jusqu’à ce que quelqu’un le renomme.

Jusqu’à ce que l’un de ces éléments se concrétise, la description exacte manque de glamour. Mêmes poids que le 3 septembre, environ 18 Go de Thinker, une fenêtre de 131 072 tokens arrivée dans une config plutôt que dans un checkpoint, trois profils de service qui tiennent sur une carte pour le texte et deux pour la parole, MIT sur le papier, cinq lignes de référence qu’il a refusé de publier, et une fiche modèle qui a trois jours de moins que la config qu’elle décrit. La semaine n’a pas rendu le modèle meilleur. Elle l’a rendu lisible, et pour un checkpoint à poids ouverts que personne n’a annoncé, la lisibilité, c’est tout le produit.