Ming-3.0-audio-tiny ya se ejecuta en una sola GPU — y su configuración por fin indica 128K

El checkpoint detrás de Ming-3.0-audio-tiny se puede descargar desde el 3 de septiembre de 2026: dos fragmentos de safetensors, 17,7 GB, publicados nueve minutos después de que se creara el propio repositorio. Lo que no existía hasta esta semana era casi todo lo que indica cómo ejecutarlo. Entre el 16 y el 19 de octubre de 2026, inclusionAI reemplazó la configuración que se publicó en septiembre, convirtiendo una variante de vídeo-lenguaje-audio con una ventana de 8.192 tokens en una exclusivamente de audio que afirma tener 131.072, añadió el Talker que genera voz, añadió dos clips de voz de referencia con sus transcripciones y —tras tres días en los que el repositorio no tuvo ninguna tarjeta de modelo— escribió una. El código al que apuntan esos documentos llegó a GitHub el 15 de octubre, en un repositorio que lleva el nombre del hermano mayor, Ming-3.0-audio-flash, y contiene tres perfiles de despliegue para el modelo tiny que el modelo tiny nunca tuvo. Nadie anunció nada de esto. Así que la pregunta que merece respuesta no es qué hay de nuevo, porque los pesos tienen siete semanas y son idénticos byte a byte al día en que llegaron. Es qué puede ejecutar ahora un lector que no podía ejecutar el lunes pasado, y cuánto cuesta en precisión cuando lo hace. Los fallos de IA y los incidentes de agentes documentados que hay detrás de lanzamientos como este se recopilan en el OrcaRouter AI Incident Archive donde cada entrada incluye sus propias fuentes, gravedad, grado de confianza e indicador de disputa.

Qué cambió, con fecha del commit

El registro de commits de Hugging Face es lo bastante corto como para leerse entero, y su forma es inusual: tres commits en septiembre, nada durante tres semanas y luego seis en cuatro días.

• 3 de septiembre, 11:45 y 11:49 UTC — se crea el repositorio y luego los dos fragmentos quedan bajo “Add files using upload-large-folder tool”. El README que los acompaña se titula “Ming Audio V3”, declara Apache 2.0 y etiqueta el repositorio automatic-speech-recognition, y dice que el repositorio “documenta actualmente la ruta de ASR”.

• 17 de septiembre — la examples/ carpeta se elimina. Después de esto, el repositorio son pesos, código de modelado personalizado y una tarjeta breve, y nada más.

• 16 de octubre, 08:14 a 08:20 UTC — el decisivo. config.json se reescribe: max_position_embeddings en el backbone de texto pasa de 8.192 a 131.072, transformers_version de 4.56.2 a 5.14.1, y audio_config.model_type de bailing_moe_v3_vl_audio a bailing_moe_v3_audio — el tipo video-language-audio que ya no describe al modelo. En el mismo push auto_map gana entradas AutoModel y AutoProcessor que no tenía, aparece un processor_config.json, y llega el árbol talker/: un modelo de voz de 1,4 GB, un VAE de 1,6 GB, un codificador de hablante CAM++, transductores de estados finitos de normalización de texto para inglés y chino. El antiguo README se retira en el mismo push — durante los tres días siguientes el repositorio no tiene ninguna tarjeta de modelo.

• 17 de octubre, 11:44 UTC — «Añadir preajustes de voz». Dos WAV de referencia, US_James.wav y 灵楷.wav, además de un archivo JSON que contiene sus transcripciones exactas.

• 19 de octubre, 10:36, 11:44 y 11:49 UTC — tres commits de limpieza y subida.

• 19 de octubre, 13:19 UTC — «Añadir la tarjeta del modelo Ming-3.0-audio-tiny». 8.514 bytes, y el primer documento en la historia del repositorio que describe un modelo de voz y audio en lugar de una ruta de ASR.

El lado de GitHub tiene su propia cronología, y empieza más tarde. inclusionAI/Ming-3.0-audio-flash se creó el 15 de octubre a las 03:50 UTC —seis semanas después de que existieran los pesos— y todavía se seguía subiendo el 19 de octubre a las 14:53 UTC. Tiene ocho estrellas, un archivo de licencia MIT y un directorio deploy/ que contiene seis perfiles YAML, tres de los cuales son para el checkpoint tiny por su nombre. No existe ningún repositorio con el nombre inclusionAI/Ming-3.0-audio-tiny; esa URL devuelve 404, y el código del modelo tiny vive en el repositorio flash junto al de su hermano.

La reescritura de la config es la verdadera historia

Que un campo de longitud de contexto aumente 16× es el tipo de cambio que o es cosmético o es estructural, y en este caso el resto del diff indica que es estructural. En septiembre el repositorio incluía modeling_bailing_moe_v3_audio.py y processing_bailing_moe_v3_audio.py en el árbol, pero su configuración describía una torre de audio de tipo bailing_moe_v3_vl_audio —un remanente de una compilación de vídeo-lenguaje— y su tarjeta te indicaba instanciar el modelo con trust_remote_code=False, que no es lo que quieren los archivos de modelado personalizados. La configuración de octubre es la primera en la que el tipo declarado, el entorno de ejecución declarado y la ruta de código coinciden.

• Backbone — 24 capas, tamaño oculto 1.536, 16 cabezas de atención, 128 expertos enrutados con 8 activos por token y un experto compartido, tamaño intermedio del experto 512, primera capa densa en el índice 1, factor de escalado de enrutamiento 2,5, vocabulario 157.184.

• Atención — MLA, con un latente KV de 512 de ancho y un latente de consulta de 256 de ancho, rope_theta 6.000.000, partial_rotary_factor 0,5. La forma KV de bajo rango es la razón por la que una ventana de 131.072 tokens es siquiera discutible en una sola tarjeta: la caché almacena el latente, no las claves y los valores por cabeza.

• Torre de audio: 32 capas, ancho 1.280, 20 cabezas, un contexto de 3000 tramas y 128 bandas mel, con un submuestreador de núcleo [3,3,3] y zancada [2,2,2]. Id de token de audio 157.168.

• Tamaño — 9,3B parámetros totales, 2,7B activados por token, bfloat16 en todo, declarado para Transformers 5.14.1.

• Entradas y salidas — audio más una instrucción de texto como entrada; texto como salida, o texto más voz sintetizada mediante el Talker opcional. Chino e inglés, incluidos acentos y dialectos, según la tarjeta.

Lo que la reescritura de la configuración no hace es añadir pesos. Los cuatro archivos safetensors del repositorio —dos fragmentos de Thinker, el Talker, el VAE— tienen los mismos tamaños en todas las revisiones que comprobé, hasta la subida inicial. Se trató de un cambio de documentación y de empaquetado sobre un checkpoint sin cambios, y por eso precisamente el salto de 8.192 a 131.072 es fiable: nadie reentrenó nada, así que la afirmación puede comprobarse cargando el modelo y pidiéndole un contexto largo en lugar de aceptarla por fe.

Un elemento de la documentación sigue siendo inconsistente. La etiqueta de pipeline de nivel superior de Hugging Face del repositorio dice text-to-speech, mientras que el resumen de la propia tarjeta lo describe como un modelo de audio-lenguaje que acepta instrucciones y devuelve texto o voz. La etiqueta es un remanente de que Talker haya sido la capacidad modificada más recientemente, y es el tipo de cosa que no le importa a nadie excepto a quien filtra el Hub por tarea.

Una GPU para texto, dos para voz.

Aquí es donde el modelo tiny se gana su nombre, y solo es visible porque los perfiles de despliegue ahora son públicos. El perfil de texto del modelo flash se ejecuta en dispositivos: "0,1,2,3,4,5,6,7" con tensor_parallel_size: 8 — ocho tarjetas de 80 GB, que es lo que fuerzan los 256 GB de pesos en bf16 antes de que se asigne cualquier caché. El modelo tiny tiene tres perfiles propios, y dos de ellos solicitan una tarjeta.

• Texto y ASR, vLLM-Omni — una sola etapa en dispositivos: "0", tamaño de paralelismo tensorial 1, max_model_len 131.072, max_num_batched_tokens 32.768, gpu_memory_utilization 0,92, muestreo con temperatura 0,6 y hasta 65.536 tokens de salida.

• Audio completo con salida de voz — dos etapas. El Thinker en dispositivos: "0" a 0.78 de la tarjeta, y el Talker en dispositivos: "1" a 0.18, con la etapa del Talker limitada a un token de salida y temperatura 0.0 porque no está generando texto.

• Reproducción de ASR — un pipeline de solo thinker con un procesador de logits de no repetición de 10 gramos incorporado, audio limitado a un único clip por prompt, max_model_len 131,072, temperatura 0.0, 32,768 tokens de salida. Esa es la configuración con la que se obtuvieron las cifras de reconocimiento del proveedor, y vale la pena copiarla exactamente si pretendes comparar.

• SGLang — una GPU, un dispositivo visible, solo salida de texto. La tarjeta indica explícitamente que la salida de voz no está disponible en esta ruta.

Esos perfiles son archivos, no prosa, y están visibles en el directorio deploy/ del repositorio flash — seis perfiles YAML, tres de ellos nombrados por el pequeño checkpoint.

Lee las cifras de memoria con honestidad. 0,92 es una fracción de cualquier tarjeta a la que apuntes la etapa, no un requisito: los fragmentos del Thinker suman 17,74 GB, así que los pesos caben en una tarjeta de 24 GB con aproximadamente 6 GB libres para caché y activaciones. La reserva de 0,92 está dimensionada para una ventana de 131.072 tokens más un lote de 32.768 tokens a la vez, y se reduce si bajas max_model_len. Lo que no puedes hacer en una sola tarjeta es generar voz, porque el Talker y su VAE son un segundo proceso con un segundo conjunto de pesos —3 GB antes del codificador CAM++ y de los transductores—, y el perfil de referencia les asigna su propio dispositivo. Texto en una GPU, conversación en voz alta en dos: esa es la aritmética honesta, y es una línea presupuestaria distinta de la de los ocho del hermano.

¿Qué hay realmente en la descarga?

El repositorio totaliza 20,78 GB. El Thinker ocupa 17,74 GB en dos fragmentos de 9,55 GB y 8,19 GB; el Talker añade 1,40 GB, su VAE 1,56 GB, el codificador de altavoz 28 MB, y los archivos del tokenizador y del normalizador constituyen el resto. No hay ninguna variante cuantizada, ningún checkpoint más pequeño ni ninguna conversión a GGUF publicada por el proveedor, así que la cifra en bf16 es el mínimo a menos que la cuantices tú mismo.

• Cargando — AutoProcessor.from_pretrained(..., trust_remote_code=True, use_fast=False) y AutoModelForCausalLM.from_pretrained(..., dtype=torch.bfloat16, device_map="auto", trust_remote_code=True). El fragmento de la propia tarjeta luego convierte audio_feats al dtype del modelo manualmente, lo que es una pequeña señal de que la ruta del procesador no era la prioridad.

• El contrato de ASR — el prompt validado pide al modelo que nombre el idioma hablado y coloque un tabulador entre la etiqueta del idioma y la transcripción. Si estás construyendo un arnés de evaluación, ese tabulador es tu analizador. Una instrucción genérica de "transcribe esto" no es la configuración que inclusionAI midió.

• Voces: el valor predeterminado de vLLM-Omni es una voz integrada llamada 灵小柔, y el directorio del modelo incluye dos presets de referencia, 灵楷 y US_James, con sus transcripciones. La clonación de voz requiere un WAV de referencia junto con su transcripción exacta; la tarjeta advierte que no se puede combinar la selección de una voz integrada con un clip de referencia en una misma solicitud.

• Licencia — MIT en los metadatos de la tarjeta y en el LICENSE del repositorio de GitHub, que está fechado en 2025. Fíjate en lo que falta: el repositorio de Hugging Face no contiene ningún archivo LICENSE propio. El único texto de licencia que hay físicamente dentro de él pertenece a un modelo de identificación de idiomas incluido en talker/data/. La afirmación de MIT es real, pero está a un clic de distancia, en un repositorio que lleva el nombre del otro modelo.

• Tracción — tres descargas y cinco me gusta, hasta esta semana. El modelo flash tiene 22 descargas y ocho me gusta. Ninguna de las dos cifras es evidencia sobre la calidad; ambas son evidencia de que una subida de septiembre sin tarjeta y sin anuncio no circuló.

La imagen de referencia, y la columna que falta

Tres PNG en assets/contienen la evaluación, y las tres son una ejecución propia de inclusionAI. El proveedor marca las entradas autoevaluadas con un asterisco y señala que los modelos de comparación se reprodujeron con sus propios prompts y ajustes de decodificación, por lo que sus cifras pueden diferir de las de sus informes oficiales. No he podido encontrar ninguna evaluación independiente publicada de este checkpoint —ninguna entrada en arena, ninguna puntuación de terceros—, lo que significa que cada cifra que aparece a continuación proviene de un proveedor que describe su propio modelo. Eso no es motivo para ignorarlas; es motivo para leerlas como un brief de diseño y no como un veredicto.

La comparación útil es mínima frente a su propio hermano, porque ambos ejecutaron el mismo harness. En reconocimiento, el modelo más pequeño pierde un poco, y en razonamiento con audio largo pierde muchísimo.

• Promedio de ASR en chino — tasa de error de caracteres de 3,79 para Ming-3.0-audio-tiny frente a 3,45 para Ming-3.0-audio-flash. Cuanto más baja, mejor, por lo que tiny está 0,34 puntos por detrás.

• Promedio de ASR en inglés — 4,36 frente a 3,69. Promedio de dialecto — 10,29 frente a 9,40.

• BigBenchAudio — 99,20 frente a 99,40. En la práctica, un empate, y la única fila en la que la diferencia de tamaño no se nota.

• MMAU — 75.90 frente a 82.00. MMAR — 67.70 frente a 74.40. MMSU — 73.06 frente a 78.82. MMAU-Pro — 56.42 frente a 66.41.

• Precisión en audio largo — 56,39 frente a 66,30. LongAudioSpan — 35,45 frente a 41,12. Puntuación de cadena de audio largo — 10,56 frente a 12,31.

• Interacción hablada — URO-Bench-Pro 54,15 frente a 81,92, un desplome de 27,8 puntos. VoiceBench 74,29 frente a 86,74. SpeechFCEval 69,80 frente a 82,60.

• Llamada de herramientas — BFCL-v3 Audio 79,80 frente a 81,40. Música — MuchoMusic 58,07 frente a 65,65.

Las filas de dialectos son la excepción interesante, porque tiny no pierde de manera uniforme. Supera a su hermano mayor en Anhui (5,42 frente a 5,76), mandarín nororiental (4,21 frente a 4,28), Jiangsu (11,44 frente a 12,15), Shaanxi (5,81 frente a 6,00), Shandong (10,17 frente a 10,69) y Yunnan (11,28 frente a 11,53), y pierde claramente en hakka (24,08 frente a 16,51), hokkien (14,15 frente a 12,84) y shanghainés (12,49 frente a 11,15). Que un modelo de 2,7B activos mantenga seis de las quince filas de dialectos frente a uno de 6,5B activos es lo más favorable de toda la evaluación, y está enterrado en medio de una tabla donde el promedio lo oculta.

Hay dos lagunas que merecen mencionarse porque son verificables y la tarjeta no las señala. Primero, cinco filas de la imagen de reconocimiento no llevan ningún valor del modelo tiny en absoluto: las filas de diarización de hablantes y de permutación mínima concatenada para AISHELL-4, AliMeeting y AMI se imprimen como un guion. Lo que haga el modelo tiny en «quién habló cuándo» no está publicado. Segundo, la imagen de inteligencia de texto tiene cuatro columnas y ninguna de ellas es el modelo tiny: sus columnas son Ming-3.0-audio-flash, Qwen3.8-Omni Flash, Qwen3.5-Omni Plus y Qwen3.5-Omni Flash. La sección de evaluación de la tarjeta dice que las cifras a continuación incluyen resultados para ambas variantes de Ming, lo cual es cierto para las dos imágenes de audio y no lo es para la de texto. Si necesitas saber si la arquitectura base tiny puede mantener una conversación de razonamiento, inclusionAI no te lo ha dicho.

Lo que la semana realmente te compró

Antes del 16 de octubre, un lector que quería probar este checkpoint tenía una descarga de 17,7 GB, una configuración que describía un modelo de video-lenguaje con una ventana de 8K y una ficha que le indicaba cargar código personalizado sin habilitar código personalizado. Después del 19 de octubre, tiene una configuración que coincide con sus propios archivos de modelado, una afirmación de 128K que se puede poner a prueba con pesos sin cambios, tres perfiles de despliegue con nombre, incluido uno de una sola GPU, un paquete de voz con transcripciones y una ficha que dice para qué sirve el modelo. Nada de eso es un modelo nuevo. Todo ello es la diferencia entre un checkpoint en un disco y un checkpoint que alguien puede evaluar en una tarde.

El costo es la parte que el dimensionamiento oculta. En las propias tablas del proveedor, pasar del modelo de 6,5B activos al de 2,7B activos te da un octavo del número de GPU y te cobra 27,8 puntos de URO-Bench-Pro, diez de VoiceBench y aproximadamente un quinto de la puntuación Chain de audio largo. Es un intercambio razonable para un servicio de transcripción, malo para cualquier cosa que tenga que razonar a lo largo de una hora de audio, y el proveedor imprimió ambas columnas una al lado de la otra para que puedas decidir cuál estás construyendo.

Dónde un router se gana su lugar, y dónde no

OrcaRouter no ofrece Ming-3.0-audio-tiny. No está en nuestro catálogo, no podemos darte un endpoint para él y nada de lo que aquí se dice debe interpretarse como una oferta para hacerlo. En un pipeline construido en torno a un checkpoint como este, un enrutador es útil para la mitad que no es el checkpoint. Los sistemas de voz son, en su mayoría, trabajo de texto: el prompt que decide qué preguntar al audio, el analizador que convierte una etiqueta de idioma delimitada por tabulaciones en una salida estructurada, el resumen redactado a partir de la transcripción, la clasificación que decide si un archivo de audio va al modelo 2.7B o al 126B. Esas son llamadas de texto normales, y una API para más de 200 modelos con un 0 % de recargo —el precio de lista del proveedor se traslada sin cambios, así que una rebaja de precio de un proveedor se aplica en nuestro lado el mismo día— es más sencillo de conectar que una pila de contratos con proveedores. La conmutación por error automática es lo que te permite poner un modelo recién documentado detrás de una parte de un pipeline sin apostar toda la ruta por él.

Vale la pena enunciar el límite con claridad. Un checkpoint de 17,7 GB que ejecutas en tu propia GPU es infraestructura, no una llamada a una API. Un router enruta llamadas. No convierte un modelo de audio de pesos abiertos en uno alojado, ni convierte tres descargas en evidencia de producción.

Qué ver

Tres cosas cambiarían este panorama, y las tres son verificables. Primero, una puntuación independiente: en el momento en que una arena o un evaluador de terceros incluya este checkpoint, la brecha de 27,8 puntos en interacción hablada deja de ser un autoinforme del proveedor y se convierte en un dato; hasta entonces, conviene señalar que ese mismo proveedor también publicó seis filas de dialectos en las que gana el modelo más pequeño. Segundo, un archivo LICENSE dentro del repositorio de Hugging Face, lo que haría pasar MIT de un enlace en una ficha a un hecho en el artefacto que un proceso de adquisición lee de verdad. Tercero, un repositorio de GitHub pequeño y específico: hoy los perfiles de despliegue que hacen real la afirmación de una sola GPU viven en un repositorio que lleva el nombre del modelo más grande, lo cual no es problema hasta que alguien lo renombre.

Hasta que llegue uno de esos, la descripción precisa es poco glamurosa. Los mismos pesos que el 3 de septiembre, unos 18 GB de Thinker, una ventana de 131,072 tokens que llegó en una configuración y no en un checkpoint, tres perfiles de servicio que caben en una tarjeta para texto y dos para voz, MIT sobre el papel, cinco filas de referencia que se negó a publicar, y una model card que es tres días más joven que la configuración que describe. La semana no hizo mejor al modelo. Lo hizo legible, y para un checkpoint de pesos abiertos que nadie anunció, legible es todo el producto.