Ming-3.0-asr-tiny vs. Granite Speech 5.0 470M TurboCTC: 19× más parámetros, pero nada de throughput

Si se colocan Ming-3.0-asr-tiny y Granite Speech 5.0 470M TurboCTC en la misma página, el primer número que salta a la vista es la proporción de parámetros: 8.870 millones frente a 470 millones, aproximadamente diecinueve a uno. El segundo es que el modelo pequeño es el que está diseñado para la velocidad por un margen enorme, y el tercero es que esto no es una contradicción. Granite Speech 5.0 470M TurboCTC no tiene decodificador que ejecutar: es un codificador que emite caracteres y se detiene. Ming-3.0-asr-tiny tiene un decodificador de mezcla de expertos de 24 capas que escribe un token a la vez y al que se le puede indicar de antemano qué nombres están a punto de decirse. Uno es una máquina de rendimiento para audio en inglés. El otro es una máquina de contexto para audio en chino. IBM publicó Granite Speech 5.0 470M TurboCTC el 25 de agosto de 2026 con una entrada de blog, un informe técnico y una entrada en la tabla de clasificación Open ASR; inclusionAI publicó los pesos de Ming-3.0-asr-tiny en Hugging Face el 14 de octubre de 2026 sin ningún anuncio. Todas las cifras de Granite utilizadas aquí proceden de la ficha del modelo Granite Speech 5.0 470M TurboCTC, que incluye la tabla de Open ASR, el barrido de ruido y la declaración de un solo idioma. Los fallos de IA documentados y los incidentes de agentes que hay detrás de lanzamientos como este se recopilan en el Archivo de Incidentes de IA de OrcaRouter, donde cada entrada incluye sus propias fuentes, gravedad, calificación de confianza e indicador de disputa.

Ninguno de los dos modelos está en el catálogo de OrcaRouter, y ninguno aparece en la evaluación del otro, así que no hay una comparativa directa entre proveedores que citar. Todo lo que sigue se extrae de la configuración y los gráficos publicados por cada modelo, etiquetado como tal.

La bifurcación arquitectónica, explicada sin rodeos

Granite Speech 5.0 470M TurboCTC es un modelo solo de codificador, e IBM dice que se trata de una ruptura deliberada con su propio pasado. Los modelos Granite Speech anteriores eran un codificador acústico, un proyector y un modelo de lenguaje Granite con adaptadores LoRA —es decir, eran modelos de lenguaje con un micrófono puesto—. La generación 5.0 elimina por completo el modelo de lenguaje y optimiza un objetivo CTC sobre una cabeza BPE de 16.384 unidades. Dieciséis bloques conformer, 1.024 dimensiones ocultas, ocho cabezas de atención, atención por bloques sobre 128 tramas, autocondicionamiento en el octavo bloque y un núcleo de convolución de ancho 7.

El submuestreo es la parte que produce la velocidad. El audio llega como log-mel más deltas a 100 fotogramas por segundo en 320 dimensiones. Tres etapas de reducción de 2× —primero una reformulación que apila fotogramas consecutivos, luego convoluciones con zancada dentro de los dos primeros bloques conformer— lo llevan a 12,5 tokens de salida por segundo. El blog de IBM es explícito en que este es el cambio respecto de sus codificadores anteriores, que emitían 50 caracteres por segundo: cuatro veces menos pasos de salida por segundo de audio, y sin ningún bucle autorregresivo que decida cada uno.

Ming-3.0-asr-tiny fue por el camino opuesto en todos los ejes que importan aquí. Su decodificador consta de 24 capas de mezcla de expertos con 128 expertos, ocho enrutados por token, un experto compartido y una primera capa densa, alternando tres capas de K​imi Delta Attention con una capa de Gated MLA. Escribe tokens de forma autorregresiva. También lleva un codificador con forma de Whisper de 32 capas y 1.280 dimensiones —la forma de Whisper large-v3—, y el repositorio incluye modeling_whisper_encoder.py así como el aviso MIT de O​penAI en un archivo aparte. Ming conservó el modelo de lenguaje y lo convirtió en la parte costosa.

De dónde vienen realmente los números

Esta es la sección que determina cuánto peso merecen las afirmaciones de cualquiera de los dos modelos, y los dos lanzamientos no son comparables en naturaleza.

• Granite Speech 5.0 470M TurboCTC — 5,00 % de WER agregado en los conjuntos públicos de inglés de formato corto del Open ASR leaderboard, a fecha de 25 de agosto de 2026, con 1,93 % en LibriSpeech test-clean y 3,59 % en test-other. Su hermano no comercial obtiene un 4,85 %. El rendimiento supera los 12.600 RTFx en un único H200 con inferencia por lotes. Hay un informe técnico en arXiv y una publicación de blog en Hugging Face, y los resultados se han enviado a un leaderboard público que los incluye.

• Ming-3.0-asr-tiny — 3,55 de CER promedio en conjuntos públicos de chino, 3,99 de WER promedio en conjuntos públicos de inglés, 8,42 en quince conjuntos de dialectos, 1,67 en cinco dominios internos, 4,36 en un agregado de ASR con contexto. Todo existe como imágenes PNG en una tarjeta de modelo. No hay informe técnico, ni envío a una tabla de clasificación, ni script de evaluación en el repositorio.

Vale la pena abrir esa entrada del blog por la misma razón que la ficha del modelo: es el rastro que Ming no tiene. IBM publicó un artículo con fecha, un informe técnico y una entrada en la tabla de clasificación, y la afirmación sobre el throughput que aparece en el artículo puede contrastarse con la configuración de lotes que describe.

Esa asimetría no es una crítica a las cifras de Ming; es una afirmación sobre lo que se puede verificar. Cualquiera puede reproducir las cifras de Open ASR de Granite a partir de datos públicos en una tarde. Reproducir las de Ming requiere reconstruir sus conjuntos de prueba, incluidos cinco dominios internos cuya composición no se ha publicado.

Una asimetría más, y va en la dirección opuesta: los dos modelos no comparten ni un solo conjunto de evaluación. Los gráficos de Granite son únicamente en inglés y abarcan LibriSpeech, AMI, Earnings-22, GigaSpeech, SPGISpeech, TED-LIUM y VoxPopuli. El promedio en inglés de Ming usa LibriSpeech, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English y VoxPopuli —con superposición en dos de cinco, con una agregación diferente. Un lector que quiera saber «cuál es más preciso en inglés» no obtendrá una respuesta de ninguno de los dos proveedores, porque ninguno se planteó la pregunta.

Velocidad significa dos cosas distintas aquí.

Los 12.600 RTFx de IBM son una cifra de rendimiento por lotes: audio procesado en masa mediante una GPU, más de tres horas y media de voz por segundo de cómputo. Es la cifra correcta para transcribir un archivo, y resulta casi carente de significado para un micrófono en vivo. IBM sí ofrece streaming —una demo de WebGPU en el navegador, atención por fragmentos y una ruta MLX para Apple Silicon—, pero la cifra destacada describe el caso por lotes.

Ming no publica ningún RTFx. Lo que publica es un tamaño: 17,7 GB de pesos BF16 y un decodificador autorregresivo con 128 expertos. El bucle token por token es el modelo de coste. Cada segundo adicional de audio implica más pasos del decodificador, y cada paso del decodificador conlleva una decisión de enrutamiento entre 128 expertos. Esa es la razón estructural por la que un modelo solo-encoder 19 veces más pequeño es el que presenta una cifra de rendimiento, y no necesita un benchmark para ser cierto.

La consecuencia práctica es que estos no compiten por el mismo despliegue. Granite Speech 5.0 470M TurboCTC está diseñado para funcionar en un portátil, un teléfono o una sola H200 procesando sin descanso un archivo de pódcasts. Ming-3.0-asr-tiny necesita una GPU CUDA, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 y trust_remote_code=True, y un adaptador SGLang independiente fijado a un commit específico si quieres servirlo. Una de esas es una lista de dependencias que puedes incluir en un producto.

La capacidad que Granite sacrificó para llegar hasta ahí

El diseño basado únicamente en encoder aporta velocidad y tamaño, e IBM no oculta el costo. Su blog afirma que los modelos 5.0 renuncian a capacidades que tenían las versiones equipadas con LM, y menciona la traducción de voz y el sesgo por palabras clave. La segunda es la interesante, porque el sesgo por palabras clave es precisamente lo que Ming llama Context ASR y trata como su característica estrella.

Ming acepta una lista de palabras clave o el turno anterior de diálogo como parte del prompt de transcripción, y el ejemplo del propio proveedor es ilustrativo: un clip de audio en el que el título de la película 同囚 aparece como 同球 en la ruta simple y correctamente una vez que se proporcionan el tema y una lista de palabras clave. La ficha tiene cuidado de señalar que las palabras clave son pistas, no garantías, que es el planteamiento honesto: introducir sesgo desplaza la probabilidad, no impone la salida.

Granite Speech 5.0 470M TurboCTC no tiene equivalente. No hay prompt, ni campo de contexto, ni una lista de nombres que proporcionar, porque no hay un modelo de lenguaje al que condicionar. Si tu audio está plagado de nombres de productos, nombres de fármacos o apellidos procedentes de una base de datos de clientes, el modelo tiene exactamente una herramienta: lo que haya aprendido durante el entrenamiento. La respuesta de IBM a ese tipo de problema es un notebook para el ajuste fino con tus propios datos, lo cual es un flujo de trabajo distinto con un coste distinto.

La cobertura de idiomas funciona de la misma manera. Granite es inglés, declarado como el único idioma compatible, entrenado con aproximadamente 60.000 horas de audio en inglés en diez días con ocho H100. Ming es chino e inglés, con quince conjuntos de pruebas de dialectos regionales chinos que incluyen cantonés, minnan y shanghainés, y un promedio de dialectos de 8,42 que sus propios gráficos sitúan por delante de todas las líneas base abiertas que enumera.

Elegir entre ellos

Si tu audio está en inglés y tu problema es el volumen —grabaciones de llamadas, archivos, transcripciones de reuniones, cualquier caso en el que el coste por hora pese más que el último punto de precisión—, Granite Speech 5.0 470M TurboCTC es un punto de partida más sensato, y el hecho de que se ejecute cuantizado mediante un entorno de ejecución nativo de C++ sin Python es una ventaja de despliegue que ninguna cantidad de cobertura de dialectos chinos compensa.

Si tu audio está en mandarín o en un dialecto regional, o si el problema de precisión son los nombres propios que puedes enumerar de antemano, Ming-3.0-asr-tiny es el único de los dos que lo aborda, y lo hace con una arquitectura diseñada para ello en lugar de un ajuste fino añadido a última hora. Además, solo tiene cinco días de vida y 35 descargas, lo que significa que serías de los primeros en descubrir cómo falla.

Hay un tercer caso que merece mencionarse: quieres ambos, y quieres saber cuál está ganando con tu propio tráfico. Ese es el problema de enrutamiento para el que está diseñado OrcaRouter. Ninguno de estos modelos está alojado allí —Ming-3.0-asr-tiny y Granite Speech 5.0 470M TurboCTC son ambos pesos abiertos autoalojados—, pero el mismo endpoint que está delante de tus modelos alojados puede estar delante de una ruta ASR candidata, con conmutación por error automática para que una solicitud fallida recurra al modelo actual en lugar de mostrarse a un usuario, y una sola clave para más de 200 modelos, de modo que la comparación no requiera un segundo contrato.

Lo que ninguno de los dos proveedores te ha mostrado

Ninguno de los dos modelos ha sido evaluado por nadie independiente. Las cifras de Granite al menos se apoyan en una tabla de clasificación pública a la que otros equipos también envían resultados, lo que significa que pueden discutirse; las de Ming están en cuatro PNG que todavía se estaban editando la tarde en que se publicaron. Ninguna de las dos fichas documenta marcas de tiempo a nivel de palabra ni diarización de hablantes, así que cualquier pipeline que necesite tiempos queda fuera del alcance de ambos: la ficha de Granite describe una salida de transcripción simple, y las notas de uso de Ming dicen explícitamente que la salida es texto de transcripción sin marcas de tiempo a nivel de palabra ni diarización.

La comparación que realmente resolvería esto no puede ejecutarla ninguno de los dos proveedores. Requiere un solo corpus, un solo par de idiomas, un solo script de puntuación y ambos modelos en la misma GPU. Hasta que alguien publique eso, la única afirmación defendible es la que ya hacen las arquitecturas: un modelo autorregresivo de mezcla de expertos diecinueve veces más grande no compite en rendimiento con un modelo CTC de solo codificador, y a un modelo CTC de solo codificador no se le puede indicar qué palabras debe esperar.