Granite Speech 5.0 2B frente a Granite Speech 5.0 470M TurboCTC: 35× el rendimiento por 0,45 puntos de WER

IBM publicó dos checkpoints de Granite Speech 5.0 con un día de diferencia, y lo interesante de ellos no es que uno sea más grande. Es que Granite Speech 5.0 2B obtiene un WER medio en inglés del 5,06 % con 570 RTFx en Open ASR Leaderboard, mientras que Granite Speech 5.0 470M TurboCTC obtiene un 5,51 % con 19.870 RTFx —aproximadamente treinta y cinco veces el rendimiento por bastante menos de medio punto de precisión. Si suponías que el número de parámetros te aporta algo proporcional, no es así. Lo que te aporta es traducción, sesgo por palabras clave, control de identificación de idioma y un modelo de lenguaje capaz de seguir un prompt. La velocidad no está en esa lista. Los fallos de IA documentados y los incidentes de agentes que hay detrás de lanzamientos como este se recopilan en el OrcaRouter AI Incident Archive donde cada entrada incluye sus propias fuentes, gravedad, grado de confianza y marca de disputa.

Ambas cifras son de IBM, medidas en la misma tabla de clasificación y fechadas con una semana de diferencia entre sí, lo que convierte esta en una de las comparaciones intra-familia más limpias disponibles — y también en una en la que aun así deberías asumir una evaluación realizada por el proveedor, no auditada. Ninguno de los modelos tiene una reproducción independiente y, en el momento de escribir esto, ninguno es servido por ningún proveedor de inferencia que pueda encontrar, incluido nuestro propio catálogo.

La misma semana, dos historias de lanzamiento diferentes

Estos dos modelos no son gemelos de distintos tamaños. Se lanzaron de forma diferente y están construidos de forma diferente, y sus historiales de lanzamiento explican por qué sus fichas de modelo se leen de manera tan distinta.

• Granite Speech 5.0 2B — repositorio creado el 7 de octubre de 2026, pesos registrados esa misma noche, ficha editada en abierto durante dos semanas, fecha de lanzamiento fijada el 20 de octubre, blog de anuncio el 21 de octubre. Modelo nuevo, comienzo discreto, final ruidoso.

• Granite Speech 5.0 470M TurboCTC — se lanzó por primera vez el 25 de agosto de 2026 como un modelo exclusivamente en inglés con una cifra declarada de 12.600 RTFx. La versión del 21 de octubre es una actualización, no un modelo nuevo: la misma arquitectura, una nueva cabeza BPE multilingüe de 16.384 tokens, seis idiomas añadidos y puntuación y uso de mayúsculas nativos.

Esa diferencia importa cuando se leen las cifras. El 5,06 % del 2B es una evaluación nueva de un checkpoint nuevo. El 5,51 % del 470M es una mejora respecto a una cifra del 5,78 % publicada en agosto, y el blog de IBM lo presenta como «mejor WER en inglés pese a añadir seis idiomas», que es la forma correcta de interpretarlo: la actualización multilingüe no costó precisión en inglés, sino que ganó algo.

Dos arquitecturas, una consecuencia

Granite Speech 5.0 2B es un modelo de voz-lenguaje. Un codificador CTC Conformer de 16 bloques alimenta a un proyector transformer de consulta por ventana de dos capas, que reduce la resolución 10× a embeddings acústicos de 10 Hz, los cuales pasan a un checkpoint intermedio de granite-4.0-1b-base extendido a 16k posiciones con YaRN. El ajuste fino supervisado es LoRA sobre el proyector y el modelo de lenguaje de forma conjunta. La generación es autorregresiva: el modelo de lenguaje escribe la transcripción token por token.

Granite Speech 5.0 470M TurboCTC es un codificador. Dieciséis bloques Conformer, objetivo CTC, una cabeza de clasificación BPE multilingüe de 16.384 unidades, submuestreo temporal por 8 para reducir las tramas de 100 Hz a 12,5 Hz, decodificación voraz no autorregresiva. Sin proyector, sin modelo de lenguaje, sin bucle de generación. La salida está puntuada y con mayúsculas porque el modelo fue entrenado para emitir puntuación en el flujo de tokens, no porque un segundo modelo la añadiera después.

La consecuencia es la comparación completa. Un modelo de 2B que genera tokens tiene un piso de latencia por token que ninguna cantidad de procesamiento por lotes elimina por completo; un codificador no autorregresivo emite toda su salida en una sola pasada hacia adelante, así que la capacidad de procesamiento escala con el tamaño del lote y casi nada más. Así es como un modelo con una cuarta parte de los parámetros termina siendo treinta y cinco veces más rápido en lugar de cuatro veces más rápido.

También es la razón por la que el 470M renuncia a cosas que tiene el 2B. No hay un prompt que seguir, así que no hay instrucción de identificación de idioma ni lista de palabras clave, ni traducción: una cabeza CTC asigna la acústica a tokens; no se le puede indicar que convierta el habla en alemán en texto en inglés.

El marcador, y de dónde salió cada número

• Parámetros — Granite Speech 5.0 2B es 2B; Granite Speech 5.0 470M TurboCTC es 470M.

• WER en inglés, promedio de 9 conjuntos de Open ASR — 5,06 % frente a 5,51 %. Ambas ejecuciones de evaluación de IBM, 15–20 de octubre de 2026.

• Rendimiento, RTFx — 570 frente a 19.870. Mismo entorno de evaluación del ranking, mismo intervalo de fechas.

• WER en condiciones ruidosas y reverberantes, FFASR — 14.80% (puesto #4 de 42) frente a 17.57% (puesto #12). El 2B es más robusto en aproximadamente 2.8 puntos.

• Licencia: Apache 2.0 para ambos. TurboCTC también tiene un hermano -NC bajo CC-BY-NC-SA-4.0; comprueba el nombre del repositorio antes de publicar.

• Idiomas — seis idiomas de transcripción (En, Fr, De, Es, Pt, Ja) más traducción, frente a siete (añadiendo italiano) sin traducción.

• Funciones de control — solicitud de identificación de idioma, sesgo de palabras clave hasta 2.000 términos y traducción de voz en el 2B; ninguna en el 470M.

• Entrenamiento — 390.000 horas durante 40 días en 8 H100 para el 2B; 153.000 horas durante 24 días en 8 H100 para el 470M.

La brecha de robustez es la fila que la gente se salta. Una velocidad 35 veces mayor llama la atención, pero un WER del 17,57 % en audio ruidoso de campo lejano frente al 14,80 % supone una diferencia relativa de error del 19 %, y el audio ruidoso es lo que tienen la mayoría de los despliegues reales. Si tu audio proviene de un portátil en una cocina, la ventaja de velocidad del modelo pequeño se está gastando en una transcripción que luego tienes que corregir.

El único aspecto en el que el 470M realmente gana en precisión

Japonés. La ficha de TurboCTC afirma que supera al modelo 2B en tasa de error de caracteres en CSJ eval1, CommonVoice-17 y FLEURS —los tres conjuntos de prueba— y lo indica explícitamente en el texto de la ficha en lugar de esconderlo en un gráfico. Las cifras en sí solo aparecen en una figura, por lo que el tamaño de la ventaja no se puede citar, pero la dirección es una afirmación de IBM sobre sus propios dos modelos, lo que la hace más creíble que una comparación entre proveedores.

Hay un mecanismo plausible. El 2B maneja el japonés añadiendo al entrenamiento un conjunto fonético de katakana de 92 caracteres a la cabeza de caracteres y 16.500 horas de ASR sesgado por palabras clave en japonés, además de 9.600 horas de TTS de Fineweb-2, pero aun así hace pasar el resultado por un modelo de lenguaje entrenado mayoritariamente con texto europeo. El 470M usa un único vocabulario BPE multilingüe de 16.384 unidades con japonés incluido desde el principio y dedica 8.130 horas a ReazonSpeech y 1.860 a japonés sintético. Si tu producto es la transcripción de japonés a gran escala, esta es la única comparación en la que el modelo pequeño es a la vez más rápido y mejor, y vale la pena hacer una prueba directa antes de optar por defecto por el 2B por tamaño.

Coste calculado, no cotizado

IBM no publica un precio para ninguno de los dos modelos. Ambos son pesos de Apache 2.0, así que el costo de ejecutarlos es el costo del hardware, y las cifras de RTFx son la única palanca de la que dispones para estimarlo.

Toma una carga de trabajo de 1000 horas de audio al día, el archivo de un centro de llamadas de tamaño medio. A 570 RTFx, el modelo de 2B necesita unos 6300 segundos de tiempo de GPU, poco más de 1,7 horas de GPU. A 19 870 RTFx, el de 470M necesita unos 181 segundos, o 0,05 horas de GPU. En una H100 a aproximadamente $2–3 por hora, eso son unos pocos dólares al día frente a unos pocos centavos. Ambas son cifras pequeñas, y esa es la cuestión: a esta escala, ninguno de los dos modelos es caro, y la decisión debería basarse en la precisión y la capacidad, no en el cómputo.

La aritmética cambia en el otro extremo. Si transcribes un flujo en tiempo real en un portátil, o ejecutas una aplicación en el dispositivo, el 2B necesita una GPU para mantenerse por delante del tiempo real, mientras que el 470M tiene margen de sobra, por lo que IBM posiciona TurboCTC para portátiles, teléfonos y dispositivos de borde, y documenta mlx-audio para Apple Silicon. El 2B también se ejecuta en llama.cpp y mlx-audio, pero en Q8_0 con una advertencia de que la cuantización de menor número de bits pierde precisión después de aproximadamente un minuto de audio.

Elegir, en el orden en que la decisión realmente ocurre

No empieces por el benchmark. Empieza por lo que requiere la tarea, porque tres de las diferencias son requisitos estrictos y no compensaciones.

¿La salida debe estar en un idioma diferente al de la entrada? Entonces es el 2B, y no hay comparación que hacer. El 470M no puede traducir. Este único requisito lo elimina para los flujos de trabajo de subtítulos, las notas de reuniones multilingües y cualquier archivo en inglés creado a partir de audio no inglés.

¿La transcripción debe contener términos específicos? Nombres de productos, nombres de medicamentos, IDs de tickets, la lista de SKU de un cliente — el 2B acepta hasta 2.000 términos como lista de palabras clave y se entrenó con 23.600 horas de audio con sesgo de palabras clave exactamente para esto. El 470M no tiene interfaz de prompts. No es posible un despliegue basado en glosario en el modelo pequeño.

¿Está limpio el audio? Si la respuesta es sí, la brecha de 0,45 puntos en inglés es pequeña y la ventaja de velocidad de 35× es casi gratis. Si no —reuniones, centros de llamadas, micrófonos de campo lejano—, la brecha de 2,8 puntos de FFASR indica que los errores del modelo pequeño te costarán más de lo que te ahorra su velocidad.

¿Es japonés?Prueba primero el 470M. IBM dice que gana en los tres conjuntos de prueba de japonés.

¿Está en un dispositivo? El 470M se diseñó para ello. El 2B puede ejecutarse en uno, pero no se diseñó para ello.

El resumen sincero es que no son dos tamaños del mismo producto. Uno es un sistema de transcripción y traducción con una interfaz de control; el otro es un motor de transcripción muy rápido y muy barato, sin controles. La mayoría de los equipos que creen que necesitan «el mejor» en realidad necesitan responder primero las preguntas sobre traducción y glosario, y esas dos respuestas zanjan la cuestión.

Ejecutar ambos sin apostar por ninguno

La configuración de producción sensata para un equipo que prueba esta familia es desplegar ambos, porque tienen modos de fallo opuestos. El 470M se encarga de la transcripción limpia masiva a un coste que se redondea a cero; el 2B se encarga del audio difícil, del audio que no está en inglés y de cualquier cosa que requiera un glosario. Un enrutador que clasifica cada archivo entrante —detección de idioma, una estimación de la relación señal-ruido, una comprobación de si se adjunta un glosario— y lo envía al checkpoint correcto es quizá cincuenta líneas de código y reduce la tasa de error en la cola sin pagar los precios del 2B por el volumen principal.

Esa etapa de clasificación es una llamada a un modelo pequeño, y es la parte que vale la pena ejecutar a través de un único endpoint en lugar de integrar un segundo SDK de proveedor: OrcaRouter expone más de 200 modelos detrás de una única API compatible con OpenAI al precio de lista del proveedor, sin recargo añadido, y su DSL de enrutamiento puede expresar el despacho por idioma y calidad como una regla en lugar de código de aplicación. La conmutación automática por error importa sobre todo en la semana posterior a un lanzamiento como este, cuando un checkpoint tiene solo dos días, nada se ha verificado de forma independiente y la forma más segura de probarlo es mantener una segunda ruta preparada. Nada de eso te ayuda aún a ejecutar Granite Speech en sí — hoy no servimos ninguno de los dos checkpoints, así que los modelos de voz se mantienen autoalojados y la capa de enrutamiento comienza un paso más abajo.

Si solo vas a desplegar uno, despliega el 2B. Es el modelo que puede hacer todo lo que puede hacer el 470M, a una velocidad que sigue siendo treinta y cinco veces más rápida que el tiempo real y con una precisión superior en todos los benchmarks que IBM publicó, excepto en japonés. El 470M es el especialista que añades cuando la factura o el perfil de latencia lo justifican, no la opción predeterminada con la que empiezas.