Ming-3.0-asr-tiny vs Granite Speech 5.0 470M TurboCTC: 19× mais parâmetros, nenhuma vantagem de throughput

Coloque Ming-3.0-asr-tiny e Granite Speech 5.0 470M TurboCTC na mesma página e o primeiro número que salta aos olhos é a razão de parâmetros: 8,87 bilhões contra 470 milhões, cerca de dezenove para um. O segundo é que o modelo pequeno é o que foi feito para velocidade por uma margem enorme, e o terceiro é que isso não é uma contradição. O Granite Speech 5.0 470M TurboCTC não tem decodificador para executar — é um codificador que emite caracteres e para. O Ming-3.0-asr-tiny tem um decodificador de mistura de especialistas de 24 camadas que escreve um token por vez e pode receber, antecipadamente, a informação de quais nomes estão prestes a ser ditos. Um é uma máquina de vazão para áudio em inglês. O outro é uma máquina de contexto para áudio em chinês. A IBM lançou o Granite Speech 5.0 470M TurboCTC em 25 de agosto de 2026 com um post de blog, um relatório técnico e uma entrada no ranking Open ASR; a inclusionAI colocou os pesos do Ming-3.0-asr-tiny no Hugging Face em 14 de outubro de 2026 sem nenhum anúncio. Todos os números do Granite usados aqui vêm do model card do Granite Speech 5.0 470M TurboCTC, que traz a tabela do Open ASR, a varredura de ruído e a declaração de idioma único. As falhas de IA e os incidentes de agentes documentados por trás de lançamentos como este estão reunidos no OrcaRouter AI Incident Archive onde cada entrada traz suas próprias fontes, gravidade, nota de confiança e sinalização de disputa.

Nenhum dos modelos está no catálogo do OrcaRouter, e nenhum aparece na avaliação do outro, portanto não há comparação direta entre fornecedores para citar. Tudo abaixo é extraído da configuração e dos gráficos publicados por cada modelo, identificados como tal.

A bifurcação arquitetônica, dita de forma simples

O Granite Speech 5.0 470M TurboCTC é um modelo apenas com codificador, e a IBM afirma que isso é uma ruptura deliberada com o seu próprio passado. Os modelos Granite Speech anteriores eram um codificador acústico, um projetor e um modelo de linguagem Granite com adaptadores LoRA — ou seja, eram modelos de linguagem usando um microfone. A geração 5.0 abandona totalmente o modelo de linguagem e otimiza um objetivo CTC sobre uma cabeça BPE de 16.384 unidades. Dezesseis blocos conformer, 1.024 dimensões ocultas, oito cabeças de atenção, atenção por blocos sobre 128 quadros, autocondicionamento no oitavo bloco e um kernel de convolução de largura 7.

A subamostragem é a parte que produz a velocidade. O áudio chega como log-mel mais deltas a 100 quadros por segundo em 320 dimensões. Três estágios de redução de 2× — primeiro um reshape que empilha quadros consecutivos, depois convoluções com stride dentro dos dois primeiros blocos conformer — levam isso a 12,5 tokens de saída por segundo. O blog da IBM é explícito ao afirmar que esta é a mudança em relação aos seus codificadores anteriores, que emitiam 50 caracteres por segundo: quatro vezes menos passos de saída por segundo de áudio, e nenhum laço autorregressivo decidindo cada um.

Ming-3.0-asr-tiny seguiu o caminho oposto em todos os eixos que importam aqui. Seu decodificador é composto por 24 camadas de mixture-of-experts com 128 especialistas, oito roteados por token, um especialista compartilhado e uma primeira camada densa, alternando três camadas de Kimi Delta Attention com uma camada Gated MLA. Ele grava tokens de forma autorregressiva. Também traz um encoder em formato Whisper de 32 camadas e 1.280 dimensões — o formato do Whisper large-v3, com o repositório incluindo modeling_whisper_encoder.py e o aviso MIT da OpenAI em um arquivo separado. Ming manteve o modelo de linguagem e fez dele a parte cara.

De onde os números realmente vêm

Esta é a seção que decide quanto peso merecem as alegações de cada modelo, e os dois lançamentos não são comparáveis em natureza.

• Granite Speech 5.0 470M TurboCTC — 5,00% de WER agregado nos conjuntos públicos de inglês de formato curto do Open ASR leaderboard, em 25 de agosto de 2026, com 1,93% no LibriSpeech test-clean e 3,59% no test-other. Seu modelo irmão não comercial obtém 4,85%. A vazão é superior a 12.600 RTFx em uma única H200 com inferência em lote. Há um relatório técnico no arXiv e uma postagem no blog do Hugging Face, e os resultados foram submetidos a um leaderboard público que os lista.

• Ming-3.0-asr-tiny — 3,55 de CER médio em conjuntos públicos chineses, 3,99 de WER médio em conjuntos públicos em inglês, 8,42 em quinze conjuntos de dialetos, 1,67 em cinco domínios internos, 4,36 em um agregado de ASR com contexto. Tudo isso existe como imagens PNG em um model card. Não há relatório técnico, nem submissão a leaderboard, nem script de avaliação no repositório.

Vale a pena abrir esse post de blog pelo mesmo motivo que a ficha do modelo: é o rastro que Ming não tem. A IBM publicou um artigo datado, um relatório técnico e uma entrada em leaderboard, e a alegação de throughput no artigo pode ser verificada com a configuração de lote que ele descreve.

Essa assimetria não é uma crítica aos números do Ming; é uma afirmação sobre o que você pode verificar. Qualquer pessoa pode reexecutar as métricas do Open ASR do Granite a partir de dados públicos em uma tarde. Reexecutar as do Ming exige reconstruir seus conjuntos de teste, incluindo cinco domínios internos cuja composição não é publicada.

Mais uma assimetria, e ela segue na direção oposta: os dois modelos não compartilham um único conjunto de avaliação. Os gráficos do Granite são somente em inglês, abrangendo LibriSpeech, AMI, Earnings-22, GigaSpeech, SPGISpeech, TED-LIUM e VoxPopuli. A média em inglês do Ming usa LibriSpeech, Multilingual LibriSpeech, FLEURS English, Common Voice 15 English e VoxPopuli — com sobreposição em dois de cinco, com agregação diferente. Um leitor que queira saber "qual é mais preciso em inglês" não obterá resposta de nenhum dos fornecedores, porque nenhum deles fez a pergunta.

Aqui, velocidade significa duas coisas diferentes.

O RTFx de 12.600 da IBM é um número de vazão em lote: áudio processado em massa por uma GPU, mais de três horas e meia de fala por segundo de computação. É o número certo para transcrever um acervo, e é quase sem significado para um microfone ao vivo. A IBM até oferece streaming — uma demonstração WebGPU no navegador, atenção por blocos e um caminho MLX para Apple Silicon —, mas o número de destaque descreve o caso em lote.

A Ming não publica nenhum RTFx. O que ela publica é um tamanho: 17,7 GB de pesos BF16 e um decodificador autorregressivo com 128 especialistas. O loop token a token é o modelo de custo. Cada segundo extra de áudio significa mais etapas do decodificador, e cada etapa do decodificador envolve uma decisão de roteamento entre 128 especialistas. Essa é a razão estrutural pela qual um modelo somente encoder 19× menor é o que tem uma alegação de throughput, e isso não precisa de um benchmark para ser verdade.

A consequência prática é que eles não competem pelo mesmo tipo de implantação. O Granite Speech 5.0 470M TurboCTC foi projetado para rodar em um laptop, um celular ou um único H200 processando um acervo de podcasts. O Ming-3.0-asr-tiny precisa de uma GPU CUDA, PyTorch 2.11.0, torchaudio 2.11.0, Transformers 5.12.1, fla-core 0.5.2 e trust_remote_code=True, e um adaptador SGLang separado fixado em um commit específico se você quiser servi-lo. Uma delas é uma lista de dependências que você pode colocar em um produto.

A capacidade da qual o Granite abriu mão para chegar lá

O design apenas com encoder traz ganhos em velocidade e tamanho, e a IBM é franca sobre a conta. Seu blog afirma que os modelos 5.0 abrem mão de capacidades que as versões equipadas com LM tinham, citando tradução de fala e viés de palavras-chave. Esse segundo item é o interessante, porque viés de palavras-chave é exatamente o que Ming chama de Context ASR e trata como seu principal recurso.

O Ming aceita uma lista de hotwords ou o turno anterior do diálogo como parte do prompt de transcrição, e o exemplo do próprio fornecedor é instrutivo: um clipe de áudio em que o título do filme 同囚 sai como 同球 no caminho simples e corretamente quando o tema e uma lista de hotwords são fornecidos. O card faz questão de dizer que hotwords são dicas, e não garantias, o que é a formulação honesta — o enviesamento desloca a probabilidade, não impõe a saída.

O Granite Speech 5.0 470M TurboCTC não tem equivalente. Não há prompt, nem campo de contexto, nem lista de nomes para fornecer, porque não há modelo de linguagem a condicionar. Se o seu áudio estiver repleto de nomes de produtos, nomes de medicamentos ou sobrenomes de um banco de dados de clientes, o modelo tem exatamente uma ferramenta: aquilo que aprendeu no treinamento. A resposta da IBM para esse tipo de problema é um notebook para ajuste fino com seus próprios dados, que é um fluxo de trabalho diferente com um custo diferente.

A cobertura de idiomas funciona da mesma forma. Granite é inglês, declarado como o único idioma suportado, treinado em cerca de 60.000 horas de áudio em inglês em dez dias em oito H100s. Ming é chinês e inglês, com quinze conjuntos de teste de dialetos regionais chineses, incluindo cantonês, minnan e xangainês, e uma média de dialetos de 8,42 que seus próprios gráficos colocam à frente de todas as linhas de base abertas que lista.

Escolhendo entre eles

Se o seu áudio é em inglês e o seu problema é volume — gravações de chamadas, arquivos, transcrições de reuniões, qualquer coisa em que o custo por hora supere o último ponto de precisão — o Granite Speech 5.0 470M TurboCTC é o ponto de partida mais sensato, e o fato de ele rodar quantizado por meio de um runtime nativo em C++ sem Python é uma vantagem de implantação que nenhuma cobertura de dialetos chineses compensa.

Se o seu áudio for mandarim ou um dialeto regional, ou se o problema de precisão forem nomes próprios que você pode listar antecipadamente, o Ming-3.0-asr-tiny é o único dos dois que resolve isso, e o faz com uma arquitetura criada para isso, em vez de um ajuste fino acoplado posteriormente. Ele também tem cinco dias de existência e 35 downloads, o que significa que você estaria entre os primeiros a descobrir como ele falha.

Há um terceiro caso que vale a pena nomear: você quer os dois e quer saber qual está ganhando no seu próprio tráfego. Esse é o problema de roteamento para o qual o OrcaRouter foi criado. Nenhum desses modelos está hospedado lá — Ming-3.0-asr-tiny e Granite Speech 5.0 470M TurboCTC são ambos pesos abertos auto-hospedados — mas o mesmo endpoint que fica na frente dos seus modelos hospedados pode ficar na frente de um caminho de ASR candidato, com failover automático para que uma requisição com falha recaia sobre o incumbente em vez de aparecer para um usuário, e uma única chave para mais de 200 modelos, de modo que a comparação não exija um segundo contrato.

O que nenhum dos dois fornecedores lhe mostrou

Nenhum dos dois modelos foi avaliado por alguém independente. Os números do Granite, pelo menos, estão num ranking público para o qual outras equipas também submetem, o que significa que podem ser contestados; os do Ming estão em quatro PNGs que ainda estavam a ser editados na tarde em que foram publicados. Nenhuma das duas fichas documenta marcas temporais ao nível da palavra nem diarização de falantes, pelo que qualquer pipeline que necessite de temporização está fora do âmbito de ambos — a ficha do Granite descreve uma saída de transcrição simples, e as notas de utilização do Ming dizem explicitamente que a saída é texto de transcrição sem marcas temporais ao nível da palavra nem diarização.

A comparação que realmente resolveria isso não pode ser executada por nenhum dos dois fornecedores. Ela exige um corpus, um par de idiomas, um script de pontuação e ambos os modelos na mesma GPU. Até que alguém publique isso, a única afirmação defensável é a que as arquiteturas já fazem: um modelo autorregressivo de mistura de especialistas dezenove vezes maior não compete com um modelo CTC somente encoder em vazão, e não se pode dizer a um modelo CTC somente encoder quais palavras esperar.