Ming-3.0-audio-tiny agora roda em uma única GPU — e sua configuração finalmente indica 128K

O checkpoint por trás do Ming-3.0-audio-tiny está disponível para download desde 3 de setembro de 2026 — dois shards safetensors, 17,7 GB, enviados nove minutos após o próprio repositório ter sido criado. O que não existia até esta semana era quase tudo o que informa como executá-lo. Entre 16 e 19 de outubro de 2026, a inclusionAI substituiu a configuração distribuída em setembro, transformando uma variante de vídeo-linguagem-áudio com janela de 8.192 tokens em uma somente de áudio que afirma ter 131.072, adicionou o Talker que produz fala, adicionou dois clipes de voz de referência com suas transcrições e — depois de três dias em que o repositório não teve nenhuma ficha do modelo — escreveu uma. O código para o qual esses documentos apontam chegou ao GitHub em 15 de outubro, em um repositório batizado em homenagem ao irmão maior, Ming-3.0-audio-flash, e traz três perfis de implantação para o modelo tiny que o modelo tiny nunca teve. Ninguém anunciou nada disso. Portanto, a pergunta que vale a pena responder não é o que há de novo, porque os pesos têm sete semanas e são idênticos byte a byte ao dia em que chegaram. É o que um leitor agora consegue executar que não conseguia executar na segunda-feira passada, e quanto isso custa em precisão quando o faz. As falhas de IA e os incidentes de agentes documentados por trás de lançamentos como este estão reunidos em o OrcaRouter AI Incident Archive, onde cada entrada traz suas próprias fontes, gravidade, grau de confiança e sinalização de disputa.

O que mudou, com data referente ao commit

O log de commits do Hugging Face é curto o suficiente para ser lido na íntegra, e o formato dele é incomum: três commits em setembro, nada durante três semanas, depois seis em quatro dias.

• 3 de setembro, 11:45 e 11:49 UTC — o repositório é criado e, em seguida, os dois shards são adicionados sob "Adicionar arquivos usando a ferramenta upload-large-folder". O README que os acompanha tem o título "Ming Audio V3", declara Apache 2.0, marca o repositório automatic-speech-recognition e afirma que o repositório "atualmente documenta o caminho de ASR".

• 17 de setembro — a pasta examples/ é excluída. Depois disso, o repositório contém apenas os pesos, o código de modelagem personalizado e um cartão curto, e nada mais.

• 16 de outubro, 08:14 a 08:20 UTC — o decisivo. config.json é reescrito: max_position_embeddings no backbone de texto passa de 8.192 para 131.072, transformers_version de 4.56.2 para 5.14.1, e audio_config.model_type de bailing_moe_v3_vl_audio para bailing_moe_v3_audio — o tipo vídeo-linguagem-áudio que já não descreve o modelo. No mesmo push auto_map ganha as entradas AutoModel e AutoProcessor que não tinha, um processor_config.json aparece, e a árvore de talker/ chega: um modelo de fala de 1,4 GB, um VAE de 1,6 GB, um codificador de locutor CAM++, transdutores de estados finitos de normalização de texto para inglês e chinês. O README antigo é removido no mesmo push — durante os três dias seguintes, o repositório não tem nenhum cartão de modelo.

• 17 de outubro, 11:44 UTC — "Adicionar predefinições de voz." Dois WAVs de referência, US_James.wav e 灵楷.wav, além de um arquivo JSON contendo suas transcrições exatas.

• 19 de outubro, 10:36, 11:44 e 11:49 UTC — três commits de limpeza e upload.

• 19 de outubro, 13:19 UTC — "Adicionar cartão do modelo Ming-3.0-audio-tiny." 8.514 bytes, e o primeiro documento na história do repositório que descreve um modelo de fala e áudio em vez de um caminho de ASR.

O lado do GitHub tem a sua própria linha do tempo, e ela começa mais tarde. inclusionAI/Ming-3.0-audio-flash foi criado em 15 de outubro às 03:50 UTC — seis semanas depois de os pesos existirem — e ainda estava recebendo pushes em 19 de outubro às 14:53 UTC. Tem oito estrelas, um arquivo de licença MIT e um diretório deploy/ contendo seis perfis YAML, três dos quais são para o checkpoint minúsculo, pelo nome. Não existe nenhum repositório inclusionAI/Ming-3.0-audio-tiny; esse URL retorna 404, e o código do modelo minúsculo fica no repositório flash, ao lado do seu irmão.

A reescrita da configuração é a verdadeira história

Um campo de comprimento de contexto que aumenta 16× é o tipo de mudança que ou é cosmética ou é estrutural e, neste caso, o resto do diff indica estrutural. Em setembro, o repositório passou a incluir modeling_bailing_moe_v3_audio.py e processing_bailing_moe_v3_audio.py na árvore, mas sua configuração descrevia uma torre de áudio do tipo bailing_moe_v3_vl_audio — um resquício de uma build de vídeo-linguagem — e seu card dizia para instanciar o modelo com trust_remote_code=False, o que não é o que arquivos de modelagem personalizados querem. A configuração de outubro é a primeira em que o tipo declarado, o runtime declarado e o caminho do código concordam.

• Backbone — 24 camadas, tamanho oculto 1.536, 16 cabeças de atenção, 128 especialistas roteados com 8 ativos por token e um especialista compartilhado, tamanho intermediário do especialista 512, primeira camada densa no índice 1, fator de escala de roteamento 2,5, vocabulário 157.184.

• Atenção — MLA, com um latente KV de largura 512 e um latente de consulta de largura 256, rope_theta 6.000.000, partial_rotary_factor 0,5. A forma KV de baixo posto é o que torna uma janela de 131.072 tokens até defensável em uma única placa: o cache armazena o latente, não chaves e valores por cabeça.

• Torre de áudio — 32 camadas, largura 1.280, 20 cabeças, contexto de 3.000 quadros e 128 bins Mel, com um subamostrador de kernel [3,3,3] e stride [2,2,2]. ID do token de áudio 157.168.

• Tamanho — 9,3B de parâmetros totais, 2,7B ativados por token, bfloat16 em toda a extensão, declarado para Transformers 5.14.1.

• Entradas e saídas — áudio mais uma instrução de texto na entrada; texto na saída, ou texto mais fala sintetizada por meio do Talker opcional. Chinês e inglês, incluindo sotaques e dialetos, conforme o cartão.

O que a reescrita de configuração não faz é adicionar quaisquer pesos. Os quatro arquivos safetensors no repositório — dois shards do Thinker, o Talker, o VAE — têm os mesmos tamanhos em todas as revisões que verifiquei, desde o upload inicial. Esta foi uma mudança de documentação e empacotamento em um checkpoint inalterado, e é exatamente por isso que o salto de 8.192 para 131.072 é confiável: ninguém retreinou nada, então a alegação pode ser testada carregando o modelo e pedindo um contexto longo, em vez de ser aceita por fé.

Uma peça de documentação ainda está inconsistente. A tag de pipeline de nível superior do Hugging Face do repositório indica text-to-speech, enquanto o próprio resumo do card o chama de modelo de áudio-linguagem que aceita instruções e retorna texto ou fala. A tag é um resquício de o Talker ter sido o recurso modificado mais recentemente, e é o tipo de coisa que não importa para ninguém, exceto para quem filtra o Hub por tarefa.

Uma GPU para texto, duas para fala

É aqui que o modelo tiny faz jus ao nome, e isso só é visível porque os perfis de implantação agora são públicos. O perfil de texto do modelo flash é executado em dispositivos: "0,1,2,3,4,5,6,7" com tensor_parallel_size: 8 — oito placas de 80 GB, que é o que os pesos bf16 de 256 GB exigem antes de qualquer cache ser alocado. O modelo tiny tem três perfis próprios, e dois deles pedem uma placa.

• Texto e ASR, vLLM-Omni — um único estágio em dispositivos: "0", tamanho do paralelismo de tensor 1, max_model_len 131.072, max_num_batched_tokens 32.768, gpu_memory_utilization 0,92, amostragem com temperatura 0,6 e até 65.536 tokens de saída.

• Áudio completo com saída de fala — dois estágios. O Thinker em dispositivos: "0" a 0,78 da placa, e o Talker em dispositivos: "1" a 0,18, com o estágio Talker limitado a um token de saída e temperatura 0,0 porque não está gerando texto.

• Reprodução de ASR — um pipeline somente de thinker com um processador de logits de não repetição de 10 gramas acoplado, áudio limitado a um clipe por prompt, max_model_len 131.072, temperatura 0,0, 32.768 tokens de saída. Essa é a configuração sob a qual os números de reconhecimento do fornecedor foram obtidos, e vale a pena copiá-la exatamente se você pretende comparar.

• SGLang — uma GPU, um dispositivo visível, somente saída de texto. O cartão deixa claro que a saída de fala não está disponível neste caminho.

Esses perfis são arquivos, não prosa, e estão visíveis no repositório flash, em deploy/ — o diretório com seis perfis YAML, três deles nomeados em referência ao pequeno checkpoint.

Leia os números de memória com honestidade. 0,92 é uma fração de qualquer placa para a qual você aponta o estágio, não um requisito: os shards do Thinker somam 17,74 GB, então os pesos cabem numa placa de 24 GB com cerca de 6 GB sobrando para cache e ativações. A reserva de 0,92 é dimensionada para uma janela de 131.072 tokens mais um lote de 32.768 tokens de uma vez, e ela cai se você reduzir max_model_len. O que você não consegue fazer em uma placa é produzir fala, porque o Talker e seu VAE são um segundo processo com um segundo conjunto de pesos — 3 GB antes do codificador CAM++ e dos transdutores — e o perfil de referência dá a eles um dispositivo próprio. Texto em uma GPU, conversa em voz alta em duas: essa é a aritmética honesta, e é uma linha de orçamento diferente do oito do irmão.

O que está realmente no download?

O repositório totaliza 20,78 GB. O Thinker tem 17,74 GB em dois shards de 9,55 GB e 8,19 GB; o Talker acrescenta 1,40 GB, seu VAE 1,56 GB, o codificador de falante 28 MB, e os arquivos do tokenizador e do normalizador compõem o restante. Não há variante quantizada, nem checkpoint menor, nem conversão GGUF publicada pelo fornecedor, então o valor em bf16 é o piso, a menos que você mesmo o quantize.

• Carregando — AutoProcessor.from_pretrained(..., trust_remote_code=True, use_fast=False) e AutoModelForCausalLM.from_pretrained(..., dtype=torch.bfloat16, device_map="auto", trust_remote_code=True). O próprio trecho do card então converte audio_feats para o dtype do modelo manualmente, o que é um pequeno indício de que o caminho do processor não era a prioridade.

• O contrato de ASR — o prompt validado pede ao modelo que nomeie o idioma falado e coloque uma tabulação entre o rótulo do idioma e a transcrição. Se você estiver construindo um harness de avaliação, essa tabulação é o seu parser. Uma instrução genérica de "transcreva isto" não é a configuração medida pela inclusionAI.

• Vozes — o padrão do vLLM-Omni é uma voz integrada chamada {{1}}灵小柔{{/1}}, e o diretório do modelo traz duas predefinições de referência, {{2}}灵楷{{/2}} e {{3}}US_James{{/3}}, com transcrições. A clonagem de voz usa um WAV de referência mais sua transcrição exata; o card avisa que você não pode combinar uma seleção de voz integrada com um clipe de referência em uma única solicitação.

• Licença — MIT nos metadados do card e no LICENSE do repositório do GitHub, com data de 2025. Observe o que falta: o repositório do Hugging Face não contém nenhum arquivo LICENSE próprio. O único texto de licença fisicamente dentro dele pertence a um modelo de identificação de idioma incluído em talker/data/. A alegação de MIT é real, mas fica a um clique de distância, num repositório com o nome do outro modelo.

• Tração — três downloads e cinco curtidas, até esta semana. O modelo flash tem 22 downloads e oito curtidas. Nenhum dos números é evidência de qualidade; ambos são evidência de que um upload de setembro sem card e sem anúncio não circulou.

A imagem de benchmark, e a coluna que está faltando

Três PNGs em assets/ trazem a avaliação, e todas as três são a execução da própria inclusionAI. O fornecedor marca entradas autoavaliadas com um asterisco e observa que os modelos de comparação foram reproduzidos com seus próprios prompts e configurações de decodificação, então seus números podem diferir dos relatórios oficiais. Não encontrei nenhuma avaliação independente deste checkpoint publicada — nenhuma entrada em arena, nenhuma pontuação de terceiros —, o que significa que cada número abaixo é o fornecedor descrevendo seu próprio modelo. Isso não é motivo para ignorá-los; é motivo para lê-los como um briefing de design, e não como um veredito.

A comparação útil é ínfima em relação ao seu próprio modelo irmão, porque ambos executaram o mesmo harness. No reconhecimento, o modelo menor perde um pouco e, no raciocínio com áudio longo, perde muito.

• Média de ASR em chinês — taxa de erro de caracteres de 3,79 para Ming-3.0-audio-tiny contra 3,45 para Ming-3.0-audio-flash. Quanto menor, melhor, então o tiny está 0,34 pontos atrás.

• Média de ASR em inglês — 4,36 contra 3,69. Média de dialeto — 10,29 contra 9,40.

• BigBenchAudio — 99,20 contra 99,40. Efetivamente um empate, e a única linha em que a diferença de tamanho não aparece.

• MMAU — 75,90 contra 82,00. MMAR — 67,70 contra 74,40. MMSU — 73,06 contra 78,82. MMAU-Pro — 56,42 contra 66,41.

• Precisão em áudio longo — 56,39 contra 66,30. LongAudioSpan — 35,45 contra 41,12. Pontuação do Chain de áudio longo — 10,56 contra 12,31.

• Interação falada — URO-Bench-Pro 54,15 contra 81,92, um colapso de 27,8 pontos. VoiceBench 74,29 contra 86,74. SpeechFCEval 69,80 contra 82,60.

• Chamada de ferramentas — BFCL-v3 Audio 79,80 contra 81,40. Música — MuchoMusic 58,07 contra 65,65.

As linhas de dialeto são a exceção interessante, porque o tiny não perde de forma uniforme. Ele supera seu irmão maior em Anhui (5,42 contra 5,76), mandarim nordestino (4,21 contra 4,28), Jiangsu (11,44 contra 12,15), Shaanxi (5,81 contra 6,00), Shandong (10,17 contra 10,69) e Yunnan (11,28 contra 11,53), e perde feio em hakka (24,08 contra 16,51), hokkien (14,15 contra 12,84) e xangainês (12,49 contra 11,15). Um modelo com 2,7B ativos mantendo seis de quinze linhas de dialeto contra um com 6,5B ativos é a coisa mais favorável de toda a avaliação, e está enterrado no meio de uma tabela onde a média esconde isso.

Vale mencionar duas lacunas porque elas são verificáveis e o card não as aponta. Primeiro, cinco linhas na imagem de reconhecimento não trazem nenhum valor do tiny — as linhas de diarização de falantes e de permutação mínima concatenada para AISHELL-4, AliMeeting e AMI aparecem como um traço. O que quer que o modelo tiny faça em “quem falou quando” não foi publicado. Segundo, a imagem de inteligência de texto tem quatro colunas e nenhuma delas é o modelo tiny: suas colunas são Ming-3.0-audio-flash, Qwen3.8-Omni Flash, Qwen3.5-Omni Plus e Qwen3.5-Omni Flash. A seção de avaliação do card diz que os números abaixo incluem resultados para ambas as variantes Ming, o que é verdade para as duas imagens de áudio e não é verdade para a de texto. Se você precisa saber se o backbone tiny consegue sustentar uma conversa de raciocínio, a inclusionAI não informou.

O que a semana realmente lhe trouxe

Antes de 16 de outubro, um leitor que quisesse testar esse checkpoint tinha um download de 17,7 GB, uma config descrevendo um modelo de vídeo-linguagem com janela de 8K e um card instruindo-o a carregar código personalizado sem habilitar código personalizado. Depois de 19 de outubro, ele tem uma config que corresponde aos seus próprios arquivos de modelagem, uma alegação de 128K que pode ser testada com pesos inalterados, três perfis de implantação nomeados, incluindo um para GPU única, um pacote de voz com transcrições e um card que diz para que serve o modelo. Nada disso é um novo modelo. Tudo isso é a diferença entre um checkpoint em um disco e um checkpoint que alguém pode avaliar em uma tarde.

O custo é a parte que o dimensionamento esconde. Nas próprias tabelas do fornecedor, passar do modelo de 6,5B ativos para o de 2,7B ativos compra um oitavo da contagem de GPUs e cobra 27,8 pontos de URO-Bench-Pro, dez de VoiceBench e cerca de um quinto da pontuação Chain de áudio longo. É uma troca razoável para um serviço de transcrição, ruim para qualquer coisa que precise raciocinar ao longo de uma hora de áudio, e o fornecedor imprimiu as duas colunas lado a lado para que você possa decidir qual delas está construindo.

Onde um roteador justifica seu lugar, e onde não justifica

O OrcaRouter não serve o Ming-3.0-audio-tiny. Ele não está no nosso catálogo, não podemos fornecer um endpoint para ele, e nada aqui deve ser interpretado como uma oferta de fazê-lo. O que um roteador oferece de útil em um pipeline construído em torno de um checkpoint como esse é a metade que não é o checkpoint. Sistemas de fala são, em grande parte, trabalho com texto: o prompt que decide o que perguntar ao áudio, o parser que transforma um rótulo de idioma delimitado por tabulação em saída estruturada, o resumo escrito a partir da transcrição, a classificação que decide se um arquivo de áudio vai para o modelo de 2,7B ou para o de 126B. Essas são chamadas de texto comuns, e uma API para mais de 200 modelos com 0% de markup — preço de tabela do provedor repassado, então um corte de preço do fornecedor passa a valer do nosso lado no mesmo dia — é algo mais simples de conectar do que uma pilha de contratos com fornecedores. Failover automático é o que permite colocar um modelo recém-documentado por trás de parte de um pipeline sem apostar todo o caminho nele.

Vale enunciar a fronteira com clareza. Um checkpoint de 17,7 GB que você executa na sua própria GPU é infraestrutura, não uma chamada de API. Um roteador roteia chamadas. Ele não transforma um modelo de áudio de pesos abertos em um modelo hospedado, e não transforma três downloads em evidência de produção.

O que assistir

Três coisas mudariam esse quadro, e todas as três são verificáveis. Primeiro, uma pontuação independente: no momento em que uma arena ou um avaliador de terceiros listar este checkpoint, a lacuna de 27,8 pontos na interação falada deixa de ser um autorrelato do fornecedor e passa a ser um ponto de dados; até lá, note que o mesmo fornecedor também publicou seis linhas de dialeto em que o modelo menor vence. Segundo, um LICENSE dentro do repositório no Hugging Face, o que moveria a licença MIT de um link em um card para um fato no artefato que um processo de aquisição realmente lê. Terceiro, um repositório pequeno e específico no GitHub: hoje os perfis de implantação que tornam real a alegação de uso de uma única GPU ficam em um repositório batizado com o nome do modelo maior, o que não é problema até alguém renomeá-lo.

Até que uma dessas coisas se concretize, a descrição precisa é pouco glamorosa. Os mesmos pesos de 3 de setembro, cerca de 18 GB de Thinker, uma janela de 131.072 tokens que chegou em uma config em vez de em um checkpoint, três perfis de serving que cabem em uma placa para texto e dois para fala, MIT no papel, cinco linhas de referência que ele se recusou a publicar, e um model card três dias mais recente que a config que descreve. A semana não tornou o modelo melhor. Tornou-o legível, e, para um checkpoint de pesos abertos que ninguém anunciou, legível é o produto inteiro.