Um cartão de título principal gerado com o texto 'MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni', com o subtítulo 'Dezenove meses depois, um deles ainda ouve você' e três chips de estatísticas com os textos 'Contexto do MiniCPM-V: 262.144 tokens', 'Contexto do Qwen2.5-Omni: 32.768 tokens' e 'Entrada de áudio: Qwen sim, MiniCPM não', sobre o rodapé 'Ambos têm pesos abertos e licença Apache-2.0; nenhum dos dois está hospedado no OrcaRouter.' O logotipo do OrcaRouter fica no canto inferior direito.
Guides & Insights

MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni: Dezenove meses depois, um deles ainda ouve você

Autor

Rowan Sterling

Data de publicação

Modelos mais recentes · 20Ver todos os modelos →
Benchmarks: Artificial Analysis · atualizado diariamente
Voltar para todas as publicações

Coloque o MiniCPM-V 4.7 35B-A3B ao lado do Qwen2.5-Omni em uma ficha técnica e o modelo mais novo ganha em quase todas as linhas. Ele tem oito vezes o contexto, uma arquitetura esparsa que ativa um doze avos de seus parâmetros por token e uma década de ferramentas de inferência que não existiam quando o mais antigo foi lançado. Aí você chega à linha de áudio, e o MiniCPM-V 4.7 35B-A3B não tem absolutamente nada ali. O Qwen2.5-Omni, lançado no final de março de 2025, recebe áudio e transmite fala natural de volta; o MiniCPM-V 4.7, cujos pesos surgiram em outubro de 2026, recebe texto, imagens e vídeo e retorna texto. Dezenove meses de progresso nesse par em particular não produziram um modelo omni melhor. Produziram um modelo de visão melhor que não faz aquilo para o que o modelo mais antigo foi construído.

Essa formulação não é uma crítica a nenhum dos dois. É toda a forma da comparação, e é a razão pela qual um leitor que precisa de voz e um leitor que precisa ler mil páginas escaneadas deveriam sair com respostas diferentes. Sobre as fontes: os números do Qwen2.5-Omni são do fornecedor, de março de 2025, agora com dezenove meses de idade e parcialmente validados por ampla implantação. Os do MiniCPM-V 4.7 35B-A3B são da OpenBMB, publicados em um model card em 12 de outubro de 2026 — seu primeiro card, dez dias depois de os pesos aparecerem pela primeira vez — e nenhum deles foi reproduzido fora do laboratório.

O que o modelo mais antigo realmente era

Qwen2.5-Omni foi o primeiro modelo omni-modal de ponta a ponta dessa linha, e o enquadramento do fornecedor na época era explícito: era a resposta ao problema do "zoológico de especialistas", em que transcrição, visão e voz precisavam cada uma de um modelo separado e de uma camada de cola separada. O modelo de 7B recebia texto, imagens, áudio e vídeo como entrada e respondia em texto ou em fala natural em streaming, com duas vozes fixas, Chelsie e Ethan. Ele alegava resultados de última geração no benchmark de fusão OmniBench à frente do Gemini-1.5-Pro, e uma pontuação de qualidade de geração de fala de 4,51 que o fornecedor descreveu como nível humano.

A engenharia se sustentou porque foi projetada para a restrição, e não para contorná-la. O Thinker-Talker dividiu o trabalho em dois: um transformer Thinker fundiu os codificadores de áudio e imagem e produziu semântica e texto, enquanto um Talker transmitia tokens de fala em fluxo a partir dos estados ocultos do Thinker e compartilhava todo o histórico da conversa. O RoPE multimodal com alinhamento temporal intercalava posições de vídeo e áudio para que os dois fluxos permanecessem sincronizados, e o streaming em blocos permitiu que os codificadores realizassem o trabalho de percepção enquanto o modelo de linguagem lidava com sequências longas — o que tornou possíveis, de fato, respostas faladas de baixa latência.

Os limites eram igualmente reais, e eram limites de memória, não de contexto. As tabelas do próprio fornecedor colocam a inferência em BF16 com FlashAttention-2 em cerca de 31 GB de memória de GPU para um vídeo de 15 segundos, 42 GB para 30 segundos e 60 GB para um minuto inteiro, contra uma janela de contexto de 32.768 tokens. Um minuto de vídeo em um modelo 7B, em uma das maiores GPUs individuais que se poderia alugar, é o número a manter em vista — é o número que tudo o que veio depois foi construído para destruir.

A headless-browser capture of the Hugging Face model page for Qwen/Qwen2.5-Omni-7B (captured 13 October 2026) showing the Apache-2.0 licence tag, 1.96k likes, 295,006 downloads last month, a safetensors panel reading '11B params' and 'F32 / BF16', the card overview describing an end-to-end multimodal model that perceives text, images, audio and video while generating text and natural speech responses in a streaming manner, a Thinker-Talker architecture figure, key features naming TMRoPE position embedding and real-time voice and video chat, and a paper panel linking the Qwen2.5-Omni Technical Report published 26 March 2025.

O que o novo modelo faz, em vez disso

MiniCPM-V 4.7 35B-A3B segue uma direção totalmente oposta. É o primeiro MoE da OpenBMB na série MiniCPM-V: 256 especialistas com 8 ativos por token em 40 camadas, uma janela de contexto de 262.144 tokens e um vocabulário de 248.144 tokens, o que dá aproximadamente 3B de parâmetros ativos de um total de 35,2B. A visão passa por um módulo SigLIP2 com compressão precoce intra-ViT do LLaVA-UHD v4 e um modo selecionável de compressão mista de tokens de 4x/16x — 16x por padrão, 4x quando detalhes finos justificam os tokens. Ele lida com imagens únicas, conjuntos de várias imagens e vídeo. Ele responde em texto.

A alegação principal do cartão é que este é o primeiro modelo MoE de código aberto com inferência sem perdas e fluida no dispositivo, alcançada por meio de Lookahead Expert Scheduling, quantização fina camada a camada e amostragem especulativa via os rascunhos DSpark separados, a uma taxa reportada de mais de 13 tokens por segundo em um iPhone 17 Pro Max. Esse número é reportado pelo fornecedor, não reproduzido e sem qualificações — sem formato de quantização, sem build, sem prompt, sem método de medição. O cartão também afirma uma pontuação geral mais alta no modo Instruct do que o Qwen3.6 35B-A3B em menos tempo de inferência, e essa alegação é apresentada dentro de uma imagem de gráfico em vez de uma tabela, portanto não pode ser citada como um valor numérico e não deve ser tratada como tal.

A headless-browser capture of the Hugging Face model page for openbmb/MiniCPM-V-4.7-35B-A3B (captured 13 October 2026) showing the Apache-2.0 licence tag, 37 likes, 166 downloads last month, a safetensors panel reading '35B params' and 'BF16', and a model card whose claims read 'The First Open-Source MoE Model with Lossless, Smooth On-Device Inference', '13+ tokens/s on iPhone 17 Pro Max', 'achieves a higher overall score in less inference time than Qwen3.6 35B-A3B', mixed 4x/16x visual token compression from LLaVA-UHD v4, and inference frameworks including SGLang, vLLM, llama.cpp and Ollama.

Sete dimensões, ambos os lados

• Modalidades de entrada — Qwen2.5-Omni aceita texto, imagens, áudio e vídeo; MiniCPM-V 4.7 35B-A3B aceita texto, imagens e vídeo, sem qualquer caminho para áudio.

• Saída — texto mais fala natural em streaming em duas vozes fixas, versus apenas texto.

• Contexto — 32.768 tokens contra 262.144, um aumento de oito vezes.

• Parâmetros — a cifra de 7B pela qual o fornecedor nomeia o modelo, em comparação com 35,2B no total, com 3B ativos do lado do MiniCPM. O próprio repositório lista 11B de parâmetros para o checkpoint, porque os 7B contam o modelo de linguagem e não os codificadores de visão e áudio que o acompanham — um lembrete útil de que "7B" aqui é tanto um nome quanto uma medida.

• Pegada de memória — as próprias tabelas do fornecedor mostram cerca de 31 GB para um vídeo de 15 segundos e 60 GB para um minuto; o MiniCPM-V 4.7 tem cerca de 70 GB de pesos BF16 antes de qualquer KV cache, e é por isso que as suas versões quantizadas e a sua estratégia no dispositivo ocupam tanto espaço na ficha.

• Licença — Apache-2.0 em ambos, que é o único ponto em que concordam sem ressalvas.

• Ferramentas de implantação — dezenove meses de quantizações e ferramentas da comunidade para SGLang, vLLM, llama.cpp, Ollama e suporte a OpenVINO, builds GGUF/BNB/AWQ/GPTQ/FP8 e aplicativos iOS, Android e HarmonyOS.

• Avaliação pública — uma posição de 0,561 no OmniBench, com dezanove meses, amplamente citada, contra uma ficha sem qualquer tabela de avaliação citável.

A generated two-column scoreboard titled 'MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni - the scoreboard'. The left column lists Input: text, image, video; Audio: not supported; Output: text only; Context: 262,144 tokens; Parameters: 35.2B total, 3B active; Evidence: card claims, unreproduced. The right column lists Input: text, image, audio, video; Audio: in and streaming speech out; Output: text and speech, two voices; Context: 32,768 tokens; Parameters: 7B dense; Evidence: Alibaba figures, 19 months in use. The footer reads 'Qwen2.5-Omni figures per Alibaba, March 2025; MiniCPM-V 4.7 figures vendor-reported.'

O buraco de áudio é a decisão inteira

Se o seu pipeline precisa de um modelo para ouvir algo, esta comparação termina no primeiro parágrafo. O Qwen2.5-Omni é o único dos dois que aceita áudio, o único que fala e o único com uma stack de fala consolidada — Thinker-Talker, TMRoPE, streaming em blocos, duas vozes fixas — por trás dele. É também o único dos dois que alguém já implantou em escala, e dezenove meses de quantizações e ferramentas da comunidade valem mais do que uma ficha técnica quando se tenta colocar um modelo numa aplicação neste trimestre.

O que o MiniCPM-V 4.7 oferece em troca é uma memória muito mais longa e um perfil de computação por token muito mais barato para documentos visuais longos. Uma janela de 262K e 3B de parâmetros ativos é um instrumento genuinamente diferente de uma janela de 32K sobre um modelo denso de 7B — e, para uma carga de trabalho de milhares de imagens de páginas, capturas de tela ou transcrições longas de vídeo, o formato do modelo mais novo é o certo. Só que ele não pode ser o modelo que atende o telefone.

Essa é a troca, dita de forma clara: alcance contra amplitude. O modelo mais antigo cobre mais sentidos. O mais novo cobre mais página.

Duas trilhas de evidências muito diferentes

Aqui, a assimetria corre no sentido oposto, e vale a pena ser exato a esse respeito.

Os números do Qwen2.5-Omni são antigos o suficiente para terem sido parcialmente validados pelo uso. Um modelo de dezenove meses, com uma posição amplamente citada em benchmarks, uma década de quantizações a jusante e uma grande base instalada, não é uma grandeza comprovada em nenhum sentido formal, mas suas alegações tiveram muito tempo para serem contraditadas e não foram. Os números de memória, em particular, foram publicados como restrições de engenharia, não como marketing, e se comportaram como restrições de engenharia.

Os números do MiniCPM-V 4.7 têm duas semanas e zero verificação externa. O modelo chegou sem documentação em 6 de outubro, e o card, a licença e a seção de alegações saíram em 12 de outubro. Ainda não há tabela de avaliação, nem relatório técnico, e nenhum terceiro publicou um resultado. O único lugar com números reais publicados é o checkpoint de rascunho separado do DSpark, cujos números de tokens aceitos por passo são da própria OpenBMB e que o laboratório não publicou para o modelo principal.

A postura correta em relação ao novo modelo é: trate a arquitetura como já lida (ela está no arquivo de configuração), trate a distribuição como real (os pesos existem em seis formatos) e trate cada número de desempenho como uma alegação à espera de uma segunda opinião. Essa última parte não é uma condição permanente. É apenas a situação atual em 13 de outubro.

Executar qualquer um deles, e para que serve o roteador

Ambos são arquivos que você mesmo disponibiliza. Nem o MiniCPM-V 4.7 35B-A3B nem o Qwen2.5-Omni estão no catálogo hospedado da OrcaRouter, e nada aqui deve ser interpretado como uma afirmação de que nós os roteamos — o MiniCPM-V 4.7 é um checkpoint de duas semanas que exigiria dois aceleradores para ser executado sem quantização, e o Qwen2.5-Omni é um modelo de pesos abertos de 2025 cujo habitat prático é uma instância do vLLM que você opera.

Onde um roteador conquista seu lugar é do outro lado dessa linha. A maioria das equipes que executa um modelo de visão auto-hospedado ainda precisa de um modelo hospedado para os casos que o local não consegue dar conta — raciocínio de longo horizonte, uso de ferramentas, as entradas de áudio que o MiniCPM-V 4.7 não aceita. O OrcaRouter coloca mais de 200 modelos hospedados atrás de uma única chave, repassa o preço de tabela de cada provedor sem nenhuma margem nossa, e faz failover automaticamente quando um provedor se degrada, o que significa que adicionar esse segundo modelo é uma mudança de roteamento e não um segundo contrato. O formato hospedado mais próximo do modelo MiniCPM é o Qwen3.6 35B A3B — 35B no total, 3B ativos, contexto de 262K, entrada de texto-imagem-vídeo — a $0.25 por milhão de tokens de entrada e $1.48 por milhão de tokens de saída, o que é uma referência justa para o que a auto-hospedagem de fato economiza para você.

Qual deles, e quando

Escolha o Qwen2.5-Omni se você precisar de áudio ou fala, se quiser um modelo com dezenove meses de implantação, ou se 32K tokens e um teto de 60 GB para um minuto de vídeo couberem no seu orçamento. Suas limitações são conhecidas e documentadas, o que é uma vantagem quando você está lançando.

Escolha o MiniCPM-V 4.7 35B-A3B se o seu problema for contexto visual longo e saída de texto, se quiser a licença permissiva e se estiver disposto a ser um dos primeiros — porque é exatamente isso que você seria. Nenhum terceiro o executou, a alegação de execução no dispositivo não foi reproduzida e os benchmarks não existem. Em troca, você recebe um modelo documentado, quantificável e compatível com múltiplos runtimes, com uma janela de 262K e uma história de eficiência plausível, e você será quem descobrirá se essa história se sustenta.

O que mudaria a resposta: uma tabela de benchmark da OpenBMB, ou um comprimento de aceitação reproduzido do rascunho do DSpark — ainda a rota mais barata para um número externo nesta família. O que não mudaria a resposta é mais tempo. Dezenove meses não deram ao MiniCPM-V 4.7 a capacidade de ouvir, e nada no roteiro sugere que isso esteja por vir.