Una tarjeta de título principal generada que dice «MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni», con el subtítulo «Diecinueve meses después, uno de ellos todavía te oye» y tres chips de estadísticas que dicen «Contexto de MiniCPM-V: 262.144 tokens», «Contexto de Qwen2.5-Omni: 32.768 tokens» y «Entrada de audio: Qwen sí, MiniCPM no», sobre el pie de página «Ambos con pesos abiertos y Apache-2.0; ninguno está alojado en OrcaRouter». El logotipo de OrcaRouter se encuentra en la esquina inferior derecha.
Guides & Insights

MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni: diecinueve meses después, uno de ellos todavía te escucha

Autor

Rowan Sterling

Fecha de publicación

Últimos modelos · 20Ver todos los modelos →
Benchmarks: Artificial Analysis · actualizado a diario
Volver a todas las publicaciones

Si pones MiniCPM-V 4.7 35B-A3B junto a Qwen2.5-Omni en una hoja de especificaciones, el modelo más nuevo gana casi todas las líneas. Tiene ocho veces más contexto, una arquitectura dispersa que activa una duodécima parte de sus parámetros por token, y una década de herramientas de inferencia que no existían cuando se lanzó el más antiguo. Luego llegas a la fila de audio, y MiniCPM-V 4.7 35B-A3B no tiene nada allí en absoluto. Qwen2.5-Omni, lanzado a finales de marzo de 2025, recibe audio y devuelve habla natural en streaming; MiniCPM-V 4.7, cuyos pesos aparecieron en octubre de 2026, acepta texto, imágenes y vídeo y devuelve texto. Diecinueve meses de progreso en este par en particular no produjeron un mejor modelo omni. Produjeron un mejor modelo de visión que no hace aquello alrededor de lo cual se construyó el modelo más antiguo.

Ese encuadre no es una crítica a ninguno de los dos. Es la forma misma de la comparación, y es la razón por la que un lector que necesita voz y un lector que necesita leer mil páginas escaneadas deberían irse con respuestas distintas. Sobre las fuentes: las cifras de Qwen2.5-Omni son las del proveedor, de marzo de 2025, que ahora tienen diecinueve meses y están parcialmente validadas por un amplio despliegue. Las de MiniCPM-V 4.7 35B-A3B son de OpenBMB, publicadas en una ficha de modelo el 12 de octubre de 2026 —su primera ficha, diez días después de que aparecieran por primera vez los pesos—, y ninguna de ellas se ha reproducido fuera del laboratorio.

Lo que el modelo anterior realmente era

Qwen2.5-Omni fue el primer modelo omni-modal de extremo a extremo de esa línea, y el planteamiento del proveedor en aquel momento era explícito: era la respuesta al problema del «zoológico de especialistas», en el que la transcripción, la visión y la voz necesitaban cada una un modelo independiente y una capa de integración también independiente. El modelo de 7B aceptaba texto, imágenes, audio y vídeo como entrada y respondía en texto o en habla natural en streaming, con dos voces fijas, Chelsie y Ethan. Afirmaba obtener resultados de vanguardia en el benchmark de fusión OmniBench, por delante de Gemini-1.5-Pro, y una puntuación de calidad de generación de voz de 4,51 que el proveedor describía como de nivel humano.

La ingeniería resistió porque se diseñó para la restricción, no en torno a ella. Thinker-Talker dividió la tarea en dos: un transformer Thinker fusionó los codificadores de audio e imagen y produjo semántica y texto, mientras que un Talker transmitía tokens de habla desde los estados ocultos del Thinker y compartía todo el historial conversacional. El RoPE multimodal alineado temporalmente intercaló las posiciones de vídeo y audio para que ambos flujos se mantuvieran sincronizados, y el streaming por bloques permitió que los codificadores hicieran el trabajo de percepción mientras el modelo de lenguaje gestionaba secuencias largas, que es lo que hizo posibles las respuestas habladas de baja latencia.

Los límites eran igual de reales, y eran de memoria más que de contexto. las propias tablas del proveedor situaban la inferencia en BF16 con FlashAttention-2 en unos 31 GB de memoria de GPU para un vídeo de 15 segundos, 42 GB para 30 segundos y 60 GB para un minuto completo, frente a una ventana de contexto de 32.768 tokens. Un minuto de vídeo en un modelo de 7B, en una de las GPU individuales más grandes que se podían alquilar, es la cifra que hay que tener presente: es la cifra que todo lo que vino después fue construido para destruir.

A headless-browser capture of the Hugging Face model page for Qwen/Qwen2.5-Omni-7B (captured 13 October 2026) showing the Apache-2.0 licence tag, 1.96k likes, 295,006 downloads last month, a safetensors panel reading '11B params' and 'F32 / BF16', the card overview describing an end-to-end multimodal model that perceives text, images, audio and video while generating text and natural speech responses in a streaming manner, a Thinker-Talker architecture figure, key features naming TMRoPE position embedding and real-time voice and video chat, and a paper panel linking the Qwen2.5-Omni Technical Report published 26 March 2025.

Lo que hace el nuevo modelo en su lugar

MiniCPM-V 4.7 35B-A3B va en la dirección totalmente opuesta. Es el primer MoE de OpenBMB en la serie MiniCPM-V: 256 expertos con 8 activos por token en 40 capas, una ventana de contexto de 262.144 tokens y un vocabulario de 248.144 tokens, lo que supone aproximadamente 3B de parámetros activos de un total de 35,2B. La visión pasa por un módulo SigLIP2 con compresión temprana intra-ViT de LLaVA-UHD v4 y un modo de compresión de tokens mixto 4x/16x seleccionable —16x por defecto, 4x cuando el detalle fino vale los tokens—. Maneja imágenes individuales, conjuntos de varias imágenes y video. Responde en texto.

La afirmación principal de la tarjeta es que este es el primer modelo MoE de código abierto con inferencia fluida y sin pérdidas en el dispositivo, lograda mediante Lookahead Expert Scheduling, cuantización fina por capas y muestreo especulativo a través de los borradores DSpark separados, a una velocidad reportada de más de 13 tokens por segundo en un iPhone 17 Pro Max. Ese número está reportado por el proveedor, no ha sido reproducido y no está cualificado: sin formato de cuantización, sin compilación, sin prompt, sin método de medición. La tarjeta también afirma una puntuación general más alta en modo Instruct que Qwen3.6 35B-A3B en menos tiempo de inferencia, y esa afirmación está representada dentro de una imagen de gráfico en lugar de una tabla, por lo que no se puede citar como una cifra y no debe tratarse como tal.

A headless-browser capture of the Hugging Face model page for openbmb/MiniCPM-V-4.7-35B-A3B (captured 13 October 2026) showing the Apache-2.0 licence tag, 37 likes, 166 downloads last month, a safetensors panel reading '35B params' and 'BF16', and a model card whose claims read 'The First Open-Source MoE Model with Lossless, Smooth On-Device Inference', '13+ tokens/s on iPhone 17 Pro Max', 'achieves a higher overall score in less inference time than Qwen3.6 35B-A3B', mixed 4x/16x visual token compression from LLaVA-UHD v4, and inference frameworks including SGLang, vLLM, llama.cpp and Ollama.

Siete dimensiones, ambos lados

• Modalidades de entrada — Qwen2.5-Omni acepta texto, imágenes, audio y video; MiniCPM-V 4.7 35B-A3B acepta texto, imágenes y video, sin ninguna vía de audio en absoluto.

• Salida — texto más voz natural en streaming en dos voces fijas, frente a solo texto.

• Contexto — 32,768 tokens frente a 262,144, un aumento de ocho veces.

• Parámetros — la cifra de 7B con la que el proveedor nombra el modelo, frente a 35.2B en total con 3B activos del lado de MiniCPM. El propio repositorio indica 11B de parámetros para el checkpoint, porque los 7B cuentan el modelo de lenguaje y no los codificadores de visión y audio que lo acompañan — un recordatorio útil de que "7B" aquí es tanto un nombre como una medida.

• Huella de memoria — las propias tablas del fabricante muestran aproximadamente 31 GB para un vídeo de 15 segundos y 60 GB para uno de un minuto; MiniCPM-V 4.7 ronda los 70 GB de pesos BF16 antes de cualquier caché KV, y por eso sus compilaciones cuantizadas y su propuesta para ejecución en el dispositivo acaparan gran parte de la ficha.

• Licencia — Apache-2.0 en ambos, que es la única línea donde coinciden sin reservas.

• Herramientas de despliegue — diecinueve meses de cuantizaciones y herramientas de la comunidad para el soporte de SGLang, vLLM, llama.cpp, Ollama y OpenVINO, compilaciones GGUF/BNB/AWQ/GPTQ/FP8, y aplicaciones para iOS, Android y HarmonyOS.

• Evaluación pública — una posición de OmniBench de 0.561, de hace diecinueve meses, que ha sido ampliamente citada, frente a una ficha que no contiene ninguna tabla de evaluación citable.

A generated two-column scoreboard titled 'MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni - the scoreboard'. The left column lists Input: text, image, video; Audio: not supported; Output: text only; Context: 262,144 tokens; Parameters: 35.2B total, 3B active; Evidence: card claims, unreproduced. The right column lists Input: text, image, audio, video; Audio: in and streaming speech out; Output: text and speech, two voices; Context: 32,768 tokens; Parameters: 7B dense; Evidence: Alibaba figures, 19 months in use. The footer reads 'Qwen2.5-Omni figures per Alibaba, March 2025; MiniCPM-V 4.7 figures vendor-reported.'

El orificio de audio es toda la decisión

Si tu pipeline necesita un modelo que escuche algo, esta comparación termina en el primer párrafo. Qwen2.5-Omni es el único de los dos que recibe audio, el único que habla y el único que tiene detrás un stack de voz consolidado —Thinker-Talker, TMRoPE, streaming por bloques, dos voces fijas—. También es el único de los dos que alguien ha desplegado a escala, y diecinueve meses de cuantizaciones y herramientas de la comunidad valen más que una hoja de especificaciones cuando intentas llevar un modelo a una aplicación este trimestre.

Lo que MiniCPM-V 4.7 ofrece a cambio es una memoria mucho más larga y un perfil de cómputo por token mucho más barato para documentos visuales largos. Una ventana de 262K y 3B parámetros activos es un instrumento genuinamente distinto de una ventana de 32K sobre un modelo denso de 7B — y para una carga de trabajo que son miles de imágenes de páginas, capturas de pantalla o transcripciones largas de video, la forma del modelo más nuevo es la correcta. Simplemente no puede ser el modelo que contesta el teléfono.

Ese es el intercambio, dicho claramente: alcance frente a amplitud. El modelo más antiguo cubre más sentidos. El más nuevo cubre más página.

Dos rastros de evidencia muy diferentes

Aquí la asimetría va en sentido contrario, y merece la pena ser exactos al respecto.

Las cifras de Qwen2.5-Omni son lo suficientemente antiguas como para haber sido parcialmente validadas por el uso. Un modelo de diecinueve meses con una posición en el benchmark ampliamente citada, una década de cuantizaciones posteriores y una gran base instalada no es una cantidad probada en ningún sentido formal, pero sus afirmaciones han tenido mucho tiempo para ser contradichas y no lo han sido. Las cifras de memoria en particular fueron publicadas como restricciones de ingeniería, no como marketing, y se comportaron como restricciones de ingeniería.

Los números de MiniCPM-V 4.7 llevan dos semanas y cero verificación externa. El modelo llegó sin documentación el 6 de octubre, y la ficha, la licencia y la sección de afirmaciones llegaron el 12 de octubre. Todavía no hay tabla de evaluación, ni informe técnico, y ningún tercero ha publicado un resultado. El único lugar con cifras reales publicadas es el checkpoint de borrador DSpark aparte, cuyas cifras de tokens aceptados por paso son propias de OpenBMB y que el laboratorio no ha publicado para el modelo principal.

Entonces, la postura correcta respecto al nuevo modelo es: dar por leída la arquitectura (está en el archivo de configuración), considerar que la distribución es real (los pesos existen en seis formatos) y considerar cada cifra de rendimiento como una afirmación a la espera de una segunda opinión. Esa última parte no es una condición permanente. Es solo el estado de las cosas al 13 de octubre.

Ejecutar cualquiera de los dos, y para qué sirve el router

Ambos son archivos que sirves tú mismo. Ni MiniCPM-V 4.7 35B-A3B ni Qwen2.5-Omni están en el catálogo alojado de OrcaRouter, y nada de lo que hay aquí debe interpretarse como una afirmación de que los enrutamos — MiniCPM-V 4.7 es un checkpoint de hace dos semanas que necesitarías dos aceleradores para ejecutar sin cuantización, y Qwen2.5-Omni es un modelo de pesos abiertos de 2025 cuyo entorno práctico es una instancia de vLLM que tú operas.

Donde un enrutador se gana su lugar es al otro lado de esa línea. La mayoría de los equipos que ejecutan un modelo de visión autoalojado siguen necesitando un modelo alojado para los casos que el local no puede manejar: razonamiento de largo alcance, uso de herramientas, las entradas de audio que MiniCPM-V 4.7 no acepta. OrcaRouter pone más de 200 modelos alojados detrás de una sola clave, transmite el precio de lista de cada proveedor sin ningún margen por nuestra parte, y conmuta automáticamente en caso de fallo cuando un proveedor se degrada, lo que significa que añadir ese segundo modelo es un cambio de enrutamiento y no un segundo contrato. La forma alojada más cercana al modelo MiniCPM es Qwen3.6 35B A3B —35B en total, 3B activos, 262K de contexto, entrada de texto-imagen-vídeo— a 0,25 $ por millón de tokens de entrada y 1,48 $ por millón de tokens de salida, lo que es una medida justa de lo que el autoalojamiento te ahorra en realidad.

¿Cuál, y cuándo?

Elige Qwen2.5-Omni si necesitas audio o voz en lo más mínimo, si quieres un modelo con diecinueve meses de implementación a sus espaldas, o si 32K tokens y un límite de 60 GB para un minuto de video caben dentro de tu presupuesto. Sus limitaciones son conocidas y están documentadas, lo cual es una ventaja cuando estás lanzando.

Elige MiniCPM-V 4.7 35B-A3B si tu problema es el contexto visual largo y la salida de texto, si quieres la licencia permisiva y si estás dispuesto a ser de los primeros — porque eso es exactamente lo que serías. Ningún tercero lo ha ejecutado, la afirmación de que funciona en el dispositivo no se ha reproducido y los benchmarks no existen. A cambio obtienes un modelo documentado, cuantificable y multiruntime con una ventana de 262K y una historia de eficiencia plausible, y te toca a ti ser quien descubra si esa historia se sostiene.

Lo que cambiaría la respuesta: una tabla de benchmarks de OpenBMB, o una longitud de aceptación reproducida del borrador de DSpark —sigue siendo la ruta más barata hacia una cifra externa en esta familia. Lo que no cambiaría la respuesta es más tiempo. Diecinueve meses no le dieron a MiniCPM-V 4.7 la capacidad de oír, y nada en la hoja de ruta sugiere que esté por llegar.