Une carte de titre principale générée affichant « MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni », avec le sous-titre « Dix-neuf mois plus tard, l'un d'eux vous entend toujours » et trois pastilles de statistiques affichant « Contexte de MiniCPM-V : 262 144 tokens », « Contexte de Qwen2.5-Omni : 32 768 tokens » et « Entrée audio : Qwen oui, MiniCPM non », au-dessus du pied de page « Les deux sont à poids ouverts et sous Apache-2.0 ; aucun des deux n'est hébergé sur OrcaRouter. » Le logo OrcaRouter se trouve dans le coin inférieur droit.
Guides & Insights

MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni : dix-neuf mois plus tard, l'un d'eux vous entend encore

Auteur

Rowan Sterling

Date de publication

Derniers modèles · 20Voir tous les modèles →
Benchmarks : Artificial Analysis · mis à jour quotidiennement
Retour à tous les articles

Placez MiniCPM-V 4.7 35B-A3B à côté de Qwen2.5-Omni sur une fiche technique, et le modèle plus récent l’emporte sur presque toutes les lignes. Il dispose de huit fois plus de contexte, d’une architecture clairsemée qui n’active qu’un douzième de ses paramètres par token, et d’une décennie d’outils d’inférence qui n’existaient pas quand le modèle plus ancien est sorti. Puis vous arrivez à la ligne audio, et MiniCPM-V 4.7 35B-A3B n’a rien du tout à cet endroit. Qwen2.5-Omni, sorti fin mars 2025, prend l’audio en entrée et renvoie en flux une parole naturelle ; MiniCPM-V 4.7, dont les poids sont apparus en octobre 2026, prend du texte, des images et de la vidéo et renvoie du texte. Dix-neuf mois de progrès dans ce duo particulier n’ont pas produit un meilleur modèle omni. Cela a produit un meilleur modèle de vision qui ne fait pas ce autour de quoi le modèle plus ancien avait été conçu.

Cette façon de présenter les choses n’est une critique ni de l’un ni de l’autre. C’est toute la structure de la comparaison, et c’est la raison pour laquelle un lecteur qui a besoin de la voix et un lecteur qui a besoin de lire mille pages numérisées devraient repartir avec des réponses différentes. Côté sources : les chiffres de Qwen2.5-Omni sont ceux du fournisseur, datant de mars 2025, désormais vieux de dix-neuf mois et en partie validés par un déploiement à grande échelle. Ceux de MiniCPM-V 4.7 35B-A3B sont ceux d’OpenBMB, publiés sur une fiche de modèle le 12 octobre 2026 — sa première fiche, dix jours après la première apparition des poids — et aucun d’entre eux n’a été reproduit en dehors du laboratoire.

Ce qu'était réellement le modèle plus ancien

Qwen2.5-Omni était le premier modèle omni-modal de bout en bout de cette gamme, et le positionnement du fournisseur à l'époque était explicite : il constituait la réponse au problème du « zoo de spécialistes », où la transcription, la vision et la voix nécessitaient chacune un modèle distinct et une couche de liaison distincte. Le modèle 7B prenait en entrée du texte, des images, de l'audio et de la vidéo, et répondait en texte ou en parole naturelle en streaming, avec deux voix fixes, Chelsie et Ethan. Il revendiquait des résultats à l'état de l'art sur le benchmark de fusion OmniBench, devant Gemini-1.5-Pro, ainsi qu'un score de qualité de génération vocale de 4,51 que le fournisseur qualifiait de niveau humain.

L'ingénierie a tenu bon parce qu'elle a été conçue pour la contrainte plutôt qu'autour d'elle. Thinker-Talker a scindé la tâche en deux : un transformer Thinker fusionnait les encodeurs audio et image et produisait la sémantique et le texte, tandis qu'un Talker diffusait en flux les jetons de parole à partir des états cachés du Thinker et partageait l'intégralité de l'historique conversationnel. Le RoPE multimodal aligné temporellement entrelaçait les positions vidéo et audio afin que les deux flux restent synchronisés, et le streaming par blocs permettait aux encodeurs d'accomplir le travail de perception pendant que le modèle de langage traitait de longues séquences — ce qui a rendu possibles, tout simplement, des réponses vocales à faible latence.

Les limites étaient tout aussi réelles, et elles relevaient de la mémoire plutôt que du contexte. les propres tableaux du fournisseur situent l'inférence BF16 avec FlashAttention-2 à environ 31 Go de mémoire GPU pour une vidéo de 15 secondes, 42 Go pour 30 secondes et 60 Go pour une minute entière, face à une fenêtre de contexte de 32 768 jetons. Une minute de vidéo sur un modèle 7B, sur l'un des plus gros GPU uniques que l'on pouvait louer, voilà le chiffre à ne pas perdre de vue — c'est le chiffre que tout ce qui a suivi a été conçu pour détruire.

A headless-browser capture of the Hugging Face model page for Qwen/Qwen2.5-Omni-7B (captured 13 October 2026) showing the Apache-2.0 licence tag, 1.96k likes, 295,006 downloads last month, a safetensors panel reading '11B params' and 'F32 / BF16', the card overview describing an end-to-end multimodal model that perceives text, images, audio and video while generating text and natural speech responses in a streaming manner, a Thinker-Talker architecture figure, key features naming TMRoPE position embedding and real-time voice and video chat, and a paper panel linking the Qwen2.5-Omni Technical Report published 26 March 2025.

Ce que le nouveau modèle fait à la place

MiniCPM-V 4.7 35B-A3B prend une tout autre direction. C'est le premier MoE d'OpenBMB dans la série MiniCPM-V : 256 experts, avec 8 actifs par token sur 40 couches, une fenêtre de contexte de 262 144 tokens et un vocabulaire de 248 144 tokens, soit environ 3 milliards de paramètres actifs sur 35,2 milliards au total. La vision passe par un module SigLIP2 avec compression précoce intra-ViT de LLaVA-UHD v4 et un mode de compression de tokens mixte 4x/16x sélectionnable — 16x par défaut, 4x lorsque les détails fins valent les tokens. Il gère les images uniques, les ensembles multi-images et la vidéo. Il répond en texte.

L'affirmation phare de la fiche est qu'il s'agit du premier modèle MoE open source à offrir une inférence sur l'appareil sans perte et fluide, obtenue grâce à Lookahead Expert Scheduling, la quantification fine couche par couche et l'échantillonnage spéculatif via les drafts DSpark distincts, à un débit annoncé de plus de 13 jetons par seconde sur un iPhone 17 Pro Max. Ce chiffre est déclaré par le fournisseur, non reproduit et non qualifié — aucun format de quantification, aucune build, aucun prompt, aucune méthode de mesure. La fiche affirme aussi un meilleur score global en mode Instruct que Qwen3.6 35B-A3B, en moins de temps d'inférence, et cette affirmation est affichée dans une image de graphique plutôt que dans un tableau, de sorte qu'elle ne peut pas être citée comme un chiffre et ne doit pas être traitée comme telle.

A headless-browser capture of the Hugging Face model page for openbmb/MiniCPM-V-4.7-35B-A3B (captured 13 October 2026) showing the Apache-2.0 licence tag, 37 likes, 166 downloads last month, a safetensors panel reading '35B params' and 'BF16', and a model card whose claims read 'The First Open-Source MoE Model with Lossless, Smooth On-Device Inference', '13+ tokens/s on iPhone 17 Pro Max', 'achieves a higher overall score in less inference time than Qwen3.6 35B-A3B', mixed 4x/16x visual token compression from LLaVA-UHD v4, and inference frameworks including SGLang, vLLM, llama.cpp and Ollama.

Sept dimensions, des deux côtés

• Modalités d’entrée — Qwen2.5-Omni prend en charge le texte, les images, l’audio et la vidéo ; MiniCPM-V 4.7 35B-A3B prend en charge le texte, les images et la vidéo, sans aucune voie audio.

• Sortie — texte plus parole naturelle en streaming dans deux voix fixes, par opposition au texte seul.

• Contexte — 32 768 jetons contre 262 144, soit une multiplication par huit.

• Paramètres — le chiffre 7B qui donne son nom au modèle chez le fournisseur, contre 35,2 B au total, avec 3 B actifs côté MiniCPM. Le dépôt lui-même liste 11 B de paramètres pour le checkpoint, car le 7B compte le modèle de langage, et non les encodeurs de vision et d’audio qui l’accompagnent — un rappel utile que « 7B » est ici un nom autant qu’une mesure.

• Empreinte mémoire — les propres tableaux du fournisseur indiquent environ 31 Go pour une vidéo de 15 secondes et 60 Go pour une minute ; MiniCPM-V 4.7 représente environ 70 Go de poids BF16 avant tout cache KV, ce qui explique pourquoi ses versions quantifiées et son orientation vers l’exécution locale occupent une si grande place dans la fiche.

• Licence — Apache-2.0 pour les deux, ce qui est le seul point sur lequel ils s'accordent sans réserve.

• Outillage de déploiement — dix-neuf mois de quantifications et d'outils communautaires pour la prise en charge de SGLang, vLLM, llama.cpp, Ollama et OpenVINO, des builds GGUF/BNB/AWQ/GPTQ/FP8, et des applications iOS, Android et HarmonyOS.

• Évaluation publique — une position OmniBench de 0,561 vieille de dix-neuf mois, largement citée, face à une fiche dépourvue du moindre tableau d'évaluation citable.

A generated two-column scoreboard titled 'MiniCPM-V 4.7 35B-A3B vs Qwen2.5-Omni - the scoreboard'. The left column lists Input: text, image, video; Audio: not supported; Output: text only; Context: 262,144 tokens; Parameters: 35.2B total, 3B active; Evidence: card claims, unreproduced. The right column lists Input: text, image, audio, video; Audio: in and streaming speech out; Output: text and speech, two voices; Context: 32,768 tokens; Parameters: 7B dense; Evidence: Alibaba figures, 19 months in use. The footer reads 'Qwen2.5-Omni figures per Alibaba, March 2025; MiniCPM-V 4.7 figures vendor-reported.'

Le trou audio, c’est toute la décision.

Si votre pipeline a besoin d’un modèle pour entendre quoi que ce soit, cette comparaison s’arrête dès le premier paragraphe. Qwen2.5-Omni est le seul des deux à prendre en charge l’audio, le seul à parler, et le seul à pouvoir s’appuyer sur une pile vocale éprouvée — Thinker-Talker, TMRoPE, streaming par blocs, deux voix fixes. C’est aussi le seul des deux à avoir été déployé à grande échelle, et dix-neuf mois de quantifications et d’outillage communautaires valent plus qu’une fiche technique quand on cherche à intégrer un modèle dans une application ce trimestre-ci.

Ce que MiniCPM-V 4.7 offre en échange, c’est une mémoire bien plus longue et un profil de calcul par token bien moins coûteux pour les longs documents visuels. Une fenêtre de 262K et 3B de paramètres actifs, c’est un instrument véritablement différent d’une fenêtre de 32K sur un modèle dense de 7B — et pour une charge de travail qui représente des milliers d’images de pages, de captures d’écran ou de longues transcriptions vidéo, la forme du modèle plus récent est la bonne. Simplement, il ne peut pas être le modèle qui répond au téléphone.

C’est le compromis, dit simplement : la portée contre l’étendue. L’ancien modèle couvre plus de sens. Le nouveau couvre plus de page.

Deux pistes de preuves très différentes

Ici, l'asymétrie joue dans l'autre sens, et il vaut la peine d'être précis à ce sujet.

Les chiffres de Qwen2.5-Omni sont assez anciens pour avoir été partiellement validés par l’usage. Un modèle de dix-neuf mois, doté d’une position de benchmark largement citée, d’une décennie de quantifications en aval et d’une large base installée, n’est pas une quantité prouvée au sens formel, mais ses affirmations ont eu amplement le temps d’être contredites et ne l’ont pas été. Les chiffres de mémoire en particulier ont été publiés comme des contraintes d’ingénierie, et non comme du marketing, et ils se sont comportés comme des contraintes d’ingénierie.

Les chiffres de MiniCPM-V 4.7 ont deux semaines et aucune vérification extérieure. Le modèle est arrivé sans documentation le 6 octobre, et la fiche, la licence et la section des revendications sont arrivées le 12 octobre. Il n’y a toujours pas de tableau d’évaluation, pas de rapport technique, et aucun tiers n’a publié de résultat. Le seul endroit où de vrais chiffres ont été publiés est le checkpoint brouillon DSpark distinct, dont les chiffres de jetons acceptés par étape sont ceux d’OpenBMB et que le laboratoire n’a pas publiés pour le modèle parent.

Donc, la posture correcte face au nouveau modèle est la suivante : considérer l’architecture comme lue (elle figure dans le fichier de configuration), considérer la distribution comme réelle (les poids existent en six formats), et considérer chaque chiffre de performance comme une affirmation en attente d’un second avis. Cette dernière partie n’est pas une condition permanente. C’est simplement où en sont les choses au 13 octobre.

Exécuter l'un ou l'autre, et à quoi sert le routeur

Ces deux-là sont des fichiers que vous servez vous-même. Ni MiniCPM-V 4.7 35B-A3B ni Qwen2.5-Omni ne figurent dans le catalogue hébergé d'OrcaRouter, et rien ici ne doit être interprété comme une affirmation selon laquelle nous les acheminons — MiniCPM-V 4.7 est un checkpoint vieux de deux semaines qu'il vous faudrait deux accélérateurs pour exécuter sans quantification, et Qwen2.5-Omni est un modèle à poids ouverts de 2025 dont le foyer pratique est une instance vLLM que vous exploitez.

Là où un routeur gagne sa place, c'est de l'autre côté de cette ligne. La plupart des équipes qui exploitent un modèle de vision auto-hébergé ont encore besoin d'un modèle hébergé pour les cas que le modèle local ne peut pas gérer — le raisonnement à long horizon, l'utilisation d'outils, les entrées audio que MiniCPM-V 4.7 n'accepte pas. OrcaRouter place plus de 200 modèles hébergés derrière une seule clé, répercute le prix catalogue de chaque fournisseur sans aucune marge de notre part, et bascule automatiquement en cas de dégradation d'un fournisseur, ce qui signifie qu'ajouter ce second modèle relève d'un changement de routage et non d'un second contrat. La forme hébergée la plus proche du modèle MiniCPM est Qwen3.6 35B A3B — 35B au total, 3B actifs, 262K de contexte, entrée texte-image-vidéo — à 0,25 $ par million de tokens d'entrée et 1,48 $ par million de tokens de sortie, ce qui constitue une référence honnête pour ce que l'auto-hébergement vous fait réellement économiser.

Lequel, et quand

Choisissez Qwen2.5-Omni si vous avez le moindre besoin d'audio ou de parole, si vous voulez un modèle avec dix-neuf mois de déploiement derrière lui, ou si 32K tokens et un plafond de 60 GB pour une minute de vidéo rentrent dans votre budget. Ses limites sont connues et documentées, ce qui est un atout lorsqu'on met en production.

Prenez MiniCPM-V 4.7 35B-A3B si votre problème est le contexte visuel long et la génération de texte, si vous voulez la licence permissive, et si vous êtes prêt à être en avance — car c’est exactement ce que vous seriez. Aucun tiers ne l’a exécuté, l’affirmation d’exécution sur l’appareil n’a pas été reproduite, et les benchmarks n’existent pas. En échange, vous obtenez un modèle documenté, quantifiable et multi-runtime avec une fenêtre de 262K et un argumentaire d’efficacité plausible, et c’est vous qui découvrirez si cet argumentaire tient.

Ce qui changerait la réponse : un tableau de référence d’OpenBMB, ou une longueur d’acceptation reproduite à partir du brouillon DSpark — toujours la voie la moins coûteuse vers un chiffre externe sur cette famille. Ce qui ne changerait pas la réponse, c’est davantage de temps. Dix-neuf mois n’ont pas donné à MiniCPM-V 4.7 la capacité d’entendre, et rien sur la feuille de route ne suggère que cela arrive.