Moondream 3 vs MiniCPM-V 4.7 : la facture de stockage MoE que personne ne cite

Tous deux Moondream 3 Preview et MiniCPM-V 4.7 sont des modèles vision-langage à mélange d'experts, et tous deux sont présentés avec un petit nombre de paramètres actifs qui donne l'impression qu'ils peuvent tourner sur du matériel modeste. Moondream 3 Preview active 2 milliards de ses 9 milliards de paramètres par token. La variante phare de MiniCPM-V 4.7, MiniCPM-V 4.7 35B-A3B, active environ 3 milliards de ses 35 milliards. Lisez ces deux phrases et vous vous attendriez à ce que le checkpoint Moondream soit le plus simple à déployer. Savoir si c'est le cas dépend entièrement d'une question que ni l'un ni l'autre des articles de lancement ne met en avant : où vivent les experts dormants ?

C’est sur cette question que ces deux modèles divergent véritablement, et la réponse constitue toute la raison d’être de MiniCPM-V 4.7 sous la forme qu’il prend. Sa sortie — MiniCPM-V 4.7 35B-A3B et MiniCPM-V 4.7 1B, d’OpenBMB, publiée le 6 octobre 2026 — est conçue autour de l’exécution fluide d’un MoE 35B sur un téléphone sans le dégrader. Moondream 3 Preview, que Moondream a publié le 18 septembre 2025 et qui fait désormais partie de Prime Intellect à la suite de l’acquisition d’octobre 2026, a pris la voie opposée : garder le MoE petit et l’exécuter sur des GPU avec Photon, le propre moteur d’inférence de Moondream. Aucun des deux choix n’est mauvais. Ce sont des réponses à des contraintes différentes, et la contrainte à laquelle vous êtes soumis décide de la comparaison pour vous.

Les paramètres actifs relèvent du calcul, pas du stockage

C'est l'arithmétique qui rend le MoE embarqué difficile, et OpenBMB le précise dans sa propre fiche de modèle : un modèle MoE peut avoir bien plus de paramètres totaux qu'il n'en active pour un seul token, mais ses besoins de stockage embarqué ne se limitent pas à ces paramètres actifs. Différents tokens sélectionnent différents experts à différentes couches, et la mémoire de l'appareil ne peut souvent pas les contenir tous.

Moondream 3 Preview — 9B au total, 2B actifs. 24 couches, les quatre premières denses, le reste des blocs feed-forward MoE avec 64 experts et 8 activés par token. Dimension cachée 2048, dimension interne/gate GeGLU 1024.

• MiniCPM-V 4.7 35B-A3B — 35B au total, environ 3B actifs. Le premier MoE de la série MiniCPM-V. La variante 1B de la même version est dense, et non MoE, ce qui a son importance ci-dessous.

• Le décalage — divisez l’actif par le total et Moondream 3 Preview apparaît comme le modèle le plus léger, et de loin. Divisez les octets par les octets et c’est MiniCPM-V 4.7 35B-A3B qui porte quatre fois autant de poids.

• Pourquoi cela ne tranche rien — c’est l’ensemble résident qui contraint l’appareil, et l’ensemble résident est plus proche du total que le nombre d’actifs. Un MoE de 9B ne tient pas dans la mémoire où tient un modèle dense de 2B, peu importe ce que le routeur déclenche.

Ainsi, « 2B active » est une affirmation sur le calcul par token. Ce n’est pas une affirmation sur la mémoire dont vous avez besoin, et la considérer comme telle est la façon la plus courante pour les équipes de mal dimensionner un déploiement MoE.

OpenBMB s'est attaqué de front au problème de stockage

La conception de MiniCPM-V 4.7 se lit au mieux comme trois techniques visant précisément cette lacune. Lookahead Expert Scheduling utilise la prédiction de routage inter-couches pour précharger les experts que la couche suivante est susceptible de vouloir, et donne la priorité à ceux qui ont été préchargés avec succès parmi ceux sélectionnés par le routeur réel — la prédiction ne guide que le préchargement et l'ordonnancement, tandis que le calcul suit toujours le routage d'origine du modèle au niveau des tokens et tout expert requis manqué par la prédiction est chargé et évalué comme d'habitude. La quantification granulaire couche par couche réduit l'empreinte de stockage et le trafic mémoire des poids des experts. L'échantillonnage spéculatif DSpark est intégré au chemin embarqué pour améliorer l'efficacité du décodage, en complément des deux autres.

Le résultat annoncé est de plus de 13 tokens par seconde avec environ 3 Go de mémoire sur un iPhone 17 Pro Max, qu'OpenBMB décrit comme le premier modèle MoE open source à fonctionner de manière fluide directement sur l'appareil sans compromettre les performances. Sa comparaison est explicite et mérite d'être signalée pour ce qu'elle est : en mode Instruct, MiniCPM-V 4.7 35B-A3B atteint un score global plus élevé en moins de temps d'inférence que Qwen3.6 35B-A3B. Il s'agit d'une affirmation rapportée par le fournisseur, dans la même classe de taille, et c'est la plus utile, car les deux modèles sont mesurés sur le même banc d'essai.

Le reste de l'histoire du déploiement est d'une ampleur inhabituelle. iOS, Android et HarmonyOS sont pris en charge, avec un support dès le jour 0 (day-0) pour les plateformes de puces de Rockchip, Houmo, Intel, AMD et Arm. L'inférence tourne sur SGLang, vLLM, llama.cpp et Ollama ; l'affinage sur SWIFT et LLaMA-Factory. Les quantifications GGUF, BNB, AWQ et GPTQ sont disponibles, ainsi que le FP8. La variante 1B est à nouveau une proposition à part — dense, et non MoE — et OpenBMB la présente comme continuant d'améliorer MiniCPM-V 4.6 tout en surpassant nettement Qwen3.5 0.8B, tant sur le score global que sur l'efficacité d'inférence, ce qui est la comparaison honnête pour un modèle de moins de 1B.

La réponse de Moondream a été de déplacer le matériel, pas les poids

Moondream n'a pas essayé de faire tenir un MoE de 9B sur un téléphone. Il a conservé l'architecture et changé l'endroit où il s'exécute : Photon, son moteur d'inférence, compile chaque modèle en un seul programme GPU avec des kernels personnalisés, et s'exécute localement sur les GPU NVIDIA à partir d'Ampere et sur les Mac Apple Silicon, avec la même API que Moondream Cloud.

C'est une stratégie défendable, et l'annonce d'acquisition de Prime Intellect explique pourquoi elle était séduisante : l'équipe de Moondream a construit Photon et le compilateur de megakernel qui le sous-tend, et l'argument de Prime pour racheter l'entreprise est que c'est le serving, et non l'architecture, qui détermine l'utilité d'un modèle. Les chiffres de débit cités dans cet article — plus de 60 inférences Moondream par seconde sur un seul H100, des réponses en dizaines de millisecondes, Moondream 3.1 à 34 requêtes par seconde — sont ceux de Prime et constituent désormais du matériel commercial, alors présentez-les comme tels. Mais la direction est sans ambiguïté : le pari de Moondream était que vous préféreriez un modèle rapide adossé à un GPU à un modèle de la taille d'un téléphone.

Il existe une deuxième différence, et elle n’apparaît pas du tout dans la fiche de modèle. Le point de terminaison hébergé de Moondream 3 Preview, Moondream Cloud, sera fermé le 13 novembre 2026 à la suite de l’acquisition, les crédits achetés non utilisés étant remboursés. MiniCPM-V 4.7 n’a pas une telle dépendance, car il n’a jamais été avant tout un produit hébergé : il s’agit d’un ensemble de poids assorti d’un large éventail de scénarios de déploiement sur appareil. Si votre évaluation incluait la commodité de pouvoir appeler un point de terminaison, cette commodité arrive à expiration d’un côté de cette comparaison.

Capacité de la tâche : les deux cartes sont honnêtes sur des choses différentes

Les quatre compétences natives de Moondream 3 Preview sont query, caption, point et detect, toutes renvoyant une sortie structurée, et l’article de lancement met en avant la détection et le pointage. La compétence query s’exécute en mode raisonnement par défaut, avec un indicateur documenté reasoning=False pour les questions simples, et les traces de raisonnement sont ancrées — elles font référence à des parties précises de l’image, ce qui explique que Moondream parle de raisonnement visuel avec ancrage plutôt que de raisonnement en général. Le contexte est de 32K tokens, contre environ 2K dans la génération précédente, grâce à un tokenizer SuperBPE personnalisé ; l’article de lancement reconnaît sans détour que le post-entraînement n’exploite pas pleinement la fenêtre longue et que les 32K complets sont surtout là pour le fine-tuning.

La fiche de MiniCPM-V 4.7 met plutôt l'accent sur l'efficacité et l'étendue : compréhension d'images uniques, d'images multiples et de vidéos, avec une compression mixte des tokens visuels en 4x/16x qui permet d'arbitrer entre détail visuel et coût d'inférence selon la tâche, et une compression précoce intra-ViT issue de LLaVA-UHD v4 qui réduit le calcul dans les dernières couches de l'encodeur. Il embarque aussi une méthode de fine-tuning — Self-Replay Fine-Tuning — visant à étendre les capacités d'un modèle à moindre coût tout en réduisant l'oubli de ce qu'il savait déjà.

• Détection et pointage ancrés — Moondream 3 Preview : compétences natives dans l’architecture, coordonnées structurées, traces de raisonnement ancrées. MiniCPM-V 4.7 : la compréhension multi-images et vidéo sont les forces annoncées ; la fiche ne met pas en avant la détection à vocabulaire ouvert.

• Vidéo — MiniCPM-V 4.7 prend en charge l’entrée vidéo, avec un exemple documenté utilisant 128 images. La fiche de Moondream 3 Preview documente des capacités liées aux images avec une mise en cache de l’encodage d’image pour les requêtes répétées sur la même image.

• Détail contrôlable — MiniCPM-V 4.7 : un paramètre downsample_mode, 16x par défaut et 4x pour un détail plus fin, choisi à chaque appel. Moondream 3 Preview : concaténation de canaux multi-crop dans l’encodeur visuel, l’article de lancement signalant que l’encodeur peut être mis en échec par des polices très petites.

• Licence — MiniCPM-V 4.7 : Apache 2.0, les deux variantes. Moondream 3 Preview : Business Source License 1.1 avec une Additional Use Grant, qui autorise l’utilisation commerciale et en production et interdit de proposer Moondream hébergé à usage général. Moondream 3.1 est passé à la Moondream Model License 1.0 avec la même restriction fondamentale, formulée plus clairement.

La question de la licence n'est pas une note de bas de page dans ce comparatif. Si vous avez l'intention d'héberger le modèle pour d'autres personnes, Apache 2.0 et les conditions de disponibilité du code source de Moondream ne constituent pas du tout le même point de départ, et c'est vrai quel que soit celui qui obtient de meilleurs résultats sur votre tâche.

Le fine-tuning est là où les deux cartes pointent, pour des raisons opposées.

Les deux fournisseurs vous disent que le modèle de base n’est pas le produit, ce qui est rafraîchissant et constitue aussi un indice sur l’endroit où réside la valeur.

L'article de lancement de Moondream cite l'entraînabilité comme l'un de ses quatre objectifs, au motif que les tâches de vision réelles exigent une spécialisation — interpréter une radiographie, repérer des personnes en difficulté dans une foule — et que même les humains ont besoin d'entraînement pour cela. L'entreprise a livré Lens pour cela, et le lancement de Moondream 3.1 est allé plus loin : les scores de benchmark publiés pour la 3.1 ont été produits en affinant des LoRA par tâche sur le propre jeu d'entraînement de chaque benchmark via Lens, puis en réintégrant ce qu'ils ont appris dans les poids de base par distillation on-policy, afin que le checkpoint téléchargeable obtienne de bons scores sans aucun réglage. Cela mérite d'être lu deux fois. C'est un flux de travail légitime et une divulgation d'une transparence inhabituelle, et cela signifie aussi que ces chiffres ne sont pas des chiffres à froid obtenus d'emblée — les tâches en question ont eu leurs jeux d'entraînement fournis au modèle.

L’équivalent chez OpenBMB est Self-Replay Fine-Tuning, qui vise un problème différent : ajouter des capacités sans oublier les capacités existantes, à faible coût. Son argument principal concerne la rétention plutôt que le score maximal.

Si vous comptez fine-tuner l’un ou l’autre des modèles, la différence pratique est la même que celle qui traverse toute cette comparaison. La voie de Moondream suppose un GPU et un service hébergé. Celle de MiniCPM-V 4.7 suppose que vous pouvez faire du fine-tuning sur les frameworks que vous utilisez déjà, puis déployer sur les appareils que vous ciblez déjà, avec une stratégie publiée de quantification embarquée pour l’y amener.

Quand une couche de routage mérite sa place

Aucun des deux modèles ici n’est servi via OrcaRouter — ce sont tous les deux des checkpoints à poids ouverts que vous hébergez vous-même, et l’un d’eux perd son point de terminaison hébergé le mois prochain. Cela fait de la question intéressante celle que les deux fiches éludent : qu’advient-il des requêtes que votre modèle choisi traite mal ?

La réponse standard consiste à faire appel à un second modèle, et le coût standard d’un second modèle, c’est l’intégration : un SDK de plus, un schéma d’authentification de plus, une politique de nouvelle tentative de plus. C’est le genre de travail qui consomme discrètement un sprint, puis qui devient de la maintenance permanente. La fusion de modèles d’OrcaRouter existe pour la version la plus étroite de ce problème — un panel de modèles répondant ensemble lors des appels où la réponse d’un seul modèle n’est pas suffisamment fiable — et le DSL de routage pour la version plus large, vous permettant de composer plusieurs modèles en un seul appel afin qu’un modèle local peu coûteux traite la majorité facile et qu’un modèle plus important prenne le reste.

Derrière une seule clé, il y a plus de 200 modèles au prix catalogue du fournisseur, sans marge ajoutée, ce qui signifie qu'une baisse de prix d'un fournisseur vous parvient le jour même plutôt qu'au cycle de facturation suivant, et que le basculement entre fournisseurs est automatique lorsqu'un service en amont se dégrade. Pour un VLM auto-hébergé, la couche de routage se situe au-dessus du modèle plutôt que de le remplacer. C'est la description honnête de sa place dans cette comparaison, et pour un système où MiniCPM-V 4.7 35B-A3B est sur l'appareil et où un modèle hébergé couvre les manques, c'est la partie qui empêche les deux de devenir deux systèmes.

Lequel, décidé par la contrainte que vous avez réellement

Si le modèle doit tourner sur l'appareil, MiniCPM-V 4.7 35B-A3Best la réponse, et ce n'est même pas serré. OpenBMB a construit toute cette sortie autour du problème de stockage qui empêche un MoE de 35 B de tourner sur un téléphone — ordonnancement des experts, quantification couche par couche, décodage spéculatif — et a publié le chiffre qui en découle : plus de 13 jetons par seconde dans environ 3 Go. Rien dans Moondream 3 Preview ne traite ce problème, parce que Moondream a choisi de ne pas l'avoir.

Si un GPU est en jeu et que la détection ancrée est la tâche, Moondream 3 Preview est l’instrument le plus spécialisé. La détection et le pointage natifs avec des coordonnées structurées et des traces de raisonnement ancré inspectables constituent un produit différent d’un modèle multimodal général qui lit aussi le texte dans les images, et si un humain examine la sortie, la trace est l’atout.

Si vous hésitez entre les deux, ne tranchez pas d'après les tableaux de benchmarks. Faites passer vos propres images dans les deux, avec vos propres prompts, et notez les sorties, car le seul chiffre de cette comparaison qui survivra au contact de votre charge de travail est celui que vous produirez vous-même. Et vérifiez la licence avant le modèle, car Apache 2.0 et une licence à code source disponible avec restriction sur les services hébergés constituent un choix tout à fait différent — l'une d'elles peut mettre fin à l'évaluation avant même que les chiffres de précision ne comptent.

Les comparaisons comme celle-ci sont également le lieu où se manifestent les modes de défaillance : les incidents d'IA documentés et les défaillances d'agents derrière les modèles de cette classe sont collectés dans l'Archive des incidents d'IA d'OrcaRouter, où chaque entrée comporte ses propres sources, sa gravité, sa note de confiance et son indicateur de contestation.