Moondream 3.1 9B A2B vs North Micro Vision Instruct : quel fournisseur vous permet réellement de vérifier le numéro

Deux modèles de vision ouverts, à quatre mois d'intervalle, avec presque rien en commun sur la manière dont ils demandent à être jugés. M​oondream 3.1 9B A2B a été lancé le 7 juillet 2026 avec un tableau de benchmarks, une note méthodologique en pied de page mentionnant un seul H100 SXM5 et une taille de lot de 16, et un argument parcourant le même article selon lequel les benchmarks ne mesurent pas ce dont ses clients ont réellement besoin. North Micro Vision Instruct est arrivé le 12 août 2026 de C​ohere Labs avec 2,4 milliards de paramètres sous Apache 2.0, et son article de lancement consacre toute sa longueur au programme d'entraînement et à sa configuration d'évaluation — le harnais utilisé, et les paramètres d'échantillonnage exacts avec lesquels les chiffres ont été produits.

C'est une véritable différence de nature, et elle est plus utile à un acheteur que le nombre de paramètres de l'un ou l'autre modèle. Un fournisseur vous explique comment reproduire son tableau. L'autre vous dit de ne pas faire confiance aux tableaux, puis en imprime un. Aucun des deux n'a été évalué de manière indépendante, pour autant que nous puissions le constater, de sorte que la question qui détermine vraiment sur quel ensemble de chiffres s'appuyer est de savoir combien de matière l'un ou l'autre fournisseur vous a donné à vérifier.

Ce que chacun est

Moondream 3.1 9B A2B est un modèle vision-langage à mélange d'experts clairsemé : 9 B de paramètres au total, 2 B actifs par token, 64 experts dont 8 actifs, un encodeur visuel SigLIP avec concaténation de canaux multi-recadrage, un contexte de 32 K tokens et un tokenizer SuperBPE. Ses quatre compétences — query, detect, point et caption — sont apprises plutôt que suscitées par le prompt, et les chemins de détection et de pointage renvoient une géométrie structurée plutôt qu'une description. Il s'exécute sur Photon, le moteur d'inférence du fournisseur, ciblant les GPU NVIDIA à partir d'Ampere et les puces Apple Silicon.

North Micro Vision Instruct est un modèle dense de 2,4 B construit à partir de trois éléments : un encodeur visuel à résolution native de 400 M, pré-entraîné davantage à partir du checkpoint SigLIP 2 SO400M de Google, un projecteur qui suit le schéma DeepStack consistant à injecter des embeddings de patchs issus de plusieurs couches de l’encodeur dans les premières couches du modèle de langage, et un modèle de langage de 2 B appelé North Micro LLM, qui suit l’architecture Command A+ de Cohere. Il prend en entrée du texte et des images entrelacés — une ou plusieurs — et produit du texte. Le vocabulaire du tokenizer est de 262 144, et les langues répertoriées vont jusqu’à onze, plus « et plus encore ».

La différence de type de sortie mérite d'être énoncée clairement, car elle façonne ce qui suit : M​oondream est un modèle de perception qui répond avec des boîtes et des coordonnées, North Micro Vision est un modèle de compréhension qui répond avec du langage. Tout ce que publie l'un ou l'autre fournisseur est une mesure de l'une de ces deux tâches, et ces tâches ne sont pas les mêmes.

Le nombre 8K qui n'est pas la fenêtre de contexte du modèle

Commencez par le piège, car il se trouve au milieu de la fiche du modèle North Micro Vision et c’est le genre de chose qui finit dans une décision d’architecture par accident.

• North Micro Vision Instruct — fenêtre de contexte du backbone linguistique 128 000 tokens ; plage de fonctionnement multimodale validée jusqu'à 8 000 tokens. La fiche affirme sans détour que les contextes multimodaux plus longs peuvent reposer sur une extrapolation et n'ont pas été évalués.

• Moondream 3.1 9B A2B — 32 000 jetons, un seul nombre, aucune exception de modalité publiée.

Ainsi, le chiffre phare avantage North Micro Vision d’un facteur quatre, et le chiffre qui s’appliquera réellement à votre charge de travail d’images avantage M​oondream d’un facteur quatre. Si vous estimez combien de pages d’un document numérisé tiennent dans un seul appel, 128K est le mauvais chiffre et 8K est le bon, et 8K de jetons d’image et de texte entrelacés ne représentent pas beaucoup de pages une fois qu’un encodeur en résolution native commence à émettre des jetons proportionnellement à la surface en pixels. Le fournisseur mérite d’être salué pour avoir publié cette mise en garde — la plupart des fiches ne le feraient pas — mais la mise en garde est enfouie sous un tableau de spécifications, et c’est le tableau qui est copié.

Comment les deux fournisseurs rapportent, côte à côte

C'est la partie de la comparaison qui n'a rien à voir avec les modèles et tout à voir avec celui que vous pouvez auditer.

Le billet de Moondream 3.1 indique ses baselines (Qwen3.5 9B, SAM 3, LocateAnything, Gemma 4 12B), sa métrique (F1@0,5 pour la détection), son matériel (un H100 SXM5), sa taille de lot (16), et le fait que chaque modèle était servi par son propre moteur — vLLM pour LocateAnything, Qwen3.5 et Gemma 4 ; Photon pour Moondream ; Hugging Face Transformers pour SAM 3. Il précise également que les réglages de précision et de raisonnement les plus élevés ont été choisis pour chaque modèle, et que LocateAnything a tourné en mode lent afin de maximiser la précision. Les résultats qu'il publie sont 81,46 F1@0,5 sur COCO val, 93,94 sur ODinW-13, 67,4 sur LVIS, 74,61 sur Dense200, 52,77 sur SKU-110K, 74,5 sur CrowdHuman, 87,1 sur RefCOCO-M, 70,39 sur HumanRef, 59,63 sur DOTA-v2, 90,35 sur CountBench, 74,86 sur TallyQA, 88,68 sur PixMo-Count, 86,01 sur ChartQA et 88,6 sur DocVQA, avec des affirmations d'état de l'art sur cinq des familles de benchmarks.

Ce qui ne figure pas dans ce pied de page est ce qui rend un résultat reproductible : les prompts. La détection est une tâche à vocabulaire ouvert, et la phrase avec laquelle vous demandez une chose change ce qui est renvoyé. Une personne qui relance l’expérience dispose de la métrique, du matériel et de la taille du lot, et ne peut toujours pas reproduire le chiffre sans savoir quel texte a produit chaque boîte.

La publication de Cohere Labs adopte l’autre approche. Elle nomme le harnais d’évaluation (VLMEvalKit), indique que le modèle a été évalué avec une implémentation interne de vLLM, liste la composition des benchmarks pour chaque groupe de capacités — la VQA générale est une moyenne de MMBench, MMStar, RealWorldQA et GQA ; le groupe graphiques, documents et OCR couvre ChartQA, DocVQA, InfoVQA, OCRBench, OCRBench v2 et AI2D ; le grounding et le comptage correspondent à la moyenne RefCOCO et à CountBench — et publie les paramètres d’échantillonnage avec lesquels les chiffres ont été produits : temperature 0.7, top_p 0.8, top_k 20, min_p 0.0, presence_penalty 1.5, repetition_penalty 1.0. Elle signale aussi que le support public de vLLM est « bientôt disponible », ce qui est la divulgation honnête qui compte le plus pour quiconque envisage de reproduire : le modèle a été testé sur un fork.

Ce que ce billet ne publie pas, c’est un tableau par benchmark. Ses résultats sont des moyennes par groupe de capacités et une affirmation relative — en mode Instruct, 35B-A3B obtient un score plus élevé en moins de temps d’inférence que Qwen3.6 35B-A3B, et la variante 1B surpasse Qwen3.5 0.8B à la fois sur le score et sur l’efficacité — ce qui est moins immédiatement citable et plus robuste au cherry-picking. Aucun des deux documents ne vous permet de recalculer le chiffre de l’autre fournisseur. Les deux vous permettent de voir l’ampleur de ce qu’ils cachent.

Où la différence d'architecture se manifeste en pratique

La résolution native est la décision de conception de North Micro Vision qui change le travail quotidien, et il vaut la peine de la comprendre avant les tableaux de référence. La plupart des encodeurs de vision redimensionnent tout ce que vous leur donnez dans un carré fixe, ce qui explique pourquoi une capture d’écran de tableur large arrive au modèle de langage avec ses colonnes écrasées. L’encodeur de North Micro Vision est entraîné à prendre l’image à sa propre résolution et à son propre rapport d’aspect, préservant ainsi les détails fins des documents, tableaux, graphiques et formulaires. Le programme publié est passé d’une étape fixe en 384×384 sur 10 millions d’exemples à une étape en 1024×1024 sur 13 millions et au-delà.

L’encodeur de M​oondream repose plutôt sur le multi-crop : l’image est traitée comme un ensemble de recadrages dont les caractéristiques sont concaténées, ce qui est aussi une manière de préserver les détails sur les grandes entrées et est couplé à la façon dont sa tête de détection produit les boîtes. Les deux sont des réponses légitimes au même problème et aucun des deux fournisseurs ne publie de comparaison directe à résolution équivalente, donc ce qu’il y a d’utile à retenir de la discussion sur l’architecture est plus étroit qu’un verdict : si votre travail porte sur des documents denses et de larges captures d’écran d’interface, la résolution native est la propriété à tester, et le test est une capture d’écran de votre propre cru, pas une ligne de benchmark.

L'autre différence structurelle réside dans le multi-image et la vidéo. North Micro Vision Instruct gère l'entrée multi-image entrelacée et liste des benchmarks multi-image parmi les groupes qu'il a évalués. Moondream 3.1 9B A2B est limité à une image par appel — aucun chemin vidéo, aucun chemin multi-image. Cela est cohérent avec sa conception : les propres écrits d'ingénierie de Moondream sur la vidéo en direct soutiennent que le problème réside dans la plomberie d'inférence plutôt que dans la capacité du modèle, et la réponse de l'entreprise aux charges de travail temporelles est un moteur qui suit un flux plutôt qu'un point de contrôle qui en ingère un. Savoir si c'est une meilleure réponse qu'un modèle qui prend 128 images à la fois est une question ouverte honnête, et les deux fournisseurs ne mesurent pas la même chose.

Déploiement et licence, rapidement

• Taille — 9B au total / 2B actifs face à 2,4B denses. En termes de stockage, l’écart est plus large que ne le suggère le ratio de paramètres actifs, car l’empreinte d’un modèle sparse suit son total.

• Échelle de l'affinage — un modèle dense de 2,4 B est assez petit pour être affiné sur un seul appareil ; un modèle parcimonieux de 9 B exige une véritable configuration d'entraînement pour tout ce qui va au-delà d'un LoRA, raison pour laquelle la voie d'affinage propre à Moondream passait par un produit hébergé.

• Environnements d'exécution — North Micro Vision Instruct nécessite Transformers 5.16.0 avec accelerate et Pillow ; des quantifications communautaires existent en MLX, LiteRT et dans des formats apparentés à ONNX. M​oondream 3.1 9B A2B s'exécute sur Photon, avec le premier packaging GGUF tiers du checkpoint apparaissant le 15 octobre 2026.

• Licence — Apache 2.0 pour North Micro Vision Instruct, sans seuil ni restriction quant à l'héberger pour d'autres. La Moondream Model License 1.0 pour Moondream 3.1 9B A2B : utilisation commerciale, auto-hébergement, fine-tuning, quantification et redistribution sont tous autorisés, avec une interdiction — vous ne pouvez pas proposer l'inférence ou le fine-tuning Moondream à usage général en tant que service hébergé.

• Churn — North Micro Vision Instruct est statique depuis sa sortie ; les ajouts récents notables sont des quantisations tierces. Les conditions de M​oondream ont changé entre-temps au cours des quinze derniers jours : Prime Intellect a acquis la société le 13 octobre 2026, et M​oondream Cloud, y compris le produit de fine-tuning Lens, ferme le 13 novembre 2026. Les poids et Photon ne sont pas affectés ; le chemin hébergé ne l'est pas.

Le deuxième modèle dans le pipeline, et qui le route

Aucun de ces points de contrôle n'est servi sur OrcaRouter, il faut donc y voir une note d'intégration. Tous deux sont des composants à une seule étape : l'un renvoie des boîtes, l'autre renvoie du texte, et un système de production a besoin d'un modèle derrière eux pour décider ce que signifie l'observation et pour la consigner. Cette étape est une étape de texte, elle coûte généralement plus cher par appel que l'étape de vision, et c'est l'étape que vous voudrez remplacer en premier lorsqu'un modèle de raisonnement moins cher ou meilleur apparaît. Effectuer ce remplacement via un point de terminaison compatible OpenAI couvrant plus de 200 modèles — avec les tarifs catalogue des fournisseurs répercutés sans marge et un basculement automatique entre fournisseurs lorsqu'un amont connaît une mauvaise passe — revient à changer un identifiant de modèle plutôt qu'à recâbler la caméra. Quand un seul avis ne suffit pas, la fusion de modèles exécute un panel de modèles sur la même entrée, et le DSL de routage en compose plusieurs en un seul appel.

Il y a un point sur lequel nous pouvons être plus précis, et il vaut la peine d’être honnête sur la direction dans laquelle cela penche. North Micro Vision Instruct est sous Apache 2.0 et suffisamment petit pour tourner sur du matériel que vous possédez, ce qui signifie que l’argument habituel en faveur de l’acheminement d’un modèle de vision via un point de terminaison hébergé — celui selon lequel vous ne pouvez pas l’auto-héberger — ne s’applique pas. L’argument qui reste est le plus ordinaire : un deuxième modèle dans la boucle, sur la même clé, avec une seule facture et un seul jeu d’identifiants.

Lequel choisir, et qu’est-ce qui changerait la réponse ?

Choisissez North Micro Vision Instruct si vous lisez des documents, des tableaux, des graphiques ou des écrans, si vous avez besoin de plusieurs images en un seul appel, si Apache 2.0 compte parce que vous avez l’intention d’héberger le modèle pour d’autres personnes, ou si vous voulez un checkpoint de 2,4 B que vous pouvez affiner sur vos propres données. La fiche de modèle de Cohere indique l’affinage comme usage prévu et la licence ne met aucun obstacle en travers.

Choisissez M​oondream 3.1 9B A2B si votre sortie est de la géométrie — des boîtes, des coordonnées, des comptages avec les instances associées — et que votre déploiement est une machine CUDA avec Photon dessus. Le modèle est spécialisé et son argument de vitesse vise exactement cette charge de travail.

Ce qui changerait la réponse pour les deux, c’est une évaluation indépendante, et c’est ce qu’il faut continuer à surveiller. Aucun des deux fournisseurs n’a vu ses chiffres reproduits à l’extérieur, et chacun a publié dans des conditions qui rendent la reproduction plus difficile qu’elle ne devrait l’être : l’un ne divulgue pas ses prompts, l’autre a tourné sur une implémentation de service interne d’un framework dont la prise en charge publique est encore en attente. Quand un tiers exécutera l’un ou l’autre checkpoint sur le même ensemble de documents, le modèle dont le tableau survivra intact à ce contact sera celui qui mérite d’être cru — et d’ici là, le fournisseur qui vous a dit comment il a mesuré est celui avec lequel il est plus facile de discuter.

Un résultat comme celui-ci rappelle aussi que les erreurs de modèle sont déjà documentées : les incidents d'IA et les défaillances d'agents liés aux modèles de cette catégorie sont recensés dans l'OrcaRouter AI Incident Archive, où chaque entrée comporte ses propres sources, son degré de gravité, sa note de confiance et son indicateur de contestation.