MiniCPM-V 4.7 vs NVIDIA Nemotron 3.5 Super VL : la machine la moins chère capable de faire tourner chacun d'eux

Ces deux modèles sont des modèles vision-langage à poids ouverts, tous deux à mélange d'experts, et tous deux compressent les tokens visuels avant que le modèle de langage ne les voie. Le choix entre MiniCPM-V 4.7 35B-A3B et NVIDIA Nemotron 3.5 Super VL n'est donc pas une décision d'architecture. C'est une décision sur la plus petite machine que vous êtes prêt à acheter, et sur ce que cette machine vous rapporte en pages par heure. À ce prix, les deux modèles relèvent de conversations d'achat totalement différentes : l'un tourne à partir d'un téléchargement de 21 Go sur du matériel que vous possédez probablement déjà, l'autre exige quatre H100 en BF16 ou un seul H200 en FP4. Cet article fait le calcul que les fiches techniques vous laissent — palier de mémoire par palier de mémoire, et page par page. La pile vision reste sur votre matériel. L'orchestration qui l'entoure, elle, n'a pas à y rester. Voir le catalogue hébergé Plus de 200 modèles hébergés avec une seule clé, prix catalogue répercuté sans marge.Les défaillances d'IA et incidents d'agents documentés qui se cachent derrière des versions comme celle-ci sont rassemblés dans l'archive des incidents d'IA OrcaRouter où chaque entrée comporte ses propres sources, sa gravité, son niveau de confiance et un indicateur de contestation.

Deux échelles de quantification, deux planchers très différents

OpenBMB et NVIDIA ont résolu le même problème — un modèle trop volumineux pour l’appareil sur lequel vous voulez l’exécuter — dans des directions opposées. MiniCPM-V 4.7 35B-A3B garde un petit ensemble actif résident et fait transiter les experts depuis le stockage, puis livre l’ensemble dans toutes les tailles GGUF afin que vous puissiez choisir votre seuil minimal. Nemotron 3.5 Super VL garde le modèle complet résident et entraîne plutôt un palier 4 bits (NVFP4) qui réduit le besoin en mémoire d’environ quatre fois sans pénalité de quantification a posteriori.

• MiniCPM-V 4.7 35B-A3B, Q4_K_M — 21,2 Go sur disque. Tient sur un GPU grand public de 24 Go avec une marge étroite, ou sur un Mac de 32 Go avec de la place à revendre.

• MiniCPM-V 4.7 35B-A3B, Q8_0 / F16 — 36,9 Go / 69,4 Go. Une carte de 48 Go ou une station de travail de 96 Go, selon la quantité de contexte que vous souhaitez en plus des poids.

• Nemotron 3.5 Super VL, BF16 — environ 231,8 Gio de poids répartis sur 64 fragments. La recette de déploiement propre à NVIDIA est un parallélisme tensoriel de 4 sur 4x H100, ou TP2 sur 2x GB200.

• Nemotron 3.5 Super VL, NVFP4 — se déploie sur 1x DGX Spark, 1x H200, 2x H100 ou 1x GB200, d’après sa fiche modèle.

Cette dernière ligne est le chiffre qui change la conversation d’achat. Un modèle 120B sur un seul H200 au lieu de quatre H100 ne représente pas une économie marginale ; c’est la différence entre une réservation de cluster et un seul nœud. Et parce que NVIDIA effectue la conversion 4 bits pendant l’entraînement, avec une distillation consciente de la quantification plutôt qu’après coup, elle affirme l’absence de surcoût d’inférence — une affirmation que la fiche produit énonce mais n’étaye pas par un écart de précision BF16/NVFP4 publié.

Pages par heure, le chiffre qui décide de tout

Le débit en jetons par seconde est un mauvais indicateur pour le travail documentaire, car le coût d’une page est dominé par le nombre de jetons visuels que l’encodeur émet avant que le modèle de langage ne prononce un mot. C’est là que les deux conceptions divergent le plus nettement, et où le langage marketing est le moins utile.

MiniCPM-V 4.7 35B-A3B compresse à l’intérieur de la tour de vision, en utilisant une technique de compression précoce qu’OpenBMB attribue à LLaVA-UHD v4, avec un sous-échantillonnage mixte 4x et 16x. La valeur par défaut est 16x ; le 4x est la voie des détails fins, choisie par image. Une page dense de texte emprunte la voie économique, un schéma de pièces détachées emprunte la voie coûteuse. La compression s’effectue avant que le modèle de langage n’entre en jeu, ce qui est précisément ce qui rend un modèle 35B viable sur un téléphone.

Nemotron 3.5 Super VL ne mise pas d’abord sur la compression. Sa réponse, c’est le contexte : jusqu’à un million de tokens, une entrée vidéo allant jusqu’à deux minutes, et une couche hybride Mamba-2 pour éviter que la très longue séquence ne devienne quadratique. Sa recette vidéo échantillonne par défaut à 2 images/s et 256 images, puis descend à 1 image/s et 128 images en 1080p — une politique d’échantillonnage plutôt qu’une astuce de compression, et que vous pouvez relever si la charge de travail présente un mouvement dense.

La conséquence pratique : MiniCPM-V 4.7 vous offre un coût fixe et faible en tokens par page, mais vous demande d’accepter la perte de détail ; Nemotron 3.5 Super VL vous permet de conserver le détail, mais vous demande de payer pour le contexte. Pour la révision d’un contrat de cent pages, le premier est moins cher à la page, tandis que le second est plus performant sur la page où la clause se trouve dans une note de bas de page en 6 points. Pour une vidéo chirurgicale de deux minutes, seul le second entre ne serait-ce qu’en ligne de compte.

L’une de ces versions fournit des chiffres ; l’autre fournit des graphiques.

C'est la partie de la comparaison qu'aucun calcul matériel, quelle qu'en soit l'ampleur, ne corrige, et elle a donc sa place ici plutôt qu'enfouie dans une note de bas de page.

La fiche modèle de NVIDIA contient un tableau de référence d'environ quarante lignes, et elle est étonnamment transparente : elle nomme les références, et plusieurs lignes montrent le modèle en retrait. Face à Qwen3.5-122B-A10B, ses propres chiffres donnent MMLU-ProX à 76,91 contre 83,2, tau2-bench telecom à 73,19 contre 87,2, OCRBench v2 chinois à 59,15 contre 67,3, et MathVision à 78,16 contre 83,3. Il remporte GPQA-Diamond 89,52 contre 86,7, SWE-bench Pro 51,78 contre 44,9 et CritPt 10,86 contre 1,1. Chaque chiffre, y compris ceux des références, a été collecté via le propre harnais NeMo Gym de NVIDIA — la fiche le dit directement et publie des notes de reproductibilité. Réalisé par le fournisseur, honnêtement étiqueté, avec les défaites laissées dans le tableau.

La fiche de MiniCPM-V 4.7 comporte cinq graphiques d’évaluation et aucun tableau numérique. Les affirmations comparatives sont indicatives : un score global supérieur en moins de temps d’inférence que Qwen3.6 35B-A3B en mode Instruct, et des gains substantiels par rapport à Qwen3.5 0.8B pour la variante 1B. Il n’y a aucun score par benchmark à citer, aucune liste de références à examiner et aucune pondération publiée pour le composite représenté. Cela ne revient pas à dire que le modèle est mauvais — l’ingénierie est documentée dans config.json et les poids sont vérifiables octet par octet —, mais cela signifie que la moitié « exactitude » de cette comparaison ne peut pas être construite. Quiconque présente un tableau des scores de MiniCPM-V 4.7 face aux chiffres de Nemotron 3.5 Super VL lit le graphique d’un fournisseur comme s’il s’agissait d’une mesure et le tableau de l’autre comme s’il était neutre.

Les chemins d’exécution, et celui qui finira par vous rattraper

L’histoire de déploiement de MiniCPM-V 4.7 est un menu : SGLang, vLLM, llama.cpp et Ollama, une voie OpenVINO pour les CPU, GPU et NPU Intel, le fine-tuning via SWIFT et LLaMA-Factory, la quantification en GGUF, BNB, AWQ, GPTQ et FP8, et une prise en charge dès le jour 0 revendiquée pour les puces Rockchip, Houmo, Intel, AMD et Arm, aux côtés d’iOS, Android et HarmonyOS. L’étendue est le produit. Le coût de l’étendue, c’est que personne n’a validé votre combinaison particulière, et la voie amont actuelle de llama.cpp présente un défaut actif : les positions des marqueurs d’image sont calculées de manière incorrecte, si bien que les coordonnées renvoyées sont systématiquement basses lorsqu’on demande où se trouve quelque chose. Un correctif testé est ouvert et non fusionné au 20 octobre.

L'histoire de Nemotron 3.5 Super VL est étroite et approfondie : vLLM sur un tag d'image épinglé et SGLang sur un tag épinglé, avec la prédiction multi-jetons intégrée à l'architecture, ce qui évite d'avoir besoin d'un drafter séparé. La fiche précise les versions parce que ces versions constituent la combinaison validée. S'en écarter, c'est ainsi qu'un déploiement fonctionnel devient une séance de débogage.

Si vous choisissez un matériel pour l'adapter au modèle, prenez MiniCPM-V 4.7. Si vous choisissez un modèle pour l'adapter au matériel que vous possédez déjà, prenez Nemotron 3.5 Super VL et suivez exactement les versions indiquées sur sa fiche.

Où se place un routeur dans une architecture à deux boîtiers

Le schéma qui apparaît en production n’est pas un choix entre ces deux options. Il consiste à utiliser un petit modèle sur l’appareil ou sur la machine locale pour effectuer le travail qui doit être instantané et privé, et un grand modèle pour prendre en charge le travail qui doit être exact. MiniCPM-V 4.7 35B-A3B est conçu pour le premier rôle ; Nemotron 3.5 Super VL est conçu pour le second, avec une fenêtre d’un million de tokens et 12B de paramètres actifs pour traiter de longs documents et des boucles agentiques.

Exécuter les deux signifie deux piles de modèles, deux ensembles de modes de défaillance et — une fois que vous ajoutez un modèle de texte pour l’orchestration qui les entoure — trois. C’est là qu’OrcaRouter aide sans exagérer ce qu’il est : aucun des deux checkpoints n’est dans notre catalogue, car ce sont tous deux des poids ouverts que vous hébergez vous-même, mais les modèles de texte et de code qui les entourent y sont. Une seule clé pour plus de 200 modèles hébergés, le prix catalogue du fournisseur répercuté avec 0 % de marge, et un basculement automatique en cas de dégradation d’un fournisseur en amont. La pile de vision reste sur votre matériel ; le reste du pipeline n’a plus besoin d’un nouveau contrat chaque fois que vous ajoutez une étape.

Ce que vous coûte une erreur sur chacun d’eux

Achetez le petit boîtier et découvrez que vous aviez besoin de raisonnement sur des documents longs : vous avez dépensé quelques milliers de dollars et une semaine. Achetez quatre H100 et découvrez que la charge de travail consistait en reçus : vous avez dépensé bien plus pour une capacité que vous n’utilisez jamais. Cette asymétrie est le véritable argument pour commencer par le palier bon marché puis monter en gamme — et c’est pourquoi la version embarquée mérite l’attention qu’elle suscite, même si ses benchmarks sont moins étoffés.

L’arbitre, si vous disposez des deux machines, c’est l’endroit où résident les pixels. Les images qui ne peuvent pas quitter le bâtiment vont au modèle qui s’exécute à l’intérieur. Les images qui nécessitent un million de tokens de contexte et une boucle de raisonnement vont à celui qui a été conçu pour cela, et vous acceptez les versions d’exécution épinglées comme prix d’entrée.