NVIDIA Nemotron 3.5 Super VL vs MiniCPM-V 4.7 35B-A3B : 3 Go dans une poche contre 4× H100 dans une baie

L'un d'eux tourne sur un iPhone. L'autre tourne sur quatre H100. C'est là toute la comparaison, et tout le reste n'est que détail. MiniCPM-V 4.7 35B-A3Best la première entrée Mixture-of-Experts d'OpenBMB dans la gamme MiniCPM-V, et l'affirmation de la fiche du modèle est suffisamment précise pour être vérifiée : plus de 13 jetons par seconde sur un iPhone 17 Pro Max avec environ 3 Go de mémoire, l'exécution étant décrite comme fluide plutôt que comme une simple démo. N​VIDIA N​emotron 3.5 Super VLest un modèle vision-langage de 120B au total et 12B actifs, dont la fiche situe l'enveloppe de déploiement à 4× H100 ou 2× GB200. Les deux sont à poids ouverts. Les deux sont des modèles vision-langage. Ce ne sont pas des options pour une même décision.

Ce qui les rend malgré tout dignes d’être comparés, c’est qu’ils s’accordent sur le mécanisme et divergent sur l’échelle. Tous deux sont des modèles Mixture-of-Experts conçus pour échanger de la taille totale contre un coût par token. Tous deux compressent les tokens visuels avant que le modèle de langage n’ait à réfléchir à leur sujet. Tous deux parient que l’avenir du travail vision-langage réside dans de nombreux modèles à de nombreux endroits plutôt que dans un seul grand modèle derrière une seule API. Ils ont simplement placé leurs paris à trois ordres de grandeur d’écart en matière de matériel.

La coïncidence des paramètres actifs

NVIDIA Nemotron 3.5 Super VL compte 120B au total avec 12B actifs par token — un MoE hybride Mamba-2–Transformer doté d’un encodeur visuel C-RADIO et de 512 experts routés par couche MoE, pouvant prendre en charge jusqu’à 1M de tokens de contexte. MiniCPM-V 4.7 35B-A3B compte 35B au total avec 3B actifs. Ils diffèrent d’un facteur quatre en taille totale et de quatre en calcul actif, mais partagent la même intuition architecturale : garder un nombre de paramètres élevé pour les connaissances et un coût par token faible pour la vitesse.

La contribution d’OpenBMB à ce problème est Lookahead Expert Scheduling, qui permet à un modèle à 3B actifs de garder ses experts résidents sans saturer le bus mémoire — la raison pour laquelle il peut tourner en 3 Go au lieu de nécessiter une station de travail. L’implémentation se trouve dans un fork, llama.cpp-omni, et l’affirmation qui l’accompagne est prudente : le premier modèle MoE open source à tourner fluidement sur appareil sans compromis sur les performances. Savoir si « sans compromis » tient face à un modèle de 120B n’est pas ce que la fiche aborde, et ce ne devrait pas l’être — un modèle qui tourne sur un téléphone n’est pas en concurrence avec un modèle qui a besoin de quatre H100s en matière de précision. Il est en concurrence sur le simple fait d’être là.

• Paramètres totaux / actifs — N​emotron 3.5 Super VL : 120B / 12B. MiniCPM-V 4.7 35B-A3B : 35B / 3B.

• Cible de déploiement — N​emotron 3.5 Super VL : 4× H100 ou 2× GB200, servi via vLLM ou SGLang. MiniCPM-V 4.7 35B-A3B : téléphone, ordinateur portable, boîtier edge — iOS, Android et HarmonyOS sont tous mentionnés.

• Mémoire à l’extrémité la plus petite — N​emotron 3.5 Super VL : non applicable. MiniCPM-V 4.7 35B-A3B : environ 3 Go.

• Contexte — N​emotron 3.5 Super VL : jusqu’à 1 million de tokens, vidéo jusqu’à deux minutes. MiniCPM-V 4.7 35B-A3B : ce n’est pas l’argument de vente du modèle ; la fiche met en avant l’empreinte et la vitesse.

• Licence — N​emotron 3.5 Super VL : OpenMDW-1.1. MiniCPM-V 4.7 35B-A3B : Apache-2.0.

Deux réponses différentes à « les tokens sont chers »

Les deux équipes se sont attaquées au même goulot d’étranglement — le nombre de tokens visuels que coûte une image — et sont arrivées à des endroits différents.

MiniCPM-V 4.7 35B-A3B le fait à l’intérieur de l’encodeur visuel, avec une compression précoce dérivée de LLaVA-UHD v4, puis utilise une compression mixte des tokens visuels 4× et 16× selon ce dont l’image a besoin. Les détails fins empruntent le chemin coûteux ; un reçu emprunte le chemin bon marché. La compression se produit avant l’intervention du modèle de langage, ce qui rend possibles ces chiffres sur appareil.

Nemotron 3.5 Super VL ne met pas du tout en avant la compression de tokens. Sa réponse, c'est le contexte : 1M de tokens, ce qui permet de conserver le détail plutôt que de le jeter, et une couche hybride Mamba-2 pour éviter que le coût d'une très longue séquence n'explose. La voie vidéo propre au modèle est configurée généreusement par défaut — 2 FPS et 256 images, puis 1 FPS et 128 images en 1080p — ce qui est une réponse d'échantillonnage, pas une réponse de compression.

Ce sont des philosophies incompatibles et toutes deux sont correctes pour leur déploiement. Si vous avez 3 Go, vous compressez. Si vous avez 4× H100, vous conservez le détail et vous payez pour le contexte.

Ce que les chiffres peuvent et ne peuvent pas vous dire

Voici la position honnête des deux côtés.

Le tableau de benchmarks de N​emotron 3.5 Super VL est vaste et collecté par le fournisseur via NeMo Gym : GPQA-Diamond 89,52, SWE-bench Verified 71,10, MMLongBench-Doc 62,82, OCRBench v2 à 68,12 en anglais et 59,15 en chinois, raisonnement CharXiv 80,82, V* 85,60. N​VIDIA a choisi les références. Rien de tout cela n’a été reproduit de manière indépendante.

La fiche de MiniCPM-V 4.7 35B-A3B présente ses résultats de benchmark sous forme de graphiques du fournisseur plutôt que de tableau numérique, de sorte qu’il n’y a aucun chiffre à citer et aucune liste de références à examiner. L’affirmation spécifique la plus forte de la fiche est comparative et directionnelle — un score global plus élevé en moins de temps d’inférence que Qwen3.6 35B-A3B en mode Instruct — ce qui est une affirmation sur l’efficacité au sein de sa propre catégorie de poids, et non sur la capacité face à un modèle douze fois plus grand.

Donc, un tableau comparatif de ces deux-là sur des chiffres de benchmark n’existe pas et ne peut pas être construit. Quiconque en présente un combine un graphique de fournisseur avec un tableau de fournisseur et appelle le résultat une mesure.

Le détail de déploiement qui décide de plus de projets que la précision

MiniCPM-V 4.7 35B-A3B est livré avec une prise en charge dès le jour 0 pour le silicium Rockchip, Houmo, Intel, AMD et Arm, aux côtés de SGLang, vLLM, llama.cpp et Ollama, et une quantification en GGUF, BNB, AWQ, GPTQ et FP8. Il s'intègre également à SWIFT et LLaMA-Factory pour le fine-tuning. Cette liste est le véritable produit. Un modèle qui s'exécute sur l'accélérateur que vous avez déjà acheté, dans le format de quantification que votre runtime prend déjà en charge, est un modèle que vous pouvez livrer ce trimestre.

L’histoire d’exécution de Nemotron 3.5 Super VL est plus étroite et plus profonde : vLLM sur vllm/vllm-openai:v0.32.0 et SGLang sur lmsysorg/sglang:v0.5.20, avec le décodage spéculatif EAGLE à topk 1 et Multi-Token Prediction intégré à l’architecture. Deux runtimes, tous deux de premier ordre, tous deux spécifiés à la version exacte. C’est ce que veut un déploiement de datacenter — un chemin validé, pas un menu.

Si vous choisissez le matériel en fonction du modèle, prenez MiniCPM-V 4.7 35B-A3B. Si vous choisissez le modèle en fonction du matériel que vous possédez déjà, prenez N​emotron 3.5 Super VL et suivez exactement les versions indiquées sur sa fiche.

Le plaidoyer pour les exécuter tous les deux

Le schéma qui apparaît dans les produits réels n’est pas un choix entre ces deux options. C’est un petit VLM sur l’appareil qui prend en charge le travail qui doit être instantané et local — lire un formulaire, décrire une scène, filtrer les images dont personne ne se soucie — et un grand VLM dans le centre de données qui prend en charge le travail qui doit être exact. MiniCPM-V 4.7 35B-A3B est explicitement conçu pour le premier rôle. Nemotron 3.5 Super VL est conçu pour le second.

Cette architecture a un coût, et ce coût, c'est que vous faites désormais tourner deux piles de modèles et une pile de texte, avec trois jeux d'identifiants et trois jeux de modes de défaillance. OrcaRouter est la partie qui supprime le deuxième problème : 207 modèles derrière une seule clé, au prix catalogue du fournisseur et sans marge, si bien qu'une modification tarifaire d'un fournisseur se répercute sur votre facture le jour même, avec un basculement automatique lorsqu'un service en amont se dégrade. Ni N​VIDIA N​emotron 3.5 Super VL ni MiniCPM-V 4.7 35B-A3B ne figurent dans ce catalogue — ce sont tous deux des poids ouverts que vous hébergez vous-même, et c'est précisément l'intérêt de choisir l'un ou l'autre. Ce qu'une seule clé vous offre, ce sont les modèles de texte et de code qui les entourent, afin que le pipeline n'ait pas besoin d'un nouveau contrat chaque fois que vous ajoutez une étape.

Lequel, déterminé par l'endroit où se trouvent les pixels

Prenez MiniCPM-V 4.7 35B-A3B si l’inférence doit avoir lieu là où se trouvent les données — sur un téléphone, dans un véhicule, sur un plancher d’usine, dans une clinique où l’image ne peut pas quitter le bâtiment —, ou si vos utilisateurs sont hors ligne, ou si le coût par appel d’un VLM hébergé est ce qui tue l’économie unitaire. Sa licence est Apache-2.0, son catalogue de quantification est large, et sa liste de puces prises en charge est délibérément longue.

Prenez NVIDIA Nemotron 3.5 Super VL si le travail implique un long contexte et beaucoup de raisonnement : documents de plusieurs pages, mises en page mixtes, graphiques à interpréter, clips vidéo de deux minutes, utilisation d'outils agentiques. Le contexte de 1 M de tokens et les 12 B de paramètres actifs sont la raison d'être de ce modèle, et aucun modèle embarqué ne peut les remplacer.

Si vous avez un doute, la question décisive n’est pas la précision. C’est de savoir si l’image est autorisée à quitter l’appareil. Cette réponse détermine le modèle avant même qu’un quelconque benchmark ne soit consulté.

La fiche de MiniCPM-V 4.7 35B-A3B est la source des affirmations sur l'appareil — les 13 tokens par seconde et plus, l'empreinte d'environ 3 Go, la liste des puces dès le jour 0 et les formats de quantification — qui sont toutes des résultats rapportés par le modèle lui-même. Lisez la liste des puces avant de vous engager, car « pris en charge » y signifie qu'un chemin d'exécution existe, et non que votre carte spécifique a été benchmarkée.

La page développeur N​emotron de N​VIDIA est l'endroit où sont publiés les préconisations 4× H100 / 2× GB200 et les versions d'exécution, ainsi que le lien vers le rapport technique à l'origine du tableau de benchmarks. Les numéros de version figurant sur la carte sont exacts pour une raison bien précise : vLLM v0.32.0 et SGLang v0.5.20 avec EAGLE topk 1 constituent la combinaison validée, et s'en écarter est le moyen de transformer un déploiement fonctionnel en séance de débogage.

Le point plus large est que le domaine vision-langage a cessé de converger vers une seule forme. OpenBMB pousse un modèle à 3B de paramètres actifs dans les poches et NVIDIA pousse un modèle à 12B de paramètres actifs sur un million de tokens de contexte, le même mois, sous des licences qui autorisent toutes deux l’usage commercial. Choisir entre eux, c’est choisir un déploiement, et le déploiement est décidé par l’endroit où vivent les pixels.

Les benchmarks vieillissent et les prix évoluent ; le registre des défaillances, lui, ne change pas : les incidents d'IA documentés et les défaillances d'agents derrière les modèles de cette classe sont recueillis dans l'OrcaRouter AI Incident Archive, où chaque entrée comporte ses propres sources, un niveau de gravité, une note de confiance et un indicateur de contestation.