NVIDIA Nemotron Labs Dory 1.0 4B vs Gemma 4 12B : trois fois plus de paramètres, pas du tout le même travail

La façon évidente de lire une comparaison entre NVIDIA Nemotron Labs Dory 1.0 4B et Gemma 4 12B est d’y voir un combat de taille — 4B contre 12B, petit contre moyen — et ce cadrage gâche la comparaison, car les deux modèles n’acceptent pas les mêmes entrées, n’ont pas la même posture en matière de licence et ne deviennent pas plus rapides de la même manière. Dory est un réseau en boucle, uniquement textuel et uniquement en anglais, dont la caractéristique déterminante est qu’un seul téléchargement sert plusieurs budgets de calcul. Gemma 4 12B est un modèle multimodal any-to-any qui prend du texte, des images et de l’audio via une unique pile sans encodeur et renvoie du texte. L’écart de paramètres est réel, mais c’est la différence la moins instructive entre eux. Voici ce qui les sépare réellement, y compris les aspects pour lesquels personne n’a encore mené l’expérience.

Ce qu'est chacun, en une seule passe

N​VIDIA N​emotron Labs Dory 1.0 4B est un modèle dense 4B entraîné par N​VIDIA et publié sur Hugging Face en quatre quantifications — BF16, MXFP8, NVFP4 et un Q5_K_M GGUF — sous licence OpenMDW 1.1. Sa fiche indique la version « GA (10/16/2026) ». Il traite du texte en entrée et en sortie, en anglais uniquement, avec jusqu’à 256K tokens de contexte. L’architecture est l’essentiel : un bloc récurrent de 20 couches appliqué un nombre variable de fois entre un bloc d’entrée de 8 couches et un bloc de sortie de 8 couches, de sorte que le nombre de boucles devient un réglage au moment de l’inférence plutôt qu’une décision prise à l’entraînement. N​VIDIA recommande deux boucles par défaut et quatre lorsque la précision agentique compte davantage. Rien n’a été annoncé à propos de cette publication ; les dépôts ont été remplis du jour au lendemain et le fournisseur n’a publié aucun article d’accompagnement.

Gemma 4 12B est le modèle multimodal dense de 11,95 milliards de paramètres de Google DeepMind, sous licence Apache 2.0, avec un contexte de 256 K, 48 couches dotées d’une attention hybride et d’une fenêtre glissante de 1 024 tokens, et un vocabulaire de 262 K. Il est décrit comme sans encodeur : les patchs d’image et les formes d’onde audio sont projetés directement dans l’espace d’embedding du modèle de langage plutôt que par l’intermédiaire d’encodeurs distincts pour la vision et l’audio. En entrée : texte, image et audio ; en sortie : texte. La vidéo est traitée sous forme d’images échantillonnées, la fiche limitant l’audio à environ 30 secondes et la vidéo à environ 60 secondes, à raison d’environ une image par seconde. Il prend en charge des modes de réflexion configurables et un rôle système natif, et il est public et largement téléchargé depuis le milieu de 2026.

Une clarification mérite d'être apportée avant qu'aucun chiffre n'apparaisse : Dory est disponible en quatre variantes et celle dont l'identifiant de dépôt est le plus souvent cité est la version MXFP8, mais les benchmarks publiés par NVIDIA ont été mesurés en BF16. Le checkpoint MXFP8 est une quantification des mêmes poids, pas un modèle différent.

Le problème du benchmark : ces deux-là n'ont jamais été exécutés l'un contre l'autre.

Voici la partie qu'un article comparatif passe généralement sous silence, aussi vaut-il la peine de l'énoncer sans détour. Il n'existe aucun résultat obtenu avec le même harnais pour Dory 1.0 4B et Gemma 4 12B. Le tableau de référence de NVIDIA pour Dory le compare à Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B et Qwen3.6-35B-A3B — il va chercher le 26B Gemma, pas le 12B, et il n'inclut pas du tout le 12B. Les chiffres publiés par Google pour le 12B proviennent d'un harnais différent, avec un ensemble de comparaison différent, dans un document publié plusieurs mois plus tôt et couvrant un éventail de tâches différent.

Placer les chiffres des deux fiches côte à côte produit un tableau qui semble faire autorité et ne signifie rien, car un écart de deux points entre deux harnais d'évaluation n'est pas un écart de deux points entre deux modèles. La version honnête est donc celle-ci : la propre fiche de Dory revendique un comportement agentique à peu près de la classe de Qwen3.5-9B à quatre boucles, tout en étant à la traîne par rapport à chacun de ses propres comparateurs sur les benchmarks à forte composante de connaissances, et la fiche de G​emma 4 12B revendique un profil multimodal avec une fenêtre de 256 K et des variantes affinées par instructions dans toute la gamme G​emma 4. On n'a pas testé si l'une ou l'autre de ces affirmations survit au contact de l'ensemble de tâches de l'autre.

Là où ils se recoupent véritablement, et où le recoupement s’arrête.

Quatre dimensions comptent pour une véritable décision, et elles pointent dans des directions différentes.

• Modalité — Gemma 4 12B prend en charge le texte, les images et l’audio. Dory 1.0 4B prend en charge le texte. Il ne s’agit pas d’un écart de benchmark qu’un harnais d’évaluation pourrait combler ; c’est une capacité que l’un des modèles possède et que l’autre n’a pas, et si votre charge de travail comprend, où que ce soit, une capture d’écran, une page numérisée ou un extrait vocal, la comparaison est terminée.

• Langue — Dory est uniquement en anglais. La gamme Gemma 4 est multilingue, et sa fiche 12B comporte des évaluations multilingues et des résultats vocaux, notamment des benchmarks de traduction vers d'autres langues. Une deuxième langue, où que ce soit en production, disqualifie Dory.

• Contexte — les deux annoncent 256K, et c’est le seul endroit où les spécifications concordent vraiment. La fiche de Dory indique que 262 144 positions sont validées dans vLLM avec la commande de lancement fournie ; Gemma 4 12B annonce 256K avec une fenêtre glissante de 1024 tokens au sein d’une pile d’attention hybride. Il existe une évaluation de contexte long publiée pour Gemma ; pour Dory, la seule ligne de contexte long est celle de NVIDIA elle-même, mesurée avec des clés de réponses corrigées et un modèle juge plus ancien, ce que la fiche divulgue.

• Comportement de calcul — c’est l’avantage asymétrique de Dory, et cela n’a rien à voir avec la qualité. Gemma 4 12B est un modèle dense conventionnel : profondeur fixe, coût fixe par token ; faites évoluer le matériel ou raccourcissez le contexte pour modifier la facture. La profondeur de Dory est un paramètre d’exécution. Exécutez-le avec une seule boucle lorsque la latence est la contrainte, et avec quatre lorsque c’est la précision, sans télécharger un second point de contrôle. NVIDIA propose également un mode de mise en cache KV de dernière boucle, destiné à maintenir l’empreinte du cache à peu près à la taille d’une seule boucle, quel que soit le nombre de boucles, ce qui — si cela se vérifie — élimine l’objection classique aux architectures récurrentes. C’est l’affirmation de la fiche qui mérite le plus une vérification indépendante.

• Licence — OpenMDW 1.1 pour Dory, Apache 2.0 pour G​emma 4 12B. Les deux permettent un usage commercial. Si votre examen juridique considère Apache 2.0 comme la voie de moindre résistance, G​emma part avec un avantage qui n’a rien à voir avec les poids.

Les exécuter : l’un est une routine, l’autre est un build.

G​emma 4 12B est un téléchargement au format standard de la famille L​lama. Il est au format Transformers, il tourne sur les moteurs que vous possédez déjà, et les versions quantifiées — les variantes QAT GGUF et w4a16 — sont publiques depuis peu après la sortie du modèle lui-même.

Dory 1.0 4B n'y est pas encore et la fiche le dit clairement. La prise en charge de vLLM est « en cours d'examen » dans une pull request ouverte ; tant qu'elle n'est pas fusionnée, vous installez vLLM depuis cette branche avec l'option precompiled-kernel, puis vous transmettez des surcharges de loop-count et de cache KV au moment de servir le modèle. La prise en charge de llama.cpp fait l'objet d'une deuxième pull request ouverte, et N​VIDIA épingle un commit spécifique plutôt que le HEAD mouvant, ce qui est le bon choix pour une configuration de référence, mais implique tout de même une compilation depuis les sources. Il n'existe aucun point de terminaison hébergé pour Dory nulle part que nous puissions vérifier — que ce soit de N​VIDIA ou de quiconque d'autre — et les compteurs de téléchargement de ses quatre dépôts étaient encore à zéro au moment de la rédaction. G​emma 4 12B, en revanche, a été téléchargé bien plus d'un million de fois au cours du dernier mois et dispose d'un écosystème de modèles affinés et de quantisations bâti sur lui. Pour la plupart des équipes, cet écart de maturité est plus grand que n'importe quel écart de benchmark sur l'une ou l'autre des fiches.

Les caractéristiques matérielles sont maigres des deux côtés. Les seuls chiffres de vitesse Dory publiés par NVIDIA sont des accélérations de quantification sur un DGX Spark — 1,69× et 1,84× pour MXFP8 par rapport à BF16 selon le mélange entrée/sortie, 2,17× et 2,44× pour NVFP4 — et non des débits. Pour Gemma 4 12B, la question correspondante, la VRAM pour une longueur de contexte donnée, peut trouver sa réponse dans une année de mesures de la communauté plutôt que dans la carte.

Là où un routeur entre en jeu, honnêtement

Aucun de ces modèles ne fait partie de ceux que nous proposons, et le dire est plus utile que de laisser entendre le contraire. NVIDIA Nemotron Labs Dory 1.0 4B ne figure pas au catalogue OrcaRouter et ne dispose d'aucun point de terminaison hébergé, où que ce soit ; Gemma 4 12B en particulier ne figure pas non plus au catalogue, bien que ses grands frères google/gemma-4-26b-a4b-it et google/gemma-4-31b-it y soient, eux.

Ce qui reste, c'est la forme concrète de la décision. Si vous hésitez entre un 4B que vous devez héberger vous-même et un 12B que vous pouvez louer, le côté auto-hébergé implique une facture GPU et une charge d'exploitation que le côté loué n'a pas, et la seule façon d'en évaluer honnêtement le coût est de tester les deux sur votre propre ensemble de tâches. OrcaRouter est utile pour la moitié hébergée de cette expérience : une seule clé API donne accès aux modèles Google à poids ouverts que nous proposons bel et bien, au prix catalogue du fournisseur, avec 0 % de marge, de sorte que la comparaison ne nécessite ni un second contrat ni un second SDK. Le basculement automatique couvre la fenêtre où votre propre pool de GPU est saturé en plein benchmark, et le DSL de routage permet à un appel auto-hébergé et à un appel hébergé de se trouver derrière un seul point de terminaison, si bien que changer de côté est un changement de configuration plutôt qu'une réécriture. Rien de tout cela ne vous dit quel modèle gagne. Cela supprime l'excuse de ne pas le découvrir.

Alors, lequel ?

Si votre tâche est uniquement textuelle, uniquement en anglais et à long contexte, et surtout si elle est agentique — appels d’outils, flux de travail à plusieurs étapes, sortie structurée —, Dory 1.0 4B est le pari le plus intéressant et celui dont l’architecture vous offre quelque chose que le 12B ne peut pas offrir : un réglage de calcul. Faites ce pari en toute connaissance de cause concernant l’écart de maturité, les deux pull requests non fusionnées, l’absence totale d’évaluation indépendante, et le fait que sa propre fiche le place derrière tous les modèles auxquels il est comparé sur GPQA et HLE.

Si votre tâche implique une image, un son, une deuxième langue ou une échéance de production d'ici le mois prochain, Gemma 4 12B est la réponse, et la comparaison n'a jamais été serrée. C'est un modèle plus grand, plus coûteux et plus performant, avec un écosystème derrière lui et aucune étape de build à franchir au préalable.

Ce qu'il faut surveiller, ce n'est pas un chiffre de benchmark — c'est de savoir si les pull requests de vLLM et de llama.cpp sont fusionnées. Le jour où Dory se chargera depuis un binaire publié plutôt que depuis une branche, le volet auto-hébergement de cette comparaison cessera d'être un projet pour devenir un simple changement de configuration. D'ici là, le verdict honnête est que l'un de ces modèles est un produit et l'autre un dépôt apparu du jour au lendemain, et celui que vous voulez dépend entièrement de si vous livrez ou si vous testez.

Rien de tout cela n'est hypothétique : les défaillances documentées de l'IA et les incidents d'agents qui sous-tendent des versions comme celle-ci sont recueillis dans l'OrcaRouter AI Incident Archive, où chaque entrée est accompagnée de ses propres sources, de son niveau de gravité, de son degré de confiance et de son indicateur de contestation.