NVIDIA Nemotron Labs Dory 1.0 4B débarque sur Hugging Face avec quatre checkpoints et aucune annonce

NVIDIA Nemotron Labs Dory 1.0 4B est dès maintenant sur Hugging Face, en quatre quantifications, et NVIDIA n'en a pas dit un mot. Le checkpoint nvidia/NVIDIA-Nemotron-Labs-Dory1.0-4B-MXFP8a été mis en ligne avec une fiche modèle qui estampille la version « GA (10/16/2026) » ; ses trois frères — NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16, NVIDIA-Nemotron-Labs-Dory1.0-4B-NVFP4 et NVIDIA-Nemotron-Labs-Dory1.0-4B-GGUF — ont été poussés dans la même fenêtre de 36 minutes, de part et d'autre de minuit UTC, les 16 et 17 octobre 2026. Il n'existe aucun article correspondant sur le blog des développeurs de NVIDIA, aucune entrée sur la page d'accueil de la recherche Nemotron, et aucune référence à un modèle appelé Dory nulle part sur l'une ou l'autre. La fiche elle-même est inhabituellement complète — un tableau de benchmarks intégral, des instructions de déploiement pour deux moteurs, une somme de contrôle — mais l'échafaudage marketing qui l'entoure, ce qui vous indique normalement qu'un modèle existe, est totalement absent.

Il vaut donc la peine d’être précis sur ce que cela vous autorise à dire et ne vous autorise pas à dire. Ce qui est établi : les poids existent, ils sont téléchargeables, la licence est indiquée, l’architecture est décrite avec suffisamment de détails pour être reproduite, et le fournisseur a publié ses propres chiffres accompagnés d’une note précisant qu’il les a mesurés lui-même. Ce qui n’est pas encore confirmé : s’il s’agit du début d’une famille Nemotron Labs ou d’une expérience ponctuelle, si un article ou un billet de blog est à venir, et si les chiffres tiennent sous le harnais d’évaluation de quelqu’un d’autre. NVIDIA n’a pas présenté cela comme un lancement, et cet article ne le fait pas non plus. C’est une lecture d’un dépôt apparu du jour au lendemain.

Qu'y a-t-il réellement dans le dépôt ?

Les artefacts sont quatre points de contrôle et une fiche de modèle. La fiche est le document de fond, et c’est de là que vient presque tout ce qui suit.

• Formats — BF16 (W16A16), MXFP8 (W8A16), NVFP4 (W4A16) et un export Q5_K_M GGUF pour llama.cpp. Le checkpoint MXFP8 ne fait l’objet de cet article que parce que c’est celui qui porte l’identifiant canonique du dépôt ; les benchmarks de la fiche ont été mesurés en BF16.

• Taille et forme — 4 milliards de paramètres au total, un empilement dense plutôt qu'un mélange d'experts, réparti en un bloc d'entrée de 8 couches, un bloc récurrent de 20 couches et un bloc de sortie de 8 couches.

• Contexte — jusqu’à 256K tokens, avec 262,144 positions validées dans vLLM sous la commande de lancement que N​VIDIA fournit sur la carte.

• Licence — OpenMDW 1.1, une licence de modèle permissive et redistribuable, dont le texte est lié depuis la fiche. La fiche indique clairement que le modèle est « prêt pour un usage commercial ou non commercial ».

• Langue — anglais uniquement, bien que les données de pré-entraînement couvrent 43 langages de programmation.

• Budget d'entraînement — 6 billions de tokens de pré-entraînement, dont environ les 4,5 premiers billions ont été traités nativement en NVFP4 avant que le reste ne passe au BF16, puis une phase d'extension de contexte de 300 milliards de tokens. Les données couvrent la période de 2013 à décembre 2025. Le post-entraînement consiste en un affinage supervisé sur un ensemble sélectionné par NVIDIA, puis en un apprentissage par renforcement multi-environnements avec GRPO.

• Activité du dépôt — huit commits sur `main` et deux contributeurs au moment de la rédaction, le plus récent d'entre eux étant une modification du README. Le premier, « Upload Dory 4B MXFP8 checkpoint and tokenizer », ne date que de quelques heures. Ce n'est pas un dépôt qui est resté tranquillement public pendant des mois et que l'on vient juste de remarquer ; c'est un dépôt qui a été alimenté aujourd'hui.

Un détail que la fiche réussit, contrairement à la plupart des autres fiches : elle indique la taille exacte en octets et le SHA-256 de l’export GGUF, ce qui vous permet de vérifier ce que vous avez téléchargé. 3 673 288 864 octets, avec l’empreinte indiquée dans les instructions de lancement.

L’architecture est la raison même de s’y intéresser.

Si l’on met de côté le tableau des benchmarks, le fait intéressant à propos de NVIDIA Nemotron Labs Dory 1.0 4B est qu’il ne s’agit pas d’un seul modèle figé. C’est un réseau bouclé, ou à récurrence latente : le bloc récurrent de 20 couches est appliqué de manière répétée entre les blocs d’entrée et de sortie, et l’entrée est réinjectée à chaque boucle. Le même checkpoint se comporte donc différemment selon le nombre de boucles que vous demandez, et c’est au moment du serving, et non de l’entraînement, que vous faites ce choix.

Trois conséquences en découlent, toutes issues de la fiche de modèle plutôt que des tests de quiconque :

• Calcul d’inférence élastique — un seul fichier de poids sert plusieurs budgets de calcul. Nombre de boucles 1 pour la latence, 2 comme valeur par défaut recommandée, 4 lorsque la précision sur les tâches agentiques compte plus que les tokens par seconde. Aucun réentraînement, aucun second checkpoint à télécharger et à maintenir synchronisé.

• Efficacité des jetons — N​VIDIA affirme que le calcul supplémentaire par jeton est consacré au raisonnement latent plutôt qu'à une chaîne de pensée visible plus longue, de sorte que des nombres de boucles plus élevés peuvent produire moins de jetons de sortie pour la même tâche. La carte est livrée avec un graphique du facteur de jetons de sortie pour étayer cet argument. Cette affirmation a une conséquence directe sur les coûts, ce qui est la raison pour laquelle il vaut la peine de la signaler plutôt que de la rejeter.

• Bouclage économe en mémoire — c’est celui qui répond à l’objection évidente. Le bouclage standard conserve un cache KV distinct par boucle, de sorte que la mémoire augmente à chaque passe supplémentaire. Dory prend en charge un mode de mise en cache KV de dernière boucle qui conserve un seul cache par couche d’attention récurrente et l’écrase à chaque passe, maintenant l’empreinte à peu près à la taille d’une seule boucle, quel que soit le nombre de boucles exécutées. NVIDIA affirme qu’avec la mise en cache de dernière boucle, la précision reste proche de celle de la mise en cache par boucle, avec des longueurs de sortie presque inchangées, et présente cela comme son propre résultat expérimental.

La pile d’attention est hybride : des couches entrelacées à fenêtre glissante et à attention complète, le même large schéma sur lequel la génération 2026 de petits modèles à long contexte a convergé. Rien de tout cela n’est exotique en soi. Ce qui est moins courant, c’est de livrer le nombre de boucles comme paramètre de déploiement sur un modèle 4B avec une fenêtre de 256K.

Le tableau de benchmark, à lire comme un tableau de fournisseur

Chaque chiffre ici a été produit par N​VIDIA dans le cadre de ce que la fiche appelle « un harnais cohérent (NeMo Gym / Nemo Evaluator SDK) ». Aucun tiers n’en a reproduit la moindre partie, le modèle a environ un jour, et les compteurs de téléchargement des quatre dépôts affichent zéro. Considérez ces chiffres comme une affirmation sur la direction, non comme un tableau de scores.

L'ensemble de comparaison que N​VIDIA a choisi est révélateur en soi : Qwen3.5-4B, Qwen3.5-9B, Gemma 4 26B A4B et Qwen3.6-35B-A3B. Notamment, les deux comparateurs de la classe 4B proviennent de la génération précédente de Q​wen, et tous les autres comparateurs sont sensiblement plus grands. Lisez à travers les trois paramètres de boucle :

• SWE-bench Verified — 50,3 à une boucle, 59,5 à deux, 61,8 à quatre, contre 54,7 pour Qwen3.5-4B, 61,0 pour Qwen3.5-9B, 57,40 pour Gemma 4 26B A4B et 73,4 pour Qwen3.6-35B-A3B.

• Terminal-Bench 2.1 — 12,5 / 18,1 / 22,2 contre 15, 24, 35 et 43. C'est la ligne où le bouclage rapporte le plus et où Dory reste la plus distancée par rapport au peloton.

• τ³-bench (Banking) — 11,6 / 12,89 / 14,69 contre 5,03 pour Qwen3.5-4B, 7,22 pour Qwen3.5-9B, 13,66 pour Gemma 4 26B A4B et 9,54 pour Qwen3.6-35B-A3B. Dory devance ici très largement les modèles Qwen 4B et 9B.

• GDPval-AA-V2 (Elo) — 815 / 946 / 967 contre 424, 546, 751,6 et 987. Le saut d'une boucle à deux est de 131 points Elo, ce qui constitue le plus grand mouvement d'une boucle à l'autre de tout le tableau.

• GPQA Diamond, sans outils — 69,19 / 72,41 / 72,16 contre 77,71, 80,93, 80,43 et 85,35. Dory perd cette épreuve face à tous les comparateurs, y compris le 4B Q​wen.

• HLE, texte uniquement, sans outils — 8,25 / 10,89 / 10,43 contre 11,31, 15,43, 17,79 et 19,18. Toujours la même histoire.

• IFBench — 74,29 / 77,94 / 79 contre 53,83, 59, 77,89 et 57,44. Le suivi d’instructions est le résultat relatif le plus fort de Dory ; à quatre boucles, il devance de peu le G​emma 4 26B.

• AA-LCR — 63 / 71 / 73 contre 64,7, 68,4, 64,6 et 68,5. La récupération en contexte long s'améliore nettement avec des boucles et finit par devancer les quatre comparateurs.

• AA-Omniscience (exactitude) — 10,03 / 10,08 / 10,03 contre 15,02, 18,05, 21,13 et 19,95. Le looping n’apporte pratiquement rien aux connaissances stockées, ce qui est le résultat attendu et un contrôle de cohérence utile sur le reste du tableau.

La forme du motif est ce qui importe. Le bouclage rapporte le plus sur les tâches agentiques et d’utilisation d’outils, le moins sur le rappel encyclopédique, et la deuxième boucle vaut bien plus que la troisième et la quatrième partout. Cela est cohérent avec la recommandation de la carte elle-même de choisir deux boucles par défaut.

Quatre mises en garde qui figurent dans les propres notes de bas de page de N​VIDIA

C'est ici que la carte est plus honnête que la plupart, et où un lecteur qui parcourt le tableau serait induit en erreur.

• Les chiffres AA ne sont pas des chiffres d’Artificial Analysis. La comparaison de NVIDIA avec un indice de score AA est explicitement étiquetée comme « estimations internes calculées dans le cadre d’un dispositif d’évaluation cohérent » qui « peuvent s’écarter des scores officiels d’Artificial Analysis (AA) ». Il s’agit d’une mesure interne à périmètre comparable, et non d’un classement externe.

• La colonne de contexte long utilise une configuration hybride. Pour AA-LCR, la fiche indique qu’elle a utilisé des clés de réponse corrigées d’AA-LCR v1.1, mais qu’elle a conservé un ancien modèle de juge plutôt que le plus récent. Le fait de mélanger un ensemble de clés corrigées avec un juge plus ancien rend cette colonne comparable aux autres lignes de N​VIDIA et pas nécessairement comparable à celles de quiconque d’autre.

• Le nombre de répétitions varie du tout au tout. SciCode est exécuté huit fois, AA-LCR seize, AA-Omniscience dix, GDP.pdf cinq, tandis que HLE, Terminal-Bench 4.0 et les variantes GDPval-AA ne sont exécutés qu’une seule fois. Une seule exécution sur un benchmark présentant une variance significative constitue une estimation ponctuelle, pas un score.

• Une ligne du tableau est marquée d'un obèle comme étant un chiffre rapporté plutôt que mesuré — le 73,4 de Qwen3.6-35B-A3B sur SWE-bench Verified. Ce qui signifie que le nombre qui semble le plus élevé du tableau est celui que NVIDIA n'a pas fait tourner elle-même.

Rien de tout cela ne rend le tableau incorrect. Cela en fait un instantané interne d'un seul laboratoire, et l'interprétation honnête est que Dory se montre véritablement compétitif face aux modèles 4B et 9B de la précédente génération Qwen sur les tâches agentiques, tout en restant derrière les modèles 26B et 35B à côté desquels il est placé.

Ce que vous pouvez exécuter aujourd'hui, et ce que vous ne pouvez pas

Il n'existe aucun point de terminaison hébergé pour ce modèle que nous puissions vérifier, de la part de N​VIDIA ou de qui que ce soit d'autre. Dory est uniquement composé de poids, et les deux voies de service indiquées dans la fiche nécessitent toutes deux une construction à partir d'une pull request non fusionnée :

• vLLM — la prise en charge est « en cours d'examen » dans la pull request 60149. Jusqu'à ce qu'elle soit intégrée à une version, vous installez vLLM à partir de cette branche, puis vous le servez avec des surcharges qui définissent le nombre de boucles et le mode de cache KV. La fiche précise que l'indicateur d'environnement de noyau précompilé évite une compilation CUDA locale.

• llama.cpp — la prise en charge se trouve dans la pull request 30306, et la fiche épingle une révision spécifique plutôt que la tête de PR mouvante, ce qui est le bon réflexe pour une configuration de référence. Les instructions ciblent macOS ARM64 natif sur Apple Silicon, et le chemin GGUF attend l’export Q5_K_M à la taille en octets imprimée ci-dessus.

Rien sur la carte n'indique que l'un ou l'autre des projets ait été fusionné, et il n'y a aucune entrée dans les notes de version de l'un ou l'autre moteur pour suggérer le contraire. Si vous voulez exécuter Dory cette semaine, vous compilez à partir d'une PR.

Notes matérielles à retenir : N​VIDIA a été testé sur H100, B200, B300 et DGX Spark, et les seuls chiffres de vitesse publiés sont des accélérations de quantification sur le Spark plutôt que des chiffres de débit. Sur cet appareil, MXFP8 affiche 1,69× et 1,84× par rapport à BF16 selon la combinaison de longueurs d'entrée/sortie, et NVFP4 atteint 2,17× et 2,44×. L'échantillonnage recommandé est une température de 1,0 avec top-p 0,95, et le raisonnement est toujours activé dans le chemin vLLM.

Pourquoi une sortie 4B discrète vaut encore votre après-midi

Ce qui est intéressant avec un modèle qui arrive sans lancement, c’est que son affirmation est vérifiable d’une manière qui ne l’est pas pour une affirmation de lancement. Il n’y a pas de keynote qui revendique une victoire de catégorie ; il y a une fiche qui affirme un mécanisme précis et falsifiable — qu’un seul checkpoint de 4B fait croître sa propre précision en fonction du calcul au moment de l’inférence. Vous pouvez tester cela sur un seul GPU avec l’option de nombre de boucles, et la réponse est soit visible dans votre propre évaluation, soit elle ne l’est pas.

C'est aussi la situation pour laquelle une couche de routage est conçue, et il vaut la peine d'être précis sur ce que nous faisons ici plutôt que de rester dans le vague. OrcaRouter ne sert pas NVIDIA Nemotron Labs Dory 1.0 4B — le modèle ne figure pas à notre catalogue et il n'existe aucun point de terminaison hébergé pour celui-ci, où que ce soit que nous puissions confirmer. Ce qu'une clé unique vous apporte bel et bien, c'est l'autre moitié de la comparaison : les modèles hébergés à l'aune desquels vous évalueriez un 4B auto-hébergé sont accessibles via une seule API, au prix catalogue du fournisseur, avec 0 % de marge, si bien qu'une expérience auto-hébergée n'a besoin ni d'un second contrat ni d'un second SDK. Le basculement automatique couvre la fenêtre pendant laquelle votre propre pool de GPU est saturé, et le DSL de routage permet à un appel auto-hébergé de cohabiter avec des appels hébergés derrière un seul point de terminaison. Si vous cherchez à savoir si la profondeur élastique vaut la complexité opérationnelle, au moins le groupe témoin n'est qu'à une clé d'ici.

Qu’est-ce qui ferait de cela une véritable histoire ?

Trois choses, dont aucune n'est encore présente.

Tout d'abord, une annonce. La carte est datée du 16 octobre et les dépôts ont été alimentés pendant la nuit ; le flux développeur de NVIDIA a publié un post Nemotron le 15 octobre, qui portait sur un modèle entièrement différent. Un billet de blog, un article ou une page de la famille Nemotron Labs pourrait apparaître à tout moment, et il contiendrait probablement les détails d'entraînement ainsi que le rôle prévu du modèle que la carte laisse implicites.

Deuxièmement, la prise en charge des moteurs. vLLM et llama.cpp sont tous deux en attente de pull requests non fusionnées. Le jour où l'une ou l'autre sera fusionnée, « vous pouvez l'exécuter » cessera de signifier « vous pouvez le compiler à partir d'une branche ».

Troisièmement, et c’est le plus précieux, une évaluation indépendante. Les affirmations qui méritent le plus d’être reproduites sont celles que le fournisseur a mises en avant : l’évolution de SWE-bench et Terminal-Bench selon le nombre de boucles, et l’affirmation selon laquelle la mise en cache KV de la dernière boucle préserve la précision. Les deux sont testables avec des outils publiés, et ni l’une ni l’autre n’a été testée par qui que ce soit en dehors de N​VIDIA.

Le résumé exact, aujourd'hui, est le suivant : de vrais poids dans quatre formats, une licence permissive, une architecture véritablement inhabituelle, un chemin de service qui n'existe que sous la forme de deux pull requests ouvertes, et une fiche de benchmarks qui est le propre harnais d'un laboratoire, avec les mises en garde imprimées dans ses propres notes de bas de page. C'est le modèle 4B le plus intéressant que N​VIDIA ait publié cette année, et l'entreprise n'a pas encore décidé d'en parler à qui que ce soit.

Rien de tout cela n'est hypothétique : les défaillances documentées de l'IA et les incidents d'agents qui sous-tendent des versions comme celle-ci sont recueillis dans l'OrcaRouter AI Incident Archive, où chaque entrée est accompagnée de ses propres sources, de son niveau de gravité, de son degré de confiance et de son indicateur de contestation.