NVIDIA Nemotron 3.5 Super VL Base BF16 : le checkpoint de 249 Go que NVIDIA a répertorié mais jamais lié

nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 est l'artefact de la version N​VIDIA N​emotron 3.5 Super VL que N​VIDIA n'a jamais liée. Le billet d'annonce de l'entreprise du 15 octobre indique, en une seule proposition, que « la version comprend des checkpoints de base, post-entraînés et quantifiés en NVFP4, avec des recettes d'entraînement, des données et des environnements d'apprentissage par renforcement. » Chaque lien de dépôt sur cette page pointe vers nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4. La chaîne « Base-BF16 » n'apparaît pas du tout dans le billet.

Le dépôt est réel et public. Hugging Face enregistre son commit initial au 2026-10-12T15:31:49Z, ses fragments de poids téléversés au 2026-10-13T04:55Z, et le champ release-date de sa propre fiche modèle indique « Hugging Face - 10/15/2026 ». Il n'est pas soumis à autorisation, ne nécessite aucun jeton pour être téléchargé, et il pèse exactement le même poids que la version post-entraînée nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16 build, qui pèse : 248,9 Go répartis sur 63 fragments BF16, contre 248,9 Go répartis sur 64 pour la version post-entraînée, les deux fichiers d'index à 16 octets d'écart. Trois jours après la mise en ligne des poids, il avait été téléchargé 4 fois, contre 142 pour le dépôt post-entraîné en pleine précision et 81 pour l'homologue NVFP4. Ce sont les propres compteurs de Hugging Face, relevés le 16 octobre.

Donc, ce n'est ni une fuite ni une rumeur. Les poids sont ce sur quoi il ne faut surtout pas se tromper — ils sont simplement l'artefact le moins médiatisé d'une sortie par ailleurs tapageuse, et la fiche modèle qui les accompagne se contredit d'une manière qui compte si vous êtes le genre de personne à télécharger un checkpoint pré-post-entraînement de 249 Go. Cette contradiction figure ci-dessous.

Ce qui a atterri, et la phrase qui le mentionne

Trois dépôts principaux et un drafter ont été mis en ligne dans la même fenêtre, tous développés par NVIDIA elle-même, tous sous la licence OpenMDW-1.1, aucun à accès restreint :

• Base BF16 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16, dépôt créé le 2026-10-12T15:31:49Z, poids 2026-10-13T04:55Z, dernière modification du README le 2026-10-15T15:22:08Z.

• BF16 post-entraîné — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-BF16, créé le 2026-10-12T15:32:06Z, dix-sept secondes après le dépôt de base.

• NVFP4 post-entraîné — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4, créé le 2026-10-12T15:32:30Z, et 75,1 Go au total plutôt que 248,9 Go.

• Un modèle de draft NVFP4 — nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr, créé encore un jour plus tôt, à 2026-10-11T20:20:59Z.

C'est dans la correspondance entre ces dépôts et le texte de NVIDIA que cela devient inégal, et il vaut mieux le vérifier que le supposer. Les ancres de déploiement de l'annonce renvoient toutes vers le build NVFP4. La note d'ouverture de la fiche de base elle-même pointe vers les deux autres — « Vous cherchez un modèle post-entraîné ? Consultez la version BF16 pour la personnalisation ou la version NVFP4 pour un déploiement optimisé » — donc le dépôt de base vous indiquera où aller à la place, dès sa première ligne. L'inverse n'est pas vrai. La fiche BF16 post-entraînée ne contient nulle part de lien vers le dépôt de base, et la fiche NVFP4 non plus. Le checkpoint de base est le seul artefact de cette publication vers lequel la documentation de NVIDIA elle-même ne vous aiguille jamais ; vous le trouvez en lisant la clause de neuf mots de l'annonce, puis en parcourant la liste de fichiers de l'organisation, et c'est ainsi qu'il a été trouvé ici. Rien dans le texte de NVIDIA n'explique pourquoi un checkpoint de base est publié à la même taille de 249 GB que le modèle qui est réellement post-entraîné, ni ce que vous êtes censé en faire que le modèle post-entraîné ne peut pas faire.

Cette absence est l’essentiel. Une publication open-weights où le fournisseur donne les liens vers deux des trois checkpoints et décrit le troisième en neuf mots ne cache rien — les poids sont bien là — mais cela signifie que la documentation dont vous avez besoin ne se trouve pas dans l’annonce. Elle se trouve dans le dépôt.

Que signifie « base » dans cette version ?

Les deux fiches de modèle répondent à cela, et la différence entre elles donne une lecture claire de ce que le post-entraînement a apporté ici.

La fiche de base documente trois étapes d’entraînement. L’étape 1 construit le backbone linguistique au-dessus de N​emotron 3 Super Base et entraîne une tête MTP partagée sur 100B tokens avec un backbone gelé, puis effectue une distillation sur 1T tokens à partir de N​emotron 3 Ultra Base. L’étape 2 comprend 100B tokens de pré-entraînement continu en langues indiennes, une extension de 35B tokens à un contexte de 1M, 67B tokens de mi-entraînement en ingénierie logicielle à un contexte de 256K, et une étape de récupération de contexte long de 9B tokens. L’étape 3 ajoute l’encodeur visuel C-RADIO et le connecteur vision-langage.

La carte post-entraînée en documente six, et les trois qui manquent à la carte de base sont les trois qui rendent un modèle utilisable : Étape 4 : affinage supervisé sur la vision, le raisonnement, le code, les outils, le chat, la sécurité et les données à long contexte, en utilisant des séquences compactées allant jusqu'à 524 288 tokens ; Étape 5 : apprentissage par renforcement avec récompenses vérifiables, plus RLHF, plus distillation on-policy multi-enseignants ; et Étape 6 : renforcer la tête MTP contre le backbone post-entraîné gelé afin que le décodage spéculatif soit réellement rentable.

La fiche du modèle de base le dit elle-même, dans la section Inférence : « Le modèle Base est conçu comme un point de départ pour un entraînement ultérieur. Pour les applications de chat, de raisonnement et d'appel d'outils, utilisez la version BF16 ou NVFP4 post-entraînée et ses instructions de déploiement. » Son cas d'usage déclaré est « les développeurs et les chercheurs qui créent des modèles vision-langage personnalisés par pré-entraînement continu, ajustement supervisé, apprentissage par renforcement et distillation. »

C'est un avertissement d'une franchise inhabituelle, et c'est la bonne lecture de l'artefact. Ce qui est livré ici sous l'appellation « base » n'est pas un modèle de chat plus faible. C'est le substrat sur lequel les étapes 4 à 6 ont été exécutées, publié à leurs côtés pour que quelqu'un d'autre puisse exécuter une séquence différente d'étapes 4 à 6 — sur ses propres données, selon ses propres conditions de licence, sans refaire un pré-entraînement de 20 000 milliards de tokens.

L'affirmation de 1M de tokens que la configuration ne porte pas

Voici l'écart qui vaut bien les 249 GB de votre attention.

La fiche du modèle de base indique, dans sa Description, que le modèle « prend en charge des longueurs de contexte allant jusqu'à 1 million de tokens », et le répète dans la section Conception du modèle : « Le modèle prend en charge jusqu'à 1 million de tokens de contexte. » La méthodologie d'entraînement confirme l'intention — l'étape 2 inclut explicitement « une extension de 35 milliards de tokens à un contexte de 1 million de tokens, suivie d'une étape de récupération de contexte long de 9 milliards de tokens ».

Le config.json livré dit autre chose. Son max_position_embeddings est 262,144 — 256K, pas 1M. Il n’y a pas de rope_scaling bloc et pas de original_max_position_embeddings champ, donc le schéma de position ne déclare pas non plus d’extension. La configuration du dépôt post-entraîné, en revanche, déclare max_position_embeddings de 1,048,576. Deux checkpoints frères, même chaîne d’architecture, même disposition des couches, et un écart d’un facteur quatre dans la limite de position que le texte de la fiche de base ne mentionne pas.

Lisez les trois faits ensemble, et la conclusion la plus défendable n’est pas que le modèle de base a un contexte court. C’est que le dépôt de base livre une limite déclarée prudente et s’attend à ce que vous la modifiiez. L’extension 1M a été entraînée. La configuration publiée ne l’expose pas. Si votre plan de poursuite du pré-entraînement suppose une longueur de séquence de 1M de tokens directement prête à l’emploi, cette hypothèse vient de la fiche, pas du fichier que le runtime lira réellement — et la correction est une modification de configuration que vous devez savoir effectuer.

À signaler pour la même raison : le tableau Résumé du modèle de la carte de base n'existe tout simplement pas. La carte post-entraînée en comporte un — nombre total de paramètres, architecture, précision, longueur de contexte, cible de déploiement, décodage spéculatif, mode de raisonnement, échantillonnage recommandé, idéal pour, licence. La carte de base passe directement de Description à Licence, puis à un tableau de benchmarks. Il n'y a nulle part de ligne d'échantillonnage recommandé, et il n'y a pas de ligne de déploiement, donc rien sur la carte de base ne vous indique le matériel qu'elle requiert.

L’architecture, telle qu’elle ressort de la configuration livrée

Comme la description de l'architecture de base fournie par le fournisseur tient en un paragraphe et que la forme réelle se trouve dans le fichier, voici ce que dit le fichier. Tout provient directement de config.json dans le dépôt de base, et non d'un résumé quelconque.

• Profondeur et composition — 88 blocs dans la colonne vertébrale linguistique. 40 sont des couches Mamba-2, 40 sont des couches de mélange d'experts, et 8 sont des couches d'attention complète, aux indices 7, 16, 25, 36, 47, 58, 69 et 78. Un bloc d'attention environ toutes les neuf couches constitue l'intégralité du mécanisme de contexte long.

• MoE — 512 experts routés par couche MoE, 22 sélectionnés par token, un expert partagé, une taille latente de 1024, et une taille intermédiaire d’expert partagé de 5376 contre 2688 pour les experts routés. C’est l’arithmétique derrière l’accroche « 120 B au total, 12 B actifs ».

• Attention — 32 têtes de requête pour 2 têtes clé-valeur en dimension de tête 128, soit une attention à requêtes groupées avec un ratio de 16:1. Taille cachée de 4096.

• MTP — une couche de prédiction du prochain jeton, elle-même composée d'un bloc d'attention et d'un bloc MoE, dans le style de la tête de prédiction multi-jeton de DeepSeek. Un seul pas de prédiction, pas plusieurs.

• Vision — une tour C-RADIO ViT-H : 32 couches, taille cachée de 1280, 16 têtes, taille de patch de 16, 7 jetons de registre, 3 jetons de classe, une taille d'image maximale de 2048 et un budget de patchs compris entre 1024 et 13312. Le connecteur projette vers 20 480, puis un ratio de sous-échantillonnage de 0,5 et une taille d'image imposée de 512 ramènent le nombre de jetons à la baisse.

• Vidéo — une taille de patch temporelle de 2 et un taux d'élagage déclaré de 0,7.

• Deux bizarreries — la config déclare un <audio> token de contexte alors que son sound_config est null, donc la plomberie pour l'audio existe dans cette architecture et ce checkpoint n'en embarque rien. Et tie_word_embeddings vaut false, ce qui est standard pour un modèle de cette taille et bon à savoir si vous prévoyez de redimensionner un vocabulaire.

Pour donner un ordre de grandeur : les métadonnées safetensors du dépôt lui-même totalisent 124 453 395 974 paramètres, comptés un octet de tenseur à la fois, contre le chiffre phare de NVIDIA de 120 B au total / 12 B actifs. Les deux nombres sont exprimés sur des bases différentes — le chiffre du fournisseur correspond à l'arithmétique routée + partagée du modèle de langage, le chiffre du fichier correspond à tout ce qui est stocké dans le dépôt, tour de vision et tête MTP incluses. Ne considérez pas l'écart comme une anomalie ; prévoyez plutôt un budget pour le fichier.

Ce que le tableau de référence mesure réellement

La carte de base publie 24 lignes de benchmark et, à l'honneur de NVIDIA, une colonne qui indique ce qu'est chacune d'elles :

• MMLU 84,14 correspondance exacte · MMLU-Pro 76,25 · AGIEval-En 75,65 CoT · SuperGPQA 47,65 CoT · GPQA Diamond 66,16 en correspondance exacte avec 5-shot CoT

• GSM8K 91,74 en 8-shot CoT · Minerva MATH 87,66 · MATH-500 81,56 pass@1 échantillonné n=32 · HumanEval 81,31 EvalPlus assaini · MBPP-Sanitized 79,06 · LiveCodeBench CodeGen 47,61 · BigCodeBench 48,42 complete et 49,39 instruct

• ARC-Challenge 95,99 · HellaSwag 88,96 · TruthfulQA MC2 71,18 · WinoGrande 79,08 · PIQA 85,09 · CommonsenseQA 85,26 · OpenBookQA 48,80 · SocialIQA 49,03 · RACE 91,39

• MMLU global 86,56 en moyenne sur 8 langues · MGSM 87,53 avec 8-shot native CoT sur 6 langues

Deux choses à propos de ce tableau sont faciles à manquer, et toutes les deux comptent.

Premièrement, la phrase de cadrage de la carte elle-même indique que les résultats « évaluent le backbone de base textuel N​emotron 3.5 Super, avant l’entraînement vision-langage. » Quoi que cela veuille dire par ailleurs, cela signifie que ces chiffres ne constituent pas une grille d’évaluation multimodale — il n’y a aucun benchmark OCR, aucune ligne de compréhension de documents, aucune ligne vidéo nulle part sur la carte de base, même si les entrées vidéo et document sont décrites deux sections plus haut. Si votre raison de vouloir le checkpoint de base est sa tour de vision, la carte ne vous donne rien d’empirique sur quoi fonder votre planification.

Deuxièmement, le tableau ne comporte aucune colonne de référence. Le tableau de la fiche post-entraînée s'étend sur sept colonnes — Nemotron 3.5 Super GA face à Qwen3.5-122B-A10B, Qwen3.8-Flash-Next, DeepSeek-V4-Flash0731, Nemotron 3 Ultra, Inkling-Small et GLM-5.3-Flash. La fiche de base comporte exactement une colonne. Et le mélange de ce qui a été exécuté est révélateur : la fiche post-entraînée abandonne complètement MMLU au profit de MMLU-ProX, tandis que la fiche de base exécute à la fois MMLU et MMLU-Pro, et n'exécute ni MMLU-ProX ni les suites agentiques et de niveau harnais sur lesquelles s'appuie la fiche post-entraînée. On ne peut pas répondre à « cette base est-elle meilleure que cette autre base ? » à partir de la fiche. Il faudrait exécuter les deux.

Chaque chiffre ci-dessus est celui de NVIDIA, obtenu au moyen du propre harnais NeMo Gym de NVIDIA — la fiche post-entraînée le dit explicitement, et la fiche de base ne publie aucune note sur le harnais. Rien dans l'une ou l'autre table n'a été reproduit de manière indépendante.

Base contre post-entraîné, sur le seul benchmark qu'ils ont en commun

Les deux cartes ne partagent pas de tableau de benchmarks, mais elles partagent exactement une ligne que vous pouvez mettre côte à côte, et c’est celle qui compte le plus.

• GPQA Diamond — 66,16 sur la fiche de base, en correspondance exacte en chaîne de pensée à 5 exemples. 89,52 sur la fiche post-entraînée. Un écart de 23,36 points, issu des deux documents de N​VIDIA eux-mêmes, le chiffre de base étant explicitement étiqueté comme le socle texte uniquement.

Voilà le titre honnête de ce que valent les étapes 4 à 6 en raisonnement scientifique de niveau master : le post-entraînement n'est pas une passe de finition sur ce modèle, c'est à peu près la moitié de la capacité en plus. Cela vous indique aussi dans quel sens se fait le compromis. Si votre plan est de post-entraîner vous-même le checkpoint de base, vous partez avec 23 points de retard sur le modèle que vend N​VIDIA et vous pariez que vos données et votre signal de récompense combleront cet écart dans votre domaine — ce qui est exactement le pari que décrivent les chiffres de la clientèle de N​VIDIA : Scale AI qui rapporte une réduction de 40x du coût d'inférence pour le traitement des crédits fournisseurs, Ramp qui s'attend à un débit jusqu'à 50 % supérieur et une latence 10 fois moindre pour l'extraction de reçus vers JSON. Ce sont des résultats déclarés par le fournisseur et par les clients, sans mesure indépendante, et c'est la seule preuve publiée que combler cet écart soit réalisable.

Remarquez le piège lorsqu’on lit les deux fiches ensemble. Le « MMLU-Pro » de la fiche de base à 76,25 et le « MMLU-ProX » de la fiche post-entraînée à 76,91 ressemblent à un écart de 0,66 point et ne sont pas comparables — des benchmarks différents, l’un d’eux avec une méthode d’extraction TigerLab déclarée. Le « MMLU » de la fiche de base à 84,14 n’a aucun équivalent sur la fiche post-entraînée. Si vous voulez un delta à benchmark identique, GPQA Diamond est celui que vous obtenez, et LiveCodeBench est celui que vous n’obtenez pas : la fiche de base rapporte CodeGen à 47,61 tandis que la fiche post-entraînée rapporte LiveCodeBench v6 à 88,22, qui est une version différente de la même famille de benchmarks et non un delta.

Ce que 249 Go permettent d'acheter, et ce qu'ils ne permettent pas

Le téléchargement lui-même se fait en une seule commande, et c'est la seule commande dans toute la fiche du modèle de base :

• hf download nvidia/N​VIDIA-N​emotron-3.5-Super-VL-120B-A12B-Base-BF16 --local-dir ./models/super-vl-base-bf16

C'est tout le guide de démarrage rapide. La fiche de base contient un bloc de code ; la fiche post-entraînée en contient vingt-deux. Il n'y a pas de ligne vllm serve, pas de lancement SGLang, pas d'indications sur le parallélisme tensoriel, pas de --max-num-seqs, pas d'option de parseur de raisonnement, pas de configuration MTP pour le décodage spéculatif, et pas d'exemple de client API. La fiche post-entraînée contient tout cela, y compris une recette 4×H100 avec --enable-mamba-shared-prefix-checkpoint et une recette 2×GB200 en TP2.

• Moteurs d'exécution — la fiche de base cite PyTorch, Megatron-LM et NeMo, et sa section Inférence ne cite que PyTorch. La fiche post-entraînée cite vLLM et SGLang. Ce sont des noms de frameworks d'entraînement d'un côté et des noms de runtimes de service de l'autre, et cette séparation est délibérée plutôt qu'accidentelle.

• Matériel testé — Hopper H100 et H200, Grace Blackwell GB200 et GB300, Blackwell B200 et B300. La carte post-entraînée se réduit à 4×H100 ou 2×GB200 pour le déploiement.

• Disque — 248,9 Go répartis sur 63 shards, soit autant que la version pleine précision post-entraînée. Son pendant NVFP4 pèse 75,1 Go. Si vous téléchargez la base pour l’inspecter ou l’adapter plutôt que pour l’exécuter, vous payez 3,3 fois le téléchargement NVFP4 pour le privilège de n’obtenir aucune recette de déploiement.

Ce que vous obtenez qui est réellement utilisable : le dépôt fournit un chat_template.jinja complet de 12 513 octets, et il contient le commutateur enable_thinking, y compris la variante à effort moyen. Il fournit également un generation_config.json avec temperature 1.0, top_p 0.95 et do_sample true. La comparaison de ce gabarit avec celui post-entraîné donne une différence de 414 octets, entièrement liée à la gestion des espaces blancs autour des espaces réservés pour l'image et la vidéo — les deux gabarits sont par ailleurs le même fichier.

Ainsi, l'infrastructure permettant de dialoguer avec le checkpoint de base comme modèle de chat est présente et presque identique à celle du modèle de chat livré. Ce qui est absent, c'est toute déclaration indiquant que vous devriez le faire. Il n'y a pas de ligne d'échantillonnage recommandé sur la fiche de base, pas de ligne de mode raisonnement, ni de benchmark pour cela dans la configuration de chat. Vous pouvez le servir comme modèle de chat en une dizaine de minutes. Savoir si la sortie mérite de quitter un harnais de test est une autre question, et la réponse de la fiche est que non.

La divulgation du corpus dont personne ne parle

Voici la partie de la version de base qui est sans doute plus utile que les poids, et elle n'a presque reçu aucune attention parce qu'elle se trouve dans des tableaux sur un dépôt qui n'a jamais été lié.

La fiche du modèle de base publie en détail le corpus d'entraînement que la fiche du modèle post-entraîné ne contient pas : un corpus de fondation de plus de 20 000 milliards de tokens collectés entre 2013 et décembre 2025, ventilé par source — N​emotron-CC-v2 et v2.1 à 9 100 milliards, N​emotron-CC-Code-v1 à 427,9 milliards, les ensembles N​emotron-Pretraining-Code à 1 700 milliards combinés, N​emotron-CC-Math-v1 à 133,3 milliards, les ensembles synthétiques spécialisés et SFT à 660 milliards, et un ensemble juridique à 4,3 milliards. Anglais, 19 autres langues parlées, 43 langages de programmation.

Puis deux tableaux que la plupart des publications de modèles à poids ouverts ne publient tout simplement pas. L'un recense des jeux de données privés, non accessibles au public, appartenant à des tiers, et nomme les modèles qui ont produit leurs étiquettes — Qwen3.5-122B-A10B sur un large ensemble de tâches de réétiquetage OCR et de questions-réponses visuelles, D​eepSeek-OCR sur un sous-ensemble OCR chinois filtré, Qwen3.5 sur un sous-ensemble vérifié comme correct, Gemini 3 et GPT-5 sur des données RL pour la recherche. L'autre recense les propres jeux de données privés de N​VIDIA, et nomme là encore les générateurs : Kimi K3 pour les données SFT de chaîne de raisonnement mathématique, DeepSeek-V4-Pro pour l'OCR de programmation compétitive, gpt-oss-120b pour le RL à sortie structurée, GLM-5.2 pour le raffinement, MiniMax-M2 pour les parcours de graphes de recherche, et une longue traîne d'autres.

Puis deux tableaux que la plupart des publications de modèles à poids ouverts ne publient tout simplement pas. L'un d'eux liste des jeux de données privés, non accessibles publiquement, détenus par des tiers, et nomme les modèles qui ont produit leurs étiquettes — Qwen3.5-122B-A10B sur un large éventail de tâches de réétiquetage OCR et de questions-réponses visuelles, DeepSeek-OCR sur un sous-ensemble OCR chinois filtré, Qwen3.5 sur un sous-ensemble vérifié comme correct, Gemini 3 et GPT-5 sur des données RL pour la recherche. L'autre liste les propres jeux de données privés de NVIDIA, et nomme là encore les générateurs : Kimi K3 pour les données SFT de chaîne de raisonnement mathématique, DeepSeek-V4-Pro pour l'OCR de programmation compétitive, gpt-oss-120b pour le RL à sortie structurée, GLM-5.2 pour le raffinement, MiniMax-M2 pour les parcours de graphes de recherche, et une longue traîne d'autres encore. Ces tableaux appariés rappellent comment l'industrie fonctionne réellement — le signal d'entraînement d'un modèle de pointe inclut régulièrement des sorties de modèles concurrents, et NVIDIA est l'un des très rares laboratoires à dire lesquels et pour quoi.

Le dépôt fournit également un Nemotron_3.5_Super_VL_EU_Training_Content_Summary.pdf, ajouté le 15 octobre, qui constitue la divulgation du contenu d'entraînement destinée à l'UE. Le mélange de mi-entraînement est divulgué au même niveau de granularité, et l'une de ses lignes est directement pertinente si vous comptez affiner le modèle pour le travail logiciel : l'étape d'ingénierie logicielle de 67 milliards de tokens est composée de 20 % de dépôts entiers, 41 % de paires de tickets et de demandes de tirage, 3 % de diffs de commits, 1 % de journaux de build et de CI, 10 % de traces d'agents, 20 % de rejeu de pré-entraînement et 5 % de données à contexte long, et ses sources sont décontaminées par rapport aux dépôts SWE-bench et Terminal-Bench. Cette déclaration de décontamination est la ligne de la fiche qui vous indique ce que vaut un score à l'un ou l'autre de ces benchmarks.

La licence, et à qui s'adresse le checkpoint de base

OpenMDW-1.1, la même licence que les versions post-entraînées, avec la fiche de modèle indiquant clairement : « Ce modèle est prêt pour une utilisation commerciale ou non commerciale. » Le dépôt n'est pas soumis à autorisation et aucun jeton Hugging Face n'est requis pour le téléchargement, bien que les recettes de conteneur propres à N​VIDIA ailleurs dans la famille en supposent un.

Placez la licence à côté du cas d'usage, et le public visé est sans ambiguïté. Personne ne télécharge un checkpoint pré-post-entraînement de 249 Go pour économiser sur l'inférence — la version NVFP4 est 3,3 fois plus petite, plus rapide, et meilleure de 23 points sur GPQA Diamond. Le checkpoint de base s'adresse à une équipe qui compte maîtriser l'étape de post-entraînement : un domaine différent, un signal de récompense différent ou une politique de données différente de celle que NVIDIA a appliquée. Sous OpenMDW-1.1, avec l'usage commercial autorisé et des poids sans restriction d'accès, c'est une base légitime pour construire un produit, et c'est précisément pourquoi la documentation manquante a un coût.

Et il convient ici de distinguer les deux types de lecteurs. Si votre question est « quel modèle dois-je appeler cette semaine pour l’analyse de documents ou la compréhension vidéo », le checkpoint de base n’est pas votre réponse, et ne l’a jamais été ; c’est le modèle post-entraîné, et la question qui reste ouverte est celle de la vérification des benchmarks plutôt que de la disponibilité. Si votre question est « puis-je obtenir un backbone vision-langage hybride Mamba-MoE de classe 120B sous licence permissive comme point de départ pour mon propre entraînement », alors ce dépôt est la réponse, et il est resté sans lien depuis le 12 octobre.

Si vous deviez l’évaluer

L’erreur coûteuse avec un checkpoint comme celui-ci est de prendre le téléchargement pour le test. Ce n’en est pas un : 249 Go, 63 shards et une modification de configuration avant la première passe avant ne vous disent rien sur la question de savoir si la tour de vision se transfère à votre classe de documents.

Le test peu coûteux consiste à trancher la question de la capacité sur un modèle servi d'abord, et à n'engager le disque qu'ensuite. Une passerelle de routage est utile pour cela, et pour rien d'autre dans cette décision — une seule clé et un seul point de terminaison sur deux cents modèles environ, au prix catalogue du fournisseur, avec 0 % de marge ajoutée vous permet de confronter la version post-entraînée de Nemotron 3.5 Super VL au modèle de vision que vous utilisez déjà, sur vos propres images, en un après-midi et pour le coût des tokens. Le basculement automatique entre fournisseurs importe ici pour une raison précise : une campagne d'évaluation qui meurt à la requête 4 000 sur 5 000 vous coûte la campagne entière, et une passerelle qui réessaie ailleurs en cas d'erreur d'un fournisseur fait la différence entre un après-midi et deux.

Pour être direct sur la seule chose qui, autrement, prêterait à ambiguïté : N​VIDIA N​emotron 3.5 Super VL ne figure pas dans notre catalogue. Nous ne servons pas ce modèle aujourd'hui, et le checkpoint de base en particulier n'est pas quelque chose qu'un endpoint hébergé est susceptible de proposer, car les checkpoints de base ne sont pas des produits d'inférence. Ce qu'une passerelle vous offre, c'est la moitié la moins chère de l'expérience — la comparaison qui vous dit si payer les 249 GB en vaut la peine.

Qu’est-ce qui n’est toujours pas établi ?

Quatre choses, énoncées comme des lacunes plutôt que des risques.

• Quelle limite de contexte est réelle. La fiche indique 1 M, la configuration livrée déclare 262 144, et la description de l'entraînement indique qu'une extension à 1 M a été exécutée. Aucune déclaration publiée ne permet de trancher entre les trois. Toute personne qui prévoit un cycle de pré-entraînement continu à contexte long doit considérer la valeur de configuration comme celle par défaut et vérifier par rapport à son environnement d'exécution plutôt que par rapport à la fiche.

• Ce que la tour de vision peut faire. La fiche de base ne publie aucune évaluation multimodale, quelle qu'elle soit. Aucune ligne OCR, aucun document, aucun graphique, aucune ligne vidéo — pour le seul checkpoint de la famille dont l'unique raison d'être est d'être affiné sur ces modalités. C'est la plus grande lacune dans les preuves publiées.

• Comment la base se compare à quoi que ce soit. Tableau de référence à une seule colonne, aucune base de comparaison, aucune note sur le harnais. Le chiffre de 66,16 pour GPQA Diamond est reproductible en principe via NeMo Gym et n'a été reproduit par personne en dehors de N​VIDIA.

• Si la version de base fournit où que ce soit les recettes de déploiement 1M. La fiche du modèle post-entraîné contient les commandes de lancement 4×H100 et 2×GB200 pour la fenêtre complète. La fiche du modèle de base n'en contient qu'une : hf download. On ne sait pas s'il s'agit d'une lacune dans la documentation ou de l'affirmation que servir la version de base à 1M n'est pas une chose que N​VIDIA entend prendre en charge.

Rien de tout cela ne rend la publication moins intéressante. Cela fait du checkpoint de base l’artefact le moins documenté de la famille et, pour un type d’équipe restreint et spécifique, le plus utile — la différence étant de savoir si votre prochaine étape est un appel API ou une exécution d’entraînement.

Pour un modèle dont les modes de défaillance ne sont pas encore documentés, la contrepartie utile est le registre de ce qui a déjà mal tourné ailleurs : les incidents d'IA documentés et les défaillances d'agents concernant les modèles de cette classe sont recensés dans l'OrcaRouter AI Incident Archive, où chaque entrée comporte ses propres sources, son niveau de gravité, son degré de confiance et son indicateur de contestation.