Nemotron 3.5 Super sur Ollama : un modèle de vision 120B que vous pouviez exécuter avant que NVIDIA ne l'annonce

Pendant environ vingt heures, le chemin local vers NVIDIA Nemotron 3.5 Super a existé avant l'annonce de son existence. Ollama a publié le checkpoint dans sa bibliothèque le 14 octobre 2026 dans la version v0.40.5, intégrant une mise à jour de llama.cpp qui ajoutait la prise en charge de Nemotron 3.5 et poussant neuf tags d'un modèle vision-langage de 120 milliards de paramètres — ollama run nemotron-3.5-super et vous l'exécutez. Le billet de la salle de presse de NVIDIA pour les mêmes poids, publié sous le nom complet NVIDIA Nemotron 3.5 Super VL, a été mis en ligne l'après-midi suivant, le 15 octobre, à 15 h 00 UTC. Les poids eux-mêmes étaient sur Hugging Face depuis le 12 octobre, dans un dépôt nommé NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16, où le champ de date de publication de la fiche du modèle indiquait déjà 10/15/2026.

Rien de tout cela n’est un scandale. C’est désormais la forme normale d’une publication de modèles à poids ouverts : l’artefact arrive, les frameworks se précipitent pour le prendre en charge, et le marketing rattrape son retard. Mais cela change ce pour quoi la fiche Ollama mérite d’être lue. Ce qui est arrivé le 14 octobre n’est pas une annonce de produit assortie d’un runtime — c’est un runtime assorti d’un produit, et les deux documents ne sont pas d’accord sur plusieurs points qui comptent si vous êtes sur le point d’y consacrer 90 Go de disque.

Ce que v0.40.5 a réellement livré

La note de version d'Ollama est inhabituellement précise, ce qui tombe bien. Elle décrit Nemotron 3.5 Super comme un modèle vision-langage destiné au codage, au raisonnement, à l'utilisation d'outils et à la compréhension de documents, construit sur une architecture hybride de mélange d'experts Mamba-2/Transformer avec 12B de paramètres actifs par token sur 120B au total, associé à un encodeur visuel C-RADIO. Elle annonce l'appel d'outils, un mode de réflexion activable/désactivable et un contexte allant jusqu'à 1M de tokens. Les deux lignes qui comptent le plus pour quiconque exécute déjà Ollama sont enfouies plus bas : llama.cpp mis à jour (ajout de la prise en charge de Nemotron 3.5) et MLX.

Cette seule ligne explique à elle seule pourquoi le pull fonctionne. Ollama achemine ce checkpoint via son llamacpp runner au format GGUF — le manifeste du registre le dit explicitement — donc « Ollama prend en charge Nemotron 3.5 Super » et « llama.cpp prend en charge Nemotron 3.5 Super » sont la même phrase. Si vous utilisez une version d'Ollama antérieure à 0.40.5, ce n'est pas le cas. Le blob de configuration du modèle contient "requires":"0.40.5", de sorte que le verrou de version est imposé plutôt que simplement conseillé.

La même note de version cite également un modèle frère, Nemotron 3.5 Bolt, qui distille Super jusqu’à 74B paramètres avec 9B actifs et, selon la note, est optimisé pour tenir sur un GPU NVIDIA de 24 Go avec décodage spéculatif via un drafter inclus. Celui-là est un autre téléchargement et un autre niveau de matériel ; gardez-le à part dans votre tête, car le nom prête à confusion.

Les neuf artefacts, et ce que chacun pèse réellement

La page de la bibliothèque affiche une échelle de tailles. Le manifeste du registre qui la sous-tend indique les nombres d’octets réels, et les deux ne s’arrondissent pas de la même manière, donc voici les nombres issus des manifestes eux-mêmes plutôt que des badges arrondis :

• q4_K_M — 88 419 818 592 octets, soit 82,3 Gio (la page de la bibliothèque affiche 80 Go–90 Go). Noms des tags :latest, :120b, :120b-a12b et :120b-a12b-q4_K_M renvoient tous à cette même couche, donc quatre des neuf entrées sont un seul artefact portant quatre noms.

• q8_0 — 131 601 243 232 octets, 122,6 Gio, affiché comme 133 Go.

• bf16 — 247 403 355 232 octets, 230,4 GiB, affiché comme 249GB. Il s'agit du checkpoint en pleine précision déguisé en GGUF, et c'est la seule étiquette ici qui n'a absolument rien à voir avec le matériel grand public.

• MLX nvfp4 — 79,56 GB au total, le plus petit de l'ensemble, et NVFP4 est le format sous lequel la propre carte de NVIDIA est livrée, en tant que checkpoint de premier ordre, plutôt qu'une quantification ajoutée après coup.

• MLX mxfp8 — 129,60 Go au total, l'équivalent MLX à environ l'empreinte de q8_0.

• MLX bf16 — 248,92 Go au total, légèrement plus volumineux que le GGUF bf16, car MLX stocke les tenseurs différemment.

• Le projecteur — chaque tag, sans exception, embarque une couche média mmproj-bf16.gguf de 1 733 696 896 octets. Cela représente 1,61 GiB d’encodeur visuel embarqué à chaque téléchargement, y compris le plus petit. Le chemin d’image n’est ni facultatif ni un téléchargement séparé.

Trois des neuf entrées — celles en MLX — sont étiquetées pour Apple silicon plutôt que pour CUDA, et chacune est simplement libellée « MLX » sur la page de la bibliothèque. Si vous choisissez un tag sur un Mac, nvfp4 à 79,56 Go est celui qui convient à une machine à mémoire unifiée de 96 Go ou 128 Go avec de la marge, et mxfp8 à 129,60 Go ne rentre pas du tout dans une machine de 128 Go une fois que l'on tient compte du cache KV.

La page de la bibliothèque et le manifeste ne sont pas d'accord sur la longueur du contexte

Les tags GGUF annoncent une fenêtre de contexte de 1 M de tokens. Les trois tags MLX n’en annoncent aucune — la colonne affiche « - fenêtre de contexte » là où les autres affichent « 1M ». Soit le chemin MLX n’a pas été câblé pour la configuration de contexte long, soit la page n’a simplement pas été remplie, mais de l’extérieur, ces deux possibilités sont indiscernables, et la position honnête est que l’affirmation relative au contexte long est vérifiée pour les tags GGUF et non vérifiée pour ceux MLX.

Il y a un second écart dans la même direction. Le blob de configuration du tag par défaut déclare "model_type":"123.6B" alors que toutes les appellations destinées aux humains indiquent 120B. Ce n’est pas une divergence au niveau des poids ; c’est une divergence dans la manière dont le nombre de paramètres est arrondi entre les deux systèmes, et il est utile de savoir quel nombre un outil donné vous annonce.

Et un troisième, celui qui a le plus de chances de faire des dégâts : le blob de paramètres embarque {"draft_num_predict":3,"temperature":1,"top_p":0.95}. Ces valeurs d'échantillonnage sont les réglages recommandés de la fiche du modèle — pour le texte. La fiche recommande une autre paire pour le travail de vision, temperature 0.6 contre top_p 0.95. Donc la configuration par défaut d'Ollama est réglée pour la moitié texte d'un modèle qu'Ollama présente comme un modèle de vision. Si votre première expérience avec lui sur des graphiques ou des pages scannées est décevante, c'est le premier bouton à tourner, avant de tirer la moindre conclusion sur le checkpoint.

Le draft_num_predict: 3 mérite une ligne à lui tout seul. C'est un paramètre de décodage spéculatif, et le manifeste ne comporte aucune couche de modèle draft distincte — juste le GGUF du modèle et le projecteur. Donc quelle que soit la spéculation que le runtime effectue, elle repose sur la tête de prédiction multi-tokens intégrée au modèle plutôt que sur le drafteur LiLiCorr autonome que la fiche NVIDIA mentionne comme livré avec les checkpoints BF16 et NVFP4. C'est un choix d'ingénierie raisonnable, et cela signifie aussi que le chemin Ollama n'est pas la configuration exacte que décrivent les chiffres de débit du fournisseur.

Ce que le blob de configuration vous dit discrètement

Quatre champs de la configuration du manifeste sont plus instructifs que leur taille ne le suggère.

• model_family: nemotron_h_moe — la chaîne de famille n’est pas simplement nemotron. Tout élément de votre stack qui effectue un branchement sur la famille de modèle pour choisir un template de chat ou un tokenizer ne correspondra pas sur un simple préfixe.

• moteur de rendu : nemotron-3.5-super — un moteur de rendu dédié, donc le template de chat est bien celui de ce modèle et non une valeur par défaut héritée.

• parseur : nemotron-3-nano — et ici le parseur est emprunté au plus petit frère Nano. Le format de sortie du mode de réflexion et des appels d'outils était manifestement suffisamment stable dans toute la famille pour qu'il n'ait pas besoin d'un nouveau parseur. Cela signifie aussi que si vous avez déjà implémenté la gestion des appels d'outils pour Nemotron 3 Nano, elle fonctionnera probablement sans modification ici.

• file_type: Q4_K_M — l’étiquette par défaut est une quantification 4 bits, et c’est la configuration à l’aune de laquelle la plupart des gens jugeront ce modèle.

La couche de licence est un blob de 2 618 octets contenant l'OpenMDW License Agreement version 1.1, qui est la même licence que la carte Hugging Face nomme openmdw-1.1. Permissive, l'usage commercial est autorisé, et elle vaut la peine d'être lue avant de supposer qu'il s'agit d'Apache-2.0, car l'écosystème Ollama environnant l'est majoritairement.

Benchmarks : un ensemble est celui du fournisseur, l'autre non.

Le tableau publié par NVIDIA lui-même est exhaustif et entièrement auto-déclaré. Le modèle y affiche 89,52 sur GPQA-Diamond, 31,79 sur Humanity's Last Exam en version texte, 76,91 sur MMLU-ProX, 88,22 sur LiveCodeBench v6, 71,10 sur SWE-bench Verified, 67,72 sur SWE-bench Multilingual, 51,78 sur SWE-bench Pro, 66,70 sur Terminal-Bench 2.1, 70,86 sur IFBench, 62,82 sur MMLongBench-Doc, 78,16 sur MathVision et 68,12 sur OCRBench v2 en anglais contre 59,15 en chinois. Les lignes agentiques sont solides : 69,24 dans le commerce de détail, 76,50 dans l'aérien et 73,19 dans les télécoms sur tau2-bench. L'entreprise affirme également que, dans le classement Artificial Analysis Intelligence Index, le modèle atteint un débit jusqu'à 5 fois plus élevé que les autres modèles de sa catégorie, et que son exécution sur NVIDIA Dynamo permet aux organisations de servir jusqu'à 8 fois plus d'utilisateurs avec une latence inférieure de 85 %. Ce sont des chiffres du fournisseur, produits par le fournisseur, sur l'infrastructure du fournisseur — à traiter comme une spécification, pas comme un audit.

Artificial Analysis place actuellement ce checkpoint à un Intelligence Index de 26, qu'il décrit comme bien au-dessus de la médiane de 8 pour les modèles à poids ouverts de taille similaire — un écart réel, et significatif si vous avez supposé qu'un modèle ouvert de 120B provenant d'un fournisseur de matériel se situe quelque part près du milieu du peloton. La même page enregistre 170M de jetons de sortie consommés lors de l'exécution de l'Index, contre une médiane de 100M, ce qu'elle interprète comme « plutôt verbeux » : il s'agit d'un modèle de raisonnement avec un mode de réflexion étendue, et la verbosité est une ligne de coût, pas une note de bas de page. Il confirme le contexte de 1,0M, le total de 120B avec 12B actifs, l'entrée d'images avec sortie de texte, et la licence OpenMDW-1.1.

La seule chose que cette page ne peut pas vous dire, c'est ce que cela coûte par token, car il n'existe aucun prix hébergé à citer. La réponse d'Artificial Analysis à la question de savoir si le modèle est disponible via API est qu'il s'agit d'un modèle à poids ouverts qui peut être auto-hébergé. Voilà toute l'histoire économique en une phrase : votre coût marginal, ce sont l'électricité et une heure de GPU, et votre coût fixe, c'est le téléchargement.

Ce qu'il faut concrètement pour le faire fonctionner

La fiche de modèle recommande quatre H100 ou deux GB200 pour le checkpoint publié, avec une recette vLLM spécifiant un parallélisme tensoriel de 4 et une configuration spéculative de la méthode mtp. C'est la réponse pour centre de données et elle est destinée au BF16. La question intéressante pour quiconque lit une fiche Ollama est l'autre bout de l'échelle.

En q4_K_M, 82,3 GiB de poids plus 1,61 GiB de projecteur font tenir le modèle dans une seule carte de 96 GB ou dans un Mac à mémoire unifiée de 128 GB, avec une marge de cache KV qui se réduit vite à mesure que vous augmentez le contexte. Aux 1M de tokens annoncés, le cache ne tiendra pas aux côtés des poids sur cette classe de matériel, quoi qu'en dise l'étiquette — le contexte long sur une seule machine revient à sacrifier de la concurrence, pas à la débloquer gratuitement. Prévoyez un contexte de travail bien en dessous du plafond et considérez le chiffre de 1M comme la limite de l'architecture plutôt que celle de votre déploiement.

Le MLX nvfp4 tag de 79,56 GB est le choix pragmatique pour l'Apple silicon, et c'est aussi le format que le fournisseur livre nativement, ce qui en fait, parmi les petits tags, celui qui a le moins de risques de vous surprendre sur la qualité.

Où cela s'inscrit si vous utilisez le routage plutôt que l'auto-hébergement

NVIDIA Nemotron 3.5 Super est disponible via les canaux de build et de distribution propres au fournisseur, ainsi que via le pull Ollama décrit ci-dessus. Il n'est pas sur OrcaRouter — nous routons un peu plus de 200 modèles et celui-ci n'en fait pas partie — donc si vous avez spécifiquement besoin de ce checkpoint, le pull local est votre solution et rien dans cet article ne suggère que vous pouvez l'appeler avec notre clé.

Ce à quoi la plateforme sert véritablement ici, c'est la décision qui l'entoure. Évaluer un modèle comme celui-ci a un coût fixe qu'aucun tableau de benchmarks ne supprime : un téléchargement de 90 Go, une soirée de configuration et une série de vos propres prompts avant de savoir quoi que ce soit. Le premier geste le moins coûteux consiste à exécuter votre charge de travail réelle sur les modèles hébergés auxquels vous avez déjà accès — une seule API pour plus de 200 modèles, avec le prix catalogue des fournisseurs répercuté sans marge par token, de sorte qu'une baisse de prix chez un fournisseur est effective de notre côté le jour même — et laissez cela vous dire si la charge de travail est de celles qu'un modèle de raisonnement de 120B améliore, ne serait-ce qu'un peu. Consacrez ensuite le téléchargement aux cas qui ont survécu.

Et si vous placez un modèle ouvert tout juste publié dans un chemin de production avant de lui faire confiance, le basculement automatique compte plus que le prix. Un modèle sorti le 14 octobre n'a eu que deux jours d'attention mondiale ; le placer derrière une solution de repli, c'est ainsi que vous profitez de ses avantages sans parier le chemin des requêtes sur lui.

Le résumé honnête de ce qui est confirmé et de ce qui ne l’est pas.

Confirmé, directement à partir du registre et des notes de version : les tags, leurs digests, leur nombre d'octets, la version minimale 0.40.5, le format GGUF via le runner llamacpp, le projecteur de vision partagé, la chaîne de famille de modèles, le moteur de rendu, le parseur Nano hérité et la licence OpenMDW-1.1. Confirmé à partir de la salle de presse et de la fiche modèle de NVIDIA : l'architecture, la répartition des paramètres, la licence, les paramètres d'échantillonnage recommandés, l'échelle d'entraînement — environ 26 billions de tokens sur le pré-entraînement et le pré-entraînement continu, puis le post-entraînement sur environ 3,8 millions d'échantillons avec apprentissage par renforcement dans des dizaines d'environnements — et la couverture linguistique de l'anglais, de l'espagnol, du français, de l'allemand, de l'italien et du japonais.

Non confirmé : chaque chiffre de benchmark, qui est déclaré par le fournisseur, l'Index 26 d'Artificial Analysis et la verbosité de 170 M de tokens étant les seules mesures indépendantes de cet article. Non confirmé : que les tags MLX prennent en charge la longueur de contexte annoncée, étant donné que la page de la bibliothèque ne la revendique pas pour eux. Non confirmé : que le chemin vision soit réglé d'emblée, car les valeurs d'échantillonnage par défaut livrées sont celles du texte. Et non confirmé : comment la quantification 4 bits déplace les scores publiés, ce qui est le chiffre qui intéresse réellement la plupart des lecteurs d'une fiche Ollama et celui que personne n'a publié.

Si vous disposez d’une carte de 96 Go, d’une raison de vouloir un modèle vision-langage ouvert doté d’un véritable socle de 120B, et que vous n’avez rien contre une dépendance de première semaine, c’est la chose la plus solide de sa catégorie de poids à apparaître ce mois-ci, et la récupération est triviale. Si vous avez besoin de la configuration exacte sur laquelle NVIDIA a fait ses benchmarks, ou si vous avez besoin que la vision fonctionne du premier coup, ou si vous ne pouvez pas vous permettre de passer une soirée à déterminer lequel de ces deux documents fait autorité — attendez les évaluations de quantification et les retours de la communauté. Les poids ont quatre jours et le support d’exécution en a deux.