Nemotron 3.5 Bolt 74B vs Nemotron 3 Ultra : 1,5 point d'indice, sept fois plus de paramètres

Le nombre le plus surprenant de la famille NVIDIA Nemotron 3.5 n'est pas la taille de son fleuron. C'est que NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB, un checkpoint de 74 milliards de paramètres comprimé dans 24 gigaoctets à deux bits par poids, se situe à 1,5 point de Nemotron 3 Ultra, le modèle à 550 milliards de paramètres à partir duquel le reste de la famille a été distillé, sur l'Intelligence Index exécuté indépendamment par Artificial Analysis — 21,4 contre 22,9. Sept fois plus de paramètres, six fois plus de calcul actif par token, et un écart que l'on pourrait perdre dans les barres d'erreur d'un benchmark. Les poids de Bolt sont apparus sur Hugging Face le 7 octobre 2026, l'annonce de NVIDIA suivant le 15 octobre ; Ultra est sorti le 4 juin 2026.

Les deux modèles ne sont pas interchangeables, et les points sur lesquels ils diffèrent sont plus instructifs que le score global. Ce que la compression a préservé et ce qu'elle a écarté sont tous deux visibles dans les chiffres publiés, et ce ne sont pas les mêmes lignes.

Ce que chacun est

Ultra est le fleuron de la génération précédente et l'enseignant au cœur du pipeline de distillation de N​VIDIA. C'est un hybride Mamba-2 de 550 B au total et 55 B actifs, doté de la prédiction multi-jetons, publié sous OpenMDW-1.1 avec ses données d'entraînement et ses recettes, conçu pour le travail agentique de longue durée avec jusqu'à un million de jetons de contexte et un plafond de sortie de 65 000 jetons par requête. L'affirmation de N​VIDIA elle-même à son sujet était qu'il s'agissait du modèle américain à poids ouverts le plus intelligent de sa fenêtre de sortie, et les relevés indépendants le confirment largement : le panel lui attribue 22,9 dans sa configuration de raisonnement, avec des mesures de 156 jetons de sortie par seconde, 1,29 seconde jusqu'au premier jeton et un temps de réponse de bout en bout médian de 19 secondes.

Bolt est le niveau edge de la génération la plus récente, et ce n'est pas un Ultra distillé au sens direct. Son modèle parent est N​emotron 3.5 Super VL 120B-A12B, le modèle multimodal de 120 milliards de paramètres que N​VIDIA a lancé en même temps. La compression a été réalisée par Star Elastic, la recherche d'architecture guidée par routeur de N​VIDIA, qui a optimisé pour la plus faible perte de distillation de connaissances satisfaisant une empreinte matérielle stricte inférieure à 24 Go avec une taille de lot de 1 et un contexte de 128K — en faisant passer le top-K des experts de 22 à 9 et en quantifiant les poids des experts en IQ2-XXS à 2,0625 bits par élément, avec une distillation prenant en compte la quantification pour récupérer la précision. Il embarque un encodeur visuel C-RADIO v4-H parce que son parent était multimodal.

Les lignes indépendantes, des deux côtés

Tout ce qui suit provient d'Artificial Analysis, sauf indication contraire, et c'est ce qui rend la comparaison exploitable : les deux modèles ont été exécutés par le même évaluateur dans le même banc d'essai.

• Indice d'intelligence — Bolt 21,4 ; Ultra 22,9. Mesuré indépendamment pour les deux.

• GDPval-AA (normalisé) — Bolt 0,240 ; Ultra 0,257. Un écart de 1,7 point sur un benchmark construit à partir de livrables professionnels réels.

• SciCode — Bolt 0,397 ; Ultra 0,403. Quasiment à égalité.

• Humanity's Last Exam, sans outils — Bolt 24,7 % ; Ultra 28,4 %. L’écart de quatre points ici est le plus grand de cette liste en termes relatifs.

• AA-LCR, récupération en contexte long — Bolt 69,7 pour cent ; Ultra 79,3 pour cent. Dix points, et la preuve la plus claire de ce que coûte la compression 2 bits.

• AA-Omniscience — Bolt : 17,1 % de précision avec 56,3 % de non-hallucination ; Ultra : 22,6 % de précision avec 70,3 % de non-hallucination. Le modèle phare est à la fois plus savant et mieux calibré, ce qui est le résultat le moins surprenant de la page.

• Terminal-Bench 4.0 (ensemble plus difficile) — les deux obtiennent zéro. Aucun des deux modèles ne résout ce palier, le modèle phare inclus.

• Fenêtre de contexte — Bolt : jusqu’à 256 000 tokens selon la fiche du modèle, et 262 144 sur le relevé du panel. Ultra : jusqu’à 1 000 000 selon N​VIDIA, avec une sortie maximale de 65 000 tokens.

• Entrées — Bolt : texte, images et vidéo en entrée, texte en sortie. Ultra : texte en entrée, texte en sortie. Rien dans les documents de lancement du modèle phare n’affirme l’existence d’une tour de vision.

• Prix — Bolt : aucun. Il n'existe aucun tarif à l'usage publié pour le checkpoint de 24 Go, et le panneau n'indique aucun chiffre pour l'entrée ou la sortie. Ultra : 0,60 $ par million de jetons d'entrée et 2,50 $ par million de jetons de sortie, avec l'entrée mise en cache à 0,16 $, et une dépense mesurée de 0,60 $ par tâche de l'Intelligence Index.

• Vitesse — Bolt : aucune mesure indépendante. Ultra : 156,1 jetons de sortie par seconde, 1,29 seconde avant le premier jeton, temps de raisonnement médian de 14,6 secondes par réponse.

• Empreinte — Bolt : 24 Go en IQ2, déployable sur un seul A100, H100 ou composant Blackwell. Ultra : un déploiement multi-accélérateur ; la recette de N​VIDIA pour les checkpoints de l'enseignant de cette famille indique un minimum de quatre B200 ou huit H100, et Ultra en est le plus grand membre.

Pourquoi l'écart d'indice est plus petit que l'écart de taille, et ce que cela signifie

Il y a deux explications honnêtes et toutes deux sont probablement vraies en partie.

Le premier, c’est que l’Intelligence Index est un indice composite qui récompense davantage la procédure que le rappel. Bolt a perdu ses faits stockés à cause de la quantification en 2 bits — vous pouvez le voir dans les lignes d’exactitude — mais a conservé suffisamment du comportement de chaîne de raisonnement, d’appel d’outils et de sortie structurée pour obtenir un score sur les tâches composites. Notez que l’avantage d’Ultra se concentre exactement là où la mémoire compte : la récupération en contexte long, l’exactitude d’omniscience, le taux d’hallucination, les questions scientifiques difficiles qui exigent un fait plutôt qu’une méthode.

Le deuxième point est que la recherche d'architecture sur un parent solide est un meilleur usage d'un budget fixe que l'entraînement d'un petit modèle à partir de zéro, ce qui est l'argument explicite de NVIDIA dans la documentation de Bolt. Prendre un enseignant multimodal de 120B et chercher l'élève le plus large qui tient dans 24GB est un exercice différent du pré-entraînement d'un modèle de 30B, et le checkpoint 74B/9B obtenu se situe là où se situerait un 74B inhabituellement efficace.

Ce que cela ne signifie pas, c’est que Bolt remplace Ultra. Un modèle qui admet plus souvent son incertitude (56,3 contre 70,3 % de non-hallucination, dans le mauvais sens) et qui récupère de manière moins fiable dans un contexte long est un moins bon assistant pour les questions que les gens posent réellement. Il est un meilleur assistant pour les tâches qui relèvent surtout de la procédure : appeler des outils, remplir des formulaires, modifier des fichiers, lire une capture d’écran et cliquer sur le bon élément.

Les deux choses qu’Ultra ne peut pas faire

Les avantages de Bolt sont limités, et tous deux sont structurels plutôt que numériques.

Cela convient. Un checkpoint de 24 Go tourne sur du matériel que l’on possède, sans réseau, sans compteur par token et sans négociation de capacité. L’intelligence d’Ultra n’est accessible que via une API, à 0,60 $ en entrée et 2,50 $ en sortie par million de tokens, et environ 0,60 $ de dépense par tâche d’index. Ce prix est vraiment bas pour un modèle de sa classe, ce qui explique pourquoi la voie hébergée est une véritable option plutôt qu’un compromis — mais elle reste une voie qui exige une connectivité et la confiance dans la disponibilité d’un tiers.

Il voit. L’encodeur de vision C-RADIO v4-H de Bolt lui fournit une entrée d’images et de vidéos, et la fiche modèle de NVIDIA indique 50,86 sur WebArena vision et 66,75 sur BrowseComp. Ultra est un modèle texte. Si le travail de l’agent implique des captures d’écran, des PDF, la lecture de tableaux de bord ou l’automatisation de navigateur avec un état visuel, le modèle phare de la génération précédente ne peut être substitué à aucun prix.

Comment choisir

Choisissez Ultra si la charge de travail est intensive en raisonnement et uniquement textuelle : analyse en plusieurs étapes, ensembles de longs documents, programmation sur de grands dépôts de code, ou toute tâche où une erreur coûte cher. Ses scores indépendants surpassent Bolt presque partout, son prix figure parmi les plus bas de la catégorie haute intelligence, et son débit est mesuré plutôt que supposé.

Prenez Bolt si la charge de travail s’exécute sur du matériel que vous contrôlez, doit pouvoir voir, ou doit continuer à fonctionner lorsque le réseau ne le fait pas. L’écart d’indice de 1,5 point est réel et suffisamment étroit pour que la décision repose généralement sur le déploiement plutôt que sur la qualité — et le fait que NVIDIA ait livré un fichier de 24GB qui obtient un score à deux points de son propre fleuron de 550B est le fait le plus marquant des deux versions.

Il existe une voie intermédiaire qu'il vaut la peine de nommer, car c'est ainsi que N​VIDIA positionne la famille, plutôt que comme le ferait un acheteur d'un modèle unique : un petit exécuteur local qui effectue des appels d'outils et de la lecture d'écran, avec un modèle hébergé plus grand qui gère la planification et le raisonnement difficile. Cette architecture a besoin d'un moyen fiable d'atteindre la moitié hébergée à travers plus d'un fournisseur, ce à quoi sert le basculement d'OrcaRouter — nouvelle tentative automatique entre fournisseurs derrière un seul point de terminaison, sur une clé qui donne aussi accès à plus de 200 modèles au prix catalogue du fournisseur, avec 0 % de marge ajoutée. Nous n'hébergeons aucun modèle N​VIDIA ; la famille N​emotron ne figure pas dans notre catalogue, et rien ici ne constitue une affirmation que nous la servons. Le point est seulement qu'une conception d'agent à deux niveaux a besoin que le second niveau soit routable, et un point de terminaison fournisseur unique codé en dur est la manière habituelle dont cette conception échoue.

Qu’est-ce qui changerait cette page ?

Deux mesures. La première est une mesure indépendante du débit et de la latence sur le checkpoint de 24 Go, qui confirmerait ou ruinerait l'argument en faveur de son utilisation comme exécuteur local à vitesse interactive ; aujourd'hui, le seul chiffre disponible est celui de NVIDIA lui-même, 83,99 tokens par seconde sur AIPerf SPEED-Bench-Coding, mesuré sur une machine de classe portable et non comparable à la configuration matérielle du panel. La seconde est une réexécution indépendante des benchmarks agentiques sur les poids 2 bits, à une quantification contrôlée par un tiers — le tableau du fournisseur indique que Bolt bat Ultra sur Terminal-Bench 2.1 de près de 27 points, et cette affirmation joue un rôle déterminant sans confirmation extérieure.

Rien de tout cela n'est une raison d'éviter le modèle, seulement une raison de connaître l'historique : les incidents d'IA documentés et les défaillances d'agents derrière les modèles de cette catégorie sont recueillis dans l'OrcaRouter AI Incident Archive, où chaque entrée comporte ses propres sources, son niveau de gravité, sa note de confiance et son indicateur de contestation.