Nemotron 3.5 Bolt vs Nemotron 3.5 Lightning : ce que le tableau de NVIDIA lui-même dit lorsqu’on lit les deux colonnes

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB et NVIDIA Nemotron 3.5 Lightning 30B-A3B{{1}}NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB{{/1}}{{2}} et {{/2}}{{3}}NVIDIA Nemotron 3.5 Lightning 30B-A3B{{/3}} sont deux échelons d'une même famille, sortis à dix semaines d'intervalle, et le fournisseur a déjà publié un tableau qui les met face à face. C'est inhabituel et utile : la plupart des tableaux comparatifs que l'on lit sont assemblés par un journaliste ou par un fournisseur qui sélectionne des comparaisons flatteuses, alors que celui-ci est le fait d'un laboratoire qui évalue son propre modèle le plus récent face à son propre modèle plus ancien, en public, l'ancien étant désigné comme référence. Il n'en reste pas moins rapporté par le fournisseur, et personne en dehors de NVIDIA n'en a reproduit la moindre ligne — mais l'intention qui le sous-tend ne fait aucun doute, pas plus que le sens du résultat. Bolt l'emporte sur douze des treize lignes. Il vaut la peine de comprendre précisément quelle ligne il perd, et pourquoi c'est cette ligne-là qui est intéressante.

La structure de la famille compte avant les chiffres. Nemotron 3.5 Lightning est sorti le 11 août 2026 comme couche d'exécution d'une pile d'agents — un hybride de 30B au total et 3B actifs que NVIDIA a distillé à partir du bien plus grand Nemotron 3 Ultra, précisément pour qu'un modèle de pointe puisse se charger de la planification pendant que Lightning enchaîne les appels d'outils sur un seul GPU. Bolt appartient à une lignée entièrement différente : il a été compressé à partir du modèle Nemotron 3.5 Super VL 120B-A12B, et non d'Ultra, et il existe pour être un généraliste vision-langage qui tient dans 24 Go. Les deux sont à poids ouverts sous OpenMDW-1.1, tous deux sont des mélanges d'experts parcimonieux sur des ossatures hybrides Mamba-2, et tous deux embarquent le décodage spéculatif — Lightning avec des têtes Multi-Token Prediction plus les drafters DFlash et DSpark, Bolt avec un drafter LiLiCorr piloté via DFlash qui propose sept jetons d'avance.

La filiation commune cesse d’être utile au moment où il faut décider, car les deux modèles répondent à des questions différentes. L’un est un exécuteur à bas coût. L’autre est un généraliste local.

Lecture du tableau selon le rôle, et non selon le score

Chaque chiffre ci-dessous provient de la fiche de modèle de NVIDIA elle-même pour le checkpoint Bolt 24GB, qui répertorie Lightning comme référence. La colonne Bolt est en IQ2, un artefact quantifié en 2 bits. La colonne Lightning est en BF16, non quantifiée. Cette asymétrie est l'information la plus importante à connaître au sujet du tableau, et elle tourne à l'avantage de Bolt — Bolt remporte ces lignes tout en étant compressé environ huit fois par rapport à son parent.

• Raisonnement agentique général — GDPVal-AA-V2 : Bolt 28,47, Lightning 18,26. Un écart de dix points, et la ligne la plus proche de « à quel point il est performant dans le travail bureautique quotidien pour lequel le modèle a été conçu. »

• Travail sur le terminal — Terminal-Bench 2.1 : Bolt 50,98, Lightning 23,46. C’est l’écart le plus large du tableau, et ce n’est pas une surprise, car les propres recommandations de NVIDIA pour Lightning indiquent qu’il ne devrait pas être l’agent principal. Une évaluation indépendante a enregistré environ 24,6 pour Lightning sur le même benchmark, ce qui est suffisamment proche du 23,46 du fournisseur pour suggérer que ce chiffre est réel.

• Raisonnement scientifique et de connaissances — GPQA Diamond : Bolt 86,43, Lightning 75,57. SciCode : Bolt 41,02, Lightning 31,38. Humanity's Last Exam sans outils : Bolt 25,30, Lightning 10,47. Cohérence sur trois formes différentes de questions difficiles.

• Raisonnement à long contexte — AA-LCR : Bolt 64,06, Lightning 49,19. Quinze points, et ici, la contrainte de mémoire ne constitue pas le facteur limitant pour l’un ou l’autre des modèles.

• Agentivité web et de navigation — BrowseComp : Bolt 66,75, Lightning 36,81. Trente points. Le plus grand écart individuel du tableau, et celui qui contredit le plus directement l’idée de Lightning comme exécuteur autonome.

• Densité d’utilisation d’outils — MCP-Atlas : Bolt 52,20, Lightning 46,4. PinchBench : Bolt 87,82, Lightning 83,43. Les deux sont plus proches que les écarts ci-dessus, ce qui est cohérent avec le cahier des charges réel de Lightning : des étapes d’outils courtes et à haute fréquence.

• Vision — WebArena vision : Bolt 50,86, Lightning n'a aucune entrée. Ce n'est pas une lacune de reporting. Lightning, c'est du texte en entrée, du texte en sortie ; il n'a aucun encodeur de vision à évaluer.

La seule ligne que Lightning remporte, et pourquoi ce n'est pas du bruit

AA-Omniscience non-hallucination : Nemotron 3.5 Lightning 68,81, Nemotron 3.5 Bolt 61,27. Sur la moitié précision de la même évaluation, les deux se tiennent à un tiers de point l’un de l’autre — 16,90 pour Bolt contre 16,63 pour Lightning — ce qui fait de l’écart sur la moitié non-hallucination toute l’histoire plutôt qu’un artefact d’arrondi. Le modèle plus petit, plus ancien et non quantifié est mesurablement plus retenu quant au fait de dire des choses qu’il ne sait pas.

C'est une véritable découverte, et elle a un mécanisme plausible. Bolt a atteint son empreinte via une quantification agressive en 2 bits avec distillation consciente de la quantification ; la partie avec perte de ce pipeline est exactement celle qui régit l'incertitude calibrée. Lightning est plus petit mais se situe à pleine précision BF16, et sa cible de distillation était un modèle de raisonnement plutôt qu'un taux de compression. Si le mode de défaillance de votre agent est une réponse fausse et confiante qui se propage dans une action, c'est la ligne à pondérer le plus fortement — et aucune ingéniosité de routage ne corrige un modèle qui invente davantage.

Les fabricants publient rarement un tableau contenant une ligne où leur nouveau modèle perd. Le fait que celui-ci le fasse est un petit indice que ce tableau n'est pas purement promotionnel.

Le coût de serving est le véritable second axe

Les scores ci-dessus ne sont pas toute la décision, car ces deux modèles n’ont pas le même coût d’exécution.

• Paramètres actifs — Bolt active 9 milliards de paramètres par jeton ; Lightning en active environ 3 milliards. Trois fois plus de calcul par jeton pour le modèle plus grand, à chaque jeton, pour toujours.

• Enveloppe mémoire — Bolt est un fichier de 24 Go où tout est déjà compressé ; Lightning est un checkpoint 30B BF16 qui demande un seul GPU et tient confortablement sur une RTX 5090, un DGX Spark ou une puce Jetson.

• Contexte — les deux sont spécifiés à 1M de tokens, et tous deux sont en pratique plus étroits. Lightning sert 256K sur un seul H100 avant que le calcul de mémoire ne devienne délicat ; la fenêtre publiée de Bolt est de 262 144, et cette fenêtre partage les mêmes 24 Go avec le cache KV, les images et les résultats d'outils.

• Promesses de vitesse — NVIDIA annonce jusqu'à 4x la vitesse de sortie par rapport à des modèles de taille similaire pour Lightning grâce à ses drafters MTP et DFlash/DSpark, et au moins 80 tokens par seconde de décodage comme objectif de conception pour Bolt, avec 84 mesurés sur l’AIPerf SPEED-Bench sur RTX Spark et 83,99 lors d’une exécution de llama.cpp sur un Surface Laptop Ultra avec 128 Go. Ce sont des chiffres du fournisseur. Aucun des deux n’a été reproduit par quiconque en dehors de NVIDIA.

• Mesure de la consommation — aucune des deux options ne dispose d'un prix hébergé, ni de notre part, ni de la part d'une plateforme vers laquelle nous pouvons vous orienter. Dans un cas comme dans l'autre, le coût repose sur votre matériel, et c'est précisément pourquoi le nombre de paramètres actifs compte davantage que dans une comparaison avec une offre hébergée.

Ce que le panel pouvait et ne pouvait pas mesurer

Artificial Analysis dispose d'une entrée pour Nemotron 3.5 Bolt 74B-A9B et lui attribue un score de 21 sur l'Intelligence Index, quatrième sur 67 dans sa catégorie d'empreinte, contre une médiane de catégorie de 8. Ses champs vitesse et coût par tâche affichent N/A, car il n'existe aucun point de terminaison hébergé à appeler. Ces deux cases vides constituent l'état honnête du modèle : son plancher d'intelligence est vérifié de manière indépendante et son plafond de performance ne l'est pas.

Il n'existe pas d'entrée Artificial Analysis pour Nemotron 3.5 Lightning au moment de la rédaction, ce qui fait reposer toute la comparaison sur la fiche propre à NVIDIA. Le point de données indépendant qui existe bel et bien — une vérification LLM Stats d'environ 24,6 sur Terminal-Bench 2.1, cohérente avec le 23,46 du fournisseur — étaye les chiffres du fournisseur plutôt que de les contredire. C'est rassurant quant au tableau, sans pour autant remplacer un second harnais.

Comment vraiment choisir

L'intention de conception tranche la plupart des cas avant même que les benchmarks ne le fassent. Lightning est un exécuteur par construction : les propres recommandations de NVIDIA invitent à laisser un modèle de pointe planifier et Lightning exécuter la boucle, et ses meilleures lignes dans le tableau sont celles des appels d'outils à haute fréquence plutôt que celles des agents autonomes. Bolt est un généraliste par construction : le même tableau le montre largement en tête sur l'agentivité de navigation et le travail au terminal, qui sont les tâches de type planificateur que Lightning n'a jamais été censé prendre en charge — et c'est le seul des deux à pouvoir voir.

La composition pour laquelle les deux modèles ont été conçus est un planificateur, un exécuteur et un spécialiste local. Comme aucun des checkpoints ne porte de prix hébergé, la répartition revient à votre propre matériel et un point de terminaison devant lui effectue le travail utile : une règle de routage qui envoie les boucles courtes d'appel d'outils vers un déploiement Lightning, les requêtes de vision et de pilotage de navigateur vers Bolt, et tout ce qui nécessite un véritable raisonnement de pointe vers un modèle hébergé — le tout derrière une seule clé, avec basculement entre fournisseurs amont lorsqu'une branche hébergée se dégrade. La règle réside dans la configuration plutôt que dans chaque service, ce qui est la différence entre une couche de routage et une réécriture.

La question ouverte est une seule exécution indépendante. Si un tiers reproduit les écarts Terminal-Bench et BrowseComp sur Bolt, le checkpoint de 24 Go est véritablement le généraliste le plus fort, et l'argument en faveur du palier 30B se réduit à une pure économie de débit. Dans le cas contraire, l'interprétation honnête est qu'un 74B quantifié en 2 bits et un 30B en BF16 sont plus proches que ne le laisse entendre le tableau d'un seul fournisseur — et que la ligne de non-hallucination, celle que Lightning remporte, mérite plus de poids que ne le suggère sa position en bas de la fiche.