Nemotron 3.5 Bolt 24GB vs Nemotron 3.5 Lightning 30B-A3B : même famille, déploiements opposés

Two models from one family, released four months apart, built to opposite ends of the same question. N​VIDIA N​emotron 3.5 Lightning 30B-A3B shipped in August 2026 as a high-throughput text model for data-centre serving. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB shipped on 15 October 2026 as a multimodal agent that fits on a laptop. Bolt has double the total parameters and three times the active parameters of Lightning, and it runs on hardware Lightning cannot start on. This is what actually separates them, and where the family resemblance is misleading.

Les deux proviennent de la même recette d'entraînement

N​VIDIA's technical report for the pair is explicit that both models begin with the same two stages: a 100-billion-token warm-up for multi-token-prediction heads, then a trillion tokens of distillation from the next-larger N​emotron 3 model. Lightning distils from N​emotron 3 Super Base; Bolt distils from the N​emotron 3.5 Super VL line, which is why Bolt can see and Lightning cannot.

Après cela, les chemins se séparent, et cette séparation est toute l’histoire.

Lightning passe par une phase de contexte long de 21 milliards de tokens qui l'étend à un million de tokens, puis par un pipeline de post-entraînement SFT-et-RLVR, et il est publié en tant que modèle de texte de 30B au total / 3B actifs avec des options spéculatives DSpark, DFlash et MTP et une cible de déploiement sur un seul GPU : un H100 ou un DGX Spark avec des poids NVFP4.

Bolt est compressé à partir d'un parent de 120 milliards de paramètres par la recherche d'architecture Star Elastic, réattaché à sa tour de vision, réentraîné via une étape supervisée à forte composante visuelle, puis soumis à un apprentissage par renforcement de bout en bout dans des environnements agentiques, et enfin quantifié à 2,0625 bits par poids d'expert avec distillation consciente de la quantification. Il est livré avec un modèle de brouillon, LiLiCorr, et une configuration de déploiement : quelque chose avec 24 Go de mémoire et la capacité de l'exécuter aux côtés d'autres applications.

Le contraste des spécifications, côte à côte

• Paramètres — Bolt : 74B au total, 9B actifs. Lightning : 30B au total, 3B actifs.

• Précision telle que livrée — Bolt : experts IQ2_XXS à 2,0625 bits par élément, couches Mamba NVFP4, embeddings et attention Q8_0. Lightning : NVFP4 sur toute la ligne pour le checkpoint de déploiement, avec une version de référence BF16 pour la personnalisation.

• Contexte — Bolt : 262 144 tokens. Lightning : un million de tokens, le résultat d’une phase d’entraînement dédiée au contexte long.

• Modalité — Bolt : texte, images et vidéo en entrée. Lightning : texte uniquement. La fiche Artificial Analysis de chaque modèle l'indique sur le même panneau avec la même formulation, ce qui en fait l'une des rares lignes où les deux sont directement comparables sans réserve.

• Matériel hôte — Bolt : ordinateurs portables RTX Spark, PC GeForce RTX, DGX Spark, DGX Station, stations de travail RTX PRO. Lightning : un DGX Spark ou un H100, ou Blackwell et Ampere via W4A16.

• Décodage spéculatif — Bolt : LiLiCorr, un modèle de rédaction de 1,13B, sept tokens rédigés par étape. Lightning : DSpark pour les charges de travail à faible concurrence, avec DFlash et MTP également publiés.

• Licence — OpenMDW-1.1 pour les deux, et les deux sont autorisés pour un usage commercial.

Le seul endroit où les deux sont mesurés par quelqu'un d'autre

Ces deux modèles ont quelque chose qui manque à la plupart de la famille N​emotron : des entrées dans le même panel indépendant, mesurées de la même manière. Cela rend la comparaison inhabituellement propre pour un affrontement interne à la famille.

Artificial Analysis scores N​emotron 3.5 Lightning at 13 on its Intelligence Index, ranking 28th of 141 models, and N​emotron 3.5 Bolt 74B-A9B at 21, ranking fourth of 67 models in its own class. Those classes are not identical — Bolt is a medium open-weights model, Lightning is a small one — so the ranks are not directly comparable, but the index scores are produced by the same methodology on the same evaluations.

La vitesse est le point où l'écart s'inverse, et c'est le fait le plus déterminant pour la décision concernant cette paire. Le panel mesure Lightning à 307 jetons de sortie par seconde, premier sur 63 modèles sur cette dimension. Il indique que la vitesse de Bolt n'est pas disponible, car aucune API publique ne le dessert et la mesure de vitesse du panel en exige une. Le seul chiffre de débit qui existe pour Bolt est celui de NVIDIA lui-même : 83,99 jetons par seconde sur AIPerf SPEED-Bench-Coding, sur un Surface Laptop Ultra doté de 128 Go de mémoire, avec le drafter attaché.

Lisez ces éléments ensemble et l’histoire de la famille devient concrète. D’après les chiffres dont nous disposons, Lightning est environ trois fois et demie plus rapide que Bolt, sous une forme que l’on peut louer au token ; Bolt est nettement plus intelligent sur le même indice et tourne sur une machine que personne ne peut louer du tout.

Trois façons dont le choix se résout

Si la charge de travail est volumineuse et uniquement textuelle, Lightning n'est pas un compromis, c'est le meilleur outil. Un contexte d'un million de tokens à 307 tokens par seconde, avec un tarif publié de six cents par million de tokens en entrée et vingt cents par million de tokens en sortie, est une chose précise et utile, et Bolt ne peut égaler ni la vitesse ni le contexte sur un matériel de quelque nature que ce soit.

Si la charge de travail est visuelle, il n'y a pas de décision à prendre. Bolt accepte les images et la vidéo, Lightning non, et aucun apport de contexte ou de débit ne saurait remplacer une modalité absente. La ligne vision de WebArena dans le propre tableau de NVIDIA — 50,86 pour Bolt, Lightning n'y figurant pas du tout — voilà à quoi cela ressemble lorsque l'on passe d'une fiche technique à un benchmark.

Si la charge de travail doit s’exécuter sans réseau, Bolt est le seul des deux à avoir été empaqueté pour cela. La cible de déploiement de Lightning est un seul H100 ou DGX Spark avec un checkpoint NVFP4, c’est-à-dire un serveur ; celle de Bolt est un fichier de 24 Go sur un ordinateur portable qui fait aussi tourner un navigateur. La distinction ne porte pas sur la capacité mais sur l’emplacement de la machine.

Ce que la famille retire du fait d'expédier les deux

Ce qui est intéressant avec cette paire, ce n’est pas que l’une surpasse l’autre. C’est que N​VIDIA a construit la moins chère en premier, puis a passé quatre mois à construire la plus chère pour l’installer là où la moins chère ne pouvait pas aller.

Lightning est le pari du débit : peu de paramètres actifs, un contexte énorme, conçu pour être servi de nombreuses fois sur un seul GPU. Bolt est le pari de la densité : un nombre de paramètres énorme compressé dans un budget mémoire fixe, afin qu'un utilisateur unique sur une seule machine obtienne localement un comportement d'agent plus proche de l'état de l'art. Les deux optimisent des ratios différents — jetons par seconde par GPU contre intelligence par gigaoctet par appareil — et le fait que Bolt obtienne 21 contre 13 pour Lightning n'est pas une défaite pour Lightning, car Lightning ne tiendrait pas sur la machine pour laquelle Bolt a été conçu, dans la forme sous laquelle Bolt existe.

Il y a également un point de données pour l'argument de compression lui-même. Le tableau de fournisseurs de Bolt inclut Lightning comme l'une de ses références, et Bolt le bat sur presque toutes les lignes agentiques : 50,98 contre 23,46 sur Terminal-Bench 2.1, 66,75 contre 36,81 sur BrowseComp, 17,01 contre 9,48 sur Tau3 Banking, 28,47 contre 18,26 sur GDPVal-AA-V2. Ce sont les propres chiffres de N​VIDIA comparant deux de ses propres modèles dans le même tableau, et la lecture honnête est que compresser un parent de 120B surpasse l'entraînement d'un modèle de 30B à partir de zéro à la même taille cible. C'est précisément l'affirmation que Star Elastic a été inventé pour étayer.

Ce que cela implique pour quiconque construit un agent

L'association suggère une configuration plutôt qu'un gagnant. Lightning prend en charge la partie intermédiaire, à fort volume, à long contexte et purement textuelle, du travail d'un agent, là où le débit et le contexte sont les contraintes déterminantes. Bolt prend en charge le travail local, visuel et tolérant à la latence qui ne peut pas quitter la machine. Ni l'un ni l'autre ne remplace l'autre, et la manière dont NVIDIA présente elle-même cette famille — Ultra pour le raisonnement le plus difficile, Lightning pour le débit, Bolt pour la périphérie — est l'aveu que la frontière est réelle.

Ce qu'aucun des deux modèles ne résout, c'est la partie de la pile qui n'est ni locale ni propre à NVIDIA. Nous n'hébergeons ni l'un ni l'autre de ces checkpoints ; le catalogue OrcaRouter ne comporte aucune entrée Nemotron, il n'y a donc aucun endpoint ni tarif à indiquer pour ces deux modèles. Ce qu'une passerelle apporte à une pile mixte, c'est l'autre versant : une seule clé pour plus de 200 modèles hébergés, le prix catalogue du fournisseur répercuté tel quel, sans marge ajoutée, un basculement automatique lorsqu'un fournisseur se dégrade, et un DSL de routage pour décrire en configuration l'escalade entre modèles. Le choix entre Bolt et Lightning se fait sur votre matériel et dans votre harnais. Ce qui se passe lorsque la tâche dépasse les deux, ou lorsqu'une requête doit atteindre un modèle qu'aucun des deux ne peut être, c'est la partie qui se trouve derrière un endpoint.

Lequel essayer en premier ?

Si vous disposez d’un GPU de 24 Go et d’une connexion réseau intermittente, Bolt est le téléchargement le plus intéressant : il est plus récent, il est multimodal et il fait quelque chose qu’aucune autre version de la famille ne peut faire.

Si vous avez un DGX Spark, un H100, ou une application où la latence est le produit, Lightning est en disponibilité générale depuis août, dispose d’une mesure de vitesse indépendante qui le place en tête de sa catégorie, a un prix publié, et a eu deux mois pour que l’écosystème en découvre les aspérités. Bolt n’a eu qu’un jour, son drafter est un troisième téléchargement obligatoire, et personne en dehors de N​VIDIA n’a mesuré sa latence.

Les deux affirmations peuvent être vraies à la fois. C'est à cela que sert une famille.

Cet écart entre ce qu'un tableau de bord mesure et ce qu'un déploiement rencontre est la raison pour laquelle ce bilan compte : les défaillances documentées de l'IA et les incidents d'agents liés aux modèles de cette classe sont recensés dans the OrcaRouter AI Incident Archive, où chaque entrée comporte ses propres sources, son niveau de gravité, sa note de confiance et son indicateur de contestation.