Carte de titre principale : NVIDIA Nemotron 3.5 Lightning 30B A3B, le cheval de bataille des agents open source de Nvidia, expliqué — avec des badges de stats affichant 30B total, 3B actifs, 1M de contexte.
Guides & Insights

NVIDIA Nemotron 3.5 Lightning 30B A3B : le cheval de trait open source de Nvidia pour les agents, expliqué

Auteur

jinhao.song

Date de publication

Derniers modèles · 20Voir tous les modèles →
Benchmarks : Artificial Analysis · mis à jour quotidiennement
Retour à tous les articles

Nvidia a annoncé Nemotron 3.5 Lightning le 11 août 2026 et l'a livré avec quelque chose que la plupart des lancements de modèles omettent : un routeur. NeMo Switchyard, une bibliothèque open source qui décide quel modèle doit traiter le prochain appel dans une boucle d'agent, est arrivée le même jour qu'un modèle de mélange d'experts de 30 milliards de paramètres avec seulement 3 milliards de paramètres actifs — c'est là tout l'intérêt. Cet explicatif porte sur le checkpoint que Nvidia a publié en premier, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, la base pré-entraînée brute plutôt que la référence affinée par chat, et sur ce que la famille dans son ensemble vous apprend sur la direction que prend le service de modèles ouverts.

Une note sur les sources avant les chiffres : chaque benchmark, affirmation de vitesse et chiffre de partenaire dans cet article provient de Nvidia, et rien n'a encore été reproduit de manière indépendante — le modèle est vieux de quelques heures. Considérez les chiffres de performance comme une fiche constructeur : informatifs et indicatifs, pas encore un tableau de bord.

Ce qu'est réellement Nemotron 3.5 Lightning

Nemotron 3.5 Lightning est le membre le plus récent et le plus petit de la famille ouverte Nemotron 3 de Nvidia. Il s'agit d'un MoE de 30 milliards de paramètres avec seulement 3 milliards d'actifs par jeton, construit sur une architecture hybride Mamba-2 et MoE avec des couches d'attention sélectionnées et des têtes de prédiction multi-tokens (MTP) intégrées lors d'une étape de pré-entraînement dédiée. Nvidia affirme qu'il a été distillé à partir de son modèle de pointe Nemotron 3 Ultra et entraîné sur plus de 20 000 milliards de jetons, et qu'il prend en charge une fenêtre de contexte allant jusqu'à 1 million de jetons.

L'objectif de conception est la latence et le coût à l'échelle, pas la généralité de pointe. Nvidia positionne Lightning pour la « couche d'exécution » des agents toujours actifs — les appels à volume élevé et à difficulté moindre qu'un agent effectue constamment : appels d'outils, revue de code, tri des alertes de sécurité, questions de facturation, délégation de sous-agents. C'est un travail pour lequel on ne veut pas d'un modèle de pointe à chaque étape ; on veut un modèle peu coûteux et rapide, suffisamment bon. Les promesses de vitesse découlent de l'architecture : une génération jusqu'à 4× plus rapide que les modèles de taille comparable et environ 30 % plus rapide pour l'accomplissement de tâches agentiques, selon les mesures de Nvidia. Deux modèles d'ébauche, DSpark et DFlash, fournissent un décodage spéculatif optimisé pour un service d'inférence à concurrence moyenne à élevée.

Les trois points de contrôle — et celui que vous voulez

Ce lancement représente en réalité trois téléchargements, et une couverture qui traite « Nemotron 3.5 Lightning » comme un seul modèle passe à côté de la distinction la plus importante pour un développeur.

Le sujet de ce texte, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, est le checkpoint pré-entraîné brut — sans fine-tuning supervisé, sans RL, sans distillation appliquée. C'est un modèle de base au sens strict : il ne dialogue pas d'emblée, et il existe pour être le point de départ d'un pré-entraînement continu, d'un SFT personnalisé, de la RL ou d'une distillation. Si vous avez l'intention de construire votre propre modèle à partir du pré-entraînement de Nvidia, c'est le fichier qu'il vous faut.

La version sœur, NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, correspond aux poids de référence qui ont exécuté le pipeline complet — pré-entraînement, continuation MTP, SFT et RL. Il s’agit d’un modèle de raisonnement et de chat à usage général, mais Nvidia le présente toujours comme un point de départ pour la personnalisation plutôt que comme un artefact de service en production. Pour le service, le checkpoint NVFP4 (publié en parallèle, partageant les noyaux de quantification que Nvidia utilise pour Nemotron 3 Ultra) est celui qui vise la latence et le débit.

Conseils pratiques, en une ligne par point de contrôle :

• Base-BF16 — poursuite du pré-entraînement, post-entraînement sur domaine, distillation à partir de zéro. À vous de prendre le relais.

• Référence BF16 — capable de chat et de raisonnement, mais destiné à servir de base pour votre propre SFT ou RL, et non comme un endpoint hébergé.

• NVFP4 — le checkpoint optimisé pour le serving, destiné au déploiement sur les GPU Nvidia.

La plupart des lecteurs qui se tournent vers une API de production veulent les modèles affinés, pas le modèle de base. Le modèle de base compte pourtant, car Nvidia l'a publié sous une licence ouverte (OpenMDW-1.1) qui couvre les poids, les données d'entraînement et les recettes — le pré-entraînement brut est la partie que vous ne pouvez pas obtenir d'un fournisseur fermé, et c'est elle qui fait que toute la famille vous appartient.

Screenshot of the Hugging Face model card for NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16, showing the Text Generation task, Transformers, Safetensors and the OpenMDW-1.1 license

Le registre de référence, honnêtement étiqueté

Voici ce que Nvidia rapporte pour le checkpoint de base dans ses propres évaluations : MMLU 78.59, MMLU-Pro (5-shot) 67.94, GSM8K 91.28, HumanEval 77.44, MBPP 78.59, ARC-Challenge 92.66, HellaSwag 85.55, WinoGrande 79.95, et un score RULER en contexte long de 69.62 à 1 M de jetons. La référence ajustée déplace le curseur là où on l'attend : MMLU-Pro 81.94, GPQA Diamond (sans outils) 75.44, SWE-bench Verified 51.56, Terminal-Bench 2.1 24.58.

Les chiffres de vitesse annoncés sont également rapportés par le fournisseur : un débit de sortie jusqu'à 4× supérieur et une exécution de tâches agentiques 30 % plus rapide que les modèles de sa catégorie, plus un résultat PinchBench de 86 % de précision sur un ensemble de 10 000 tâches, environ 30 % plus rapide que Qwen3.6-35B à précision similaire. Nvidia cite également un score de 24 sur l'Artificial Analysis Intelligence Index, à égalité avec gpt-oss-120b — mais notez la provenance : c'est Nvidia qui cite un score pour un modèle qui, au 11 août, n'apparaît pas encore sur le leaderboard public d'Artificial Analysis. Les laboratoires indépendants n'ont pas publié de chiffres pour Lightning.

Pour donner une idée de la place de 24 dans la famille, les indices mesurés par AA pour les autres modèles ouverts de Nvidia sont de 25,4 pour Nemotron 3 Ultra et Nemotron 3 Super, et de 14,2 pour Nemotron 3 Nano. Lightning n'est pas un modèle de pointe, et Nvidia ne prétend pas qu'il l'est ; c'est un pari sur le côté vitesse-coût de la frontière de Pareto.

Scoreboard for NVIDIA Nemotron 3.5 Lightning 30B A3B: Active params 3B, Total params 30B, Context up to 1M tokens, MMLU 78.6 (vendor), Output speed up to 4x vs class (vendor), AA Index 24 (Nvidia-cited); footer reads 'Vendor-reported as of Aug 11, 2026 — no independent run yet.'

À quoi ça sert : la couche d'exécution des agents

L'argumentaire de Nvidia repose sur une division du travail : un modèle de pointe planifie et raisonne, tandis qu'un exécuteur économique gère les milliers d'appels de routine qui permettent à un agent de tourner toute la journée. C'est pourquoi la même annonce inclut une bibliothèque de routage — Lightning est conçu pour être un niveau dans un système plus vaste, et non le système entier.

Les études de cas de partenaires sont fournies par Nvidia, alors considérez-les comme du marketing avec des chiffres. Celle qui illustre le mieux l’objectif du modèle est CodeRabbit, qui affirme avoir post-entraîné Lightning pour la revue de code en moins de trois heures pour moins de 100 $, obtenant environ 4 % de précision supplémentaire par rapport à une référence de type GPT, pour un coût d’inférence à peu près deux fois moindre. Que vous fassiez confiance ou non aux chiffres exacts, c’est la tendance qui compte : un modèle actif de 3B est assez peu coûteux pour être affiné sur vos propres données et servi à grande échelle, ce qui constitue l’ensemble de la proposition de valeur.

Le calcul des coûts

Il n'y a pas de prix catalogue pour Nemotron 3.5 Lightning, car il n'y a rien à acheter — les poids sont gratuits sous licence OpenMDW-1.1, ainsi que les données d'entraînement et les recettes. Le prix est celui que facture un hébergeur pour le servir, et ce chiffre variera plus que la qualité une fois que des API tierces commenceront à proposer la famille. Pour le prototypage, Nvidia le propose en tant que microservice NIM sur sa propre plateforme build.nvidia.com, qui est gratuite à essayer avec une limite de débit et sans carte de crédit.

Deux réalités de coût comptent avant d'évaluer ce modèle. D'abord, « 30B au total, 3B actifs » signifie que l'inférence est bon marché par jeton, mais que les 30B complets doivent quand même résider en mémoire sur chaque GPU — le serving n'est pas gratuit, et le parallélisme des lots détermine sa vitesse réelle d'exécution. Ensuite, quand un modèle à poids ouverts débarque sur plusieurs API hébergées, les prix par jeton peuvent varier du simple au multiple selon les fournisseurs, et cette différence n'est pas un signal de qualité. C'est là qu'une passerelle en transparence trouve sa raison d'être : OrcaRouter transmet directement les prix catalogue des fournisseurs avec une marge de 0 %, si bien qu'une baisse de prix chez un fournisseur prend effet le jour même et que la variabilité des prix reste du côté du marché. Nemotron 3.5 Lightning n'est pas encore sur OrcaRouter — les poids sont arrivés il y a quelques heures — mais le schéma pour adopter en toute sécurité un modèle vieux d'un jour consiste à le router derrière un basculement automatique, afin qu'un problème de démarrage à froid sur un hôte ne puisse pas faire tomber une route de production.

Le routeur qui a été expédié avec lui.

NeMo Switchyard mérite d'être compris, car c'est le pari de Nvidia sur la manière dont l'IA agentique ouverte devrait fonctionner : non pas un grand modèle unique, mais un système qui envoie chaque étape au modèle le plus capable et le plus efficace disponible. C'est une bibliothèque open-source que vous intégrez dans votre harnais, avec des réglages pour optimiser la qualité, la latence ou le coût. Le propre benchmark de Nvidia revendique une précision au niveau des modèles de pointe pour environ un tiers du coût d'un modèle de pointe exécuté seul.

Les résultats des partenaires, encore une fois rapportés par Nvidia, vont dans le même sens : Boomi indique avoir routé 59 % du trafic vers un modèle spécialisé 5× plus rapide, avec une latence des tours suivants inférieure de 21 % ; Cognition rapporte un coût moyen réduit de 28 % ; Ramp déclare avoir égalé les performances des modèles de pointe sur son propre SWE-bench avec un coût réduit de 58 %. Le point de données le plus honnête est LangChain : coût réduit de 74 % sur 145 tâches d'agents multi-étapes, avec seulement 7 % des appels vers un modèle de pointe — pour un compromis de précision de 6 %. Le routage n'est pas gratuit ; c'est un compromis délibéré.

Switchyard est une bibliothèque, ce qui signifie que c'est la voie du « faites-le vous-même » : vous définissez la politique, vous l'intégrez, vous l'exploitez. L'alternative gérée est une API de routage hébergée, où une seule clé couvre un catalogue de plus de 200 modèles, le basculement (failover) est une fonctionnalité par défaut plutôt que quelque chose que vous câblez, et un DSL de routage vous permet de composer plusieurs modèles en un seul appel. Les chiffres des propres tests de Nvidia — 59 %, 74 %, 58 % — sont l'argument le plus fort en faveur de ce modèle, quelle que soit la couche sur laquelle vous l'exécutez.

Comment l'exécuter aujourd'hui

La prise en charge dès le premier jour est étendue. Les points de contrôle s'exécutent localement sur les PC RTX, les DGX Spark, les DGX Station et le matériel Jetson, ainsi que dans le centre de données sur les GPU Hopper et Blackwell. L'écosystème annoncé couvre vLLM, SGLang, llama.cpp, Ollama, LM Studio, Unsloth et TensorRT-LLM, en plus d'un conteneur NIM pour l'infrastructure Nvidia. Pour le post-entraînement, Nvidia a également publié un ensemble de données RL ouvert, Nemotron-RL-Agentic-Terminal-Pivot, visant les capacités d'agent de codage — utile si vous prévoyez d'effectuer votre propre étape de RL par-dessus le modèle de base.

Screenshot of the NVIDIA developer blog post announcing Nemotron 3.5 Lightning for long-running agent workloads, dated August 11, 2026

Qui devrait agir maintenant

Trois groupes tirent quelque chose de cette version, et ils devraient faire des choses différentes. Si vous construisez des modèles — pré-entraînement continu, post-entraînement de domaine, distillation — le checkpoint Base-BF16 est le téléchargement intéressant, et il est véritablement nouveau : Nvidia n'a jamais ouvert un pré-entraînement brut de classe 30B sous cette licence auparavant. Si vous servez des modèles, le checkpoint NVFP4 et le chemin NIM méritent d'être évalués par rapport à ce que vous exécutez déjà pour les charges de travail d'agents ; le profil 3B-active est tout l'argument. Et si vous êtes un développeur d'applications, la réponse honnête est d'attendre un peu : les modèles affinés ne sont pas encore disponibles sur des API hébergées sous une forme stable, les chiffres indépendants sont à des semaines, et la vision des coûts sera plus claire une fois que le marché aura tarifé un MoE ouvert de 30B.

Quoi regarder ensuite : la première exécution indépendante sur Artificial Analysis, qui confirmera ou dégonflera l’affirmation Index-24 ; les prix que les premiers fournisseurs d’hébergement fixeront pour les checkpoints ajustés ; et la fréquence à laquelle les propres chiffres de Switchyard de Nvidia apparaissent dans les benchmarks d’autres personnes. Ce lancement concerne l’efficacité et le routage, et non une nouvelle frontière — et c’est cela, et non la fiche technique, qui est l’histoire.

FAQ

Puis-je utiliser le checkpoint Base-BF16 pour discuter directement ?

Non. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-Base-BF16 est le checkpoint pré-entraîné brut, sans SFT ni RL appliqués — il n’est pas affiné pour les instructions. L’option capable de chat et de raisonnement est la sœur NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, version de référence, qui a suivi l’intégralité du pipeline en quatre étapes ; la base existe pour être post-entraînée davantage, pas pour être déployée telle quelle.

L'indice Artificial Analysis de 24 est-il un score indépendant ?

Non — pas encore. Ce chiffre est Nvidia citant un score pour un modèle qui, au 11 août 2026, n'apparaît pas encore sur le classement public d'Artificial Analysis. Les laboratoires indépendants n'ont pas publié de résultats pour Nemotron 3.5 Lightning, donc considérez chaque chiffre des documents de lancement comme rapporté par le fournisseur jusqu'à ce qu'une exécution tierce apparaisse.