Granite 4.2 30B vs Nemotron 3.5 Lightning — le penseur et l'acteur. Illustration régénérée.
Guides & Insights

Granite 4.2 30B vs Nemotron 3.5 Lightning : le penseur et l'exécutant

Auteur

Rowan Sterling

Date de publication

Derniers modèles · 20Voir tous les modèles →
Benchmarks : Artificial Analysis · mis à jour quotidiennement
Retour à tous les articles

Granite 4.2 30B et Nemotron 3.5 Lightning sont deux modèles open-weight de 30B sortis à quatorze jours d’intervalle avec des rôles presque opposés. Nemotron 3.5 Lightning, publié par NVIDIA le 11 août 2026, est un Mixture-of-Experts hybride de 30B au total / 3B actifs — couches d’espace d’état Mamba-2, MoE et attention — conçu pour être la couche d’exécution des systèmes d’agents : appels d’outils rapides, boucles à haut volume, travail de sous-agents, sur un seul GPU. Granite 4.2 30B, qu’IBM a publié discrètement sur Hugging Face le 25 août 2026, est un modèle de raisonnement dense de 29 milliards de paramètres — un penseur, avec des modes de réflexion sélectionnables et un apprentissage par renforcement agentique, également auto-hébergeable. Les deux sont ouverts (Apache 2.0 contre OpenMDW-1.1), les deux tiennent sur du matériel qu’une équipe peut réellement posséder, et les deux sont des sorties d’août dont les benchmarks restent essentiellement annoncés par les fournisseurs. La question intéressante n’est pas de savoir lequel est meilleur, mais lequel vous avez besoin — un planificateur, un exécuteur, ou les deux.

Cette séparation planificateur/exécuteur n'est pas une invention éditoriale ; c'est la conception propre de NVIDIA. Nemotron 3.5 Lightning a été distillé à partir du bien plus grand Nemotron 3 Ultra, spécifiquement pour qu'un modèle de pointe puisse gérer la planification pendant que Lightning exécute la boucle, et NVIDIA l'a livré avec NeMo Switchyard, une bibliothèque de routage qui implémente exactement cette division du travail. Granite 4.2 30B, en revanche, essaie d'être l'agent complet dans un seul package 30B.

Granite 4.2 30B, le penseur

Le modèle phare d'IBM, Granite 4.2, est un Transformer dense à décodeur seul doté de trois modes de raisonnement — raisonnement complet (encadré par les balises think>.../think>), raisonnement à faible effort et aucun raisonnement — ainsi qu'un appel d'outils compatible OpenAI et un apprentissage par renforcement agentique qui l'a entraîné à utiliser des terminaux, exécuter du code et rechercher sur le web dans un bac à sable. Son contexte natif de 128K s'étend à 512K. La fiche technique d'IBM revendique 89,17 sur AIME 2025, 77,60 sur MMLU-Pro et 57,00 sur SWE-Bench Verified (in-harness) — des chiffres rapportés par le fournisseur, dont aucun n'a été reproduit de manière indépendante, et aucune entrée Artificial Analysis n'existe encore. En bref, c'est un modèle de raisonnement généraliste résolument orienté vers le travail agentique, fourni en quantifications BF16 et FP8, NVFP4/MXFP4 et GGUF afin que les équipes puissent réellement l'exécuter.

A screenshot of the Hugging Face model card for ibm-granite/granite-4.2-30b (captured August 26, 2026), showing the card header, Model Summary with Model Type 'Decoder-only Dense Transformer (Reasoning)', Base Model 'Granite-4.1-30B-Base', Parameters 30B, Context 'Natively Supports 128K (Long-context extension to 512K)', bfloat16 precision, 12 tested languages, and 'Built-in <think>...</think> chain-of-thought'.

Nemotron 3.5 Lightning, le fonceur

L'offre de NVIDIA est d'une forme entièrement différente. Le nom « 30B A3B » signifie 30 milliards de paramètres au total, avec seulement environ 3 milliards d'actifs par jeton — une architecture hybride qui mélange Mamba-2, MoE et attention, ce qui lui permet de générer rapidement et à moindre coût. Il est livré avec un décodage spéculatif intégré : des têtes de prédiction multi-tokens, ainsi que les modèles d'ébauche DFlash et DSpark, de sorte qu'un petit modèle propose des jetons que le modèle principal vérifie en parallèle. NVIDIA revendique une vitesse de sortie jusqu'à 4 fois supérieure à celle de modèles de taille similaire, et le tout fonctionne sur un seul GPU — un RTX 5090, DGX Spark ou Jetson — ou avec un contexte de 256K sur un H100, le modèle prenant en charge jusqu'à 1M de contexte en principe. Sa licence, OpenMDW-1.1, couvre les poids, les données d'entraînement et les recettes.

Le positionnement de NVIDIA est sans détour quant à ce que Lightning n'est pas : une évaluation qu'elle a publiée montrait de faibles performances sur Terminal-Bench en tant qu'agent principal — LLM Stats a vérifié de manière indépendante environ 24.6 sur Terminal-Bench 2.1 — et la recommandation est de l'utiliser comme exécuteur, et non comme planificateur. Ses points forts autodéclarés sont MMLU Pro 81.94, GPQA Diamond 75.44, SWE-Bench Verified 51.56, et PinchBench avec une précision de 86 %, tout en terminant les tâches environ 30 % plus rapidement qu'un Qwen 3.6 35B avec une précision similaire. Tous ces chiffres sont ceux de NVIDIA.

A screenshot of the Hugging Face model card for nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 (captured August 26, 2026) showing the NVIDIA organization header, Total Parameters 30B (3B active), Context Length up to 1M tokens (256K for a single H100 deployment), and License openmdw-1.1.

Le tableau des scores, honnêtement étiqueté

La comparaison utile est la forme de la colonne, pas les valeurs des lignes :

• Granite 4.2 30B — ~29B dense, tous les paramètres actifs ; Apache 2.0 ; 128K natif / 512K étendu ; modes de raisonnement sélectionnables par requête ; SWE-Bench Verified 57,00, Terminal-Bench 2.1 29,24 selon le fournisseur ; le penseur.

• Nemotron 3.5 Lightning — 30B total / 3B actif, MoE hybride ; OpenMDW-1.1 ; contexte de 1M (256K pratique sur un seul H100) ; décodage spéculatif (MTP/DFlash/DSpark) ; SWE-Bench Verified 51,56 rapporté par le fournisseur, ~24,6 Terminal-Bench 2.1 (vérifié par LLM Stats) ; l'exécutant.

A two-column comparison scoreboard titled 'Granite 4.2 30B vs Nemotron 3.5 Lightning — the scoreboard'. Left column Granite 4.2 30B: Params ~29B dense, Context 128K / 512K ext, License Apache 2.0, Architecture dense Transformer, Terminal-Bench 2.1 29.24 (vendor), One GPU yes (quantized). Right column Nemotron 3.5 Lightning: Params 30B / 3B act MoE, Context 1M (256K practical), License OpenMDW-1.1, Architecture hybrid MoE (Mamba-2), Terminal-Bench 2.1 ~24.6 (LLM Stats), One GPU yes (NVFP4). Footer: 'Granite & Nemotron figures vendor-reported; Nemotron Terminal-Bench per LLM Stats.' OrcaRouter logo in the bottom-right corner.

Lisez ces lignes comme NVIDIA le souhaite : la faiblesse de Lightning au Terminal-Bench est une caractéristique de sa conception — il n'est pas censé planifier, il est censé exécuter. Les chiffres de Granite proviennent d'un seul modèle qui prétend faire les deux. Aucun des deux ensembles n'est reproduit de manière indépendante lors de la sortie ; les deux le seront d'ici quelques semaines.

La stack, pas le modèle.

Ces deux modèles sont moins des concurrents que des composants adjacents d'un même système. Un agent a besoin d'un planificateur pour décomposer une tâche et d'un exécuteur pour enchaîner des milliers d'appels d'outils. Granite 4.2 30B tente de regrouper les deux en un seul modèle dense ; Nemotron 3.5 Lightning est explicitement la moitié d'une pile à deux modèles, l'autre moitié étant le modèle de pointe. NVIDIA appelle cette pile NeMo Switchyard ; une couche de routage fait de même avec n'importe quel mélange de modèles hébergés et auto-hébergés.

C'est ici que doit se trouver la note de routage honnête. Aucun des deux modèles n'est sur OrcaRouter — nous ne routons ni Granite 4.2 30B ni Nemotron 3.5 Lightning, et pour les deux, la disponibilité repose sur votre propre matériel ou les canaux du fournisseur. Mais le schéma à deux modèles qu'ils évoquent est exactement ce à quoi sert un DSL de routage : composer un endpoint Granite auto-hébergé pour les passes de raisonnement et un endpoint Lightning auto-hébergé pour les boucles d'exécution, placer un modèle de pointe hébergé devant pour la planification qui nécessite plus de marge, et piloter les trois depuis une seule clé API avec basculement automatique. Vous n'avez pas à choisir entre le penseur et l'exécutant — vous pouvez assembler une pile qui utilise chacun là où il est fort, et laisser le routeur arbitrer.

Lequel en premier ?

Si vous voulez n'avoir qu'un seul modèle, avec un seul codebase et une seule stack de serving, et que vous êtes prêt à lui confier tout le travail de raisonnement et d'exécution, commencez avec Granite 4.2 30B — mais attendez le premier benchmark indépendant avant de vous fier au chiffre de 57.00 sur SWE-Bench. Si vous construisez un agent à haut volume où la plupart des appels consistent en de courtes étapes d'utilisation d'outils et où la latence est le budget, commencez avec Nemotron 3.5 Lightning et laissez un modèle de pointe ou un endpoint Granite faire le raisonnement. Si vous construisez quelque chose de sérieux, la réponse est les deux — une décision qu'une comparaison limitée au seul 30B n'aurait jamais mise en évidence.