Granite Switch 4.1 30B vs Nemotron 3.5 Lightning 30B A3B : Ce que « Switch » signifie dans chaque nom

Ces deux modèles sont de l'ordre de 30B, tous deux ont un mot dans leur nom qui évoque le routage, et ils en font des choses complètement différentes. Granite Switch 4.1 30B — poids sur le Hub depuis le 14 octobre 2026 — commute adaptateurs : un modèle de base dense, deux greffons LoRA activés, chaque token traversant l'intégralité du réseau. Nemotron 3.5 Lightning 30B A3B, que NVIDIA a publié le 11 août 2026, commute experts : une pile hybride Mamba-2 et MoE où seulement environ 3 milliards des 30 milliards de paramètres s'activent par token. Personne n'a réalisé un benchmark comparatif des deux, et cet article ne prétendra pas le contraire. La comparaison réellement utile, c'est ce que chaque conception vous coûte par token et ce qu'elle vous rend en retour.

Bien faire la distinction n’est pas de la pédanterie, car ces noms invitent exactement à la mauvaise inférence. « Switch » dans Granite Switch désigne une couche de commutation légère qui lit des jetons de contrôle dans l’entrée et indique à chaque couche de décodeur quels poids LoRA appliquer sur ce segment de jetons. Il ne s’agit pas d’un routage de type mixture-of-experts et cela ne réduit pas le calcul par jeton d’un seul FLOP. « A3B » dans le nom de NVIDIA est l’inverse : c’est une affirmation explicite sur la très petite portion du modèle qui s’exécute au moment de l’inférence.

Le tableau des scores, dimension par dimension

• Paramètres — Granite Switch 4.1 30B se compose de 29 989 814 272 sur une base de 28 865 728 512 (+3,89 %) ; Nemotron 3.5 Lightning 30B A3B totalise 30B au total avec environ 3B actifs par token.

• Architecture — transformeur dense à décodeur seul, doté de deux adaptateurs LoRA activés, contre un hybride entrelacé de Mamba-2, de MoE et d'attention.

• Calcul par token — passe avant dense complète de 30B contre environ un dixième de cela en paramètres actifs, ce qui est tout l'intérêt du suffixe A3B.

• Contexte — 131 072 tokens sur le checkpoint Switch ; jusqu'à 1 M sur Nemotron Lightning, NVIDIA documentant 256 K comme chiffre pratique sur un seul H100.

• Mode de raisonnement — aucun dans le gabarit de conversation Switch ; un commutateur enable_thinking configurable dans celui de Nemotron.

• Entrée audio — un encodeur vocal 470M intégré au modèle Switch ; aucun du côté NVIDIA.

• Licence — Apache-2.0 versus OpenMDW-1.1. Ce ne sont pas les mêmes documents et les conditions en aval diffèrent ; lisez celle sous laquelle vous distribuez réellement.

• Matériel — la fiche Switch répertorie Transformers et vLLM dans une fenêtre de version étroite ; NVIDIA documente Nemotron Lightning sur un seul H100 ou A100 80 Go, avec une build NVFP4 destinée au déploiement.

Ce que le checkpoint Granite Switch vous apporte réellement

La composition est le produit. Granite Switch 4.1 30B gèle Granite 4.1 30B et attache deux adaptateurs — un rang 16 guardian-core classifieur de sécurité sur les projections d'attention et un rang 64 decision adaptateur sur les sept projections — plus l'encodeur vocal. La sélection de l'adaptateur se fait via le gabarit de chat lorsque vous passez un adapter_name, c'est donc un paramètre de requête, et non un second service.

Ce que cela apporte, c'est une densité de capacités : un verdict de sécurité, une distribution d'options calibrée et une transcription issus d'un seul processus, pour 1,12 milliard de paramètres supplémentaires en plus d'une base que vous alliez charger de toute façon. Il y a six mois, le même projet a livré un checkpoint de préversion avec douze adaptateurs, moyennant un surcoût de 11,68 % ; la version finalisée l'a ramené à deux, à 3,89 %, ce qui, pour IBM, revient à échanger de la couverture contre de la lisibilité. Les dix autres adaptateurs existent toujours et le composeur vous construira un checkpoint avec n'importe quel sous-ensemble.

Les coûts se situent exactement là où on s'y attendrait. Rien dans le mécanisme des adaptateurs ne rend le modèle de base plus rapide, car le modèle de base est dense et intact — chaque token exécute encore l'intégralité du réseau. La chaîne vocale est uniquement en anglais, en minuscules, sans ponctuation et, selon les propres termes d'IBM, non entraînée conjointement avec le modèle de langage, si bien qu'une transcription erronée modifie silencieusement la question à laquelle le modèle répond. Et le checkpoint est livré dans une seule précision, sans version quantifiée officielle, contrairement à un modèle NVIDIA dont la variante NVFP4 recommandée pour le déploiement est présente sur le Hub depuis début août.

Ce que les chiffres de Nemotron mesurent réellement

Le tableau de benchmarks de NVIDIA pour Nemotron 3.5 Lightning 30B A3B est plus complet que celui d'IBM pour le modèle Switch, et il vaut la peine de lire la note de bas de page qui l'accompagne. Les chiffres — MMLU-Pro 81,94, GPQA Diamond 75,44, SWE-bench Verified 51,56, Terminal-Bench 2.1 24,58, PinchBench 85,37, AA-LCR 52,00 en contexte long — sont décrits par NVIDIA comme mesurés dans le cadre de son propre harnais cohérent, avec la réserve qu'ils peuvent différer des chiffres auto-déclarés par d'autres fournisseurs. C'est un cadrage plus honnête que ce que la plupart des fiches parviennent à faire, et cela ne les empêche pas de rester des chiffres déclarés par le fournisseur. NVIDIA a publié les recettes dans NeMo Gym afin que les exécutions soient reproductibles par quelqu'un d'autre, ce qui n'est pas la même chose que si quelqu'un d'autre les avait reproduites.

L'affirmation la plus intéressante est celle qui porte sur la vitesse plutôt que sur la précision. Un modèle de 30B avec 3B de paramètres actifs est un pari : la plupart des travaux agentiques n'ont pas besoin que tout le réseau s'active à chaque token. NVIDIA a d'ailleurs livré le décodage spéculatif en même temps — des têtes de prédiction multi-token, plus les drafters DFlash et DSpark — pour accroître encore le débit. Cela positionne aussi Lightning comme une couche d'exécution sous un planificateur plus grand, plutôt que comme le modèle auquel on pose les questions difficiles. Ce positionnement est celui de NVIDIA, et c'est également la bonne grille de lecture pour le tableau de benchmarks : c'est l'efficacité au niveau des tokens qui se retrouve sur une facture.

Le piège lorsqu’on met ces deux tableaux de scores ensemble

Il existe un chiffre publié pour la capacité phare du modèle Switch — l'Indice de décision, édition v0.3, sous-ensemble public rapide de 1 068 lignes, Global 50,1, avec Connaissance 32,4, Langue 58,6, Récupération 49,8, Outils 76,5 et Arts 26,4 — et il existe un tableau de référence complet pour Nemotron Lightning. Placer 50,1 à côté de 81,94 ou de 51,56 serait une erreur de catégorie de la plus pure espèce.

L'indice Decision Index évalue la qualité avec laquelle le adaptateur de décision classe un ensemble fixe d'options étiquetées. Ce n'est pas une mesure de la qualité de conversation ou de raisonnement du modèle de base, et le modèle de base n'est pas modifié par l'adaptateur. Le tableau de Nemotron évalue l'ensemble du modèle sur les connaissances, le raisonnement, le codage et le contexte long. Des axes différents, des harnais différents, des auteurs différents, et aucun benchmark commun entre eux. Les deux sont déclarés par le fournisseur. Aucun n'est comparable à l'autre, et la seule chose honnête à faire avec ce duo est de refuser de les soustraire.

Ce que vous pouvez légitimement faire, c'est lire la forme de chacun. Le score de 76,5 du Decision Index sur Tools contre 26,4 sur Arts indique que l'adaptateur vaut la peine d'être utilisé pour les décisions de sélection d'outils et ne doit pas être considéré comme fiable pour la classification en domaine ouvert sans votre propre évaluation. Le score de 51,56 de Nemotron sur SWE-bench Verified, contre un meilleur score de 70,12 dans le même tableau, vous indique qu'il n'est pas l'agent de codage le plus performant de son propre ensemble de comparaison — NVIDIA a placé le score plus élevé d'un concurrent dans son propre tableau, ce qui est au moins un signal qui mérite d'être respecté.

Lequel, pour quoi

Si votre problème est une longue boucle d'agent exécutant des milliers de brèves décisions d'outil, l'économie des paramètres indique une direction : un MoE à 3B actifs sur un seul GPU accomplira ce travail à une fraction du coût par token d'un modèle dense de 30B, et le modèle Switch n'a aucun mécanisme pour combler cet écart, car son « switch » ne réduit jamais le calcul. Ajoutez le contexte de 1 M et l'option de raisonnement, et le modèle de NVIDIA est tout simplement conçu pour cette charge de travail.

Si votre problème est un seul processus qui doit répondre à un utilisateur, émettre une décision de routage calibrée et transcrire ce que l’utilisateur a dit, l’arithmétique s’inverse. Nemotron 3.5 Lightning n’a pas de tête de décision ni de chemin audio du tout, et demander à un modèle de chat de bien vouloir répondre par une seule lettre ne constitue pas une distribution calibrée. Granite Switch 4.1 30B vous fournit les trois à partir d’un seul point de contrôle pour moins de 4 % de poids supplémentaires par rapport à sa base, et c’est une capacité que vous ne pouvez pas acheter en choisissant un meilleur modèle.

Le troisième cas honnête est le plus courant : vous ne choisissez pas du tout entre ceux-ci. Les deux sont des artefacts auto-hébergés, les deux sont sous Apache-2.0 ou OpenMDW-1.1 plutôt qu’un point de terminaison hébergé, et aucun n’a été évalué de manière indépendante. Granite Switch 4.1 30B a deux jours et un seul chiffre publié ; Nemotron 3.5 Lightning a deux mois, avec un tableau de fournisseur et des recettes publiées. Ce n’est pas suffisant pour planifier une migration.

Obtenir une vraie réponse sans migration

Aucun des deux modèles ne figure aujourd’hui au catalogue d’OrcaRouter, donc les deux impliquent votre propre matériel et les canaux de publication propres au fournisseur — ceux d’IBM pour le checkpoint Switch, ceux de NVIDIA pour Lightning. Dire le contraire reviendrait à inventer un point de terminaison.

Là où la plateforme mérite sa place, c'est qu'un candidat doit être peu coûteux à tester. Une seule clé couvre plus de 200 modèles avec bascule automatique et répercute le prix catalogue du fournisseur sans aucune marge, donc lorsqu'une route hébergée vers l'un ou l'autre modèle apparaît, la placer à côté du modèle déjà en production relève d'un changement de configuration plutôt que d'un cycle d'approvisionnement. Face à deux modèles open-weight de 30B qui semblent tous deux raisonnables sur le papier et qu'aucune personne extérieure au fournisseur concerné n'a mesurés, la décision qui compte n'est pas de savoir à quelle fiche vous croyez. C'est à quel point vous pouvez le découvrir à moindre coût.

L'essentiel

Granite Switch 4.1 30B et Nemotron 3.5 Lightning 30B A3B partagent un nombre de paramètres et presque rien d’autre. L’un est une base dense avec des adaptateurs commutables qui vous offre trois tâches par processus avec un calcul dense complet par token ; l’autre est un hybride creux conçu pour rendre chaque token aussi peu coûteux que possible et pour exécuter une longue boucle sur un seul GPU. Choisissez selon la forme de la charge de travail, pas selon un tableau de benchmarks — et si vous ne retenez qu’une chose de ceci, retenez la correction dans les noms : la commutation d’adaptateurs vous offre de la capacité, la sparsité des experts vous offre du débit, et aucun modèle ici ne vous offre les deux.