Nanbeige4.3-33B vs Nemotron 3.5 Lightning 30B A3B : un enseignant contre un exécuteur

NVIDIA Nemotron 3.5 Lightning 30B A3B tourne à 294,9 jetons de sortie par seconde. Nanbeige4.3-33B n’a aucune vitesse publiée, car personne ne l’héberge. Ces deux faits vous en disent plus sur cette confrontation que n’importe quelle ligne de benchmark : l’un est un produit de débit conçu pour cela, avec une grille tarifaire et un scénario de déploiement sur un seul GPU, et l’autre est un checkpoint dense de 33 milliards de paramètres arrivé sur Hugging Face le 24 octobre 2026 avec une fiche de modèle et aucun fournisseur d’inférence. Tous deux sont de « classe 30B ». Ce ne sont pas le même type d’objet.

La comparaison vaut la peine d’être faite, car les deux s’adressent au même acheteur — quelqu’un qui construit un agent de longue durée devant exécuter de nombreuses petites étapes sans avoir à payer la facture d’un modèle de pointe. La réponse de NVIDIA consiste à réduire le calcul par token. Celle de Nanbeige consiste à créer un modèle plus grand et plus dense, suffisamment performant en travail agentique pour qu’on n’en ait besoin que d’un seul. Ce sont des paris opposés, et les preuves à l’appui de chacun sont de nature très différente.

3,6 milliards de paramètres actifs, c’est tout l’argument

Nemotron 3.5 Lightning 30B A3B est un modèle hybride à mélange d'experts : 31,6 milliards de paramètres au total, 3,6 milliards actifs par token, répartis sur 52 couches — 23 Mamba-2, 23 MoE et 6 d'attention. Il route vers 128 experts et en active 6, plus un expert partagé. C'est cette architecture qui lui permet de maintenir environ 295 tokens par seconde sur un point de terminaison géré, alors qu'un modèle dense de classe 30B se situe généralement dans la plage de 40 à 80.

Nanbeige4.3-33B est dense. Ses 33,1 milliards de paramètres sont tous activés à chaque token. Il n’y a ni routage, ni parcimonie par experts, ni couche Mamba. C’est un choix délibéré, avec une conséquence claire : chaque token coûte environ neuf fois le calcul actif de Lightning, et le modèle nécessite environ 66 Go de poids en BF16 — ou environ 20 Go en 4 bits — résidents avant de générer quoi que ce soit.

Aucune des deux conceptions n’est meilleure dans l’absolu. Les modèles denses ont tendance à être plus simples à affiner et plus prévisibles en qualité ; les modèles creux ont tendance à être moins coûteux et plus rapides à servir à taille nominale égale. La question est de savoir quelle propriété fait défaut à votre charge de travail.

Ce que chaque modèle a été conçu pour faire

NVIDIA positionne Lightning comme la couche d’exécution d’un agent toujours actif — le modèle qui reçoit un plan d’un système plus vaste et enchaîne les appels d’outils, les modifications de fichiers et les étapes dans le navigateur à faible coût. Il est distillé à partir de Nemotron 3 Ultra, est livré avec un décodage spéculatif à prédiction multi-token intégré à l’entraînement préalable, ainsi que des modèles de brouillon distincts, et est optimisé pour les harnais plutôt que pour le chat. Son ensemble de benchmarks publié le reflète : PinchBench 85,4–86, BrowseComp 36,8–36,97, SWE-bench Verified 51,56–52,8, Terminal-Bench 2.1 autour de 23,5–24,6.

Nanbeige4.3-33B est positionné comme un modèle enseignant. La fiche l’indique explicitement : c’est le fleuron de la série 4.3, destiné à être distillé dans des modèles plus petits tels que le Nanbeige4.3-3B non encore publié. Son ensemble de benchmarks est d’ailleurs large — 20 lignes couvrant le codage agentique, le travail collaboratif agentique et le raisonnement — et ses paramètres recommandés sont ceux d’un modèle que l’on exécute soi-même : taille de parallélisme tensoriel de 4, appels d’outils XML, preserve_thinking=true pour l’utilisation d’outils en plusieurs tours.

L’un est un composant dans le système de quelqu’un d’autre. L’autre est un modèle source pour une famille. Ce cadrage explique presque toutes les différences ci-dessous.

Le seul point de référence qu'ils partagent ne peut être soustrait

Les deux cartes annoncent Terminal-Bench 2.1. Nanbeige revendique 80,9. La plage publiée par NVIDIA pour Lightning est d'environ 23,5–24,6. À première vue, cela représente un écart de 56 points, et c'est le chiffre qui sera cité.

Cela ne devrait pas être le cas. Terminal-Bench mesure un modèle au sein d’un échafaudage d’agent, et les deux fournisseurs ne décrivent pas le même échafaudage. La fiche de Nanbeige indique que son exécution de Terminal-Bench 2.1 a utilisé Terminus 2 et que ses modèles ont été évalués au niveau d’effort de réflexion le plus élevé, avec un harnais partagé et des paramètres d’inférence partagés. Les chiffres de NVIDIA proviennent de son propre harnais interne, que l’entreprise elle-même signale comme pouvant différer des résultats de tiers. Un modèle dense de 33B doté d’une boucle favorable et un modèle à 3,6B actifs doté d’une boucle standard peuvent différer de dizaines de points sans que l’un ou l’autre modèle soit mal représenté.

La lecture honnête est directionnelle, pas numérique : Nanbeige revendique des performances agentiques nettement supérieures dans le terminal, et cette affirmation n’est vérifiée d’aucun côté. La même prudence s’applique à GPQA Diamond (Nanbeige 89,5, Lightning 74,3–75,6) et à AA-LCR (Nanbeige 84,0, Lightning 52,0–60,3). Ces écarts sont suffisamment importants pour qu’une partie de la différence relève probablement de capacités réelles plutôt que du harnais. Mais « probablement » fait beaucoup de travail dans cette phrase, et aucun tiers n’a réalisé la comparaison.

Ce qui n’est pas ambigu, c’est la couverture indépendante. Artificial Analysis attribue à Nemotron 3.5 Lightning un score de 13 sur son Intelligence Index. Il n’y a aucune entrée pour Nanbeige4.3-33B. Un modèle a un deuxième avis ; l’autre a une fiche modèle. Cette asymétrie est une information, et elle joue contre le fournisseur dont le tableau est le plus bruyant.

1 M de contexte sur le papier, 256 K en pratique

Artificial Analysis indique que la fenêtre de contexte de Lightning est de 1 million de tokens. La documentation de NVIDIA est plus prudente : 262 144 tokens constituent le plafond pratique sur un seul H100. Les deux chiffres peuvent être exacts — l’architecture prend en charge une fenêtre plus longue, mais le matériel sur lequel vous êtes susceptible de l’exécuter ne peut pas la contenir confortablement.

Les 524 288 tokens de Nanbeige4.3-33B correspondent à une fenêtre entraînée sur un modèle dense, et le coût mémoire du cache KV augmente avec elle. Les recettes vLLM et SGLang de la fiche utilisent une utilisation de la mémoire GPU de 0,8 et une taille de parallélisme tensoriel de 4, ce qui indique que le déploiement prévu ne repose pas sur une seule carte.

Pour le travail d’agent, la différence pratique tient moins au maximum qu’à ce qui survit à une longue exécution. Les couches Mamba hybrides de Lightning sont conçues pour garder un état peu coûteux sur de longues séquences ; l’attention dense de Nanbeige, non. NVIDIA publie aussi AA-LCR à 52,0–60,3, qui est un score de raisonnement sur contexte long, et Nanbeige publie 84,0 sur le même benchmark. Si vous croyez les deux tableaux, le raisonnement sur contexte long de Nanbeige est bien plus fort. Si vous ne croyez que celui administré indépendamment, celui de Lightning est le seul que vous pouvez vérifier.

L’arithmétique de l’hébergement d’un modèle dense de 33B

C'est ici que la comparaison cesse de porter sur la qualité pour porter sur l'utilisation.

Lightning est proposé à 0,06 $ par million de jetons d’entrée et à 0,20 $ par million de jetons de sortie sur un point de terminaison géré. Nanbeige n’a pas de grille tarifaire, car aucun fournisseur ne le déploie ; la fiche le dit sans détour. Pour l’utiliser, vous louez ou achetez des GPU et suivez la recette de parallélisme tensoriel à quatre voies.

Supposons, à des fins purement arithmétiques, que quatre GPU de classe H100 coûtent 2 $ chacun par heure — 8 $ par heure pour le nœud. Pour atteindre le seuil de rentabilité par rapport au prix de sortie de Lightning, ce nœud doit produire 40 millions de jetons de sortie par heure, soit environ 11 100 jetons par seconde en régime soutenu. Un modèle dense de 33 milliards de paramètres sur quatre GPU n’y parviendra pas. Même à un dixième du coût des GPU, le débit au seuil de rentabilité dépasse un millier de jetons par seconde en régime soutenu, ce qui représente une opération de service sérieuse plutôt qu’une expérience annexe.

La conclusion n’est pas que Nanbeige coûte cher. C’est que l’auto-hébergement d’un modèle dense de 33B ne dépasse un exécuteur à 0,20 $ par million de tokens qu’à une utilisation très élevée et très régulière — ou lorsque le travail ne peut pas quitter votre infrastructure, auquel cas la comparaison n’a jamais porté sur le prix. En cas de charge en pics ou de faible volume, le modèle sparse managé l’emporte sur le coût, et de loin, avant même que la qualité n’entre en discussion.

Où un routeur s’intègre dans un système à deux modèles

L’architecture que NVIDIA vend — un planificateur de pointe, un exécuteur bon marché — est de toute façon l’architecture que la plupart des équipes d’agents finissent par adopter. C’est aussi la forme pour laquelle une couche de routage est conçue : notre DSL de routage compose plusieurs modèles en un seul appel afin qu’un planificateur et un exécuteur puissent se trouver derrière un seul point de terminaison, et le basculement automatique empêche un exécuteur en difficulté de se transformer en agent bloqué.

Nous ne proposons pas aujourd’hui le Nemotron 3.5 Lightning 30B A3B ni le Nanbeige4.3-33B, donc il ne s’agit pas d’un argumentaire de disponibilité pour l’un ou l’autre. C’est une note sur l’endroit où se situe le coût d’intégration. Si vous auto-hébergez Nanbeige comme planificateur et appelez un modèle hébergé comme exécuteur, cette séparation gagne à être exprimée sous forme de règles de routage plutôt que codée en dur dans votre application — car le modèle que vous voudrez à chaque emplacement changera avant la fin du trimestre.

Le budget de latence est plus déterminant que le classement

• Si une seule étape d’agent doit renvoyer en moins d’une seconde : Lightning. À 295 tokens par seconde, une réponse de 300 tokens arrive en environ une seconde ; un modèle dense de 33B sur votre propre matériel n’y parviendra pas, et Nanbeige ne propose pas d’option hébergée à laquelle se comparer.

• Si l’étape consiste en une longue passe de raisonnement en tête d’un workflow : les marges revendiquées par Nanbeige sur GPQA, AA-LCR et les lignes agentiques plaident en ce sens — sous réserve de la mise en garde relative au harness ci-dessus.

• Si l’œuvre est en chinois : Nanbeige. Les langues de publication de Lightning sont l’anglais, l’espagnol, le français, l’allemand, l’italien et le japonais.

• Si l'ouvrage est multilingue européen : Lightning. Nanbeige ne répertorie que l'anglais et le chinois.

• Si vous n’avez pas de GPU et aucune envie d’en avoir : Lightning, sans conteste.

• Si les données ne peuvent pas quitter votre réseau : Nanbeige, et la comparaison des coûts devient une décision d’infrastructure plutôt qu’une question de prix des tokens.

La question ouverte

Nanbeige4.3-33B a deux jours et n’a pas encore d’offre de serving. C’est le fait qui permet de dater cet article. Si un fournisseur le prend en charge — et l’affirmation de la fiche selon laquelle aucun ne le fait aujourd’hui est le point à surveiller —, le volet coût de cette comparaison change complètement, car un 33B dense hébergé à un prix par token compétitif saperait tout l’argument en faveur d’un exécuteur sparse plus petit sur les tâches sensibles à la qualité.

D’ici là, la position défendable est étroite. Nemotron 3.5 Lightning 30B A3B est le modèle que vous pouvez déployer dès aujourd’hui, à un prix publié, avec un score indépendant et environ neuf fois moins de calcul par token. Nanbeige4.3-33B est le modèle qui semble le plus capable sur le papier, avec une fenêtre native de 512K et des chiffres agentiques auto-déclarés que personne n’a reproduits. Si votre agent est contraint par la latence et le coût, le choix est déjà fait. Si c’est la qualité qui vous contraint et que vous possédez le matériel, le choix mérite d’être testé — et le test n’a pas encore été réalisé.