
Nemotron-Labs-Sigma-distill-8B-nfe4 vs Nemotron 3.5 Lightning 30B A3B : deux lancements NVIDIA qui ne se concurrencent jamais
- GoogleNOUVEAUGoogle: Gemini 4 Carbon2026-11-10$2.00 / $10.00 par million de tokens · 90 tok/s
- AnthropicNOUVEAUAnthropic: Claude Fable 5.22026-11-09$8.00 / $40.00 par million de tokens · 97 tok/s
- orcaNOUVEAUOrca: OrcaC2 1.02026-11-0717 tok/s
- OrcaNOUVEAUOrcaCyber: GLM 5.3 Abliterated / Uncensored2026-11-04$3.00 / $5.00 par million de tokens · 88 tok/s
- OrcaNOUVEAUOrcaCyber: Hy4 Abliterated / Uncensored2026-11-04$0.80 / $1.60 par million de tokens · 133 tok/s
- OrcaNOUVEAUOrcaCyber: Kimi K3.1 Pro Abliterated / Uncensored2026-11-04$4.00 / $20.00 par million de tokens · 72 tok/s
- OrcaOrcaCyber: MiniMax M3.1 Flash Abliterated / Uncensored2026-10-29$0.80 / $1.60 par million de tokens · 127 tok/s
- OrcaOrcaCyber: GLM 5.3 Flash Abliterated / Uncensored2026-10-27$0.80 / $1.60 par million de tokens · 65 tok/s
- OrcaOrcaCyber: Qwen3.8 Flash Next Abliterated / Uncensored2026-10-26$0.80 / $1.60 par million de tokens · 92 tok/s
- OrcaOrcaCyber: MiMo V2.6 Flash Abliterated / Uncensored2026-10-26$0.80 / $1.60 par million de tokens · 44 tok/s
- MoonshotMoonshotAI: Kimi K3.1 Pro2026-10-2447Intelligence
- OrcaOrcaCyber: DeepSeek V4.1 Flash Abliterated / Uncensored2026-10-23$0.80 / $1.60 par million de tokens · 193 tok/s
- minimaxMiniMax: M3.1 Flash2026-10-1929Intelligence
- OrcaOrca: OrcaCyber Ultra 1.02026-10-17$5.00 / $10.00 par million de tokens · 146 tok/s
- deepseekDeepSeek: DeepSeek V4.1 Flash 10172026-10-1733Intelligence
- DeepSeekDeepSeek: DeepSeek V4.1 Flash2026-10-1740Intelligence
- OrcaOrca: OrcaCyber Zero 1.52026-10-10$3.00 / $7.50 par million de tokens · 124 tok/s
- openaiOpenAI: GPT-6.1 Sol2026-09-2955Intelligence
- anthropicAnthropic: Claude Sonnet 5.52026-09-2855Intelligence
- typesafeTypeSafe: Jev 1.132026-09-24$0.04 / $0.00 par million de tokens · 218 tok/s
Mettez Nemotron-Labs-Sigma-distill-8B-nfe4 et Nemotron 3.5 Lightning 30B A3B dans la même phrase, et l’instinct est de demander lequel est le plus intelligent. Cette question n’a pas de réponse, et ce n’est pas parce que les données sont rares — mais parce que les deux modèles ne partagent ni benchmark, ni longueur de contexte, ni pile de service, ni processus de publication. Nemotron-Labs-Sigma-distill-8B-nfe4 est un modèle de diffusion continue de 8B que NVIDIA a publié le 12 novembre 2026 sans annonce et qui a été téléchargé cinq fois. Nemotron 3.5 Lightning 30B A3B est un mélange d’experts hybride Mamba-2 et attention de 30B au total et 3B actifs, lancé en août avec une fiche modèle, un point de terminaison build.nvidia.com et 962 098 téléchargements le mois dernier. La comparaison utile n’est pas un score. C’est de savoir lequel on peut réellement mettre devant un utilisateur, et pour quoi faire.
Les deux cartes décrivent des produits différents, et non des niveaux différents.
Lisez les sections de cas d’usage côte à côte, et l’écart cesse de porter sur la capacité. La fiche de Sigma-distill indique qu’il est destiné à « la recherche sur la génération sensible à la latence, les études de décodage spéculatif et parallèle, et l’expérimentation orientée déploiement », et précise que le modèle « s’exécute hors ligne sur le matériel de l’utilisateur ; NVIDIA n’héberge aucun service ». La fiche de Lightning renvoie à un point de terminaison compatible OpenAI à l’adresse integrate.api.nvidia.com, à un tag de conteneur vLLM, à une paire d’échantillonnage recommandée avec temperature 1.0 et top_p 0.95, à une bascule du mode réflexion dans le gabarit de conversation, et à trois points de contrôle de brouillon distincts pour le décodage spéculatif.
L'un est un fichier. L'autre est un service avec un fichier derrière. Cette différence conditionne presque tout le reste dans cet article :
• Paramètres — 8B en dense (9,03B dans le recensement des safetensors une fois la tête de lecture auxiliaire comptée) contre 30B au total, avec 3B actifs par token.
• Architecture — décodeur de style Ministral avec une tête de diffusion continue à 16 dimensions, contre des couches Mamba-2, MoE et d’attention sélective entrelacées dotées de têtes de prédiction multi-token.
• Contexte — 4 096 tokens pour le prompt et la sortie combinés, contre jusqu'à 1 000 000, avec la réserve qu'un seul H100 n'atteint qu'environ 256 000 et que le million complet nécessite huit H100, un GB200 ou un B200.
• Langues — anglais uniquement vs anglais plus langages de programmation, espagnol, français, allemand, italien et japonais, avec le chinois en post-entraînement.
• Format de la publication — uniquement une fiche modèle et les poids, aucun point de terminaison fournisseur, aucune annonce associée à un point de terminaison hébergé, une version de référence BF16, une version NVFP4, et trois modèles de brouillon pour le décodage spéculatif.
• Téléchargements au cours des trente derniers jours — cinq contre 962 098 pour le seul dépôt BF16, sans compter 901 381 pour la version NVFP4.
• Licence — NVIDIA Nemotron Open Model License pour les deux, bien que la fiche de Lightning la nomme OpenMDW-1.1.
Il n’existe pas de référentiel commun, donc il n’y a pas de score.
C’est le point que la plupart des pages de comparaison passeraient sous silence. La fiche de Sigma-distill rapporte GSM8K, MATH (Minerva), HumanEval, HumanEval+, MBPP et MBPP+ sur dix graines avec deux erreurs standard, ainsi qu’une moyenne de 66,36 sur six tâches. La fiche de Lightning rapporte MMLU Pro, GPQA Diamond, HLE, SciCode, SWE-bench Verified, SWE-bench Multilingual, Terminal-Bench 2.1, PinchBench, BrowseComp, τ³-bench Banking, GDPval-AA-V2, IFBench, AA-LCR et AA-Omniscience. L’intersection est vide. Aucun benchmark n’apparaît sur les deux fiches.
Ce n’est pas un hasard de reporting. Les deux évaluations testent délibérément des choses différentes. Les six tâches de Sigma sont du raisonnement à réponse courte et de la complétion de code sur quelques centaines de tokens ; celles de Lightning sont l’ingénierie logicielle agentique, la recherche en contexte long et les connaissances professionnelles. Un modèle doté d’une fenêtre de 4 096 tokens et sans gabarit de chat ne peut pas passer le harnais SWE-bench, et on ne pose pas de questions GPQA à un modèle entraîné à terminer le corps d’une fonction.
Donc, la seule ligne honnête à tracer est celle-ci : sur ses propres six tâches, Sigma-distill nfe4 obtient en moyenne 66,36 sur dix graines, ce qui est un vrai chiffre selon un vrai protocole, et cela ne dit rien de ce qu’il ferait sur tout ce sur quoi Lightning a été mesuré. Quiconque vous dit que l’un bat l’autre ne compare rien.

La vitesse est le point où la comparaison devient intéressante — et où elle reste en suspens.
Les deux modèles sont rapides de façons qu’il est difficile de ramener à un seul axe, et c’est le seul endroit où la comparaison a un véritable contenu.
Sigma-distill génère 32 tokens par bloc en exactement 4 évaluations de débruitage plus une lecture. Cinq passes avant, 32 tokens : 6,4 tokens par passe avant. Comme le nombre d’étapes est fixé par l’entraînement, ce ratio ne varie ni avec la longueur du prompt ni avec celle de la sortie — c’est une constante, et le code d’inférence de la fiche refuse de vous laisser le modifier. La fiche du modèle parent indique 120–140 tokens par seconde sur un H100 à 32 étapes par bloc de 64 tokens ; la variante distillée ne publie aucun chiffre de tokens par seconde, de sorte que l’arithmétique des 6,4 fois moins de passes ne constitue pas un débit mesuré.
Lightning emprunte l’autre voie. C’est un MoE à 3B actifs, donc chaque passe avant est peu coûteuse, et NVIDIA livre DSpark comme choix par défaut recommandé pour le décodage spéculatif, avec DFlash et ses propres têtes de prédiction multi-token comme alternatives. Ses chiffres de débit ne figurent pas non plus sur la fiche en tokens par seconde — mais ses téléchargements et sa recette de déploiement indiquent qu’il a tourné en production, ce qui n’est pas le cas de Sigma.
La distinction qui compte : l’accélération de Sigma est structurelle et constante par token, tandis que celle de Lightning est spéculative et dépend de la charge de travail. Un contrat fixe de 5 appels pour 32 tokens est prévisible d’une manière que les taux d’acceptation des drafts ne sont jamais. Il est aussi impossible à mesurer aujourd’hui, car personne n’a publié le moindre chiffre de débit pour le checkpoint nfe4.
Ce que chacun vous coûte à faire tourner
Sigma-distill représente 18,06 Go de poids bfloat16 répartis sur quatre shards, chargés via du code PyTorch eager issu du dépôt lui-même avec trust_remote_code, sur un GPU CUDA, sans paged attention, sans continuous batching et sans version quantifiée dans la collection. Il n’y a pas de tarif par token puisqu’il n’y a pas de point de terminaison : la fiche NVIDIA indique que le modèle s’exécute sur votre matériel et que NVIDIA n’héberge aucun service.
Lightning a la forme opposée. Les poids BF16 comptent 31,6 B de paramètres ; la recommandation de production de NVIDIA elle-même est d’utiliser plutôt la version NVFP4, et sa carte est livrée avec une recette vLLM (tag de conteneur vllm/vllm-openai:v0.27.1) avec backend Mamba FlashInfer, cache SSM FP16 et mise en cache de préfixes, ainsi qu’une image SGLang pour Hopper et Blackwell. Il n’y a pas de prix catalogue sur la carte ni sur build.nvidia.com — le point de terminaison relève des conditions d’essai de l’API de NVIDIA — mais des plateformes tierces indiquent le modèle à environ 0,05 $ par million de jetons d’entrée et 0,20 $ par million de jetons de sortie. Ce chiffre est un constat de place de marché, pas un prix fournisseur.
Aucun des deux modèles ne figure au catalogue d'OrcaRouter, et il serait malhonnête de laisser entendre le contraire. Ce qui est disponible chez OrcaRouter, c'est l'ensemble de comparaison qui l'entoure : plus de 200 modèles derrière une seule clé, le prix catalogue du fournisseur répercuté sans marge, si bien qu'une baisse de prix en amont apparaît le jour même plutôt que lors d'une révision trimestrielle de la grille tarifaire. Si la raison pour laquelle vous lisez ceci est que vous devez choisir une référence à laquelle comparer Sigma, c'est de là que vient cette référence.
Choisissez selon l’enveloppe, et non selon le score.
Quatre questions permettent de démêler cela en moins d’une minute, et aucune d’entre elles ne concerne la précision des benchmarks :
• La tâche tient-elle dans 4 096 tokens ? Si ce n’est pas le cas, Sigma-distill est hors jeu et la question est réglée. La fenêtre d’un million de tokens de Lightning — 256K sur un seul H100 — est trois ordres de grandeur plus grande.
• La tâche nécessite-t-elle une conversation, des outils ou une sortie structurée ? Sigma-distill n’en propose rien : pas de gabarit de conversation, pas d’invite système, pas de mode JSON, les chaînes d’arrêt et un budget de tokens comme seuls mécanismes d’arrêt. Lightning fournit un gabarit de conversation avec une option de réflexion activable.
• Devez-vous traiter plus d’une requête à la fois ? Sigma n’a pas de pile de service — la voie prise en charge est un script Python sur un seul GPU. Lightning dispose de deux intégrations de moteur et d’une recette de parallélisme publiée.
• Votre intérêt porte-t-il sur le mécanisme de décodage lui-même — la diffusion par blocs, la distillation en quelques étapes, l’auto-spéculation ? Alors Sigma-distill est le seul des deux qui soit intéressant, et Lightning est une comparaison totalement inadéquate.
Tout le reste découle de ces quatre points. Une équipe qui évalue Sigma pour un produit demande en réalité si un checkpoint de recherche peut être transformé en service ; une équipe qui évalue Lightning demande si un MoE hybride à 3B de paramètres actifs tient dans un budget. Ce sont des conversations différentes.
Là où l’affrontement deviendrait réalité
Deux choses feraient de cette page un véritable face-à-face, et aucune des deux n’existe encore.
Le premier est un benchmark commun. Si Sigma obtient un jour un score MMLU Pro ou GPQA, ou si Lightning obtient un jour un score GSM8K ou HumanEval avec un format de prompt comparable, il y aura matière à comparaison. D’ici là, la position honnête est celle ci-dessus : deux suites d’évaluation disjointes rapportées par le même fournisseur, sur des modèles qui ne peuvent pas passer les tests l’un de l’autre.
Le deuxième est un chemin de service. Sigma-distill est actuellement un dépôt que l’on clone et un script que l’on exécute ; les pull requests SGLang qui mentionnent la diffusion Nemotron ciblent la lignée plus ancienne Nemotron-Labs-Diffusion-8B et sont toujours ouvertes au 17 novembre, et le registre de vLLM ne comporte aucune architecture nemotron_labs_sigma. Dès qu’un modèle de diffusion par blocs à nombre d’étapes fixe bénéficie de l’attention paginée et du batching, son avantage de 6,4 tokens par passe devient un chiffre que l’on peut placer à côté d’un taux d’acceptation du décodage spéculatif — et cette comparaison mériterait d’être publiée.

D’ici là, la lecture pratique est que NVIDIA a publié deux modèles pour deux publics au cours du même automne, et que seul l’un d’eux était un produit. Lightning est celui que l’on peut appeler dès aujourd’hui, avec le comportement de cache, la fenêtre de contexte et la prise en charge par le moteur qu’implique un service. Sigma-distill est celui que l’on télécharge si l’on veut savoir si la diffusion continue à 8B peut tenir 66,36 sur six tâches avec cinq passes avant par 32 tokens — une question de décodage, pas de capacité, et à laquelle aucune comparaison avec un MoE de 30B ne répondra.

