Nemotron 3.5 Bolt vs Nemotron 3 Ultra : qu’est-ce qui survit à une compression de 7,4 fois ?

Deux modèles du même fournisseur, séparés par un facteur de 7,4 en nombre de paramètres et par environ deux ordres de grandeur en ce qui concerne le matériel nécessaire pour les exécuter. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB est sorti le 15 octobre 2026 sous la forme d’un fichier de 24 Go qui s’exécute aux côtés de vos autres applications sur un appareil Spark ou un GPU Blackwell. NVIDIA Nemotron 3 Ultra 550B-A55B est disponible sur Hugging Face depuis le 3 juin 2026 et nécessite au minimum seize H100 en BF16.

La question intéressante n’est pas de savoir lequel est le plus fort — la réponse est évidente et sans appel. C’est ce qui survit précisément lorsque l’on compresse un grand modèle dans une petite enveloppe mémoire, car cela vous dit quelles charges de travail le petit peut absorber et lesquelles le mettront en difficulté. La note de recherche de NVIDIA répond directement à une partie de cette question, et les parties auxquelles elle ne répond pas sont là où se joue la vraie décision.

Ils ne sont pas parent et enfant, quoi qu'en suggère la dénomination.

L'hypothèse évidente est que Bolt est un Ultra réduit. Ce n'est pas le cas, et bien comprendre cela change ce que vous attendez du fichier. Nemotron 3.5 Lightning, le palier 30B-A3B du 11 août 2026, a été distillé à partir d'Ultra. Bolt ne l'a pas été. Bolt est compressé à partir de Nemotron 3.5 Super VL, un modèle vision-langage 120B-A12B, à l'aide d'une recherche guidée par routeur que NVIDIA appelle Star Elastic, suivie d'une distillation tenant compte de la quantification jusqu'à 2,0625 bits par poids d'expert dans un format IQ2_XXS.

Cette lignée explique la seule différence qui compte plus que n’importe quelle ligne de benchmark : Bolt possède un encodeur visuel C-RADIO v4-H et accepte les images et la vidéo. Ultra, c’est du texte en entrée, du texte en sortie, et ce n’est pas une lacune de reporting — le checkpoint n’a aucune tour de vision à évaluer. Le modèle plus petit, plus récent et fortement quantifié voit ; le plus grand modèle de raisonnement de la famille, lui, ne voit pas.

Ce que la compression a gardé

Bolt embarque 74 milliards de paramètres, dont 9 milliards actifs par token, sur une architecture hybride Mamba-2 et Transformer. Ultra embarque 550 milliards de paramètres, dont 55 milliards actifs. Le rapport de paramètres actifs est de 6,1 pour 1, et le rapport de paramètres totaux est de 7,4 pour 1, ce qui signifie que la compression a retiré proportionnellement plus de capacité totale que de calcul par token — le modèle a perdu en largeur plus vite qu'il n'a perdu en profondeur.

Ce que cela produit, au vu des éléments disponibles :

• Intelligence indépendante — Artificial Analysis attribue à Nemotron 3.5 Bolt un score de 21 sur son Intelligence Index, quatrième sur 67 dans sa classe filtrée par empreinte, contre une médiane de classe de 8. Ultra n'appartient pas à la même classe et obtient un score bien plus élevé sur la même version de l'Intelligence Index. C'est le coût mesurable de la compression.

Vitesse indépendante — Artificial Analysis mesure l’Ultra à 156,1 tokens de sortie par seconde, soit dixième sur 74 modèles de cette page et dans sa tranche de vitesse la plus élevée. Pour le Bolt, les mêmes champs affichent N/A, car il n’existe aucun point de terminaison hébergé à appeler. Les chiffres de NVIDIA elle-même — 84 tokens par seconde sur AIPerf SPEED-Bench sur RTX Spark, 83,99 dans llama.cpp sur un Surface Laptop Ultra — sont déclarés par le fournisseur et non reproduits.

• Suivi d’instructions — Ultra obtient 82,9 sur IFBench. C’est la ligne à surveiller chez un agent qui doit obéir à une longue politique d’outils, et c’est le genre de capacité que la distillation consciente de la quantification préserve de manière inégale.

• Raisonnement à long contexte — Ultra obtient 75,2 sur AA-LCR face à une spécification de 1 M de tokens. La fenêtre publiée de Bolt est de 262 144 tokens, partageant 24 Go avec le cache KV, les images et la conversation. Une fenêtre déclarée large et la capacité de l’utiliser sont deux propriétés distinctes ; ici, le modèle le plus grand possède davantage de ces deux atouts.

• Retenue factuelle — Ultra affiche 22,1 en hallucination AA-Omniscience avec 77,91 en non-hallucination. La propre fiche de Bolt indique 61,27 en non-hallucination, la seule ligne où il perd face au bien plus petit Nemotron 3.5 Lightning. Deux signes indépendants pointant dans la même direction : c'est ici que la compression agressive en 2 bits coûte le plus cher, et aucune astuce de routage ne répare un modèle qui invente davantage.

L’enveloppe de déploiement, qui est l’endroit où les deux se séparent effectivement.

C'est la partie de la comparaison qui ne se réduit pas à un score.

Mémoire — Bolt est un artefact unique de 24 Go, déjà quantisé, destiné à coexister avec un navigateur et un IDE sur une seule machine. Ultra en BF16 exige seize H100, huit H200 ou huit nœuds de classe GB200 d’après sa propre fiche modèle ; la version NVFP4 ramène cela à huit H100 au minimum. La différence entre ces deux phrases est la différence entre un bon de commande et un programme d’approvisionnement.

• Configuration du contexte — Bolt prend en charge 262 144 jetons directement dans sa recette vLLM publiée. Les recettes d’Ultra sont définies par défaut à 256 K et nécessitent un indicateur d’environnement pour atteindre la totalité des 1 048 576, c’est pourquoi le panneau indique 262 K pour Ultra malgré une spécification de 1 M. Lisez la spécification, puis lisez la recette.

• Pile de service — Bolt s’exécute sous vLLM sur Ampere, Hopper et Blackwell, ou sous llama.cpp sur le matériel RTX Spark et DGX Spark, sous la licence OpenMDW-1.1 qui autorise l’usage commercial. Ultra s’exécute sous la même licence sur du parallélisme de classe datacentre. Tous deux sont à poids ouverts ; un seul d’entre eux est portable.

• Coût du prompt — Ultra est facturé 0,60 $ par million de jetons d'entrée et 2,50 $ par million de jetons de sortie, avec une remise de 73 % sur le cache, ce qui revient à environ 0,60 $ pour exécuter une tâche de l'Intelligence Index — vraiment bon marché pour un modèle de cette taille, et disponible parce que quelqu'un d'autre exploite le cluster. Bolt n'a aucun prix : pas de point de terminaison hébergé, pas d'API de fournisseur, pas de grille tarifaire, et N/A dans les champs vitesse et coût du seul panel indépendant qui le répertorie.

Lire l'annonce pour ce qu'elle dit et ne dit pas

Le checkpoint de Bolt était sur Hugging Face depuis le 7 octobre 2026, avec seulement une carte de modèle jointe. L’annonce du fournisseur qui le nomme — aux côtés d’un frère de 4 Go, Nemotron 3.5 Bolt E4B, destiné aux personnages de jeu et daté du 23 octobre — est arrivée le 15 octobre. Publier les poids huit jours avant le texte n’est pas inhabituel, mais cela signifie qu’une semaine du dossier public ne contient aucune explication du modèle, et que tout compte rendu rédigé dans cet intervalle ne s’appuyait que sur la carte.

L'annonce est aussi l'endroit où chercher ce qui est absent. Il n'y a pas de point de terminaison hébergé, pas d'API, pas de grille tarifaire, pas de plateforme tierce mesurant Bolt — et aucun benchmark indépendant exécuté sur les poids de 24 Go par qui que ce soit. Les chiffres du fournisseur sont réels et précis, obtenus avec llama.cpp sur un Surface Laptop Ultra avec 128 Go ; ils n'ont simplement pas été reproduits en dehors de NVIDIA.

Où va chaque modèle, et où va un routeur

Aucun de ces deux modèles ne figure au catalogue d'OrcaRouter. Nous n'hébergeons aucun checkpoint NVIDIA, il n'existe pas de point de terminaison Bolt ni de point de terminaison Ultra, et rien ici ne constitue une offre de servir l'un ou l'autre. Ce qu'un point de terminaison unique apporte réellement, si vous en exécutez un ou les deux vous-même, c'est un moyen de garder les moitiés locale et hébergée d'un flux de travail sous une seule clé — les plus de 200 modèles de notre catalogue se trouvent derrière une seule clé API et une seule facture, au prix catalogue de chaque fournisseur, répercuté avec 0 % de marge ajoutée, de sorte qu'un changement de prix d'un fournisseur est effectif de notre côté le jour même plutôt qu'à la prochaine reconduction. Une requête qui a besoin d'une fenêtre complète d'un million de tokens ou d'un raisonneur à l'échelle du frontend part vers un modèle hébergé ; le fichier local conserve le travail à fort volume et sensible pour la confidentialité qui n'aurait jamais dû quitter les locaux. Le basculement automatique fait qu'un service amont dégradé déplace la requête au lieu de la faire échouer.

Le positionnement découle des calculs de déploiement plutôt que des scores. Bolt a sa place sur une station de travail lorsque les données ne peuvent pas circuler, lorsque la charge de travail comporte une forte composante vidéo, ou lorsque le volume fait de la facturation par token le poste de coût dominant — et lorsqu’une fenêtre de 262K et un écart de retenue factuelle déjà visible sont acceptables. Ultra a sa place sur un point de terminaison facturé à l’usage lorsque le travail nécessite une portée d’un million de tokens, le suivi d’instructions le plus solide de la famille, et le taux d’hallucination le plus faible que NVIDIA publie actuellement.

Qui devrait agir, et qui devrait attendre

Agissez maintenant si la charge de travail est locale et comporte de la vidéo : Bolt est le seul modèle de cette famille qui à la fois tient dans 24 Go et sait voir, et aucun autre checkpoint ouvert à cette empreinte n’obtient 21 sur l’indice indépendant. Agissez maintenant si la charge de travail est du raisonnement textuel à long contexte en volume : Ultra est facturé à l’usage, mesuré, et moins cher par tâche de l’Intelligence Index qu’un modèle de sa taille n’a le droit de l’être.

Attendez : si votre décision repose sur le débit. La vitesse de Bolt est la seule dimension pour laquelle il n’existe aucune mesure indépendante, nulle part, et pour un modèle déployé localement, la vitesse est ce que vous ressentez à chaque seconde de chaque journée. Une seule mesure de latence effectuée par un tiers sur les poids de 24 Go trancherait davantage que les dix prochaines lignes de benchmarks de fournisseurs — et tant qu’elle n’existe pas, la planification de capacité pour Bolt revient à planifier autour d’une affirmation.