Nemotron 3.5 Bolt vs GPT-5.6 Sol : L'un de ces deux modèles a un prix

On ne peut pas comparer ces deux modèles sur le coût, et c'est précisément ce qui rend cette comparaison si utile. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB est un fichier de 24 Go : téléchargez-le, et le prix marginal du millionième token, c'est l'électricité. GPT-5.6 Sol est un modèle phare hébergé, facturé 4,00 $ par million de tokens d'entrée et 20,00 $ par million de tokens de sortie, avec un temps jusqu'au premier token p50 publié de 1,63 seconde et 535,5 millions de tokens de trafic au cours des sept derniers jours. L'un des deux dispose d'une grille tarifaire. L'autre exige un prérequis matériel, ce qui est un tout autre type de facture, qui n'arrive qu'une seule fois.

Les deux modèles sont bien réels et tous deux sont en cours de déploiement. Le checkpoint Nemotron 3.5 Bolt 74B-A9B 24GB de NVIDIA est resté sur Hugging Face depuis le 7 octobre 2026 sans rien d'autre qu'une fiche de modèle qui y soit attachée, et l'annonce par le fournisseur lui-même de la gamme Bolt a suivi le 15 octobre — huit jours plus tard, dans un article qui cite à la fois ce modèle et un modèle frère de 4GB. GPT-5.6 Sol figure sur la grille tarifaire d'OpenAI depuis le 9 juillet 2026. Si vous devez choisir entre eux cette semaine, la décision ne porte pas sur celui qui est le plus intelligent. Elle porte sur la question de savoir si la charge de travail peut quitter votre machine.

Ce que mesure l'écart de vingt et un contre cinquante-neuf

Artificial Analysis attribue à Nemotron 3.5 Bolt 74B-A9B un score de 21 sur son Intelligence Index, ce qui le classe quatrième sur 67 modèles dans la classe de comparaison dans laquelle il est placé. GPT-5.6 Sol se situe dans la fourchette haute des cinquante sur la même version de l’indice. Un écart d’environ quarante points est énorme, et formulé ainsi, il clôt le débat avant même qu’il ne commence.

L’écart correspond aussi à deux mesures différentes sous un même chiffre. Le 21 est le meilleur score qu’un modèle à poids ouverts ait atteint pour cette empreinte — Artificial Analysis situe la médiane des modèles à poids ouverts comparables à 8, et note que Bolt se classe « parmi les modèles les plus performants en intelligence lorsqu’on le compare à d’autres modèles à poids ouverts de taille similaire ». Le chiffre d’environ 59 est ce que produit un laboratoire de pointe lorsque la mémoire n’est pas une contrainte. Aucun des deux chiffres n’est faux. Ils répondent à des questions différentes : quelle quantité d’intelligence tient dans 24 Go, et quelle quantité d’intelligence l’argent peut acheter.

Ce que le panel n’a pas pu mesurer est plus intéressant que ce qu’il a pu mesurer. La page Artificial Analysis consacrée à Bolt indique la vitesse comme N/A et le coût par tâche de l’Intelligence Index comme N/A, pour la simple raison qu’il n’existe aucun point de terminaison hébergé à appeler. Chaque chiffre de vitesse existant pour ce modèle provient des propres bancs d’essai de NVIDIA : la note de recherche énonce un objectif de conception d’au moins 80 tokens par seconde en décodage et rapporte 84 tokens par seconde sur l’AIPerf SPEED-Bench sur RTX Spark, avec 83,99 tokens par seconde lors d’une exécution de llama.cpp sur un Surface Laptop Ultra doté de 128 Go. Ces chiffres sont peut-être parfaitement exacts. Personne en dehors de NVIDIA ne les a reproduits, et vous devriez les considérer comme une affirmation du fournisseur tant que quelqu’un ne l’a pas fait.

Là où le modèle hébergé est structurellement en avance

Trois différences ne concernent pas du tout l’intelligence, et chacune disqualifie le fichier local pour une catégorie de travaux.

• Contexte — GPT-5.6 Sol dispose d'une fenêtre de 1 050 000 jetons avec une sortie maximale de 128 000 jetons ; Nemotron 3.5 Bolt va jusqu'à 262 144 jetons. Une fenêtre quatre fois plus large n'est pas un luxe lorsqu'il s'agit de traiter un dépôt ou une archive de contrats en une seule requête. La fenêtre de Bolt doit en outre partager 24 Go avec le cache KV, les images, les images vidéo et l'historique de conversation, ce qui signifie que le plafond pratique est atteint plus tôt que ne le suggère la spécification.

• Types d'entrée — GPT-5.6 Sol accepte le texte, les images et les fichiers ; Nemotron 3.5 Bolt accepte le texte, les images et la vidéo et renvoie du texte. C'est un véritable atout pour Bolt sur la vidéo et une véritable lacune sur les documents, car un PDF transmis sous forme de fichier n'a pas besoin d'être rastérisé, paginé ou analysé image par image.

• Disponibilité — GPT-5.6 Sol est une URL. Nemotron 3.5 Bolt est un déploiement vLLM nécessitant du silicium Ampere, Hopper ou Blackwell, ou une exécution de llama.cpp sur un appareil RTX Spark ou DGX Spark. L'un d'entre eux peut être utilisé en quatre minutes.

Il existe une quatrième différence qui tient moins aux capacités qu’à la mesure : chaque appel au modèle hébergé génère une ligne de facturation, et chaque appel au modèle local n’en génère pas. Pour une boucle de classification ou d’extraction à grand volume, cette inversion compte plus que quarante points d’indice.

Ce que le fait de posséder le fichier apporte réellement

Nemotron 3.5 Bolt 74B-A9B est un modèle à mélange d'experts creux (sparse mixture-of-experts) de 74 milliards de paramètres dont 9 milliards actifs par token, bâti sur une architecture dorsale hybride Mamba-2 et Transformer que NVIDIA appelle LatentMoE, avec un encodeur visuel C-RADIO v4-H greffé pour le travail multimodal. C'est un artefact de compression au sens le plus littéral : NVIDIA a pris le modèle 120B-A12B Nemotron 3.5 Super VL, lui a appliqué une recherche guidée par routeur qu'il appelle Star Elastic pour le réduire à 74B-A9B, puis a exécuté une distillation consciente de la quantification jusqu'à 2,0625 bits par poids d'expert — un format IQ2_XXS — pour tenir dans 24 Go sans réentraînement depuis zéro. La licence est OpenMDW-1.1, qui autorise un usage commercial et non commercial.

Deux conséquences en découlent. La première est que le modèle s’exécute aux côtés d’autres applications sur un poste de travail plutôt qu’à leur place, ce qui est précisément ce qui rend un agent local viable. La seconde est qu’il est livré avec la spéculation intégrée : un modèle de draft LiLiCorr piloté via DFlash propose sept tokens d’avance, ce qui explique une part significative de ces 84 tokens par seconde.

Le tableau de benchmarks du fournisseur lui-même, que personne en dehors de NVIDIA n’a reproduit, place le checkpoint de 24 Go devant toutes les références du même tableau — un Qwen3.6 35B, un Gemma 4 26B et le Nemotron 3.5 Lightning 30B-A3B de NVIDIA — sur GDPVal-AA-V2 (28,47), Terminal-Bench 2.1 (50,98), GPQA Diamond (86,43), SciCode (41,02) et BrowseComp (66,75). À interpréter comme des affirmations sur la manière dont un 74B compressé se compare à des modèles non compressés d’un tiers de sa taille, ce qu’ils sont précisément conçus pour montrer, et non comme une comparaison avec un modèle phare hébergé.

Fixer honnêtement le prix des deux moitiés

La partie hébergée a un prix sans ambiguïté. GPT-5.6 Sol figure au catalogue d'OrcaRouter sous openai/gpt-5.6-sol au prix catalogue du fournisseur OpenAI répercuté avec 0 % de marge ajoutée — 4,00 $ par million de tokens d'entrée et 20,00 $ par million de tokens de sortie, les mêmes chiffres sur notre page que sur celle du fournisseur, ce qui signifie qu'un changement côté fournisseur se répercute de notre côté le jour même plutôt qu'au prochain renouvellement de contrat. Une entrée de 20 000 tokens avec 3 000 tokens de sortie coûte 0,08 $ en entrée et 0,60 $ en sortie, soit environ 0,68 $ par appel.

La partie locale n'a pas de prix que nous soyons prêts à inventer. Il n'existe pas de point de terminaison hébergé pour Nemotron 3.5 Bolt, pas de grille tarifaire, et aucune plateforme tierce qui le mesure vers laquelle nous pouvons vous orienter. Le tarifer, c'est chiffrer un GPU, une consommation électrique et une période d'amortissement — des calculs qui ont leur place dans votre tableur et non dans le nôtre, car la réponse dépend entièrement de la fréquence à laquelle vous l'exécutez.

C'est dans cette asymétrie qu'une couche de routage fait quelque chose de concret plutôt que de décoratif. Nemotron 3.5 Bolt ne figure pas à notre catalogue et nous ne le servons pas ; rien ici ne constitue une offre d'héberger le checkpoint de NVIDIA. Ce qu'un point de terminaison unique apporte réellement, c'est la possibilité de garder les moitiés locale et hébergée d'un flux de travail sous une seule clé, afin qu'une requête puisse être envoyée à GPT-5.6 Sol lorsqu'elle a besoin d'une fenêtre d'un million de jetons ou d'une entrée de fichier, et à votre propre déploiement Bolt lorsque ce n'est pas le cas — avec la règle qui décide de l'un ou de l'autre écrite une seule fois plutôt que codée en dur dans chaque service. Si le fournisseur hébergé se dégrade, le basculement automatique déplace la requête au lieu de laisser la requête échouer.

Lequel choisir

• Choisissez Nemotron 3.5 Bolt 74B-A9B 24GB lorsque les données ne peuvent pas quitter les locaux, lorsque la charge de travail comporte de la vidéo, lorsque le volume est suffisamment élevé pour que la facturation par token soit le coût dominant, ou lorsque vous voulez un agent exécuté sur du matériel que vous possédez déjà. Acceptez une fenêtre de 262K et un score d’index qui représente environ un tiers de celui du modèle hébergé. Vérifiez les affirmations de débit sur votre propre appareil avant de planifier votre capacité en fonction de celles-ci.

• Choisissez GPT-5.6 Sol lorsque la tâche nécessite le contexte le plus large, l’entrée de fichiers, le raisonnement le plus puissant disponible et un contrat d’assistance associé. Payez 4 $ et 20 $ par million de jetons pour ce privilège, et notez que la sortie maximale de 128 K est une réponse unique plus longue qu’une enveloppe mémoire de 24 Go ne le permettra confortablement.

• Exécutez les deux lorsque le flux de travail se scinde proprement, ce qui est le cas pour la plupart des systèmes d’agents. Le fichier local gère la moitié à haute fréquence, à faible enjeu et sensible à la confidentialité ; le modèle hébergé gère les requêtes qui ont besoin de portée.

La question ouverte est la même que celle qu’a soulevée le dernier Nemotron compressé et à laquelle personne n’a répondu : une première mesure indépendante du débit et de la latence des poids de 24 Go, réalisée par quelqu’un qui ne travaille pas chez NVIDIA. Tant que cette mesure n’existe pas, le plancher d’intelligence de ce modèle est vérifié en externe et son plafond de vitesse ne l’est pas — et, pour un déploiement local, la vitesse est la moitié que l’on ressent.