Nemotron 3.5 Bolt 74B vs Qwen3.8-Max : L’écart le plus large du classement

Chaque comparaison au sein de la famille N​emotron 3.5 Bolt comporte un écart. Celle-ci présente l'écart le plus large. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB obtient un score de 21,4 sur l'Artificial Analysis Intelligence Index ; Qwen3.8-Max, le modèle phare d'A​libaba et le modèle le mieux noté de cette série de comparaisons, obtient un score de 45,4 sur le même classement établi indépendamment. Cela fait 24 points, soit plus que le score total à l'indice du plus petit modèle, et c'est le point de départ honnête pour quiconque se demande si un agent local de 24 Go peut remplacer les modèles de pointe.

Cela ne peut pas. Ce qui rend ce duo intéressant à aborder, c’est que les deux modèles l’emportent sur des lignes entièrement différentes, et que le tableau de benchmarks de NVIDIA lui-même compare Bolt à un modèle Qwen qui n’est pas celui-ci.

Deux modèles n’ayant rien en commun hormis la multimodalité

N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB est un modèle vision-langage de 74 milliards de paramètres, compressé en un checkpoint 2 bits qui tient dans 24 gigaoctets de mémoire. Ses poids ont été mis en ligne sur Hugging Face le 7 octobre 2026 ; N​VIDIA l'a nommé dans un billet de lancement le 15 octobre. Il est conçu pour le travail agentique local — appel d'outils, navigation web, utilisation du terminal, lecture d'écran — et il est vendu sous forme de téléchargement plutôt que de service, sans aucun prix à l'usage publié nulle part.

Qwen3.8-Max est la construction inverse. Le modèle haut de gamme d'A​libaba est un mélange d'experts clairsemé que l'entreprise positionne directement face aux modèles fermés les plus puissants de sa fenêtre de sortie, servi via trois formats d'échange — une interface compatible O​penAI, une interface compatible A​nthropic et DashScope, la plateforme propre à A​libaba — dans les régions de Pékin, Singapour, Tokyo, Francfort et Virginie. Le modèle hébergé a été lancé le 3 août 2026 avec l'entrée d'images et de vidéos, un contexte d'un million de tokens et une option de raisonnement ; l'instantané du 2 septembre est la version actuellement évaluée dans les classements. Le frère à poids ouverts de la même famille, Qwen3.8-2.4T-A95B, est une version distincte et non le modèle mesuré ici.

L’un est un fichier. L’autre est un service. La comparaison reste utile, car le service publie un prix, contrairement au fichier, et la différence entre les deux est ce qu’un déploiement local achète réellement.

• Indice d'intelligence — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB : 21,4. Qwen3.8-Max : 45,4. Les deux mesurés indépendamment par Artificial Analysis.

• Contexte — 262 144 jetons pour le checkpoint N​VIDIA contre environ 983 000 pour Qwen3.8-Max, avec une sortie maximale de 131 072 jetons du côté d’A​libaba.

• Paramètres — 74 B au total et 9 B actifs pour Bolt ; la gamme phare d'Alibaba est un mélange d'experts clairsemé d'un tout autre ordre, activant environ 95 B de paramètres par token dans sa version à poids ouverts.

• Entrées — texte, images et vidéo en entrée, texte en sortie pour les deux. C'est la seule dimension sur laquelle les deux se ressemblent véritablement.

• Prix — Qwen3.8-Max : 2,00 $ par million de tokens d'entrée, 6,00 $ par million de tokens de sortie, 0,25 $ pour les entrées mises en cache. Bolt : rien, car il n'y a aucun point de terminaison à acheter.

• Coût par tâche de l'Intelligence Index — 5,41 $ pour Qwen3.8-Max, mesuré. Aucun chiffre pour Bolt, pour la même raison.

• Vitesse — Qwen3.8-Max : 39,8 jetons de sortie par seconde, avec 3,06 seconde jusqu’au premier jeton et un temps de raisonnement médian de 50,3 secondes par réponse, le tout mesuré indépendamment. Bolt : aucune mesure indépendante du débit n’existe.

Les lignes, d'où proviennent les 24 points

Artificial Analysis a exécuté les deux. Lire le détail ligne par ligne est plus utile que le composite, car le composite masque le fait qu’aucun des deux modèles n’est uniformément en tête.

• Terminal-Bench 2.1 — Qwen3.8-Max 88,8 pour cent, mesuré de manière indépendante. Bolt n’a pas d’entrée indépendante sur ce benchmark ; N​VIDIA indique 50,98 sur sa fiche modèle.

• GPQA Diamond — Qwen3.8-Max : 92,8 pour cent de manière indépendante. Le 86,43 de Bolt est le chiffre de NVIDIA lui-même, et le panel n'a pas de chiffre indépendant pour celui-ci.

• Humanity's Last Exam, sans outils — Qwen3.8-Max 43,1 % contre les 24,7 % de Bolt, tous deux mesurés indépendamment.

• Récupération à long contexte (AA-LCR) — 80,3 % contre 69,7 %, les deux mesurés.

• Codage scientifique (SciCode) — 52,1 pour cent contre 39,7 pour cent, tous deux mesurés.

• Raisonnement multimodal (MMMU-Pro) — Qwen3.8-Max 82,8 pour cent, mesuré de façon indépendante. Bolt n'a aucune entrée indépendante, ce qui constitue une omission notable pour un modèle dont le principal argument de vente est qu'il peut voir.

• Livrables professionnels (GDPval-AA) — Qwen3.8-Max 0,583 normalisé par rapport au 0,240 de Bolt, tous deux mesurés.

• Opérations agentiques et opérations informatiques — Qwen3.8-Max obtient 42,4 % sur APEX-Agents, 40,3 % sur ITBench-SRE et 45,0 % sur une évaluation d’agents analystes. Bolt n’a aucun score indépendant dans aucune de ces trois colonnes.

• Non-hallucination (AA-Omniscience) — Qwen3.8-Max 71,2 % contre 56,3 % pour Bolt, avec une exactitude de 31,7 % contre 17,1 %. Contrairement à la comparaison Bolt contre Ultra, où le modèle compressé remporte la ligne de calibration, ici le modèle phare remporte les deux.

• Coût par tâche d’indexation — 5,41 $ pour Qwen3.8-Max. Il s’agit du coût par tâche le plus élevé de toutes les comparaisons autour de ce modèle, et c’est ce chiffre qui rend l’option locale intéressante, même avec un déficit de 24 points.

Ce que 5,41 $ la tâche permet d'acheter, et ce que 24 Go permettent à la place

L’économie de Qwen3.8-Max est inhabituelle pour un modèle de pointe : le prix par token de 2,00 $ en entrée et 6,00 $ en sortie est modéré, mais le modèle passe beaucoup de temps à réfléchir. Le temps de raisonnement médian sur les exécutions du panel est de 50,3 secondes, et le temps de réponse de bout en bout est en moyenne de 65,9 secondes. Une tâche qui demande au modèle une minute de délibération interne génère beaucoup de tokens de sortie, et le coût par tâche d’index est la métrique qui le révèle. Ce n’est pas une critique du modèle — le raisonnement approfondi est le produit — mais c’est la raison pour laquelle une boucle d’agent à haut volume devient rapidement coûteuse sur ce niveau.

C'est précisément la charge de travail pour laquelle Bolt est conçu. Un checkpoint local n'a aucun compteur par token : le coût marginal d'un appel d'outil, c'est l'électricité, et le coût fixe, c'est un GPU. Pour un agent toujours actif qui accomplit des milliers de petites étapes procédurales — lire un écran, appeler un endpoint, modifier un fichier — la comparaison n'oppose pas 21,4 à 45,4, mais une constante à une facture qui ne cesse de croître. La présentation qu'en fait N​VIDIA est la suivante : Bolt existe pour que les tâches agentiques du quotidien puissent s'exécuter localement sans envoyer la charge de travail dans le cloud, et il annonce 50,86 sur WebArena vision et 66,75 sur BrowseComp pour exactement ces tâches.

Le hic, c'est que le coût fixe est bien réel et que la latence est inconnue. La recette de serving de référence de NVIDIA se décompose en plusieurs étapes : une version nightly épinglée de vLLM, le paquet de noyaux b12x, un plugin de parseur de raisonnement téléchargé séparément, des backends Mamba et d'attention explicites, et une configuration de décodage spéculatif utilisant le drafter LiLiCorr avec sept tokens de brouillon. Le débit est publié par NVIDIA à 83,99 tokens par seconde sur AIPerf SPEED-Bench-Coding sur une machine de classe ordinateur portable — un chiffre de fournisseur sur un benchmark de fournisseur, sans exécution indépendante à laquelle le confronter.

La base de référence qu’a choisie NVIDIA

Il y a encore une chose qui mérite d’être remarquée, et c’est une leçon de lecture plutôt que d’ordre technique. Le tableau de benchmarks sur la fiche modèle de Bolt inclut un modèle Qwen comme point de comparaison — et il s’agit de Qwen3.6-35B-A3B, un modèle bien plus petit que le modèle phare évalué sur cette page. Le tableau de NVIDIA montre que Bolt gagne sur Terminal-Bench 2.1, GPQA Diamond, BrowseComp, GDPVal, Tau3 Banking, SciCode, AA-LCR et MCP-Atlas face à ce modèle, mais perd sur la précision AA-Omniscience, la non-hallucination AA-Omniscience et PinchBench.

Ces comparaisons sont peut-être tout à fait correctes. Mais un lecteur qui retient « Bolt bat Qwen » du tableau compare un modèle edge de 74B à un MoE de classe dense de 35B, et non au niveau frontière d'Alibaba. Face à Qwen3.8-Max, le relevé indépendant va dans l'autre sens sur presque toutes les lignes communes, et l'écart se creuse plutôt qu'il ne se réduit sur les benchmarks les plus difficiles. Quand un fournisseur choisit ses propres références, la démarche honnête consiste à vérifier ce qu'est la référence.

Comment décider

Choisissez Qwen3.8-Max lorsque l’exactitude est la contrainte. Si la tâche relève d’une analyse en plusieurs étapes, d’un raisonnement multimodal difficile, d’un travail agentique aux conséquences réelles, ou de tout ce qui est mesuré par les benchmarks sur lesquels il obtient 24 points d’avance, l’option locale n’est pas une candidate — et à 2,00 $ et 6,00 $ par million de tokens, son prix est celui d’une infrastructure plutôt que d’un luxe. C’est aussi le modèle à choisir lorsque le flux de travail nécessite des sorties structurées, un appel d’outils natif et un contexte d’un million de tokens en un seul appel, autant de capacités qu’A​libaba documente comme prises en charge.

Choisissez Bolt lorsque la contrainte tient à l’endroit où le travail s’effectue. La confidentialité, le fonctionnement hors ligne, une latence qui ne dépend pas d’un réseau et un coût par appel inexistant sont quatre arguments distincts, et chacun suffit à lui seul pour certaines équipes. Le modèle est compétent pour les procédures et faible en rappel ; dirigez-le vers celles-ci.

Pour la moitié hébergée, Qwen3.8-Max est accessible via OrcaRouter en tant que qwen/qwen3.8-max/ sur la même clé que plus de 200 autres modèles, au prix catalogue du fournisseur Alibaba, sans marge ajoutée — ce qui signifie qu'un changement de prix du fournisseur se répercute chez nous le jour même plutôt qu'à la fin d'un cycle de facturation. Cela compte davantage sur ce palier que sur un palier bon marché, car 5,41 $ par tâche d'indexation est un chiffre qu'une équipe financière voudra revérifier chaque mois. C'est sur le problème du volume que le routage change la forme de la décision : une charge de travail composée à 90 % de petites étapes procédurales et à 10 % de raisonnement difficile peut envoyer ces 10 % ici et garder le reste en local, avec un basculement automatique entre fournisseurs, de sorte que le palier hébergé se dégrade en une nouvelle tentative plutôt qu'en une panne.

Nous n'hébergeons aucun modèle N​VIDIA et n'avons aucun point de terminaison Bolt — la famille N​emotron ne figure pas dans notre catalogue, et la partie locale de cette comparaison est une question matérielle qu'aucune couche de routage ne touche.

Le nombre non résolu

Ce que personne n’a publié, c’est la mesure qui rendrait cette comparaison complète : une campagne indépendante de latence et de débit sur le checkpoint de 24 Go à une taille de lot de un, sur une machine qu’une personne peut acheter. Si un checkpoint 74B en 2 bits s’avère exécuter des étapes d’agent interactif à une vitesse exploitable, l’écart de 24 points devient un écart que l’on peut contourner : local pour la procédure, hébergé pour le raisonnement. Sinon, l’option locale est un outil de traitement par lots et la comparaison se réduit au prix. Dans un cas comme dans l’autre, la réponse ne tient qu’à une publication, et c’est ce qu’il faut rechercher avant de planifier un déploiement autour de ce modèle.

Les comparaisons comme celle-ci sont également le lieu où se manifestent les modes de défaillance : les incidents d'IA documentés et les défaillances d'agents derrière les modèles de cette classe sont collectés dans l'Archive des incidents d'IA d'OrcaRouter, où chaque entrée comporte ses propres sources, sa gravité, sa note de confiance et son indicateur de contestation.