Nemotron 3.5 Bolt 74B vs Kimi K3 : un fichier de 24 Go contre un modèle phare de 2,8 billions de paramètres

Les deux modèles de cette comparaison ne sont pas en concurrence pour la même place, et les chiffres le disent clairement avant même que l'un ou l'autre fournisseur ne prononce un mot. N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB est un modèle vision-langage de 74 milliards de paramètres que N​VIDIA a compressé en un point de contrôle 2 bits suffisamment petit pour tenir dans 24 gigaoctets de mémoire aux côtés du système d'exploitation. Kimi K3 est le modèle phare de 2 800 milliards de paramètres de M​oonshot AI, un modèle à poids ouverts dont le plus petit déploiement viable est un rack. Le premier est un fichier que vous pouvez copier sur un ordinateur portable que N​VIDIA a commencé à livrer le 15 octobre 2026. Le second est une charge de travail que vous louez au token. Lire leurs scores côte à côte est utile précisément parce que l'écart est si grand que personne ne peut prétendre que le plus petit est un substitut.

Ce qui vaut réellement la peine d'être fait sur cette page, c'est de déterminer où passent les 22 points de l'Intelligence Index, et si l'un d'entre eux tombe sur les tâches qu'un agent local exécute réellement.

Qu'est-ce qui a été livré, et quand ?

Le dépôt Bolt est apparu sur Hugging Face le 7 octobre 2026 ; le billet de lancement de N​VIDIA lui-même qui le nomme, « Open From Data Center to Desktop: N​VIDIA Expands N​emotron Family With Highest Efficiency Super VL and Bolt Models », est daté du 15 octobre. La fiche du modèle elle-même porte une date de publication du 15/10/2026. Cet ordre — les poids d'abord, l'annonce huit jours plus tard — compte pour quiconque lit la couverture médiatique de ce modèle, car une semaine durant laquelle les informations publiques se résument à un checkpoint téléchargeable et à une fiche de modèle, sans communiqué de presse associé.

Les deux modèles sont par ailleurs séparés par tout le reste. Kimi K3 a été dévoilé le 16 juillet 2026, ses poids ayant suivi le 27 juillet, ce qui le rend environ trois mois plus ancien et nettement mieux documenté par des tiers.

• Architecture — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB est un LatentMoE hybride Mamba-2–Transformer avec un encodeur visuel C-RADIO v4-H. Kimi K3 est un mélange d’experts creux de 2,8 billions de paramètres qui active 104 B de paramètres par token sur 16 des 896 experts, reposant sur K​imi Delta Attention de M​oonshot.

• Paramètres — 74 B au total, 9 B actifs pour le modèle NVIDIA ; 2,8 T au total, 104 B actifs pour Kimi K3. Le plus petit modèle active moins d'un dixième du calcul par token du plus grand modèle.

• Empreinte mémoire — 24 Go en quantification 2 bits (IQ2-XXS à 2,0625 bits par élément pour les poids des experts, NVFP4 pour les couches Mamba, Q8_0 pour les embeddings et la sortie) face à ce que coûte un déploiement de 2,8 T de paramètres, ce qui n'est pas un nombre que cette page peut exprimer en gigaoctets.

• Contexte — 262 144 tokens pour le modèle N​VIDIA ; 1 048 576 pour Kimi K3, avec une tarification forfaitaire quelle que soit la longueur.

• Entrées — texte, images et vidéo en entrée, texte en sortie pour les deux.

• Licence — OpenMDW-1.1 pour le checkpoint NVIDIA ; la licence Kimi K3 pour les poids de Moonshot, permissive pour la plupart des usages, avec un accord distinct requis au-delà de 20 millions de dollars de revenus annuels.

Les nombres indépendants, et celui qui n’existe pas

Artificial Analysis a exécuté les deux modèles, et c’est ce qui rend cette comparaison possible tout court. Tout ce qui figure au tableau n’a pas été mesuré pour les deux, et les lacunes sont tout aussi instructives que les scores.

• Indice d'intelligence — N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB obtient 21,4, quatrième sur 67 modèles de sa catégorie de taille dans le jeu de comparaison propre au panel. Kimi K3 obtient 43,6 dans son mode de raisonnement maximal et 30,1 dans son mode réduit. Ces deux chiffres sont mesurés de manière indépendante, et non rapportés par le fournisseur.

• Coût par tâche de l'Intelligence Index — le modèle NVIDIA n'a pas de chiffre, car il n'a pas de prix à l'usage : Artificial Analysis n'indique aucun tarif d'entrée ou de sortie pour lui. Kimi K3 coûte 2,00 $ de dépenses API par tâche de l'indice, à 3,00 $ par million de tokens d'entrée et 15,00 $ par million de tokens de sortie, contre 0,30 $ pour l'entrée mise en cache.

• Débit de sortie — Kimi K3 génère 43,8 tokens par seconde avec 3,6 secondes avant le premier token sur la machine de test du panel. Aucun chiffre de débit indépendant n'existe pour le modèle N​VIDIA ; la propre page de recherche de N​VIDIA publie 83,99 tokens par seconde sur AIPerf SPEED-Bench-Coding avec le drafter LiLiCorr activé, ce qui est une mesure du fournisseur sur un benchmark différent et une machine différente.

• Terminal-Bench 2.1 — 85,0 pour Kimi K3, exécuté indépendamment, face aux 88,3 revendiqués par Moonshot lui-même. NVIDIA rapporte 50,98 pour le modèle Bolt sur sa fiche modèle, donc les deux ne sont pas sur un pied d’égalité : un chiffre a été reproduit en dehors du laboratoire et l’autre non.

• GPQA Diamond — 93,5 pour Kimi K3 de manière indépendante ; 86,43 pour le modèle N​VIDIA tel que publié par N​VIDIA, sans chiffre indépendant au sein du panel.

• Récupération à contexte long (AA-LCR) — 88,7 pour Kimi K3 contre 69,7 pour le modèle N​VIDIA, les deux mesurés.

• Codage scientifique (SciCode) — 59,5 pour Kimi K3 contre 39,7 pour le modèle N​VIDIA, tous deux mesurés.

• Exactitude des connaissances et hallucination — sur AA-Omniscience, Kimi K3 atteint 47,6 % d’exactitude avec 46,8 % de non-hallucination ; le modèle NVIDIA atteint 17,1 % d’exactitude avec 56,3 % de non-hallucination. Cette paire constitue la ligne la plus intéressante du tableau et la moins flatteuse pour une lecture simple de l’indice : le modèle compressé en sait moins et l’admet plus souvent.

La mesure manquante est celle qu’un acheteur voudrait le plus. Personne en dehors de N​VIDIA n’a publié de test de débit ou de latence sur le checkpoint de 24 Go, alors que c’est tout l’intérêt de livrer un checkpoint de 24 Go.

Où vont réellement les 22 points

Un écart de 22 points dans l’indice ressemble à une différence de catégorie, et sur certaines tâches, c’en est bien une. Kimi K3 est meilleur de vingt points en codage scientifique, meilleur de dix-neuf points en récupération à long contexte, et meilleur de plus de sept points sur les questions scientifiques de niveau universitaire avancé. Ce ne sont pas des erreurs d’arrondi, et ce ne sont pas non plus des artefacts de l’ensemble de comparaison.

Mais l’histoire de compression derrière le modèle NVIDIA est suffisamment précise pour expliquer la forme du déficit. Le checkpoint a été produit par Star Elastic, la recherche d’architecture guidée par routeur de NVIDIA, qui a pris le parent 120B-A12B Super VL et a recherché le nombre d’experts et la largeur MoE par couche qui tiendraient sous 24 Go avec une taille de lot de un et un contexte de 128K, en faisant passer le top-K des experts de 22 à 9, puis en quantifiant les experts à 2,0625 bits par élément avec une distillation consciente de la quantification pour récupérer la précision. C’est un compromis délibéré : sacrifier des connaissances stockées pour réduire l’empreinte. Un modèle qui a été comprimé à 2 bits par poids d’expert conserve sa procédure et perd ses faits, c’est pourquoi la ligne d’hallucination s’améliore tandis que la ligne de précision s’effondre.

Le propre tableau de benchmarks de N​VIDIA fait le même argument en sens inverse. L'entreprise publie le modèle Bolt battant Qwen3.6-35B-A3B, Gemma4 26B-A4B et son propre N​emotron 3.5 Lightning 30B-A3B sur Terminal-Bench 2.1, GPQA Diamond, BrowseComp et WebArena vision — c'est-à-dire sur des tâches agentiques et d'utilisation d'outils — tout en perdant face à Gemma4 sur la précision AA-Omniscience et face à Qwen3.6 sur PinchBench. L'exécution agentique est ce que la compression a préservé.

Les deux sont des poids ouverts, ce qui fait que le choix se joue sur l’électricité

C'est ce qui distingue ce face-à-face d'une comparaison avec une API fermée. Les poids de Kimi K3 sont téléchargeables. Si vous disposez du matériel nécessaire, vous pouvez exécuter vous-même le modèle 2,8 T et ne rien payer par token — la même proposition que le fichier de 24 Go, à une échelle totalement différente. Aucun des deux modèles ici n'est enfermé derrière un fournisseur qui pourrait changer d'avis concernant l'accès.

Le clivage pratique tient à la géographie du déploiement. Un checkpoint IQ2 de 24 Go tourne sous vLLM sur un seul composant A100, H100 ou Blackwell, et la recette de référence de NVIDIA cite aussi llama.cpp et une conversion GGUF, ce qui explique qu'il se retrouve dans les harnais d'agents locaux sur les machines RTX et DGX Spark. La commande de service recommandée n'est pas un simple interrupteur d'une ligne : elle épingle une version nightly de vLLM, exige un plugin reasoning-parser téléchargé, a besoin des noyaux b12x pour les backends linéaire et MoE, définit explicitement les backends Mamba et d'attention, et active le décodage spéculatif avec sept jetons draft LiLiCorr. C'est une recette pour quelqu'un qui compte posséder la machine, pas pour quelqu'un qui veut une transcription.

Kimi K3 va dans l'autre sens. Toute sa conception part du principe que vous louez l'inférence, et son prix est fixé en conséquence — 3,00 $ en entrée et 15,00 $ en sortie par million de tokens constituent un positionnement délibéré au sommet du marché de l'open-weights.

Exécuter la comparaison au lieu de la lire

Si vous voulez savoir si un écart d'indice de 22 points compte pour votre charge de travail, l'expérience peu coûteuse consiste à appeler la moitié chère. Kimi K3 figure au catalogue d'OrcaRouter sous kimi/kimi-k3, sur la même clé que le reste des plus de 200 modèles que nous routons, facturé au prix catalogue du fournisseur M​oonshot sans marge ajoutée — ainsi, un changement de prix de M​oonshot est effectif de notre côté le jour même plutôt qu'au cycle de facturation suivant. Envoyez-lui un jeu de prompts qui ressemble à votre trafic réel et mesurez la différence par rapport à ce que vous exécutez en local. OrcaRouter n'héberge aucun modèle N​VIDIA et n'a aucun point de terminaison Bolt à proposer ; la famille N​emotron ne figure pas dans notre catalogue, et la moitié locale de cette comparaison reste de toute façon une question de matériel.

Là où le routage mérite vraiment sa place ici, c'est pour le chemin de repli. Kimi K3 est un engagement sur un modèle unique à un prix élevé, et le mode de défaillance d'un agent de production connecté à un seul modèle très performant, c'est qu'un problème de capacité en amont se transforme en incident. Le basculement automatique entre fournisseurs derrière un point de terminaison unique transforme cela en une simple nouvelle tentative.

Comment décider

La règle est plus courte que l'écart ne le suggère.

Si votre cahier des charges inclut les mots hors ligne, privé, sur l’appareil ou aucun coût par token, Kimi K3 n’est pas un candidat et la comparaison s’arrête là — un modèle de 2 800 milliards de paramètres ne tournera pas sur la machine sur laquelle vous lisez ceci, alors que le checkpoint de 24 Go, si. Achetez l’ordinateur portable, acceptez 21,4 sur l’indice, et orientez-le vers l’usage d’outils plutôt que vers des questions de biochimie.

Si votre exigence est l’exactitude sur des raisonnements difficiles, le travail en contexte long sur des centaines de milliers de tokens, ou le codage à l’échelle d’un dépôt, le modèle 24GB n’est pas le bon outil et l’écart d’indice vous dit la vérité. Payez pour Kimi K3.

Ce qu'aucun des deux fournisseurs n'a tranché, c'est le cas intermédiaire, car il dépend d'un chiffre que personne n'a publié : la vitesse à laquelle le checkpoint 2 bits tourne réellement sur du matériel que vous pouvez acheter. Tant qu'il n'existe pas de test de débit indépendant, la réponse honnête à « un fichier de 24 Go peut-il remplacer un modèle phare de 2,8 T pour ma boucle d'agent ? » est que l'écart d'intelligence est mesurable et que le cas de la latence ne l'est pas encore.

Pour un modèle dont les modes de défaillance ne sont pas encore documentés, la contrepartie utile est le registre de ce qui a déjà mal tourné ailleurs : les incidents d'IA documentés et les défaillances d'agents concernant les modèles de cette classe sont recensés dans l'OrcaRouter AI Incident Archive, où chaque entrée comporte ses propres sources, son niveau de gravité, son degré de confiance et son indicateur de contestation.