Une carte de titre générée indiquant NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB vs Kimi K3, avec des panneaux indiquant Intelligence Index 21 contre 43,6, paramètres 74B au total et 9B actifs contre 2,8 billions au total et 104B actifs, prix mesuré aucun contre 3 dollars par million de tokens d'entrée et 15 dollars par million de tokens de sortie, et latence mesurée N/A contre un temps p50 de 7,02 secondes jusqu'au premier token. Un pied de page indique que les chiffres de l'indice proviennent d'Artificial Analysis et que la revendication de débit de NVIDIA pour Bolt est déclarée par le fournisseur et non reproduite. Le logo OrcaRouter se trouve en bas à droite.
Guides & Insights

Nemotron 3.5 Bolt vs Kimi K3 : un téléchargement de 24 Go contre un lecteur de 2,8 billions de paramètres

Auteur

Magnus Corvin

Date de publication

Derniers modèles · 20Voir tous les modèles →
Benchmarks : Artificial Analysis · mis à jour quotidiennement
Retour à tous les articles

La réponse courte et honnête est que ces deux modèles ne rivalisent pas pour le même travail, et la raison se mesure en un seul nombre. Kimi K3 dispose de 1 048 576 tokens de contexte. NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB en dispose de 262 144. Si votre tâche est « lire tout ce corpus et répondre en une seule passe », le checkpoint 24GB est disqualifié avant même que tout le reste à son sujet n’entre en ligne de compte — et si votre tâche est « exécuter sur une station de travail sans réseau, sans compteur et sans fournisseur dans la boucle », Kimi K3 n’est pas non plus dans la conversation. Kimi K3 est un modèle de mélange d’experts de 2,8 billions de paramètres publié par Moonshot AI le 15 juillet 2026 sous une API hébergée propriétaire. Nemotron 3.5 Bolt 74B-A9B 24GB est un fichier à poids ouverts qui dépense 9 milliards de ses 74 milliards de paramètres sur n’importe quel token donné et tient dans 24GB de mémoire.

Le checkpoint Bolt a été mis en ligne sur Hugging Face le 7 octobre 2026, sans la moindre annonce associée. La publication de NVIDIA qui nomme le modèle — et son pendant de 4 Go, Nemotron 3.5 Bolt E4B — n'est arrivée que le 15 octobre, huit jours plus tard. Cet ordre chronologique mérite d'être connu, car il détermine ce qui peut être vérifié : huit jours de l'historique public se résument à un fichier téléchargeable et à une fiche de modèle, et la prose qui l'explique est venue après.

Ce que chaque modèle est conçu pour faire

Kimi K3 est le modèle phare de Moonshot et sa version la plus capable à ce jour : un mélange d'experts creux de 2,8 billions de paramètres avec environ 104 milliards de paramètres actifs par token, conçu pour la programmation à long horizon et le travail de connaissance de bout en bout, acceptant du texte et des images et renvoyant du texte. Il est servi, et non distribué. Il n'y a pas de téléchargement, pas de version quantifiée à exécuter localement, et aucune version suffisamment petite pour un ordinateur portable.

Nemotron 3.5 Bolt est la construction inverse. NVIDIA a pris son modèle Nemotron 3.5 Super VL 120B-A12B, y a appliqué une compression guidée par routeur qu’il appelle Star Elastic pour atteindre 74B-A9B, puis a quantifié le résultat à 2,0625 bits par élément d’expert — un format IQ2_XXS — avec une distillation consciente de la quantification pour récupérer la précision que la quantification fait perdre. L’architecture de base est un hybride de Mamba-2 et de Transformer que le fournisseur appelle LatentMoE, avec un encodeur visuel C-RADIO v4-H pour l’entrée d’images et de vidéos. Il fonctionne sous vLLM sur les puces Ampere, Hopper et Blackwell, ainsi que sur le matériel RTX Spark et DGX Spark via llama.cpp, sous la licence OpenMDW-1.1 qui autorise l’usage commercial.

A screenshot of the NVIDIA research page for Nemotron 3.5 Bolt 74B-A9B 24GB, showing the model title, the description of it as a mixture-of-experts hybrid Mamba-Transformer designed to run everyday agentic tasks locally on NVIDIA RTX and DGX Spark, and a numbered key-features list stating that the model is compressed from Nemotron 3.5 Super VL using Star Elastic to shrink a 120B-A12B parent into 74B-A9B, that experts are compressed to 2.0625 bits per element in IQ2_XXS with quantization-aware distillation, and that a LiLiCorr speculative decoding drafter achieves 84 tokens per second on the AIPerf SPEED-Bench on RTX Spark.

Lecture d'un long corpus, tarifée

C'est ici que la comparaison relève de l'arithmétique plutôt que de la préférence. Kimi K3 est routé sur OrcaRouter au prix catalogue de Moonshot, sans supplément : 3,00 $ par million de tokens d'entrée, 15,00 $ par million de tokens de sortie, et les lectures en cache à 0,30 $. Son temps p50 jusqu'au premier token sur notre catalogue est de 7,02 secondes, avec un p95 de 10,00 secondes, et il a acheminé 990,6 millions de tokens de trafic routé sur notre catalogue au cours des sept derniers jours — la lecture de contextes longs à grande échelle est une charge de travail réelle, et non une expérience de pensée.

Nemotron 3.5 Bolt n'a pas de prix, parce qu'il n'y a rien à tarifer. Il n'existe pas de point de terminaison hébergé pour ce modèle, pas d'API fournisseur, pas de grille tarifaire, et Artificial Analysis indique à la fois sa vitesse et son coût par tâche de l'Intelligence Index comme N/A, exactement pour cette raison. Ce qu'il offre à la place, c'est un plafond de mémoire que vous achetez une fois, et un coût marginal qui s'arrondit à la facture d'électricité. Pour un pipeline qui lit un corpus fixe chaque nuit, la différence entre 3 $ par million de tokens d'entrée et zéro n'est pas une réduction — c'est un modèle comptable différent, et le seuil de rentabilité est une question de dépenses d'investissement à laquelle répond votre équipe financière, pas cet article.

La vision n’est pas le facteur décisif que les gens imaginent.

Les deux modèles prennent des images. C’est là que la ressemblance s’arrête.

• Entrée — Kimi K3 accepte le texte et les images ; Nemotron 3.5 Bolt accepte le texte, les images et la vidéo. Pour un agent qui regarde un enregistrement d’écran ou échantillonne des images d’un flux de caméra, on ne peut confier directement le fichier qu’à un seul d’entre eux.

• Précision du chemin de vision — Bolt embarque un encodeur de vision C-RADIO v4-H conçu sur mesure et hérite de son comportement multimodal du client Super VL à partir duquel il a été compressé ; la compréhension visuelle de Kimi K3 est documentée comme native, mais ne fait pas partie de ce que Moonshot met en avant pour ce modèle. Le tableau de NVIDIA lui-même répertorie un score de vision WebArena de 50.86 pour Bolt ; considérez-le comme rapporté par le fournisseur.

• Contrôle du raisonnement — Kimi K3 n'expose ni temperature, ni top_p, ni seed, la profondeur de raisonnement étant définie par un seul paramètre d'effort de raisonnement ; le mode raisonnement de Bolt est un commutateur de gabarit de conversation, enable_thinking true ou false, hérité du même client Super VL.

• Spéculation — Bolt est livré avec un drafter LiLiCorr piloté via DFlash qui propose sept tokens d'avance à chaque étape, ce qui constitue le mécanisme derrière l'affirmation de NVIDIA de 84 tokens par seconde sur AIPerf SPEED-Bench. Il n'existe pas de levier équivalent sur un point de terminaison hébergé ; vous obtenez ce que l'opérateur provisionne.

A generated two-column scoreboard titled NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB vs Kimi K3, the left column listing Intelligence Index 21 at fourth of 67 in its footprint class, context 262,144 tokens, 74B total and 9B active parameters, text image and video input, no metered price and no independent speed figure, and the right column listing Intelligence Index 43.6, context 1,048,576 tokens, 2.8 trillion total and 104B active parameters, text and image input, 3 dollars in and 15 dollars out per million tokens, and a 7.02 second p50 time to first token. A footer separates the independent index figures from the vendor-reported NVIDIA throughput claim. The OrcaRouter logo sits bottom-right.

L’écart mesuré, et de quoi il est constitué

Artificial Analysis place Kimi K3 à 43,6 sur son Intelligence Index et Nemotron 3.5 Bolt à 21. Il est impossible de considérer cela comme proche. Les lignes de support de Kimi K3 sont solides là où un lecteur de contexte long en a besoin — un AA Coding Index de 76,2, au neuvième rang sur 138 modèles mesurés, un score GPQA Diamond de 93,5, et un chiffre de rappel en contexte long de 88,7, qui est le nombre qui indique que la fenêtre d'un million de tokens est utilisable, et non simplement déclarée.

Le 21 de Bolt est un résultat d'un autre genre. C'est le quatrième meilleur score parmi 67 modèles de sa classe filtrée par empreinte, contre une médiane de classe de 8, et Artificial Analysis le décrit comme l'un des principaux modèles à poids ouverts de taille similaire. La bonne façon de considérer ces deux chiffres est que l'un mesure ce qu'un laboratoire de pointe peut faire sans contrainte de mémoire et l'autre mesure ce que 24GB peut contenir. Vingt-deux points d'indice sont le prix de la contrainte, pas la preuve que le modèle plus petit a été mal conçu.

Ce qui manque du côté de Bolt, c’est toute mesure indépendante de sa vitesse. NVIDIA annonce au moins 80 tokens par seconde en décodage comme objectif de conception et 84 sur son propre banc d’essai, avec 83,99 tokens par seconde lors d’une exécution de llama.cpp sur un Surface Laptop Ultra doté de 128 Go. À l’heure où j’écris, aucun tiers n’a publié de chiffre de débit ou de latence pour les poids de 24 Go. La latence de Kimi K3, en revanche, est mesurée et publique — 7,02 secondes en p50 jusqu’au premier token, 10,00 secondes en p95 — et ce sont ces chiffres qui doivent servir de référence pour la planification, pas ceux du fournisseur.

A screenshot of the OrcaRouter model page for Kimi K3, showing the identifier kimi/kimi-k3, a release date of 2026-07-15, capability chips for Vision, Tools, JSON and Reasoning, a 1M-token context window with text and image input and text output, published rates of $3.00 per million input tokens and $15.00 per million output tokens, a p50 time to first token of 7.02 seconds and a p95 of 10.00 seconds, 990.6 million tokens routed in the last seven days, and the OpenAI-compatible base URL api.orcarouter.ai/v1.

Là où une couche de routage change la réponse

Kimi K3 figure dans notre catalogue sous kimi/kimi-k3 au prix catalogue de Moonshot, sans aucune majoration, derrière la même clé que plus de 200 autres modèles, avec un basculement automatique entre fournisseurs en amont lorsqu'un fournisseur se dégrade. Nemotron 3.5 Bolt ne figure pas dans notre catalogue — nous n'hébergeons aucun checkpoint NVIDIA et il n'existe aucun point de terminaison Bolt à appeler — la question de routage ici n'est donc pas de savoir lequel des deux nous servons. Elle est de savoir comment les deux moitiés d'un véritable pipeline communiquent entre elles.

Le modèle qui fonctionne, c'est un lecteur local et un raisonneur hébergé. Bolt réside sur votre matériel et gère les passes à haute fréquence où les données ne doivent pas quitter le bâtiment et où le volume rendrait la facturation par token pénible. Kimi K3 gère les requêtes qui nécessitent une fenêtre d'un million de tokens ou un raisonnement à l'échelle de la frontière, à 3 $ et 15 $ par million de tokens. Placez une règle de routage devant les deux et la répartition devient une ligne de configuration plutôt qu'une refonte : une requête qui dépasse le budget de contexte local est envoyée à Kimi K3, tout le reste reste sur la station de travail. La fusion de modèles est la variante qu'il vaut la peine de connaître si les appels coûteux sont les plus importants — plusieurs modèles répondent ensemble à la même invite et vous retenez l'accord.

Que regarder

Les preuves précises qui permettraient de trancher cet appariement sont ténues et imminentes. Une première campagne indépendante de mesure du débit et de la latence sur les poids Bolt de 24 Go confirmerait soit les 84 tokens par seconde de NVIDIA, soit réduirait ce chiffre ; un prix d’hébergement publié pour Bolt transformerait la partie coût de cette comparaison en arithmétique ; et une deuxième mesure de rappel en contexte long pour Kimi K3 confirmerait que son 88,7 est une propriété du modèle plutôt qu’une propriété d’un seul harnais.

D'ici là, le résumé est plus restrictif que le cadrage de l'un ou l'autre des fournisseurs. Kimi K3 est le meilleur modèle sur tous les axes qu'un benchmark peut mesurer, et c'est le seul des deux que vous pouvez solliciter cet après-midi. Nemotron 3.5 Bolt est le seul des deux qui continue de fonctionner lorsque le réseau ne fonctionne pas, et le seul dont le coût marginal par token est nul. Choisissez le second pour le travail qui n'aurait jamais dû être envoyé nulle part, et le premier pour le travail qui a besoin de portée.