Nemotron 3.5 Bolt 74B vs Gemma 4 26B A4B : huit points d’index et une incompatibilité de largeur de bits

Il existe déjà un face-à-face entre N​VIDIA N​emotron 3.5 Bolt 74B-A9B 24GB et G​oogle Gemma 4 26B A4B, et N​VIDIA l'a publié. Il figure dans le tableau des benchmarks de la fiche du modèle Bolt, où la colonne G​emma est une référence choisie par l'entreprise. Lire attentivement ce tableau est le moyen le plus rapide de comprendre ce que sont réellement ces deux modèles, car les deux checkpoints ne sont pas en concurrence pour le même usage, et le cadrage du fournisseur l'affirme haut et fort : les modèles de comparaison ont été choisis pour leur capacité à tenir dans 24 Go de mémoire avec une quantification en 4 bits. Bolt tient dans 24 Go par une autre voie — 2,0625 bits par poids sur ses couches d'experts — et l'écart entre ces deux stratégies est toute l'histoire.

Les deux chiffres du titre sont réels. Artificial Analysis a mesuré Bolt à 21 sur son Intelligence Index et Gemma 4 26B A4B, dans sa configuration de raisonnement, à 17. Aucun des deux chiffres ne provient d'un fournisseur, et tous deux étaient affichés sur les pages de modèles du panel au moment de la rédaction.

La comparaison menée par N{{1}}VIDIA, et la colonne qu'il a choisie

Le tableau de N​VIDIA pour Bolt comporte quatre colonnes : Qwen3.6-35B-A3B en BF16, G​emma 4 26B-A4B en BF16, N​emotron 3.5 Lightning 30B-A3B en BF16, et Bolt en IQ2. Chaque nombre qu'il contient est rapporté par le fournisseur et n'a été reproduit par aucun tiers indépendant. Voici la colonne G​emma comparée à celle de Bolt, benchmark par benchmark.

• GDPVal-AA-V2 — G​emma 15,33, Bolt 28,47

• Terminal-Bench 2.1 — Gemma 37,22, Bolt 50,98

• Tau3 Banking — Gemma 14.02, Bolt 17.01

• HLE sans outils — G​emma 17.42, Bolt 25.30

• SciCode — G​emma 40.28, Bolt 41.02

• GPQA Diamond — G​emma 79,61, Bolt 86,43

• AA-LCR récupération à long contexte — G​emma 57.56, Bolt 64.06

• PinchBench — G​emma 74.70, Bolt 87.82

• WebArena vision — G​emma 38,2, Bolt 50,86

• Exactitude AA-Omniscience — G​emma 22,17, Bolt 16,90. G​emma remporte cette ligne, et c’est la seule du tableau où c’est le cas.

• AA-Omniscience non-hallucination — G​emma 14,22, Bolt 61,27. C’est une perte importante et spécifique pour la lignée de G​emma, et il vaut la peine de s’y arrêter : la métrique de non-hallucination Omniscience pénalise un modèle qui répond avec assurance alors qu’il ne sait pas quelque chose, et la version de G​emma enregistrée ici obtient environ un quart du chiffre de Bolt.

Une réserve s'applique à l'ensemble du bloc. NVIDIA a tout exécuté, y compris la colonne Gemma, sur une version BF16 de Gemma contre une version 2 bits de son propre modèle, puis a rapporté le résultat sur sa propre fiche modèle.

Deux points de contrôle, deux régimes de compression

Gemma 4 26B A4B est un produit déjà sorti, avec un an d'utilisation derrière lui. Il est arrivé sur Hugging Face le 11 mars 2026 sous licence Apache 2.0, avec 25,2 milliards de paramètres au total et 3,8 milliards actifs par token, doté d'une pile d'attention hybride qui alterne des couches locales à fenêtre glissante et des couches globales, de 256K de contexte, d'une prise en charge native du prompt système et de la vision sur toutes les tailles de la famille. C'est un modèle que vous pouvez prendre en main, quantifier vous-même en 4 bits et exécuter, et un vaste écosystème de quantifications prêtes à l'emploi existe déjà.

Bolt est un résultat de compression revêtu d'une carte de modèle. NVIDIA a pris Nemotron 3.5 Super VL 120B-A12B — un checkpoint multimodal de la même génération — et lui a appliqué Star Elastic, une recherche d'architecture guidée par routeur qui doit satisfaire un budget de déploiement strict, en l'occurrence moins de 24 Go avec une taille de lot de 1 et un contexte de 128K. Le top-K des experts est passé de 22 dans le modèle parent à 9. Les poids des experts ont ensuite été quantifiés en IQ2-XXS à 2,0625 bits par élément, avec une distillation tenant compte de la quantification pour rattraper la précision ; les couches Mamba ont été laissées en NVFP4, les embeddings et les couches de sortie en Q8_0, et la tour de vision a été réattachée ensuite.

Le résultat, ce sont 74 milliards de paramètres dans un fichier de 24 Go. Il ne s’agit pas d’une quantification d’un modèle publié ; c’est un réseau de forme différente, recherché sous une contrainte de mémoire, puis entraîné à récupérer.

Pourquoi la largeur de bits importe plus que les paramètres

Mettez les deux côte à côte et la lecture intuitive est qu’un modèle 74B bat un modèle 26B. Cette lecture est probablement correcte dans ce cas, et ce n’est pas non plus la partie intéressante, car on demande aux deux modèles de faire des choses différentes avec les mêmes 24GB.

• Paramètres — Bolt 74B au total, 9B actifs par token. Gemma 4 26B A4B : 25,2B au total, 3,8B actifs par token.

• Architecture — Bolt : LatentMoE hybride Mamba-2–Transformer avec un encodeur visuel C-RADIO v4-H. G​emma : MoE à attention hybride locale/globale avec une tour de vision et, sur les autres tailles de la famille, l’audio.

• Précision stockée — Bolt est livré nativement à 2,0625 bits par poids d’expert. Le dépôt de Gemma est en 16 bits, avec des versions 4 bits et d’entraînement sensible à la quantification publiées séparément.

• Contexte — Bolt jusqu'à 256 000 tokens. Gemma 4 26B A4B : 256 000 tokens. Cette ligne est à égalité, ce qui surprend les gens qui supposent que le modèle 2 bits a fait une concession ici. Il n'en a rien fait.

• Entrées — Bolt accepte le texte, les images et la vidéo. Gemma 4 26B A4B accepte le texte et les images ; la vidéo arrive sous forme de trames, et l’audio est réservé aux membres plus petits de la famille.

• Licence — Bolt : OpenMDW-1.1. Gemma 4 26B A4B : Apache 2.0, accompagnée de la politique d'utilisation interdite de G​oogle.

• Décodage spéculatif — Bolt embarque un drafteur LiLiCorr, intégré via DFlash avec sept jetons spéculatifs dans la recette de référence de N​VIDIA. Gemma 4 26B A4B n’a pas de drafteur fourni par le fournisseur ; la prédiction multi-jetons apparaît dans les fine-tunes communautaires plutôt que dans la version de base.

La conséquence pratique de la ligne de précision est que le téléchargement de Bolt est déjà la petite version. Il n'y a pas d'autre build 2 bits à chercher, car le build 2 bits, c'est le modèle. Le 26B de Gemma est un checkpoint 16 bits que vous êtes censé compresser, et la version 4 bits que la plupart des gens serviront réellement est la conversion qu'en a faite quelqu'un d'autre.

Là où le modèle plus petit est le meilleur achat

Le tableau de NVIDIA lui-même donne à Gemma deux choses qui méritent d’être prises au sérieux. L’exactitude d’AA-Omniscience donne l’avantage à Gemma, à 22,17 contre 16,90, et la lecture honnête de ce résultat est que la compression sur 2 bits a eu un coût mesurable sur le rappel factuel, même après distillation. Quiconque a une charge de travail encyclopédique plutôt qu’agentique devrait accorder beaucoup de poids à cette ligne.

Les licences viennent en deuxième. Apache 2.0 est l’option la moins contraignante disponible pour un déploiement commercial, et OpenMDW-1.1, bien que conçue pour être permissive et explicitement autorisée par NVIDIA pour un usage commercial, est un instrument plus récent, avec moins de littérature à son sujet et aucune décision de justice l’ayant interprété. Les équipes juridiques ont déjà vu l’une de ces deux licences, mais pas l’autre.

Troisièmement, la maturité. Gemma 4 26B A4B est téléchargeable depuis mars et peut être appelé depuis un point de terminaison hébergé depuis le printemps. Il existe des versions quantifiées, des fine-tunes, des recettes de serving et des reproductions de benchmarks. Le dépôt de Bolt a été mis en ligne en octobre. Rien d’indépendant n’a été publié au sujet de sa latence, et il n’existe aucune quantification communautaire sur laquelle se rabattre, car il n’y a rien à quantifier.

Quatrièmement, et il est facile de passer à côté : les variantes de G​emma de 21B et moins intègrent nativement l’audio. Si le pipeline fait intervenir la parole, le 26B A4B est le mauvais membre de sa propre famille, et aucun modèle N​emotron n’est le bon.

Ce que chacun coûte réellement à détenir

Bolt n'a pas de prix, et ce n'est pas un oubli dans les données. Il n'existe nulle part de point de terminaison hébergé pour lui, aucun tarif à l'usage sur la page de modèle d'Artificial Analysis, et aucun fournisseur ne le propose. L'exécuter signifie posséder la machine, et la recette de référence de N​VIDIA est un week-end plutôt qu'un après-midi : une image nightly vLLM épinglée, le paquet de noyau b12x, un plugin d'analyseur de raisonnement récupéré sous forme de fichier séparé, puis des paramètres explicites pour l'exécuteur de modèle v2, les backends linéaires et MoE, les backends d'attention et Mamba, les types de données du cache Mamba, le préremplissage par blocs et une configuration de décodage spéculatif pointant vers le drafter LiLiCorr.

Gemma 4 26B A4B a un prix à deux endroits. Dans le catalogue que nous routons, google/gemma-4-26b-a4b-it est listé à 0,06 $ par million de tokens d'entrée et 0,33 $ par million de tokens de sortie, avec un contexte de 262 144 tokens et un temps médian avant le premier token d'environ 2,8 secondes — il s'agit de notre propre mesure sur les sept derniers jours, et non d'une affirmation d'un fournisseur. Artificial Analysis suit un autre ensemble de fournisseurs pour le même modèle et affiche 0,10 $ en entrée et 0,40 $ en sortie, le genre d'écart qui vous dit que le prix est une propriété du point de terminaison et non des poids. Les deux chiffres sont honnêtes ; ce sont les prix de choses différentes.

OrcaRouter place les modèles que nous routons derrière une seule clé, au prix catalogue du fournisseur, avec 0 % de marge ajoutée, de sorte qu'une baisse de prix d'un fournisseur sur un modèle routé est effective de notre côté le jour même, et le basculement automatique entre fournisseurs signifie qu'un problème de capacité en amont est retenté plutôt que présenté à vos utilisateurs. Nous n'hébergeons aucun checkpoint N​emotron — le catalogue a été vérifié plutôt que supposé, et la famille n'y figure pas — donc sur cette page, ces garanties couvrent la moitié G​emma de la comparaison et rien d'autre. Ce qu'elles valent en pratique, c'est un moyen d'essayer le plus petit modèle sur du trafic réel sans second contrat, pendant que vous décidez si le plus grand vaut le matériel.

Choisir entre un fichier et un service

Cette comparaison n'est pas serrée en termes de capacités, et elle n'est pas censée l'être. Bolt est un modèle plus grand et plus capable qui a été fortement compressé et qui ne peut pas être loué. Gemma 4 26B A4B est un modèle légèrement plus faible que vous pouvez louer dès aujourd'hui, et dont les faiblesses sont documentées par des personnes qui n'ont rien à y gagner.

Choisissez Bolt si la charge de travail implique des captures d’écran, des PDF, des images vidéo ou un navigateur, si elle doit fonctionner sans réseau, et si une machine dotée d’un accélérateur de classe Blackwell est déjà dans la salle. Acceptez que ce soit vous qui découvrirez son débit, car personne ne l’a publié. Choisissez Gemma 4 26B A4B si vous voulez un modèle texte et image dont vous pouvez payer l’usage au million de tokens cet après-midi, si vous avez besoin d’Apache 2.0, ou si le rappel factuel sur un large ensemble de questions compte plus que l’accomplissement de tâches agentiques.

La mesure qui permettrait de trancher est celle que personne n'a effectuée : un test indépendant de débit et de latence sur le checkpoint 24 Go, et une reproduction indépendante du tableau de N​VIDIA avec G​emma quantifié sur les mêmes 4 bits que ceux que le fournisseur dit avoir retenus. Tant qu'elles n'existent pas, l'argument en faveur de Bolt repose sur un tableau de fournisseur et un nombre de paramètres, et l'argument en faveur de G​emma repose sur un an de résultats obtenus par d'autres.

Les comparaisons comme celle-ci sont également le lieu où se manifestent les modes de défaillance : les incidents d'IA documentés et les défaillances d'agents derrière les modèles de cette classe sont collectés dans l'Archive des incidents d'IA d'OrcaRouter, où chaque entrée comporte ses propres sources, sa gravité, sa note de confiance et son indicateur de contestation.