Nemotron 3.5 Bolt E4B 4GB : ce qui a réellement été livré, et pourquoi le nom induit en erreur

NVIDIA-Nemotron-3.5-Bolt-E4B-4GB est apparu en ligne sur Hugging Face le 23 octobre 2026, et la première chose à en dire relève de l’arithmétique : le fichier pèse 6.18GB. Le nom indique 4GB. Les deux chiffres sont réels, ils mesurent des choses différentes, et l’écart entre eux est le fait le plus utile de cette publication.

Le blog technique de NVIDIA qualifie 4 Go d’enveloppe mémoire prévue pour les charges de travail ciblées du modèle — un budget pour ce que le modèle devrait occuper pendant qu’une application s’exécute à côté. Ce n’est pas un nombre de paramètres ni une taille de téléchargement. Le checkpoint lui-même totalise 8 milliards de paramètres, dont 4 milliards effectifs, post-entraîné à partir de Gemma-4-E4B-it, et publié en exactement deux précisions : une version BF16 de 15,88 Go et un GGUF Q4_K_M de 6,18 Go. Si vous cherchez un fichier de quatre gigaoctets à déposer sur un appareil, il n’y en a pas dans le dépôt.

Cela mérite d’être dit clairement, car le reste de la publication est d’une lisibilité inhabituelle. La fiche du modèle est détaillée, le rapport technique est public et le tableau des latences mesurées couvre quatre appareils. Ce qui manque, c’est une vérification indépendante, et la fiche le dit elle-même.

La publication, reconstituée à partir de ce qui est public

Celui-ci n’a pas eu droit à un lancement. Il a eu une note de bas de page, puis un article de blog.

• 5 octobre 2026 — les dépôts Hugging Face des versions Q4_K_M et BF16 sont créés. Aucun des deux ne contient de poids.

• 15 octobre 2026 — NVIDIA annonce la famille Nemotron 3.5 : Super VL 120B-A12B et Bolt 74B-A9B 24GB, tous deux disponibles ce jour-là. L’E4B n’a droit qu’à deux phrases et à une date : arrivée le 23 octobre.

• 23 octobre 2026 — les poids Q4_K_M et BF16 sont publiés, la fiche modèle est mise en ligne, et le laboratoire de recherche de NVIDIA publie un blog technique et un rapport technique. Il n’y a pas de communiqué de presse d’entreprise, et la couverture de lancement qui a suivi l’annonce du 15 octobre ne revient pas pour ce lancement.

Donc « lancé discrètement » est exact, mais « secret » ne le serait pas. NVIDIA a nommé le modèle, l’a daté, puis l’a documenté correctement le jour même. Ce qu’elle n’a pas fait, c’est présenter l’E4B aux mêmes journalistes qui avaient couvert ses frères et sœurs. La conséquence pratique pour quiconque lit ceci dans les premières semaines est que presque toutes les affirmations ci-dessous remontent à une seule source : NVIDIA.

Quatre gigaoctets, c’est un budget, pas un téléchargement

Les tailles de fichiers publiées ne laissent aucune ambiguïté dès lors que l’on examine le dépôt plutôt que le nom.

• Q4_K_M GGUF — 6 180 446 208 octets, soit 6,18 Go en termes décimaux, dans un seul fichier nommé Nemotron-3.5-Bolt-E4B-Q4_K_M.gguf.

• BF16 safetensors — 15 882 494 698 octets, soit 15,88 Go, en un seul shard, plus un fichier KV partagé gelé de 110 Mo.

• Aucun artefact 4GB — il n'existe pas de quantification plus petite dans le dépôt, et la fiche ne publie aucun fichier correspondant au nombre indiqué dans le nom.

Ce que NVIDIA publie, en revanche, c’est une mesure llama.cpp avec un batch de 1 sur quatre appareils, et c’est dans ce tableau que l’affirmation des 4 Go devient concrète :

• RTX 5070 12GB — 3,5 à 4,3 Go de VRAM, 548 à 1 238 ms de temps jusqu’au premier token, 106,2 à 133,4 tokens par seconde.

• RTX Spark 32GB — de 3,1 à 4,2 Go de VRAM, de 930 à 1 988 ms jusqu’au premier token, de 52,0 à 67,0 tokens par seconde.

• Jetson Orin Nano 8GB — 4,2 à 4,9 Go de VRAM, 5 785 à 6 259 ms jusqu'au premier token, 13,0 à 15,5 tokens par seconde.

Jetson AGX Orin 32 Go — 4,2 à 5,0 Go de VRAM, 3 687 à 4 091 ms jusqu’au premier token, 20,3 à 24,0 tokens par seconde.

Les chiffres de VRAM se situent sous la taille de fichier de 6,18 Go, ce qui signifie que le runtime ne garde pas l’intégralité du fichier résident sur le GPU lors de ces exécutions. La carte n’explique pas le mécanisme, et c’est un bon endroit pour résister à la tentation d’en inventer un : les poids mappés en mémoire, le déport partiel et le dimensionnement du cache KV interagissent tous, et NVIDIA n’a pas publié la répartition. Ce que l’on peut dire, c’est que l’enveloppe de 4 Go est un résultat mesuré sur un matériel spécifique dans un runtime spécifique, et non une propriété du téléchargement.

La ligne Orin Nano est celle qu’il faut lire deux fois si l’argument de vente est l’assistance vocale. Treize à quinze jetons par seconde avec près de six secondes avant le premier jeton, c’est un agent embarqué viable et un piètre partenaire de conversation en temps réel. La ligne RTX 5070 est l’inverse : assez rapide pour un usage interactif, sur un GPU de bureau.

Ce que NVIDIA a réellement changé dans Gemma 4 E4B

L'architecture est reprise dans son intégralité. Il s'agit de Gemma-4-E4B, un modèle de type mixture totalisant 8 milliards de paramètres avec 4 milliards de paramètres effectifs, et la contribution de NVIDIA porte sur le post-entraînement plutôt que sur une nouvelle architecture de base. La fiche technique présente ces travaux comme de l'apprentissage par renforcement à partir de récompenses vérifiables et de retours humains, via NeMo-RL et NeMo-Gym, couvrant l'appel d'outils et les schémas, le suivi d'instructions et la hiérarchie, les sorties structurées, le formatage libre et la modélisation générative de récompenses. Les lots d'entraînement présentaient un ratio de 2:1 entre échantillons sans raisonnement et échantillons avec raisonnement, et NVIDIA a accru les pénalités de longueur pour maîtriser la verbosité — un détail qui réapparaît plus loin dans le tableau de benchmarks.

La version Q4_K_M a été produite avec llama.cpp en utilisant une calibration imatrix sur environ un million de jetons de rollouts RL. Il existe également un drafteur DFlash pour le décodage spéculatif, dont NVIDIA affirme qu'il a offert jusqu'à 21 % de débit en plus que le drafteur de prédiction multi-jetons d'origine de Gemma-4-E4B. Le drafteur se trouve dans un dépôt distinct et, au moment de la vérification, il renvoyait HTTP 401 aux requêtes anonymes ; il faut donc le considérer comme une étape d'accès supplémentaire plutôt que comme un téléchargement le jour même.

Deux interrupteurs du gabarit de conversation accomplissent l’essentiel du travail comportemental. enable_thinking active ou désactive le raisonnement et accepte un budget de réflexion à l’exécution ; conversational_mode ajoute une instruction système de conversation orale pour des réponses courtes et peu formatées. Ce second interrupteur est révélateur. Ce modèle est conçu pour parler, pas pour remplir une fenêtre de contexte avec de l’analyse.

Le contexte est de 64K en entrée et de 64K en sortie. La couverture linguistique est de 34 dans les métadonnées Hugging Face et de 35 dans le blog technique — une petite incohérence, sans réelle incidence sur le fond, et la fiche de post-entraînement cite l’anglais, le français, l’allemand, l’italien, le japonais, l’espagnol et le chinois comme langues principales.

La licence est un empilement plutôt qu’un document unique : OpenMDW-1.1 pour la contribution de NVIDIA, Apache 2.0 pour le composant Gemma 4. La fiche indique que le modèle est prêt pour un usage commercial ou non commercial. OpenMDW est une licence permissive mais non approuvée par l’OSI, ce qui compte davantage pour les équipes juridiques que pour les développeurs.

Le tableau de référence, lu en regard des modèles qu’il nomme

NVIDIA a évalué le modèle face à Gemma4 E4B-it, Qwen3.5 4B et son propre Nemotron 3 Nano-4B, dans un cadre NeMo-Gym cohérent. Chaque chiffre ci-dessous est déclaré par le fournisseur et non reproduit. La fiche indique que les chiffres « peuvent différer des chiffres auto-déclarés des fournisseurs », ce qui est une mise en garde honnête et aussi un rappel que le panel de comparaison est le choix de NVIDIA.

Les gains sont concentrés dans la conversation et le contrôle :

• RoleBench Custom — 67,05 pour Bolt E4B contre 53,66 pour Qwen3.5 4B, 49,95 pour Gemma4 E4B-it et 12,02 pour Nano-4B. Il s'agit du benchmark de personas, et l'écart est le plus large du tableau.

• IHEval, hiérarchie des instructions — 84,79 contre 60,57, 67,04 et 51,31. Une avance de 17 points sur le concurrent le plus proche est inhabituelle à cette taille.

• When2Call Multi-Turn — 63,36 contre 37,85 pour Qwen3.5 4B, 62,90 pour Gemma4 et 27,70 pour Nano-4B. Savoir quand ne pas appeler un outil est une compétence conversationnelle tout autant qu’agentique.

• RelyToolBench — 63,16 contre 43,35, 61,60 et 41,20. L’ancrage dans les sorties d’outils, une fois encore une compétence proche de la conversation.

• MultiChallenge — 53,10 contre 51,76, 42,08 et 35,30. Une courte victoire sur la gestion des défis multi-tours.

Les pertes sont tout aussi claires, et ce sont celles qui comptent si vous voulez un agent plutôt qu’un personnage :

• Tau2-Bench — 55,10 contre 75,06 pour Qwen3.5 4B. C'est un déficit de 20 points sur l'accomplissement de tâches agentiques multi-tours, et aucune qualité de persona, aussi bonne soit-elle, ne comble cet écart.

• RULER à 64K — 86,99 contre 95,15 pour Qwen3.5 4B et 91,51 pour Nano-4B. Le modèle accepte 64K de contexte ; il ne récupère pas les informations sur toute cette étendue avec la même fiabilité que ses pairs.

• LongBench v2 à 48K — 50,50 contre 59,93 pour Qwen3.5 4B. Même constat pour le raisonnement sur documents longs.

• BFCL-v3 — 68,51 contre 70,95 pour Qwen3.5 4B. Un léger déficit en appel de fonctions, et une victoire sur les 66,39 de Gemma4.

• EQ-Bench v3 — 39,40 contre 41,17 pour Gemma4 E4B-it. La seule ligne d’intelligence émotionnelle où le parent dépasse l’enfant.

La colonne Q4_K_M est plus intéressante qu'une table de quantification ne l'est habituellement. La compression n'a pas entraîné une perte uniforme de précision : MultiChallenge passe de 53,10 à 55,60, RoleBench de 67,05 à 71,21, ToolSandbox de 68,77 à 74,13 et RelyToolBench de 63,16 à 69,29. Elle baisse sur Tau2, de 55,10 à 52,32, sur LongMemEval, de 72,10 à 69,92, et sur RULER, de 86,99 à 85,76. Une version quatre bits qui améliore plusieurs scores conversationnels est plausible lorsque les données de calibration proviennent des rollouts RL du modèle lui-même, mais il s'agit toujours d'une mesure de fournisseur, et le bruit au niveau des benchmarks dans un modèle 4B est suffisamment important pour que ces écarts ne doivent pas être interprétés comme une échelle de précision.

Deux lignes méritent leur propre mention. Brevity Bench et When2Call Multi-Turn sont des évaluations que NVIDIA présente comme comblant des lacunes dans les benchmarks existants, et le blog indique qu'elles seront publiées à une date ultérieure. Elles ne sont pas reproductibles de manière indépendante aujourd'hui — ce qui importe surtout pour Brevity, car c'est cette ligne qui porte l'argument des moins de tokens en sortie.

La principale affirmation de NVIDIA est que le modèle obtient en moyenne environ 40 % de meilleurs résultats que Nemotron 3 Nano-4B et environ 10 % de meilleurs résultats que les modèles comparables, avec jusqu’à 80 % de tokens de sortie en moins dans les comparaisons avec raisonnement activé. Le chiffre de 80 % est une affirmation sur la verbosité, non sur l’exactitude, et il concorde avec le score de 82,52 au Brevity Benchmark — que NVIDIA a intégré à sa propre suite. Prenez la direction au sérieux et le pourcentage exact avec des pincettes.

Ce que le dépôt ne vous dira pas

La fiche est franche au sujet de ses propres lacunes, et ces lacunes méritent d’être énumérées, car elles définissent le niveau de confiance que la version permet d’accorder.

• Aucune évaluation indépendante. Artificial Analysis n’a pas de page modèle pour l’E4B au moment de la rédaction, et aucun tiers n’a publié de reproduction du tableau de référence à 21 lignes.

• Aucun prix hébergé. La fiche date une annonce Build.NVIDIA.com au 23 octobre, mais aucun prix par token n'est publié là ni dans la fiche. Si vous voulez une API, vous négociez ou vous utilisez un niveau gratuit, vous ne lisez pas une grille tarifaire.

Le déploiement est marqué « llama.cpp (recette en attente) » alors même que le guide de démarrage rapide contient des commandes llama.cpp fonctionnelles. Il s’agit d’une contradiction documentaire, et non technique, mais c’est le genre de chose qui fait trébucher un pipeline de déploiement automatisé.

• L'objectif de 4 Go n'est pas démontré sous forme de fichier. L'enveloppe de VRAM mesurée constitue la preuve ; le téléchargement représente 6,18 Go.

• Les sous-fiches sur la sécurité, les biais, l’explicabilité et la confidentialité existent sous forme de fichiers séparés. Cet article ne les audite pas, et aucun organisme indépendant ne le fait encore.

Rien de tout cela ne rend la publication indigne de confiance. Cela la rend prématurée. Une fiche de modèle rédigée par l’équipe qui a entraîné le modèle constitue la meilleure description disponible de ce à quoi le modèle est destiné ; ce n’est pas une preuve qu’il y parvient.

Là où s’arrête un modèle local 4B, et ce qu’il faut mettre derrière

L’architecture honnête pour cette classe de modèles est une architecture scindée. Un checkpoint conversationnel de 4B sur un Jetson ou une carte RTX est excellent pour la couche réflexe : réponses au mot de réveil, dialogue de persona, appels d’outils courts, ancrage des entrées, les parties d’une interface qui ne peuvent pas se permettre un aller-retour réseau. Ce n’est pas ce que vous voulez utiliser pour répondre à une question nécessitant 200K de contexte ou un plan agentique en dix étapes, et son propre tableau de benchmarks le dit.

Cela laisse à chaque déploiement une deuxième question : qui traite les requêtes que le modèle local ne devrait pas gérer. Placer un modèle hébergé derrière la même application via OrcaRouter signifie une seule API pour plus de 200 modèles, 0 % de majoration sur le tarif catalogue du fournisseur, et un basculement automatique lorsqu’un fournisseur se dégrade — le chemin d’escalade devient donc une décision de routage plutôt qu’un deuxième SDK, une deuxième clé et une deuxième relation de facturation. Le modèle local reste le chemin rapide ; le modèle hébergé est le repli pour les cas pour lesquels l’E4B n’a jamais été entraîné.

Qu’est-ce qui changerait cette image ?

Trois choses, par ordre d’utilité. Une exécution indépendante du benchmark sur le même harnais permettrait de déterminer si le profil à forte composante conversationnelle résiste en dehors de l’évaluation de NVIDIA. Un artefact publié de 4 Go ou moins rendrait le nom littéral. Et un prix sur le point de terminaison Build transformerait le modèle d’un téléchargement en un service que l’on peut comparer.

D’ici là, la lecture correcte est étroite et utile : NVIDIA a post-entraîné Gemma 4 E4B pour en faire un petit modèle conversationnel manifestement meilleur, a publié les preuves et les limites dans le même document, et l’a livré une semaine après le lancement de la famille, presque sans bruit. Le 4GB du nom est une cible que la mémoire d’exécution mesurée atteint, mais que le téléchargement n’atteint pas. Prévoyez votre stockage autour de 6.18GB et vos attentes autour de 13 à 133 jetons par seconde, selon l’appareil que vous possédez réellement.