Nanbeige4.3-33B : 17 victoires sur 20, un contexte de 512K et aucun test indépendant

À 02:49 UTC le 24 octobre 2026, un dépôt Hugging Face appelé Nanbeige/Nanbeige4.3-33B est devenu public, quatre minutes après le checkpoint de base qui porte le même nom. Aucun article de lancement n’est paru. Aucune entrée de blog, aucune annonce du fournisseur, aucun communiqué de presse — la fiche du modèle est l’unique source de première main d’une publication de poids ouverts de 33,1 milliards de paramètres dont l’argument phare est de dépasser Qwen3.8-27B sur 18 des 20 benchmarks. Cette affirmation n’est pas fausse. Elle n’est pas non plus vérifiable pour l’instant, et la couverture médiatique depuis a surtout repris le tableau sans lire les notes de bas de page situées en dessous.

Ainsi, les chiffres disent deux choses à la fois. Nanbeige4.3-33B arrive en tête sur 17 des 20 lignes de son propre tableau, et il devance Qwen3.8-27B sur 18 d'entre elles. Ce sont deux décomptes différents, et les deux sont exacts : les trois lignes où il n'arrive pas en tête sont SWE-Bench Pro, où Qwen3.8-27B l'emporte 61,7 contre 60,3, GDPval, où Qwen3.8-27B l'emporte 86,4 contre 84,8, et GPQA Diamond, où le 91,3 de Gemma4-31B bat les deux. Perdre deux lignes face à Qwen3.8-27B et une face à Gemma4-31B donne 18 sur 20 contre le modèle Qwen et 17 sur 20 contre l'ensemble du terrain. La plupart des comptes rendus retiennent un seul chiffre et passent l'autre sous silence, un petit détail qui en dit long sur l'attention avec laquelle le reste a été lu.

Ce que le dépôt établit, et ce qu’il n’établit pas

Commencez par ce qui peut être vérifié en ouvrant des fichiers plutôt qu'en citant de la prose, car c'est l'écart entre les deux qui est révélateur ici.

• Confirmé : les poids existent. Quatorze fragments safetensors totalisant 66 259 989 086 octets, bfloat16, dans un dépôt créé à 02:49:18Z le 24 octobre 2026 et modifié pour la dernière fois à 11:11Z le 25 octobre. Un point de contrôle de base distinct, Nanbeige4.3-33B-Base a été créé trois minutes plus tôt à 02:46:52Z.

• Confirmé : la licence est Apache 2.0, déclarée dans les métadonnées du dépôt et dans le front matter de la carte. Il n’y a pas de fichier LICENSE parmi les huit fichiers autres que les poids, ce qui constitue une lacune administrative plutôt que juridique — c’est le champ de métadonnées que le Hub et la plupart des scanners lisent.

• Confirmé : l’architecture est une pile Llama classique, ni un mélange d’experts ni la conception de transformateur bouclé utilisée par les petits modèles de la famille. Plus de détails sur la configuration ci-dessous.

• Confirmé : il n’existe aucun point de terminaison hébergé par un fournisseur. Le mappage des fournisseurs d’inférence du Hub pour ce dépôt est vide, et la fiche propose vLLM, SGLang et Transformers, dans cet esprit : apportez vos propres GPU.

• Non confirmé :rien sur la façon dont il a été entraîné. Aucun nombre de tokens de préentraînement, aucun mélange de données, aucun chiffre de calcul, aucune recette de post-entraînement, et aucune section sur les limites ou la sécurité. Le bloc de citations de la fiche fait quatre lignes.

• Non confirmé : le fait que tout chiffre publié soit reproductible. Il n’existe aucun harnais d’évaluation dans le dépôt — aucun script, aucune configuration de tâche, aucun journal — et au 26 octobre, aucun tiers n’a publié de score, de note d’arène ni de placement dans un index pour ce modèle.

• Non confirmé :que la sortie ait été discrète. Elle ne l’a pas été. Le laboratoire ne l’a pas annoncée, ce qui est une description plus restreinte et plus exacte : la fiche est un document de lancement complet avec un tableau de benchmarks de vingt lignes, et les agrégateurs l’ont relayé en l’espace d’un jour. Ce qui manque, c’est une publication de première main expliquant ce que Nanbeige pense avoir construit.

Cette distinction compte pour quiconque doit décider que faire de la publication. Un laboratoire qui ne dit rien ne vous a rien appris sur ses intentions, son soutien ni son prochain jalon. Un laboratoire qui publie une fiche modèle mais aucun article vous a beaucoup appris sur le modèle et a laissé la stratégie implicite — et, en l’occurrence, la stratégie est énoncée clairement au deuxième paragraphe de la fiche, une fois qu’on y prête attention.

La carte le qualifie d’enseignant, et cela recadre toute la sortie.

Nanbeige4.3-33B est décrit comme le « modèle enseignant phare » de la série Nanbeige4.3, construit en premier afin que le laboratoire puisse distiller le comportement agentique dans des modèles plus petits, « par exemple pour Nanbeige4.3-3B ». La fiche indique comme objectif « des performances agentiques de pointe parmi les modèles ouverts de la classe d’environ 30 milliards de paramètres », puis décrit immédiatement le 33B comme la base d’un pipeline de distillation plutôt que comme le produit final.

Si on le lit littéralement, cette publication est un artefact d’entraînement qui se trouve être livrable. C’est le modèle que l’on utilise pour générer des trajectoires pour un modèle étudiant de 3B, et si sa suite de benchmarks est si chargée en tâches d’agent à long horizon — Terminal-Bench, DeepSWE, JobBench, Toolathlon —, c’est parce que ce sont les comportements que l’on cherche à transférer. Nanbeige4.3-3B n’est pas encore sorti. Quand il sortira, ce sera le modèle que la plupart des gens utiliseront réellement, et ce 33B sera ce qui explique ses scores.

Il y a un effet secondaire qu’il vaut la peine de nommer : un modèle enseignant est optimisé pour produire de bonnes trajectoires avec un budget de tokens généreux, et non pour être économe à l’inférence. Les paramètres recommandés dans la fiche le confirment — 65 536 nouveaux tokens maximum pour le travail agentique et 262 144 pour le raisonnement et le chat, avec la réflexion activée par défaut. Un modèle invité à émettre un quart de million de tokens n’est pas un modèle que l’on place derrière une interface de chat sans budget.

Le 33B que décrit le fichier de configuration

Lisez config.json et la structure est conventionnelle, contrairement au marketing. Cinquante-deux couches, taille cachée 7 168, 56 têtes de requête contre 8 têtes clé-valeur — un ratio de requêtes groupées de 7:1 — dimension de tête 128, une largeur FFN de 22 016, et un vocabulaire de 166 912 tokens. La base RoPE est de 120 000 000 sans mise à l’échelle appliquée, et max_position_embeddings est défini à 524 288. La version de transformers indiquée dans le fichier est 4.51.1.

Le nombre de paramètres découle de ces chiffres. Les projections d’attention totalisent 117,4 millions de paramètres par couche, le MLP à trois couches 473,4 millions, soit 590,9 millions par bloc sur 52 blocs : 30,7 milliards. Deux matrices d’embedding non liées de 166 912 par 7 168 ajoutent 2,4 milliards. Le total est de 33,1 milliards, ce que le nom promet et ce que pèsent 66,3 Go de bfloat16.

Face au modèle qu'il passe son temps à attaquer sur la table, les différences sont plus marquées que ne le suggèrent les scores.

• Taille — 33,1 B dense pour Nanbeige4.3-33B vs 27,78 B dense pour Qwen3.8-27B. Les deux sont denses ; aucun des deux n’est un mélange d’experts.

• Modalité — texte uniquement, en anglais et en chinois, pour Nanbeige4.3-33B, contre une entrée native texte, image et vidéo pour Qwen3.8-27B. Si votre pipeline lit des captures d’écran, la comparaison est terminée avant même que les benchmarks ne commencent.

• Attention — attention pleine et uniforme sur 52 couches pour Nanbeige4.3-33B, contre une pile hybride pour Qwen3.8-27B, qui exécute 48 couches linéaires DeltaNet à portes face à 16 couches d’attention pleine selon un motif 3:1. C’est pourquoi le modèle Qwen est économique en contexte long, et celui-ci ne l’est pas.

• Contexte — 524 288 tokens natifs pour Nanbeige4.3-33B contre 262 144 natifs, extensibles à environ 1 M avec YaRN, pour Qwen3.8-27B.

• Licence — Apache 2.0 pour les deux, ce qui élimine la raison habituelle d'en préférer un.

La différence d’attention n’est pas une note de bas de page. C’est toute la raison pour laquelle la section suivante existe.

512K est une valeur dans un fichier de configuration, pas un contexte de travail

Chaque résumé de cette version s’ouvre sur la fenêtre d’un demi-million de jetons. Presque aucun d’entre eux ne fait le calcul, et le calcul est impitoyable.

Avec 52 couches, 8 têtes clé-valeur de 128 dimensions et un stockage en bfloat16, chaque token dans le cache coûte 2 × 52 × 8 × 128 × 2 octets — 212 992 octets, soit 208 Kio. Trois conséquences en découlent directement.

• À pleine capacité de 524 288 tokens, le cache KV représente à lui seul 111,7 Go, soit environ 104 Gio. C’est plus que les 66,3 Go de poids, et cela ne tient sur aucun accélérateur unique vendu aujourd’hui.

• À 131 072 jetons — un quart de la fenêtre annoncée — le cache atteint 27,9 Go, soit environ 26 Gio. Ajoutez les poids et vous êtes à 92 Go avant les activations, ce qui explique pourquoi les exemples propres à la carte utilisent un parallélisme tensoriel sur quatre voies.

À 32 768 tokens, le cache est de 6,98 GB, soit environ 6,5 GiB. C'est le nombre qui compte en pratique, et c'est la longueur de contexte que l'exemple llama.cpp du dépôt GGUF de la communauté définit réellement.

Rien de tout cela ne rend l’affirmation des 512K malhonnête. La fenêtre est native — pas de YaRN, pas de facteur d’échelle, une base RoPE de 120 millions — et sur un nœud à quatre GPU disposant de suffisamment de mémoire, vous pouvez le servir. Cela signifie toutefois que le chiffre mis en avant est un plafond que vous n’atteindrez pas sur du matériel que vous possédez, et que quiconque cite « contexte 512K » comme raison d’achat n’a pas chiffré le cache. Comparez avec la conception du Qwen3.8-27B, où les trois quarts des couches conservent un état récurrent de taille constante au lieu d’un cache croissant : l’écart de coût par token en contexte long est structurel plutôt qu’une question de réglage.

Encore un détail de la configuration, et c'est le genre de détail qui coûte un après-midi : use_cache est défini sur false, à la fois dans config.json et generation_config.json. Charger le modèle via l'extrait Transformers de la carte et appeler generate sans surcharger ce paramètre recalculera le préfixe à chaque étape. Les chemins vLLM et SGLang gèrent leur propre cache et ne sont pas concernés. Si votre premier lancement de benchmark semble étrangement lent, vérifiez ceci avant de blâmer les poids.

Lire le tableau des benchmarks comme ses notes de bas de page vous invitent à le faire

Le tableau est mieux documenté que la plupart des tableaux de fournisseurs, et c'est dans la documentation que se nichent les réserves. Douze notes de bas de page figurent sous vingt lignes, et elles en disent plus sur la comparabilité que les scores eux-mêmes.

• Terminal-Bench 2.1 a été exécuté avec Terminus 2. Terminal-Bench 4.0 et DeepSWE ont été exécutés avec mini-swe-agent v2.4.6.

• NL2Repo a été exécuté avec le harnais Claude Code ; JobBench avec Claude Code plus un outil de recherche.

• Les réponses de SWE-Atlas-QnA ont été évaluées par rapport à 1 304 rubriques spécifiques aux tâches, en utilisant GPT-6 Sol comme juge avec un effort de raisonnement moyen. Un juge de rubrique est un second modèle dans la boucle, et ce n’est pas le modèle testé.

• Toolathlon-Verified n'impose aucune limite max_tokens sur les requêtes individuelles. Claw-Eval est évalué uniquement sur le sous-ensemble General, soit 157 tâches à un seul tour. YC-bench ne conserve que les dix tours de dialogue les plus récents comme historique avant chaque appel. GDPval utilise des grilles d'évaluation révisées.

• Nanbeige4.3-33B lui-même a été évalué avec preserve_thinking=true, qui conserve le raisonnement antérieur de l’assistant d’un tour à l’autre. La fiche recommande exactement cela pour l’utilisation d’outils multi-tours, et exactement l’inverse pour une conversation ordinaire.

Lues ensemble, ces notes décrivent une suite conçue pour mesurer le comportement d'agents sur un horizon long avec des budgets généreux. C'est une chose défendable à mesurer — c'est à cela que sert le modèle — mais c'est aussi le régime dans lequel le choix du harnais fait le plus varier les scores. Le plus grand écart du tableau, DeepSWE à 65.5 contre 42.5 pour Qwen3.8-27B, est un écart de 23 points sur un benchmark piloté par un échafaudage d'agent. Les écarts les plus faibles se trouvent dans les lignes où l'échafaudage compte le moins : AIME 2026 à 95.2 contre 94.5, Tau3-Bench à 48.8 contre 48.5, EnterpriseOps-Gym à 41.0 contre 40.2.

Ce schéma est compatible avec deux explications. Soit le modèle est réellement bien meilleur en codage agentique que ses pairs, soit les lignes agentiques sont celles où un laboratoire qui ajuste son propre scaffold sur son propre modèle gagne le plus. Rien dans le dépôt ne permet de distinguer entre elles, et la position honnête jusqu’à ce que quelqu’un relance la suite est que les deux sont plausibles. Les lignes où le modèle gagne d’un point ou moins — Tau3-Bench, EnterpriseOps-Gym, AIME, Claw-Eval à 78,3 contre 75,2 — sont celles qui ont le moins de chances de survivre à un harnais indépendant.

Ce qui n’existe pas, au 26 octobre, c’est le moindre chiffre externe. Aucune entrée dans l’index Artificial Analysis, aucune note d’arène, aucune reproduction par quiconque. Le chiffre AA-LCR de 84,0 de la fiche est Nanbeige exécutant un benchmark d’Artificial Analysis, et non Artificial Analysis exécutant Nanbeige.

Le seul test pratique à ce jour, et ce qu’il révèle

Une seule personne a publié quoi que ce soit provenant d’une exécution réelle des poids, et le résultat mérite d’être rapporté précisément parce qu’il est maigre. Un développeur japonais a chargé le checkpoint complet en bfloat16 sur un Colab A100 de 80 Go, en utilisant Transformers standard avec dtype et device mapping automatiques, et a mesuré environ 63 Go de VRAM utilisée. La première réponse, limitée à 1 024 nouveaux tokens, a pris environ onze secondes. Aucun chiffre de tokens par seconde n’a été donné ; l’impression était qu’un modèle dense de 33B en bfloat16 est lent, ce que prédit l’arithmétique.

Trois prompts se sont succédé. La comparaison entre 9.11 et 9.8 s’est révélée correcte, avec une explication décimale claire. Une question sur des personnages d’anime a produit un résultat subjectivement acceptable mais des noms brouillés. Une question sur le Premier ministre japonais a produit une réponse erronée, une date de coupure des connaissances revendiquée de juin 2024 et un nom halluciné. Une chaîne de pensée en anglais a fuité avant la balise de fermeture think.

Trois invites informels ne constituent pas une évaluation et ne doivent pas être lus comme telle. Ce sont plutôt un point de données qui concorde avec la structure du tableau du fournisseur : un modèle ajusté intensivement pour le travail agentique en anglais, dont les connaissances du monde accusent deux ans de retard, et peu remarquable dans une seconde langue. La fiche revendique l’anglais et le chinois ; personne n’a non plus publié de test en chinois.

Là où la version quantifiée cesse d’être le même modèle

La plupart des personnes qui font tourner ceci ne feront pas tourner 66 Go de bfloat16. Elles feront tourner un quant en 4 bits sur une seule carte, et les rapports de quantification apparus dans la journée suivant la sortie suggèrent qu’il s’agit d’une dégradation plus importante que d’habitude.

Le dépôt communautaire GGUF publie la divergence KL et le taux d'accord top-1 par rapport au modèle bfloat16, mesurés sur un corpus de texte standard, et son propre README avertit que le modèle est « particulièrement sensible à la quantification ».

• Q8_0, 35,2 Go — KL 0,0032, 98,0 % de concordance top-1.

• Matrice d'importance Q5_K_M, 24,7 Go — KL 0,0213, 94,7 % top-1.

• Matrice d'importance Q4_K_M, 21,2 Go — KL 0,0380, 92,6 % top-1.

• llama.cpp Q4_K_M standard, 20,1 Go — KL 0,0693, 89,9 % top-1. Même largeur de bits que la ligne ci-dessus, pour une dérive presque deux fois plus élevée.

• Matrice d’importance IQ3_S, 17,1 Go — KL 0,1019, 87,5 % top-1. Le README indique que les fichiers en dessous de 4 bits perdent nettement plus de précision.

Une conversion MLX en 8 bits affiche un top-1 de 98,6 % à KL 0,015, et compare une voie AWQ en 4 bits à 92,1 % de top-1 avec KL 0,181 — une chute nettement plus abrupte que le GGUF à matrice d’importance à largeur nominale égale.

La lecture pratique : si vous évaluez ce modèle en 4 bits sur une seule carte de 40 ou 48 Go et qu’il échoue à vos tâches d’agent, vous avez évalué un modèle qui concorde avec celui publié sur environ neuf jetons sur dix. Pour de la prose, c’est invisible. Pour les appels d’outils, où un argument mal formé met fin au tour, un taux de divergence de 7 % est un autre produit. Si les capacités agentiques revendiquées sont la raison de votre intérêt, le minimum honnête est Q5 avec une matrice d’importance, ou bfloat16 sur du matériel loué pour l’exécution de l’évaluation.

Ce que coûte l’essai, et comment l’essayer sans parier dessus

Nanbeige n’a publié aucun prix, car il n’y a rien à tarifer : le modèle est un ensemble de poids, pas un service, et le Hub ne répertorie aucun fournisseur d’inférence pour lui. Cela laisse trois options — quatre GPU de 80 Go pour le bfloat16, une carte de 48 Go en Q5, ou attendre qu’un fournisseur le référence.

À titre de comparaison, le modèle qu'il prétend surpasser est disponible à la demande. Qwen3.8-27B fonctionne sur OrcaRouter à 0,33 $ par million de jetons d'entrée et 2,40 $ par million de jetons de sortie, avec une fenêtre de 262K et un temps jusqu'au premier jeton p50 d'environ 2,95 secondes. Une invite agentique de 65 536 jetons plus 8 000 jetons de sortie coûte environ quatre cents. C'est le chiffre qu'un modèle 33B auto-hébergé doit battre, et il doit le battre en assumant le temps d'inactivité du GPU, le risque de quantification et l'absence de chemin de repli.

Nous n'hébergeons pas Nanbeige4.3-33B, et rien ici ne doit être lu comme une affirmation que nous le faisons. Ce que nous pouvons faire, c'est rendre la comparaison peu coûteuse dans l'autre sens : Orca Connect place votre propre GPU derrière la même clé que le catalogue hébergé, de sorte qu'un point de terminaison Nanbeige auto-hébergé et Qwen3.8-27B peuvent se trouver derrière un seul point de terminaison et une seule règle de routage pendant que vous décidez. Acheminez une part du trafic vers le nouveau checkpoint, conservez le modèle hébergé comme solution de repli, et laissez les journaux de requêtes — qualité, latence, coût par appel — trancher un débat que les tableaux des fournisseurs ne peuvent pas trancher. La marge de 0 % compte ici d'une manière bien précise : les prix catalogue des fournisseurs sont répercutés sans modification, ainsi, lorsqu'un fournisseur baisse un prix, la comparaison que vous avez mise en place la semaine dernière reste honnête.

Qui devrait agir sur ce point, et qui devrait attendre ?

Si vous construisez un pipeline de distillation, c’est le checkpoint ouvert le plus intéressant du mois. Un teacher dense de 33B avec une licence permissive, des paramètres d’échantillonnage documentés et une suite de benchmarks choisie pour mesurer exactement le comportement que vous voulez transférer est un atout utile, et le fait que le labo indique qu’il construit d’abord un teacher est un signal sur la direction que prend la série. Téléchargez-le, lancez votre propre évaluation et gardez les notes relatives au harness de la fiche du modèle à côté de vos résultats.

Si vous avez besoin d’un modèle en production cette semaine, attendez. Il n’existe aucun score indépendant, aucun point de terminaison hébergé, un seul rapport d’essai pratique contenant trois prompts, et un profil de quantification qui se dégrade plus vite que d’ordinaire aux largeurs de bits que la plupart des gens peuvent se permettre. Rien de tout cela n’est rédhibitoire — ce n’est simplement pas encore une preuve.

Si vous avez besoin de vision, la comparaison est déjà faite : Qwen3.8-27B lit les images et les vidéos, et ce modèle lit le texte en deux langues.

Les choses à surveiller sont précises. Nanbeige4.3-3B, la cible de distillation, qui vous dira si le modèle enseignant valait la peine d’être construit. La première exécution indépendante de Terminal-Bench 4.0, la ligne présentant l’écart le plus large et la plus forte sensibilité au scaffolding. Et si un fournisseur liste ne serait-ce que le 33B — car dès que quelqu’un le fera, le contexte de 512K cessera d’être une valeur de configuration pour devenir une ligne de facturation, et l’arithmétique de cet article deviendra la facture de quelqu’un.