Carte de titre générée pour ERNIE-5.5-Flash-Base, datée du 5 novembre 2026, présentant quatre vignettes : 280B de paramètres au total, 14B actifs par token, 33,5T de tokens de pré-entraînement et 1M de contexte maximum, avec une ligne indiquant qu'il s'agit uniquement d'un checkpoint de base — aucun modèle instruct, aucune API hébergée, aucun score indépendant.
Guides & Insights

ERNIE-5.5-Flash-Base : Baidu ouvre un checkpoint 280B, puis en restreint les usages autorisés

Auteur

Rowan Sterling

Date de publication

Derniers modèles · 20Voir tous les modèles →
Benchmarks : Artificial Analysis · mis à jour quotidiennement
Retour à tous les articles

Pendant deux semaines, ce qui était le plus notable au sujet d’ERNIE-5.5-Flash-Base, c’était le peu que Baidu en disait. Le dépôt Hugging Face a été enregistré le 21 octobre 2026 et est resté essentiellement vide jusqu’au 2 novembre, ne contenant guère plus qu’un README. Les premiers fragments de poids sont arrivés ce matin-là, et le checkpoint FP8 en 128 parties a terminé son téléversement le lendemain. Ce n’est que le 5 novembre que Baidu a publié l’article de blog technique et la fiche du modèle expliquant ce qu’il y avait réellement mis : un checkpoint à mélange d’experts clairsemé de 280 milliards de paramètres, dont 14 milliards actifs par token, préentraîné à partir de zéro sur 33,5 billions de tokens.

Ce matin-là, le dépôt principal avait été téléchargé quatre fois, pour un nombre de « j’aime » dans la cinquantaine haute. L’écart entre ces deux chiffres résume la publication en miniature. Beaucoup de gens observent le second virage de Baidu vers des poids ouverts, et presque personne n’a encore emporté les poids chez soi.

Deux choses expliquent cette hésitation, et toutes deux tiennent à la version elle-même plutôt qu'aux bavardages qui l'entourent. La première, c'est qu'il s'agit d'un checkpoint de base — la fin du pré-entraînement, sans entraînement intermédiaire ni post-entraînement — ce n'est donc pas un modèle de dialogue et il ne se comporte pas comme tel. La seconde, c'est la licence. Elle n'est pas Apache 2.0, elle ne s'étend pas à l'Union européenne, au Royaume-Uni ni à la Corée du Sud, et ses conditions commerciales changent dès que votre chiffre d'affaires lié dépasse 50 millions de dollars US par an.

Qu’a publié Baidu, et dans quel ordre ?

Screenshot of Baidu's official ERNIE 5.5 Flash Base release page, headed 'Product updates / November 5, 2026', with the introduction stating 280B total parameters, 14B activated per token, 33.5T pre-training tokens, a 128K training context and support for a 1M-token context in fine-tuning and inference.

L’historique des commits du dépôt rend compte de la publication plus clairement que n’importe quelle annonce. Un commit initial le 21 octobre. Un README le 26 octobre, suivi deux minutes plus tard par l’envoi d’un dossier, puis par la suppression des images d’architecture et de performance — le remue-ménage ordinaire de quelqu’un qui assemble une page. Les fichiers de configuration sont arrivés le 2 novembre à 06:29, les shards de poids juste après, et le dernier des 128 avant 09:00 le lendemain matin. Les chiffres de benchmark et d’architecture ont été mis en ligne le 4 novembre. Le logo, les ajustements du tokenizer et les dernières relectures du README sont arrivés le 5 novembre, quelques heures après la mise en ligne de l’article de blog.

Donc l'ordre est le suivant : les poids d'abord, la documentation ensuite, l'annonce en dernier. Baidu n'a pas mis en scène un lancement pour ensuite traîner les fichiers derrière. Il a mis un checkpoint de 280B sur internet et rédigé l'explication après coup. Cela mérite d'être dit clairement, car le cadrage que vous verrez dans la couverture en langue chinoise — une annonce triomphale d'open source — décrit ce qui s'est passé le 5 novembre, pas ce qui s'est passé le 2 novembre.

Il existe deux dépôts, et cette séparation compte plus qu'à l'accoutumée. baidu/ERNIE-5.5-Flash-Base fournit des safetensors FP8 en précision mixte ; baidu/ERNIE-5.5-Flash-Base-BF16 fournit le même point de contrôle en BF16. Les deux sont sans contrôle d'accès, tous deux sont uniquement textuels, et tous deux annoncent les mêmes 280 B au total et 14 B activés. Un troisième ensemble de poids existe à l'intérieur du modèle sous forme de paramètres ECHO — 0,36 B d'entre eux — que Baidu exclut explicitement des chiffres mis en avant.

Les conventions de comptage méritent d’être fixées, car elles divergent sur la même page. Les 280B de Baidu incluent l’embedding d’entrée et la tête de sortie, et son chiffre de 14B d’activations compte la tête de sortie mais pas la recherche d’embedding. Le widget de taille de modèle de Hugging Face indique 286B — une convention différente appliquée aux mêmes fichiers. Ni l’une ni l’autre n’est fausse ; elles répondent à des questions légèrement différentes, et une fiche technique qui les mélange ne tombera pas juste.

Un checkpoint de base n’est pas un chatbot, et la différence n’est pas cosmétique.

La ligne la plus déterminante de la fiche modèle est la moins spectaculaire : il s’agit du « checkpoint à la fin du pré-entraînement, avant tout entraînement intermédiaire ou post-entraînement ». L’objectif déclaré de Baidu est la recherche sur l’adaptation de domaine, l’ajustement par instructions et l’apprentissage par renforcement. C’est un point de départ, vendu comme un point de départ.

Concrètement, cela signifie que vous ne pouvez pas l’intégrer à un produit de chat et vous attendre à ERNIE. La fiche le sert via le point de terminaison /v1/completions plutôt que via les complétions de chat, et elle précise que les entrées nécessitent un jeton BOS, de sorte que la tokenisation doit conserver add_special_tokens=True. Un modèle de base continue du texte. Il ne suit pas d’instructions, ne refuse pas les requêtes et ne tient pas de conversation, car rien ne le lui a appris.

Il n’existe pas non plus encore d’homologue post-entraîné, et c’est la partie que les lecteurs comprennent le plus souvent de travers lorsqu’ils voient les chiffres des benchmarks. Le blog de Baidu indique que l’ERNIE 5.5 Flash post-entraîné « suivra ». Il n’existe pas aujourd’hui. Il n’y a pas d’API hébergée pour celui-ci sur Qianfan que citent les documents de lancement, pas de modèle de chat auquel le comparer, et aucune ligne pour ERNIE 5.5 Flash sur Artificial Analysis — j’ai vérifié l’index des modèles le 5 novembre, et il répertorie ERNIE 4.5 300B A47B et ERNIE 5.0 Thinking Preview, et rien de la gamme 5.5.

Ainsi, la description honnête de 5.5 Flash en tant que famille de produits, le jour de son annonce, est la suivante : un checkpoint de base, des poids ouverts, aucun modèle instruct, aucun endpoint. Tout le reste est une promesse pour plus tard.

À l’intérieur de l’architecture, brièvement

Baidu a consacré ses efforts d’ingénierie au coût du contexte long, et la conception reste lisible même si on ne l’entraîne jamais.

• Attention — 37 des 43 couches utilisent Heavily Compressed Attention, qui met en cache une entrée pour 128 tokens, tandis que 6 couches conservent un accès au niveau des tokens via MLA avec attention creuse (DSA). À budget de cache KV équivalent, Baidu indique que HCA associé à MLA surpasse HCA associé à l’attention creuse compressée.

• Géométrie des têtes — les couches HCA peu coûteuses, compressées 128×, reçoivent des têtes larges de 512 dimensions ; les couches MLA coûteuses au niveau des tokens reçoivent des têtes étroites de 256 dimensions. La largeur des têtes est adaptée à ce que coûte réellement l’attention de chaque couche.

• Experts — 512 experts routés par couche MoE avec un routage top-10 plus un expert partagé, répartis et combinés dans un espace latent de 2 048 dimensions à la moitié de la largeur cachée. L’équilibrage de charge est sans perte auxiliaire.

• Résidus et sortie — Manifold-Constrained Hyper-Connections avec quatre flux résiduels parallèles remplacent le chemin résiduel standard, et une tête MultiMax dotée d'une température par morceaux apprenable accentue la distribution du vocabulaire.

• ECHO — au lieu d’un module séparé de prédiction multi-jetons, la couche finale du backbone prédit elle-même les jetons futurs et fait aussi office de modèle de proposition pour le décodage spéculatif. Ce sont les 0,36 B qui se situent hors du décompte des paramètres.

• Tokeniseur — environ 201 000 entrées BPE, les nombres étant tokenisés de droite à gauche par groupes d’au plus trois chiffres.

L’histoire du contexte est le titre concret : 128K pendant l’entraînement, et 1M pour le fine-tuning et l’inférence, la configuration publiée activant déjà le réglage à 1M. Il s’agit d’une fenêtre véritablement grande pour un checkpoint ouvert de cette taille, et c’est une capacité autour de laquelle Baidu a construit l’architecture plutôt qu’un ajout après coup.

Le tableau de référence est bien réel, et ce n’est pas le chiffre que vous croyez.

Generated six-row scoreboard for ERNIE-5.5-Flash-Base: 280B total and 14B active parameters, 33.5T pre-training tokens, 128K training and 1M inference context, MMLU-Pro 78.4, HumanEval+ 82.3, and a licence territory of no EU, UK or South Korea, with a footer stating all figures are vendor-reported by Baidu from its unified base-model harness and that no third-party reproduction exists.

Baidu publie 30 lignes couvrant les examens, les connaissances, les STEM, le raisonnement, le multilingue, le code et le contexte long, face à trois modèles de base contemporains : DeepSeek-V4-Flash-Base à 284B au total et 13B actifs, Hy3-preview-Base à 295B et 21B, et MiMo-V2.5-Base à 310B et 15B. Les quatre ont été passés dans un même pipeline d’évaluation avec les mêmes prompts et les mêmes réglages few-shot — ce qui est la bonne façon de construire le tableau, et aussi la raison pour laquelle il ne peut pas être ajouté à un classement à côté des modèles de chat.

ERNIE-5.5-Flash-Base arrive en tête sur 24 des 30 lignes. Les écarts qui comptent le plus concernent le code et les connaissances de type examen, où les différences entre modèles de base sont généralement faibles :

• HumanEval+ (1-shot, Pass@1) — ERNIE 82.3 contre DeepSeek 69.5, Hy3 78.0, MiMo 74.4

• MMLU-Pro (5-shot, EM) — ERNIE 78,4 vs DeepSeek 69,2, Hy3 66,9, MiMo 65,7

• LiveCodeBench (1-shot, Pass@1) — ERNIE 40,1 contre DeepSeek 31,9, Hy3 33,5, MiMo 32,4

• RepoQA (0-shot, Pass@1) — ERNIE 91,7 contre DeepSeek 81,0, Hy3 91,3, MiMo 56,5

Il perd aussi six fois, et ces six défaites sont plus instructives que les victoires. ChineseSimpleQA revient à DeepSeek avec 75,3 contre 73,0 pour ERNIE. BBH avec chaîne de raisonnement revient à Hy3 avec 90,0 contre 89,2. INCLUDE-lite est une défaite d’un cheveu face à DeepSeek, 79,8 contre 79,5. FullStackBench revient à Hy3 avec 56,7 contre 54,6. HELMET-Rerank constitue la plus large défaite, 60,0 contre 56,2. InfiniteBench, 48,0 contre 46,5, revient aussi à DeepSeek — un résultat particulièrement révélateur pour un modèle dont l’objectif de conception central était le contexte long.

Chacun de ces chiffres est propre à Baidu, produit par Baidu, sur un banc d’évaluation configuré par Baidu, et publié en même temps que les poids. Aucun tiers n’en a reproduit quoi que ce soit. Ce n’est pas une accusation ; c’est l’état normal d’un modèle qui n’a que quelques heures, et c’est exactement l’état dans lequel les tableaux des fournisseurs sont le plus souvent cités comme s’il s’agissait de mesures.

La comparaison qui serait réellement utile n'existe pas encore, et ce n'est pas celle que le tableau invite à faire. Ce sont tous des modèles de base. Un 93,3 au MMLU pour un checkpoint de base n'est pas un 93,3 sur un modèle de chat, et le placer à côté d'un score de l'Artificial Analysis Intelligence Index — qui est calculé sur des modèles post-entraînés effectuant un travail agentique et de raisonnement — serait une erreur de catégorie. Baidu a publié une comparaison minutieuse intra-catégorielle. L'erreur dans laquelle peut tomber quiconque la lit est de la considérer comme une comparaison inter-catégories.

La licence est la partie qui va réellement arrêter les gens

Screenshot of the baidu/ERNIE-5.5-Flash-Base repository on Hugging Face, showing the 'License: ernie-5.5-flash-base-model-license-v1.0' tag, a model-size widget reading 286B params, the card text giving 280B total and 14B activated parameters on 33.5T tokens, and a sidebar reading four downloads in the last month.

Si l’on fait abstraction de l’annonce, le document qui régit cette version est l’ERNIE 5.5 Flash Base Model License Agreement v1.0. Il est daté du 5 novembre 2026 — la licence elle-même constitue la confirmation la plus fiable de la date de l’annonce — et il s’agit d’un accord personnalisé, non approuvé par l’OSI.

Trois clauses font l’essentiel du travail.

• Territoire. La concession est consentie « uniquement dans le Territoire », que la Section 1.11 définit comme toute zone géographique dans le monde entier autre que l'Union européenne, le Royaume-Uni et la Corée du Sud. La redistribution au titre de la Section 3.1 est limitée à ce même territoire. C'est la clause qui aura le plus probablement de l'importance pour une entreprise qui lit « open weights » et planifie un déploiement.

• Le seuil des 50 millions de dollars US. L’utilisation non commerciale est gratuite. L’utilisation commerciale est également gratuite tant que votre chiffre d’affaires annuel provenant de produits ou services liés est inférieur ou égal à 50 millions de dollars US, à condition d’envoyer à Baidu une notification d’utilisation unique avant la première utilisation commerciale et d’afficher la chaîne exacte « Powered by ERNIE » à un endroit facilement accessible — une interface utilisateur, une page À propos ou, pour les API et services backend, votre documentation destinée aux développeurs. Au-delà de 50 millions de dollars US, vous devez obtenir une autorisation écrite préalable distincte avant de commencer, et les frais sont fixés par un accord distinct.

• Comment le chiffre d'affaires est compté. La section 1.7 regroupe toute entité sous contrôle commun — plus de 50 % des capitaux propres ou des droits de vote — en un seul opérateur. Elle comptabilise aussi l'intégralité du chiffre d'affaires d'un produit associé, même lorsque ce produit utilise d'autres modèles aux côtés d'ERNIE. Vous ne pouvez pas répartir le chiffre d'affaires pour passer sous le seuil en invoquant la part du trafic qui touche ces pondérations.

C’est le contraste avec l’histoire de Baidu elle-même qui rend cette nouvelle marquante plutôt que routinière. ERNIE 4.5, publié le 30 juin 2025, a été livré en dix variantes sous Apache 2.0 — véritablement permissif, sans restriction territoriale, sans seuil de revenus, sans chaîne d’attribution. ERNIE 5.0, en novembre 2025, a fait exactement l’inverse et n’a publié aucun poids. ERNIE-5.5-Flash-Base occupe une troisième position : des poids que l’on peut télécharger, selon des conditions qui font de « open » une déclaration sur la disponibilité plutôt que sur l’autorisation.

Si vous évaluez ce modèle à des fins commerciales, lisez les sections 1.7, 1.11 et 4 avant de lire le tableau des benchmarks. Le tableau vous dit ce qu’il peut faire. Ces trois sections vous disent si vous êtes autorisé à le découvrir.

Ce qu’il faut pour courir

Les poids sont suffisamment volumineux pour que la question du matériel se règle d'elle-même, et suffisamment petits pour que la réponse ne soit pas absurde. En FP8, 280 milliards de paramètres représentent environ 280 Go de poids avant tout cache KV — un calcul, pas une mesure — ce qui tient dans un nœud à quatre GPU doté de cartes de 80 Go, avec une marge plus étroite qu'il n'y paraît une fois un contexte de 128K activé. Le dépôt BF16 double ce chiffre pour atteindre environ 560 Go et nécessite huit cartes.

Baidu propose deux chemins de mise en service, et tous deux présentent des frictions qu’il vaut la peine de connaître avant de commencer.

• SGLang — une image préconstruite, lmsysorg/sglang:dev-ernie-55-flash, lancée avec un parallélisme tensoriel de 4 et un parallélisme de données d’attention de 4. Il s’agit d’un tag dev, et non d’une version publiée épinglée.

• vLLM — vLLM 0.32.0 ainsi qu’un plugin installé depuis le dépôt vLLM-ERNIE de Baidu. Les paramètres de lancement incluent le cache KV en FP8, le parallélisme d’experts et --moe-backend humming.

Aucun des deux chemins n’est une installation en une seule ligne, et la voie vLLM en particulier vous fige sur une version précise de vLLM et sur un plugin maintenu par Baidu. C’est normal pour un modèle doté d’une nouvelle structure d’attention et MoE, et c’est le genre de détail qui décide si une évaluation de deux semaines glisse d’une semaine. Un exemple de fine-tuning avec Megatron-Bridge est référencé depuis la carte pour la même raison : ce checkpoint est destiné à être entraîné, pas seulement servi.

Qui devrait le télécharger, et qui devrait attendre

Téléchargez-le si vous disposez de l'infrastructure nécessaire pour le fine-tuning. Un checkpoint de base 280B-A14B entraîné sur 33,5 billions de tokens, avec une fenêtre d'inférence d'un million de tokens et des conditions commerciales viables en dessous du seuil de chiffre d'affaires et hors des territoires exclus, constitue un sérieux point de départ pour une adaptation de domaine ou un entraînement RL — et le ratio d'activation signifie que vos coûts d'entraînement et de service suivent ceux d'un modèle 14B, et non 280B. Le travail d'optimisation mené par Baidu sur l'attention et le cache KV cible précisément les charges de travail agentiques à contexte long, coûteuses à exécuter sur un modèle dense de qualité comparable.

Attendez si vous voulez un modèle à appeler. Il n’existe pas de version instruct, pas d’API et pas d’évaluation indépendante. Quiconque a besoin d’ERNIE 5.5 Flash en tant que produit attend la version post-entraînée que Baidu a promise sans en donner la date.

Et vérifiez d’abord la carte, dans un cas comme dans l’autre. Si vos utilisateurs, votre entité ou votre infrastructure se trouvent dans l’UE, au Royaume-Uni ou en Corée du Sud, la licence ne vous accorde pas les droits que le bouton de téléchargement laisse supposer.

Il existe une voie intermédiaire pragmatique pour les équipes dont la véritable question n'est pas « pouvons-nous faire tourner ceci » mais « est-ce meilleur que ce que nous payons déjà ». La comparaison qui s'impose est celle avec les modèles hébergés que vous remplaceriez, et avec ceux que vous pouvez appeler dès aujourd'hui. OrcaRouter place plus de 200 modèles derrière une seule API à 0 % de marge — prix catalogue du fournisseur répercuté tel quel, de sorte qu'une baisse de prix d'un fournisseur s'applique le jour même — ce qui fait d'un comparatif face à votre modèle de production actuel une simple question de changement de chaîne de modèle plutôt que de signature d'un second contrat. Pour un checkpoint que vous comptez fine-tuner et auto-héberger, la couche de routage est le moyen de garder le titulaire dans la boucle pendant que vous déterminez si le fine-tuning est réellement meilleur, avec bascule automatique si ce n'est pas le cas. ERNIE-5.5-Flash-Base n'est pas sur OrcaRouter ; il s'agit d'un ensemble de poids que vous exécutez vous-même, et rien ici ne change cela.

Quoi regarder

La variable intéressante n’est pas de savoir si le checkpoint de base est bon — selon les propres chiffres de Baidu, il est compétitif avec les modèles de base auxquels il a été comparé, et il l’emporte sur la plupart des lignes. La variable, c’est ce que Baidu fait du modèle post-entraîné, car c’est là que les termes de la licence commencent à s’appliquer aux produits réels, et où un score indépendant existera enfin.

Deux dates méritent d’être retenues. La première est celle d’ERNIE 5.5 Flash post-entraîné, dont Baidu annonce qu’il suivra, sans en avoir fixé la date. La seconde est celle de la première reproduction par un tiers de n’importe quelle ligne de ce tableau à 30 lignes — le moment où les chiffres cessent d’être ceux de Baidu pour devenir ceux de tout le monde. D’ici là, le résumé honnête d’ERNIE-5.5-Flash-Base est que Baidu a publié un point de contrôle de pré-entraînement de grande taille et soigneusement conçu, l’a décrit avec exactitude et y a attaché une licence bien moins ouverte que ne tend à le suggérer l’expression « open weights ».

Comparés dans cet article1

Détecté à partir de cet article · Benchmarks : Artificial Analysis · mis à jour quotidiennement