Claude Opus 5.5 a découvert AttnRes-Canon : ce que quatre jours de recherche d'architecture ont réellement prouvé

Le 6 novembre 2026, un groupe de recherche appelé IAAI a publié un enregistrement d'exécution d'Arena v1 désignant Claude Opus 5.5 comme l'agent ayant conçu une architecture Transformer appelée AttnRes-Canon, ainsi qu'un checkpoint, une trace rejouable et une note de dix minutes rédigée par Yi Ge expliquant comment il y est parvenu. Claude Opus 5.5 n'est pas nouveau en soi — Anthropic l'a commercialisé le 22 septembre 2026 à 4 $ par million de tokens d'entrée et 20 $ par million de tokens de sortie, et rien n'a changé ce mois-ci concernant le prix, la fenêtre de contexte ou les benchmarks publiés de ce modèle. Ce qui est nouveau est daté de la semaine dernière : un compte rendu public et vérifiable d'un modèle de pointe menant seul une recherche d'architecture complète, y compris les branches qui ont échoué, et un modèle téléchargeable issu du processus. C'est une affirmation plus restreinte que ne le suggère la chronologie, et elle est plus intéressante qu'une ligne de benchmark.

Ce bilan est aussi la raison pour laquelle il s'agit d'un article du type « voici ce qui est réellement établi » plutôt que d'une publication de lancement. L'arène étiquette sa propre entrée auto-déclarée. Il n'y a qu'une seule graine. Personne en dehors de l'opérateur n'a reproduit ce chiffre et, au moment de la rédaction, le checkpoint Hugging Face avait été téléchargé zéro fois. Lisez les sections ci-dessous en gardant cela à l'esprit — non pas comme des raisons de rejeter le résultat, mais comme la forme exacte de la preuve.

Ce qu'est réellement AttnRes-Canon

Deux idées existantes, combinées, plus une chose qu’aucune des deux ne fait à elle seule.

La première idée est Attention Residuals, issue d’un article de la K​imi Team publié sur arXiv en mars 2026 (2603.15031). Les connexions résiduelles PreNorm standard ajoutent la sortie de chaque couche avec un poids fixe de un, si bien que l’état caché croît avec la profondeur et que la contribution de chaque couche se dilue. Attention Residuals remplace cette somme fixe par une attention softmax sur les couches précédentes, de sorte que les poids de mélange dépendent de l’entrée. La version peu coûteuse, Block AttnRes, regroupe les couches en blocs et applique l’attention sur des résumés de blocs ; la version coûteuse permet à chaque couche de lire directement chaque couche précédente. Dans la configuration de référence de l’arène, 23 couches sont réparties en 8 groupes, donc une couche peut relire la somme des sorties d’un groupe antérieur — des résumés de chapitres, selon l’image de l’auteur, et non les chapitres.

Le deuxième concerne les couches Canon, issues de « Physics of Language Models, Part 4.1 » de Zeyuan Allen-Zhu (arXiv:2512.17351, décembre 2025 avec une révision de juillet 2026). Une couche Canon est une petite convolution de largeur 4 : lorsqu’elle traite le token courant, elle mélange également les trois tokens qui le précèdent immédiatement.

AttnRes-Canon est Full Attention Residuals — 23 groupes au lieu de 8, chaque couche lisant n'importe quelle couche antérieure de manière indépendante — avec des couches Canon à quatre positions : A à l'entrée de l'attention et C à l'entrée du MLP, B sur les projections de requête, de clé et de valeur, et D sur la couche cachée du MLP. Un composant transporte l'information le long de la profondeur, l'autre le long de la séquence. Le gain combiné s'est révélé légèrement supérieur à la somme des deux gains mesurés séparément, ce qui constitue la seule revendication architecturale véritablement nouvelle du rapport.

• Composante profondeur — Full AttnRes : 23 groupes, chaque couche lit les couches antérieures individuellement plutôt que via des résumés de blocs

• Composant de séquence — couches Canon à A, B, C et D : une convolution causale de largeur 4 sur chaque token et ses trois prédécesseurs

• Coût — 1,66× le temps par mise à jour d’entraînement de Block AttnRes, son parent qu’il a surpassé

Si cette dernière phrase semble être une réflexion après coup, c'est pourtant celle que la recherche n'a jamais prise en compte, et nous y reviendrons.

Le souverain est venu avant la recherche.

Les règles de l'arène sont délibérément ennuyeuses. Les données d'entraînement, les 46 875 mises à jour et les FLOPs par token (à ±1 % près) sont fixés ; seule l'architecture peut changer ; le score est CORE-22 — la moyenne sur 22 tâches, plus haut c'est mieux — plus les bits par octet de validation, plus bas c'est mieux ; et pendant la recherche, l'agent ne peut consulter que la perte d'entraînement et le BPB sur le split de développement. Une seule exécution complète coûte plus de 1 400 heures GPU, donc aucune recherche ne peut se permettre d'entraîner une douzaine d'idées jusqu'au bout. Tout dépend de si une exécution courte classe les idées comme le ferait une longue.

Ainsi, les premières ~152 heures GPU ont servi à calibrer cet étalon plutôt qu’à traiter le problème. Le raccourci évident — comprimer tout le calendrier du taux d’apprentissage en 512 mises à jour — s’est révélé produire un classement systématiquement erroné : entraîné sur 11 méthodes dont les résultats complets étaient déjà connus, il donnait une corrélation de Spearman de 0,40 avec l’ordre final, pour un seuil de 0,85 fixé à l’avance. Les erreurs n’étaient pas du bruit. Les quatre architectures bouclées ont reculé dans le classement et les quatre architectures à attention linéaire ont progressé, car réduire le taux d’apprentissage trop tôt flatte les modèles à convergence rapide et ampute les démarrages lents.

Prendre plutôt un préfixe du programme réel — même programme, interrompu plus tôt, puis poursuivi avec une exécution complète réelle — a atteint 0,72 à 500 mises à jour et 0,92 à 2 000. C'est ce qui a fixé le protocole : 512 mises à jour ne constituent qu'un seuil minimal pour éliminer les candidats qui ont clairement échoué à s'entraîner, et toute décision de classement est prise à la mise à jour 2 000, soit environ 4 % d'une exécution complète. La même calibration a produit le plancher de bruit : deux exécutions de la même graine différaient d'environ 0,0004 en BPB de développement, de sorte qu'un candidat devait surpasser son parent de plus de 0,001 pour compter comme une victoire.

C'est une conception expérimentale meilleure que celle que la plupart des articles d'architecture humaine prennent la peine d'élaborer, et il vaut la peine de dire clairement que c'est la conception, et non le modèle, qui rend le résultat lisible.

Trois tours, douze candidats, un mirage

Le premier tour a testé cinq modifications isolées en plus de Block AttnRes, chacune portant une hypothèse écrite et réfutable. Aucune n'a franchi la ligne de −0,0010 à la mise à jour 2 000. AttnRes complet s'en est approché au plus près à −0,0008 ; Canon aux positions A et C a atteint −0,0006. Une variante à attention à portes a été en tête de tout le peloton à la mise à jour 512, à −0,0027, et a terminéderrière, à +0,0006 — le rapport l'appelle ce qu'il était : un mirage, et le même schéma se répète.

Le deuxième tour a combiné les quasi-réussites et ajouté deux variantes mixture-of-experts à budget de calcul égal. Trois candidats ont franchi le seuil : Canon aux quatre positions (−0,0021, temps par étape 1,47×), Full AttnRes plus Canon-A/C (−0,0018, 1,30×) et Full AttnRes plus la porte (−0,0010, juste au-dessus). La porte n’a presque rien apporté partout où elle a été ajoutée, tandis que les deux autres modifications ont réduit le BPB de dev sur chaque parent sur lequel elles ont été essayées. Les deux variantes MoE — y compris la configuration à budget de calcul égal que l’agent avait classée la plus haute — ont terminé dernière et avant-dernière.

Et le classement s’est brutalement inversé : les quatre candidats de tête à la mise à jour 512 ont terminé exactement dans l’ordre inverse à la mise à jour 2 000.

C’est au troisième tour que la recherche justifie son coût. Plutôt que de se fier une seconde fois à l’ordonnancement update-512, elle a attendu que les exécutions du deuxième tour atteignent l’update 1,536. Deux candidats avaient alors Canon-A/C pour parent commun, l’un faisant un pas vers Full AttnRes et l’autre ajoutant les positions Canon B et D ; tous deux se situaient environ 0.002 en dessous de ce parent commun. Disposant d’un budget pour un candidat supplémentaire, l’agent a fusionné les deux au lieu d’attendre la fin des quelques centaines d’updates restantes. Le modèle fusionné a atteint un dev BPB de 0.7965 — soit 0.0038 en dessous de Block AttnRes et la première place de toute la recherche — au prix de 1.66× le temps d’étape.

Total : 12 candidats, 3 tours, 550 heures GPU de recherche.

La dernière course, et combien de l’avance a survécu

Les exécutions courtes ne voient que la partie plate de la planification du taux d’apprentissage. Il faut mesurer si une avance précoce survit à la décroissance, et c’est la partie du rapport qui mérite le plus d’attention.

AttnRes-Canon a été porté dans un plugin de méthode formelle et entraîné à partir de zéro sur 49,152 milliards de tokens sur 32 GPU H20, avec une seule graine.

CORE-22 — AttnRes-Canon 35,99 vs mHC 35,33 vs Block AttnRes 34,00 vs référence dense 33,10

• Validation BPB — AttnRes-Canon 0,6605 vs mHC 0,6617 vs Block AttnRes 0,6630 vs Baseline dense 0,6672

• Position au classement — premier sur 38 résultats publiés d’Arena v1 pour les deux métriques, selon le tableau de bord de l’arena elle-même

Calcul — 152 heures GPU d'exploration, 550 de recherche, 1 433 pour l'exécution finale, 2 135 au total

Premier sur les deux métriques, et la marge n’est pas énorme : 2,0 points CORE de plus que la méthode sur laquelle il repose, 0,0025 BPB. Plus utile que le point d’arrivée, la trajectoire. L’écart avec Block AttnRes était de 0,0037 à la mise à jour 2 000, s’est élargi à 0,0058 tandis que le taux d’apprentissage restait constant, puis est retombé à 0,0024 à la fin — plus de la moitié de l’avantage perdu dans la phase finale. Le rapport l’associe à un cas externe : un Dense Baseline avec la porte ajoutée était en tête avec 0,0012 d’avance à la mise à jour 2 000, largement au-delà de la propre ligne gagnante de cette recherche, et a terminé 0,0002 derrière. C’est la limite honnête de toute la méthode, énoncée par ceux qui l’ont menée : une avance précoce vous achète une hypothèse, pas un résultat.

Ce qui est vérifié, et ce que vous acceptez sur parole

Le compte rendu d’exécution est d’une franchise inhabituelle sur sa propre provenance, et c’est précisément cette franchise qui donne lieu de se fier davantage à la description du processus qu’au chiffre mis en avant.

• Reproduction indépendante — aucune. L’Arena étiquette l’entrée comme « auto-déclarée » et le pied de page du compte rendu indique « Arena v1 · résultats à graine unique »

• Seeds — une seule. Le rapport cite « n'a jamais lancé de deuxième seed » parmi les quatre échecs de l'agent.

• Intervention humaine — le plan, les règles et le budget GPU de chaque étape ont été approuvés par l'opérateur, dont le rôle consigné précise qu'il n'a sélectionné aucun candidat et n'a écrit aucun code de méthode

• Revue — le compte rendu mentionne un second modèle, GPT-6 Astra avec un effort de raisonnement élevé, qui examine le code de la phase trois et les scripts de lancement avant toute tâche GPU, sans choisir les architectures

• Matériel de reproductibilité — un chemin de code public sous licence MIT pour la méthode, un checkpoint et des journaux sur Hugging Face, ainsi qu’une trace destinée à rejouer chaque instruction et chaque résultat ; le checkpoint n’avait aucun téléchargement au moment de la rédaction

• Signal de sélection — BPB du split de développement uniquement ; l’agent n’a pas vu CORE-22 lors du choix

Ce dernier point compte plus qu'il n'y paraît. L'agent pouvait consulter les résultats publiés d'autres méthodes, mais il choisissait les candidats en s'appuyant uniquement sur le jeu de développement, ce qui fait toute la différence entre rechercher et regarder en douce.

La liste des échecs constitue l'autre moitié de la valeur. Quatre jours de contexte, compactés sept fois, avec des notes de candidats écrites dans des fichiers afin que le fil puisse être repris. L'agent prévoyait de prendre sa décision du troisième tour à la mise à jour 1 536, mais n'avait placé des rappels qu'à 512 et 2 000 ; il s'est donc arrêté dans l'intervalle et n'a repris que lorsqu'un humain l'a relancé. Il a classé le mélange d'experts à calcul égal en tête, et les deux variantes ont terminé dernières. Il a confondu la variation d'une exécution à l'autre avec la variation d'une graine à l'autre. Et il a optimisé la qualité sans aucune contrainte de vitesse, ce qui explique comment un modèle 1,66 fois plus lent a remporté un concours à calcul égal sur la seule qualité.

Aucun de ces éléments n’est exotique. Ce sont les modes de défaillance que quiconque fait tourner une longue boucle d’agent connaît déjà : un plan sans minuteur, un a priori qui ne survit pas au contact, un modèle de variance qui n’est pas la variance que l’on a, et une fonction objectif comportant un trou. Ce qui est nouveau, c’est de les voir détaillés un par un par les personnes qui les ont vus se produire, avec la trace sur GitHub.

Ce que cela change pour quelqu'un qui choisit un modèle

Rien sur la grille tarifaire, le contexte ou les benchmarks de Claude Opus 5.5. Le changement utile est plus étroit et plus pratique : c’est l’une des premières démonstrations publiques et rejouables qu’un modèle de pointe polyvalent, doté d’un cadre d’évaluation fixe et d’une validation humaine du budget, peut mener une recherche expérimentale sur plusieurs tours et produire quelque chose qu’une équipe entraînerait réellement.

Cela a une conséquence précise sur la manière dont vous l’utiliseriez. Si vous envisagez d’orienter un agent vers un problème de recherche qui vous est propre, la partie transférable du rapport est le protocole, pas l’architecture : calibrez votre proxy bon marché par rapport à des résultats complets connus avant de dépenser une seule heure-GPU, fixez à l’avance un plancher de bruit et un seuil de victoire à partir d’exécutions répétées, ne changez qu’une seule chose par candidat par rapport à un parent déclaré, et tranchez les victoires à un horizon dont vous avez montré qu’il est prédictif. Ces quatre règles coûtent environ 7 % du calcul total ici et sont la raison pour laquelle les 93 % restants n’ont pas été gaspillés.

Le résultat architectural est plus difficile à exploiter. AttnRes-Canon est une méthode de recherche, pas un modèle déployé. Elle existe sous la forme d’un plugin de méthode et d’un checkpoint de 49,152 milliards de tokens, avec une graine unique, et quiconque souhaite s’appuyer dessus part d’une tentative de reproduction. Considérez le chiffre CORE-22 comme une piste qui mérite une seconde graine, et non comme une propriété établie des résidus d’attention.

OrcaRouter intervient dans la partie du flux de travail qui entoure la recherche, plutôt que dans la recherche elle-même. Claude Opus 5.5 figure à notre catalogue au prix catalogue publié d’A​nthropic, répercuté avec 0 % de marge — $4.00 par million de tokens d’entrée, $20.00 par million de tokens de sortie, $0.20 pour les lectures de cache, un contexte de 1M tokens — et les modèles entre lesquels une boucle de recherche est généralement répartie se trouvent derrière la même clé : Claude Fable 5.2 à $8.00/$40.00 depuis le 9 novembre, GPT-6 Astra à $10.00/$50.00 jusqu’à 272K tokens et $20.00/$75.00 au-delà, Claude Opus 5 à $5.00/$25.00. Une session de recherche de quatre jours qui compacte son contexte sept fois est une conversation longue, coûteuse et sujette aux défaillances ; l’exécuter contre un seul point de terminaison avec basculement automatique signifie qu’un incident chez un fournisseur coûte une nouvelle tentative plutôt qu’une nuit, et que le DSL de routage vous permet de confier l’analyse de routine à un modèle moins cher et de réserver Claude Opus 5.5 aux décisions qui déterminent le tour suivant.

Que regarder ensuite

Trois choses feraient passer cela d’un auto-rapport intéressant à un résultat sur lequel on peut s’appuyer. Une deuxième graine, qui, selon le rapport, n’a pas eu lieu et qui vous dirait si 0,0025 BPB est réel. Une nouvelle exécution sous contrainte de vitesse, car un temps par étape de 1,66× ne vaut qu’un tiers de l’intérêt si vous vous souciez du débit par heure-GPU plutôt que par token. Et Arena v2, dont les auteurs disent qu’elle s’exécutera dans un conteneur scellé avec une allocation de calcul fixe, de sorte que l’agent ne puisse pas voir du tout l’ensemble de validation formel ni CORE-22 — c’est la version où « un agent a fait la recherche » cesse d’avoir besoin d’un humain dans la boucle pour être crédible.

D'ici là, le résumé honnête est le suivant : un agent doté d'une règle bien construite a trouvé, en quatre jours et pour environ 2 100 heures de GPU, une amélioration d'architecture réelle, modeste et reproductible en principe, et il a consigné par écrit tout ce qu'il a raté en chemin. Cette dernière partie est celle que le domaine omet généralement.