Card del titolo principale con scritto 'Claude Opus 5.5 Found AttnRes-Canon', con tre card sottostanti: CORE-22 35,99 contro 34,00 per Block AttnRes, BPB di validazione 0,6605 contro 0,6630, e tempo per step 1,66x su un seed. In calce si legge 'Risultato di Arena v1, autodichiarato, singolo seed, non riprodotto in modo indipendente.'
Engineering & Research

Claude Opus 5.5 ha trovato AttnRes-Canon: cosa hanno davvero dimostrato quattro giorni di ricerca sull'architettura

Autore

Rowan Sterling

Data di pubblicazione

Ultimi modelli · 20Vedi tutti i modelli →
Benchmark: Artificial Analysis · aggiornato ogni giorno
Torna a tutti gli articoli

Il 6 novembre 2026, un gruppo di ricerca chiamato IAAI ha pubblicato un registro di esecuzione di Arena v1 che indica Claude Opus 5.5 come l'agente che ha progettato un'architettura Transformer chiamata AttnRes-Canon, oltre a un checkpoint, una traccia riproducibile e un resoconto di dieci minuti scritto da Yi Ge che spiega come ci è arrivato. Claude Opus 5.5 di per sé non è nuovo — Anthropic lo ha reso disponibile il 22 settembre 2026 a 4 $ per milione di token di input e 20 $ per milione di token di output, e questo mese non è cambiato nulla nel prezzo, nella finestra di contesto o nei benchmark pubblicati di quel modello. Ciò che è nuovo risale all'ultima settimana: un registro pubblico e verificabile di un modello di frontiera che esegue autonomamente un'intera ricerca di architetture, compresi i rami falliti, e un modello scaricabile che ne è uscito dall'altra parte. È un'affermazione più circoscritta di quanto suggerisca la cronologia, ed è più interessante di una riga di benchmark.

Il record è anche il motivo per cui questo è un pezzo su "ecco cosa è effettivamente stabilito" anziché un post di lancio. L'arena etichetta la propria voce come autodichiarata. C'è un solo seed. Nessuno al di fuori dell'operatore ha riprodotto il numero e, al momento in cui scriviamo, il checkpoint su Hugging Face era stato scaricato zero volte. Leggete le sezioni seguenti tenendo presente questo — non come motivi per liquidare il risultato, ma come l'esatta forma dell'evidenza.

Che cos'è realmente AttnRes-Canon

Due idee esistenti, combinate, più una cosa che nessuna delle due fa da sola.

La prima idea è Attention Residuals, da un paper del Kimi Team pubblicato su arXiv a marzo 2026 (2603.15031). Le connessioni residue PreNorm standard sommano l'output di ogni layer con un peso fisso pari a uno, così lo stato nascosto cresce con la profondità e il contributo di ciascun layer viene diluito. Attention Residuals sostituisce quella somma fissa con un'attenzione softmax sui layer precedenti, così i pesi di miscelazione dipendono dall'input. La versione economica, Block AttnRes, raggruppa i layer in blocchi e applica l'attenzione sulle sintesi dei blocchi; la versione costosa consente a ogni layer di leggere direttamente ogni layer precedente. Nel baseline dell'arena, 23 layer sono distribuiti in 8 gruppi, quindi un layer può rileggere la somma degli output di un gruppo precedente — riassunti di capitolo, nell'immagine dell'autore, non i capitoli.

Il secondo riguarda i Canon layer, tratti da "Physics of Language Models, Part 4.1" di Zeyuan Allen-Zhu (arXiv:2512.17351, dicembre 2025 con una revisione di luglio 2026). Un Canon layer è una piccola convoluzione a larghezza 4: mentre elabora il token corrente, mescola anche i tre token immediatamente precedenti.

AttnRes-Canon è Full Attention Residuals — 23 gruppi invece di 8, ogni layer legge qualsiasi layer precedente in modo indipendente — con layer Canon in quattro posizioni: A all'ingresso dell'attention e C all'ingresso dell'MLP, B sulle proiezioni query, key e value, e D sul layer nascosto dell'MLP. Una componente trasporta informazione lungo la profondità, l'altra lungo la sequenza. Il guadagno combinato è risultato leggermente superiore alla somma dei due guadagni misurati separatamente, che è l'unica affermazione architetturale genuinamente nuova nel report.

• Componente di profondità — Full AttnRes: 23 gruppi, ogni layer legge i layer precedenti individualmente anziché tramite riepiloghi di blocco

• Componente di sequenza — livelli Canon in A, B, C e D: una convoluzione causale di ampiezza 4 su ciascun token e sui suoi tre predecessori

• Costo — 1,66× il tempo per ogni aggiornamento di addestramento di Block AttnRes, la versione padre che ha superato

Se quell'ultima riga suona come un ripensamento, è proprio quella che la ricerca non ha mai messo in conto, e ci torneremo.

Le regole dell'arena sono volutamente noiose. I dati di addestramento, 46.875 aggiornamenti e i FLOP per token (entro ±1%) sono fissi; solo l'architettura può cambiare; il punteggio è CORE-22 — la media su 22 attività, più alto è meglio — più i bit per byte di validazione, più basso è meglio; e durante la ricerca l'agente può guardare solo la perdita di addestramento e il BPB dello split di sviluppo. Una singola esecuzione completa costa più di 1.400 ore GPU, quindi nessuna ricerca può permettersi di addestrare una dozzina di idee fino al completamento. Tutto dipende dal fatto che un'esecuzione breve ordini le idee come farebbe una lunga.

Quindi le prime ~152 ore GPU sono servite a calibrare quel righello anziché ad affrontare il problema. La scorciatoia ovvia — comprimere l’intero programma del learning rate in 512 aggiornamenti — si è rivelata sistematicamente errata nel produrre la classifica: addestrata su 11 metodi i cui risultati completi erano già noti, ha prodotto una correlazione di Spearman di 0,40 rispetto all’ordinamento finale, contro una soglia di 0,85 fissata in anticipo. Gli errori non erano rumore. Tutte e quattro le architetture con loop sono scese in classifica e tutte e quattro le architetture con attenzione lineare sono salite, perché tagliare presto il learning rate lusinga i modelli che convergono in fretta e amputa quelli lenti in partenza.

Prendendo invece un prefisso della schedulazione reale — stessa schedulazione, interrotta in anticipo, per poi proseguire con una vera esecuzione completa — si è raggiunto 0,72 a 500 aggiornamenti e 0,92 a 2.000. È questo che ha corretto il protocollo: 512 aggiornamenti sono solo una soglia minima per eliminare i candidati che chiaramente non sono riusciti ad addestrarsi, e ogni decisione di classificazione viene presa all'aggiornamento 2.000, circa il 4% di un'esecuzione completa. La stessa calibrazione ha prodotto il rumore di fondo: due esecuzioni con lo stesso seed differivano di circa 0,0004 in dev BPB, quindi un candidato doveva superare il genitore di più di 0,001 per essere considerato una vittoria.

Si tratta di un disegno sperimentale migliore di quello che la maggior parte degli articoli di architettura umana si prende la briga di usare, e vale la pena dire chiaramente che è il disegno, non il modello, a rendere leggibile il risultato.

Tre round, dodici candidati, un miraggio

Il primo round ha testato cinque modifiche singole in aggiunta a Block AttnRes, ciascuna con un'ipotesi scritta e confutabile. Nessuna ha superato la soglia di −0.0010 all'aggiornamento 2.000. Full AttnRes è arrivato più vicino, a −0.0008; Canon nelle posizioni A e C ha raggiunto −0.0006. Una variante gated-attention era in testa a tutto il campo all'aggiornamento 512 con −0.0027 e ha finito dietro a +0.0006 — il report la chiama per quello che era, un miraggio, e lo stesso schema si ripete.

Il secondo round ha combinato i quasi successi e ha aggiunto due varianti mixture-of-experts a parità di compute. Tre candidati hanno superato la soglia: Canon in tutte e quattro le posizioni (−0,0021, tempo per step 1,47×), Full AttnRes più Canon-A/C (−0,0018, 1,30×) e Full AttnRes più il gate (−0,0010, appena sopra). Il gate non ha contribuito quasi a nulla ovunque sia stato aggiunto, mentre entrambe le altre modifiche hanno abbassato il dev BPB su ogni modello padre su cui sono state provate. Le due varianti MoE — inclusa la configurazione a parità di compute che l'agente aveva valutato come la migliore — si sono classificate all'ultimo e al penultimo posto.

E la classifica si è ribaltata di netto: i primi quattro candidati all'aggiornamento 512 sono finiti esattamente nell'ordine inverso all'aggiornamento 2.000.

Il terzo round è quello in cui la ricerca ripaga. Invece di fidarsi una seconda volta dell’ordinamento update-512, ha atteso che le esecuzioni del secondo round raggiungessero l’update 1.536. Due candidati avevano quindi Canon-A/C come genitore in comune: uno muoveva un passo verso Full AttnRes, l’altro aggiungeva le posizioni Canon B e D; entrambi si collocavano circa 0,002 sotto quel genitore condiviso. Con budget per un altro candidato, l’agente ha unito i due invece di attendere la fine delle ultime centinaia di update. Il modello unito ha raggiunto un dev BPB di 0,7965 — 0,0038 sotto Block AttnRes e primo nell’intera ricerca — con un tempo per step pari a 1,66×.

Totale: 12 candidati, 3 round, 550 ore GPU di ricerca.

L'ultima corsa, e quanto del vantaggio è sopravvissuto

Le esecuzioni brevi vedono solo la parte piatta della schedulazione del tasso di apprendimento. Se un vantaggio iniziale sopravviva al decadimento deve essere misurato, e questa è la parte del rapporto che merita più attenzione.

AttnRes-Canon è stato portato in un plugin di metodo formale e addestrato da zero per 49,152 miliardi di token su 32 GPU H20, singolo seed.

• CORE-22 — AttnRes-Canon 35,99 vs mHC 35,33 vs Block AttnRes 34,00 vs Dense Baseline 33,10

• Validazione BPB — AttnRes-Canon 0.6605 vs mHC 0.6617 vs Block AttnRes 0.6630 vs Baseline Denso 0.6672

• Posizione in classifica — primo su 38 risultati pubblicati di Arena v1 su entrambe le metriche, secondo la classifica dell'arena stessa

• Calcolo — 152 ore GPU di esplorazione, 550 di ricerca, 1,433 per l'esecuzione finale, 2,135 in totale

Single-column scoreboard titled 'AttnRes-Canon — the scoreboard' with six rows: CORE-22 35.99; validation BPB 0.6605; vs the parent Block AttnRes +2.0 CORE and 0.0025 lower BPB; step time 1.66x Block AttnRes; training 49.152B tokens on 32 H20 with one seed; Arena v1 rank 1st of 38 on both metrics. A footer reads 'Arena v1 self-reported, single seed, not independently reproduced.'

Primo su entrambe le metriche, e il margine non è enorme: 2,0 punti CORE rispetto al metodo su cui è stato costruito, 0,0025 BPB. Più utile del punto finale è la traiettoria. Il divario da Block AttnRes era 0,0037 all'aggiornamento 2.000, si è ampliato a 0,0058 mentre il tasso di apprendimento restava costante, per poi ridursi a 0,0024 alla fine — più della metà del vantaggio perso nella coda. Il rapporto lo affianca a un caso esterno: un Dense Baseline con il gate aggiunto era in vantaggio di 0,0012 all'aggiornamento 2.000, ben oltre la stessa soglia vincente di questa ricerca, e ha chiuso 0,0002 dietro. Questo è il limite onesto dell'intero metodo, dichiarato da chi l'ha eseguito: un vantaggio iniziale ti compra un'ipotesi, non un risultato.

Cosa è verificato e cosa stai prendendo sulla fiducia

Il resoconto dell'esecuzione è insolitamente schietto riguardo alla propria provenienza, e tale schiettezza è il motivo per cui la descrizione del processo merita più fiducia del numero principale.

• Riproduzione indipendente — nessuna. L'arena etichetta la voce come "autodichiarata" e il piè di pagina della descrizione recita "Arena v1 · risultati a singolo seed"

• Seed — uno. Il report elenca «non ha mai eseguito un secondo seed» tra i quattro fallimenti dell'agente

• Coinvolgimento umano — il piano, le regole e il budget GPU di ogni fase sono stati approvati dall'operatore, il cui ruolo registrato attesta che non ha scelto alcun candidato e non ha scritto codice del metodo

• Revisione — il registro elenca un secondo modello, GPT-6 Astra con impegno di ragionamento elevato, che esamina il codice della fase tre e gli script di lancio prima di qualsiasi job GPU, senza scegliere le architetture

• Materiale per la riproducibilità — un percorso di codice pubblico con licenza MIT per il metodo, un checkpoint e i log su Hugging Face, e una traccia pensata per riprodurre ogni istruzione e risultato; al momento della stesura, il checkpoint aveva zero download

• Segnale di selezione — solo BPB del dev-split; l'agente non ha visto CORE-22 durante la scelta

Screenshot of the IAAI NextTransformer Blog post 'How Opus Found AttnRes-Canon: The Discovery Trace of an Architecture Search', bylined Yi Ge, November 2026, labelled NextTransformer Blog / Arena v1. The abstract names Claude Opus 5.5 as the search agent and reports the 2,000-update candidates, 49.152B training tokens, CORE-22 35.99 and a BPB 0.0024 lower than the parent.

Quell'ultimo punto conta più di quanto sembri. L'agente poteva leggere i risultati pubblicati di altri metodi, ma sceglieva i candidati usando solo lo split di sviluppo, che è la differenza tra cercare e sbirciare.

L'elenco dei fallimenti è l'altra metà del valore. Quattro giorni di contesto, compattati sette volte, con note sui candidati scritte su file così che il thread potesse essere ripreso. L'agente aveva pianificato di prendere la sua decisione del terzo round all'aggiornamento 1.536, ma ha impostato promemoria solo a 512 e 2.000, quindi si è fermato nell'intervallo e ha ripreso solo quando un umano lo ha sollecitato. Ha classificato al primo posto il mixture-of-experts a parità di calcolo e entrambe le varianti sono finite ultime. Ha confuso la variabilità da esecuzione a esecuzione con quella da seed a seed. E ha ottimizzato la qualità senza alcun vincolo sulla velocità, ed è così che un modello 1,66× più lento ha vinto un confronto a parità di calcolo sulla sola qualità.

Nessuno di questi è esotico. Sono le modalità di fallimento che chiunque faccia girare un lungo ciclo di un agente conosce già: un piano senza timer, un prior che non sopravvive al contatto, un modello di varianza che non è la varianza che hai e una funzione obiettivo con un buco. La novità è vederli elencati voce per voce dalle persone che li hanno visti accadere, con la traccia su GitHub.

Cosa cambia questo per chi sceglie un modello

Niente da dire sulla rate card, sul contesto o sui benchmark di Claude Opus 5.5. Il cambiamento utile è più ristretto e più pratico: questa è una delle prime dimostrazioni pubbliche e riproducibili che un modello frontier general-purpose, dato un harness di valutazione fisso e l'approvazione umana del budget, possa condurre una ricerca sperimentale a più round e produrre qualcosa che un team addestrerebbe davvero.

Ciò ha una conseguenza specifica su come lo useresti. Se stai pensando di indirizzare un agente verso un problema di ricerca tuo, la parte trasferibile del rapporto è il protocollo, non l'architettura: calibra il tuo proxy economico rispetto a risultati completi noti prima di spendere una singola GPU-ora, stabilisci in anticipo un livello di rumore di fondo e una soglia di vittoria a partire da esecuzioni ripetute, cambia una sola cosa per candidato rispetto a un genitore dichiarato e decidi le vittorie a un orizzonte che hai dimostrato essere predittivo. Queste quattro regole costano circa il 7% del calcolo totale qui e sono il motivo per cui l'altro 93% non è stato sprecato.

Il risultato architetturale è più difficile da mettere in pratica. AttnRes-Canon è un metodo di ricerca, non un modello in servizio. Esiste come plugin di metodo e come checkpoint da 49.152B token, con un singolo seed, e chiunque voglia costruirci sopra parte da un tentativo di riproduzione. Considera il dato CORE-22 come un indizio che merita un secondo seed, non come una proprietà consolidata dei residui di attenzione.

OrcaRouter si inserisce nella parte del flusso di lavoro che circonda la ricerca, non nella ricerca stessa. Claude Opus 5.5 è nel nostro catalogo al prezzo di listino pubblicato da Anthropic, applicato senza alcun ricarico (0% di markup) — $4,00 per milione di token in input, $20,00 per milione di token in output, $0,20 per le letture dalla cache, contesto da 1M di token — e i modelli su cui un ciclo di ricerca viene tipicamente suddiviso stanno dietro la stessa chiave: Claude Fable 5.2 a $8,00/$40,00 dal 9 novembre, GPT-6 Astra a $10,00/$50,00 fino a 272K token e $20,00/$75,00 oltre, Claude Opus 5 a $5,00/$25,00. Una sessione di ricerca di quattro giorni che compatta il proprio contesto sette volte è una conversazione lunga, costosa e soggetta a errori; eseguirla contro un unico endpoint con failover automatico significa che un intoppo del provider costa un nuovo tentativo anziché una notte, e il DSL di routing ti consente di assegnare un modello più economico all'analisi di routine e di mantenere Claude Opus 5.5 per le decisioni che determinano il round successivo.

Screenshot of the OrcaRouter model page for Claude Opus 5.5, listing Anthropic as the vendor with a 2026-09-22 release date, input at $4.00 per 1M tokens, output at $20.00 per 1M, cache reads at $0.20, cache writes at $5.00, a 1M-token context window and 128K max output.

Cosa guardare dopo

Tre cose potrebbero trasformarlo da un'interessante autovalutazione in un risultato su cui puoi costruire. {{1}}Un secondo seed, che secondo il report non è stato fatto e che ti direbbe se 0,0025 BPB è reale.{{/1}} {{2}}Una riesecuzione vincolata alla velocità, dato che un tempo per passo di 1,66× rappresenta un terzo del valore se ti interessa il throughput per GPU-ora anziché per token.{{/2}} E {{3}}Arena v2, che secondo gli autori verrà eseguito all'interno di un contenitore sigillato con un budget di calcolo fisso, così che l'agente non possa vedere affatto il set di validazione formale né CORE-22 — è la versione in cui "un agente ha fatto la ricerca" smette di aver bisogno di un essere umano nel ciclo per essere credibile.{{/3}}

Fino ad allora, la sintesi equa è questa: a un agente dotato di un righello ben costruito è bastato trovare, in quattro giorni e per circa 2.100 ore di GPU, un miglioramento architetturale reale, modesto e riproducibile in linea di principio, e ha messo per iscritto tutto ciò che ha sbagliato lungo il percorso. L'ultima parte è quella che il settore di solito tralascia.