Claude Opus 5.5 encontrou o AttnRes-Canon: o que quatro dias de busca por arquitetura realmente provaram

Em 6 de novembro de 2026, um grupo de pesquisa chamado IAAI publicou um registro de execução do Arena v1 nomeando Claude Opus 5.5 como o agente que projetou uma arquitetura Transformer chamada AttnRes-Canon, além de um checkpoint, um traço reproduzível e um texto de dez minutos de Yi Ge explicando como chegou lá. O próprio Claude Opus 5.5 não é novo — a Anthropic o lançou em 22 de setembro de 2026 a US$ 4 por milhão de tokens de entrada e US$ 20 por milhão de tokens de saída, e nada sobre o preço, a janela de contexto ou os benchmarks publicados desse modelo mudou neste mês. O que é novo está datado na última semana: um registro público e verificável de um modelo de fronteira realizando uma busca de arquitetura inteira por conta própria, incluindo os ramos que falharam, e um modelo baixável que saiu do outro lado. Essa é uma afirmação mais estreita do que a linha do tempo sugere, e é mais interessante do que uma linha de benchmark.

O registro também é o motivo de este ser um texto de "eis o que está de fato estabelecido", e não um post de lançamento. A arena rotula sua própria entrada como autorrelatada. Há uma única semente. Ninguém fora do operador reproduziu o número e, no momento em que escrevo, o checkpoint do Hugging Face tinha sido baixado zero vezes. Leia as seções abaixo com isso em mente — não como motivos para descartar o resultado, mas como a forma exata da evidência.

O que o AttnRes-Canon realmente é

Duas ideias existentes, combinadas, além de uma coisa que nenhuma delas faz sozinha.

A primeira ideia é Attention Residuals, de um artigo da Kimi Team publicado no arXiv em março de 2026 (2603.15031). As conexões residuais PreNorm padrão somam a saída de cada camada com um peso fixo igual a um, então o estado oculto cresce com a profundidade e a contribuição de cada camada fica diluída. Attention Residuals substitui essa soma fixa por atenção softmax sobre camadas anteriores, de modo que os pesos de mistura dependem da entrada. A versão barata, Block AttnRes, agrupa camadas em blocos e aplica atenção sobre resumos de blocos; a versão cara permite que cada camada leia diretamente cada camada anterior. No baseline da arena, 23 camadas ficam em 8 grupos, então uma camada consegue ler de volta a soma das saídas de um grupo anterior — resumos de capítulos, na imagem do autor, não os capítulos.

O segundo são as camadas Canon, do texto “Physics of Language Models, Part 4.1”, de Zeyuan Allen-Zhu (arXiv:2512.17351, dezembro de 2025 com uma revisão de julho de 2026). Uma camada Canon é uma pequena convolução de largura 4: ao processar o token atual, ela também mistura os três tokens imediatamente anteriores a ele.

AttnRes-Canon é Full Attention Residuals — 23 grupos em vez de 8, com cada camada lendo qualquer camada anterior por conta própria — com camadas Canon em quatro posições: A na entrada da atenção e C na entrada do MLP, B nas projeções de consulta, chave e valor, e D na camada oculta do MLP. Um componente carrega informações ao longo da profundidade, o outro ao longo da sequência. O ganho combinado ficou ligeiramente acima da soma dos dois ganhos medidos separadamente, que é a única alegação arquitetural genuinamente nova no relatório.

• Componente de profundidade — Full AttnRes: 23 grupos, cada camada lê as camadas anteriores individualmente em vez de por meio de resumos de blocos

• Componente de sequência — camadas Canon em A, B, C e D: uma convolução causal de largura 4 sobre cada token e seus três predecessores

• Custo — 1,66× o tempo por atualização de treinamento do Block AttnRes, o pai que ele superou

Se essa última frase soa como um pensamento tardio, é justamente aquela que a busca nunca levou em conta, e voltaremos a ela.

O governante veio antes da busca.

As regras da arena são deliberadamente entediantes. Dados de treinamento, 46.875 atualizações e FLOPs por token (dentro de ±1%) são fixos; apenas a arquitetura pode mudar; a pontuação é CORE-22 — a média em 22 tarefas, quanto maior, melhor — mais bits por byte de validação, quanto menor, melhor; e, durante a busca, o agente pode olhar apenas para a perda de treinamento e o BPB da divisão de desenvolvimento. Uma única execução completa custa mais de 1.400 horas de GPU, então nenhuma busca pode se dar ao luxo de treinar uma dúzia de ideias até a conclusão. Tudo depende de se uma execução curta classifica as ideias da mesma forma que uma longa faria.

Então, as primeiras ~152 GPU-horas foram gastas calibrando essa régua, e não no problema. O atalho óbvio — comprimir todo o cronograma de taxa de aprendizado em 512 atualizações — acabou classificando de forma sistematicamente errada: treinado em 11 métodos cujos resultados completos já eram conhecidos, ele produziu uma correlação de Spearman de 0,40 em relação à ordenação final, contra um limiar de 0,85 definido previamente. Os erros não eram ruído. Todas as quatro arquiteturas em loop caíram no ranking e todas as quatro arquiteturas de atenção linear subiram, porque cortar a taxa de aprendizado cedo favorece modelos de convergência rápida e amputa os de início lento.

Tomar um prefixo do cronograma real — o mesmo cronograma, interrompido cedo e depois continuando com uma execução completa real — atingiu 0,72 em 500 atualizações e 0,92 em 2.000. Foi isso que fixou o protocolo: 512 atualizações é apenas um piso para eliminar candidatos que claramente falharam em treinar, e toda decisão de classificação é tomada na atualização 2.000, cerca de 4% de uma execução completa. A mesma calibração produziu o piso de ruído: duas execuções da mesma seed diferiram em cerca de 0,0004 no BPB de dev, então um candidato tinha de superar seu pai em mais de 0,001 para contar como vitória.

Esse é um design experimental melhor do que a maioria dos artigos de arquitetura humana se dá ao trabalho de fazer, e vale dizer claramente que é o design, e não o modelo, que torna o resultado legível.

Três rodadas, doze candidatos, uma miragem

A primeira rodada testou cinco mudanças individuais sobre o Block AttnRes, cada uma com uma hipótese escrita e refutável. Nenhuma superou o limiar de −0,0010 na atualização 2.000. O Full AttnRes chegou mais perto, com −0,0008; o Canon nas posições A e C alcançou −0,0006. Uma variante de atenção com gating liderou todo o campo na atualização 512 com −0,0027 e terminou atrás com +0,0006 — o relatório a chama pelo que era, uma miragem, e o mesmo padrão se repete.

Rodada dois combinou os quase sucessos e adicionou duas variantes de mistura de especialistas com computação correspondente. Três candidatos ultrapassaram o limite: Canon em todas as quatro posições (−0.0021, 1.47× tempo de passo), Full AttnRes mais Canon-A/C (−0.0018, 1.30×), e Full AttnRes mais o gate (−0.0010, pouco acima). O gate contribuiu quase nada onde quer que tenha sido adicionado, enquanto ambas as outras mudanças reduziram o BPB de desenvolvimento em cada pai em que foram testadas. As duas variantes MoE — incluindo a configuração de computação igual que o agente havia avaliado como a mais alta — terminaram em último e penúltimo.

E o ranking virou completamente: os quatro primeiros candidatos na atualização 512 terminaram exatamente na ordem inversa na atualização 2.000.

A terceira rodada é onde a busca prova seu valor. Em vez de confiar uma segunda vez na ordenação do update 512, ela esperou que as execuções da segunda rodada chegassem ao update 1.536. Dois candidatos então tiveram Canon-A/C como pai em comum, um dando um passo em direção a Full AttnRes e o outro adicionando as posições B e D de Canon; ambos ficaram cerca de 0,002 abaixo desse pai compartilhado. Com orçamento para mais um candidato, o agente fundiu os dois em vez de aguardar as últimas centenas de updates. O modelo fundido alcançou um dev BPB de 0,7965 — 0,0038 abaixo de Block AttnRes e primeiro lugar em toda a busca — com 1,66× o tempo por passo.

Total: 12 candidatos, 3 rodadas, 550 horas de GPU de busca.

A corrida final, e quanto da vantagem sobreviveu

Execuções curtas veem apenas a parte plana do cronograma de taxa de aprendizado. Se uma vantagem inicial sobrevive ao decaimento precisa ser medida, e esta é a parte do relatório que merece mais atenção.

AttnRes-Canon foi portado para um plugin de método formal e treinado do zero com 49,152 bilhões de tokens em 32 GPUs H20, semente única.

• CORE-22 — AttnRes-Canon 35,99 vs mHC 35,33 vs Block AttnRes 34,00 vs Baseline Denso 33,10

• BPB de validação — AttnRes-Canon 0.6605 vs mHC 0.6617 vs Block AttnRes 0.6630 vs Dense Baseline 0.6672

• Posição na classificação — primeiro de 38 resultados publicados do Arena v1 em ambas as métricas, conforme o próprio quadro da arena

• Computação — 152 horas de GPU para exploração, 550 para busca, 1.433 para a execução final, 2.135 no total

Em primeiro lugar em ambas as métricas, e a margem não é enorme: 2,0 pontos CORE sobre o método no qual foi construído, 0,0025 BPB. Mais útil do que o ponto final é a trajetória. A diferença para o Block AttnRes era de 0,0037 na atualização 2.000, aumentou para 0,0058 enquanto a taxa de aprendizado se mantinha constante e depois caiu para 0,0024 ao final — mais da metade da vantagem perdida na cauda. O relatório o combina com um caso externo: um Dense Baseline com a gate adicionada liderava por 0,0012 na atualização 2.000, confortavelmente acima da própria linha vencedora desta busca, e terminou 0,0002 atrás. Esse é o limite honesto de todo o método, declarado pelas pessoas que o conduziram: uma vantagem inicial compra uma hipótese, não um resultado.

O que está verificado e o que você está aceitando com base na confiança

O registro da execução é incomumente franco quanto à sua própria proveniência, e é essa franqueza que justifica confiar mais na descrição do processo do que no número de destaque.

• Reprodução independente — nenhuma. A arena rotula a entrada como “autorrelatada” e o rodapé do texto diz “Arena v1 · resultados de semente única”

• Seeds — uma. O relatório lista “nunca executou uma segunda seed” entre as quatro falhas do agente

• Envolvimento humano — o plano, as regras e o orçamento de GPU de cada etapa foram aprovados pelo operador, cujo papel registrado declara que não escolheu nenhum candidato e não escreveu nenhum código de método

• Revisão — o registro lista um segundo modelo, GPT-6 Astra com alto esforço de raciocínio, revisando o código da etapa três e os scripts de lançamento antes de qualquer job de GPU, sem escolher arquiteturas

Material de reprodutibilidade — um caminho de código público licenciado sob MIT para o método, um checkpoint e logs no Hugging Face, e um traço destinado a reproduzir cada instrução e resultado; o checkpoint tinha zero downloads quando isto foi escrito.

• Sinal de seleção — somente BPB do dev-split; o agente não viu CORE-22 ao escolher

Esse último item importa mais do que parece. O agente podia ler os resultados publicados de outros métodos, mas escolheu candidatos usando apenas a divisão de desenvolvimento, que é a diferença entre buscar e espiar.

A lista de falhas é a outra metade do valor. Quatro dias de contexto, compactados sete vezes, com notas candidatas gravadas em arquivos para que a thread pudesse ser retomada. O agente planejava tomar sua decisão da terceira rodada na atualização 1.536, mas definiu lembretes apenas em 512 e 2.000, então parou no intervalo e só retomou quando um humano o cutucou. Ele classificou a mistura de especialistas com computação igual como a melhor, e ambas as variantes terminaram por último. Ele confundiu variação entre execuções com variação entre sementes. E otimizou a qualidade sem restrição de velocidade, e foi assim que um modelo 1,66× mais lento venceu um concurso de computação equiparada apenas em qualidade.

Nenhum desses é exótico. Eles são os modos de falha que qualquer pessoa que execute um loop longo de agente já conhece: um plano sem temporizador, um prior que não sobrevive ao contato, um modelo de variância que não é a variância que você tem e uma função objetivo com um buraco nela. O que é novo é vê-los detalhados item por item pelas pessoas que os viram acontecer, com o trace no GitHub.

O que isso muda para quem está escolhendo um modelo

Nada sobre a tabela de preços, a janela de contexto ou os benchmarks do Claude Opus 5.5. A mudança útil é mais restrita e mais prática: esta é uma das primeiras demonstrações públicas e reproduzíveis de que um modelo de fronteira de uso geral, com um harness de avaliação fixo e aprovação humana do orçamento, consegue conduzir uma busca experimental em várias rodadas e produzir algo que uma equipe realmente treinaria.

Isso tem uma consequência específica para como você o usaria. Se você está considerando direcionar um agente para um problema de busca próprio, a parte transferível do relatório é o protocolo, não a arquitetura: calibre seu proxy barato com base em resultados completos conhecidos antes de gastar uma única hora de GPU, defina antecipadamente um piso de ruído e um limiar de vitória a partir de execuções repetidas, altere uma coisa por candidato em relação a um pai declarado e decida as vitórias em um horizonte que você demonstrou ser preditivo. Essas quatro regras custam cerca de 7% da computação total aqui e são o motivo pelo qual os outros 93% não foram desperdiçados.

O resultado arquitetural é mais difícil de aplicar na prática. O AttnRes-Canon é um método de pesquisa, não um modelo em produção. Ele existe como um plugin de método e um checkpoint de 49.152B tokens, com uma única seed, e quem quiser construir sobre ele estará partindo de uma tentativa de reprodução. Trate o valor do CORE-22 como uma pista que vale uma segunda seed, não como uma propriedade estabelecida dos resíduos de atenção.

Onde o OrcaRouter se encaixa é na parte do fluxo de trabalho que cerca a busca, e não na busca em si. O Claude Opus 5.5 está em nosso catálogo pelo preço de tabela publicado da A​nthropic, repassado com 0% de margem — $4.00 por milhão de tokens de entrada, $20.00 por milhão de saída, $0.20 por leitura de cache, contexto de 1M tokens — e os modelos entre os quais um loop de busca normalmente é dividido ficam atrás da mesma chave: Claude Fable 5.2 a $8.00/$40.00 desde 9 de novembro, GPT-6 Astra a $10.00/$50.00 até 272K tokens e $20.00/$75.00 acima disso, Claude Opus 5 a $5.00/$25.00. Uma sessão de pesquisa de quatro dias que compacta o contexto sete vezes é uma conversa longa, cara e propensa a falhas; executá-la contra um único endpoint com failover automático significa que um tropeço do provedor custa uma nova tentativa, e não uma noite, e a DSL de roteamento permite colocar um modelo mais barato na análise de rotina e manter o Claude Opus 5.5 para as decisões que definem a próxima rodada.

O que assistir a seguir

Três coisas levariam isto de um autorrelato interessante a um resultado sobre o qual você pode construir. Uma segunda semente, que o relatório diz não ter acontecido e que lhe diria se 0,0025 BPB é real. Uma nova execução com restrição de velocidade, já que um tempo de etapa de 1,66× é um terço do valor se você se importa com a vazão por GPU-hora em vez de por token. E o Arena v2, que os autores dizem que será executado dentro de um contêiner selado com uma cota fixa de computação, para que o agente não consiga ver o conjunto de validação formal nem o CORE-22 — essa é a versão em que "um agente fez a pesquisa" deixa de precisar de um humano no loop para ser crível.

Até então, o resumo justo é este: um agente munido de uma régua bem construída encontrou, em quatro dias e por cerca de 2.100 horas de GPU, uma melhoria de arquitetura real, modesta e reprodutível em princípio, e anotou tudo o que errou pelo caminho. A última parte é justamente a que a área costuma deixar de fora.