Claude Opus 5.5 encontró AttnRes-Canon: lo que cuatro días de búsqueda de arquitectura realmente demostraron

El 6 de noviembre de 2026, un grupo de investigación llamado IAAI publicó un registro de ejecución de Arena v1 que nombraba a Claude Opus 5.5 como el agente que diseñó una arquitectura Transformer llamada AttnRes-Canon, además de un checkpoint, una traza reproducible y un informe de diez minutos de Yi Ge que explicaba cómo llegó hasta ahí. Claude Opus 5.5 en sí no es nuevo — Anthropic lo lanzó el 22 de septiembre de 2026 a 4 dólares por millón de tokens de entrada y 20 dólares por millón de tokens de salida, y nada sobre el precio, la ventana de contexto o los benchmarks publicados de ese modelo cambió este mes. Lo que sí es nuevo está fechado dentro de la última semana: un registro público y verificable de un modelo de frontera ejecutando por su cuenta toda una búsqueda de arquitecturas, incluidas las ramas que fallaron, y un modelo descargable que salió del otro extremo. Esa es una afirmación más limitada de lo que sugiere la cronología, y es más interesante que una fila de benchmark.

El registro también es la razón por la que esto es una pieza de «esto es lo que realmente está establecido» y no una publicación de lanzamiento. La arena etiqueta su propia entrada como autodeclarada. Hay una sola semilla. Nadie fuera del operador ha reproducido la cifra, y en el momento de escribir esto el checkpoint de Hugging Face se había descargado cero veces. Lea las secciones siguientes teniendo eso en cuenta — no como razones para descartar el resultado, sino como la forma exacta de la evidencia.

Qué es realmente AttnRes-Canon

Dos ideas existentes, combinadas, más una cosa que ninguna de ellas hace por sí sola.

La primera idea es Attention Residuals, de un artículo del K​imi Team publicado en arXiv en marzo de 2026 (2603.15031). Las conexiones residuales PreNorm estándar suman la salida de cada capa con un peso fijo de uno, así que el estado oculto crece con la profundidad y la contribución de cada capa se diluye. Attention Residuals reemplaza esa suma fija por atención softmax sobre las capas anteriores, de modo que los pesos de mezcla dependen de la entrada. La versión barata, Block AttnRes, agrupa las capas en bloques y atiende sobre resúmenes de bloques; la versión cara permite que cada capa lea directamente cada capa anterior. En la línea base de la arena, 23 capas se distribuyen en 8 grupos, así que una capa puede recuperar la suma de las salidas de un grupo anterior —resúmenes de capítulos, en la metáfora del autor, no los capítulos—.

El segundo son las capas Canon, del trabajo de Zeyuan Allen-Zhu «Physics of Language Models, Part 4.1» (arXiv:2512.17351, diciembre de 2025 con una revisión de julio de 2026). Una capa Canon es una pequeña convolución de ancho 4: mientras procesa el token actual, también mezcla los tres tokens inmediatamente anteriores.

AttnRes-Canon es Full Attention Residuals —23 grupos en lugar de 8, con cada capa leyendo cualquier capa anterior por su cuenta—, con capas Canon en cuatro posiciones: A en la entrada de la atención y C en la entrada del MLP, B en las proyecciones de consulta, clave y valor, y D en la capa oculta del MLP. Un componente transporta información a lo largo de la profundidad; el otro, a lo largo de la secuencia. La ganancia combinada resultó ligeramente superior a la suma de las dos ganancias medidas por separado, que es la única afirmación arquitectónica genuinamente nueva del informe.

• Componente de profundidad — Full AttnRes: 23 grupos, cada capa lee las capas anteriores individualmente en lugar de hacerlo a través de resúmenes de bloque

• Componente de secuencia — capas Canon en A, B, C y D: una convolución causal de anchura 4 sobre cada token y sus tres predecesores

• Coste — 1,66× el tiempo por actualización de entrenamiento de Block AttnRes, el predecesor al que superó

Si esa última frase suena a algo añadido de última hora, es precisamente la que la búsqueda nunca tuvo en cuenta, y a ella volveremos.

El gobernante llegó antes de la búsqueda.

Las reglas de la arena son deliberadamente aburridas. Los datos de entrenamiento, las 46.875 actualizaciones y los FLOPs por token (dentro de ±1 %) son fijos; solo puede cambiar la arquitectura; la puntuación es CORE-22 —la media de 22 tareas, cuanto más alta mejor— más bits por byte de validación, cuanto más bajo mejor; y durante la búsqueda el agente solo puede mirar la pérdida de entrenamiento y el BPB de la división de desarrollo. Una sola ejecución completa cuesta más de 1.400 horas de GPU, así que ninguna búsqueda puede permitirse entrenar una docena de ideas hasta completarlas. Todo depende de si una ejecución corta ordena las ideas igual que lo haría una larga.

Así que las primeras ~152 horas-GPU se dedicaron a calibrar esa vara de medir en lugar de al problema. El atajo obvio —comprimir toda la programación de la tasa de aprendizaje en 512 actualizaciones— resultó producir un orden incorrecto de forma sistemática: entrenado con 11 métodos cuyos resultados completos ya se conocían, generó una correlación de Spearman de 0,40 frente al orden final, frente a un umbral de 0,85 fijado de antemano. Los errores no eran ruido. Las cuatro arquitecturas con bucles bajaron en la clasificación y las cuatro arquitecturas de atención lineal subieron, porque recortar la tasa de aprendizaje antes de tiempo favorece a los modelos de convergencia rápida y amputa a los de arranque lento.

Tomar en cambio un prefijo del programa real —el mismo programa, detenido antes de tiempo y luego continuado con una ejecución completa real— alcanzó 0,72 a las 500 actualizaciones y 0,92 a las 2.000. Eso fue lo que corrigió el protocolo: 512 actualizaciones son solo un mínimo para eliminar a los candidatos que claramente no lograron entrenar, y toda decisión de clasificación se toma en la actualización 2.000, aproximadamente el 4 % de una ejecución completa. La misma calibración produjo el piso de ruido: dos ejecuciones de la misma semilla difirieron en aproximadamente 0,0004 en dev BPB, así que un candidato tenía que superar a su progenitor por más de 0,001 para contar como una victoria.

Eso es un diseño experimental mejor que el que se molesta en hacer la mayoría de los artículos de arquitectura escritos por humanos, y vale la pena decir sin rodeos que es el diseño, no el modelo, lo que hace legible el resultado.

Tres rondas, doce candidatos, un espejismo

La primera ronda probó cinco cambios individuales sobre Block AttnRes, cada uno con una hipótesis escrita y refutable. Ninguno superó el umbral de −0,0010 en la actualización 2.000. Full AttnRes fue el que más se acercó, con −0,0008; Canon, en las posiciones A y C, alcanzó −0,0006. Una variante de atención con compuerta lideró todo el campo en la actualización 512 por −0,0027 y terminó por detrás con +0,0006 — el informe lo llama por lo que fue, un espejismo, y el mismo patrón se repite.

La segunda ronda combinó los casi aciertos y añadió dos variantes de mezcla de expertos con cómputo equivalente. Tres candidatos superaron el umbral: Canon en las cuatro posiciones (−0.0021, 1.47× el tiempo por paso), Full AttnRes más Canon-A/C (−0.0018, 1.30×), y Full AttnRes más la compuerta (−0.0010, apenas por encima). La compuerta no aportó casi nada dondequiera que se añadió, mientras que los otros dos cambios redujeron el BPB de dev en cada modelo padre sobre el que se probaron. Las dos variantes de MoE —incluida la configuración de cómputo igualado que el agente había valorado como la más alta— terminaron en último y penúltimo lugar.

Y el ranking se invirtió por completo: los cuatro mejores candidatos en la actualización 512 quedaron exactamente en el orden inverso en la actualización 2000.

La tercera ronda es donde la búsqueda demuestra su valor. En lugar de confiar por segunda vez en el orden de update-512, esperó a que las ejecuciones de la segunda ronda alcanzaran el update 1.536. Dos candidatos compartían entonces Canon-A/C como progenitor, uno dando un paso hacia Full AttnRes y otro añadiendo las posiciones B y D de Canon; ambos se situaban aproximadamente 0,002 por debajo de ese progenitor compartido. Con presupuesto para un candidato más, el agente fusionó los dos en lugar de esperar a que terminaran los últimos cientos de updates. El modelo fusionado alcanzó un BPB de desarrollo de 0,7965 —0,0038 por debajo de Block AttnRes y primero en toda la búsqueda— con 1,66× el tiempo por paso.

Total: 12 candidatos, 3 rondas, 550 horas de GPU de búsqueda.

La última carrera, y cuánta ventaja sobrevivió

Las ejecuciones cortas solo ven la parte plana del calendario de tasa de aprendizaje. Que una ventaja temprana sobreviva al decaimiento tiene que medirse, y esta es la parte del informe que merece más atención.

AttnRes-Canon se portó a un plugin de método formal y se entrenó desde cero durante 49.152B tokens en 32 GPU H20, con una sola semilla.

• CORE-22 — AttnRes-Canon 35.99 frente a mHC 35.33 frente a Block AttnRes 34.00 frente a Dense Baseline 33.10

• Validación BPB — AttnRes-Canon 0.6605 vs mHC 0.6617 vs Block AttnRes 0.6630 vs Dense Baseline 0.6672

• Posición en la clasificación — primero de 38 resultados publicados de Arena v1 en ambas métricas, según el propio tablero de la arena

• Cómputo — 152 horas de GPU de exploración, 550 de búsqueda, 1,433 para la ejecución final, 2,135 en total

Primero en ambas métricas, y el margen no es enorme: 2.0 puntos CORE sobre el método sobre el que se construyó, 0.0025 BPB. Más útil que el punto final es la trayectoria. La diferencia con Block AttnRes era de 0.0037 en la actualización 2,000, se amplió a 0.0058 mientras la tasa de aprendizaje se mantenía constante, y luego se redujo a 0.0024 al final — más de la mitad de la ventaja perdida en la cola. El informe lo empareja con un caso externo: un Dense Baseline con la compuerta añadida iba por delante por 0.0012 en la actualización 2,000, cómodamente por encima de la propia línea ganadora de esta búsqueda, y terminó 0.0002 por detrás. Ese es el límite honesto de todo el método, expresado por quienes lo ejecutaron: una ventaja temprana te da una hipótesis, no un resultado.

Lo que está verificado y lo que aceptas por confianza

El registro de la ejecución es inusualmente franco sobre su propia procedencia, y esa franqueza es la razón para confiar más en la descripción del proceso que en la cifra principal.

• Reproducción independiente: ninguna. La arena etiqueta la entrada como «autoinformada» y el pie del informe dice «Arena v1 · resultados de una sola semilla»

• Semillas: una. El informe incluye «nunca ejecutó una segunda semilla» entre los cuatro fallos del agente.

• Participación humana — el plan, las reglas y el presupuesto de GPU de cada etapa fueron aprobados por el operador, cuyo rol registrado indica que no eligió ningún candidato ni escribió código del método

• Revisión: el registro incluye un segundo modelo, GPT-6 Astra con un esfuerzo de razonamiento alto, que revisa el código de la tercera etapa y los scripts de lanzamiento antes de cualquier trabajo en GPU, sin encargarse de elegir arquitecturas

• Material de reproducibilidad: una ruta de código pública con licencia MIT para el método, un checkpoint y registros en Hugging Face, y una traza destinada a reproducir cada instrucción y resultado; el checkpoint tenía cero descargas cuando se escribió esto

• Señal de selección — solo BPB del split de desarrollo; el agente no vio CORE-22 al elegir

Ese último punto importa más de lo que parece. El agente podía leer los resultados publicados de otros métodos, pero seleccionó candidatos usando únicamente el conjunto de desarrollo, que es la diferencia entre buscar y mirar a escondidas.

La lista de fallos es la otra mitad del valor. Cuatro días de contexto, compactado siete veces, con notas de candidatos escritas en archivos para que el hilo pudiera reanudarse. El agente planeaba tomar su decisión de la tercera ronda en la actualización 1,536, pero solo fijó recordatorios en 512 y 2,000, así que se detuvo en el intervalo y solo reanudó cuando una persona lo instó. Calificó como mejor la mezcla de expertos de cómputo equivalente y ambas variantes terminaron en último lugar. Confundió la variación entre ejecuciones con la variación entre semillas. Y optimizó la calidad sin ninguna restricción de velocidad, y así fue como un modelo 1.66× más lento ganó un concurso de cómputo equivalente únicamente por calidad.

Ninguno de esos es exótico. Son los modos de fallo que cualquiera que ejecute un bucle de agente prolongado ya conoce: un plan sin temporizador, un prior que no sobrevive al contacto, un modelo de varianza que no es la varianza que tienes y una función objetivo con un agujero. Lo nuevo es verlos enumerados por las personas que los vieron ocurrir, con la traza en GitHub.

Qué cambia esto para alguien que elige un modelo

Nada sobre el tarifario, el contexto o los benchmarks de Claude Opus 5.5. El cambio útil es más acotado y más práctico: esta es una de las primeras demostraciones públicas y reproducibles de que un modelo de frontera de propósito general, con un arnés de evaluación fijo y la aprobación humana del presupuesto, puede ejecutar una búsqueda experimental de varias rondas y producir algo que un equipo realmente entrenaría.

Eso tiene una consecuencia específica para cómo lo usarías. Si estás considerando dirigir un agente a un problema de búsqueda propio, la parte transferible del informe es el protocolo, no la arquitectura: calibra tu proxy barato contra resultados completos conocidos antes de gastar una sola hora de GPU, establece de antemano un piso de ruido y un umbral de victoria a partir de ejecuciones repetidas, cambia una sola cosa por candidato respecto a un progenitor declarado, y decide las victorias en un horizonte que hayas demostrado que es predictivo. Esas cuatro reglas cuestan aproximadamente el 7 % del cómputo total aquí y son la razón por la que el otro 93 % no se desperdició.

El resultado arquitectónico es más difícil de aprovechar. AttnRes-Canon es un método de investigación, no un modelo en producción. Existe como plugin de método y checkpoint de 49.152B tokens, con una sola semilla, y cualquiera que quiera construir sobre él parte de un intento de reproducción. Considera la cifra de CORE-22 como una pista que merece una segunda semilla, no como una propiedad establecida de los residuales de atención.

Donde encaja OrcaRouter es en la parte del flujo de trabajo que rodea la búsqueda, no en la búsqueda en sí. Claude Opus 5.5 está en nuestro catálogo al precio de lista publicado por Anthropic, repercutido con un 0 % de margen — $4.00 por millón de tokens de entrada, $20.00 por millón de salida, $0.20 por lecturas de caché, contexto de 1M de tokens — y los modelos entre los que normalmente se reparte un bucle de búsqueda están detrás de la misma clave: Claude Fable 5.2 a $8.00/$40.00 desde el 9 de noviembre, GPT-6 Astra a $10.00/$50.00 hasta 272K tokens y $20.00/$75.00 por encima, Claude Opus 5 a $5.00/$25.00. Una sesión de investigación de cuatro días que compacta su contexto siete veces es una conversación larga, cara y propensa a fallos; ejecutarla contra un único endpoint con conmutación automática por fallo hace que un contratiempo de un proveedor cueste un reintento en lugar de una noche, y el DSL de enrutamiento te permite poner un modelo más barato en el análisis rutinario y reservar Claude Opus 5.5 para las decisiones que determinan la siguiente ronda.

Qué ver a continuación

Tres cosas harían que esto pase de ser un autoinforme interesante a un resultado sobre el que se pueda construir. Una segunda semilla, que según el informe no se realizó y que permitiría saber si 0,0025 BPB es real. Una nueva ejecución con restricciones de velocidad, ya que un tiempo por paso de 1,66× es un tercio del valor si lo que importa es el rendimiento por GPU-hora en lugar de por token. Y Arena v2, que según los autores se ejecutará dentro de un contenedor sellado con una asignación fija de cómputo, de modo que el agente no pueda ver en absoluto el conjunto de validación formal ni CORE-22; esa es la versión en la que «un agente hizo la investigación» deja de necesitar a una persona en el bucle para ser creíble.

Hasta entonces, el resumen justo es este: a un agente al que se le dio una regla bien construida le llevó cuatro días y unas 2.100 GPU-horas encontrar una mejora arquitectónica real, modesta y reproducible en principio, y dejó constancia de todo lo que hizo mal en el camino. La última parte es la que el campo suele omitir.