Claude Opus 5.5 hittade AttnRes-Canon: vad fyra dagars arkitektursökning faktiskt bevisade

Den 6 november 2026 publicerade en forskargrupp som heter IAAI ett Arena v1-körningsprotokoll som namnger Claude Opus 5.5 som agenten som designade en Transformer-arkitektur som heter AttnRes-Canon, plus en checkpoint, ett uppspelningsbart spår och en tio minuter lång skriftlig redogörelse av Yi Ge som förklarar hur den kom dit. Claude Opus 5.5 i sig är inte ny — Anthropic släppte den 22 september 2026 för $4 per miljon indatatoken och $20 per miljon utdatatoken, och inget med modellens pris, kontextfönster eller publicerade benchmarkresultat ändrades den här månaden. Det som är nytt är daterat inom den senaste veckan: en offentlig, kontrollerbar dokumentation av en frontlinjemodell som kör en hel arkitektursökning på egen hand, inklusive grenarna som misslyckades, och en nedladdningsbar modell som kom ut i andra änden. Det är ett snävare påstående än tidslinjen antyder, och det är mer intressant än en benchmark-rad.

Rekordet är också anledningen till att detta är en "här är vad som faktiskt är fastställt"-artikel snarare än ett lanseringsinlägg. Arenan märker sin egen post som självrapporterad. Det finns en seed. Ingen utanför operatören har återskapat siffran, och vid skrivandets stund hade Hugging Face-checkpointen laddats ner noll gånger. Läs avsnitten nedan med det i åtanke — inte som skäl att avfärda resultatet, utan som den exakta formen på bevisningen.

Vad AttnRes-Canon egentligen är

Två befintliga idéer, kombinerade, plus en sak som ingen av dem gör på egen hand.

Det första idén är Attention Residuals, från en artikel av K​imi Team som publicerades på arXiv i mars 2026 (2603.15031). Standard-PreNorm-restanslutningar adderar varje lags utdata med en fast vikt på ett, så det dolda tillståndet växer med djupet och varje lags bidrag späds ut. Attention Residuals ersätter den fasta summan med softmax-attention över tidigare lager, så blandningsvikterna beror på indata. Den billiga versionen, Block AttnRes, grupperar lager i block och använder attention över blocksammanfattningar; den dyra versionen låter varje lager läsa varje tidigare lager direkt. I arenans baslinje ligger 23 lager i 8 grupper, så ett lager kan läsa tillbaka summan av en tidigare grupps utdata — kapitelsammanfattningar, i författarens bild, inte kapitlen.

Den andra är Canon-lager, från Zeyuan Allen-Zhus "Physics of Language Models, Part 4.1" (arXiv:2512.17351, december 2025 med en revidering i juli 2026). Ett Canon-lager är en liten konvolution med bredd 4: när den bearbetar den aktuella token blandar den även in de tre token som ligger omedelbart före den.

AttnRes-Canon är Full Attention Residuals — 23 grupper i stället för 8, där varje lager läser vilket tidigare lager som helst på egen hand — med Canon-lager på fyra positioner: A vid ingången till attentionen och C vid ingången till MLP:n, B på query-, key- och value-projektionerna, och D på MLP:ns dolda lager. En komponent bär information längs djupet, den andra längs sekvensen. Den kombinerade vinsten blev något högre än summan av de två vinsterna mätta separat, vilket är det enda genuint nya arkitekturpåståendet i rapporten.

• Djupkomponent – Full AttnRes: 23 grupper, där varje lager läser tidigare lager individuellt i stället för via blocksammanfattningar

• Sekvenskomponent — Canon-lager vid A, B, C och D: en kausal konvolution med bredd 4 över varje token och dess tre föregångare

• Kostnad — 1,66× tiden per träningsuppdatering för Block AttnRes, föräldramodellen som den besegrade

Om den där sista raden låter som en eftertanke, är det den som sökningen aldrig räknade med, och vi återkommer till den.

Linjalen kom före sökningen.

Arenans regler är medvetet tråkiga. Träningsdata, 46 875 uppdateringar och FLOPs per token (inom ±1 %) är fasta; endast arkitekturen får ändras; poängsättningen är CORE-22 – medelvärdet över 22 uppgifter, högre är bättre – plus validerings-BPB (bits per byte), lägre är bättre; och under sökningen får agenten bara titta på träningsförlust och BPB för dev-spliten. En enda fullständig körning kostar mer än 1 400 GPU-timmar, så ingen sökning har råd att träna ett dussin idéer till slutförande. Allt hänger på huruvida en kort körning rangordnar idéer på samma sätt som en lång skulle göra.

Så de första ~152 GPU-timmarna gick åt till att kalibrera den där måttstocken i stället för till själva problemet. Den uppenbara genvägen – att pressa in hela schemat för inlärningshastighet i 512 uppdateringar – visade sig rangordna systematiskt fel: tränad på 11 metoder vars fullständiga resultat redan var kända gav den en Spearman-korrelation på 0,40 mot den slutliga ordningen, mot en ribba på 0,85 som satts i förväg. Felen var inte brus. Alla fyra loopade arkitekturer föll i rangordningen och alla fyra linjära attention-arkitekturer steg, eftersom att sänka inlärningshastigheten tidigt smickrar snabbkonvergerande modeller och amputerar långsamma startare.

Att i stället ta ett prefix av det verkliga schemat – samma schema, avbrutet tidigt och sedan fortsatt med en verklig full körning – nådde 0,72 vid 500 uppdateringar och 0,92 vid 2 000. Det var det som fastställde protokollet: 512 uppdateringar är bara en lägsta nivå för att eliminera kandidater som uppenbart misslyckades med att träna, och varje rangordningsbeslut fattas vid uppdatering 2 000, ungefär 4 % av en full körning. Samma kalibrering gav brusgolvet: två körningar med samma seed skilde sig med omkring 0,0004 i dev BPB, så en kandidat måste slå sin förälder med mer än 0,001 för att räknas som en vinst.

Det är en bättre experimentell design än vad de flesta arkitekturartiklar skrivna av människor gör sig besvär med, och det är värt att säga rakt ut att det är designen, inte modellen, som gör resultatet begripligt.

Tre omgångar, tolv kandidater, en hägring

Första omgången provade fem enskilda ändringar ovanpå Block AttnRes, var och en med en skriftlig, motbevisbar hypotes. Ingen klarade −0.0010-gränsen vid uppdatering 2 000. Full AttnRes kom närmast på −0.0008; Canon vid positionerna A och C nådde −0.0006. En gated-attention-variant ledde hela fältet vid uppdatering 512 med −0.0027 och hamnade bakom på +0.0006 — rapporten kallar det vad det var, en hägring, och samma mönster återkommer.

Omgång två kombinerade nästan-träffarna och lade till två mixture-of-experts-varianter vid matchad beräkningskostnad. Tre kandidater klarade gränsen: Canon på alla fyra positioner (−0.0021, 1.47× stegtid), Full AttnRes plus Canon-A/C (−0.0018, 1.30×) och Full AttnRes plus grinden (−0.0010, precis över). Grinden bidrog med nästan ingenting var den än lades till, medan båda de andra ändringarna sänkte dev-BPB på varje föräldramodell de testades på. De två MoE-varianterna – inklusive konfigurationen med lika beräkningskostnad som agenten hade rankat högst – slutade sist och näst sist.

Och rangordningen vände tvärt: de fyra främsta kandidaterna vid uppdatering 512 hamnade i exakt omvänd ordning vid uppdatering 2 000.

Det är i omgång tre som sökningen gör nytta. I stället för att lita på update-512-ordningen en andra gång väntade den tills andra omgångens körningar nådde update 1,536. Två kandidater hade då Canon-A/C som gemensam förälder, där den ena tog ett steg mot Full AttnRes och den andra lade till Canon-positionerna B och D; båda låg cirka 0,002 under den gemensamma föräldern. Med budget för ytterligare en kandidat slog agenten samman de två i stället för att vänta ut de sista få hundra uppdateringarna. Den sammanslagna modellen nådde ett dev-BPB på 0,7965 – 0,0038 under Block AttnRes och bäst i hela sökningen – vid 1,66× stegtiden.

Totalt: 12 kandidater, 3 omgångar, 550 GPU-timmar sökning.

Det sista åket – och hur mycket av ledningen som höll

Korta körningar ser bara den platta delen av schemat för inlärningshastigheten. Huruvida ett tidigt försprång överlever avklingningen måste mätas, och det är den del av rapporten som förtjänar mest uppmärksamhet.

AttnRes-Canon porterades in i ett formellt metodplugin och tränades från grunden på 49.152B tokens på 32 H20-GPU:er, ett enda seed.

• CORE-22 — AttnRes-Canon 35,99 vs mHC 35,33 vs Block AttnRes 34,00 vs Dense Baseline 33,10

• Validerings-BPB — AttnRes-Canon 0.6605 mot mHC 0.6617 mot Block AttnRes 0.6630 mot Dense-baslinje 0.6672

• Placering på resultattavlan — etta av 38 publicerade Arena v1-resultat på båda mätvärdena, enligt arenans egen resultattavla

• Beräkning — 152 GPU-timmar för utforskning, 550 för sökning, 1 433 för den slutliga körningen, 2 135 totalt

Först på båda måtten, och marginalen är inte enorm: 2,0 CORE-poäng över metoden den byggdes på, 0,0025 BPB. Mer användbar än slutpunkten är utvecklingsbanan. Gapet till Block AttnRes var 0,0037 vid uppdatering 2 000, ökade till 0,0058 medan inlärningshastigheten hölls konstant och avtog sedan till 0,0024 vid slutet – mer än hälften av försprånget gick förlorat i svansen. Rapporten ställer det mot ett externt fall: en Dense Baseline med gaten tillagd ledde med 0,0012 vid uppdatering 2 000, med god marginal förbi den här sökningens egen vinnande linje, och slutade 0,0002 bakom. Det är den ärliga gränsen för hela metoden, formulerad av dem som genomförde den: ett tidigt försprång köper dig en hypotes, inte ett resultat.

Vad som är verifierat och vad du godtar på förtroende

Körningsprotokollet är ovanligt uppriktigt om sitt eget ursprung, och uppriktigheten är skälet att lita på processbeskrivningen mer än på rubriksiffran.

• Oberoende reproduktion — ingen. Arenan märker posten som "självrapporterad" och sidfoten i sammanställningen säger "Arena v1 · resultat från ett enda seed"

• Seeds – ett. Rapporten listar "körde aldrig ett andra seed" bland agentens fyra misslyckanden

• Mänsklig medverkan – varje stegs plan, regler och GPU-budget godkändes av operatören, vars registrerade roll anger att denne inte valde någon kandidat och inte skrev någon metodkod

• Granskning – protokollet anger en andra modell, GPT-6 Astra med hög resonemangsansträngning, som granskar koden för steg tre och startskripten innan något GPU-jobb, inte väljer arkitekturer

• Reproducerbarhetsmaterial — en offentlig MIT-licensierad kodväg för metoden, en checkpoint och loggar på Hugging Face, samt ett spår avsett att spela upp varje instruktion och resultat; checkpointen hade noll nedladdningar när detta skrevs

• Urvalssignal — endast dev-split BPB; agenten såg inte CORE-22 när den gjorde valet

Den sista posten spelar större roll än den verkar. Agenten kunde läsa de publicerade resultaten från andra metoder men valde kandidater enbart utifrån dev-delmängden, vilket är skillnaden mellan att söka och att tjuvkika.

Felistan är den andra halvan av värdet. Fyra dagars kontext, komprimerad sju gånger, med kandidatanteckningar skrivna till filer så att tråden kunde återupptas. Agenten planerade att fatta sitt beslut i runda tre vid uppdatering 1 536 men satte påminnelser endast vid 512 och 2 000, så den stannade i gapet och återupptogs först när en människa puffade till den. Den rankade equal-compute mixture-of-experts högst och båda varianterna slutade sist. Den förväxlade variation mellan körningar med variation mellan seedningar. Och den optimerade kvalitet utan någon begränsning på hastighet, vilket är hur en 1,66× långsammare modell vann en beräkningsmatchad tävling enbart på kvalitet.

Inget av dem är exotiskt. De är de felmoder som alla som kör en lång agentloop redan känner till: en plan utan timer, en prior som inte överlever kontakt, en variansmodell som inte är den varians du har, och en objektivfunktion med ett hål i. Det nya är att se dem punktvis uppräknade av dem som såg dem inträffa, med spåret på GitHub.

Vad detta förändrar för någon som väljer en modell

Inget om Claude Opus 5.5:s prislista, kontext eller benchmarks. Det användbara skiftet är snävare och mer praktiskt: det här är en av de första offentliga, återspelbara demonstrationerna på att en allmän frontier-modell, givet en fast utvärderingsrigg och mänskligt budgetgodkännande, kan genomföra en experimentell sökning i flera omgångar och producera något som ett team faktiskt skulle träna.

Det får en specifik konsekvens för hur du skulle använda det. Om du överväger att rikta en agent mot ett sökproblem som är ditt eget, är den överförbara delen av rapporten protokollet, inte arkitekturen: kalibrera din billiga proxy mot kända fullständiga resultat innan du spenderar en enda GPU-timme, sätt ett brusgolv och en vinsttröskel i förväg utifrån upprepade körningar, ändra en sak per kandidat mot en angiven förälder, och avgör vinster vid en horisont som du har visat är prediktiv. De fyra reglerna kostar cirka 7 % av den totala beräkningskraften här och är anledningen till att de övriga 93 % inte gick till spillo.

Det arkitektoniska resultatet är svårare att agera på. AttnRes-Canon är en forskningsmetod, inte en serverad modell. Den finns som ett metodplugin och en checkpoint på 49,152B token, med ett enda seed, och den som vill bygga vidare på den börjar med ett reproduktionsförsök. Betrakta CORE-22-siffran som en ledtråd värd ett andra seed, inte som en fastställd egenskap hos attention-residualer.

Där OrcaRouter passar in är den del av arbetsflödet som omger sökningen snarare än själva sökningen. Claude Opus 5.5 finns i vår katalog till Anthropics publicerade listpris som förs vidare med 0 % påslag — $4,00 per miljon input, $20,00 per miljon output, $0,20 för cachereads, 1M-token kontext — och de modeller som en sökloop vanligtvis delas upp mellan sitter bakom samma nyckel: Claude Fable 5.2 till $8,00/$40,00 sedan 9 november, GPT-6 Astra till $10,00/$50,00 upp till 272K token och $20,00/$75,00 däröver, Claude Opus 5 till $5,00/$25,00. En fyra dagar lång researchsession som komprimerar sin kontext sju gånger är en lång, dyr och felfkänslig konversation; att köra den mot en enda slutpunkt med automatisk failover innebär att en störning hos leverantören kostar ett nytt försök i stället för en hel natt, och routnings-DSL:en låter dig sätta en billigare modell på den rutinmässiga analysen och behålla Claude Opus 5.5 för de beslut som styr nästa runda.

Vad du ska titta på härnäst

Tre saker skulle flytta detta från en intressant självrapport till ett resultat du kan bygga vidare på. Ett andra slumpfrö, vilket rapporten säger inte hände och som skulle visa om 0,0025 BPB är verkligt. En ny körning med hastighetsbegränsning, eftersom en stegtid på 1,66× är en tredjedel av värdet om man bryr sig om genomströmning per GPU-timme snarare än per token. Och Arena v2, som författarna säger kommer att köras i en förseglad container med en fast beräkningsbudget så att agenten inte alls kan se den formella valideringsmängden eller CORE-22 — det är versionen där ”en agent gjorde forskningen” slutar behöva en människa i loopen för att vara trovärdig.

Fram till dess är den rättvisande sammanfattningen denna: en agent som fått en välbyggd mätstock hittade en verklig, måttlig och i princip reproducerbar arkitekturförbättring på fyra dagar för cirka 2 100 GPU-timmar, och skrev ned allt den gjorde fel på vägen. Den sista delen är den del som fältet vanligtvis utelämnar.