Claude Opus 5.5 Menemukan AttnRes-Canon: Apa yang Sebenarnya Dibuktikan oleh Empat Hari Pencarian Arsitektur

Pada 6 November 2026, sebuah kelompok riset bernama IAAI menerbitkan catatan proses Arena v1 yang menyebut Claude Opus 5.5 sebagai agen yang merancang arsitektur Transformer bernama AttnRes-Canon, plus sebuah checkpoint, jejak yang dapat diputar ulang, dan tulisan sepuluh menit oleh Yi Ge yang menjelaskan bagaimana hal itu tercapai. Claude Opus 5.5 sendiri bukan hal baru — Anthropic merilisnya pada 22 September 2026 dengan harga $4 per juta token input dan $20 per juta token output, dan tidak ada yang berubah bulan ini terkait harga, jendela konteks, atau benchmark yang dipublikasikan untuk model tersebut. Yang baru adalah sesuatu yang bertanggal dalam sepekan terakhir: catatan publik yang dapat diperiksa tentang sebuah model frontier yang menjalankan seluruh pencarian arsitektur secara mandiri, termasuk cabang-cabang yang gagal, dan model yang dapat diunduh yang dihasilkan pada akhirnya. Itu klaim yang lebih sempit daripada yang disiratkan lini masa, dan itu lebih menarik daripada satu baris benchmark.

Catatan ini juga menjadi alasan mengapa tulisan ini merupakan artikel "inilah yang sebenarnya sudah terbukti" dan bukan postingan peluncuran. Arena tersebut memberi label pada entrinya sendiri sebagai dilaporkan sendiri. Hanya ada satu seed. Tidak ada pihak di luar operator yang mereproduksi angka tersebut, dan pada saat penulisan, checkpoint Hugging Face belum pernah diunduh sama sekali. Bacalah bagian-bagian di bawah ini dengan pemahaman tersebut — bukan sebagai alasan untuk mengabaikan hasilnya, melainkan sebagai gambaran persis dari bentuk buktinya.

Apa sebenarnya AttnRes-Canon

Dua ide yang sudah ada, digabungkan, ditambah satu hal yang tidak dilakukan oleh keduanya secara sendiri-sendiri.

Ide pertama adalah {{1}}Attention Residuals{{/1}}, dari makalah K​imi Team yang diposting ke arXiv pada Maret 2026 (2603.15031). Koneksi residual PreNorm standar menjumlahkan keluaran setiap lapisan dengan bobot tetap satu, sehingga keadaan tersembunyi tumbuh seiring kedalaman dan kontribusi setiap lapisan menjadi terdilusi. {{2}}Attention Residuals{{/2}} menggantikan penjumlahan tetap itu dengan atensi softmax atas lapisan-lapisan sebelumnya, sehingga bobot pencampuran bergantung pada input. Versi murahnya, Block AttnRes, mengelompokkan lapisan ke dalam blok dan melakukan atensi atas ringkasan blok; versi mahalnya memungkinkan setiap lapisan membaca setiap lapisan sebelumnya secara langsung. Dalam baseline arena, 23 lapisan berada dalam 8 grup, sehingga sebuah lapisan dapat membaca kembali jumlah keluaran grup sebelumnya — ringkasan bab, dalam bayangan penulis, bukan bab-babnya.

Yang kedua adalah lapisan Canon, dari “Physics of Language Models, Part 4.1” karya Zeyuan Allen-Zhu (arXiv:2512.17351, Desember 2025 dengan revisi Juli 2026). Lapisan Canon adalah konvolusi kecil dengan lebar 4: saat memproses token saat ini, lapisan ini juga mencampurkan tiga token tepat sebelumnya.

AttnRes-Canon adalah Full Attention Residuals — 23 grup alih-alih 8, setiap lapisan membaca lapisan mana pun yang lebih awal secara mandiri — dengan lapisan Canon di empat posisi: A pada input ke attention dan C pada input ke MLP, B pada proyeksi query, key, dan value, serta D pada lapisan tersembunyi MLP. Satu komponen membawa informasi sepanjang kedalaman, komponen lainnya sepanjang urutan. Keuntungan gabungannya sedikit di atas jumlah dari kedua keuntungan yang diukur secara terpisah, yang merupakan satu-satunya klaim arsitektural yang benar-benar baru dalam laporan tersebut.

• Komponen kedalaman — Full AttnRes: 23 grup, setiap lapisan membaca lapisan sebelumnya secara individual alih-alih melalui ringkasan blok

• Komponen urutan — lapisan Canon di A, B, C, dan D: konvolusi kausal lebar-4 atas setiap token dan tiga pendahulunya

• Biaya — 1,66× waktu per pembaruan pelatihan Block AttnRes, arsitektur induk yang dikalahkannya

Jika kalimat terakhir itu terdengar seperti tambahan belaka, itulah yang tidak pernah diperhitungkan oleh pencarian, dan kita akan kembali membahasnya.

Penguasa datang sebelum pencarian.

Aturan arena sengaja dibuat membosankan. Data pelatihan, 46.875 pembaruan, dan FLOPs per token (dalam rentang ±1%) ditetapkan; hanya arsitekturnya yang boleh berubah; penilaiannya adalah CORE-22 — rata-rata atas 22 tugas, semakin tinggi semakin baik — ditambah bits-per-byte validasi, semakin rendah semakin baik; dan selama pencarian, agen hanya boleh melihat loss pelatihan dan BPB split dev. Satu proses penuh memakan biaya lebih dari 1.400 jam GPU, sehingga tidak ada pencarian yang mampu melatih selusin ide hingga tuntas. Semuanya bergantung pada apakah proses singkat memeringkat ide dengan cara yang sama seperti proses panjang.

Jadi sekitar 152 GPU-jam pertama habis untuk mengkalibrasi tolok ukur itu, bukan untuk masalahnya. Jalan pintas yang jelas — memadatkan seluruh jadwal learning-rate ke dalam 512 pembaruan — ternyata salah mengurutkan secara sistematis: saat dilatih pada 11 metode yang hasil lengkapnya sudah diketahui, metode itu menghasilkan korelasi Spearman 0,40 terhadap urutan akhir, padahal ambang yang ditetapkan sebelumnya adalah 0,85. Kesalahannya bukan noise. Keempat arsitektur looped turun dalam peringkat dan keempat arsitektur linear-attention naik, karena memotong learning-rate lebih awal menguntungkan model yang cepat konvergen dan memangkas model yang lambat memulai.

Mengambil prefiks dari jadwal sebenarnya — jadwal yang sama, dihentikan lebih awal, lalu dilanjutkan dengan proses penuh yang sebenarnya — mencapai 0,72 pada 500 pembaruan dan 0,92 pada 2.000. Itulah yang memperbaiki protokol: 512 pembaruan hanyalah batas minimum untuk menyingkirkan kandidat yang jelas gagal dilatih, dan setiap keputusan peringkat dibuat pada pembaruan 2.000, sekitar 4% dari proses penuh. Kalibrasi yang sama menghasilkan batas bawah noise: dua proses dengan seed yang sama berbeda sekitar 0,0004 dalam dev BPB, sehingga seorang kandidat harus mengalahkan induknya dengan selisih lebih dari 0,001 agar dihitung sebagai kemenangan.

Itu adalah desain eksperimen yang lebih baik daripada yang biasanya diupayakan oleh sebagian besar makalah arsitektur manusia, dan patut dikatakan secara terus terang bahwa desain, bukan model, yang membuat hasilnya mudah dipahami.

Tiga putaran, dua belas kandidat, satu fatamorgana

Putaran pertama mencoba lima perubahan tunggal di atas Block AttnRes, masing-masing membawa hipotesis tertulis yang dapat dibantah. Tidak ada yang melewati ambang −0,0010 pada pembaruan 2.000. Full AttnRes paling mendekat pada −0,0008; Canon pada posisi A dan C mencapai −0,0006. Varian gated-attention memimpin seluruh bidang pada pembaruan 512 dengan −0,0027 dan finis di belakang pada +0,0006 — laporan menyebutnya sebagaimana adanya, sebuah fatamorgana, dan pola yang sama berulang.

Putaran kedua menggabungkan near-miss dan menambahkan dua varian mixture-of-experts pada komputasi yang setara. Tiga kandidat melewati ambang: Canon pada keempat posisi (−0.0021, waktu langkah 1,47×), Full AttnRes plus Canon-A/C (−0.0018, 1,30×), dan Full AttnRes plus gate (−0.0010, sedikit di atas). Gate hampir tidak berkontribusi di mana pun ia ditambahkan, sementara kedua perubahan lainnya menurunkan BPB dev pada setiap parent yang dicoba. Kedua varian MoE — termasuk konfigurasi equal-compute yang dinilai agen paling tinggi — finis di urutan terakhir dan kedua dari belakang.

Dan peringkatnya berbalik drastis: empat kandidat teratas pada pembaruan 512 berakhir dalam urutan yang persis terbalik pada pembaruan 2.000.

Putaran ketiga adalah momen pencarian itu membuktikan manfaatnya. Alih-alih mempercayai urutan update-512 untuk kedua kalinya, ia menunggu proses putaran dua mencapai update 1.536. Dua kandidat kemudian berbagi Canon-A/C sebagai induknya, satu melangkah menuju Full AttnRes dan satu menambahkan posisi Canon B dan D; keduanya berada sekitar 0,002 di bawah induk bersama tersebut. Dengan anggaran untuk satu kandidat lagi, agen menggabungkan keduanya alih-alih menunggu beberapa ratus update terakhir. Model gabungan mencapai dev BPB sebesar 0,7965 — 0,0038 di bawah Block AttnRes dan peringkat pertama di seluruh pencarian — dengan waktu langkah 1,66×.

Total: 12 kandidat, 3 putaran, 550 jam GPU untuk pencarian.

Putaran terakhir, dan seberapa besar keunggulan yang bertahan

Run singkat hanya melihat bagian datar dari jadwal laju pembelajaran. Apakah keunggulan awal bertahan setelah peluruhan harus diukur, dan inilah bagian laporan yang paling perlu diperhatikan.

AttnRes-Canon diporting ke dalam plugin metode formal dan dilatih dari awal selama 49.152B token pada 32 GPU H20, seed tunggal.

• CORE-22 — AttnRes-Canon 35,99 vs mHC 35,33 vs Block AttnRes 34,00 vs Dense Baseline 33,10

• Validasi BPB — AttnRes-Canon 0.6605 vs mHC 0.6617 vs Block AttnRes 0.6630 vs Dense Baseline 0.6672

• Posisi papan peringkat — pertama dari 38 hasil Arena v1 yang dipublikasikan pada kedua metrik, menurut papan milik arena itu sendiri

• Komputasi — 152 jam GPU untuk eksplorasi, 550 untuk pencarian, 1.433 untuk eksekusi akhir, dan total 2.135

Pertama pada kedua metrik, dan selisihnya tidak besar: 2,0 poin CORE di atas metode yang menjadi dasar pengembangannya, 0,0025 BPB. Yang lebih berguna daripada titik akhirnya adalah lintasannya. Jarak ke Block AttnRes adalah 0,0037 pada pembaruan 2.000, melebar menjadi 0,0058 saat laju pembelajaran tetap konstan, lalu menyusut menjadi 0,0024 pada akhirnya — lebih dari separuh keunggulan hilang di bagian ekor. Laporan itu memasangkannya dengan kasus eksternal: Dense Baseline dengan gate yang ditambahkan memimpin dengan 0,0012 pada pembaruan 2.000, jauh melampaui garis kemenangan pencarian ini sendiri, dan berakhir 0,0002 di belakang. Itulah batas jujur dari keseluruhan metode ini, yang dinyatakan oleh orang-orang yang menjalankannya: keunggulan awal memberimu sebuah hipotesis, bukan hasil.

Apa yang terverifikasi, dan apa yang Anda percayai begitu saja

Catatan eksekusi itu luar biasa terbuka tentang asal-usulnya sendiri, dan keterbukaan itulah alasan untuk lebih mempercayai deskripsi prosesnya daripada angka utamanya.

• Reproduksi independen — tidak ada. Arena memberi label entri tersebut "dilaporkan sendiri" dan footer tulisan itu menyatakan "Arena v1 · hasil satu seed"

• Seed — satu. Laporan mencantumkan "tidak pernah menjalankan seed kedua" di antara empat kegagalan agen

• Keterlibatan manusia — rencana, aturan, dan anggaran GPU setiap tahap disetujui oleh operator, yang peran tercatatnya menyatakan bahwa ia tidak memilih kandidat mana pun dan tidak menulis kode metode apa pun

• Tinjauan — catatan mencantumkan model kedua, GPT-6 Astra dengan upaya penalaran tinggi, yang meninjau kode tahap tiga dan skrip peluncuran sebelum pekerjaan GPU apa pun, bukan memilih arsitektur

• Materi reproduksibilitas — jalur kode berlisensi MIT yang publik untuk metode tersebut, sebuah checkpoint dan log di Hugging Face, serta jejak yang dimaksudkan untuk memutar ulang setiap instruksi dan hasil; checkpoint tersebut tidak memiliki unduhan saat ini ditulis

Sinyal pemilihan — hanya BPB dev-split; agen tidak melihat CORE-22 saat memilih

Butir terakhir itu lebih penting daripada yang terlihat. Agen tersebut dapat membaca hasil yang dipublikasikan dari metode lain tetapi memilih kandidat hanya menggunakan split dev, yang merupakan perbedaan antara mencari dan mengintip.

Daftar kegagalan adalah separuh nilai lainnya. Empat hari konteks, dipadatkan tujuh kali, dengan catatan kandidat ditulis ke file agar thread dapat dilanjutkan. Agen berencana membuat keputusan putaran ketiganya pada pembaruan 1.536 tetapi hanya memasang pengingat pada 512 dan 2.000, sehingga agen berhenti di celah itu dan baru dilanjutkan ketika manusia memberinya dorongan. Agen menilai mixture-of-experts dengan komputasi setara sebagai yang tertinggi dan kedua varian finis terakhir. Agen mengacaukan variasi antar-run dengan variasi antar-seed. Dan agen mengoptimalkan kualitas tanpa batasan kecepatan, yang membuat model 1,66× lebih lambat memenangkan kontes dengan komputasi setara hanya berdasarkan kualitas.

Tidak satu pun dari itu eksotis. Itu adalah mode kegagalan yang sudah diketahui siapa pun yang menjalankan loop agen panjang: rencana tanpa pewaktu, prior yang tidak bertahan saat bersentuhan dengan kenyataan, model varians yang bukan varians yang Anda miliki, dan fungsi objektif yang memiliki lubang di dalamnya. Yang baru adalah melihatnya dirinci oleh orang-orang yang menyaksikannya terjadi, dengan jejak di GitHub.

Apa yang ini ubah bagi seseorang yang memilih model

Tidak ada yang membahas kartu tarif, konteks, atau benchmark Claude Opus 5.5. Pergeseran yang berguna lebih sempit dan lebih praktis: ini adalah salah satu demonstrasi publik pertama yang dapat diputar ulang bahwa model frontier serba guna, dengan harness evaluasi tetap dan persetujuan anggaran manusia, dapat menjalankan pencarian eksperimental multi-putaran dan menghasilkan sesuatu yang benar-benar akan dilatih oleh tim.

Hal itu memiliki konsekuensi khusus bagi cara Anda menggunakannya. Jika Anda mempertimbangkan untuk mengarahkan agen pada masalah pencarian Anda sendiri, bagian laporan yang dapat ditransfer adalah protokolnya, bukan arsitekturnya: kalibrasi proksi murah Anda terhadap hasil lengkap yang diketahui sebelum menghabiskan satu jam-GPU pun, tetapkan batas bawah noise dan ambang kemenangan terlebih dahulu dari pengujian berulang, ubah satu hal per kandidat terhadap induk yang dinyatakan, dan putuskan kemenangan pada horizon yang telah Anda tunjukkan bersifat prediktif. Keempat aturan itu memakan sekitar 7% dari total komputasi di sini dan menjadi alasan 93% sisanya tidak terbuang.

Hasil arsitekturalnya lebih sulit untuk ditindaklanjuti. AttnRes-Canon adalah metode penelitian, bukan model yang dilayani. Ia ada sebagai plugin metode dan checkpoint 49.152B-token, seed tunggal, dan siapa pun yang ingin membangun di atasnya memulai dari upaya reproduksi. Anggap angka CORE-22 sebagai petunjuk yang layak diuji dengan seed kedua, bukan sebagai sifat yang sudah mapan dari residu atensi.

Posisi OrcaRouter adalah pada bagian alur kerja yang melingkupi pencarian, bukan pencarian itu sendiri. Claude Opus 5.5 ada di katalog kami dengan harga daftar resmi Anthropic yang diteruskan apa adanya dengan markup 0% — $4.00 per juta input, $20.00 per juta output, $0.20 pembacaan cache, konteks 1M token — dan model-model yang biasanya dipakai bergantian oleh sebuah loop pencarian berada di balik kunci yang sama: Claude Fable 5.2 seharga $8.00/$40.00 sejak 9 November, GPT-6 Astra seharga $10.00/$50.00 hingga 272K token dan $20.00/$75.00 di atasnya, Claude Opus 5 seharga $5.00/$25.00. Sesi riset empat hari yang memadatkan konteksnya tujuh kali adalah percakapan yang panjang, mahal, dan rawan gagal; menjalankannya terhadap satu endpoint dengan failover otomatis berarti gangguan penyedia hanya memakan satu percobaan ulang, bukan semalam, dan DSL perutean memungkinkan Anda menempatkan model yang lebih murah pada analisis rutin dan mempertahankan Claude Opus 5.5 untuk keputusan yang menentukan putaran berikutnya.

Tontonan Berikutnya

Tiga hal akan mengubah ini dari laporan mandiri yang menarik menjadi hasil yang bisa Anda bangun di atasnya. Seed kedua, yang menurut laporan tidak terjadi dan yang akan memberi tahu Anda apakah 0.0025 BPB itu nyata. Pengulangan dengan batasan kecepatan, karena waktu langkah 1,66× hanya sepertiga nilainya jika Anda peduli pada throughput per GPU-jam alih-alih per token. Dan Arena v2, yang menurut para penulis akan dijalankan di dalam kontainer tersegel dengan jatah komputasi tetap sehingga agen sama sekali tidak dapat melihat set validasi formal atau CORE-22 — itulah versi di mana "agen melakukan penelitian" tidak lagi memerlukan manusia dalam loop agar kredibel.

Hingga saat itu, ringkasan yang adil adalah ini: agen yang diberi penggaris yang dibangun dengan baik menemukan peningkatan arsitektur yang nyata, sederhana, dan pada prinsipnya dapat direproduksi dalam empat hari dengan sekitar 2.100 jam GPU, dan mencatat semua kesalahan yang dibuatnya sepanjang proses. Bagian terakhir itulah bagian yang biasanya dihilangkan oleh bidang ini.