Ilustrasi abstrak yang dihasilkan pada latar biru navy gelap: landasan model transulen berada di dalam ruang uji kaca tertutup, tautan jaringannya digambarkan sebagai kabel yang terpotong, dengan busur pemantauan amber samar menyapu sekeliling ruang tersebut. Tidak ada teks, orang, maupun logo organisasi yang muncul dalam gambar. Logo OrcaRouter dikomposisikan di sudut kanan bawah.
AI Safety Incidents

OpenAI Tidak Dapat Menutup Kemungkinan Adanya Kapabilitas Siber Kritis pada Astra, dan Hanya Menjeda Sebagian Pekerjaannya

Penulis

Alistair Wren

Tanggal Terbit

Model terbaru · 20Lihat semua model →
Benchmark: Artificial Analysis · diperbarui setiap hari
Kembali ke semua artikel

Pada hari Jumat 7 Agustus 2026, OpenAI menerbitkan sebuah postingan yang menyatakan bahwa evaluasi internal terbarunya terhadap Astra, salah satu modelnya yang akan datang, menunjukkan "kemajuan signifikan dalam pengodean agentik dan keamanan siber," dan bahwa pihaknya tidak dapat menutup kemungkinan model tersebut mencapai Critical — tingkat siber tertinggi dalam Kerangka Kesiapan (Preparedness Framework) miliknya. Kesimpulan itu dicapai "tadi malam," menurut postingan tersebut, setelah beberapa hari pengujian. Tidak ada yang dirugikan: postingan itu menjelaskan evaluasi, bukan intrusi, dan OpenAI menyatakan bahwa Astra "tidak terlibat dalam mengeksploitasi Hugging Face." Yang berubah bersifat internal — pengembangan yang tidak memenuhi kontrol keamanan yang diperketat dihentikan, sementara pekerjaan yang memenuhinya dilanjutkan. Orang-orang yang paling terdampak langsung adalah para pengembang OpenAI, bersama para penguji dan defender yang pada akhirnya akan mendapatkan akses. Catatan keputusan tersebut merupakan satu entri dalam arsip insiden AI, yang memuat sumber, penilaian, dan entri-entri tetangga insiden ini.

Untuk sebuah peristiwa tata kelola, hal yang paling mencolok adalah betapa sedikitnya klaim dalam tulisan itu. Tulisan itu tidak melaporkan skor, hasil uji, transkrip, maupun nama evaluator eksternal. Yang dilaporkan adalah sebuah penilaian: bahwa berdasarkan bukti yang tersedia, OpenAI tidak dapat menyingkirkan kemungkinan adanya tingkat kemampuan yang belum pernah diberikan kepada model mana pun miliknya. Itu membuat catatan tersebut layak dibaca sebagai dua hal sekaligus — pengungkapan tentang sebuah model, dan uji apakah kerangka keselamatan milik perusahaan sendiri mengubah apa yang dilakukan perusahaan itu.

Apa arti "Critical" dalam kerangka kerja OpenAI

Kerangka Kesiapan, pertama kali diterbitkan pada Desember 2023 dan direvisi dalam versi 2 pada 15 April 2025, memantau tiga kategori: kemampuan biologis dan kimia, keamanan siber, dan peningkatan diri AI. Masing-masing memiliki dua tingkat kemampuan, Tinggi dan Kritis. Ambang batas siber muncul dengan kata-kata yang hampir identik baik dalam kerangka tersebut maupun dalam postingan OpenAI pada Agustus: sebuah model mencapai Kritis jika model tersebut dapat "mengidentifikasi dan mengembangkan eksploitasi zero-day fungsional dari semua tingkat keparahan di banyak sistem kritis dunia nyata yang diperkeras tanpa intervensi manusia," atau jika model tersebut dapat "merancang dan menjalankan strategi baru menyeluruh untuk serangan siber terhadap target yang diperkeras hanya dengan diberikan tujuan yang diinginkan pada tingkat tinggi."

High adalah tingkat di bawahnya. Tulisan OpenAI menyatakan bahwa model-model sebelumnya, "termasuk GPT-5.6 Sol," dievaluasi untuk kemampuan siber frontier dan dinilai pada High, bukan Critical. Perbedaan ini penting karena kerangka kerja tersebut melekatkan kewajiban yang berbeda pada masing-masing tingkat. Untuk model yang mencapai Critical, kerangka kerja tersebut mensyaratkan pengamanan yang "secara memadai meminimalkan risiko terkait selama pengembangan, terlepas dari rencana penerapan." Tabel sibernya lebih blak-blakan: "Sampai kami menetapkan standar pengamanan dan kontrol keamanan yang memenuhi standar Critical, hentikan pengembangan lebih lanjut."

Kata-kata pada 7 Agustus bukanlah sebuah penetapan. Unggahan itu menyatakan bahwa "evaluasi awal mereka menunjukkan kinerja yang cukup kuat sehingga kami tidak dapat menyingkirkan kemungkinan tingkat kapabilitas Kritis saat ini." Perusahaan masih melakukan benchmarking, dan mereka menyatakannya.

An HTML card headed 'The cyber threshold, in OpenAI's own words', subtitled 'Preparedness Framework v2, last updated 15 April 2025'. A grey HIGH panel gives the two High conditions and notes that GPT-5.6 Sol was assessed there; an amber CRITICAL panel gives the two Critical conditions and notes that OpenAI could not rule them out. A blue band reads that High obligations attach before deployment while Critical obligations attach during development, irrespective of deployment plans. A dark band quotes the framework's rule: 'Until we have specified safeguards and security controls standards that would meet a Critical standard, halt further development.' A footer cites the Preparedness Framework v2 and OpenAI's 7 August 2026 post.

Apa yang dilakukan OpenAI, dan apa yang dicakup oleh jeda tersebut

Pos ini mencantumkan lima tindakan internal, semuanya dirumuskan sebagai syarat untuk melanjutkan pekerjaan, bukan sebagai alasan untuk menghentikannya:

• Kontrol keamanan yang lebih ketat untuk model berkemampuan lebih tinggi dan aktivitas terkait: "lingkungan pengujian terisolasi, akses jaringan dan alat yang dibatasi, perlindungan dan enkripsi bobot model yang ditingkatkan, kemampuan pemantauan dan deteksi tambahan, serta eksekusi dalam sandbox."

• Jeda terhadap "kegiatan internal yang melibatkan Astra yang belum memenuhi persyaratan kontrol keamanan yang diperkuat ini." Pekerjaan yang telah memenuhinya dapat dilanjutkan.

• "Pemantauan universal terhadap tindakan berisiko dan ketidakselarasan di seluruh aplikasi agentik Astra, termasuk pelatihan dan evaluasi," dengan pemantau yang membaca rantai pemikiran model dan memicu respons keamanan untuk meninjau dan menghentikan aktivitas berisiko tinggi.

• Pengujian dengan "lembaga pemerintah terkait dan organisasi keselamatan AI tertentu."

• Kontrol keamanan yang direkomendasikan untuk mitra pengujian pihak ketiga yang menjalankan evaluasi dan beban kerja berisiko lebih tinggi.

OpenAI sendiri menggambarkan preseden itu. “Pada Juni 2025, ketika model kami mendekati ambang kemampuan tinggi untuk biologi di bawah Kerangka Kesiapan,” kata postingan tersebut, perusahaan menguraikan langkah-langkah untuk memperkuat pengamanan, memperluas pengujian, bekerja dengan pakar eksternal, dan menambahkan kontrol keamanan, serta sedang “menerapkan prinsip yang sama di sini.” Detail yang layak dipertahankan adalah tingkatannya: catatan OpenAI sendiri menempatkan kasus biologi Juni 2025 itu pada Tinggi, satu tingkat di bawah penilaian siber yang kini diungkapkannya.

Pembacaan pers langsung saat itu adalah bahwa sebuah laboratorium telah mengerem. The Next Web, yang terbit pada 17:36 UTC tanggal 7 Agustus, menggambarkan jeda pada "sebagian pekerjaan internal" sementara pengujian terus berjalan, dan melaporkan bahwa Axios menyebutnya "mungkin untuk pertama kalinya sebuah laboratorium terdepan memperlambat salah satu modelnya sendiri karena risiko siber." Itu adalah gambaran yang adil atas pengumuman tersebut. Itu tidak sama dengan penghentian, dan postingan itu tidak mengklaim adanya penghentian.

Apa yang tidak dibuktikan oleh unggahan 7 Agustus

Kesenjangan antara "tidak dapat menyingkirkan kemungkinan" dan "telah mencapai" merupakan keseluruhan ketidakpastian catatan itu, dan postingan tersebut tidak berupaya menutupnya. Postingan itu tidak memberikan nama tolok ukur, tingkat keberhasilan, jumlah kerentanan yang ditemukan, deskripsi sistem yang diuji, transkrip, penilaian independen, maupun tanggal rilis. Postingan itu tidak menyebutkan kondisi Kritis mana dari dua kondisi tersebut yang sedang didekati Astra, atau seberapa dekat. Postingan itu hanya menyatakan bahwa buktinya cukup kuat sehingga perusahaan tidak dapat mengecualikan tingkat teratas.

Jadi catatan tersebut, per tanggal itu, menetapkan adanya pengungkapan dan respons — bukan kapabilitas yang terukur. Penilaian kapabilitas itu merupakan penilaian OpenAI sendiri, yang dibuat berdasarkan evaluasi internal yang belum dipublikasikannya; OpenAI tidak menunjuk penilai eksternal, dan tidak ada laboratorium luar yang secara publik menguji Astra terhadap definisi Critical. Entri tersebut dinilai pada tingkat keyakinan tertinggi, ditandai tidak disengketakan dan dicatat tanpa dampak buruk nyata, yang cocok dengan isi postingan itu sebenarnya: pernyataan perusahaan, bukan laporan insiden.

Apa yang terjadi selanjutnya

Pada 1 September 2026 bahasa sementara itu telah berubah. Dalam artikel tindak lanjut berjudul "Jalan menuju Astra: kemampuan kritis dan pengamanan terdepan," OpenAI menulis: "Kami sekarang meyakini Astra memenuhi ambang batas kemampuan keamanan siber Kritis berdasarkan Kerangka Kesiapan kami... Ini adalah model pertama yang kami tetapkan pada tingkat ini."

Pos yang sama memberikan rincian yang tidak disertakan dalam pengungkapan Agustus. Rincian itu layak dipisahkan berdasarkan jenisnya:

• Benchmark. Astra meraih skor 100% pada ExploitBench, sebuah benchmark publik untuk mengubah kerentanan yang diketahui menjadi eksploit. Karena kekhawatiran akan kontaminasi, OpenAI juga membuat port internal yang berisi 20 kerentanan V8 bertingkat keparahan tinggi yang diungkapkan antara Juni dan Agustus 2026; pada set tersebut, menurut tulisan itu, Astra menemukan dan menggunakan "dua kerentanan zero-day sebagai bagian dari rantai eksploit," yang menurut OpenAI sedang dalam proses diungkapkan kepada para pengelola.

• Penilaian yang dipandu pakar. Terhadap browser yang diperketat, Astra membangun rantai eksploitasi yang berhasil keluar dari sandbox dan menjalankan perintah pada host; kartu sistem mencatat bahwa keberhasilan awal membutuhkan waktu 29 jam terhadap build yang oleh pakar dinilai kekurangan beberapa mitigasi produksi, dan bahwa mengadaptasi eksploit tersebut ke rilis stabil resmi membutuhkan tambahan 12 jam. Terhadap sistem operasi yang diperketat, Astra menggabungkan berbagai kerentanan menjadi eskalasi hak istimewa lokal dari pengguna tanpa hak istimewa menjadi root dalam waktu 12 jam.

• Tingkat penolakan. Dalam evaluasi jailbreak siber OpenAI, Astra menolak 91,5% permintaan, dibandingkan dengan 59% untuk GPT-5.6 Sol — angka yang direproduksi dalam kartu sistem.

• Pemeriksaan independen, dengan batasan. Kartu sistem, yang diterbitkan pada 3 September 2026 untuk model yang dirilis OpenAI hari itu sebagai GPT-6 Astra, mencakup evaluasi eksternal oleh lab keamanan Irregular. Irregular menemukan bahwa Astra memecahkan 86 dari 226 tantangan FrontierCyber, dibandingkan dengan 34 dari 226 untuk GPT-5.6 Sol, termasuk zero-day yang memengaruhi peramban, ponsel, dan basis data cloud. Irregular juga "tidak mengamati serangan yang berhasil pada target yang sepenuhnya diperkeras," dan kedua model tidak memecahkan satu pun dari tujuh tantangan Elite.

Postingan 1 September juga mengungkap bentuk jeda tersebut. OpenAI mengatakan bahwa mereka telah "menunda sebagian pengembangan dan peluncuran Astra" selama beberapa minggu terakhir, dan bahwa mereka "memulai kembali proses RL frontier besar yang sebelumnya dijeda" pada 28 Agustus 2026, setelah persyaratan keselamatan dan keamanan baru diterapkan. Akses dilakukan secara bertingkat: pekerjaan keamanan siber tingkat lanjut akan diberikan lebih dahulu kepada sekelompok kecil penguji, dengan program Daybreak Blue menyusul.

An HTML timeline card headed 'From cannot rule out to release', subtitled 'Four documented steps in OpenAI's handling of Astra'. Rows read: 7 August 2026, OpenAI says it cannot rule out Critical cyber capability in Astra and pauses internal activity that does not meet its new security controls; 28 August 2026, OpenAI restarts the large frontier reinforcement-learning run that had been paused after new safety and security requirements were in place; 1 September 2026, OpenAI designates Astra as meeting the Critical threshold, its first model at that level, and publishes benchmark and expert-assessment results; 3 September 2026, OpenAI publishes the GPT-6 Astra system card and releases the model, with advanced cyber work limited to testers and Daybreak Blue to follow. A dark footer band reads 'What 7 August did not show: no benchmark, score, transcript or named external assessor, only that OpenAI could not exclude the top tier.' A source line cites the OpenAI posts and the system card.

Mapan, sementara, dan belum mapan

• Terkonfirmasi.OpenAI menerbitkan pengungkapan tersebut pada 7 Agustus 2026 dan menyatakan tidak dapat menyingkirkan kemungkinan adanya kemampuan siber Kritis pada Astra; mereka mencantumkan kontrol dan jeda sebagian yang dijelaskan di atas. The Next Web melaporkan pos tersebut pada hari yang sama, dan Axios membahasnya sebagai pelambatan akibat risiko siber.

• Ditetapkan kemudian. Pada 1 September 2026, OpenAI menetapkan bahwa Astra memenuhi ambang Critical — model pertama yang pernah ditetapkannya pada tingkat tersebut — dan menerbitkan hasil benchmark serta penilaian pakar. Kartu sistem 3 September memuat angka penolakan yang sama dan evaluasi eksternal Irregular.

• Sementara dan dinilai sendiri. Temuan kapabilitas tersebut adalah milik OpenAI, berdasarkan evaluasi OpenAI. Per 7 Agustus, belum ada laboratorium luar yang secara publik menguji model terhadap definisi Kritis, dan postingan tersebut tidak menyebutkan penilai eksternal. Pemeriksaan eksternal belakangan, oleh Irregular, lebih sempit daripada sebutan tersebut dan secara eksplisit tidak menemukan serangan yang berhasil pada target yang sepenuhnya diperkuat.

• Tidak terbukti. Bahwa Astra benar-benar mencapai ambang Critical pada 7 Agustus; postingan itu hanya menyatakan bahwa perusahaan tidak dapat menutup kemungkinan itu. Bahwa ada sistem nyata yang telah dikompromikan: catatan tidak mencatat adanya kerugian, dan OpenAI menyatakan Astra tidak terlibat dalam insiden Hugging Face. Juga tidak terbukti bahwa jeda sebagian memenuhi frasa kerangka kerja itu sendiri "halt further development" — OpenAI melanjutkan pekerjaan yang memenuhi kontrol barunya, dan perusahaan, bukan badan eksternal, yang menilai kecukupan kontrol tersebut.

Pertanyaan tata kelola yang masih dibiarkan terbuka oleh catatan tersebut

Kerangka kerja ini adalah instrumen yang mengikat diri sendiri. Kerangka ini mewajibkan OpenAI untuk memenuhi ambang batas dan pengamanan tertentu, namun menyerahkan penilaian dan keputusan mengenai kecukupannya kepada OpenAI sendiri, dengan peninjauan internal oleh Safety Advisory Group dan pengawasan dewan. Postingan 7 Agustus menjelaskan proses konsultasi — lembaga pemerintah dan "organisasi keselamatan AI pilihan" akan menguji model tersebut — tetapi tidak menyebut regulator mana pun, tidak menerbitkan kriteria, dan tidak menetapkan tanggal. Tidak ada apa pun dalam catatan yang menunjukkan bahwa pihak luar memeriksa keputusan tersebut.

Apa yang memang ditunjukkan oleh catatan tersebut adalah bahwa mekanismenya bergerak. Penilaian kapabilitas mengubah praktik internal dalam waktu sehari: kontrol diperketat, sebagian pekerjaan dihentikan, pemantauan diperluas hingga mencakup pelatihan dan evaluasi, dan akses ke fungsi-fungsi paling mumpuni kemudian dibatasi hanya untuk penguji. Itu lebih dari sekadar siaran pers, dan kurang dari verifikasi eksternal.

Bagian yang belum terselesaikan adalah bagian yang tidak dapat diputuskan oleh kerangka kerja itu sendiri. “Tidak dapat mengesampingkan” adalah pernyataan tentang bukti, bukan tentang kemampuan, dan hal itu membiarkan perusahaan memutuskan berapa banyak bukti yang cukup sebelum melanjutkan. OpenAI memulai kembali proses pelatihan skala besar pada 28 Agustus, menetapkan model tersebut sebagai Critical pada 1 September, dan merilisnya sebagai GPT-6 Astra pada 3 September. Setiap langkah terdokumentasi. Apakah setiap langkah seharusnya terjadi pada saat itu merupakan pertimbangan yang dicatat oleh catatan, tetapi tidak dijawab oleh catatan tersebut.

A generated abstract illustration on a dark navy grid: a translucent boundary ring encloses a cluster of nodes, with a single amber monitor glyph outside the ring tracing an arc across the cluster's activity. Faint concentric detection rings surround the enclosure. No text, no people, no code and no organisation logos appear in the image. The OrcaRouter logo is composited in the bottom-right corner.

Dibandingkan dalam artikel ini1

Terdeteksi dari artikel ini · Benchmark: Artificial Analysis · diperbarui setiap hari