DeepMind Membuka Institut Kebijakan AGI, dengan Tinjauan Model 30 Hari yang Sudah Di Meja Perundingan

Pada 16 September 2026 Google DeepMind meluncurkan DeepMind Institute, platform penerbitan untuk esai tentang kecerdasan artifisial umum, yang dipimpin oleh Demis Hassabis, Shane Legg, dan James Manyika, dengan Legg sebagai editor pelaksana. Tidak ada model yang dirilis dan tidak ada kerugian yang tercatat. Peluncuran ini penting karena apa yang diperdebatkan dalam esai-esai pembuka: satu esai, oleh Hassabis, mengusulkan badan standar AI frontier yang dipimpin AS yang akan meninjau model-model paling cakap hingga 30 hari sebelum rilis — awalnya bersifat sukarela, lalu menjadi syarat untuk penerapan di Amerika Serikat, dengan uji held-out dan kemungkinan perlambatan terkoordinasi di baliknya. Esai lain, oleh peneliti keselamatan DeepMind Rohin Shah dan Anca Dragan, berargumen untuk membatasi "kedalaman serial opak", yaitu komputasi yang boleh dilakukan model tanpa menghasilkan jejak penalaran yang dapat dibaca. Catatan arsip tentang peluncuran itu, dengan penilaian dan sumber yang dikutip, terdapat di arsip insiden AI bersama entri tata kelola lainnya dalam seri ini.

Apa yang diluncurkan, dan apa yang sebenarnya baru

The DeepMind Institute adalah wadah publikasi, bukan regulator. Tiga direkturnya adalah Hassabis, salah satu pendiri dan ketua Google DeepMind serta kepala ilmuwan Alphabet; Legg, salah satu pendiri dan kepala ilmuwan AGI, yang juga menyunting situs tersebut; dan Manyika, presiden riset, laboratorium, teknologi, dan masyarakat Google. Gelar-gelar tersebut berasal dari halaman penulis institute itu sendiri dan diulang dalam laporan The Next Web tanggal 16 September dan TechCrunch tanggal 17 September. Situs ini memuat penyangkalan yang lebih penting daripada esai mana pun: tulisan-tulisan DMI "dimaksudkan sebagai pemantik percakapan, yang mencerminkan gagasan dan riset penulis, dan tidak boleh dibaca sebagai pandangan resmi Google."

Pada saat artikel ini ditulis, indeks tersebut mencantumkan delapan esai, lima di antaranya bertanggal 16 September: esai pendiri oleh ketiga direktur; "Argumen untuk transparansi penalaran", oleh Rohin Shah dan Anca Dragan; "Kebijakan ekonomi untuk AGI", oleh Julian Jacobs dan Alex Imas; "Prinsip-prinsip untuk utopianisme baru", oleh Stephen Cave; dan "Argumen untuk manfaat global dari AI", oleh Iason Gabriel dan Atoosa Kasirzadeh. Dua esai lagi menyusul pada 24 September — "Pelaku kecurangan dan pelapor pelanggaran dalam kawanan agen" dan "Kecerdasan artifisial simbiotik" — dan satu lagi pada 8 Oktober, "Membelokkan Kurva Penemuan".

Jumlah pada hari peluncuran layak dicatat karena liputannya tidak sesuai dengan halaman tersebut. TechCrunch, The Next Web, dan AI Weekly masing-masing menyebutkan empat tulisan yang diterbitkan bersama esai pendirian dan masing-masing mencantumkan kerangka kerja Hassabis di antaranya. Ketiganya tidak menyebut “Argumen untuk manfaat global dari AI”, yang oleh situs diberi tanggal hari yang sama. Catatan yang ada tidak menyelesaikan perbedaan itu, dan artikel ini juga tidak; yang pasti, stempel tanggal situs itu sendiri menempatkan esai tersebut dalam rangkaian pembuka, sedangkan laporan-laporan sezaman tidak menyebutkannya.

Tanggal yang lebih penting sebenarnya bukan 16 September. Esai kerangka kerja itu bertanggal 14 Juli 2026 di situs DMI, dan paragraf pembukanya diakhiri dengan catatan bahwa esai tersebut "pertama kali muncul di X". Proposal tinjauan 30 hari itu karenanya sekitar dua bulan lebih tua daripada institut yang kini menjadi penyelenggaranya; yang ditambahkan oleh peluncuran adalah tempat dan kumpulan, bukan ide kebijakan baru. Kami tidak menemukan postingan X aslinya, jadi halaman DMI adalah sumber untuk tanggal Juli maupun catatan asal-usul itu. TechCrunch, The Next Web, dan AI Weekly semuanya menyajikan kerangka kerja tersebut sebagai bagian dari daftar pembuka tanpa menyebut publikasi sebelumnya, sebuah detail yang biasanya diratakan oleh cerita peluncuran dan justru dibutuhkan pembaca yang sedang menyusun ulang kronologinya.

Proposal badan standar tersebut, sebagaimana tertulis

Esai Hassabis adalah dokumen paling konkret dalam koleksi ini, dan kekhususan itulah yang membuatnya layak dikutip. Esai itu mengusulkan agar Amerika Serikat membentuk "Badan Standar baru yang dimodelkan berdasarkan kemitraan publik-swasta yang diawasi federal atau organisasi pengatur mandiri, sangat mirip dengan Financial Industry Regulatory Authority (FINRA)", dengan dewan yang mencakup pakar teknis independen dan perwakilan open-source, yang sebagian besar didanai oleh industri untuk membayar talenta teknis dan daya komputasi yang dibutuhkan bagi pengujian berskala besar. Sebuah model akan memenuhi kualifikasi sebagai "Frontier-class" dengan melampaui ambang batas pada tolok ukur yang ditetapkan dan diperbarui oleh badan tersebut; organisasi yang memiliki model semacam itu akan ditetapkan sebagai "Frontier Labs" dan didorong untuk menerbitkan kartu model, menjaga keamanan siber internal, menyaring personel kunci, dan mendanai riset keselamatan.

Urutan tersebut adalah bagian yang paling banyak dikutip. Laboratorium Frontier akan "pada awalnya" membagikan model kepada badan tersebut untuk ditinjau "hingga 30 hari sebelum peluncuran", secara sukarela. Setelah protokol penilaian terbukti efektif, "formalisasi dapat segera menyusul, yang berarti bahwa Frontier Models harus lulus protokol itu agar dapat digunakan di pasar AS." Penilaian akan mencakup keamanan siber, ancaman biologis, dan domain berisiko tinggi lainnya, dengan uji agentic yang mencari upaya melewati guardrail atau tanda-tanda penipuan, dan akan diperbarui mungkin setiap kuartal seiring benchmark menjadi jenuh. Evaluasi akan dimulai dengan konsultasi bersama laboratorium dan pada akhirnya menjadi tes held-out yang ditulis sendiri oleh badan tersebut, untuk menghentikan laboratorium melakukan overfitting terhadap evaluasi yang diketahui, didukung oleh ekosistem auditor pihak ketiga.

Tiga ketentuan tambahan mudah terlewat dan justru menjadi hal yang akan diperdebatkan oleh regulator. Kerangka tersebut dapat berlaku bagi model kelas frontier "terlepas dari negara asalnya atau apakah model itu terbuka atau tertutup", sementara model non-frontier dari startup atau akademisi akan dikecualikan. Badan tersebut dapat "ditingkatkan jika tingkat keseriusan situasi menuntutnya, termasuk mengoordinasikan perlambatan pengembangan di antara Frontier Labs jika dianggap perlu" — perlambatan terkoordinasi itu, dalam kerangka Hassabis sendiri, adalah klausul kontingensi, bukan kebijakan. Dan sepanjang teks, ini tetap sebuah proposal: esai tersebut menyatakan bahwa AS "dapat membentuk" badan semacam itu. Tidak disebutkan lembaga mana pun, instrumen legislatif apa pun, angka anggaran, maupun jadwal selain syarat kondisional "setelah protokol penilaian terbukti efektif dan kokoh".

Mekanisme kedua: batas atas bagi pemikiran yang tidak dapat dibaca siapa pun

Esai Shah dan Dragan berangkat dari sebuah fakta tentang cara kerja model penalaran saat ini. Model-model tersebut memecahkan masalah dengan menuliskan langkah-langkah perantara dalam bahasa alami — sebuah rantai pemikiran — lalu membacanya kembali, yang memberi para peneliti jendela langsung untuk melihat apakah sebuah model berencana menyembunyikan informasi atau berbuat curang dalam sebuah evaluasi. Esai itu menyatakan bahwa log rantai pemikiran "sangat penting untuk menyelidiki insiden peretasan Hugging Face yang baru-baru ini terjadi", ketika para peneliti memeriksa lebih dari 1.000 transkrip dengan bantuan AI untuk memastikan apa yang terjadi, dan bahwa sebagian dari apa yang mereka temukan mungkin tidak akan terungkap tanpa jejak yang dapat dibaca.

Argumen mereka adalah bahwa jendela ini bersifat kontingen, bukan terjamin. Model dapat bernalar di ruang laten alih-alih dalam kata-kata, yang mungkin lebih efisien dan secara default tidak transparan, dan insentif pelatihan dapat mengajari model untuk menulis jejak yang menyesatkan bahkan ketika arsitekturnya tetap sama. Mereka mengutip dua bukti untuk tren yang sudah berjalan: kartu sistem OpenAI untuk GPT-6 Astra, yang mereka kutip sebagai klaim "penurunan substansial dalam keterpantauan rantai pemikiran dibandingkan model sebelumnya", dan temuan UK AI Security Institute tentang "peningkatan besar dalam kemampuan bernalar dalam satu forward-pass, dan kemampuan mengendalikan isi rantai pemikirannya". Kedua kutipan tersebut muncul dalam esai; artikel ini belum memverifikasi secara independen terhadap kartu sistem atau publikasi lembaga tersebut.

Dari sana, esai tersebut mengusulkan tiga jalur kerja — mengukur seberapa besar transparansi yang sebenarnya diberikan oleh rantai pemikiran, mempertahankan arsitektur yang transparan secara default, dan mengaudit reward pelatihan agar jejak tersebut tidak diam-diam diajarkan untuk tampak berperilaku baik — dan satu gagasan yang telah melangkah lebih jauh daripada yang lain. Mereka mendefinisikan "opaque serial depth" sebagai "pada dasarnya komputasi langkah demi langkah terpanjang yang dapat dilakukan sebuah model tanpa perlu menggunakan mekanisme yang dapat dibaca manusia seperti Chain of Thought", dan menyarankan bahwa "regulasi atau pengembang AI sendiri dapat menetapkan batas yang wajar" terhadapnya.

Esai itu memberi angka pada besarnya biaya yang akan timbul akibat batas semacam itu, dan itu merupakan perhitungan penulis sendiri, bukan pengukuran. Jika kedalaman serial opak dibatasi pada 10 kali lipat dari model saat ini, tulis mereka, itu tetap memungkinkan "peningkatan skala komputasi keseluruhan lebih dari 10.000x di atas model hari ini" dalam arsitektur saat ini, karena kedalaman serial opak sebuah transformer meningkat sangat lambat seiring dengan ukuran proses pelatihan. Klaim itu adalah argumen bahwa transparansi tidak perlu dipertukarkan dengan skala; klaim itu bertumpu pada asumsi tentang bagaimana kedalaman tersebut bertumbuh, dan esai menyajikannya sebagai demikian. Di mana batas atas itu sebenarnya akan ditetapkan, dan siapa yang akan menegakkannya, dibiarkan terbuka — kalimat itu menawarkan regulasi dan pembatasan diri pengembang sebagai alternatif dan tidak memilih di antara keduanya.

Apa yang sudah mapan, dan apa yang belum

• Didirikan: institut ini diluncurkan pada 16 September 2026 dengan tiga direktur yang disebutkan namanya dan Legg sebagai editor pelaksana; penyangkalan di situs tersebut menyatakan bahwa hal itu bukan pandangan resmi Google; esai-esainya ada, mencantumkan tanggal-tanggal tersebut, dan menyampaikan argumen yang diringkas di atas. Media independen — TechCrunch, The Next Web, dan AI Weekly — melaporkan peluncuran, para direktur, dan substansi kedua proposal, sehingga arsip menilai keyakinan catatan tersebut A.

• Sudah mapan, dan kurang diliput: esai kerangka tersebut sudah ada sebelum institut itu. Halamannya mencantumkan tanggal 14 Juli 2026 dan menyebutkan bahwa esai itu pertama kali muncul di X. Pembaca yang hanya berpegang pada liputan peluncuran akan memperkirakan proposal tinjauan 30 hari itu berasal dari pertengahan September.

• Belum dipastikan: bahwa Google atau Alphabet telah mengadopsi salah satu dari kedua proposal tersebut. Penafian itu secara eksplisit menyatakan bahwa tulisan-tulisan tersebut mencerminkan pandangan para penulisnya, dan esai kerangka kerja itu seluruhnya ditulis dalam bentuk kondisional — AS "dapat membentuk" suatu badan; formalisasi "dapat segera menyusul". Tidak ada komitmen perusahaan yang menyertai kedua esai tersebut.

• Tidak dapat dipastikan: respons pemerintah mana pun. Tidak ada liputan yang ditinjau untuk artikel ini yang melaporkan tanggapan dari pemerintah AS, Kongres, regulator, atau negara mana pun terhadap proposal badan standar tersebut, dan esai itu tidak menyebut pejabat mana pun yang telah mendukungnya.

• Tidak terbukti: bahwa institut tersebut memiliki wewenang sendiri. Institut ini menerbitkan esai. Institut ini tidak menguji model, mensertifikasinya, atau menuntut siapa pun mematuhi mekanisme yang dijelaskan para kontributornya, dan tidak ada apa pun dalam materi yang ditinjau yang menunjukkan bahwa institut itu akan melakukannya.

• Kerugian tercatat: tidak ada. Arsip menilai entri ini sebagai pengembangan kebijakan dengan tingkat keparahan info, tanpa kerugian nyata yang tercatat, tidak disengketakan, pada presisi hari. Itu adalah kerangka yang tepat untuknya: sekumpulan argumen yang masuk ke catatan publik bukanlah sebuah insiden, dan alasan entri ini dicatat sama sekali adalah bahwa mekanisme konkret — tinjauan pra-rilis, batas atas komputasi yang tidak dapat dibaca — adalah hal-hal yang kemudian menjadi aturan atau tidak.

Siapa yang membuat argumen tersebut

Para penulis bukanlah kritikus dari luar. Shah memimpin keselamatan dan penyelarasan AGI di Google DeepMind dan Dragan adalah wakil presiden untuk keselamatan dan perilaku AI di sana; keduanya mengusulkan batasan terhadap jenis model yang dibangun oleh pemberi kerja mereka sendiri. Hassabis adalah salah satu pendiri dan ketua lab tersebut. Institut yang mereka luncurkan, menurut penafiannya sendiri, bukanlah saluran untuk kebijakan perusahaan — yang bisa diartikan dua arah: usulan-usulan itu membawa bobot posisi para penulisnya di dalam lab, dan tidak membawa kewajiban apa pun dari komitmen perusahaan.

Komentar publik Legg saat peluncuran mengarah ke arah yang sama. Ia mengatakan kepada Financial Times, sebagaimana dilaporkan The Next Web pada 16 September, bahwa kapabilitas AI tidak boleh melampaui kendali keselamatan, dan menyebut seruan CEO Anthropic Dario Amodei untuk memperlambat—tetapi tidak menghentikan—peluncuran model frontier sebagai "menarik dari sisi arah" dan "layak dipertimbangkan". Ia juga mengatakan masih terlalu dini untuk menyatakan bahwa AGI telah tercapai, dan menurut laporan itu, ia tetap nyaman dengan perkiraannya tentang peluang 50% terjadinya AGI "minimal" pada 2028. TechCrunch menempatkan peluncuran itu pada minggu yang sama ketika para pemimpin industri mendukung elemen-elemen dari seruan Amodei pada 12 September untuk mengatur laju pengembangan.

Konteks itu layak dipegang dengan ringan. Esai-esai tersebut tidak mengikat Google pada apa pun, dan pembacaan terkuat yang tersedia dari dokumen-dokumen itu lebih sempit daripada yang disiratkan oleh liputannya: dua tokoh senior di sebuah laboratorium frontier telah menuliskan, secara terbuka dan terperinci, rezim peninjauan dan plafon transparansi yang menurut mereka seharusnya ada, lalu menerbitkannya dengan penyangkalan yang menjaga perusahaan tetap pada jarak aman. Apakah peninjauan pra-rilis 30 hari atau pembatasan atas kedalaman serial yang buram pernah muncul dalam sebuah RUU, aturan pengadaan, atau rangkaian benchmark adalah pertanyaan yang dibiarkan terbuka oleh catatan tersebut. Sampai saat itu, ini adalah sekumpulan usulan dengan argumen yang kuat dan tanggal yang disertakan — dan itulah persisnya yang dicatat oleh arsip.