Ilustrasi teknis abstrak pada latar biru dongker gelap: sebuah bola bercahaya kecil di sisi paling kiri mengirim satu jejak sian tipis melalui tiga bidang tembus pandang tinggi yang menjauh ke kanan, masing-masing ditandai grid samar. Pada bidang pertama, jejak melewati celah sempit; pada bidang kedua, jejak melewati bukaan berbentuk pintu yang terbuka dan terang bercahaya; pada bidang ketiga, jejak terpecah menjadi tiga goresan kuning kecokelatan pendek yang mencapai rak rendah berisi tiga lempeng pucat berbentuk dokumen, salah satunya miring tidak sejajar. Di balik pembatas rendah terpisah di sisi paling kanan, panel tertutup berisi token berbentuk kunci berdiri tak tersentuh dan tidak menyala. Tanpa teks, tanpa orang, tanpa logo organisasi.
AI Safety Incidents

Badan Perlindungan Data Spanyol Mencatat Pelanggaran Agen AI Pertamanya. Akun Itu Masih Milik Korban.

Penulis

Alistair Wren

Tanggal Terbit

Model terbaru · 20Lihat semua model →
Benchmark: Artificial Analysis · diperbarui setiap hari
Kembali ke semua artikel

Pada 14 September 2026, otoritas perlindungan data Spanyol, Agencia Española de Protección de Datos (AEPD), menerbitkan pos blog oleh Francisco Pérez Bes yang mengungkapkan bahwa pihaknya telah menerima pemberitahuan pelanggaran data pribadi pertama yang insidennya dikatakan dilakukan oleh agen AI yang berjalan pada model bahasa terkenal. Menurut keterangan yang diberikan organisasi terdampak kepada regulator, agen tersebut mencari kelemahan pada file generik, berhasil masuk, lalu mencari celah dalam aplikasi itu secara mandiri sampai menemukannya, dan menggunakannya untuk mengubah data pribadi serta menjangkau faktur. AEPD tidak menyebutkan nama organisasi, penyerang, atau model tersebut, dan tidak menyatakan berapa banyak orang yang terdampak. Sumber-sumber catatan itu sendiri, tingkat keparahan, dan penilaian keyakinan terdapat dalam arsip insiden AI, bersama catatan-catatan intrusi agen lain yang tercatat di sekitarnya.

Apa yang diterbitkan agensi itu, dan dengan suara seperti apa

Postingan itu singkat — sekitar 700 kata — dan judulnya adalah klaim, bukan temuan: "Primera notificación de una brecha de datos personales causada por un ataque ejecutado mediante un agente de IA." Isinya lebih berhati-hati daripada judulnya. Di tempat liputan berbahasa Inggris mengatakan bahwa kebocoran dilakukan oleh sebuah agen, teks berbahasa Spanyol menggunakan bentuk kondisional secara konsisten: insiden itu habría sido ejecutado — konon dijalankan — oleh agen AI, dan pihak ketiga habría utilizado agen sebagai instrumen. Itulah tata bahasa dari laporan yang diterima dan belum terverifikasi, dan AEPD menyatakannya secara eksplisit: informasi yang tersedia "procede de la notificación presentada por la organización afectada y deberá ser objeto del correspondiente análisis" — informasi itu berasal dari notifikasi organisasi yang terdampak dan masih harus dianalisis.

Kalimat yang memuat penilaian sebenarnya dari lembaga tersebut lebih sempit daripada judul-judul berita yang dibangun di atasnya. “Yang relevan dari perspektif perlindungan data adalah bahwa pihak ketiga diduga telah menggunakan agen AI sebagai instrumen untuk berhasil merangkai berbagai fase serangan” — yang penting, dari perspektif perlindungan data, adalah bahwa pihak ketiga diduga telah menggunakan agen AI sebagai instrumen untuk berhasil merangkai fase-fase serangan yang berbeda. Kebaruan yang diklaim regulator adalah perangkaiannya, bukan intrusinya: serangan multi-tahap sudah lama ada, dan AEPD menggunakan satu paragraf untuk mengatakan hal itu. Yang baru adalah bahwa satu sistem diberi suatu tujuan lalu merencanakan tugas-tugas perantara, menggunakan alat, mengeksekusi kode, membaca hasil, dan mengubah arah dengan sendirinya.

Rantai tersebut, sebagaimana dijelaskan oleh organisasi pemberi notifikasi

Deskripsi AEPD tentang intrusi tersebut terdiri dari empat langkah dan sama sekali tidak memuat pengenal teknis. Agen itu "memulai pencarian kerentanan pada file generik" — mulai mencari kerentanan pada file generik — lalu "melakukan login yang benar," melakukan login yang berhasil. Setelah berada di dalam sistem, agen tersebut "mulai mencari, secara otonom, kerentanan dalam aplikasi," mulai mencari kerentanan dalam aplikasi secara otonom, dan setelah menemukannya, agen itu dapat mengubah data pribadi dan mengakses faktur.

Ada dua detail dalam urutan itu yang layak direnungkan sejenak, karena liputan sekunder telah menghaluskannya. Berkas-berkas tersebut disebut sebagai generik, generik; laporan TechRadar Pro pada 17 September menggambarkannya sebagai "file yang dapat diakses publik" milik target, sebuah inferensi yang wajar tetapi bukan yang ditulis AEPD, dan lembaga itu tidak menyatakan apakah berkas-berkas tersebut dapat dijangkau tanpa autentikasi. Dan login tersebut dinyatakan sebagai fakta — login yang benar — tanpa keterangan dari mana kredensial itu berasal: dipanen, ditebak, digunakan ulang, atau diberikan kepada agen. Tulisan itu tidak menyebut apa pun tentang bagaimana organisasi mendeteksi intrusi tersebut, apakah ada yang dieksfiltrasi, atau apakah agen bergerak secara lateral setelah masuk. Dalam catatan publik, rantai tersebut memiliki awal dan akhir dan sangat sedikit di antaranya.

Rendered four-step card with the kicker 'AEPD · the notifying organisation's account' and the title 'Four steps, and almost nothing in between', subtitled that the sequence and wording come from the AEPD blog post of 14 September 2026 and that the regulator presents it as the affected organisation's account, still subject to analysis. Step 01, generic files: the agent begins searching for vulnerabilities in generic files, and the AEPD does not say whether they were reachable without authentication. Step 02, a correct login: it authenticates successfully, with the credential source unstated. Step 03, autonomous scan: inside the application it searches on its own for flaws until it finds one; no vulnerability class, product or CVE is named. Step 04, data and invoices: it modifies personal data and accesses invoices, and whether anything was copied out is not disclosed. A side panel headed 'Not in the account' lists the vulnerability class, the application or product, the credential source, the detection method, whether data were exfiltrated, the data volume, the number of people affected, the organisation and sector, and the model or provider. A footer quotes the agency's framing that the novelty is the chaining, not the intrusion. The OrcaRouter logo is composited in the bottom-right corner.

Apa yang sudah mapan, dan apa yang belum

Terkonfirmasi, berdasarkan dokumen primer: AEPD menerima pemberitahuan pelanggaran yang dicirikannya seperti ini; lembaga tersebut mempublikasikan fakta itu di situs miliknya sendiri pada 14 September 2026; uraian di atas adalah ringkasan lembaga tersebut mengenai apa yang disampaikan organisasi pelapor kepadanya; dan posisi yang dinyatakan lembaga tersebut adalah bahwa serangan yang didukung AI telah berhenti menjadi risiko teoretis dan kini menghasilkan insiden yang menyentuh pemrosesan data pribadi yang nyata.

Belum dapat dipastikan, dan inilah bagian yang tidak dapat diberikan oleh catatan: apakah penyusupan itu terjadi sebagaimana diuraikan. Tidak ada sumber yang dikutip — baik AEPD maupun media mana pun — yang melaporkan pemeriksaan teknis independen atas sistem yang terdampak. Setiap laporan dapat dilacak kembali ke notifikasi organisasi itu sendiri. AEPD menyebut analisisnya masih tertunda, dan laporan BleepingComputer tanggal 16 September menyatakan secara jelas bahwa lembaga tersebut belum menyelidiki atau memverifikasi klaim itu. Lembaga itu belum mengidentifikasi secara publik organisasi, penyerang, atau model tersebut; liputan media Spanyol tegas mengenai hal ini, dengan Infobae melaporkan pada 15 September bahwa baik perusahaan yang terlibat maupun modelnya belum diketahui.

Juga tidak ada: jumlah orang yang terdampak, daftar kategori data selain data pribadi dan faktur, pernyataan bahwa faktur diambil, bukan hanya dilihat, dan indikasi sektor atau ukuran. Liputan pers belum mengisi kekosongan ini, karena memang tidak bisa; naskah kantor berita dan pers dagang semuanya berasal dari pos blog yang sama.

Rendered two-column card with the kicker 'AEPD · 14 September 2026' and the title 'What the sources establish, and what they do not', listing as sources the AEPD blog post of 14 September 2026, EFE of 15 September, RTVE and BleepingComputer of 16 September, TechRadar Pro of 17 September and Ropes & Gray of September 2026. The left column, headed 'Established' in blue, lists seven items: the AEPD received its first personal-data breach notification attributed to an attack run through an AI agent; the agency published it on its own site on 14 September 2026; the account is the victim's and remains subject to analysis; the chain as described, from generic files to a successful login, an autonomous scan, a flaw exploited, data modified and invoices accessed; one agent used as an instrument to chain several stages; the model was not compromised and was not designed for malicious use; and one case is not a trend in the agency's own words. The right column, headed 'Not established' in amber, lists seven items: that it happened as described, since no cited source reports an independent technical examination; who was hit; who did it and with what; how many people were affected and how much data was touched; whether data left; how the credentials were obtained and how the intrusion was detected; and any enforcement outcome, none having been announced. A band beneath quotes the regulator's conditional Spanish for the breach sentence and the EFE wire's indicative rendering. A footer reads 'Card rendered by OrcaRouter'. The OrcaRouter logo is composited in the bottom-right corner.

Model tersebut bukan pihak yang terkompromikan, dan lembaga itu mengatakan hal itu dua kali.

Kedua catatan peringatan dalam tulisan itu bersifat defensif, dan keduanya telah diulang oleh semua orang yang meliputnya. Pertama: penggunaan model AI tertentu tidak menyiratkan bahwa model tersebut, atau infrastruktur penyedianya, telah disusupi. Kedua: hal itu juga tidak menyiratkan bahwa alat tersebut dirancang untuk aktivitas berbahaya. Jika dibaca bersama, keduanya menempatkan kegagalan pada penggunaan sistem serbaguna oleh penyerang, bukan pada sistem itu sendiri — sebuah perbedaan yang penting bagi vendor mana pun yang produknya tidak disebutkan namanya dan bagi pembaca mana pun yang tergoda untuk menganggap ini sebagai insiden keamanan model. Tidak ada yang dalam sumber yang dikutip menunjukkan jailbreak, endpoint yang disusupi, atau model yang diracuni.

Apa yang sebenarnya ditetapkan oleh catatan tersebut tentang otonomi lebih sempit daripada “AI memutuskan untuk menyerang.” Pihak ketiga menggunakan agen itu; tujuannya datang dari luar agen tersebut. Gizmodo España, dalam tulisan pada 17 September, merumuskan perbedaan itu dengan istilah yang didukung oleh teks AEPD: seorang pengemudi dapat memilih rute tanpa telah memilih tujuan, dan otonomi di sini terletak pada rute — kerentanan mana yang harus diuji, tindakan mana yang harus diambil berikutnya — bukan pada keputusan untuk menyerang sama sekali. Konsekuensi praktisnya adalah yang ditekankan regulator: pekerjaan antara instruksi awal dan intrusi yang selesai kini dapat didelegasikan dalam bagian-bagian yang semakin besar.

Perubahan apa yang diminta regulator kepada organisasi

AEPD menarik empat konsekuensi, dan tidak satu pun merupakan kewajiban hukum baru. Pertama, analisis risiko untuk pemrosesan data sebaiknya menyebutkan secara eksplisit serangan yang dibantu AI dan yang dieksekusi AI, karena rujukan generik terhadap malware, phishing, atau akses tidak sah tidak menangkap bagaimana otomatisasi mengubah kemungkinan, kecepatan, dan jangkauan suatu insiden. Kedua, waktu respons perlu ditinjau kembali: prosedur yang dibuat untuk penyerang manusia mungkin tidak berlaku ketika agen memeriksa beberapa aset sekaligus, menguji berbagai jalur masuk, dan beradaptasi dengan cepat. Ketiga, identitas dan kredensial menjadi titik poros — agen yang memegang akun, kunci API, atau token dengan hak istimewa berlebih dapat bekerja dengan kecepatan mesin di berbagai layanan sebelum siapa pun menyadari perilaku anomali. Keempat, pengawasan manusia tetap tak tergantikan tetapi harus didukung oleh deteksi, pengendalian, dan respons yang mampu mengimbangi.

Postingan ini mendasarkannya pada panduan nasional alih-alih mengarangnya. Postingan tersebut mengutip CCN-CERT BP/36, "Buenas prácticas frente al modelo de IA ofensiva," yang diterbitkan oleh Pusat Kriptologi Nasional Spanyol (CCN), yang diringkas oleh AEPD sebagai peringatan bahwa AI ofensif sedang menjadi kemampuan operasional yang tertanam dalam kampanye nyata, dan sebagai rekomendasi untuk memperkuat kontrol esensial, manajemen kerentanan yang lebih cepat, perlindungan identitas, kontrol rantai pasok, dan tata kelola eksplisit atas penggunaan agen. AEPD juga memperingatkan bahwa AI "no crea nuevas amenazas" — tidak menciptakan ancaman baru — tetapi meningkatkan kecepatan, skala, dan kemampuan adaptasi teknik-teknik yang sudah dikenal. Baik postingan maupun liputannya tidak menyebut bahwa insiden Spanyol melibatkan teknik tertentu apa pun dari panduan tersebut.

Bagaimana perjalanannya, dan apa yang sebenarnya ditambahkan oleh liputan itu

Kantor berita Spanyol EFE melaporkan pemberitahuan itu pada 15 September, dengan mengaitkan laporan tersebut kepada sumber AEPD; RTVE menayangkan salinan EFE pada 16 September dengan byline bersama RTVE.es / EFE. Bill Toulas dari BleepingComputer meliputnya pada hari yang sama, dalam judul yang mempertahankan kata “alleged”, dan Sead Fadilpašić dari TechRadar Pro menyusul pada 17 September. Analisis klien Ropes & Gray, yang diterbitkan pada September 2026, adalah tambahan hukum paling substantif: analisis itu menguraikan apa yang disyaratkan Pasal 32 GDPR ketika model ancaman menyerap penemuan kerentanan otomatis, dan apa yang diasumsikan Pasal 33 dan 34 tentang penetapan cakupan dan jejak forensik ketika suatu intrusi direncanakan dan dieksekusi dengan kecepatan mesin.

Tidak satu pun dari media tersebut melaporkan telah memverifikasi intrusi itu secara independen, dan tidak ada yang mengklaim demikian. Nilainya adalah koroborasi atas hal yang berbeda: bahwa seorang regulator Eropa mengatakan hal ini, dengan istilah-istilah ini, pada tanggal ini, dan bahwa perumusannya sendiri bersifat bersyarat. Di tempat salinan EFE mengeraskan bentuk bersyarat — teks RTVE berbunyi "ha sido ejecutado," telah dilaksanakan, alih-alih "habría sido ejecutado" milik blog — perubahan itu berasal dari kantor berita, bukan dari lembaga tersebut. Artikel BleepingComputer juga menempatkan kasus ini di samping intrusi agentik lain yang dilaporkan dari 2026; perbandingan itu adalah konteks media tersebut, bukan bagian dari catatan ini, dan tidak satu pun darinya merupakan bukti tentang apa yang terjadi di Spanyol.

Rendered publication-timeline card with the kicker 'AEPD · publication timeline' and the title 'Six dated statements, and still one source', subtitled that every date is a single day, that the Ropes & Gray analysis is dated only to the month, and that the 28 September post is a general follow-up rather than a case update. A horizontal timeline carries six markers: 14 September 2026, the AEPD blog post by Francisco Pérez Bes, marked 'the origin'; 15 September 2026, the EFE wire report citing AEPD sources, marked 'first press'; 16 September 2026, RTVE carrying the EFE copy and BleepingComputer reporting, marked 'English coverage'; 17 September 2026, the TechRadar Pro report and Gizmodo España on autonomy, marked 'trade press'; September 2026, the Ropes & Gray client analysis, shown without a day and marked 'legal read'; and 28 September 2026, the AEPD post on offensive AI, marked 'not an update'. Below, a card headed 'What the dates do not show' states that no outlet reports independent verification, that BleepingComputer says plainly the AEPD has not investigated or verified the claim, and that the AEPD had named neither the organisation, the attacker nor the model. Beside it, a card headed 'One wording change worth noting' contrasts the agency's 'habría sido ejecutado' with EFE's indicative 'ha sido ejecutado'. A six-row table headed 'Source / What it adds / What it does not add' runs through the AEPD post, EFE, RTVE, BleepingComputer, TechRadar Pro and Ropes & Gray, noting that TechRadar renders the files as 'publicly accessible' where the AEPD wrote 'genéricos'. A footer reads 'Card rendered by OrcaRouter'. The OrcaRouter logo is composited in the bottom-right corner.

Tindak lanjutnya membahas AI ofensif secara umum, bukan tentang kasus ini.

Pada 28 September, AEPD menerbitkan postingan blog kedua, "IA ofensiva: cuando la inteligencia artificial acelera el riesgo para la protección de datos," yang tidak memperbarui pemberitahuan September. Argumennya lebih luas: bahwa "jendela paparan" antara ditemukannya kerentanan dan eksploitasinya hampir hilang, bahwa dengan sistem agentik waktu antara akses awal dan eksfiltrasi data dapat turun menjadi beberapa menit, dan bahwa masalah yang mendasarinya bersifat struktural — sistem legacy yang tidak terdokumentasi, kerentanan yang diketahui tetapi belum ditambal, ketergantungan pada rantai pasok, dan penerimaan terhadap perangkat lunak yang tidak aman secara desain. Economist & Jurist merangkum postingan tersebut dengan tema yang sama, di bawah judul bahwa serangan dapat mencapai data dalam hitungan menit. Teks itu terbaca sebagai upaya lembaga tersebut menggeneralisasi dari kasus itu alih-alih melaporkannya, dan tidak memuat fakta baru tentang organisasi Spanyol tersebut.

Itulah posisi catatan per akhir Oktober 2026. Klaim spesifik yang dapat diperiksa bersifat prosedural: seorang regulator menerima notifikasi, menjelaskannya dalam pos blog, menolak menyebut pihak mana pun, dan menggunakannya untuk berargumen bahwa penilaian risiko harus mempertimbangkan agen. Klaim bahwa agen otonom benar-benar melakukan intrusi, secara publik, bergantung pada laporan satu organisasi kepada otoritas pengawasnya. Apa yang dapat mengubahnya — model yang disebutkan namanya, jumlah orang terdampak, tulisan teknis, atau keputusan penegakan — belum muncul. Hingga saat itu, nilai catatan ini adalah bahwa otoritas perlindungan data telah menuliskan bahwa perantaian itulah yang berubah, dan telah meminta setiap pengendali di Spanyol untuk merencanakan sesuai dengan itu.