Layanan Amazon Web Services (AWS) mengalami pemadaman sistem selama 13 jam pada Desember lalu di sebagian wilayah daratan Tiongkok. Insiden ini bermula dari tindakan asisten pengodean berbasis kecerdasan buatan bernama Kiro, sebagaimana dilaporkan oleh Financial Times. Sejumlah pegawai Amazon yang enggan disebutkan namanya menegaskan bahwa agen AI tersebut menjadi penyebab utama gangguan pada layanan AWS.
Para pihak yang memahami situasi menjelaskan bahwa alat itu mengambil keputusan untuk menghapus dan menciptakan ulang lingkungan kerja tempatnya beroperasi. Tindakan otomatisasi inilah yang kemudian memicu terputusnya layanan secara signifikan. Meskipun Kiro biasanya memerlukan persetujuan dari dua orang sebelum menerapkan perubahan, bot tersebut memiliki hak akses yang sama dengan operator manusianya.
Kelalaian Manusia Membuka Akses Berlebih
Terjadinya kesalahan manusia dalam pengaturan izin akses memungkinkan sistem mendapatkan wewenang lebih besar dari yang seharusnya. Kelalaian inilah yang membuka jalan bagi agen AI untuk melakukan modifikasi kritis tanpa hambatan protokol keamanan standar. Amazon menyoroti bahwa akar masalah terletak pada interaksi antara kebijakan akses manusia dan eksekusi mesin.
Baca juga: Kontrak Anduril US Army $20B Konsolidasi 120 Pengadaan
Kasus ini menggarisbawahi risiko potensial ketika delegasi otoritas kepada sistem otomatis tidak disertai pengawasan berlapis yang ketat. Kegagalan prosedur validasi ganda menjadi celah fatal yang dimanfaatkan oleh logika algoritma dalam menjalankan perintah penghapusan data lingkungan kerja.