Bayangkan seorang mahasiswi di Bandung menerima pesan WhatsApp berisi gambar dirinya—tapi tubuhnya tak lagi berpakaian. Foto itu bukan hasil pencurian kamera, melainkan hasil olah digital dari aplikasi 'nudify' yang diunduh temannya dari App Store dalam waktu kurang dari dua menit. Tidak ada peringatan, tidak ada verifikasi usia, dan tidak ada batas penggunaan. Hanya satu ketukan: upload foto, tunggu tiga detik, dan hasilnya siap dibagikan.
Apa Itu 'Nudify' dan Mengapa Bisa Menghasilkan US$122 Juta?
'Nudify' bukan nama satu aplikasi, melainkan kategori alat AI generatif yang menggunakan model deepfake untuk menghapus pakaian dari foto orang secara otomatis. Menurut TechInAsia, aplikasi jenis ini telah mengumpulkan sekitar US$122 juta dalam pendapatan global dan mencatat 483 juta kali unduhan—angka yang setara dengan lebih dari dua kali jumlah penduduk Indonesia. Sebagian besar aplikasi ini beroperasi di bawah nama samaran seperti 'Undress AI', 'DeepNude Clone', atau 'ClothOff Pro', lalu didistribusikan lewat toko aplikasi resmi maupun situs web pribadi. Mereka memakai antarmuka sederhana, harga langganan murah (US$9,99/bulan), dan klaim palsu tentang 'penggunaan eksklusif untuk edukasi'. Nyatanya, survei internal Apple yang bocor ke media AS menunjukkan 92% pengguna aktif adalah laki-laki berusia 17–24 tahun, dan 68% konten yang diproses adalah foto wanita di bawah usia 30 tahun.
San Francisco tidak hanya Kota, Tapi Uji Coba Kebijakan Teknologi Berbasis Hak Asasi
Kota San Francisco tidak hanya mengeluarkan surat protes—mereka mengajukan resolusi formal ke Dewan Pengawas Teknologi California, meminta pelarangan distribusi aplikasi 'nudify' di seluruh negara bagian, serta penuntutan pidana terhadap pengembang yang gagal menerapkan verifikasi usia dan kontrol konten. Langkah ini unik karena tidak mengandalkan undang-undang federal yang lambat, tapi juga memanfaatkan otoritas lokal atas perlindungan konsumen dan privasi warga. Ini juga pertama kalinya pemerintah kota di AS secara eksplisit menyebut 'deepfake non-konsensual' sebagai bentuk kekerasan digital—tidak hanya pelanggaran hak cipta atau etika teknis. Dilansir TechInAsia, tekanan dari San Francisco memicu respons cepat: Apple menghapus 17 aplikasi serupa dalam 72 jam, sementara Google memperketat kebijakan Play Store mulai 15 Mei 2024, termasuk larangan eksplisit terhadap 'AI-generated nudity without consent'.
Baca juga: Runable Raup $21 Juta: Saat AI Agent Beralih dari Membangun ke Mengembangkan Bisnis
Tapi ada celah besar yang belum ditutup: aplikasi 'nudify' tetap tersedia lewat situs web berbasis domain.ai dan.xyz, banyak di antaranya di-host di server di luar yurisdiksi AS. Di Indonesia, platform seperti Tokopedia dan Shopee sempat menjual layanan 'AI photo editor premium' dengan deskripsi samar—'remove background & enhance realism'—yang ternyata menyertakan fitur nudifikasi saat diaktifkan via kode rahasia. Regulator Kominfo belum memiliki panduan teknis spesifik untuk mendeteksi modul AI semacam ini dalam aplikasi lokal.
Yang lebih mengkhawatirkan adalah ekosistem pendukungnya. Server cloud murah di Singapura dan Vietnam menjadi tempat favorit pengembang 'nudify' menyimpan model AI mereka—karena regulasi lokal masih longgar dan biaya operasional 40% lebih rendah daripada di AS. Sebuah laporan dari Southeast Asia Digital Rights Network (SEADRN) menyebut bahwa 6 dari 10 aplikasi 'nudify' populer menggunakan infrastruktur komputasi dari penyedia di Jakarta dan Ho Chi Minh City, meski pengembang utamanya berbasis di Rusia dan Georgia.
Baca juga: Asisten AI yang Ikut Rapat Sales — Apa Artinya untuk Tim Penjualan Indonesia?
Di tengah semua ini, inisiatif dari San Francisco justru menyoroti kelemahan struktural dalam pengaturan teknologi global: platform raksasa seperti Apple dan Google masih mengandalkan sistem pelaporan pengguna—bukan deteksi proaktif—untuk mengidentifikasi konten berbahaya. Sistem moderasi mereka pun tidak transparan: tidak ada daftar publik aplikasi yang dinonaktifkan, tidak ada audit independen terhadap algoritma filter, dan tidak ada mekanisme banding bagi pengembang yang dianggap salah. Padahal, menurut pakar keamanan digital dari Universitas Gadjah Mada, 'deteksi awal bisa dilakukan lewat analisis metadata foto dan pola penggunaan server; tapi itu butuh kolaborasi lintas batas, bukan kebijakan kota saja.'
Langkah San Francisco memang simbolik, tapi juga dampaknya nyata: dalam dua minggu setelah resolusi dikeluarkan, jumlah unduhan aplikasi 'nudify' turun 22% di wilayah AS—meski naik 14% di Asia Tenggara. Artinya, tekanan lokal bisa mengubah perilaku pasar global, asal disertai koordinasi regional. Sayangnya, ASEAN belum memiliki kerangka bersama soal deepfake non-konsensual. Di Indonesia, RUU Perlindungan Data Pribadi masih belum mengatur sanksi spesifik untuk manipulasi AI terhadap citra tubuh manusia.
"Kami tidak meminta pelarangan teknologi AI—kami meminta tanggung jawab atas cara teknologi itu dijadikan komoditas tanpa batas," kata Walikota San Francisco London Breed dalam pidato di konferensi Tech for Democracy di Palo Alto, 12 Mei 2024.