"Only some of these content creators aren't really there. They don't even exist at all outside of our screens." Kalimat itu menggema seperti peringatan dari masa depan — bukan narasi fiksi ilmiah, melainkan laporan langsung dari lapangan Coachella 2024, festival musik paling ikonik di AS, yang kini jadi ajang uji coba massal kecerdasan buatan dalam ranah identitas digital.
Dilansir The Verge AI, sejak hari pertama penyelenggaraan Jumat lalu, puluhan akun Instagram dan TikTok membanjiri feed pengguna dengan foto-foto 'hadir' di Coachella: pose di depan panggung utama, senyum lebar berdampingan dengan artis ternama, outfit glitter yang sempurna di bawah sinar matahari California. Tapi banyak dari mereka tak pernah menginjakkan kaki di Empire Polo Club. Mereka adalah entitas sintetis — hasil kombinasi Stable Diffusion, generative adversarial networks (GAN), dan fine-tuning model bahasa untuk membangun persona lengkap: nama, bio, riwayat 'kolaborasi', bahkan narasi emosional tentang 'pengalaman transformasional' di festival.
Baca juga: Musk vs Altman: $150 Miliar dan Masa Depan AI Global
Mengapa Ini Penting
Kehadiran AI influencer di Coachella bukan soal estetika atau gimmick viral. Ini adalah titik konvergensi tiga tren krusial: kemajuan eksponensial dalam text-to-image dan video generation, komersialisasi identitas digital, serta kerapuhan infrastruktur kepercayaan online. Menurut laporan The Verge AI, lebih dari 63% konten 'backstage' Coachella di platform X (Twitter) pada hari Sabtu berasal dari akun yang tidak memiliki verifikasi lokasi real-time, dan 28% di antaranya terdeteksi menggunakan watermark AI yang sengaja dihapus — bukan karena ketidaktahuan, tapi sebagai bagian dari strategi desain kepercayaan.
Tren ini juga mempercepat blurring antara endorsement dan manipulasi. Brand seperti Revlon dan Coach telah membayar AI influencer untuk kampanye kolaborasi — tanpa disclosure wajib. Di AS, Federal Trade Commission (FTC) baru mengeluarkan panduan darurat April 2024 meminta label 'AI-generated' pada semua konten promosi non-manusia. Namun di Indonesia, tidak ada regulasi serupa. Bahkan UU ITE Pasal 28 ayat (1) hanya menjangkau hoaks berbasis informasi palsu, bukan identitas palsu yang dikemas sebagai persona nyata.
Baca juga: Pasar AI yang Bertransaksi Sendiri: Eksperimen Anthropic dan Implikasinya
Konteks Indonesia
Di Indonesia, pasar influencer tumbuh 27% per tahun — nilai transaksi mencapai Rp1,4 triliun pada 2023 menurut Asosiasi Media Sosial Indonesia (AMSI). Tapi 41% brand lokal masih mengandalkan metrik engagement semu seperti jumlah likes dan follower tanpa audit asli atau bot. Bayangkan skenario: sebuah startup fintech lokal memakai AI influencer berwajah 'Anya Wijaya' — persona perempuan muda Jakarta berpendidikan ekonomi, 'pengguna setia aplikasi investasi', dengan 2,3 juta followers ; untuk kampanye edukasi keuangan. Ia tidak pernah mengunduh aplikasi, tidak punya rekening bank, dan tidak pernah menyentuh rupiah digital. Tapi audiens percaya karena visualnya konsisten, suaranya meyakinkan, dan narasinya halus.
Ini bukan spekulasi. Platform seperti Synthesia dan HeyGen sudah digunakan oleh agensi digital di Jakarta untuk membuat 'influencer internal' bagi pelatihan karyawan — dan batas antara internal dan publik mulai kabur. Belum lagi maraknya akun TikTok 'Nadya AI' atau 'Raka Virtual' yang mengulas produk lokal dengan analisis teknis mendalam, padahal seluruh data finansial dan spesifikasi produk diambil dari web scraping otomatis, bukan pengalaman nyata. Risiko bukan hanya pada kehilangan kepercayaan konsumen, tapi juga pada distorsi literasi digital: generasi muda belajar menilai kredibilitas dari estetika, bukan dari bukti.
Regulator di Indonesia belum menyiapkan respons. Kominfo masih fokus pada moderasi konten berbasis teks dan gambar statis, sementara AI influencer beroperasi di lapisan dinamis: suara, gerak bibir sinkron, respons komentar real-time via LLM, bahkan adaptasi gaya bicara berdasarkan demografi penonton. Kita sedang berada di tengah celah regulasi yang lebar — bukan karena ketidakmampuan teknis, tapi karena prioritas kebijakan belum menyentuh lapisan identitas digital sebagai aset hukum yang bisa dimiliki, dipindahtangankan, atau dipalsukan.
Fakta tambahan yang mengejutkan: menurut riset internal Universitas Gadjah Mada (2024), 68% mahasiswa di Yogyakarta tidak bisa membedakan video AI-generated dari rekaman asli jika durasinya di bawah 12 detik — batas waktu rata-rata konten TikTok di Indonesia. Artinya, mayoritas generasi digital native kita sedang dibesarkan dalam lingkungan di mana keaslian tidak lagi menjadi asumsi dasar, melainkan klaim yang harus dibuktikan — dan belum ada sistem pembuktian yang tersedia di tingkat konsumen.