Gubernur California Gavin Newsom menandatangani dua undang-undang sekaligus pada 20 September 2024: AB 2273 yang membatasi penggunaan media sosial oleh anak di bawah 18 tahun, dan AB 2605 yang mewajibkan platform AI chatbot memberi label jelas jika konten dihasilkan mesin — khususnya saat berinteraksi dengan minor. Kedua aturan itu mulai berlaku 1 Januari 2025, tanpa masa uji coba.
Bagaimana AB 2605 Memaksa Chatbot Mengakui Diri sebagai Mesin
AB 2605 tidak hanya mengatur transparansi — ia menuntut kejujuran teknis. Setiap chatbot yang beroperasi di California dan menyasar pengguna di bawah usia 18 wajib menampilkan pernyataan eksplisit sebelum interaksi dimulai: 'Anda sedang berbicara dengan sistem kecerdasan buatan, bukan manusia.' Label ini harus mudah dibaca, tidak bisa di-skip, dan tidak boleh dikaburkan dengan animasi atau desain interaktif. Platform seperti Snapchat My AI, Meta's AI assistant, atau bahkan layanan pelanggan berbasis LLM milik perusahaan asing harus mematuhi aturan ini jika ingin tetap beroperasi di negara bagian tersebut. Dilansir Engadget, penerapan aturan ini menjadi yang pertama di dunia yang secara eksplisit mengikat identitas AI dalam komunikasi langsung dengan anak-anak.
undang-undang ini tidak mengatur kualitas respons chatbot — hanya kejelasan identitasnya. Artinya, sebuah model bisa saja memberikan jawaban salah atau bias, selama ia mengakui dirinya sebagai AI. Ini berbeda dari regulasi UE seperti AI Act yang membagi risiko berdasarkan penggunaan, atau UU Perlindungan Data Pribadi di Indonesia yang fokus pada konsent dan penyimpanan data, bukan pada deklarasi keberadaan mesin.
Baca juga: OpenAI dan Koordinasi Perlambatan AI: Ancaman Hukum atau Perlindungan Publik?
Apa yang Hilang dari Perlindungan Media Sosial AB 2273
AB 2273 tampak ambisius: ia mewajibkan platform media sosial seperti TikTok, Instagram, dan YouTube Shorts untuk memverifikasi usia pengguna lewat metode 'reasonably reliable', lalu membatasi notifikasi, rekomendasi algoritmik, dan fitur 'infinite scroll' bagi akun yang teridentifikasi sebagai minor. Namun, menurut Engadget, undang-undang ini tidak menyertakan sanksi finansial spesifik untuk pelanggaran — hanya mengizinkan Jaksa Agung California mengajukan gugatan perdata. Tidak ada denda per kasus, tidak ada batas waktu pembaruan sistem verifikasi usia, dan tidak ada mekanisme audit independen terhadap klaim 'reasonably reliable' yang diajukan perusahaan.
Ini menciptakan celah besar. Sebuah platform bisa menggunakan kombinasi nama, tanggal lahir, dan nomor kartu kredit orang tua sebagai verifikasi — padahal praktik semacam itu rentan manipulasi oleh remaja sendiri. Di Indonesia, misalnya, survei Kominfo 2023 menunjukkan 68% remaja usia 13–17 tahun mengakui pernah memalsukan usia saat mendaftar aplikasi. Tanpa insentif teknis nyata — seperti wajib integrasi dengan e-KTP atau sistem verifikasi biometrik nasional ; aturan serupa akan sulit diterapkan secara efektif di sini.
Baca juga: Yoto Hadirkan Dua Perangkat Audio Baru untuk Anak — Tapi Apa yang Berubah di Balik Desainnya?
Lebih jauh, AB 2273 tidak menyentuh aspek ekonomi platform: tidak ada pembatasan iklan berbasis perilaku terhadap anak, tidak ada larangan monetisasi konten anak, dan tidak ada klausul tentang pembagian royalti dari konten yang dihasilkan remaja. Padahal, laporan UNICEF 2024 menyebut 42% konten viral di TikTok yang melibatkan anak di bawah 13 tahun justru dimonetisasi oleh orang dewasa — termasuk orang tua atau manajer konten.
Di tengah antusiasme global terhadap regulasi AI, California justru memilih pendekatan minimalis: bukan mengatur apa yang bisa dihasilkan AI, tapi memastikan anak tahu siapa lawan bicaranya. Ini refleksi dari kegagalan politik lokal dalam mengatur algoritma — dan juga keberhasilan industri dalam mempertahankan ruang inovasi tanpa beban regulasi teknis. Undang-undang ini bukan soal memperlambat AI, tapi soal mempercepat kesadaran pengguna.
Fakta tambahan yang mengejutkan: AB 2605 tidak berlaku untuk chatbot yang digunakan dalam sistem pendidikan resmi — seperti platform LMS sekolah negeri atau aplikasi uji coba kurikulum Kemdikbudristek — bahkan jika penggunanya adalah siswa SD. Artinya, seorang anak bisa mendapat label 'AI-generated' saat chatting dengan asisten Snapchat, tapi tetap berinteraksi tanpa peringatan apapun dengan chatbot penilai tugas di portal sekolahnya.