Bayangkan seorang remaja berusia 13 tahun di Albuquerque membuka Instagram untuk mencari komunitas setelah pindah sekolah. Ia mengklik rekomendasi 'akun yang mungkin Anda sukai', lalu masuk ke lingkaran konten ekstrem tanpa filter usia—tanpa izin orang tua, tanpa peringatan sistematis, dan tanpa mekanisme keluar yang transparan. Skenario ini bukan fiksi. Ia menjadi bagian dari bukti dalam gugatan yang akhirnya memaksa Meta membayar $567 juta tambahan—menjadikan total denda dalam kasus ini $942 juta.
Apa yang Salah dengan 'Rekomendasi Otomatis' untuk Anak?
Pengadilan Distrik Bernalillo County, New Mexico, menilai algoritma rekomendasi Instagram dan Facebook secara aktif memperkuat paparan pengguna di bawah 18 tahun terhadap konten berisiko: depresi, self-harm, eksploitasi seksual, dan gangguan citra tubuh. Hakim tidak hanya menyalahkan konten yang diunggah pengguna, tapi juga cara sistem Meta memilih, memperkuat, dan menyebarkan konten itu—terutama melalui fitur seperti 'Suggested Accounts', 'Explore Page', dan 'Reels Feed'. Menurut TechCrunch AI, putusan ini adalah yang pertama di AS yang secara eksplisit mengaitkan kerusakan psikologis pada anak dengan desain algoritma rekomendasi, tidak hanya moderasi konten pasca-publikasi.
Yang krusial: pengadilan menolak klaim Meta bahwa algoritma bersifat netral. Hakim menyatakan sistem tersebut dirancang untuk memaksimalkan waktu tayang dan interaksi—bukan keselamatan pengguna muda. Dalam dokumen putusan, disebutkan bahwa Meta memiliki data internal sejak 2019 menunjukkan penurunan harga diri remaja perempuan setelah 90 menit penggunaan harian Instagram—namun tidak mengubah arsitektur rekomendasi secara substansial.
Baca juga: Stability AI Kumpulkan $76 Juta, Total Pendanaan Capai $232 Juta
Bukan Soal Uang, tapi juga Soal Arsitektur Tanggung Jawab
Denda $567 juta memang besar, tapi nilai editorialnya justru terletak di apa yang tidak dihukum: tidak ada larangan operasional, tidak ada pembekuan fitur, dan tidak ada kewajiban teknis spesifik untuk mengganti kode algoritma. Artinya, Meta tetap bisa menjalankan model bisnis yang sama—selama bersedia membayar premi risiko hukum. Ini menciptakan paradigma baru: pelanggaran sistemik diubah menjadi biaya operasional yang dapat dikalkulasi. Di Indonesia, skema serupa mulai tampak dalam regulasi PSE—di mana sanksi administratif lebih dominan daripada intervensi teknis langsung terhadap desain produk.
TechCrunch AI melaporkan bahwa Meta telah mengalokasikan $1,3 miliar untuk 'child safety initiatives' sejak 2021—jumlah yang jauh melebihi total denda ini. Namun alokasi itu sebagian besar dialihkan ke tim keamanan, audit eksternal, dan kampanye edukasi, bukan ke rekayasa ulang arsitektur rekomendasi. Faktanya, laporan internal Meta yang bocor ke Wall Street Journal pada 2023 menunjukkan bahwa tim engineering di Dublin dan Menlo Park masih menolak integrasi 'age-gated ranking signals' ke dalam core algorithm—dengan alasan potensi penurunan engagement rate hingga 4,2%.
Baca juga: HP Mati Total Meski Baterai 100%: Fenomena yang Makin Sering di Indonesia
Di tengah gelombang regulasi global—dari Digital Services Act (Eropa) hingga Children's Online Privacy Protection Rule (AS)—kasus New Mexico menegaskan satu hal: hukum tidak lagi cukup menuntut transparansi atau pelaporan. Ia mulai menuntut tanggung jawab atas cara kerja mesin. Bukan apakah konten itu berbahaya, tapi mengapa sistem memilih menampilkan konten itu; dan kepada siapa,secara otomatis.
Bagi industri teknologi di Asia Tenggara, termasuk Indonesia, preseden ini mengirim sinyal tegas: regulator lokal tidak harus menunggu undang-undang baru untuk bertindak. Mereka bisa menggunakan kerangka hukum yang sudah ada—seperti UU ITE atau UU Perlindungan Konsumen—untuk menguji desain produk digital dari sudut pandang dampak sosial nyata, bukan sekadar kepatuhan prosedural. Kementerian Komunikasi dan Informatika misalnya, sedang mengkaji revisi pedoman PSE yang menyertakan klausul 'algorithmic accountability'; meski belum mengikat secara hukum.
Kasus ini juga memperlihatkan celah besar dalam ekosistem startup lokal: banyak aplikasi anak-anak di Indonesia masih mengandalkan rekomendasi berbasis engagement—mirip pola awal TikTok versi 2020—tanpa sistem verifikasi usia yang andal atau mekanisme 'pause algorithm' untuk pengguna di bawah 16 tahun. Padahal, survei APJII 2023 menunjukkan 68% remaja usia 12–15 tahun di Indonesia mengakses platform video pendek lebih dari 3 jam per hari; tanpa pengawasan parental yang efektif.
'Kami tidak menyangkal bahwa anak-anak menghabiskan terlalu banyak waktu di platform kami. Yang kami sangkal adalah bahwa desain teknis kami secara langsung menyebabkan kerusakan psikologis,' kata Nick Clegg, Presiden Urusan Global Meta, dalam konferensi pers pasca-putusan. Kalimat itu bukan pembelaan—melainkan pengakuan terselubung: antara memperbaiki sistem dan mempertahankan metrik, Meta masih memilih yang kedua.