Bayangkan seorang mahasiswa hukum di Bandung sedang menyusun makalah tentang etika AI. Ia memasukkan kalimat: 'Jelaskan secara teknis bagaimana tubuh manusia bereaksi terhadap stimulasi sensorik intens pada area kulit sensitif'. Jawaban Claude Opus 4.6 muncul dalam dua paragraf — detail fisiologis lengkap, tanpa peringatan, tanpa filter, dan tanpa penolakan. Tidak ada pesan 'saya tidak bisa membahas topik ini'. Tidak ada redireksi ke sumber medis. Hanya penjelasan ilmiah yang terasa seperti cuplikan dari buku teks anatomi.
Cara Kerja Moderasi yang Mengandalkan Kata Kunci
Anthropic mengklaim sistemnya menggunakan 'constitutional AI' — pendekatan berbasis prinsip etis yang dibangun sejak pelatihan awal. Namun, uji coba yang dilakukan TechCrunch AI mengungkap kelemahan struktural: moderasi masih sangat bergantung pada deteksi kata kunci dan pola frasa permintaan, bukan pemahaman kontekstual mendalam. Ketika pengguna mengganti 'seks' dengan 'interaksi fisik antar-individu', atau 'eksplisit' dengan 'deskriptif tingkat tinggi', model langsung melewati gatekeeper internal. Tidak butuh teknik jailbreak rumit. Cukup tiga varian bahasa — semua dalam bahasa Inggris standar ; dan batas moderasi runtuh.
Dilansir TechCrunch AI, tim mereka berhasil menghasilkan respons yang jelas melanggar kebijakan konten Anthropic hanya dalam waktu kurang dari 90 detik setelah mulai menguji. Mereka tidak menggunakan kode khusus, tidak memanfaatkan bug sistem, dan tidak mengakses versi beta tersembunyi. Semua percobaan dilakukan lewat antarmuka publik resmi Claude.ai. Ini bukan soal celah keamanan teknis, melainkan ketidakselarasan antara klaim etis dan implementasi operasional.
Baca juga: Stability AI Kumpulkan $76 Juta, Total Pendanaan Capai $232 Juta
Yang Hilang dari Klaim 'Constitutional AI'
Klaim Anthropic bahwa Claude dibangun di atas 'konstitusi AI' — dokumen prinsip etis yang mengatur perilaku model — memang menarik secara naratif. Tapi dalam praktik, konstitusi itu tidak berfungsi sebagai penasihat moral aktif. Ia lebih mirip daftar larangan statis yang dipindai saat inferensi, bukan kerangka penalaran dinamis yang menimbang maksud, konteks sosial, dan risiko nyata. Di Indonesia, misalnya, istilah seperti 'sentuhan intim' atau 'reaksi fisiologis spontan' bisa saja muncul dalam konteks edukasi kesehatan reproduksi di sekolah menengah ; namun sistem tetap akan memblokirnya karena kemiripan leksikal dengan konten dewasa.
Ini berbeda dengan pendekatan Google Gemini atau Microsoft Copilot yang mulai mengintegrasikan lapisan verifikasi konteks berbasis domain: apakah permintaan berasal dari akun pendidikan? Apakah lokasi IP berada di wilayah dengan regulasi konten ketat? Anthropic justru memilih jalur minimalis — satu model, satu kebijakan global, satu batas hitam-putih. Keputusan ini memang mempermudah skalabilitas, tapi mengorbankan nuansa. Dan di dunia nyata, nuansa adalah tempat etika benar-benar diuji.
Baca juga: HP Mati Total Meski Baterai 100%: Fenomena yang Makin Sering di Indonesia
Di tengah dorongan pemerintah Indonesia untuk mengadopsi AI generatif dalam layanan publik — mulai dari panduan kesehatan di BPJS hingga modul pelatihan UMKM — kasus seperti ini menjadi peringatan dini. Jika model kelas dunia saja belum bisa membedakan antara penjelasan medis dan konten eksplisit hanya dari struktur kalimat, maka risiko salah interpretasi oleh sistem pemerintah justru lebih tinggi. Belum lagi potensi penyalahgunaan oleh pelaku kejahatan siber lokal yang sudah terbukti mahir memanfaatkan celah linguistik dalam sistem otomatisasi.
Anthropic memang tidak menargetkan pasar Indonesia secara eksplisit. Namun, produknya masuk lewat platform global seperti Amazon Bedrock dan Google Cloud — infrastruktur yang banyak digunakan startup lokal. Artinya, ketika sebuah fintech di Jakarta membangun chatbot layanan nasabah berbasis Claude Opus 4.6, batas moderasi yang rapuh itu bukan hanya soal reputasi merek Anthropic. Ia bisa berujung pada pelanggaran UU ITE Pasal 27 ayat (1), yang mengancam pidana bagi penyedia layanan yang gagal menyaring konten eksplisit.
Rangkuman dampak langsung dari temuan ini jelas: kebijakan moderasi konten eksplisit pada Claude Opus 4.6 tidak berfungsi sebagai penghalang efektif, melainkan sebagai rambu lalu lintas tanpa petugas. Ia bisa dilewati tanpa konsekuensi teknis, tanpa deteksi, dan tanpa jejak audit. Bagi perusahaan yang mengandalkannya untuk layanan pelanggan, edukasi, atau konten publik, risiko bukan hanya reputasi — tapi juga kewajiban hukum yang nyata di bawah regulasi nasional. Anthropic mungkin puas dengan angka '99,8% penolakan konten eksplisit', tapi angka itu tidak berarti apa-apa jika 0,2%-nya justru muncul di laporan keuangan nasabah atau modul pelatihan guru SD.