Teknologi pengecekan usia yang dikembangkan OpenAI tercatat memiliki tingkat kesalahan lebih tinggi dari 10 persen menurut data internal perusahaan. Angka statistik ini memicu kekhawatiran serius karena masih memungkinkan sejumlah besar anak muda mengakses teknologi tersebut secara tidak sengaja. Perusahaan menyatakan figur kesalahan itu berada dalam rentang standar industri dan mereka terus bekerja meningkatkan akurasinya meskipun ada risiko.
Akibat keterbatasan teknis pada sistem verifikasi itu, OpenAI akhirnya memutuskan untuk meninggalkan rencana peluncuran bot obrolan erotis untuk dewasa secara tidak terbatas. Konfirmasi resmi mengenai pembatalan proyek sensitif ini disampaikan langsung oleh perusahaan kepada The Financial Times baru-baru ini. Dilansir Engadget, keputusan ini diambil setelah mempertimbangkan berbagai masukan kritis dari internal maupun eksternal perusahaan yang khawatir.
Pembatalan fitur dewasa menjadi aplikasi kedua yang disimpan OpenAI dalam minggu yang sama setelah pengumuman penutupan generator video Sora pada Selasa lalu. Rencana fitur tersebut sebenarnya pertama kali diumumkan pada Oktober 2025 untuk rilis Desember tahun lalu namun sempat tertunda karena perdebatan internal. Kini mode yang reportedly disebut Citron mode tersebut berada dalam status tertahan tanpa tanggal rilis yang direncanakan oleh manajemen.
Baca juga: OpenAI Bekukan Mode Dewasa ChatGPT Tanpa Batas Waktu
Kendala Teknis dan Nama Kode
Dua orang yang memahami masalah ini memberitahu The Financial Times bahwa perusahaan mengalami kesulitan melatih model yang sebelumnya menghindari konten erotis secara efektif. Tantangan terbesar terletak pada kemampuan menghapus perilaku ilegal seperti bestialitas atau inses sambil tetap mempertahankan fungsi obrolan dewasa yang aman. OpenAI mengatakan mereka ingin melakukan riset jangka panjang mengenai efek obrolan erotis dan keterikatan pengguna terhadap kecerdasan buatan sebelum meluncurkannya.
Pihak manajemen menambahkan bahwa saat ini belum tersedia cukup bukti empiris mengenai subjek dampak psikologis tersebut bagi pengguna di seluruh dunia. Perusahaan juga menyatakan keinginan untuk fokus pada alat produktivitas inti seperti asisten pengkodean dan meninggalkan quest sampingan yang kurang prioritas. Proyek sampingan seperti Sora dan bot obrolan dewasa dianggap kurang penting dibandingkan alat bantu produktivitas utama mereka saat ini.
Kekhawatiran Etika dan Keamanan
Ide untuk fitur dewasa muncul setelah OpenAI mengumumkan penambahan kontrol orang tua dan fitur deteksi usia otomatis untuk ChatGPT guna melindungi pengguna. CEO Sam Altman pernah mengatakan pada Oktober bahwa perusahaan selalu berhati-hati mengenai masalah keterikatan kecerdasan buatan yang tidak sehat bagi manusia. Ia merasa nyaman bahwa perusahaan dapat melonggarkan batasan dengan aman dalam kebanyakan kasus meskipun ada risiko potensial yang mengintai.
Baca juga: Review Eufy Omni C28: Vacuum Robot Murah Fitur Lengkap
Namun mode dewasa reportedly menyebabkan kekhawatiran di kalangan investor terutama di tengah kontroversi model Grok milik rival xAI yang baru terjadi. Model pesaing tersebut sempat menghasilkan deepfake telanjang dari orang nyata dan anak-anak yang memicu kemarahan publik luas terhadap industri. Staf juga khawatir tentang fitur ini hingga satu karyawan senior bahkan meninggalkan perusahaan karena masalah prinsip etika tersebut.
Karyawan yang mundur itu menegaskan bahwa kecerdasan buatan tidak seharusnya menggantikan teman atau keluarga manusia dalam kehidupan sehari-hari yang nyata. Ia menekankan kepada The Financial Times bahwa manusia seharusnya tetap memiliki koneksi nyata daripada bergantung sepenuhnya pada mesin pintar. Pembatalan ini menjadi penanda penting bagaimana tekanan etika dapat mengubah arah pengembangan produk teknologi besar secara signifikan.