Umpan balik yang dihasilkan kecerdasan buatan mencakup komentar yang seolah-olah berasal dari editor-in-chief The Verge, Nilay Patel. Pernyataan ini muncul setelah seorang jurnalis mencoba fitur baru pada platform penulisan tersebut secara mandiri untuk pengujian. Temuan ini menyoroti penggunaan identitas profesional tanpa izin resmi dari pihak terkait secara langsung dan terbuka. Sistem tersebut mengklaim memberikan saran menulis yang terinspirasi oleh pakar materi subjek tertentu yang relevan.
Fitur ulasan pakar ini menawarkan nasihat menulis yang mengikutsertakan profesor yang baru saja meninggal dunia dalam daftarnya secara spesifik. Wired melaporkan kejadian tersebut pada hari Rabu kemarin sebagai pemberitaan awal yang valid. Laporan tersebut menjadi dasar pemeriksaan lebih lanjut terhadap mekanisme kerja aplikasi di lapangan oleh pengguna. Pengguna kini menyadari adanya nama-nama spesifik yang muncul secara tidak terduga dalam daftar pakar tersedia.
Saat mencoba fitur tersebut secara langsung, penulis menemukan beberapa pakar yang mengejutkan karena alasan berbeda yang mendasar. Salah satu nama yang terdaftar ternyata adalah atasan langsung penulis tersebut di ruang redaksi media. Hal ini memicu pertanyaan mengenai bagaimana data identitas tersebut diperoleh oleh pengembang aplikasi teknologi besar. Tidak ada konfirmasi resmi mengenai proses pengambilan data nama-nama tersebut hingga saat ini berlangsung.
Baca juga: ByteDance Bekukan Peluncuran Global AI Video Seedance 2.0
Daftar Editor The Verge Tanpa Izin
Selain Nilay Patel, sistem juga menampilkan nama editor-at-large David Pierce dalam daftar ulasan profesional yang ada. Senior editor Sean Hollister dan Tom Warren juga muncul dalam fitur yang sama secara bersamaan tanpa pengecualian. 4 nama tersebut bekerja di redaksi The Verge dan memiliki profil publik yang jelas di industri media global. Namun, tidak satu pun dari mereka memberikan izin kepada Grammarly untuk memasukan mereka dalam ulasan pakar.
Fitur ini diluncurkan pada bulan Agustus tahun ini dan telah beroperasi selama beberapa waktu tanpa hambatan. Klaim sistem menyatakan bahwa saran yang diberikan terinspirasi oleh pakar materi subjek tertentu yang relevan dengan tulisan. Pengguna menerima umpan balik yang seolah-olah ditulis oleh para editor tersebut secara pribadi dan otentik. Realitasnya menunjukkan bahwa identitas mereka digunakan tanpa persetujuan eksplisit dari pemilik nama yang sah.
Implikasi Penggunaan Identitas Digital
Kasus ini menunjukkan potensi penyalahgunaan nama figur publik dalam teknologi kecerdasan buatan modern yang berkembang pesat. Media tempat para editor bekerja menjadi pihak yang terdampak langsung oleh temuan ini di lapangan kerja. Penggunaan nama atasan dan rekan kerja menimbulkan ketidaknyamanan profesional yang serius bagi pihak redaksi terkait. Hal ini terjadi meskipun fitur tersebut sudah beroperasi selama beberapa bulan tanpa pengawasan ketat dari regulator.
Baca juga: Spotify Taste Profile: Pengguna Kini Kendalikan Algoritma Musik
Dampak langsung dari berita ini adalah terungkapnya praktik penggunaan identitas tanpa izin oleh platform teknologi besar. Para editor yang namanya terlibat tidak memberikan persetujuan apapun untuk fitur tersebut sejak awal peluncuran. Situasi ini memaksa publik untuk mempertanyakan batasan etika dalam pengembangan fitur berbasis kecerdasan buatan secara serius. Keamanan identitas profesional menjadi perhatian utama pasca laporan ini beredar luas di komunitas teknologi.
