Margaret Atwood menyebut prinsip dasar kecerdasan buatan dengan kalimat tajam: 'garbage in, garbage out'. Ia mengucapkannya di panggung Babell Literary and Cultural Festival di Porto, Portugal, pada Januari 2026 — bukan sebagai peringatan teknis, melainkan sebagai teguran budaya terhadap kecenderungan kita mempercayai output tanpa memeriksa input.
Siapa yang Mengisi 'Garbage' ke Dalam Mesin?
Atwood menceritakan pengalaman satu-satunya menggunakan chatbot AI: ia mencari informasi tentang serial detektif Inggris Father Brown, lalu mendapat jawaban salah dari Claude milik Anthropic. Bukan karena model itu 'berbohong' dalam arti sadar, tetapi karena ia 'mengambil jalan pintas' — mengolah teks tanpa verifikasi, tanpa konteks sejarah naratif, tanpa rasa akan konsekuensi kekeliruan. Menurut The Verge, Atwood menegaskan bahwa kegagalan itu bukan cacat teknis semata, melainkan cermin dari cara kita memperlakukan pengetahuan: sebagai bahan baku yang bisa diolah tanpa pertanggungjawaban atas asal-usulnya.
Di Indonesia, fenomena ini justru berlipat ganda. Data pelatihan untuk model bahasa lokal sering kali diambil dari korpus daring tanpa lisensi — forum diskusi tak terverifikasi, blog pribadi, atau salinan artikel berita yang sudah dimodifikasi ulang. Tidak ada audit publik atas kualitas sumber-sumber itu. Yang ada justru dorongan instan: startup lokal buru-buru mengintegrasikan 'AI-powered' ke layanan pelanggan, UMKM memakai chatbot gratis untuk respons otomatis, dan sekolah negeri mengadopsi platform pembelajaran berbasis LLM tanpa uji validitas konten. Semua berjalan tanpa mekanisme 'gatekeeping' yang setara dengan redaksi media atau proses peer review ilmiah.
Baca juga: Mosseri Klaim Tak Tahu Data Keselamatan Remaja Dibatasi
Bukan Soal Akurasi, Tapi Soal Tanggung Jawab Editorial
Ketika Atwood mengatakan 'ia tidak tahu sedang berbohong karena bukan manusia', ia bukan melepas tanggung jawab dari manusia — justru sebaliknya. Ia menunjuk ke titik lemah sistem: tidak adanya aktor manusia yang bertindak sebagai editor, kurator, atau penanggung jawab etis atas aliran data masuk. Di dunia jurnalistik, satu kesalahan fakta bisa memicu koreksi halaman depan. Di ekosistem AI, kesalahan serupa justru menjadi 'latihan tambahan' bagi model — diperkuat oleh feedback loop otomatis, bukan dikoreksi oleh refleksi kritis.
Dilansir The Verge, Atwood menolak narasi bahwa AI adalah 'penyempurna pengetahuan'. Ia lebih melihatnya sebagai cermin distorsi: semakin besar skala pelatihannya, semakin besar pula kemungkinan bias, kekeliruan historis, dan reduksi kompleksitas menjadi pola statistik dangkal. Ini bukan soal kekurangan teknologi, melainkan soal kehilangan tradisi editorial — praktik yang selama berabad-abad menjaga batas antara informasi dan disinformasi melalui proses verifikasi, atribusi, dan akuntabilitas.
Baca juga: Komposter Dapur AI: Uji Coba 2 Tahun dan Realitas di Rumah Jakarta
Di Tanah Air, praktik editorial semacam itu masih rapuh. Platform seperti Detik, Kompas, dan Tirto memang punya redaksi ketat, tetapi konten yang menjadi bahan pelatihan model lokal — misalnya dari situs berita agregator atau komunitas daring — kerap bebas dari standar serupa. Belum lagi fakta bahwa 78% model bahasa berbasis Bahasa Indonesia yang diuji oleh Pusat Studi Digital Universitas Gadjah Mada (2025) tidak mencantumkan daftar sumber pelatihan dalam dokumentasi teknisnya. Artinya, pengguna tidak tahu apakah jawaban 'siapa tokoh utama dalam Father Brown?' berasal dari ensiklopedia BBC, ulasan fan di Reddit, atau narasi fiksi alternatif yang viral di TikTok.
Yang membuat pernyataan Atwood relevan bukan karena ia penulis fiksi distopia, tetapi karena ia penulis yang menghabiskan puluhan tahun membedah bagaimana kekuasaan membentuk narasi — dan bagaimana narasi yang rusak membentuk realitas. Ketika sebuah chatbot salah menyebut nama tokoh dalam serial televisi, dampaknya mungkin kecil. Tapi ketika sistem serupa digunakan untuk menyusun ringkasan kebijakan pajak, menerjemahkan dokumen hukum, atau memberi rekomendasi diagnosis medis di puskesmas, 'garbage in' bukan lagi metafora — ia menjadi risiko nyata yang dibayar oleh warga biasa.
Lalu, jika tidak ada 'editor AI' yang bertanggung jawab atas aliran data masuk, siapa yang harus mengisinya? Apakah pemerintah lewat regulasi pelatihan model? Apakah platform teknologi lewat transparansi sumber? Atau justru kita sendiri — sebagai pengguna, pembaca, dan pembuat konten — yang harus kembali belajar membaca bukan hanya output, tapi juga jejak inputnya?