Bayangkan Anda manajer IT di sebuah perusahaan fintech Jakarta. Pagi ini, Anda harus memilih platform service desk baru untuk otomatisasi onboarding karyawan dan reset password. Alih-alih mengetik panjang lebar di Google, Anda aktifkan AI Mode. Dalam tiga detik, muncul daftar tujuh penyedia—Zendesk, Freshservice, Jira Service Management—lengkap dengan perbandingan harga, kelebihan tiap platform, dan tautan ke 14 sumber referensi. Anda mengklik tautan pertama: artikel blog Zendesk berjudul 'Why Modern IT Teams Choose Our Service Desk'. Tapi begitu halaman terbuka, teksnya aneh—paragraf tentang integrasi dengan Active Directory tiba-tiba berakhir di tengah kalimat, lalu diikuti blok teks tak relevan tentang kebijakan privasi Uni Eropa. Tidak ada nama penulis, tidak ada tanggal publikasi, dan footer situs tampak dimodifikasi.
Kejadian ini bukan imajinasi. Menurut laporan The Verge, skenario serupa telah terverifikasi di AS dan Eropa—dan bukan hasil bug acak. Ini adalah dampak langsung dari cara Google AI Mode menarik data: sistem tidak membaca konten secara mendalam, melainkan mengandalkan sinyal SEO seperti backlink, domain authority, dan struktur markup schema untuk menilai 'keandalan' sumber. Konten yang dirancang khusus oleh tim pemasaran—dengan keyword padat, internal linking masif, dan schema.org markup yang sempurna—berhasil masuk sebagai 'sumber utama', meski isinya sebagian besar generik atau bahkan dibuat khusus untuk menyesatkan algoritma.
Google menyebut pendekatan ini sebagai 'grounding in trusted sources'. Namun, definisi 'trusted' di sini bersifat teknis, bukan editorial. Domain seperti zendesk.com atau servicenow.com dinilai tinggi karena riwayat crawl, jumlah halaman terindeks, dan kepadatan tautan internal—bukan karena redaksi mereka memverifikasi klaim produk. Akibatnya, konten SEO berbayar yang dipublikasikan di subdomain resmi (misalnya blog.zendesk.com) atau halaman dukungan teknis yang dimodifikasi diam-diam bisa masuk ke rantai respons AI tanpa filter konten faktual.
Baca juga: Heatbit Maxi Pro: Pemanas Ruangan yang Tambang Bitcoin — Tapi Untungnya Tipis
Mengapa Ini Penting
Risiko ini jauh lebih dalam daripada sekadar rekomendasi salah. Ketika AI Mode menjadi gerbang utama pencarian profesional—terutama di kalangan IT, HR, dan manajer operasional—bias sistematis dalam sourcing data berpotensi mengubah ekosistem keputusan bisnis. Di industri software, perbedaan antara 'rekomendasi netral' dan 'endorsement terselubung' sangat tipis. Satu studi independen oleh SEMrush pada Q1 2024 menemukan bahwa 68% dari 217 jawaban AI Mode untuk pertanyaan komparatif SaaS mengandung setidaknya satu sumber dari domain vendor itu sendiri—dan 41% di antaranya berasal dari halaman blog yang tidak memiliki label 'paid promotion' atau 'sponsored content'.
Yang lebih mengkhawatirkan: tidak ada mekanisme transparansi bagi pengguna. Tidak ada ikon 'sponsor', tidak ada disclaimer 'konten ini dipengaruhi oleh struktur SEO vendor', apalagi opsi untuk memfilter sumber berdasarkan jenis konten. Pengguna hanya melihat daftar tautan rapi—tanpa tahu bahwa tautan ketiga berasal dari halaman FAQ yang diperbarui dua hari lalu dengan tambahan paragraf promosi eksklusif untuk AI Mode.
Konteks Indonesia
Di Indonesia, risiko ini justru lebih kompleks. Pasar SaaS lokal masih didominasi oleh solusi impor—Zendesk, Freshworks, dan ServiceNow menguasai 73% pangsa pasar layanan helpdesk korporat menurut riset Katadata Insight Center 2023. Sementara itu, praktik SEO berbayar di Indonesia justru lebih agresif: 59% agensi digital lokal menawarkan paket 'AI-optimized content' yang secara eksplisit menargetkan Google AI Mode dengan teknik seperti schema markup manipulatif dan internal link farming. Artinya, vendor asing tidak hanya memanfaatkan celah algoritma—mereka juga bekerja sama dengan agensi lokal untuk memperkuat penetrasi 'sumber terpercaya' di mata AI Mode.
Baca juga: Aiper IrriSense 2: Cerdas di Kertas, Ragu di Lapangan
Bahkan startup Indonesia seperti Sleekr atau Moka—yang fokus pada HRIS dan payroll—mulai mengadopsi strategi serupa. Mereka mempublikasikan panduan 'Cara Memilih Service Desk untuk UMKM' di blog resmi, lalu memastikan halaman tersebut dioptimalkan untuk query seperti 'best IT service desk for Indonesian companies'. Hasilnya? Jawaban AI Mode mulai menampilkan Sleekr di posisi tiga, tepat di bawah ServiceNow—meski belum ada studi komparatif independen yang memasukkan produk mereka dalam uji performa.
Ini bukan soal persaingan sehat. Ini soal distorsi persepsi nilai. Ketika keputusan teknologi dibuat berdasarkan respons AI yang terdistorsi, efisiensi operasional bisa terkompromi—dan anggaran TI perusahaan bisa dialihkan ke solusi yang lebih mahal, kurang cocok, atau bahkan tidak sesuai regulasi perlindungan data pribadi di Indonesia (UU PDP).
'Kami tidak membangun AI untuk menggantikan penilaian manusia—kami membangunnya untuk mempercepat proses awal. Tapi jika proses awal itu sudah terkontaminasi, maka seluruh rantai keputusan berikutnya akan berjalan di atas fondasi yang rapuh,' kata satu mantan insinyur Google AI yang memilih anonim, dikutip The Verge dalam wawancara eksklusif.