Bagaimana jika satu negara — bukan forum multilateral, bukan PBB, bukan bahkan Uni Eropa — mendapat mandat eksklusif untuk mengaudit model AI paling canggih di dunia sebelum rilis ke publik? Apa yang terjadi ketika keputusan teknis tentang batas keamanan sistem cerdas justru ditentukan oleh kekuatan ekonomi dan kapasitas komputasi, bukan konsensus etis global?
Apa yang Hilang dari Proposal 'Regulator Independen' Hassabis
Dalam sesi panel Forum Ekonomi Dunia di Davos awal tahun ini, Demis Hassabis — CEO Google DeepMind sekaligus salah satu arsitek utama AlphaFold dan Gemini — menyampaikan gagasan radikal: pembentukan lembaga pengawas AI global yang berwenang menunda atau melarang peluncuran model perbatasan ('frontier models') jika dinilai berisiko tinggi. Lembaga ini, menurutnya, harus dipimpin Amerika Serikat karena 'kedudukan ekonomi dan teknisnya'. Dilansir The Verge, Hassabis membayangkan struktur mirip Financial Industry Regulatory Authority (FINRA), dengan pakar independen dan perwakilan komunitas open-source.
Tapi di sini letak celah krusial: proposal itu tidak menjelaskan bagaimana independensi bisa dijamin jika kepemimpinan politik dan pendanaan utama berasal dari satu negara yang juga menjadi rumah bagi empat dari lima perusahaan AI terbesar dunia — termasuk Google sendiri. Tidak ada mekanisme veto dari negara berkembang, tidak ada kuota representasi dari Asia atau Afrika, dan tidak ada garansi bahwa keputusan evaluasi akan transparan secara publik. Di tengah dominasi AS dalam infrastruktur AI — 78% server pelatihan model besar dunia berada di wilayahnya menurut laporan Stanford AI Index 2023 ; usulan ini justru memperkuat status quo, bukan menyeimbangkannya.
Baca juga: AI Slop Ancam Kepercayaan Visual di Dunia Hewan Digital
Indonesia tidak hanya 'Pengguna', tapi juga Calon Penentu Aturan Lokal
Di Indonesia, diskusi soal regulasi AI masih terfokus pada aspek perlindungan data dan konten berbahaya. UU Perlindungan Data Pribadi (UU PDP) belum mencakup ketentuan spesifik untuk model generatif, apalagi frontier AI. Padahal, Kementerian Komunikasi dan Informatika telah mengidentifikasi 12 sektor prioritas yang akan mengadopsi AI dalam dua tahun ke depan — mulai dari layanan kesehatan hingga sistem perbankan digital. Menurut The Verge, Hassabis menekankan perlunya 'koordinasi global', tapi ia tidak menyebut satu pun negara berkembang sebagai mitra penyusun kerangka kerja.
Nyata-nyanya, Indonesia justru sedang membangun kapasitas lokal: riset AI di ITB dan Universitas Gadjah Mada telah menghasilkan model bahasa berbasis Bahasa Indonesia seperti IndoBERT dan Javanese-BERT; startup seperti Kata.ai dan Sampingan menggunakan AI untuk layanan UMKM tanpa ketergantungan penuh pada API asing. Jika regulator global benar-benar ingin inklusif, ia harus memasukkan mekanisme seperti 'sandbox regulasi bersama' — di mana negara-negara seperti Indonesia bisa menguji aturan lokal sebelum diadopsi secara lintas batas, tidak hanya menerima standar yang sudah jadi.
Baca juga: Mosseri Klaim Tak Tahu Data Keselamatan Remaja Dibatasi
Baca juga: Peptida Baru dari Komputer Kuantum dan AI
Kita juga tak boleh lupa: AS sendiri belum punya undang-undang federal tentang AI. Executive Order Biden November 2023 bersifat instruksional bagi lembaga pemerintah, bukan hukum mengikat. Regulasi di tingkat negara bagian seperti California atau New York masih parsial dan saling tumpang tindih. Dengan kondisi seperti ini, klaim bahwa AS 'paling siap' memimpin pengawasan global terasa prematur — lebih mirip upaya memperkuat hegemoni teknologi daripada membangun tata kelola bersama.
Yang lebih penting lagi: gagasan Hassabis mengabaikan realitas bahwa risiko AI tidak seragam. Ancaman disinformasi di Papua berbeda dengan bias algoritma kredit di Jakarta. Model yang aman di Silicon Valley belum tentu adil di Nusa Tenggara. Tanpa keterlibatan aktif negara-negara berpenduduk mayoritas berbahasa non-Inggris, regulator global justru berisiko menjadi alat legitimasi bagi standar teknis yang tidak relevan secara lokal.
mirip dengan era awal regulasi nuklir pasca-Perang Dunia II. Saat itu, Komisi Energi Atom Internasional (IAEA) didirikan di bawah naungan PBB — bukan dipimpin satu negara, meski AS adalah pemilik teknologi pertama. IAEA dibentuk setelah negosiasi panjang antara negara maju dan berkembang, dengan mekanisme inspeksi bersama dan hak veto terbatas. Perbandingan ini bukan untuk menyeret AI ke ranah senjata nuklir, tapi juga menunjukkan bahwa tata kelola teknologi strategis membutuhkan legitimasi prosedural, bukan hanya kapasitas teknis. Ketika Hassabis bicara tentang 'pengawas global', ia mengajukan solusi teknokratis — padahal yang dibutuhkan dunia adalah diplomasi teknologi yang setara.