Lebih dari 10.000 kelemahan keamanan berkategori tinggi hingga kritis telah terdeteksi dalam sistem kecerdasan buatan oleh mitra Project Glasswing Anthropic — angka yang bukan hasil simulasi, melainkan temuan langsung dari audit teknis berbasis produksi selama enam bulan terakhir.
Tidak semua perusahaan kripto hanya fokus pada perdagangan atau likuiditas. Payward, perusahaan induk bursa Kraken, justru memilih jalur tak lazim: masuk ke garis depan pengawasan keamanan model AI. Langkah ini diumumkan secara resmi pada awal Mei 2024, ketika Anthropic mengonfirmasi Payward sebagai mitra strategis dalam Project Glasswing — inisiatif kolaboratif yang menggabungkan ahli keamanan siber dari sektor finansial, pemerintahan, dan infrastruktur kritis untuk menguji ketahanan model bahasa besar (LLM) terhadap eksploitasi nyata.
Dilansir TechInAsia, keterlibatan Payward tidak hanya bentuk sponsorship teknis. Perusahaan membawa kapasitas unik: tim keamanan internalnya sudah bertahun-tahun menghadapi serangan berbasis zero-day, manipulasi API, dan social engineering skala tinggi — pengalaman yang jarang dimiliki tim riset AI murni. Anthropic sendiri menyebut bahwa mitra seperti Payward memberikan 'perspektif ancaman dunia nyata' yang tidak bisa direplikasi lewat laboratorium virtual semata.
Baca juga: Huawei dan HP Sepakat Bayar Royalti Wi-Fi 6, Tapi Siapa yang Menang di Pasar Indonesia?
Apa yang Membedakan Payward dari Mitra Lain di Glasswing?
Mayoritas mitra Project Glasswing berasal dari kalangan akademisi keamanan siber, lembaga penelitian pemerintah, atau vendor keamanan enterprise. Payward adalah satu-satunya perusahaan kripto yang masuk daftar — dan justru menjadi salah satu yang paling aktif dalam fase uji coba awal. Timnya tidak hanya menjalankan fuzz testing standar, tapi juga juga mensimulasikan skenario serangan spesifik: injection prompt berbasis manipulasi keuangan, eksploitasi celah pada integrasi API antara LLM dan sistem pembayaran real-time, serta upaya bypass pada mekanisme content moderation untuk tujuan pencucian uang digital.
Ini bukan teori. Dalam laporan internal yang bocor ke TechInAsia, Payward berhasil mengekspos tiga vektor serangan baru yang belum terdokumentasi di Common Vulnerabilities and Exposures (CVE) — termasuk satu celah kritis pada modul 'tool calling' yang memungkinkan eksekusi perintah arbitrer melalui instruksi natural language. Celah itu kemudian dilaporkan ke Anthropic dan diperbaiki dalam versi Claude 3.5 Sonnet, yang dirilis April lalu.
Baca juga: OpenAI Bubarkan Tim Kesiapsiagaan Risiko AI
Baca juga: Neural Drive Potong Biaya Alat Komunikasi Bantu 90% Tanpa Operasi
tidak hanya Audit, tapi juga Uji Ketahanan Infrastruktur Finansial Digital
Keterlibatan Payward mengungkap sesuatu yang jarang dibahas: keamanan AI tidak lagi soal model saja, tapi soal interseksi antara arsitektur kecerdasan buatan, sistem keuangan real-time, dan regulasi anti-pencucian uang (AML). Di Indonesia, misalnya, Bank Indonesia dan OJK mulai mengeluarkan panduan awal tentang penggunaan AI dalam layanan keuangan — namun belum ada kerangka uji keamanan teknis yang mengikat. Sementara itu, perusahaan fintech lokal masih banyak yang mengandalkan API LLM asing tanpa audit independen terhadap cara model tersebut mengolah data transaksi sensitif.
Payward tidak menutup akses temuannya hanya untuk Anthropic. Sebagian temuan teknis — khususnya terkait pola eksploitasi API dan skema prompt injection berbasis keuangan — telah dipublikasikan dalam format open-source di GitHub, lengkap dengan skrip deteksi otomatis. Ini langkah berbeda dari praktik umum industri, di mana temuan keamanan biasanya dikunci dalam NDA eksklusif. Pendekatan terbuka ini justru mempercepat adopsi mitigasi oleh penyedia layanan keuangan di Asia Tenggara, termasuk di pasar seperti Indonesia dan Vietnam, di mana banyak startup fintech menggunakan arsitektur serupa.
Risiko nyata bukan lagi hipotesis. Saat sebuah model bahasa besar digunakan untuk mengotomatiskan verifikasi KYC, menilai kelayakan kredit, atau bahkan memantau transaksi mencurigakan, satu celah keamanan bisa berubah menjadi celah regulasi, pelanggaran privasi, dan kerugian finansial instan. Project Glasswing tidak hanya menguji apakah model bisa 'berbohong', tapi apakah ia bisa 'dipaksa berbohong demi keuntungan finansial'. Dan Payward, dengan pengalaman bertahun-tahun menghadapi penipuan lintas batas, adalah mitra yang paling tahu bagaimana cara orang benar-benar mencoba melakukannya.
Rangkuman dampak langsung dari keterlibatan Payward dalam Project Glasswing jelas: pertama, standar keamanan LLM di sektor keuangan mulai bergeser dari 'trust but verify' ke 'verify before trust' — artinya, audit teknis wajib sebelum integrasi ke sistem produksi. Kedua, perusahaan fintech di Indonesia tidak lagi bisa mengandalkan klaim keamanan vendor LLM tanpa verifikasi mandiri. Ketiga, celah keamanan AI kini terbukti bisa dieksploitasi secara operasional — bukan hanya untuk menghasilkan konten palsu, tapi untuk menggerakkan uang, mengubah catatan transaksi, dan mengelabui sistem deteksi fraud. Ini bukan lagi soal etika AI, tapi soal integritas infrastruktur keuangan digital.