"Kami akan menggunakan operasional layanan AI internal untuk menguji dan menerapkan teknologi ini." Kalimat itu tidak hanya pernyataan promosi, tapi juga deklarasi strategis dari LG Uplus—operator telekomunikasi ketiga terbesar di Korea Selatan—yang mengumumkan kolaborasi dengan OptAI, startup spesialis optimasi token dalam model bahasa besar (LLM).
Token tidak hanya Kata, Tapi Biaya Nyata
Setiap kali pengguna memicu respons dari model seperti Llama atau Gemma, sistem tidak hanya menghitung makna—tapi juga mengonsumsi token: unit dasar pemrosesan teks yang menentukan biaya komputasi, latensi, dan konsumsi energi. Satu permintaan berisi 500 kata bisa menghasilkan 700–800 token, tergantung pada tokenizer dan struktur kalimat. Di skala LG Uplus—yang melayani lebih dari 14 juta pelanggan dan menjalankan ratusan layanan berbasis AI mulai dari chatbot layanan pelanggan hingga asisten internal karyawan; penghematan satu token per interaksi berarti pengurangan beban server puluhan ribu jam per bulan. OptAI tidak menawarkan model baru, tapi juga lapisan optimasi di bawah API: algoritma yang memangkas redundansi leksikal, menyederhanakan struktur prompt tanpa kehilangan konteks, dan menyesuaikan panjang output sesuai kebutuhan spesifik layanan.
Dilansir TechInAsia, OptAI telah menguji pendekatan serupa di lingkungan produksi dengan tiga penyedia layanan cloud Asia Tenggara, menghasilkan penurunan rata-rata konsumsi token sebesar 22–34% dalam skenario layanan pelanggan otomatis. Namun, kerja sama dengan LG Uplus adalah yang pertama kali dilakukan dengan operator telekomunikasi penuh—tidak hanya klien enterprise biasa. Ini penting karena operator memiliki akses unik ke data operasional real-time: pola penggunaan jaringan, riwayat keluhan pelanggan, bahkan durasi sesi layanan digital—semua bisa menjadi masukan untuk fine-tuning strategi token.
Baca juga: Bolttech dan Bold Penguin Bentuk Aliansi Asuransi Global Berbasis AI
Operator Bukan Hanya Konsumen, Tapi Arsitek Infrastruktur AI
Sejak 2022, LG Uplus telah membangun platform AI bernama "U+ AI Hub", yang mengintegrasikan model lokal seperti Hanbit-1 dan model open-weight dari Meta serta Mistral. Platform ini tidak hanya dipakai untuk layanan publik, tapi juga sebagai fondasi bagi divisi enterprise LG Uplus yang menyediakan solusi AI untuk bank, rumah sakit, dan pemerintah daerah. Dengan OptAI, mereka bukan lagi sekadar mengonsumsi API dari penyedia model—melainkan membangun lapisan kontrol atas efisiensi eksekusi model itu sendiri. Ini berbeda dari pendekatan Telkomsel atau XL Axiata di Indonesia, yang masih bergantung pada integrasi API eksternal tanpa kemampuan modifikasi tingkat token-level.
Di tengah tekanan regulasi global terhadap konsumsi energi pusat data—dan dorongan pemerintah Korea Selatan agar operator mengurangi emisi karbon sebesar 30% pada 2030—optimasi token menjadi instrumen konkret. Setiap 10% pengurangan token berarti penurunan daya prosesor sekitar 7–9%, menurut studi 2023 oleh Korea Institute of Science and Technology (KIST). LG Uplus tidak menyebut angka pasti dalam pengumuman resminya, tetapi menyatakan bahwa uji coba akan dimulai pada Q3 2024 di dua pusat data utamanya di Seoul dan Busan; dengan fokus awal pada modul "U+ Smart Care", layanan dukungan teknis berbasis AI yang menangani lebih dari 2,1 juta interaksi bulanan.
Baca juga: Tencent Beli 100.000 Chip AI dari Oracle? Celah Ekspor AS yang Tak Bisa Diabaikan
OptAI tidak memaksa LG Uplus beralih ke model tertentu. Teknologinya bersifat model-agnostic: bekerja baik dengan Llama 3, Qwen, maupun model proprietary milik LG Uplus sendiri. Artinya, operator tidak dikunci ke satu ekosistem—melainkan memperkuat posisinya sebagai arsitek infrastruktur AI yang fleksibel. Ini kontras tajam dengan strategi SK Telecom, saingan utamanya, yang memilih membangun model generatif tunggal (A.0) dan mengunci semua layanan di dalamnya sejak 2023.
mirip dengan tahun 2008, ketika KT Corporation—operator lain di Korea Selatan—mengembangkan platform "KT Cloud" bukan untuk bersaing dengan Amazon Web Services, tapi untuk mengurangi ketergantungan pada vendor asing dalam layanan enterprise. Lima belas tahun kemudian, langkah LG Uplus dengan OptAI bukan soal nasionalisme teknologi, tapi juga tentang kedaulatan operasional: hak untuk mengatur bagaimana AI berjalan di jaringannya; bukan hanya apa yang dihasilkannya. Di tengah gelombang konsolidasi AI global, operator telekomunikasi justru mulai menemukan ruang strategis baru: bukan sebagai distributor, tapi sebagai insinyur efisiensi.