Bagaimana sebuah keputusan belanja hardware oleh raksasa teknologi AS bisa mengguncang harga colocation di Jakarta dan memengaruhi kecepatan adopsi AI di UMKM lokal?
Apa yang Berubah di Balik Angka 2 Juta
Amazon Web Services (AWS) baru saja mengumumkan penambahan 2 juta unit chip GPU Nvidia ke pusat data globalnya dalam dua tahun ke depan — tiga kali lipat dari pesanan sebelumnya. Ini tidak hanya penyesuaian kapasitas, tapi juga respons langsung terhadap lonjakan permintaan layanan berbasis model bahasa besar (LLM) dan inferensi real-time dari klien korporasi, startup, hingga pemerintah. Menurut TechCrunch AI, peningkatan ini mencakup tidak hanya chip H100 dan Blackwell, tetapi juga integrasi sistem manajemen AI khusus yang dikembangkan bersama Nvidia untuk optimasi latihan model skala enterprise.
Amazon tidak lagi membeli chip sebagai komponen terpisah lalu merakit sendiri. Mereka kini memesan sistem terintegrasi — server dengan firmware khusus, interkoneksi RDMA over Converged Ethernet (RoCE), dan antarmuka API yang sudah disetel untuk AWS Inferentia dan Trainium. Artinya, investasi ini bukan soal raw compute, tapi soal stack AI end-to-end yang siap pakai. Ini menggeser paradigma: cloud bukan lagi tempat menyewa CPU atau RAM, tapi platform pelatihan dan deployment model yang teroptimasi secara vertikal.
Baca juga: Particle Ubah Podcast Jadi Data yang Bisa Diolah AI
Siapa yang Kehilangan Margin di Jakarta?
Di Indonesia, dampaknya tidak langsung terasa di lobi kantor, tapi di ruang server di BSD City dan Surabaya. Sejak awal 2024, harga colocation untuk rack berpendingin tinggi (high-density rack) naik 18–22% dibandingkan kuartal IV 2023, menurut laporan Q2 2024 dari Asosiasi Penyedia Layanan Internet Indonesia (APJII). Penyebab utamanya bukan inflasi listrik atau sewa gedung — melainkan tekanan pasokan chip GPU impor dan kelangkaan modul pendingin liquid cooling yang digunakan oleh penyedia lokal untuk meniru arsitektur AWS-Nvidia.
Banyak penyedia cloud hybrid lokal seperti Biznet Gio dan CloudX telah mengakui bahwa mereka harus menunda peluncuran layanan inference-as-a-service karena keterlambatan pengiriman GPU A100 dan L40S dari distributor Singapura. Sementara itu, AWS justru mempercepat rollout Amazon Bedrock dan Titan Model di wilayah Asia Pasifik — termasuk endpoint Jakarta — berkat ketersediaan hardware internal yang kini jauh lebih besar. Akibatnya, klien lokal yang butuh latency rendah dan compliance data dalam negeri pun mulai beralih ke hybrid setup: training di AWS Singapore, inference di edge node lokal ; bukan karena pilihan strategis, tapi karena keterbatasan kapasitas domestik.
Baca juga: Stability AI Kumpulkan $76 Juta, Total Pendanaan Capai $232 Juta
Teknologi AI tidak lagi bergerak dari barat ke timur secara linear. Ia bergerak dalam gelombang — dan gelombang kali ini didorong oleh kecepatan eksekusi infrastruktur, bukan kecanggihan algoritma. Amazon tidak sedang membangun data center; ia membangun pabrik model. Setiap chip Nvidia yang dipesan adalah kapasitas untuk menjalankan satu juta permintaan inferensi per detik — atau satu ribu model kustom untuk bank, rumah sakit, dan lembaga pendidikan di Asia Tenggara. Di tengah itu, pasar lokal belum punya ekosistem chip-to-software yang koheren: tidak ada produsen GPU dalam negeri, tidak ada distro Linux khusus AI yang diadopsi luas, dan belum ada standar nasional untuk benchmarking inferensi real-time.
Dilansir TechCrunch AI, kontrak baru Amazon juga mencakup opsi pembelian chip generasi berikutnya (B100 dan Blackwell Ultra) dengan prioritas pengiriman eksklusif — artinya, ketersediaan chip untuk pasar non-AS akan semakin ketat hingga akhir 2025. Untuk startup Indonesia yang mengandalkan GPU murah via cloud spot instance, ini berarti biaya operasional bisa naik 30–40% dalam enam bulan ke depan, tanpa peningkatan performa proporsional. Bukan karena harga chip naik, tapi karena alokasi kapasitasnya makin terkonsentrasi di tangan segelintir pemain global.
mirip dengan 2012, ketika Amazon memperluas kapasitas EC2 secara masif setelah Facebook dan Netflix mulai migrasi ke cloud. Saat itu, harga virtual machine turun 60% dalam dua tahun — tapi hanya setelah AWS mengunci skala ekonomi dan menekan biaya per-watt. Kali ini, pola serupa sedang terulang, hanya dengan variabel baru: bukan bandwidth atau storage yang jadi bottleneck, tapi throughput tensor dan efisiensi watt-per-inferensi. Perang infrastruktur AI bukan lagi soal siapa yang punya server paling banyak, tapi siapa yang bisa menjalankan model paling kompleks dengan konsumsi energi paling rendah — dan di titik itu, Amazon sudah unggul dua langkah di depan.