"The real risk for AI companies is running out of cash — not that demand will fade." Kalimat tajam itu keluar dari Ben Thompson, pendiri Stratechery, bukan sebagai peringatan dramatis, tapi diagnosis berbasis arus kas nyata. Ia tidak bicara soal kegagalan teknis atau ketidakmampuan model bahasa, melainkan soal neraca keuangan yang rapuh: server yang terus menyala, chip yang harganya naik dua kali lipat dalam setahun, dan pelanggan yang masih ragu membayar premium untuk fitur 'AI-enabled'.
Biaya Infrastruktur yang Tak Lagi Terkendali
Thompson menunjuk pada satu titik kritis: biaya komputasi tidak lagi mengikuti kurva Moore. Di masa lalu, peningkatan performa hardware datang dengan harga relatif stabil atau bahkan turun. Sekarang, pelatihan model besar membutuhkan ribuan GPU NVIDIA H100 — unit yang harganya mencapai US$30.000 per keping, menurut data resmi NVIDIA Q1 2024. Belum lagi biaya listrik, pendinginan, dan manajemen cluster yang bisa menghabiskan 40–60% dari total operasional cloud-native startup, seperti dilaporkan oleh TechInAsia dalam analisis rantai pasok AI regional awal 2024.
Yang lebih mengkhawatirkan, banyak startup AI di Indonesia dan ASEAN belum membangun mekanisme pricing yang sehat. Mereka menawarkan versi gratis atau freemium tanpa batas, lalu terjebak dalam siklus upgrade infrastruktur tanpa peningkatan pendapatan proporsional. Biaya server naik 70% tahun lalu, sementara rata-rata ARPU (average revenue per user) untuk produk AI B2B lokal masih di bawah Rp1,2 juta/bulan — jauh di bawah ambang profitabilitas untuk skala operasi saat ini.
Baca juga: Neural Drive Potong Biaya Alat Komunikasi Bantu 90% Tanpa Operasi
Supply Chain yang Memaksa Pilihan Strategis
Di balik layar, rantai pasok AI tidak lagi linear. Chip tidak cukup dipesan dari pabrikan; harus dialokasikan lewat kontrak multi-tahun dengan distributor utama, sering kali disertai pembayaran muka hingga 50%. Menurut TechInAsia, tiga dari lima startup AI yang berbasis di Jakarta dan Singapura mengaku mengalami penundaan pengiriman GPU lebih dari 14 minggu pada kuartal pertama 2024 — waktu tunggu yang memaksa mereka menyewa kapasitas cloud lebih lama, dan lebih mahal.
Kondisi ini memaksa pilihan strategis yang tak bisa dihindari: apakah fokus pada efisiensi model (seperti quantization dan pruning), atau beralih ke model hybrid — gabungan antara open-weight foundation model dan custom fine-tuning ringan? Pilihan pertama menuntut keahlian teknis tinggi dan waktu pengembangan panjang. Pilihan kedua mengurangi ketergantungan pada infrastruktur berat, tapi berisiko pada diferensiasi produk. Tidak ada jalan pintas — hanya trade-off yang harus dihitung ulang tiap bulan.
Baca juga: Stripe Masuk Singapura: Apa Artinya untuk UMKM Indonesia?
Di Indonesia, masalah ini diperparah oleh keterbatasan akses ke pembiayaan jangka panjang. Bank lokal masih enggan memberikan kredit modal kerja untuk startup berbasis komputasi intensif tanpa aset fisik yang bisa dijaminkan. Sementara venture capital asing semakin selektif: data dari East Ventures menunjukkan bahwa alokasi dana untuk AI startup di Indonesia turun 28% secara kuartalan sejak akhir 2023, meski jumlah pitch naik 19%. Artinya, lebih banyak startup bersaing untuk dana yang lebih sedikit — dan lebih ketat syaratnya.
beberapa perusahaan justru memanfaatkan tekanan ini untuk memperkuat posisi tawar. Sebut saja PT DataMandiri yang baru mengumumkan kolaborasi dengan TelkomCloud untuk menyediakan inference-as-a-service berbasis model lokal. Mereka tidak menjual API generik, tapi paket solusi terintegrasi untuk perbankan — dengan SLA uptime 99,95% dan tagihan berbasis transaksi aktual, bukan kapasitas reservasi. Ini tidak hanya penyesuaian harga, tapi redefinisi nilai: dari komoditas komputasi menjadi layanan regulasi-aman.
Bagi investor lokal, pertanyaannya bukan lagi apakah teknologi AI akan sukses — tapi siapa yang bisa bertahan sampai titik impas operasional. Karena di dunia nyata, bukan model tercanggih yang menang, tapi juga startup yang paling cermat menghitung watt, watt, dan watt.
Lalu, jika Anda membangun startup AI hari ini — apakah Anda lebih memilih menghemat biaya infrastruktur dengan mengorbankan kecepatan inovasi, atau mempertahankan keunggulan teknis meski harus menunda profitabilitas dua tahun lagi?