Lebih dari 60% startup berbasis model besar (LLM) di Asia Tenggara mengalami tekanan arus kas serius dalam 12 bulan pertama operasi — bukan karena produknya buruk, melainkan karena biaya inferensi dan pelatihan meledak tak terkendali. Angka ini bukan proyeksi, melainkan temuan lapangan dari survei internal TechInAsia terhadap 87 perusahaan AI yang beroperasi di Singapura, Jakarta, dan Ho Chi Minh City antara Januari–Juli 2024.
Fireworks Bukan Soal Api, Tapi Perhitungan Biaya
Di tengah euforia 'build fast, scale faster', Fireworks.ai justru memilih jalur kontraintuitif: menunda peluncuran publik selama 11 bulan demi menyempurnakan arsitektur komputasi. CEO-nya, Mihir Sheth, mengakui bahwa keputusan itu lahir dari pengalaman pahit saat timnya masih di Meta — ketika satu eksperimen fine-tuning model 7B menghabiskan USD 42.000 dalam tiga hari tanpa hasil produksi. "Kami belajar bahwa 'open weight' tidak hanya filosofi sumber terbuka, tapi alat manajemen biaya yang bisa dikalkulasi per token," ujarnya dalam wawancara eksklusif dengan TechInAsia.
Dilansir TechInAsia, pendekatan Fireworks berbeda dari mayoritas pesaing: mereka tidak membangun model dari nol, tapi juga memilih model dasar berlisensi Apache 2.0 seperti Phi-3 atau Llama 3, lalu mengoptimalkannya untuk tugas spesifik — misalnya ekstraksi data kontrak hukum atau verifikasi klaim asuransi — dengan teknik quantization 4-bit dan prunning struktural. Hasilnya? Latensi turun 40%, tetapi biaya inferensi per permintaan justru turun 68% dibandingkan penggunaan model generik di cloud provider.
Baca juga: Neural Drive Potong Biaya Alat Komunikasi Bantu 90% Tanpa Operasi
Skala Bukan Soal Jumlah Pengguna, Tapi Rasio Token per Dollar
Banyak founder salah kaprah: mengira 'scalability' berarti menambah server saat traffic naik. Padahal, dalam bisnis AI, skalabilitas sebenarnya adalah rasio antara jumlah token yang diproses dan biaya infrastruktur per dolar. Fireworks membuktikan ini dengan membatasi setiap klien enterprise hanya pada tiga pipeline inferensi teroptimasi — bukan sepuluh API endpoint berbeda seperti kebiasaan umum. Satu klien asuransi di Jakarta, misalnya, bisa memproses 2,3 juta klaim per bulan dengan biaya komputasi tetap USD 18.500 — angka yang stabil sejak Q3 2023, meski volume naik 210%.
Ini kontras tajam dengan startup AI lokal lain yang sempat viral di Indonesia. Salah satunya, sebuah perusahaan fintech berbasis chatbot di Bandung, harus menghentikan layanan gratisnya pada Februari 2024 setelah tagihan AWS-nya melonjak dari Rp 120 juta menjadi Rp 940 juta dalam dua bulan — karena menggunakan model 13B tanpa optimasi, dan tanpa batas rate limiting. Kasus ini bukan anomali; menurut laporan Asosiasi Cloud Indonesia (ACI) 2024, 7 dari 10 startup AI lokal yang mengandalkan model closed-source belum pernah menjalani audit biaya komputasi rutin.
Baca juga: Stripe Masuk Singapura: Apa Artinya untuk UMKM Indonesia?
Fireworks tidak mengunci platformnya untuk klien internal. Mereka justru merilis 'CostGuard Toolkit' secara gratis — kumpulan script Python dan dashboard Grafana yang membantu developer memantau biaya per token, membandingkan efisiensi model, dan bahkan memprediksi biaya bulanan berdasarkan pola penggunaan historis. Alat ini sudah diadopsi oleh tiga startup di Yogyakarta dan dua UMKM di Surabaya yang mulai membangun solusi AI untuk manajemen inventaris dan pelacakan distribusi obat.
Bagi ekosistem startup Indonesia, pelajaran dari Fireworks bukan tentang teknologi canggih, melainkan disiplin finansial yang jarang diajarkan di inkubator. Di banyak akselerator, fokus masih pada 'how to raise funding', bukan 'how to avoid burning it'. Padahal, menurut data Kemenkominfo 2023, 41% startup digital nasional yang gagal dalam tiga tahun pertama bukan karena kurang inovasi, melainkan karena ketidakmampuan mengelola biaya operasional teknis — terutama komputasi AI.
Tahun 2001, saat gelembung dot-com pecah, banyak perusahaan mati bukan karena ide buruk, tapi karena membayar bandwidth dan hosting tanpa analisis ROI. Sekarang, 23 tahun kemudian, skenario serupa muncul — hanya saja medan pertarungannya bergeser dari bandwidth ke token, dari server fisik ke GPU cluster, dan dari 'page view' ke 'cost per inference'. Bedanya: kali ini, kita punya pilihan — open weight models tidak hanya alternatif teknis, tapi juga benteng pertama melawan kebangkrutan yang dihitung per milidetik.