Bagaimana bisa sebuah startup yang belum genap tiga tahun berdiri — dan belum pernah mengumumkan pendapatan operasional — dinilai $13 miliar sambil menggalang $1,5 miliar dalam waktu singkat? Jawabannya bukan soal teknologi semata, melainkan tentang kepanikan kolektif di antara investor global yang berlomba mengamankan akses ke infrastruktur inferensi AI, bukan pelatihan model.
Apa Itu 'Inferensi', dan Mengapa Sekarang Jadi Rebutan?
Inferensi adalah proses menjalankan model AI yang sudah dilatih untuk menghasilkan output nyata: jawaban chatbot, rekomendasi produk, deteksi anomali di pabrik, atau terjemahan instan. Berbeda dengan pelatihan — yang memakan ribuan GPU dan berbulan-bulan waktu — inferensi terjadi dalam hitungan milidetik, tapi harus dilakukan jutaan kali per hari oleh layanan skala besar. Permintaan inferensi global tumbuh 4,2 kali lipat sejak 2022, menurut laporan McKinsey 2024. Di tengah keterbatasan pasokan chip NVIDIA H100 dan biaya cloud yang membengkak, platform seperti Baseten menawarkan cara lebih hemat: abstraksi tingkat tinggi untuk menyusun, menguji, dan menyebarkan model inferensi tanpa harus mengatur server secara manual.
Dilansir TechCrunch Startups, Baseten kini berada di ujung finalisasi putaran pendanaan $1,5 miliar — hanya delapan bulan setelah mengumpulkan $225 juta pada valuasi $3,5 miliar. Artinya, valuasi naik hampir empat kali lipat dalam kurun waktu kurang dari satu tahun. Tidak ada laporan keuangan publik, tidak ada daftar klien eksplisit, dan tidak ada pengungkapan detail arsitektur teknis. Yang tersisa adalah narasi kuat: bahwa masa depan komputasi bukan lagi soal siapa yang punya data terbanyak, tapi siapa yang bisa menjalankan model AI paling cepat, paling andal, dan paling murah — di mana saja.
Baca juga: Neural Drive Potong Biaya Alat Komunikasi Bantu 90% Tanpa Operasi
Batasan Teknis yang Justru Jadi Peluang Bisnis
Baseten tidak membuat chip, tidak membangun data center, dan tidak mengembangkan foundation model sendiri. Mereka adalah 'layer ketiga' dalam ekosistem AI: antarmuka antara developer dan infrastruktur. Platform mereka memungkinkan tim engineering mengubah kode Python menjadi endpoint API inferensi dalam waktu kurang dari lima menit — lengkap dengan monitoring latency, throughput, dan biaya per request. Ini bukan hal baru secara konseptual, tapi Baseten berhasil mempercepat siklus itu hingga 70% lebih cepat dibandingkan solusi open-source seperti Triton atau KServe, menurut uji coba internal yang dikutip dalam presentasi investor mereka awal 2024.
TechCrunch Startups mencatat bahwa sekitar 60% dari klien Baseten adalah perusahaan fintech dan healthtech di AS — sektor yang sangat sensitif terhadap latensi dan compliance. Di sini, nilai tambah tidak hanya kecepatan, tapi juga audit trail otomatis untuk setiap inference call, integrasi bawaan dengan SOC 2 dan HIPAA, serta kemampuan menjalankan model di lingkungan on-premise atau private cloud tanpa modifikasi kode. Ini menjelaskan mengapa valuasi melesat: pasar tidak membayar untuk teknologi inferensi, tapi untuk kepercayaan operasional di sektor regulasi ketat.
Baca juga: Stripe Masuk Singapura: Apa Artinya untuk UMKM Indonesia?
Di Indonesia, skenario ini masih jauh dari kenyataan. Belum ada startup lokal yang fokus eksklusif pada layer inferensi. Sebagian besar perusahaan teknologi masih mengandalkan layanan cloud global atau mengembangkan solusi internal berbasis Kubernetes dan ONNX — tanpa fitur compliance otomatis atau manajemen biaya real-time. Padahal, kebutuhan inferensi di sektor perbankan dan asuransi lokal sedang meningkat pesat: dari deteksi penipuan transaksi hingga penilaian risiko kredit berbasis NLP. Namun, tanpa insentif regulasi dan insfrastruktur cloud nasional yang matang, pasar inferensi tetap menjadi wilayah dominasi pemain global — bukan karena superioritas teknis, tapi karena ketergantungan struktural.
Yang juga patut dicermati adalah pola pendanaan Baseten: putaran $225 juta pada Maret 2023, lalu $1,5 miliar pada pertengahan 2024. Tidak ada IPO, tidak ada akuisisi, dan tidak ada pendapatan yang diungkapkan. Model bisnisnya masih berbasis subscription tier berdasarkan jumlah inference request per bulan — mirip dengan model AWS SageMaker, tapi dengan markup harga 30–40% lebih tinggi. Keberlanjutan valuasi ini bergantung pada dua hal: apakah permintaan inferensi benar-benar akan terus tumbuh eksponensial, atau apakah perusahaan mulai membangun kapasitas internal yang cukup untuk mengurangi ketergantungan pada vendor pihak ketiga.
Kita tahu bahwa banyak perusahaan besar di AS sudah mulai membangun 'AI factories' internal — seperti Meta yang mengembangkan MTIA, atau Amazon dengan Trainium/Inferentia. Jika tren ini menyebar ke korporasi Asia Tenggara, maka platform seperti Baseten bisa berubah dari 'infrastruktur wajib' menjadi 'opsi sementara'. Pertanyaannya bukan lagi apakah Baseten layak bernilai $13 miliar hari ini — tapi apakah pasar inferensi akan tetap menjadi bisnis berbasis vendor, atau justru kembali ke model in-house yang lebih terkendali?