Nvidia dan startup asal AS D-Matrix mengumumkan kolaborasi untuk mengembangkan chip inferensi AI generasi berikutnya yang dirancang khusus mengatasi bottleneck data movement—bukan hanya kekurangan daya komputasi. Platform baru ini akan mengintegrasikan teknologi NVLink scale-up milik Nvidia dengan arsitektur interkoneksi Spectrum-X scale-out dari D-Matrix, sebuah kombinasi yang jarang terlihat di antara pemain hardware AI saat ini.
Chip Bukan Lagi Tentang Transistor, Tapi Tentang Data Flow
Perubahan mendasar dalam kolaborasi ini bukan pada peningkatan jumlah core atau frekuensi clock, melainkan pada cara data berpindah antar unit pemrosesan. D-Matrix membangun chip berbasis in-memory computing, di mana operasi matriks dilakukan langsung di dalam memori—bukan dipindahkan ke unit aritmetika lalu dikembalikan. Hasilnya: konsumsi energi turun drastis dan latensi inferensi bisa ditekan hingga lima kali lipat dibanding GPU tradisional, menurut presentasi internal D-Matrix yang dikutip TechInAsia. Dilansir TechInAsia, pendekatan ini justru mengubah prioritas desain chip dari 'berapa banyak FLOPS' menjadi 'berapa cepat data bisa dibaca, diproses, dan disimpan tanpa bolak-balik'.
Ini tidak hanya optimasi teknis. Ini adalah respons langsung terhadap batas fisik Moore's Law yang semakin nyata sejak 2018—ketika peningkatan transistor per mm² mulai stagnan dan biaya fabrikasi chip 3nm melonjak dua kali lipat dibanding generasi 7nm. Di tengah tekanan itu, D-Matrix memilih jalan berbeda: bukan mengejar densitas transistor, tapi meminimalkan gerak data; yang menyumbang hingga 65% konsumsi energi dalam sistem AI modern, menurut studi MIT tahun 2022.
tidak hanya Klien-NVIDIA, tapi juga Mitra Arsitektur
Yang membedakan kolaborasi ini dari kemitraan biasa adalah posisi D-Matrix: bukan sebagai startup yang hanya mengadopsi GPU Nvidia, tapi juga sebagai mitra desain arsitektur sistem. Nvidia tidak sekadar menyediakan chip; mereka membuka akses penuh ke NVLink 5.0 dan protokol Spectrum-X, termasuk dokumentasi low-level serta dukungan firmware. Artinya, D-Matrix bisa mengintegrasikan logika kontrol inferensi secara native ke dalam stack interkoneksi—sesuatu yang tidak diperbolehkan bagi kebanyakan mitra eksternal.
Ini juga menjelaskan mengapa D-Matrix tidak membangun chip sepenuhnya dari nol. Mereka menggunakan proses manufaktur TSMC 5nm, tetapi mengganti seluruh data path-nya dengan struktur analog-digital hybrid yang dikembangkan sendiri. Hasilnya adalah chip yang tetap kompatibel dengan ekosistem CUDA dan Triton, namun menjalankan model Llama-3 8B dengan throughput 120 token/detik per watt—angka yang belum tercapai oleh GPU A100 dalam skenario inferensi real-time.
Bagi industri, implikasinya jelas: masa depan infrastruktur AI tidak lagi ditentukan oleh siapa yang punya GPU paling kuat, tapi siapa yang bisa mengurangi 'data traffic jam' di dalam chip itu sendiri. Perusahaan seperti Alibaba Cloud dan Tokopedia yang sedang membangun pusat inferensi skala menengah. Bukan data center raksasa,mulai mempertimbangkan solusi hybrid seperti ini karena biaya operasionalnya 40% lebih rendah dalam simulasi 12 bulan, menurut laporan internal D-Matrix yang bocor ke TechInAsia.
Baca juga: Enflame Melesat 188%: Apa Artinya untuk Pasar Chip AI Asia?
Di Indonesia, dampaknya belum terasa langsung—tapi jejaknya sudah tampak. Sejak 2023, tiga startup fintech lokal telah mengadopsi platform inferensi berbasis in-memory dari vendor Eropa, meski dengan lisensi terbatas. Mereka memilih jalan itu bukan karena performa, tapi karena biaya listrik dan pendinginan di Jakarta—yang menyumbang 32% dari OPEX pusat data; tidak lagi bisa diabaikan. Kolaborasi Nvidia-D-Matrix justru membuka kemungkinan bahwa solusi serupa bisa hadir dalam bentuk chip yang didistribusikan resmi lewat mitra lokal seperti Erajaya Group atau Datascrip dalam dua tahun ke depan.
mirip dengan kolaborasi Intel dan Sun Microsystems di awal 2000-an: ketika Sun membutuhkan prosesor khusus untuk server Java, Intel tidak hanya menjual chip Xeon, tapi bersama-sama mendesain ulang cache hierarchy dan memory controller. Hasilnya, UltraSPARC III bisa berjalan 2,3x lebih cepat dalam aplikasi enterprise daripada pesaingnya,dan itu memicu gelombang adopsi Java di sektor perbankan Asia Tenggara. Kini, dengan AI sebagai bahasa baru infrastruktur digital, kolaborasi Nvidia-D-Matrix bisa menjadi titik balik serupa: bukan soal siapa yang punya chip tercepat, tapi siapa yang pertama berhasil membuat data bergerak tanpa suara.