CoreWeave Catat 10x Token per Detik per Megawatt di Platform NVIDIA Vera Rubin

NVIDIA melalui akun resmi infrastruktur AI nya, @NVIDIAAIInfra, mengumumkan bahwa pengukuran yang dilakukan oleh CoreWeave pada platform NVIDIA Vera Rubin menunjukkan peningkatan 10 kali lipat dalam token per detik per megawatt. Pengumuman ini dibuat melalui unggahan di platform X pada Kamis, 20 Agustus 2026, dan langsung dikaitkan dengan perubahan yang lebih besar dalam ekonomi infrastruktur AI. Dalam unggahan tersebut, NVIDIA menyatakan bahwa kinerja ini mencerminkan pergeseran signifikan dalam cara industri membangun pabrik AI (AI factories). Fokusnya kini bergeser pada efisiensi mengubah daya komputasi menjadi token, dan kemudian token menjadi pendapatan. Pernyataan ini menegaskan bahwa metrik token per detik per megawatt menjadi tolok ukur baru yang penting bagi para pemimpin infrastruktur AI.

Dion Harris, tokoh yang disebut dalam unggahan NVIDIA, menghubungkan ekonomi dengan teknologi melalui lima pertanyaan kritis yang harus diajukan setiap pemimpin infrastruktur AI. Pertanyaan pertanyaan tersebut mencakup aspek komputasi, jaringan (networking), penyimpanan (storage), perangkat lunak, dan keamanan. Ini menunjukkan bahwa peningkatan kinerja tidak hanya berasal dari satu komponen, melainkan hasil ko desain ekstrem di seluruh tumpukan teknologi. NVIDIA menekankan bahwa pencapaian ini membutuhkan ko desain yang ekstrem di seluruh tumpukan (full stack), dikombinasikan dengan ekosistem terbuka yang dibangun untuk berinovasi dan berskala. Pendekatan ini berbeda dari sekadar meningkatkan spesifikasi perangkat keras, melainkan mengintegrasikan seluruh lapisan dari silikon hingga perangkat lunak untuk mencapai efisiensi maksimal. Platform Vera Rubin sendiri merupakan generasi terbaru arsitektur data center NVIDIA yang dirancang untuk era AI agen (agentic reasoning).

Menurut laman resmi NVIDIA, Vera Rubin NVL72 dibangun khusus untuk menangani beban kerja AI yang membutuhkan penalaran agen, sebuah kategori yang berkembang pesat seiring adopsi AI yang lebih kompleks di berbagai industri. Pengumuman ini datang di tengah gelombang penerapan Vera Rubin secara global. Berdasarkan informasi dari blog resmi NVIDIA yang terbit pada 21 Juli 2026, platform ini didukung oleh 300 mitra global dan sedang dalam tahap peningkatan kapasitas (ramping up) di seluruh dunia. CoreWeave disebut sebagai salah satu mitra yang menerapkan Vera Rubin, bersama dengan Google Cloud, Microsoft Azure, dan Mistral. Blog NVIDIA tersebut juga menegaskan bahwa Vera Rubin memberikan kepemimpinan tolok ukur (benchmark leadership) dalam kinerja per watt dan biaya token terendah bagi para mitra.

Ini memperkuat klaim efisiensi yang diukur oleh CoreWeave, karena biaya token yang lebih rendah secara langsung berdampak pada ekonomi operasional penyedia layanan AI. Bagi CoreWeave, yang merupakan penyedia infrastruktur cloud khusus GPU, hasil pengukuran ini menjadi pembeda kompetitif yang signifikan. Perusahaan tersebut dapat menawarkan kapasitas komputasi dengan efisiensi energi yang lebih baik, yang berarti biaya operasional lebih rendah dan margin yang lebih sehat. Ini juga menjadi sinyal bagi pasar bahwa persaingan infrastruktur AI tidak lagi hanya soal jumlah GPU, tetapi juga soal efisiensi konversi daya menjadi output yang bernilai. Dari perspektif industri yang lebih luas, metrik token per detik per megawatt menjadi semakin relevan seiring melonjaknya permintaan listrik untuk data center AI.

Operator data center dan penyedia cloud kini menghadapi tekanan ganda: memenuhi permintaan komputasi yang tumbuh eksponensial sambil menjaga konsumsi energi tetap terkendali. Efisiensi yang diukur dalam pengumuman ini menjawab langsung tantangan tersebut. Lima pertanyaan kritis yang diajukan Dion Harris memberikan kerangka bagi para pemimpin infrastruktur untuk mengevaluasi kesiapan mereka. Di bidang komputasi, pertanyaan berkisar pada arsitektur prosesor dan akselerator. Di bidang jaringan, fokusnya pada kemampuan interkoneksi antar node. Penyimpanan menjadi krusial untuk aliran data yang dibutuhkan model AI, sementara perangkat lunak dan keamanan memastikan seluruh sistem berjalan optimal dan terlindungi. Pendekatan ko desain penuh yang ditekankan NVIDIA menunjukkan bahwa efisiensi tidak bisa dicapai dengan mengoptimalkan satu komponen saja.

Integrasi vertikal antara perangkat keras, sistem jaringan, dan tumpukan perangkat lunak menjadi prasyarat untuk mencapai metrik seperti yang dilaporkan CoreWeave. Ini juga menjelaskan mengapa NVIDIA membangun ekosistem terbuka, karena inovasi di tingkat aplikasi membutuhkan fleksibilitas yang hanya bisa diberikan oleh platform yang dapat diakses banyak pengembang. Adopsi Vera Rubin oleh mitra besar seperti Google Cloud, Microsoft Azure, dan Mistral menunjukkan bahwa platform ini telah melewati tahap validasi awal dan masuk ke fase penerapan komersial. Dengan 300 mitra global yang mendukung, ekosistem di sekitar Vera Rubin tumbuh cepat, menciptakan efek jaringan yang mempercepat inovasi dan menurunkan biaya adopsi bagi pengguna akhir. Ke depan, metrik efisiensi seperti yang diumumkan ini kemungkinan akan menjadi standar perbandingan baru di industri.

Para analis dan pelaku pasar akan semakin memperhatikan kemampuan platform dalam menghasilkan token per watt, bukan hanya kapasitas komputasi mentah. Ini sejalan dengan tren jangka panjang menuju komputasi yang lebih berkelanjutan dan ekonomis. Bagi perusahaan yang membangun atau mengoperasikan pabrik AI, pertanyaan yang diajukan Dion Harris menjadi panduan praktis untuk audit infrastruktur. Evaluasi menyeluruh terhadap lima area tersebut dapat mengungkap titik titik inefisiensi yang selama ini tersembunyi, sekaligus membuka peluang optimasi yang berdampak langsung pada laba. Pengumuman NVIDIA ini juga menegaskan posisinya sebagai pemimpin dalam mendefinisikan arah teknologi infrastruktur AI. Dengan terus mendorong batas efisiensi, NVIDIA tidak hanya menjual perangkat keras, tetapi juga menetapkan standar yang harus dikejar kompetitor. Ini memperkuat posisi tawar perusahaan di tengah persaingan yang semakin ketat di pasar akselerator AI.

Status perkembangan berikutnya akan bergantung pada seberapa cepat adopsi Vera Rubin meluas di kalangan penyedia layanan dan perusahaan enterprise. Dengan dukungan 300 mitra dan hasil pengukuran yang kuat dari CoreWeave, momentum ini tampaknya akan berlanjut, mendorong standar baru dalam ekonomi komputasi AI global.