NVIDIA telah mengumumkan serangkaian kolaborasi dengan SoftBank Corp. untuk mempercepat inisiatif AI nasional Jepang dan memperkuat kepemimpinan teknologi globalnya, sekaligus membuka peluang pendapatan miliaran dolar dari AI untuk penyedia telekomunikasi di seluruh dunia.
Dalam pidatonya di NVIDIA AI Summit Jepang, pendiri dan CEO NVIDIA, Jensen Huang, mengumumkan bahwa SoftBank sedang membangun superkomputer AI terkuat di Jepang menggunakan platform NVIDIA Blackwell dan merencanakan penggunaan platform NVIDIA Grace Blackwell untuk superkomputer berikutnya.
Selain itu, NVIDIA mengungkapkan bahwa SoftBank, menggunakan platform komputasi percepatan NVIDIA AI Aerial, telah berhasil menguji coba jaringan telekomunikasi AI dan 5G gabungan pertama di dunia — sebuah terobosan yang membuka peluang pendapatan miliaran dolar dari AI untuk operator telekomunikasi.
NVIDIA dan SoftBank juga mengumumkan rencana untuk menciptakan pasar AI menggunakan perangkat lunak NVIDIA AI Enterprise, yang dirancang untuk memenuhi kebutuhan komputasi AI lokal dan aman. Layanan baru ini mendukung pelatihan AI dan inferensi AI di edge, memungkinkan SoftBank menjadi jaringan AI utama Jepang, menciptakan peluang bisnis baru di berbagai industri, konsumen, dan perusahaan di negara tersebut.
SoftBank Pertama Menerima Blackwell, Rencana untuk Grace Blackwell
SoftBank akan menjadi yang pertama menerima sistem NVIDIA DGX™ B200 di dunia, yang akan menjadi dasar untuk superkomputer NVIDIA DGX SuperPOD™ baru mereka.
Superkomputer DGX SuperPOD yang didukung Blackwell ini akan digunakan SoftBank untuk pengembangan AI generatif dan bisnis terkait AI, serta mendukung universitas, institusi penelitian, dan bisnis di Jepang.
Setelah selesai, DGX SuperPOD ini diperkirakan menjadi yang paling bertenaga di Jepang. Dengan perangkat lunak NVIDIA AI Enterprise dan jaringan NVIDIA Quantum-2 InfiniBand, sistem ini ideal untuk pengembangan model bahasa besar.
SoftBank juga berencana membangun superkomputer lain yang dipercepat NVIDIA untuk beban kerja komputasi intensif. Rencana awal berbasis desain platform NVIDIA Grace Blackwell dengan sistem multi-node GB200 NVL72 yang dilengkapi pendingin cair, menggabungkan GPU Blackwell NVIDIA dan CPU Grace™ berbasis Arm yang hemat daya.
Pencapaian Baru dalam AI-RAN
Bekerja sama dengan NVIDIA, SoftBank telah mengembangkan jaringan telekomunikasi baru yang dapat menjalankan beban kerja AI dan 5G secara bersamaan, dikenal sebagai artificial intelligence radio access network (AI-RAN).
Jaringan ini memungkinkan operator mengubah stasiun basis mereka dari pusat biaya menjadi aset penghasil pendapatan AI. Melalui uji coba di luar ruangan di Prefektur Kanagawa, SoftBank menunjukkan bahwa solusi AI-RAN yang dipercepat NVIDIA mencapai kinerja 5G kelas operator sambil menggunakan kapasitas jaringan berlebih untuk menjalankan beban kerja inferensi AI secara bersamaan.
Jaringan telekomunikasi tradisional rata-rata hanya memanfaatkan sepertiga kapasitasnya. Dengan kemampuan komputasi AI-RAN, operator dapat memonetisasi dua pertiga kapasitas yang tersisa untuk layanan inferensi AI.
NVIDIA dan SoftBank memperkirakan operator telekomunikasi dapat menghasilkan sekitar $5 pendapatan inferensi AI untuk setiap $1 capex yang diinvestasikan dalam infrastruktur AI-RAN baru. SoftBank memperkirakan pengembalian hingga 219% untuk setiap server AI-RAN yang ditambahkan ke infrastrukturnya.
Inferensi Dunia Nyata pada AI-RAN
Dalam uji coba ini, SoftBank menggunakan NVIDIA AI Enterprise untuk membangun aplikasi inferensi dunia nyata, termasuk dukungan jarak jauh untuk kendaraan otonom, kontrol robotik, dan pengambilan data multimodal otomatis di edge. Semua beban kerja inferensi berjalan optimal pada jaringan AI-RAN milik SoftBank.
Tumpukan radio 5G SoftBank yang sepenuhnya didefinisikan perangkat lunak dioptimalkan untuk platform komputasi AI NVIDIA dan mencakup perangkat lunak L1 yang ditingkatkan oleh SoftBank berdasarkan pustaka NVIDIA Aerial™ CUDA®-accelerated RAN. SoftBank berencana memasukkan sistem NVIDIA Aerial RAN Computer-1, yang diperkirakan menggunakan daya 40% lebih sedikit dibandingkan infrastruktur jaringan 5G tradisional, ke dalam solusinya di masa depan.
Menyelaraskan Permintaan dengan Penawaran
Karena solusi AI-RAN perlu menyesuaikan komputasi secara dinamis berdasarkan permintaan dan penawaran tanpa mengorbankan kinerja kelas operator secara real-time, SoftBank berencana membangun ekosistem yang menghubungkan kebutuhan dan ketersediaan teknologi AI menggunakan serverless application programming interfaces NVIDIA AI Enterprise dan orkestrator yang dikembangkan sendiri.
“Beralih dari jaringan AI-RAN tujuan tunggal ke tujuan ganda dapat menghasilkan pendapatan 5 kali lebih besar untuk setiap dolar investasi capex,” kata Ronnie Vasishta, Wakil Presiden Senior Telekomunikasi di NVIDIA. “Uji coba lapangan SoftBank menandai langkah besar menuju komersialisasi AI-RAN dengan validasi kelayakan teknologi, kinerja, dan ekonominya.”
Share this post