NVIDIA mengumumkan NVIDIA Cloud Native Stack (CNS), arsitektur referensi sumber terbuka yang dirancang untuk meningkatkan proses pengembangan aplikasi AI. Arsitektur ini memungkinkan pengembang untuk menjalankan dan menguji aplikasi dengan akselerasi GPU dalam lingkungan orkestrasi Kubernetes. CNS mendukung fitur-fitur canggih seperti GPU multi-instance (MIG) dan GPUDirect RDMA, sehingga memudahkan pengembangan dan pengujian perangkat lunak AI dan kemudian menerapkannya ke platform Kubernetes perusahaan.

Arsitektur CNS terdiri dari serangkaian komponen perangkat lunak yang dikontrol versi, termasuk Kubernetes, Helm, Containerd, serta GPU dan operator jaringan milik NVIDIA. Komponen-komponen ini bekerja sama untuk menyederhanakan pengoperasian beban kerja AI pada infrastruktur cloud-native. Secara khusus, operator GPU NVIDIA menyederhanakan penerapan aplikasi AI dan menyediakan akses ke fitur-fitur NVIDIA terbaru dan kemampuan pemantauan. CNS juga menawarkan alat tambahan opsional untuk fitur-fitur canggih seperti microK8 dan layanan pemantauan.

Dengan menggabungkan KServe ke dalam CNS, NVIDIA mempermudah organisasi untuk mengevaluasi dan menerapkan model AI. KServe memanfaatkan Kubernetes untuk menghadirkan model pembelajaran mesin secara efisien, memastikan penerapan alur kerja AI dapat diskalakan dan mudah dikelola. Ketika digabungkan dengan NVIDIA NIM, integrasi ini menyediakan platform yang kuat untuk pengembangan aplikasi AI dan memungkinkan integrasi yang lancar dengan layanan mikro lainnya.

CNS NVIDIA diposisikan sebagai alat penting bagi pengembang yang ingin menyederhanakan kompleksitas pengelolaan beban kerja AI dan ilmu data. Ini memberikan fleksibilitas untuk beroperasi di berbagai lingkungan, termasuk bare metal, cloud, dan VM. Dengan menyediakan rangkaian perangkat lunak yang teruji dan kompatibel, CNS memastikan transisi yang lancar dari pengembangan ke produksi dan mendukung organisasi dalam mengejar inovasi AI.