Google Cloud telah bermitra dengan NVIDIA untuk mendukung penerapan inferensi AI-nya, mengintegrasikan kekuatan Platform AI NVIDIA dengan kenyamanan komputasi tanpa server. Tujuan dari kolaborasi ini adalah untuk menyederhanakan proses penerapan dan meningkatkan kinerja aplikasi AI di cloud.

Pengenalan GPU NVIDIA L4 Tensor Core ke layanan Cloud Run Google Cloud merupakan kemajuan besar, memungkinkan pengguna untuk menerapkan aplikasi AI secara real-time tanpa kerumitan pengelolaan infrastruktur. Cloud Run, runtime container tanpa server yang terkelola sepenuhnya, kini mendukung GPU ini untuk akselerasi AI on-demand yang skalabel.

GPU L4 Google dirancang untuk secara efisien memproses berbagai tugas AI seperti pengenalan suara dan penelusuran gambar, sehingga menghasilkan performa video AI hingga 120x lebih baik dibandingkan solusi CPU. Google Cloud adalah perusahaan pertama yang menawarkan GPU ini, yang juga kompatibel dengan layanan Google lainnya seperti Compute Engine dan Kubernetes Engine.

Untuk lebih menyederhanakan adopsi AI, NVIDIA memperkenalkan NIM, rangkaian layanan mikro cloud-native yang mengoptimalkan kinerja model AI. NIM memungkinkan Anda dengan mudah mengintegrasikan model dalam container yang telah dioptimalkan sebelumnya ke dalam aplikasi Anda, meningkatkan efisiensi sumber daya dan mengurangi waktu pengembangan. Layanan mikro ini tersedia di Google Cloud Marketplace dan dapat diterapkan di berbagai layanan Google Cloud. saus: