NVIDIA berkolaborasi dengan Google Cloud untuk mengintegrasikan NVIDIA NIM dan Google Kubernetes Engine (GKE) untuk mendukung kemampuan inferensi AI. Kolaborasi ini bertujuan untuk menyederhanakan penerapan dan pengelolaan beban kerja inferensi AI serta menyediakan solusi terukur dan berkinerja tinggi yang dapat diakses melalui Google Cloud Marketplace.

Sinergi antara NVIDIA NIM dan GKE dirancang untuk menyederhanakan proses penyiapan aplikasi AI, dengan kemampuan penerapan sekali klik yang mengurangi waktu dan kompleksitas terkait. Platform ini mendukung berbagai model AI, termasuk open source, model dasar NVIDIA, dan model kustom, sehingga fleksibel untuk memenuhi kebutuhan berbagai perusahaan. Integrasi ini memungkinkan organisasi memanfaatkan instance GPU canggih NVIDIA di Google Cloud untuk mempercepat daya komputasi dan memenuhi berbagai kebutuhan beban kerja.

Solusi NVIDIA fokus pada efisiensi dan performa, memanfaatkan teknologi seperti NVIDIA Triton Inference Server dan TensorRT untuk memproses data dengan cepat. Platform ini kompatibel dengan API standar dan memerlukan pengkodean minimal, sehingga mudah diintegrasikan dengan aplikasi AI yang ada dan meminimalkan kebutuhan akan perubahan besar. Selain itu, platform ini menghadirkan keamanan dan skalabilitas tingkat perusahaan untuk memastikan beban kerja inferensi AI Anda tetap kuat dan andal bahkan ketika permintaan berfluktuasi.

Untuk memulai NVIDIA NIM di GKE, pengguna dapat memulai proses penerapan dari konsol Google Cloud, mengonfigurasi platform untuk kebutuhan inferensi AI spesifik mereka, dan menerapkannya dengan mudah. Ketersediaan NVIDIA NIM di Google Cloud Marketplace menyederhanakan pengadaan dan memungkinkan organisasi dengan cepat mengadopsi dan mengimplementasikan platform untuk mendukung kemampuan AI dan mendorong inovasi.