NVIDIA mengumumkan NVIDIA NIM, serangkaian layanan mikro inferensi yang dirancang untuk menyederhanakan pembuatan aplikasi AI generatif untuk pengembang di seluruh dunia. NIM memungkinkan pengembang untuk menerapkan model AI sebagai wadah yang dioptimalkan di berbagai platform, termasuk cloud, pusat data, dan stasiun kerja. Inovasi ini menyederhanakan proses pengembangan, sehingga memungkinkan terciptanya alat AI canggih seperti co-pilot dan chatbots dalam waktu yang lebih singkat dari yang dibutuhkan sebelumnya.

Layanan baru perusahaan ini bertujuan untuk meningkatkan produktivitas dengan menyediakan cara standar untuk mengintegrasikan AI generatif ke dalam aplikasi. Efisiensi NIM lebih jauh ditunjukkan oleh kemampuannya melipatgandakan output token AI yang dihasilkan dibandingkan metode tradisional ketika menjalankan model tertentu, seperti Meta Llama 3-8B, pada infrastruktur berkecepatan tinggi. Kemajuan ini memungkinkan dunia usaha untuk memaksimalkan infrastruktur yang ada dan mencapai efisiensi yang lebih besar.

Teknologi NVIDIA telah mendapatkan dukungan dari berbagai mitra industri, sekitar 200 mitra industri, yang menggabungkan NIM ke dalam platform mereka untuk mempercepat penerapan AI generatif untuk aplikasi khusus. Saya. Aplikasi ini berkisar dari kopilot AI dan asisten kode hingga avatar manusia digital. Selain itu, platform Hugging Face AI mengintegrasikan NIM dari model Meta Llama 3, sehingga mudah diakses oleh pengembang.

CEO NVIDIA Jensen Huang menekankan pentingnya menyediakan AI generatif bagi semua perusahaan, terlepas dari keahlian AI internal mereka. NVIDIA bertujuan membantu organisasi memanfaatkan potensi AI generatif dengan menggabungkan NIM ke dalam berbagai platform dan membuatnya tersedia secara luas. Platform perangkat lunak NVIDIA AI Enterprise mendukung penerapan produksi aplikasi AI menggunakan NIM, dan mulai bulan depan, NIM akan tersedia gratis bagi anggota Program Pengembang NVIDIA untuk tujuan penelitian dan pengembangan. saus: