NVIDIA mengumumkan kemajuan terbarunya dalam teknologi AI dengan diperkenalkannya dua keluarga model baru, Phi-3 dan Granite Code. Penambahan ini merupakan bagian dari upaya berkelanjutan perusahaan untuk meningkatkan kemampuan model berbasis AI di berbagai aplikasi.

Seri Phi-3, yang dikembangkan oleh Microsoft, mencakup berbagai model bahasa kecil (SLM) yang memprioritaskan kinerja dan efisiensi komputasi. Model ini cocok untuk tugas-tugas seperti pembuatan konten, peringkasan, dan analisis sentimen. Katalog API NVIDIA saat ini menampilkan beberapa model Phi-3, termasuk model visi menengah, kecil, mini, dan khusus yang dapat menafsirkan data teks dan visual.

Selain model bahasa, rilis NVIDIA menyoroti model Kode Granit IBM. Model ini disesuaikan untuk bantuan pemrograman dan dapat menghasilkan kode, men-debug, dan menjelaskan segmen kode. Dengan pelatihan dalam 116 bahasa pemrograman, model Granite Code dapat meningkatkan efisiensi pengkodean dan cocok untuk penerapan di perusahaan.

NVIDIA juga berfokus pada pengoptimalan model ini menggunakan NVIDIA TensorRT-LLM untuk meningkatkan latensi dan throughput. Layanan mikro NVIDIA NIM milik perusahaan memudahkan penerapan model AI ini, sehingga memungkinkan lebih banyak pengembang untuk mengintegrasikan AI ke dalam aplikasi mereka. NVIDIA terus bekerja sama dengan para pemimpin industri untuk mendukung berbagai model dengan stack yang dipercepat sepenuhnya, termasuk Llama3-70B, Llama3-8B, Gemma 2B, dan Mixtral 8X22B. saus: