NVIDIA mengumumkan peluncuran empat layanan mikro NIM baru untuk membantu pengembang membuat dan menerapkan aplikasi AI yang disesuaikan dengan preferensi lokal. Layanan ini menggabungkan model komunitas populer untuk meningkatkan pengalaman pengguna dengan memberikan respons yang akurat dalam konteks bahasa dan budaya lokal. Pasar Asia-Pasifik diperkirakan akan mengalami peningkatan signifikan dalam pendapatan perangkat lunak AI generatif, yang diperkirakan akan tumbuh dari $5 miliar menjadi $48 miliar pada tahun 2030.

Model bahasa baru mencakup Llama-3-Swallow-70B dan Llama-3-Taiwan-70B, yang masing-masing dilatih berdasarkan data Jepang dan Tiongkok. Model-model ini dirancang untuk menangkap nuansa lokal seperti hukum dan adat istiadat setempat secara lebih efektif dibandingkan model bahasa skala besar (LLM) standar. Selain itu, model RakutenAI 7B, tersedia dalam versi Chat dan Instruct, telah menunjukkan kinerja unggul pada tolok ukur tugas bahasa Jepang.

Ketika negara-negara berinvestasi pada AI mereka sendiri, layanan mikro NIM NVIDIA menyediakan platform untuk meng-host LLM asli dalam lingkungan lokal. Hal ini memungkinkan pengembangan alat AI canggih seperti co-pilot, chatbots, dan asisten. Layanan mikro yang dioptimalkan untuk NVIDIA AI Enterprise menghadirkan throughput hingga 5x lebih banyak dan latensi lebih rendah untuk mengurangi biaya operasional dan meningkatkan latensi pengguna.

Layanan mikro NIM NVIDIA tidak hanya mempercepat penerapan, namun juga meningkatkan kinerja dan keamanan untuk industri di seluruh dunia. Misalnya, Institut Teknologi Tokyo sedang menyempurnakan model untuk aplikasi berbahasa Jepang, dan sebuah rumah sakit terkemuka di Taiwan sedang mengembangkan layanan inferensi AI untuk meningkatkan komunikasi medis. NVIDIA AI Foundry selanjutnya mendukung pengembang dengan menyediakan solusi full-stack untuk menciptakan layanan mikro NIM yang disesuaikan, memastikan bahwa aplikasi AI memberikan hasil yang sesuai secara budaya dan bahasa. masu.