Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố NVIDIA NIM, một bộ vi dịch vụ suy luận được thiết kế để đơn giản hóa việc tạo các ứng dụng AI tổng quát cho các nhà phát triển trên toàn thế giới. NIM cho phép các nhà phát triển triển khai các mô hình AI dưới dạng các thùng chứa được tối ưu hóa trên nhiều nền tảng khác nhau, bao gồm đám mây, trung tâm dữ liệu và máy trạm. Sự đổi mới này giúp hợp lý hóa quá trình phát triển, giúp tạo ra các công cụ AI tiên tiến như phi công phụ và chatbot trong một khoảng thời gian ngắn so với yêu cầu trước đây.

Dịch vụ mới của công ty nhằm mục đích cải thiện năng suất bằng cách cung cấp một cách tiêu chuẩn hóa để tích hợp AI vào các ứng dụng. Hiệu quả của NIM còn được thể hiện rõ hơn bằng khả năng tăng gấp ba lần sản lượng mã thông báo AI được tạo ra so với các phương pháp truyền thống khi chạy một số mô hình nhất định, chẳng hạn như Meta Llama 3-8B, trên cơ sở hạ tầng tốc độ cao. Sự tiến bộ này cho phép các doanh nghiệp tận dụng tối đa cơ sở hạ tầng hiện có và đạt được hiệu quả cao hơn.

Công nghệ của NVIDIA đã nhận được sự ủng hộ của nhiều đối tác trong ngành, tổng cộng khoảng 200 đối tác đang kết hợp NIM vào nền tảng của họ để đẩy nhanh việc áp dụng Generative AI cho các ứng dụng chuyên biệt. Tôi là. Các ứng dụng này bao gồm từ đồng nghiệp AI và trợ lý mã cho đến hình đại diện kỹ thuật số của con người. Ngoài ra, nền tảng AI ôm khuôn mặt tích hợp NIM từ mô hình Meta Llama 3, giúp các nhà phát triển dễ dàng tiếp cận.

Giám đốc điều hành NVIDIA Jensen Huang nhấn mạnh tầm quan trọng của việc cung cấp AI tổng quát cho tất cả các công ty, bất kể chuyên môn AI nội bộ của họ như thế nào. NVIDIA đặt mục tiêu giúp các tổ chức khai thác tiềm năng của AI tổng hợp bằng cách kết hợp NIM vào nhiều nền tảng khác nhau và làm cho nó được phổ biến rộng rãi. Nền tảng phần mềm NVIDIA AI Enterprise hỗ trợ triển khai sản xuất các ứng dụng AI sử dụng NIM và bắt đầu từ tháng tới, NIM sẽ được cung cấp miễn phí cho các thành viên Chương trình Nhà phát triển NVIDIA cho mục đích nghiên cứu và phát triển. nước xốt: