Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố các cải tiến cho AI Enterprise Suite và giới thiệu các tính năng mới giúp tăng cường tính bảo mật và ổn định của các tác nhân AI. Được thiết kế để tự động điều hướng các nhiệm vụ và tích hợp dữ liệu cho kết quả kinh doanh, các tác nhân này giờ đây dễ dàng triển khai hơn nhờ Bộ điều hành NVIDIA NIM. Công cụ này hợp lý hóa việc quản lý quy trình AI trên Kubernetes, cung cấp các tính năng như bộ nhớ đệm trước mô hình thông minh và các tùy chọn tự động điều chỉnh quy mô linh hoạt dựa trên nhiều số liệu khác nhau.

Công ty cũng giải quyết nhu cầu về tính ổn định và bảo mật API nhất quán trong môi trường doanh nghiệp. NVIDIA AI Enterprise hiện bao gồm một nhánh sản phẩm phần mềm AI được cập nhật 6 tháng một lần và được hỗ trợ trong 9 tháng, đảm bảo các bản vá bảo mật thường xuyên mà không ảnh hưởng đến tính nhất quán của API. Áp dụng cho Điều này đặc biệt có lợi cho các nhà phát triển cần giải pháp doanh nghiệp lâu dài, đáng tin cậy và an toàn.

Ngoài ra, NVIDIA đã mở rộng các tùy chọn triển khai cho các vi dịch vụ NIM sẽ tham gia vào nhánh sản xuất. Điều này bao gồm mô hình Llama 3.1 của Meta, mô hình của Mistral AI và các mô hình Nemotron và NeMo Retriever QA của NVIDIA. Các dịch vụ này cho phép các nhà phát triển xây dựng các tác nhân AI được NVIDIA đảm bảo hỗ trợ và duy trì trong suốt vòng đời của nhánh sản xuất.

Cuối cùng, NVIDIA AI Enterprise hiện đã được tích hợp với Kubernetes Engine của Google Cloud, cung cấp lộ trình triển khai đơn giản hóa cho khách hàng doanh nghiệp. Phiên bản mới nhất của NVIDIA AI Enterprise hiện đã có sẵn và microservice NIM dự kiến ​​sẽ được đưa vào chi nhánh sản xuất vào cuối tháng 11. Khách hàng cũng được hưởng lợi từ Hỗ trợ doanh nghiệp, hứa hẹn giải quyết vấn đề kịp thời và tiếp cận với các chuyên gia NVIDIA.