Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố NVIDIA Cloud Native Stack (CNS), một kiến ​​trúc tham chiếu nguồn mở được thiết kế để nâng cao quá trình phát triển cho các ứng dụng AI. Kiến trúc này cho phép các nhà phát triển chạy và thử nghiệm các ứng dụng tăng tốc GPU trong môi trường điều phối Kubernetes. CNS hỗ trợ các tính năng nâng cao như GPU đa phiên bản (MIG) và GPUDirect RDMA, giúp phát triển và thử nghiệm phần mềm AI dễ dàng hơn, sau đó triển khai phần mềm này lên nền tảng Kubernetes dành cho doanh nghiệp.

Kiến trúc CNS bao gồm một bộ các thành phần phần mềm được kiểm soát theo phiên bản, bao gồm Kubernetes, Helm, Containerd và các nhà khai thác mạng và GPU độc quyền của NVIDIA. Các thành phần này phối hợp với nhau để hợp lý hóa hoạt động của khối lượng công việc AI trên cơ sở hạ tầng gốc đám mây. Đặc biệt, các nhà khai thác GPU NVIDIA đơn giản hóa việc triển khai các ứng dụng AI và cung cấp quyền truy cập vào các tính năng và khả năng giám sát mới nhất của NVIDIA. CNS cũng cung cấp các công cụ bổ sung tùy chọn cho các tính năng nâng cao như microK8 và dịch vụ giám sát.

Bằng cách kết hợp KServe vào CNS, NVIDIA đã giúp các tổ chức đánh giá và triển khai các mô hình AI dễ dàng hơn. KServe tận dụng Kubernetes để cung cấp các mô hình học máy một cách hiệu quả, đảm bảo rằng việc triển khai quy trình làm việc AI có thể mở rộng và dễ quản lý. Khi kết hợp với NVIDIA NIM, việc tích hợp sẽ cung cấp nền tảng mạnh mẽ để phát triển ứng dụng AI và cho phép tích hợp liền mạch với các dịch vụ vi mô khác.

CNS của NVIDIA được định vị là một công cụ quan trọng dành cho các nhà phát triển đang tìm cách đơn giản hóa sự phức tạp của việc quản lý khối lượng công việc khoa học dữ liệu và AI. Nó cung cấp sự linh hoạt để hoạt động trong nhiều môi trường khác nhau, bao gồm kim loại trần, đám mây và máy ảo. Bằng cách cung cấp các gói phần mềm tương thích và đã được thử nghiệm, CNS đảm bảo quá trình chuyển đổi suôn sẻ từ giai đoạn phát triển sang sản xuất và hỗ trợ các tổ chức theo đuổi đổi mới AI.