Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã cộng tác với Google Cloud để tích hợp NVIDIA NIM và Google Kubernetes Engine (GKE) để tăng cường khả năng suy luận của AI. Sự hợp tác này nhằm mục đích đơn giản hóa việc triển khai và quản lý khối lượng công việc suy luận AI, đồng thời cung cấp các giải pháp hiệu suất cao, có thể mở rộng và có thể truy cập thông qua Google Cloud Marketplace.

Sức mạnh tổng hợp giữa NVIDIA NIM và GKE được thiết kế để đơn giản hóa quá trình thiết lập các ứng dụng AI, với khả năng triển khai chỉ bằng một cú nhấp chuột giúp giảm thời gian và độ phức tạp liên quan. Nền tảng này hỗ trợ nhiều mô hình AI khác nhau, bao gồm nguồn mở, mô hình nền tảng NVIDIA và mô hình tùy chỉnh, giúp nó linh hoạt đáp ứng nhu cầu của các doanh nghiệp khác nhau. Sự tích hợp này cho phép các tổ chức tận dụng các phiên bản GPU nâng cao của NVIDIA trên Google Cloud để tăng tốc sức mạnh tính toán và giải quyết nhiều yêu cầu khối lượng công việc khác nhau.

Các giải pháp của NVIDIA tập trung vào hiệu suất và hiệu suất, tận dụng các công nghệ như NVIDIA Triton Inference Server và TensorRT để xử lý dữ liệu nhanh chóng. Nền tảng này tương thích với các API tiêu chuẩn và yêu cầu mã hóa tối thiểu, giúp dễ dàng tích hợp với các ứng dụng AI hiện có và giảm thiểu nhu cầu thay đổi lớn. Ngoài ra, nền tảng này còn có tính năng bảo mật và khả năng mở rộng cấp doanh nghiệp để đảm bảo khối lượng công việc suy luận AI của bạn vẫn mạnh mẽ và đáng tin cậy ngay cả khi nhu cầu biến động.

Để bắt đầu với NVIDIA NIM trên GKE, người dùng có thể bắt đầu quá trình triển khai từ bảng điều khiển Google Cloud, định cấu hình nền tảng cho nhu cầu suy luận AI cụ thể của mình và dễ dàng triển khai. Sự sẵn có của NVIDIA NIM trên Google Cloud Marketplace giúp đơn giản hóa việc mua sắm và cho phép các tổ chức nhanh chóng áp dụng và triển khai nền tảng này để tăng cường khả năng AI và thúc đẩy đổi mới.