Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã đưa ra thông báo quan trọng tại hội nghị Supercomputing 2024, tiết lộ một thành viên mới của gia đình Hopper: GPU NVIDIA H200 NVL PCIe. Đổi mới mới nhất này được thiết kế riêng cho các trung tâm dữ liệu ưu tiên các giải pháp làm mát bằng không khí, công suất thấp và yêu cầu cấu hình linh hoạt để xử lý nhiều khối lượng công việc AI và HPC. Được thiết kế để phù hợp hoàn toàn với các giá đỡ doanh nghiệp hiện có, H200 NVL cung cấp giải pháp có thể mở rộng có thể chứa từ một đến tám GPU tùy thuộc vào nhu cầu tính toán của bạn.

Công ty nhấn mạnh rằng GPU H200 NVL không chỉ có khả năng tăng tốc các ứng dụng AI và HPC mà còn tiết kiệm năng lượng hơn nhờ giảm mức tiêu thụ điện năng. Với những cải tiến như bộ nhớ gấp 1,5 lần và băng thông gấp 1,2 lần so với thế hệ trước là H100 NVL, H200 NVL tăng tốc đáng kể các tác vụ như tinh chỉnh các mô hình ngôn ngữ lớn và cải thiện hiệu suất suy luận. Đối với khối lượng công việc HPC, GPU mới mang lại hiệu suất tốt hơn cả H100 NVL và kiến ​​trúc NVIDIA Ampere thế hệ trước.

H200 NVL của NVIDIA cũng được hưởng lợi từ việc tích hợp công nghệ NVLink mới nhất, cho phép giao tiếp GPU-to-GPU nhanh hơn 7 lần so với thế hệ PCIe trước. Cải tiến này rất quan trọng đối với các ứng dụng đòi hỏi cao trong HPC và AI, chẳng hạn như suy luận và tinh chỉnh các mô hình ngôn ngữ lớn. Ngoài ra, H200 NVL đi kèm với đăng ký năm năm cho NVIDIA AI Enterprise, một nền tảng phần mềm toàn diện hỗ trợ phát triển và triển khai các ứng dụng AI, bao gồm suy luận mô hình AI an toàn, đáng tin cậy, hiệu suất cao với các dịch vụ vi mô NVIDIA NIM.

Tác động của H200 NVL đã được cảm nhận trên khắp các ngành công nghiệp, với các doanh nghiệp tận dụng khả năng của nó cho nhiều ứng dụng khác nhau, từ các tác nhân AI dịch vụ khách hàng đến hình ảnh y tế. Ví dụ, Dropbox đang xem xét H200 NVL để cung cấp năng lượng cho các dịch vụ quản lý nội dung của mình và Đại học New Mexico có kế hoạch sử dụng GPU để đẩy nhanh nhiều sáng kiến ​​nghiên cứu. H200 NVL sẽ có sẵn trong nhiều cấu hình khác nhau từ các công ty công nghệ hàng đầu và NVIDIA cũng đang phát triển một kiến ​​trúc tham chiếu doanh nghiệp để giúp các đối tác và khách hàng xây dựng cơ sở hạ tầng AI hiệu suất cao bằng cách sử dụng H200 NVL. Công nghệ mới sẽ được giới thiệu tại SC24 và được khám phá thêm trong một bài nói chuyện đặc biệt của NVIDIA.