Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Supermicro thông báo ra mắt trung tâm dữ liệu AI làm mát bằng chất lỏng mới được thiết kế để hỗ trợ doanh nghiệp áp dụng AI tổng quát bằng cách tận dụng SuperClusters, được tối ưu hóa cho nền tảng phần mềm AI Enterprise của NVIDIA. . Hệ thống làm mát bằng chất lỏng 4U của công ty được trang bị GPU Blackwell mới nhất của NVIDIA, có khả năng mang lại hiệu suất AI 20 PetaFLOPS cho mỗi GPU. Những tiến bộ này được cho là sẽ cải thiện việc đào tạo AI lên gấp 4 lần, hiệu suất suy luận lên 30 lần và giảm chi phí so với thế hệ trước.

Giám đốc điều hành Supermicro Charles Liang nhấn mạnh vai trò dẫn đầu của công ty trong các giải pháp AI với công nghệ làm mát bằng chất lỏng quy mô lớn. Ông nhấn mạnh rằng các trung tâm dữ liệu làm mát bằng chất lỏng có thể giảm đáng kể mức sử dụng điện năng, mang lại lợi ích liên tục về chi phí cho khách hàng. Được tối ưu hóa cho phần mềm NVIDIA AI Enterprise, các giải pháp của Supermicro nhằm mục đích đẩy nhanh thời gian giao hàng cho các cụm chìa khóa trao tay như NVIDIA HGX H100 và H200 cũng như các giải pháp B100, B200 và GB200 sắp ra mắt. Giải pháp làm mát bằng chất lỏng tổng thể của công ty có khả năng giảm mức sử dụng điện năng trong các trung tâm dữ liệu lên tới 40%.

Tại COMPUTEX 2024, Supermicro đã công bố các hệ thống sắp ra mắt được tối ưu hóa cho GPU Blackwell của NVIDIA. Điều này bao gồm các hệ thống dựa trên NVIDIA HGX B200 làm mát bằng không khí 10U và làm mát bằng chất lỏng 4U, hệ thống NVIDIA HGX B100 làm mát bằng không khí 8U và các giá chứa 72 GPU được kết nối với bộ chuyển mạch NVIDIA NVLink. Giám đốc điều hành NVIDIA Jensen Huang khen ngợi Supermicro vì đã thiết kế các giải pháp mạng và điện toán tốc độ cao của NVIDIA nhằm tối ưu hóa trung tâm dữ liệu cho kỷ nguyên AI.

SuperCluster AI dựa trên đám mây của Supermicro được thiết kế để thu hẹp khoảng cách giữa sự thuận tiện của việc truy cập đám mây và nhu cầu về dữ liệu được kiểm soát, an toàn. Điều này cho phép các công ty chuyển các dự án AI từ thí điểm sang sản xuất ở mọi quy mô. Các dịch vụ vi mô NIM của NVIDIA, một phần của bộ AI Enterprise, tạo điều kiện thuận lợi cho việc triển khai AI tổng hợp trên nhiều mô hình khác nhau. Ngoài ra, nền tảng NeMo của NVIDIA hỗ trợ phát triển các mô hình tùy chỉnh. SuperClusters của Supermicro, được hỗ trợ bởi NVIDIA AI Enterprise, cung cấp các đơn vị tính toán có thể mở rộng ở cả cấu hình làm mát bằng chất lỏng và làm mát bằng không khí, đồng thời được tối ưu hóa cho đào tạo mô hình ngôn ngữ quy mô lớn, học sâu và suy luận khối lượng lớn. .