Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA đã công bố Spectrum-X, một kết cấu Ethernet hiệu suất cao được tùy chỉnh để hỗ trợ khối lượng công việc AI. Sự đổi mới này đáp ứng nhu cầu ngày càng tăng về cơ sở hạ tầng có thể hỗ trợ các yêu cầu riêng biệt của ứng dụng AI. NVIDIA đặt mục tiêu tái cấu trúc Ethernet truyền thống để đáp ứng những thách thức về thông lượng dữ liệu ngày càng tăng và độ trễ không giới hạn cần thiết cho khối lượng công việc AI.

Spectrum-X nổi bật nhờ tích hợp các điểm cuối NVIDIA BlueField-3 SuperNIC với các bộ chuyển mạch NVIDIA Spectrum-4 để tối ưu hóa giao tiếp giữa GPU với GPU trong trung tâm dữ liệu. Kiến trúc này tập trung vào kiểm soát tắc nghẽn dựa trên đo từ xa, kết nối mạng không mất dữ liệu và cân bằng tải động. Các tính năng này đảm bảo cách ly hiệu suất cho khối lượng công việc AI đa dạng và giảm thiểu tình trạng mất gói cũng như độ trễ đuôi.

Sự ra mắt của Spectrum-X được đánh dấu bằng việc triển khai nó trên siêu máy tính Israel-1 vào tháng 6 năm 2023, cho thấy hiệu suất mạng được cải thiện gấp 1,6 lần đối với các tác vụ AI quy mô lớn. NVIDIA liên tục tối ưu hóa Spectrum-X với mục tiêu đạt được thời gian thực thi ngắn nhất ở nhiều quy mô khác nhau. Phản ứng của hệ sinh thái rất tích cực khi các OEM và nhà cung cấp giải pháp nhanh chóng tích hợp Spectrum-X vào các dịch vụ trung tâm dữ liệu của họ.

Những người áp dụng sớm Spectrum-X bao gồm các nhà cung cấp dịch vụ đám mây hàng đầu dựa vào khả năng tối ưu hóa khối lượng công việc AI của nền tảng và cải thiện hiệu suất của trung tâm dữ liệu. Sự hợp tác giữa NVIDIA và các đối tác như Dell và HPE thể hiện sự tích hợp của Spectrum-X vào các giải pháp cơ sở hạ tầng AI tiên tiến. NVIDIA cũng hỗ trợ tăng tốc áp dụng điện toán thông qua các kiến ​​trúc tham chiếu và Dịch vụ cơ sở hạ tầng NVIDIA nhằm đẩy nhanh quá trình triển khai nhanh chóng các khả năng AI.