Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

NVIDIA luôn đi đầu trong việc cung cấp kết cấu điện toán hiệu năng cao cần thiết cho lĩnh vực AI sáng tạo đang phát triển nhanh chóng. Các giải pháp Ethernet và InfiniBand mới nhất của công ty được thiết kế để tối ưu hóa hiệu suất cho các nhà máy AI và trung tâm dữ liệu đám mây. Trọng tâm của những tiến bộ này là NVIDIA SuperNIC, một loại công cụ tăng tốc mạng mới được thiết kế riêng cho khối lượng công việc AI siêu quy mô. SuperNIC, bao gồm cả ConnectX-8 mới được giới thiệu, là chìa khóa cho nền tảng Spectrum-X Ethernet và Quantum-X800 InfiniBand của NVIDIA, mang lại khả năng mở rộng và hiệu suất để đáp ứng nhu cầu của cơ sở hạ tầng AI ngày nay.

SuperNIC của công ty tự hào có khả năng tăng tốc RoCE trong phần cứng và GPUDirect RDMA, đạt tốc độ lên tới 800 Gb/s. Những tính năng này cho phép truyền dữ liệu trực tiếp giữa các GPU, bỏ qua CPU và giảm đáng kể độ trễ. Đường dẫn giao tiếp trực tiếp này rất cần thiết để mở rộng khối lượng công việc AI trên số lượng lớn nút, tăng tính song song mà không gặp phải tắc nghẽn di chuyển dữ liệu dựa trên CPU truyền thống.

Nền tảng Spectrum-X của NVIDIA bao gồm định tuyến thích ứng RoCE để nâng cao hiệu suất của mạng AI. Công nghệ này giải quyết thách thức quản lý các luồng dữ liệu lớn (“luồng voi”) có thể gây tắc nghẽn và giảm hiệu quả mạng. Khả năng của bộ chuyển mạch Ethernet Spectrum-4 hoạt động với NVIDIA SuperNIC để đảm bảo định tuyến tối ưu và sắp xếp gói chính xác cho các luồng băng thông cao nhằm duy trì quá trình xử lý dữ liệu không bị gián đoạn cho các mô hình AI quy mô lớn.

Ngoài ra, NVIDIA đang giải quyết tình trạng tắc nghẽn trong mạng AI bằng cách sử dụng các cơ chế điều khiển tiên tiến được tích hợp với khả năng đo từ xa của bộ chuyển mạch Spectrum-4. Các cơ chế này cho phép SuperNIC điều chỉnh tốc độ truyền dữ liệu theo thời gian thực, ngăn ngừa tắc nghẽn và tối ưu hóa băng thông. SuperNIC cũng cung cấp các khả năng I/O có thể lập trình cần thiết cho các kiểu giao tiếp đa dạng của khối lượng công việc AI phức tạp. Khung phần mềm NVIDIA DOCA cho phép các chuyên gia mạng tùy chỉnh cơ sở hạ tầng của họ để hỗ trợ các nhu cầu cụ thể của ứng dụng AI và đảm bảo luồng dữ liệu hiệu quả cũng như hiệu suất tốt nhất.

Trong lĩnh vực bảo mật mạng, NVIDIA SuperNIC cung cấp giải pháp mạnh mẽ với khả năng tăng tốc mã hóa nội tuyến có thể xử lý tốc độ lên tới 800 Gb/s. Điều này đảm bảo mã hóa dữ liệu trong quá trình truyền mà không ảnh hưởng đến hiệu suất AI. SuperNIC hỗ trợ nhiều hoạt động mã hóa khác nhau như IPsec và TLS, đồng thời tận dụng kiến ​​trúc mật mã PSP có thể mở rộng cho môi trường trung tâm dữ liệu siêu quy mô.

SuperNIC của NVIDIA đặt ra tiêu chuẩn mới cho mạng AI tổng hợp, cung cấp những khả năng tuyệt vời để thúc đẩy sự đổi mới và hiệu suất trên quy mô lớn. Các trình tăng tốc mạng này là một phần không thể thiếu trong nền tảng mạng của NVIDIA, cho phép các tổ chức nhận ra toàn bộ tiềm năng của các sáng kiến ​​AI của họ.