Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Arista Networks đã công bố bản demo công nghệ thể hiện sự tích hợp trung tâm dữ liệu AI. Nó nhằm mục đích tích hợp các miền điện toán và mạng vào một thực thể quản lý AI. Sự hợp tác này với NVIDIA sẽ nâng cao cấu hình, quản lý và giám sát các cụm AI, bao gồm mạng, NIC và máy chủ. Nỗ lực này là một bước quan trọng hướng tới một hệ sinh thái đa nhà cung cấp tạo điều kiện thuận lợi cho việc đồng bộ hóa mạng AI và cơ sở hạ tầng máy tính.

Khi các cụm AI và mô hình ngôn ngữ quy mô lớn ngày càng phức tạp, chúng đòi hỏi một hệ thống điều khiển hài hòa cho nhiều thành phần khác nhau như GPU, NIC, bộ chuyển mạch và cáp. Arista Networks giải quyết nhu cầu này bằng cách cung cấp các điều khiển thống nhất để đảm bảo hoạt động liền mạch giữa máy chủ AI và thiết bị chuyển mạch mạng. Sự tích hợp này là cần thiết để hoàn thành thành công các nhiệm vụ AI. Trước thách thức trong việc chẩn đoán sự cố mạng, cấu hình không chính xác có thể dẫn đến độ trễ đáng kể. Giải pháp này cũng bao gồm quản lý tắc nghẽn được điều chỉnh để ngăn ngừa mất gói và tối đa hóa việc sử dụng GPU.

Trọng tâm của giải pháp là triển khai tác nhân AI dựa trên Arista EOS được thiết kế để hỗ trợ giao tiếp giữa mạng và máy chủ cũng như tối ưu hóa các cụm AI. Với các tác nhân AI được lưu trữ trên SuperNIC NVIDIA BlueField-3 hoặc chạy trên máy chủ, EOS trên các thiết bị chuyển mạch mạng có thể mở rộng quyền kiểm soát tới các NIC và máy chủ được gắn trực tiếp. Điều này cung cấp một điểm thống nhất để quản lý và tối ưu hóa các cụm AI, đảm bảo tính nhất quán về cấu hình mạng và chất lượng dịch vụ trên các trung tâm dữ liệu AI.

Buổi trình diễn công nghệ nêu bật tiềm năng giao tiếp và tối ưu hóa AI từ đầu đến cuối trong các trung tâm dữ liệu AI. Bằng cách tận dụng tác nhân AI từ xa dựa trên EOS của Arista, các bộ chuyển mạch mạng có thể tiếp cận các máy chủ hoặc SuperNIC, cho phép giám sát thời gian thực và giải quyết nhanh chóng các vấn đề về hiệu suất. Việc tích hợp này sẽ đảm bảo cách tiếp cận phối hợp để tối ưu hóa chất lượng dịch vụ trên các trung tâm dữ liệu AI, cuối cùng là giảm thời gian hoàn thành công việc và cải thiện hiệu suất tổng thể.