NVIDIA berada di garis depan dalam mendukung struktur komputasi berkinerja tinggi yang penting bagi bidang AI generatif yang berkembang pesat. Solusi Ethernet dan InfiniBand terbaru dari perusahaan ini dirancang untuk mengoptimalkan kinerja pabrik AI dan pusat data cloud. Inti dari kemajuan ini adalah NVIDIA SuperNIC, akselerator jaringan jenis baru yang dirancang untuk beban kerja AI skala besar. SuperNIC, termasuk ConnectX-8 yang baru diperkenalkan, adalah kunci bagi platform Spectrum-X Ethernet dan Quantum-X800 InfiniBand NVIDIA, memberikan skalabilitas dan kinerja untuk memenuhi tuntutan infrastruktur AI saat ini.

SuperNIC perusahaan ini menawarkan akselerasi RoCE dalam perangkat keras dan GPUDirect RDMA, yang mencapai kecepatan hingga 800 Gb/s. Fitur-fitur ini memungkinkan transfer data langsung antar GPU, melewati CPU dan mengurangi latensi secara signifikan. Jalur komunikasi langsung ini penting untuk menskalakan beban kerja AI di sejumlah besar node, meningkatkan paralelisme tanpa hambatan pergerakan data tradisional berbasis CPU.

Platform Spectrum-X NVIDIA menyertakan perutean adaptif RoCE untuk meningkatkan kinerja jaringan AI. Teknologi ini menjawab tantangan pengelolaan aliran data berukuran besar (“aliran gajah”) yang dapat menyebabkan kemacetan dan mengurangi efisiensi jaringan. Kemampuan switch Ethernet Spectrum-4 bekerja dengan NVIDIA SuperNIC untuk memastikan perutean optimal dan pengurutan paket yang benar untuk aliran bandwidth tinggi guna menjaga pemrosesan data tanpa gangguan untuk model AI skala besar.

Selain itu, NVIDIA mengatasi kemacetan di jaringan AI menggunakan mekanisme kontrol canggih yang terintegrasi dengan kemampuan telemetri switch Spectrum-4. Mekanisme ini memungkinkan SuperNIC menyesuaikan kecepatan transfer data secara real time, mencegah kemacetan, dan mengoptimalkan bandwidth. SuperNIC juga menyediakan kemampuan I/O yang dapat diprogram dan penting untuk beragam pola komunikasi beban kerja AI yang kompleks. Kerangka kerja perangkat lunak NVIDIA DOCA memungkinkan para profesional jaringan untuk menyesuaikan infrastruktur mereka untuk mendukung kebutuhan spesifik aplikasi AI dan memastikan aliran data yang efisien dan kinerja terbaik.

Di bidang keamanan jaringan, NVIDIA SuperNIC memberikan solusi tangguh dengan akselerasi kriptografi inline yang mampu menangani kecepatan hingga 800 Gb/s. Hal ini memastikan enkripsi data saat transit tanpa mengorbankan kinerja AI. SuperNIC mendukung berbagai operasi kriptografi seperti IPsec dan TLS dan memanfaatkan arsitektur kriptografi PSP yang dapat diskalakan untuk lingkungan pusat data skala besar.

SuperNIC NVIDIA menetapkan standar baru untuk jaringan AI generatif, memberikan kemampuan tak tertandingi untuk mendorong inovasi dan kinerja dalam skala besar. Akselerator jaringan ini merupakan bagian integral dari platform jaringan NVIDIA, memungkinkan organisasi mewujudkan potensi penuh dari inisiatif AI mereka.