Supermicro, Inc. mengumumkan portofolio baru yang dirancang untuk meningkatkan penerapan AI generatif, memperkenalkan serangkaian solusi SuperCluster. Solusi ini dirancang untuk mendukung infrastruktur model bahasa skala besar (LLM) dan menawarkan pelatihan berpendingin udara dan air serta konfigurasi rak inferensi skala cloud. Sistem ini dilengkapi dengan GPU NVIDIA Tensor Core terbaru, fitur jaringan canggih, dan perangkat lunak perusahaan NVIDIA AI, yang ditujukan untuk memenuhi kebutuhan infrastruktur perusahaan dan cloud.

Produk SuperCluster perusahaan mencakup tiga konfigurasi: sistem pendingin air 4U, sistem pendingin udara 8U, dan sistem pendingin udara 1U yang dilengkapi dengan teknologi NVIDIA MGX™. Sistem ini dirancang untuk memberikan kinerja pelatihan LLM yang unggul dan dapat menangani ukuran batch yang besar dan inferensi LLM dalam jumlah besar. Presiden dan CEO Supermicro menyoroti kemampuan perusahaan untuk menghadirkan klaster AI ini dengan cepat karena kemampuan manufaktur globalnya yang diperluas.

Solusi Supermicro memanfaatkan teknologi GPU, CPU, jaringan, dan perangkat lunak terbaru NVIDIA untuk memenuhi tuntutan beban kerja AI generasi berikutnya. Sistem GPU 4U NVIDIA HGX H100/H200 8 menggunakan pendingin cair dan dirancang untuk mendukung GPU berbasis arsitektur NVIDIA Blackwell, sehingga secara signifikan mengurangi konsumsi energi dan total biaya kepemilikan (TCO) pusat data. . Teknologi pendinginan sistem penting untuk menjaga suhu GPU dan CPU yang optimal guna memastikan kinerja puncak.

Supermicro SuperCluster dioptimalkan untuk pelatihan LLM dan inferensi volume tinggi, dengan topologi jaringan yang dapat diskalakan dan kemampuan untuk menskalakan secara mulus dari 32 node hingga ribuan node. Proses pengujian ketat yang dilakukan perusahaan memastikan efektivitas dan efisiensi operasional sistem pendingin cair yang terintegrasi penuh sebelum pengiriman. Dengan menggabungkan perangkat lunak NVIDIA AI Enterprise 5.0, cluster ini siap mendukung pelatihan LLM dengan triliunan parameter, memberikan landasan yang kuat untuk bidang AI generatif yang berkembang pesat.