Model AI generatif semakin menjadi kebutuhan pokok dalam industri teknologi, melayani berbagai aplikasi mulai dari bantuan pengkodean hingga produksi video. Seiring berkembangnya model ini, model ini memerlukan sumber daya komputasi dalam jumlah besar, dan orkestrasi yang efisien memerlukan penggunaan prosesor berkinerja tinggi dan perangkat lunak canggih. Sebuah perusahaan teknologi terkemuka baru-baru ini mengungkapkan bahwa model bahasa canggihnya dilatih pada sekelompok 24.576 GPU kelas atas, yang menunjukkan besarnya daya komputasi yang diperlukan untuk tugas semacam itu.

Model bahasa skala besar (LLM) pra-pelatihan hanyalah permulaan. Setelah dilatih sebelumnya, model ini dapat disempurnakan menggunakan berbagai teknik untuk meningkatkan akurasinya untuk aplikasi tertentu. Proses penyesuaian ini dengan cepat menjadi penting karena perusahaan mengintegrasikan LLM ke dalam berbagai aplikasi. Industri teknologi melihat adopsi model-model ini dengan cepat, dan penyesuaian menjadi beban kerja yang sangat penting.

Membandingkan kinerja pelatihan AI sangatlah penting, dan pelatihan MLPerf telah menjadikan dirinya sebagai standar industri. Tolok ukur pelatihan MLPerf yang dikembangkan oleh konsorsium diperbarui secara berkala untuk mencerminkan kasus penggunaan AI terbaru dan menjalani proses tinjauan sejawat yang ketat untuk memastikan validitas hasilnya. Dalam pelatihan MLPerf v4.0 terbaru, raksasa teknologi ini memanfaatkan seluruh perangkat lunak dan perangkat keras miliknya, termasuk GPU terbaru, interkoneksi, jaringan, serta serangkaian perpustakaan dan kerangka kerja yang dioptimalkan. , mencetak rekor baru untuk performa pelatihan AI generatif di semua beban kerja.

Rangkaian Pelatihan MLPerf v4.0 diperluas untuk mencakup pengujian baru yang mencerminkan permintaan industri saat ini, seperti menyempurnakan LLM dengan adaptasi tingkat rendah dan melatih jaringan saraf grafik untuk aplikasi seperti penemuan obat dan deteksi penipuan. Tolok ukur ini dirancang untuk mengevaluasi berbagai kasus penggunaan AI, memastikan bahwa tolok ukur tersebut berkembang sejalan dengan kemajuan pesat dalam teknologi AI. Sebuah perusahaan teknologi menunjukkan kinerja yang sangat baik pada tolok ukur ini, mencetak rekor kinerja baru dan menunjukkan skalabilitas dan efisiensi platformnya. Dengan produk terbarunya, perusahaan mendemokratisasi akses ke model AI dengan triliunan parameter. saus: