WEKA mengumumkan arsitektur referensi baru di Supercomputing 2024, WEKA AI RAG Reference Platform (WARRP). Platform ini dirancang untuk membantu pengembang dan arsitek menciptakan lingkungan inferensi AI yang tangguh. Platform ini memanfaatkan Search Augmentation Generation (RAG) untuk mengambil data baru dari basis data eksternal guna memperkaya model bahasa yang besar, sehingga meningkatkan akurasi dan keandalan keluaran AI.

WARRP menyediakan cetak biru yang komprehensif dan modular untuk membangun solusi RAG berkinerja tinggi. Platform ini bersifat agnostik infrastruktur dan memungkinkan integrasi dengan berbagai layanan cloud dan perangkat keras server. Platform ini bertujuan untuk memudahkan pengembangan alur inferensi AI dan mengoptimalkan portabilitas beban kerja dan lingkungan multi-cloud. WEKA telah bekerja sama dengan NVIDIA, Run:ai, Kubernetes, dan Milvus untuk memastikan kerangka kerja yang tangguh dan dapat diskalakan.

WARRP WEKA dirancang untuk mempercepat penerapan lingkungan inferensi yang siap produksi. Solusi ini menyederhanakan proses penerapan aplikasi AI generatif dan memberikan fleksibilitas dan skalabilitas. Desain modular platform ini mendukung berbagai penyedia server dan cloud, memastikan portabilitas beban kerja yang mudah dan kinerja alur kerja AI yang stabil.

Arsitektur referensi WARRP saat ini tersedia untuk diunduh, menyediakan organisasi dengan panduan strategi untuk mengembangkan dan menerapkan sistem inferensi AI berbasis RAG. Bekerja sama dengan para pemimpin industri seperti NVIDIA dan Run:ai, solusi WEKA bertujuan untuk mengoptimalkan pemanfaatan GPU dan mendukung operasi AI di berbagai lingkungan cloud.