Perusahaan manajemen risiko AI terkemuka mengumumkan kemitraan dengan MongoDB untuk memperkuat keamanan model AI generatif yang didukung oleh data perusahaan. Produk baru ini mengintegrasikan firewall AI real-time milik perusahaan dan MongoDB Atlas Vector Search untuk memberikan solusi siap pakai bagi perusahaan yang mendorong inovasi yang bertanggung jawab. Kemajuan terkini dalam AI generatif telah mendorong perusahaan untuk mengeksplorasi aplikasi potensial. Namun, kurangnya keamanan, etika, dan pengendalian operasional dapat membuat perusahaan rentan terhadap risiko yang tidak dikelola. Masalahnya menjadi lebih kompleks ketika memperluas model yang telah dilatih sebelumnya agar lebih relevan bagi pengguna akhir, seperti dengan menghubungkan database vektor dengan data sensitif perusahaan. Kemitraan teknologi perusahaan manajemen risiko AI dengan MongoDB bertujuan untuk mengatasi masalah ini. Pelanggan dapat dengan aman menghubungkan MongoDB Atlas Vector Search ke model bahasa komersial atau open source berskala besar untuk menghasilkan peningkatan pencarian sambil memastikan bahwa firewall AI memvalidasi input dan output. Ini memberikan perlindungan real-time terhadap berbagai risiko termasuk injeksi instan, ekstraksi PII, dan halusinasi. Selain itu, integrasi ini memungkinkan pelanggan meneruskan log AI Firewall ke MongoDB untuk menyimpan data historis. Data ini dapat digunakan untuk mendeteksi serangan keamanan tingkat lanjut, seperti peracunan data dan ekstraksi model, yang sering kali muncul di seluruh cluster data, bukan di satu titik data.