GMO Cyber ​​​​Security by Ierae (Distrik Shibuya, Tokyo) telah mengumumkan kerja sama dengan Mitsubishi Research Institute DCS (Distrik Shinagawa, Tokyo) untuk memperkuat keamanan Generative AI. Perusahaan akan meluncurkan layanan "Generative AI System Security Assessment" pada tanggal 28 November 2024. Layanan ini memanfaatkan "LLM Security Assessment" yang dikembangkan oleh GMO Cyber ​​​​Security by Ierae untuk menilai risiko sistem yang menggunakan LLM seperti GPT.

Seiring dengan semakin meluasnya penyebaran Generative AI , risiko keamanan baru pun mulai terlihat. Mitsubishi Research Institute DCS memiliki pengetahuan tentang langkah-langkah keamanan dalam industri keuangan, sementara GMO Cyber ​​​​Security by Ierae memiliki keahlian dalam peretasan topi putih. Kedua perusahaan akan bekerja sama untuk mengidentifikasi ancaman terhadap sistem yang mendukung AI dan mengusulkan tindakan pencegahan.

" Diagnosis Keamanan Sistem Generative AI " menargetkan LLM seperti GPT-3.5 dan GPT-4, dan melakukan serangan semu menggunakan perintah permusuhan untuk mendeteksi risiko keamanan. <a href="https://www.dcs.co.jp/solution/ai_diagnostic/）にて詳細を確認できる。"><a href=" https://www.dcs.co.jp/solution/ai_diagnostic/）にて詳細を確認できる。 "></a> Detailnya dapat ditemukan di halaman layanan ( <a href="https://www.dcs.co.jp/solution/ai_diagnostic/">https://www.dcs.co.jp/solution/ai_diagnostic/</a> ).</a>

Ke depannya, GMO Cyber ​​​​Security by Ierae dan Mitsubishi Research Institute DCS berencana untuk memperkuat tindakan pencegahan terhadap risiko keamanan yang terkait dengan evolusi teknologi AI dan mendukung pelanggan dalam memanfaatkan AI. Mereka juga berencana untuk menjajaki kerja sama di bidang lain guna memberikan ketenangan pikiran dengan meningkatkan kemampuan mereka dalam menanggapi risiko siber.