MITER dan Microsoft telah meningkatkan MITER ATLAS™, basis pengetahuan komunitas untuk profesional keamanan dan pengembang AI, dengan fokus pada AI generatif berbasis data. Pembaruan ini mengatasi kerentanan khusus pada sistem yang menggabungkan AI generatif dan model bahasa skala besar (LLM) seperti ChatGPT dan Bard. Tujuannya adalah untuk memberikan penjelasan realistis mengenai peningkatan jumlah dan variasi vektor serangan dalam sistem berbasis LLM yang dengan cepat diadopsi oleh konsumen dan organisasi.

Penyempurnaan pada MITRE ATLAS, yang merupakan singkatan dari Adversarial Threat Landscape for Artificial-Intelligence Systems, dirancang untuk memperkuat pertahanan terhadap serangan berbahaya di berbagai aplikasi AI, termasuk layanan kesehatan, keuangan, dan transportasi. Basis pengetahuan ini dapat diakses secara global dan didasarkan pada pengamatan serangan nyata dan demonstrasi realistis yang dilakukan oleh tim merah AI dan kelompok keamanan.

Proyek ATLAS adalah kolaborasi global yang melibatkan lebih dari 100 organisasi pemerintah, akademisi, dan industri. Sebagai bagian dari kemitraan ini, MITER dan Microsoft telah memperluas ATLAS untuk mengembangkan alat berdasarkan kerangka kerja guna mendukung industri, pemerintah, dan akademisi dalam memperkuat keamanan sistem yang mendukung AI.

Taktik dan teknik ATLAS baru didasarkan pada studi kasus insiden yang ditemukan oleh pengguna dan peneliti keamanan pada tahun 2023. Ini termasuk kebocoran privasi di plugin ChatGPT, demonstrasi cara memodifikasi LLM terlatih untuk mengembalikan fakta palsu. Kerentanan di MathGPT memungkinkan penyerang mengakses variabel lingkungan sistem host dan kunci API GPT-3 aplikasi.