Sebuah studi kolaboratif yang melibatkan peneliti dari berbagai lembaga menyelami praktik kerja tim merah model bahasa besar (LLM), sebuah proses di mana individu menguji sistem AI untuk mengidentifikasi potensi penyimpangan dari perilaku yang diharapkan. Studi yang dipublikasikan di PLOS One ini bertujuan untuk memberikan pemahaman yang jelas tentang bidang yang sedang berkembang ini dengan menganalisis wawancara dengan berbagai praktisi, termasuk pakar keamanan, penghobi, dan seniman.

Studi ini menguraikan karakteristik utama kerja tim merah LLM, yang menyoroti sifat eksploratif dan semangat kolaboratifnya. Tim merah terlibat dalam aktivitas ini untuk mengeksplorasi batasan sistem AI, bukan dengan maksud untuk menyebabkan kerusakan. Studi ini menyoroti aspek manual dan kreatif kerja tim merah, serta pola pikir seperti alkemis yang diadopsi oleh praktisi yang menerima sifat pekerjaan yang tidak dapat diprediksi.

Motivasi di balik kerja tim merah LLM berkisar dari persyaratan pekerjaan hingga keingintahuan pribadi. Studi ini mencatat bahwa sementara beberapa orang terlibat dalam praktik ini untuk alasan profesional, yang lain didorong oleh minat intrinsik seperti kenikmatan penemuan atau kekhawatiran tentang perilaku AI. Studi ini membedakan antara tim merah keamanan siber, yang berfokus pada tumpukan teknologi, dan tim merah konten, yang menangani konten yang dihasilkan oleh model AI.

Studi ini selanjutnya mengeksplorasi strategi dan teknik yang digunakan oleh tim merah, termasuk manipulasi bahasa, taktik retorika, dan penciptaan konteks fiktif. Metode-metode ini digunakan untuk mengungkap potensi bahaya dan kerentanan dalam LLM. Temuan-temuan ini berkontribusi pada diskusi yang sedang berlangsung tentang keamanan AI dan pengembangan sistem AI yang tangguh dan tepercaya.