Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Một nghiên cứu hợp tác có sự tham gia của các nhà nghiên cứu từ nhiều tổ chức đã đi sâu vào hoạt động của nhóm đỏ mô hình ngôn ngữ lớn (LLM), một quá trình mà các cá nhân kiểm tra các hệ thống AI để xác định các sai lệch tiềm ẩn so với hành vi mong đợi. Nghiên cứu được công bố trên PLOS One nhằm mục đích cung cấp hiểu biết rõ ràng về lĩnh vực mới nổi này bằng cách phân tích các cuộc phỏng vấn với nhiều học viên, bao gồm các chuyên gia bảo mật, người đam mê và nghệ sĩ.

Nghiên cứu phác thảo các đặc điểm chính của nhóm đỏ LLM, nhấn mạnh bản chất khám phá và tinh thần hợp tác của nó. Các nhóm đỏ tham gia vào hoạt động này để khám phá các giới hạn của hệ thống AI, không phải với mục đích gây hại. Nghiên cứu nhấn mạnh các khía cạnh thủ công và sáng tạo của nhóm đỏ, cũng như tư duy giống như nhà giả kim mà các học viên áp dụng khi chấp nhận bản chất không thể đoán trước của công việc.

Động lực đằng sau nhóm đỏ LLM bao gồm từ yêu cầu công việc đến sự tò mò cá nhân. Nghiên cứu lưu ý rằng trong khi một số người tham gia vào hoạt động này vì lý do chuyên môn, những người khác lại bị thúc đẩy bởi các sở thích nội tại như niềm vui khám phá hoặc mối quan tâm về hành vi của AI. Nghiên cứu phân biệt giữa các nhóm đỏ về an ninh mạng, tập trung vào ngăn xếp công nghệ và các nhóm đỏ về nội dung, xử lý nội dung do các mô hình AI tạo ra.

Nghiên cứu tiếp tục khám phá các chiến lược và kỹ thuật mà các nhóm đỏ sử dụng, bao gồm thao túng ngôn ngữ, chiến thuật hùng biện và tạo ra các bối cảnh hư cấu. Các phương pháp này được sử dụng để phát hiện ra các tác hại và lỗ hổng tiềm ẩn trong LLM. Các phát hiện này góp phần vào cuộc thảo luận đang diễn ra về bảo mật AI và sự phát triển của các hệ thống AI mạnh mẽ và đáng tin cậy.