Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Khi việc áp dụng chatbot AI tạo ra tăng tốc, nhu cầu bảo vệ chống lại khai thác độc hại cũng tăng theo. Vertex AI đã giới thiệu hai tính năng mạnh mẽ để tăng cường bảo mật cho mô hình Gemini: Bộ lọc nội dung và Hướng dẫn hệ thống. Các công cụ này nhằm mục đích đảm bảo tương tác an toàn và đáng tin cậy bằng cách giảm thiểu rủi ro do các tác nhân đe dọa gây ra.

Bộ lọc nội dung hoạt động như một cơ chế phòng thủ sau phản hồi, kiểm tra kỹ lưỡng văn bản do AI tạo ra và ngăn chặn các phản hồi đáp ứng một số tiêu chí có hại. Các bộ lọc này có hai loại: bộ lọc an toàn không thể định cấu hình tự động chặn nội dung bị cấm như CSAM và PII và bộ lọc nội dung có thể định cấu hình cho phép bạn tùy chỉnh ngưỡng chặn trên bốn danh mục nội dung có hại. Mặc dù các bộ lọc này có hiệu quả, nhưng đôi khi chúng có thể xác định nhầm nội dung vô hại là có hại, điều này có thể ảnh hưởng đến trải nghiệm của người dùng.

Để bổ sung cho bộ lọc nội dung, hướng dẫn hệ thống cung cấp phương pháp tiếp cận chủ động để hướng dẫn các mô hình Gemini tạo nội dung phù hợp. Các tổ chức có thể tùy chỉnh các hướng dẫn này để phù hợp với các hướng dẫn an toàn cụ thể, chủ đề nhạy cảm và nhận diện thương hiệu. Tính năng này cho phép kiểm soát chi tiết hơn đối với việc tạo nội dung, cho phép hướng dẫn chi tiết và lặp lại. Tuy nhiên, hãy lưu ý rằng hướng dẫn hệ thống dễ bị các kỹ thuật thao túng tinh vi có thể dẫn đến việc kiểm duyệt nội dung quá thận trọng.

Vertex AI khuyến nghị sử dụng cả bộ lọc nội dung và chỉ thị hệ thống để đảm bảo an toàn tối ưu. Chúng tôi cũng khuyến khích các tổ chức tạo bộ đánh giá để kiểm tra hiệu suất mô hình với cấu hình của họ để cân bằng hiệu quả phát hiện nội dung có hại với rủi ro dương tính giả. Việc kiểm tra chủ động này sẽ hợp lý hóa việc điều chỉnh mô hình trong tương lai và duy trì tiêu chuẩn cao về bảo mật nội dung.