Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Đổi mới mới nhất về an toàn AI đi kèm với sự ra mắt của ShieldGemma 2, một mô hình mới được thiết kế để tăng cường bảo mật cho cả hình ảnh tổng hợp và tự nhiên. Mô hình chạy trên nền tảng Gemma 3, tự hào có dung lượng tham số 4 tỷ và nhằm mục đích giúp các nhà nghiên cứu và nhà phát triển tạo ra các tập dữ liệu và mô hình an toàn hơn. ShieldGemma 2 vượt trội trong việc xác định và giảm thiểu rủi ro liên quan đến nội dung có hại, tập trung vào các lĩnh vực như tài liệu khiêu dâm, nội dung nguy hiểm và bạo lực.

ShieldGemma 2 mở rộng khả năng của phiên bản tiền nhiệm bằng cách giải quyết sự phức tạp của an toàn hình ảnh trong các mô hình đa phương thức, không chỉ văn bản. Nhóm phát triển đã tỉ mỉ tuyển chọn tập dữ liệu đào tạo và tinh chỉnh Gemma 3 để đảm bảo hiệu suất mạnh mẽ so với nhiều tiêu chuẩn an toàn. Một báo cáo kỹ thuật sắp tới sẽ cung cấp thêm thông tin chi tiết, bao gồm cả so sánh với các tiêu chuẩn của bên thứ ba.

Mô hình này linh hoạt, cho phép người dùng tải lên bất kỳ hình ảnh nào và tùy chỉnh mẫu nhắc nhở theo yêu cầu cụ thể của họ. ShieldGemma 2 tương thích với nhiều khuôn khổ phổ biến và thúc đẩy sự hợp tác của cộng đồng để tăng cường các tiêu chuẩn an toàn trong ngành. Nhóm nghiên cứu đằng sau ShieldGemma 2 cam kết khám phá những tiến bộ hơn nữa, bao gồm giảm kích thước mô hình, bao gồm các miền gây hại bổ sung và tuân thủ phân loại ML Commons đa phương thức. Cam kết phát triển AI có trách nhiệm này chứng minh nỗ lực chung của chúng tôi nhằm thúc đẩy một môi trường kỹ thuật số an toàn hơn.