Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Google gần đây đã công bố công nghệ nhằm tăng cường ứng dụng Generative AI (gen AI) trong các tình huống mà quyền riêng tư và bảo mật dữ liệu là tối quan trọng. Bằng cách tận dụng dự án nguồn mở GenC của công ty, các nhà phát triển có thể thử nghiệm các mô hình nguồn mở Máy tính bí mật và Gemma trên nền tảng di động. Nỗ lực này sẽ cho phép tạo ra các ứng dụng hỗ trợ AI thế hệ đáp ứng các yêu cầu nghiêm ngặt về quyền riêng tư, tính minh bạch và khả năng xác minh trong xử lý dữ liệu.

Cách tiếp cận của công ty liên quan đến việc thiết lập kết hợp hai mô hình ngôn ngữ (LLM). Một là mô hình nhỏ, trên thiết bị để phản hồi nhanh và mô hình còn lại là mô hình lớn, được lưu trữ trên đám mây dành cho các truy vấn phức tạp. Hệ thống mô hình kép này, được đại diện bởi Gemma 2B được lượng tử hóa và Gemma 7B không được lượng tử hóa, cho phép các ứng dụng di động sử dụng hiệu quả cả tài nguyên điện toán cục bộ và đám mây. Mẫu Gemma 2B nhỏ hơn hoạt động trực tiếp với các thiết bị như Pixel 7 và cung cấp khả năng xử lý truy vấn nhanh chóng và tiết kiệm chi phí. Trong khi đó, mô hình Gemma 7B lớn hơn được lưu trữ trong Không gian bí mật của Google Cloud cung cấp phản hồi chất lượng cao cho các nhiệm vụ đòi hỏi khắt khe hơn.

Trong kiến ​​trúc đổi mới này, Môi trường thực thi tin cậy (TEE) trên đám mây hoạt động như một phần mở rộng của thiết bị người dùng, đảm bảo hoạt động liên lạc và xử lý dữ liệu được mã hóa không liên tục. Các nhà phát triển có thể xác minh tính toàn vẹn của mã chạy trên TEE thông qua các báo cáo chứng nhận vì tất cả mã đều có nguồn mở hoàn toàn để kiểm tra bên ngoài. Quá trình thiết lập này phức tạp nhưng GenC đơn giản hóa nó và hợp lý hóa quy trình phát triển cho các lập trình viên.

Khung GenC của Google đơn giản hóa trải nghiệm của nhà phát triển bằng cách cung cấp các ví dụ về mã dựa trên Python để chỉ ra cách thiết lập các kịch bản Gen AI tập trung vào quyền riêng tư. Mã này cho phép nhà phát triển kiểm soát việc xử lý dữ liệu diễn ra trên thiết bị hay được ủy quyền cho TEE trên đám mây. Ngoài ra, Đại diện trung gian (IR) cơ bản của GenC cho phép triển khai logic Gen AI trên các nền tảng và ngôn ngữ khác nhau, đảm bảo hành vi nhất quán và tạo điều kiện cho việc tạo nguyên mẫu nhanh chóng cũng như triển khai linh hoạt. . Google sẵn sàng nâng cao hiệu suất và hỗ trợ mô hình cho các ứng dụng Gen AI với những nỗ lực không ngừng nhằm mở rộng hỗ trợ phần mềm và phần cứng. nước xốt: