Generatived (Beta) | Cung cấp tin tức và xu hướng mới nhất về AI sáng tạo

Google (California) thông báo đã bổ sung tính năng hỗ trợ xem trước cho GPU NVIDIA L4 vào Cloud Run. Bản cập nhật này cho phép các nhà phát triển tăng sức mạnh cho các ứng dụng suy luận thời gian thực của họ. Ví dụ: bạn có thể sử dụng Gemma (2B/7B) của Google hoặc Llama 3 (8B) của Meta để xây dựng các bot trò chuyện tùy chỉnh và tóm tắt tài liệu.

Anne Hecht, giám đốc tiếp thị sản phẩm cấp cao của NVIDIA, California, cho biết: “GPU NVIDIA L4 Tensor và hỗ trợ NIM cung cấp cho người dùng Cloud Run nền tảng suy luận AI nhanh chóng để tăng tốc thời gian đưa sản phẩm ra thị trường”. Tôi có thể làm được." GPU hỗ trợ tăng tốc độ xử lý như nhận dạng hình ảnh theo yêu cầu, chuyển mã video và hiển thị 3D.

Thomas MENARD, người đứng đầu bộ phận AI công nghệ làm đẹp toàn cầu tại L'Oreal (Pháp), cho rằng khả năng hỗ trợ GPU của Cloud Run đã cải thiện đáng kể các ứng dụng suy luận thời gian thực. Alex Bielski, giám đốc đổi mới tại Chaptr (không rõ vị trí), cũng xác nhận GPU của Cloud Run là lý tưởng cho tính toán GPU trên Google Cloud.

Hỗ trợ GPU cho Cloud Run hiện có sẵn ở Iowa và sẽ có mặt ở Hà Lan và Singapore vào cuối năm nay. Để sử dụng GPU, hãy thêm cờ trên dòng lệnh hoặc định cấu hình nó trong bảng điều khiển Google Cloud. Ngoài ra, giờ đây bạn có thể dễ dàng thực hiện suy luận AI theo sự kiện bằng cách sử dụng các chức năng Cloud Run. Julien Chaumond, giám đốc công nghệ tại Hugging Face, nhận xét rằng các nhà phát triển Python có thể sử dụng mô hình Hugging Face mà không cần lo lắng về cơ sở hạ tầng.