Google (California) telah meningkatkan kemampuan jaringan Google Cloud untuk aplikasi AI generatif. Menurut laporan dari Gartner®, banyak organisasi yang memanfaatkan AI, dengan 80% perusahaan berencana menerapkan AI generatif pada tahun 2024. Tidak seperti aplikasi web tradisional, aplikasi AI generatif memiliki waktu permintaan dan respons yang bervariasi dan dapat menggunakan 100% GPU atau TPU waktu komputasi.

Google mengumumkan fitur baru untuk mengoptimalkan lalu lintas untuk aplikasi AI yang dihasilkan. Hal ini memungkinkan kami memberikan pengalaman terbaik kepada pengguna akhir dan menggunakan sumber daya seperti GPU dan TPU secara efisien. Kemampuan ini kini terintegrasi dalam Vertex AI dan tersedia dengan Google Cloud Networking.

Salah satu fitur barunya adalah percepatan pelatihan dan inferensi AI melalui jaringan lintas cloud. Menurut laporan IDC, 66% perusahaan menyebut AI generatif sebagai kasus penggunaan utama untuk jaringan multicloud. Berdasarkan jaringan global Google, jaringan lintas cloud mendukung transfer data antar cloud yang andal, aman, dan berkecepatan tinggi.

Selain itu, Model sebagai Titik Akhir Layanan adalah solusi yang memenuhi persyaratan unik aplikasi inferensi AI. Ini terdiri dari komponen cloud seperti App Hub, Private Service Connect (PSC), dan Cloud Load Balancing untuk memastikan konektivitas yang aman ke model AI generatif. Melalui fitur-fitur tersebut, Google bertujuan untuk meningkatkan keandalan, efektivitas, dan efisiensi aplikasi AI yang dihasilkannya. saus: