Google（カリフォルニア州）は、Cloud RunにNVIDIA L4 GPUのプレビュー版サポートを追加したと発表した。このアップデートにより、開発者はリアルタイムでの推論アプリケーションを強化できる。例えば、GoogleのGemma（2B/7B）やMetaのLlama 3（8B）を使用し、カスタムchat botの構築やドキュメントの要約が可能になる。

NVIDIA（カリフォルニア州）のプロダクトマーケティング担当シニアディレクターAnne Hecht氏は、「NVIDIA L4 Tensor GPUとNIMのサポートにより、Cloud Runユーザーは高速なAI推論プラットフォームを利用できるようになり、市場投入スピードを上げることができる」と述べた。GPUサポートは、オンデマンドの画像認識や動画のコード変換、3Dレンダリングなどの処理を高速化する。

L’Oreal（フランス）のグローバルビューティーテックAI担当責任者Thomas MENARD氏は、Cloud RunでのGPUサポートにより、リアルタイム推論アプリケーションが大きく改善されたと評価。Chaptr（所在地不明）のイノベーション担当ディレクターAlex Bielski氏も、Cloud RunのGPUがGoogle CloudでのGPUコンピューティングに最適であると支持している。

Cloud RunのGPUサポートは現在、アイオワ州で利用可能で、年末までにオランダとシンガポールでも利用開始予定だ。GPUを使用するには、コマンドラインでフラグを追加するか、Google Cloudコンソールで設定する。さらに、Cloud Run functionsを使用して、イベントドリブンなAI推論を簡単に実行できるようになった。Hugging Faceの最高技術責任者Julien Chaumond氏は、Python開発者がインフラストラクチャを気にせずにHugging Faceモデルを使用できるとコメントしている。