Google Cloud は NVIDIA と提携して AI 推論の展開を強化し、NVIDIA AI プラットフォームの機能とサーバーレス コンピューティングの利便性を統合しました。このコラボレーションの目的は、展開プロセスを合理化し、クラウドでの AI アプリケーションのパフォーマンスを向上させることです。

Google Cloud の Cloud Run サービスに NVIDIA L4 Tensor Core GPU が導入されたことは大きな進歩であり、ユーザーはインフラストラクチャ管理の複雑さを伴わずにリアルタイム AI アプリケーションを展開できるようになりました。フルマネージドのサーバーレス コンテナ ランタイムである Cloud Run は、これらの GPU をサポートするようになり、スケーラブルなオンデマンドの AI アクセラレーションを実現しています。

Googleの L4 GPU は、音声認識や画像検索などの幅広い AI タスクを効率的に処理するように設計されており、CPU ソリューションの最大 120 倍の AI ビデオ パフォーマンスを提供します。Google Cloud は、Compute Engine や Kubernetes Engine などの他のGoogleサービスとも互換性のあるこれらの GPU を提供する最初の企業です。

AI の導入をさらに簡素化するために、NVIDIA は AI モデルのパフォーマンスを最適化するクラウドネイティブ マイクロサービス スイートである NIM を導入しました。NIM を使用すると、事前に最適化されたコンテナ化されたモデルをアプリケーションに簡単に統合できるため、リソース効率が向上し、開発時間が短縮されます。これらのマイクロサービスはGoogle Cloud Marketplace で入手でき、さまざまなGoogle Cloud サービスに導入できます。ソース：