Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
Google、Cloud RunにAI推論向けNVIDIA GPUを導入
Generatived
2024年8月30日
Google(カリフォルニア州)は、Cloud RunにNVIDIA L4 GPUのプレビュー版サポートを追加したと発表した。このアップデートにより、開発者はリアルタイムでの推論アプリケーションを強化できる。例えば、GoogleのGemma(2B/7B)やMetaのLlama 3(8B)を使用し、カスタムchat botの構築やドキュメントの要約が可能になる。
NVIDIA(カリフォルニア州)のプロダクトマーケティング担当シニアディレクターAnne Hecht氏は、「NVIDIA L4 Tensor GPUとNIMのサポートにより、Cloud Runユーザーは高速なAI推論プラットフォームを利用できるようになり、市場投入スピードを上げることができる」と述べた。GPUサポートは、オンデマンドの画像認識や動画のコード変換、3Dレンダリングなどの処理を高速化する。
L’Oreal(フランス)のグローバルビューティーテックAI担当責任者Thomas MENARD氏は、Cloud RunでのGPUサポートにより、リアルタイム推論アプリケーションが大きく改善されたと評価。Chaptr(所在地不明)のイノベーション担当ディレクターAlex Bielski氏も、Cloud RunのGPUがGoogle CloudでのGPUコンピューティングに最適であると支持している。
Cloud RunのGPUサポートは現在、アイオワ州で利用可能で、年末までにオランダとシンガポールでも利用開始予定だ。GPUを使用するには、コマンドラインでフラグを追加するか、Google Cloudコンソールで設定する。さらに、Cloud Run functionsを使用して、イベントドリブンなAI推論を簡単に実行できるようになった。Hugging Faceの最高技術責任者Julien Chaumond氏は、Python開発者がインフラストラクチャを気にせずにHugging Faceモデルを使用できるとコメントしている。
最新のニュース
ティファナドットコムAIさくら導入ダイエー効率アップ
2024年9月20日 3:30:00
ティファナ・ドットコム(東京都目黒区)が開発した社内問い合わせ用チャットボット「AIさくらさん」が、ダイエー(東京都)の情報システム部門での業務効率を向上させた。
L is B「direct」生成AIボット更新
2024年9月20日 3:30:00
L is B(東京都千代田区)は、ビジネスチャット「direct」で提供する「生成AIボット」がOpenAI社の「GPT-4o mini」にアップデートされたと発表。
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
ニュース
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Copyright © 2024 Generatived - All right Reserved.
最新のニュース
ティファナドットコムAIさくら導入ダイエー効率アップ
2024年9月20日 3:30:00
ティファナ・ドットコム(東京都目黒区)が開発した社内問い合わせ用チャットボット「AIさくらさん」が、ダイエー(東京都)の情報システム部門での業務効率を向上させた。
L is B「direct」生成AIボット更新
2024年9月20日 3:30:00
L is B(東京都千代田区)は、ビジネスチャット「direct」で提供する「生成AIボット」がOpenAI社の「GPT-4o mini」にアップデートされたと発表。