top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

グーグルAIハイパーコンピューター更新

Generatived

24/11/7 4:30

Google(アメリカ合衆国)は、AI ハイパーコンピュータのソフトウェア レイヤの大幅なアップデートを発表。トレーニングと推論のパフォーマンス向上、復元力の強化、リソース管理の中央ハブを提供する。GitHub に新設された AI ハイパーコンピュータ リソースでは、MaxText や MaxDiffusion などのリファレンス実装、XPK オーケストレーション ツールが利用可能に。

NVIDIA(アメリカ合衆国)と協力し、MaxText は A3 Mega VM をサポート。これにより、GPU 間ネットワーク帯域幅が倍増し、大規模言語モデルのトレーニングが高速化。FP8 混合精度トレーニングにより、ハードウェア使用率の向上も実現。Google は、AQT を使用した FP8 トレーニングで、モデルの実効 FLOP 使用率が大幅に向上することを示す。

Google は MoE(Mixture of Experts)のリファレンス実装とカーネルも提供。これにより、エキスパートの数を調整し、モデルの柔軟性とパフォーマンスを向上させることが可能に。また、Cloud TPU 上で最適化された Pallas カーネルをオープンソース化し、MoE モデルのトレーニングをさらに高速化。

大規模トレーニングのモニタリングを容易にするため、リファレンス モニタリング レシピを導入。Cloud Monitoring ダッシュボードを通じて、リソース使用率の最大化と ML グッドプットの向上を支援。さらに、Cloud TPU v5p の SparseCore の一般提供を開始し、Recommender モデルのパフォーマンスを大幅に向上。LLM 推論のパフォーマンスも JetStream の新機能により倍増。

この記事を共有:

最新のニュース
パワープランニングAIセミナー集客支援

パワープランニングAIセミナー集客支援

24/12/24 4:30

パワープランニング(東京)は、セミナー集客支援サービス「アットセミナー」に生成AI機能を導入した。

パワープランニングAI告知文自動生成

パワープランニングAI告知文自動生成

24/12/24 4:30

パワープランニング(東京)は、セミナー集客支援サービス「アットセミナー」に新機能を追加した。

Spheretek日本AIマウスM7先行販売開始

Spheretek日本AIマウスM7先行販売開始

24/12/24 4:30

Spheretek-Japan(東京都)は、新型AIマウス「M7」の国内先行販売を「GREEN FUNDING」で12月20日より開始すると発表。

町田市議事録作成支援AI導入

町田市議事録作成支援AI導入

24/12/24 4:30

町田市(東京都)は、職員の議事録作成を効率化するため「議事録サポートAI」を導入すると発表した。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
パワープランニングAIセミナー集客支援

パワープランニングAIセミナー集客支援

24/12/24 4:30

パワープランニング(東京)は、セミナー集客支援サービス「アットセミナー」に生成AI機能を導入した。

パワープランニングAI告知文自動生成

パワープランニングAI告知文自動生成

24/12/24 4:30

パワープランニング(東京)は、セミナー集客支援サービス「アットセミナー」に新機能を追加した。

Spheretek日本AIマウスM7先行販売開始

Spheretek日本AIマウスM7先行販売開始

24/12/24 4:30

Spheretek-Japan(東京都)は、新型AIマウス「M7」の国内先行販売を「GREEN FUNDING」で12月20日より開始すると発表。

町田市議事録作成支援AI導入

町田市議事録作成支援AI導入

24/12/24 4:30

町田市(東京都)は、職員の議事録作成を効率化するため「議事録サポートAI」を導入すると発表した。

bottom of page