top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

グーグルAIハイパーコンピューター更新

Generatived

24/11/7 4:30

Google(アメリカ合衆国)は、AI ハイパーコンピュータのソフトウェア レイヤの大幅なアップデートを発表。トレーニングと推論のパフォーマンス向上、復元力の強化、リソース管理の中央ハブを提供する。GitHub に新設された AI ハイパーコンピュータ リソースでは、MaxText や MaxDiffusion などのリファレンス実装、XPK オーケストレーション ツールが利用可能に。

NVIDIA(アメリカ合衆国)と協力し、MaxText は A3 Mega VM をサポート。これにより、GPU 間ネットワーク帯域幅が倍増し、大規模言語モデルのトレーニングが高速化。FP8 混合精度トレーニングにより、ハードウェア使用率の向上も実現。Google は、AQT を使用した FP8 トレーニングで、モデルの実効 FLOP 使用率が大幅に向上することを示す。

Google は MoE(Mixture of Experts)のリファレンス実装とカーネルも提供。これにより、エキスパートの数を調整し、モデルの柔軟性とパフォーマンスを向上させることが可能に。また、Cloud TPU 上で最適化された Pallas カーネルをオープンソース化し、MoE モデルのトレーニングをさらに高速化。

大規模トレーニングのモニタリングを容易にするため、リファレンス モニタリング レシピを導入。Cloud Monitoring ダッシュボードを通じて、リソース使用率の最大化と ML グッドプットの向上を支援。さらに、Cloud TPU v5p の SparseCore の一般提供を開始し、Recommender モデルのパフォーマンスを大幅に向上。LLM 推論のパフォーマンスも JetStream の新機能により倍増。

この記事を共有:

最新のニュース
GMOインターネットAI支援ツール開始

GMOインターネットAI支援ツール開始

24/12/25 4:30

GMOインターネットグループ(東京都)は、2024年12月24日に社内向けAIツール「GMO Brain AI プロジェクト」を開始した。

KaKa Creation新AIアニメプラットフォーム

KaKa Creation新AIアニメプラットフォーム

24/12/25 4:30

KaKa Creation(東京都目黒区)は、生成AIを活用しアニメ制作の新たな地平を開く「TETTOU」を発表。

overflow Offers AIスキルプロフ追加

overflow Offers AIスキルプロフ追加

24/12/25 4:30

overflow(東京都港区)は、エンジニアやデザイナー向けの副業・転職サービス「Offers」において、AI関連スキルをプロフィールに追加できる新機能をリリースした。

SpiralAI小学生AIキャラ制作体験

SpiralAI小学生AIキャラ制作体験

24/12/25 4:30

SpiralAI(東京都千代田区)は、サイボウズの楽校と協力し、小学生を対象にAIキャラクター制作ワークショップを開催。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
GMOインターネットAI支援ツール開始

GMOインターネットAI支援ツール開始

24/12/25 4:30

GMOインターネットグループ(東京都)は、2024年12月24日に社内向けAIツール「GMO Brain AI プロジェクト」を開始した。

KaKa Creation新AIアニメプラットフォーム

KaKa Creation新AIアニメプラットフォーム

24/12/25 4:30

KaKa Creation(東京都目黒区)は、生成AIを活用しアニメ制作の新たな地平を開く「TETTOU」を発表。

overflow Offers AIスキルプロフ追加

overflow Offers AIスキルプロフ追加

24/12/25 4:30

overflow(東京都港区)は、エンジニアやデザイナー向けの副業・転職サービス「Offers」において、AI関連スキルをプロフィールに追加できる新機能をリリースした。

SpiralAI小学生AIキャラ制作体験

SpiralAI小学生AIキャラ制作体験

24/12/25 4:30

SpiralAI(東京都千代田区)は、サイボウズの楽校と協力し、小学生を対象にAIキャラクター制作ワークショップを開催。

bottom of page