Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA は、Supercomputing 2024 カンファレンスで重要な発表を行い、Hopper ファミリーの新メンバーである NVIDIA H200 NVL PCIe GPU を公開しました。この最新のイノベーションは、低電力の空冷ソリューションを優先し、さまざまな AI および HPC ワークロードを処理するために柔軟な構成を必要とするデータセンター向けにカスタマイズされています。H200 NVL は、既存のエンタープライズ ラックにシームレスに収まるように設計されており、計算ニーズに応じて 1 〜 8 個の GPU に対応できるスケーラブルなソリューションを提供します。

同社は、H200 NVL GPU は AI および HPC アプリケーションを高速化できるだけでなく、消費電力を削減することでエネルギー効率も向上すると強調しました。前身の H100 NVL と比較してメモリが 1.5 倍、帯域幅が 1.2 倍になるなどの改善により、H200 NVL は大規模な言語モデルの微調整や推論パフォーマンスの向上などのタスクを大幅に高速化します。HPC ワークロードの場合、新しい GPU は H100 NVL と前世代の NVIDIA Ampere アーキテクチャの両方よりもパフォーマンスが向上します。

NVIDIA の H200 NVL は、最新の NVLink テクノロジの統合によるメリットも享受しており、これにより、以前の PCIe 世代よりも 7 倍高速な GPU 間通信が可能になります。この機能強化は、大規模な言語モデルの推論や微調整など、HPC や AI における要求の厳しいアプリケーションにとって極めて重要です。さらに、H200 NVL には、NVIDIA AI Enterprise の 5 年間のサブスクリプションが付属しています。これは、NVIDIA NIM マイクロサービスによる安全で信頼性の高い高性能 AI モデル推論を含む、AI アプリケーションの開発と展開をサポートする包括的なソフトウェア プラットフォームです。

H200 NVL の影響は既にさまざまな業界で感じられており、企業はカスタマー サービス AI エージェントから医療用画像処理まで、さまざまなアプリケーションにその機能を活用しています。たとえば、 Dropbox はコンテンツ管理サービスを強化するために H200 NVL を検討しており、ニューメキシコ大学は GPU を使用して幅広い研究イニシアチブを加速することを計画しています。H200 NVL は、大手テクノロジー企業からさまざまな構成で提供される予定で、NVIDIA は、パートナーや顧客が H200 NVL を使用して高性能 AI インフラストラクチャを構築できるように支援するエンタープライズ リファレンス アーキテクチャも開発しています。新しいテクノロジは SC24 で紹介され、NVIDIA の特別講演でさらに詳しく説明されます。