NVIDIA は、急速に成長している生成 AI の分野に不可欠な、高性能コンピューティング ファブリックの強化の最前線に立っています。同社の最新の Ethernet および InfiniBand ソリューションは、AI ファクトリーとクラウド データ センターのパフォーマンスを最適化するように設計されています。これらの進歩の中心となるのは、ハイパースケール AI ワークロード向けにカスタマイズされた新しいタイプのネットワーク アクセラレータである NVIDIA SuperNIC です。新しく導入された ConnectX-8 を含む SuperNIC は、NVIDIA の Spectrum-X Ethernet および Quantum-X800 InfiniBand プラットフォームの鍵であり、今日の AI インフラストラクチャの要求を満たす拡張性とパフォーマンスを提供します。

同社の SuperNIC は、ハードウェア内 RoCE アクセラレーションと GPUDirect RDMA を誇り、速度は最大 800 Gb/s に達します。これらの機能により、CPU をバイパスして GPU 間の直接データ転送が可能になり、レーテンシーが大幅に削減されます。この直接通信経路は、多数のノードにわたって AI ワークロードをスケーリングするのに不可欠であり、従来の CPU ベースのデータ移動のボトルネックなしで並列処理を強化します。

NVIDIA の Spectrum-X プラットフォームには、AI ネットワークのパフォーマンスを強化する RoCE アダプティブ ルーティングが組み込まれています。このテクノロジは、輻輳を引き起こし、ネットワーク効率を低下させる可能性のある大規模なデータ フロー (「エレファント フロー」) を管理するという課題に対処します。Spectrum-4 イーサネット スイッチの機能は、NVIDIA SuperNIC と連携して、高帯域幅フローの最適なルーティングと正しいパケット シーケンスを保証し、大規模な AI モデルのデータ処理を中断することなく維持します。

さらに、NVIDIA は、Spectrum-4 スイッチのテレメトリ機能と統合された高度な制御メカニズムを使用して、AI ネットワークの輻輳に取り組んでいます。これらのメカニズムにより、SuperNIC はリアルタイムでデータ転送速度を調整し、輻輳を防ぎ、帯域幅を最適化できます。SuperNIC は、複雑な AI ワークロードの多様な通信パターンに不可欠な、プログラム可能な I/O 機能も提供します。NVIDIA DOCA ソフトウェア フレームワークを使用すると、ネットワーク プロフェッショナルはインフラストラクチャをカスタマイズして AI アプリケーションの特定のニーズをサポートし、効率的なデータ フローと最高のパフォーマンスを確保できます。

ネットワーク セキュリティの分野では、NVIDIA SuperNIC は、最大 800 Gb/s の速度を処理できるインライン暗号化アクセラレーションを備えた堅牢なソリューションを提供します。これにより、AI のパフォーマンスを損なうことなく、転送中のデータ暗号化が保証されます。SuperNIC は、IPsec や TLS などのさまざまな暗号化操作をサポートし、ハイパースケール データ センター環境向けのスケーラブルな PSP 暗号化アーキテクチャを活用します。

NVIDIA の SuperNIC は、生成 AI のネットワークに新たな標準を確立し、大規模なイノベーションとパフォーマンスを推進する比類のない機能を提供します。これらのネットワーク アクセラレータは NVIDIA のネットワーク プラットフォームに不可欠なものであり、組織が AI の取り組みの可能性を最大限に引き出すことを可能にします。