NVIDIA は、AI アプリケーションの開発プロセスを強化するために設計されたオープンソースのリファレンス アーキテクチャである NVIDIA Cloud Native Stack (CNS) を発表しました。このアーキテクチャにより、開発者は Kubernetes オーケストレーション環境内で GPU アクセラレーション アプリケーションを実行およびテストできます。CNS は、マルチインスタンス GPU (MIG) や GPUDirect RDMA などの高度な機能をサポートしており、AI ソフトウェアの開発とテストを容易にし、後でエンタープライズ Kubernetes プラットフォームに展開できます。

CNS アーキテクチャは、Kubernetes、Helm、Containerd、NVIDIA 独自の GPU およびネットワーク オペレーターなど、バージョン管理されたソフトウェア コンポーネントのスイートで構成されています。これらのコンポーネントは連携して、クラウド ネイティブ インフラストラクチャでの AI ワークロードの運用を効率化します。特に、NVIDIA GPU オペレーターは AI アプリケーションの展開を簡素化し、最新の NVIDIA 機能と監視機能へのアクセスを提供します。CNS は、microK8s や監視サービスなどの拡張機能用のオプションのアドオン ツールも提供します。

CNS に KServe を組み込むことで、NVIDIA は組織が AI モデルを評価および展開しやすくしました。 KServe は Kubernetes を活用して機械学習モデルを効率的に提供し、AI ワークフローの展開がスケーラブルで管理しやすいことを保証します。NVIDIA NIM と組み合わせると、統合により AI アプリケーション開発用の堅牢なプラットフォームが提供され、他のマイクロサービスとのシームレスな統合が可能になります。

NVIDIA の CNS は、AI とデータ サイエンスのワークロード管理の複雑さを簡素化することを目指した、開発者にとって重要なツールとして位置付けられています。ベア メタル、クラウド、VM など、さまざまな環境で運用できる柔軟性を提供します。テスト済みの互換性のあるソフトウェア スタックを提供することで、CNS は開発から本番へのスムーズな移行を保証し、AI イノベーションの追求に取り組む組織をサポートします。