Cloudera は、 NVIDIA の高速コンピューティングと NIM マイクロサービスを活用して大規模言語モデル (LLM) のパフォーマンスを大幅に向上させる新しい AI 推論サービスを導入しました。このサービスは、AI モデルの導入と管理を容易にし、企業が AI の進歩のためにデータを最大限に活用できるようにするために設計されています。Cloudera と NVIDIA のコラボレーションは、さまざまな業界におけるDXと AI 統合の課題に対処することを目的としています。

同社の最新サービスは、AI モデルの開発と展開のための安全な環境を提供することで、生成型 AI (GenAI) の導入におけるコンプライアンスリスクとガバナンスの懸念に対処することを目的としていますCloudera AI Inference は、機密データが企業の管理下に置かれることを保証し、堅牢なセキュリティ機能と、オンプレミスまたはクラウドでワークロードを実行する機能を提供します。このサービスは、信頼性の高い AI アプリケーションに信頼性の高いデータを高性能な速度で提供することを約束する NVIDIA テクノロジを採用しています。

Cloudera の AI 推論サービスはユーザーフレンドリーに設計されており、UI と API を NVIDIA NIM マイクロサービス コンテナーと統合しているため、個別の監視システムは必要ありません。また、このサービスは Cloudera の AI モデル レジストリと統合してセキュリティとガバナンスを強化し、すべてのモデルを管理するための統合プラットフォームを提供します。開発者は、NVIDIA Tensor Core GPU を使用してエンタープライズ グレードの LLM を構築および展開する場合、最大 36 倍のパフォーマンス向上が期待できます。

業界アナリストのCloudera・モハン氏は、GenAI に投資する企業にとって、安全で、コンプライアンスが遵守され、適切に管理されたデータの重要性を強調しました。Cloudera AI Inference は、高度なデータ管理と NVIDIA の AI 専門知識を活用し、大規模な AI のプライベートな実稼働化の複雑さを簡素化することを目指しています。このサービスには、自動スケーリング、リアルタイムのパフォーマンス追跡、エンタープライズ グレードのセキュリティなどの機能が含まれており、データを保護し、必要な柔軟性とガバナンスを備えた AI モデルを効率的に展開したいと考えている組織に包括的なソリューションを提供します。