NVIDIA は、RTX PC およびワークステーション上で微調整された AI モデルのパフォーマンスを強化する RTX AI ツールキットのアップデートを発表しました。このツールキットは、TensorRT-LLM AI アクセラレーション ライブラリ内で複数の低ランク適応 (LoRA) アダプターの使用をサポートするようになり、モデルのパフォーマンスを最大 6 倍向上させることができます。この進歩により、開発者はビデオ ゲームのダイアログやデジタル アシスタントの応答など、特定のアプリケーション向けに大規模言語モデル (LLM) をより効率的にカスタマイズできます。

LLM のカスタマイズは、開発者が特定のアプリケーションのニーズを満たすために不可欠です。これらのモデルは最初は膨大なデータセットでトレーニングされ、特定のタスクに必要な微妙なコンテキストが不足している可能性があるためです。関連データを使用してモデルを微調整することで、開発者はより正確でコンテキストに適した出力を実現できます。RTX AI ツールキットは、複数の LoRA アダプターの同時使用を可能にすることでこのプロセスを容易にし、GPU メモリの制約により非現実的な複数のモデルを必要とせずに、さまざまな微調整プロセスを同時に実行できるようにします。

NVIDIA が導入したマルチ LoRA サービング機能は、AI モデルを扱う開発者にとって大きな強化です。さまざまな LoRA アダプターを接続することで、単一の基本モデルを複数のユースケースで使用できるようになります。各アダプターは、さまざまなタスクに必要な特定の詳細を提供します。このアプローチは、メモリ フットプリントを低く抑えるだけでなく、複数の呼び出しを並列処理することで GPU の効率を最大化します。その結果、開発者は NVIDIA GPU のパワーを活用して、テキストや画像などの AI 駆動型出力をアプリケーション用に迅速に反復処理して改良することができます。

NVIDIA の RTX AI ツールキットの最新アップデートは、AI 環境における LLM の重要性の高まりを強調しています。モデルのパフォーマンスを高速化し、微調整プロセスを合理化する機能により、開発者は強力で独自の要件に合わせた AI アプリケーションをより適切に作成できるようになりました。マルチ LoRA サポートにより、さまざまな業界で LLM の採用と統合がさらに促進され、洗練されたアプリケーション固有の AI ソリューションに対する需要の高まりに対応できるようになると予想されます。