Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

Tachyumは、同社のProdigyプロセッサーが生成AIをどう改善できるかを概説した研究論文を発表した。大規模なデータセットからオリジナルの結果を生成する生成AIの計算とスケールの要件をProdigyがどう満たすかを説明している。AIモデルのサイズが増大するにつれて、より大きな計算能力、メモリー容量、メモリー帯域幅が必要になる。Prodigyは、量子化と枝刈り技術を有効にすることでこれらの課題に対処し、その結果、パフォーマンス、電力効率、メモリー占有が向上する。Tachyumの創設者兼CEOであるRadoslav Danilak博士は、GenAIの普及に向けて大規模なAIモデルを実行する際のハードウェアの課題を解決することの重要性を強調している。Prodigyは、2024年にコスト効率の高い高性能プロセッサーの主流になる予定で、メモリー容量が増加し、複数の競合他社のユニットを置き換えることができる。これにより、前例のないパフォーマンス、拡張性、効率が実現する。最適な計算効率を達成するには、FP8 8：3モデルをTachyumチップでトレーニングする必要がある。Tachyumは、FP8 8：3推論および生成AI IPもパートナーと顧客に提供している。Prodigyを搭載したデータセンターサーバーは、ユニバーサル プロセッサーとして、計算ドメイン間をシームレスに切り替えることができるため、高価な専用AIハードウェアが不要になる。これにより、サーバーの使用率が向上し、コストが大幅に削減され、優れたデータセンターのパフォーマンスが実現する。Prodigyは192個のカスタム設計のコンピューティングコアを統合し、クラウド ワークロード、HPC用のGPU、およびAIアプリケーション用のx86プロセッサーと比較して優れたパフォーマンスを提供する。