Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

楽天（東京）は、新しい日本語大規模言語モデル「Rakuten AI 2.0」と小規模言語モデル「Rakuten AI 2.0 mini」をリリースした。これらのモデルはMixture of Expertsアーキテクチャを採用し、Apache 2.0ライセンスで提供される。楽天の「Hugging Face」リポジトリからダウンロード可能だ。

「Rakuten AI 2.0」はSimPOを用いたファインチューニングを施し、人間の嗜好に近づけた最適化を実現。日本語版MT-Benchを使用した評価では、他の同規模モデルと比較して高い性能を示した。また、「Rakuten AI 2.0 mini」も同サイズのモデル中で最高の性能を発揮している。

楽天のティン・ツァイCAIDOは、新AIモデルが企業の迅速な価値実現を支援し、日本のAI開発を加速するとコメント。楽天は、AIの活用を通じて新サービスや製品の創出を促進し、コミュニティ構築を目指すと述べた。

楽天は「Rakuten AI 2.0」を8つの70億パラメータサブモデルで構成し、高品質な日英言語データで学習。一方、「Rakuten AI 2.0 mini」は15億パラメータで、内製データフィルタリングとアノテーションプロセスを経て学習された。楽天は今後もAI技術の進化を目指し、AI-nizationを推進する。