人工知能の最新の進歩により、膨大なテキスト データを解析し、独創的なアイデアを生み出し、さらにはコードを記述できる高度な大規模言語モデル (LLM) が開発されました。高度な機能を備えているにもかかわらず、これらの LLM は、高い信頼性で誤った情報を生成することがあります。これは「幻覚」と呼ばれる問題です。この問題に対処するため、研究者は LLM を現実世界の統計データに結び付けることによって幻覚の軽減に大きく貢献しました。これにより、信頼性の高いデータの包括的なリポジトリである Google の Data Commons と統合する先駆的なオープン モデル セットである DataGemma が誕生しました。

Data Commons は、国連や WHO などの評判の高い組織から提供される、大規模で増え続ける公開情報のデータベースです。さまざまな統計変数にわたる 2,400 億を超えるデータ ポイントを提供し、健康から環境データまでさまざまなトピックに関する豊富な知識を提供します。Data Commons は、AI を利用した自然言語インターフェースを通じてアクセスでき、ユーザーは、米国における所得と糖尿病の相関関係やアフリカ諸国における電力アクセスの変化など、さまざまな主題について問い合わせることができます。

最先端のオープン モデル スイートである Gemma に Data Commons を統合することで、LLM の事実性と推論性を高めることを目指しています。DataGemma は、Retrieval-Interleaved Generation (RIG) と Retrieval-Augmented Generation (RAG) という 2 つの革新的なアプローチを採用しています。RIG では、信頼できるソースを照会し、Data Commons と相互参照して正確性を確保し、RAG では関連するコンテキスト情報を組み込んでより包括的な応答を提供します。これらの方法は、言語モデルにおける数値事実の正確性を向上させ、幻覚の発生を減らすという有望な結果を示しています。

研究者や開発者は、最近の研究論文で詳しく説明されている DataGemma とその方法論にアクセスできるようになりました。進行中の研究は、これらのアプローチを改良することに注力しており、Gemma と Gemini の両方のモデルに統合する予定です。 DataGemma をオープン モデルにすることで、これらの技術の広範な採用を促進し、LLM の信頼性を高め、正確な情報を提供し、情報に基づいた意思決定をサポートし、世界に対する理解を深める貴重なツールとなることを目指しています。