Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

富士通（東京都港区）は、対話型生成AIの回答の信頼性を向上させるための2つのAIトラスト技術、幻覚検出技術とフィッシングURL検出技術を開発したと発表した。これらの技術は、「Fujitsu Kozuchi （code name） - Fujitsu AI Platform」の対話型生成AIコアエンジンに搭載され、2023年9月28日から法人向けの実証実験環境として提供が始まる。フィッシングURL検出技術は2023年10月より日本国内で提供開始し、順次グローバルにも展開予定だ。また、個人向けにも富士通のポータルサイトからトライアル環境が提供される予定だ。対話型生成AIがデータに基づかない誤りを回答する幻覚を検出する技術は、AIが回答文を意味解析し、幻覚が生じやすい固有表現部分を特定して重点的に確認することで、既存手法よりも高精度に幻覚を検出する。また、対話型生成AIが悪意ある情報を覚え込ませる攻撃を受けてフィッシングサイトURLを回答出力する問題に対応する技術も開発された。これにより、AIを騙す敵対的攻撃を含むフィッシングサイトを高度に検出し、利用者に危険なURLであることを伝えることが可能となるという。富士通は、対話型生成AIをはじめとするAIの品質やセキュリティー、倫理などのAIトラストを向上させる技術を世界に先駆けて研究開発し、実証実験や有効性検証を進めることで、お客様が安心してAIを利用できる社会づくりに貢献していくとしている。また、長年にわたるAIの信頼性を担保する研究の取り組みを対話型生成AIに生かし、特に業務への適用が可能な信頼できる対話型生成AIを実現するAIトラスト技術の研究開発を行ってきたという。