AI セキュリティ ソリューションのイノベーターである Pillar Security は、AI アプリケーションに対する実際のサイバー攻撃を詳細に説明した包括的なレポートを発表しました。これまでの理論的な評価とは異なるこの調査は、2,000 を超える AI アプリケーションの分析に基づいており、データ盗難の成功率が高く、侵入に成功した場合の 90% で機密データの漏洩が発生していることを明らかにしています。また、レポートでは、AI アプリケーションの保護を回避した攻撃の成功率が 20% であることも指摘しています。

テルアビブに拠点を置くこの企業の調査では、これらのサイバー攻撃の素早い性質がさらに明らかにされており、攻撃者は平均でわずか 42 秒で攻撃を実行し、AI システムとのやり取りが最小限で済むことがよくあります。調査結果では、GenAI システムとのやり取りのあらゆる段階で脆弱性が存在することが示されており、堅牢なセキュリティ対策が緊急に必要であることが強調されています。レポートでは、プロンプト インジェクション攻撃の頻度と高度化が高まっていることも指摘しています。

Pillar Security の CEO である Dor Sarig 氏は、組織に AI セキュリティ戦略を強化するための実用的な洞察を提供するというこのレポートの重要性を強調しました。この調査では、命令無視や Base64 エンコードなどの最も一般的な脱獄手法が明らかになり、データ盗難や偽情報の作成などの攻撃の背後にある主な動機が特定されています。

今後、Pillar Security は、チャットボットからより自律的な AI エージェントへの移行を予測しています。これにより AI アクセスが民主化される一方で、新たなセキュリティ上の課題も生じます。同社は AI セキュリティに対するプロアクティブなアプローチを提唱しており、組織が「設計によるセキュリティ」の原則を採用し、カスタマイズされたレッドチーム演習に参加して、AI を標的とした攻撃の複雑さの増大に備えることを提案しています。Pillar の調査結果は、進化する脅威にリアルタイムで適応して対抗できる動的なセキュリティ ソリューションの必要性を強調しています。