Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

ChatGPTの時代において、企業は、特にセキュリティーの観点からAI戦略を策定するという課題に取り組んでいる。新しいテクノロジーを確保するという見通しは困難に思えるかもしれないが、既存のポリシーと慣行は、構築するための強固な基盤となる。今後の道筋には、現在のエンタープライズおよびクラウドのセキュリティー基盤の拡張が含まれる。このプロセスは、脅威分析の拡張、対応メカニズムの拡大、データサプライ チェーンの保護、AIを使用した取り組みの拡大、透明性の維持、継続的なセキュリティーの促進の6つのステップに分類できる。改善。最初のステップには、新しい状況を理解することが含まれる。現在、セキュリティーは、トレーニングデータ、モデル、それらを利用する人材やプロセスなどの新しい攻撃対象領域を含む、AI開発ライフサイクル全体を包含する必要がある。既知の脅威から推測することで、新たな脅威を特定し、予測することが可能になる。例えば、攻撃者は、クラウドサービス上のモデルのトレーニング フェーズ中にデータにアクセスして、AIモデルの動作を操作しようとする可能性がある。以前に脆弱性を調査したセキュリティー研究者やレッドチームは、このプロセスにおいて貴重なリソースとなる。脅威を特定したら、それらに対する防御方法を定義することが重要だ。これには、AIモデルのパフォーマンスを注意深く監視し、それがドリフトすることを想定し、それによって新たな攻撃対象領域が開かれることが含まれる。既存のPSIRT （製品セキュリティーインシデント対応チーム）の実践に基づいて構築することも重要だ。ネットワーク制御プレーンとデータプレーンを分離し、安全でないデータや個人を特定するデータを削除し、ゼロトラスト・セキュリティーと認証を使用し、適切なイベントログ、アラート、テストを定義し、必要に応じてフロー制御を設定するといった従来の防御策を、AIモデルとワークフローに適応して適用する必要がある。最後のステップは、AIモデルのトレーニングに使用されるデータセットを保護するために既存の保護手段を拡張することだ。これらのデータセットは価値があると同時に脆弱でもある。企業は、既存の慣行を活用して、ソフトウェアチャネルを保護するために作成されたものと同様の、安全なデータ サプライチェーンを作成できる。他の内部データがセキュリティーで保護されているのと同様に、トレーニング データのアクセス制御を確立することが重要だ。