top of page

Generatived(Beta)|生成AIの最新ニュースとトレンドを提供

logo.png

AIセキュリティーのための6ステップの戦略

Generatived

23/9/26 5:21

ChatGPTの時代において、企業は、特にセキュリティーの観点からAI戦略を策定するという課題に取り組んでいる。新しいテクノロジーを確保するという見通しは困難に思えるかもしれないが、既存のポリシーと慣行は、構築するための強固な基盤となる。今後の道筋には、現在のエンタープライズおよびクラウドのセキュリティー基盤の拡張が含まれる。このプロセスは、脅威分析の拡張、対応メカニズムの拡大、データサプライ チェーンの保護、AIを使用した取り組みの拡大、透明性の維持、継続的なセキュリティーの促進の6つのステップに分類できる。改善。最初のステップには、新しい状況を理解することが含まれる。現在、セキュリティーは、トレーニングデータ、モデル、それらを利用する人材やプロセスなどの新しい攻撃対象領域を含む、AI開発ライフサイクル全体を包含する必要がある。既知の脅威から推測することで、新たな脅威を特定し、予測することが可能になる。例えば、攻撃者は、クラウドサービス上のモデルのトレーニング フェーズ中にデータにアクセスして、AIモデルの動作を操作しようとする可能性がある。以前に脆弱性を調査したセキュリティー研究者やレッドチームは、このプロセスにおいて貴重なリソースとなる。脅威を特定したら、それらに対する防御方法を定義することが重要だ。これには、AIモデルのパフォーマンスを注意深く監視し、それがドリフトすることを想定し、それによって新たな攻撃対象領域が開かれることが含まれる。既存のPSIRT (製品セキュリティーインシデント対応チーム)の実践に基づいて構築することも重要だ。ネットワーク制御プレーンとデータプレーンを分離し、安全でないデータや個人を特定するデータを削除し、ゼロトラスト・セキュリティーと認証を使用し、適切なイベントログ、アラート、テストを定義し、必要に応じてフロー制御を設定するといった従来の防御策を、AIモデルとワークフローに適応して適用する必要がある。最後のステップは、AIモデルのトレーニングに使用されるデータセットを保護するために既存の保護手段を拡張することだ。これらのデータセットは価値があると同時に脆弱でもある。企業は、既存の慣行を活用して、ソフトウェアチャネルを保護するために作成されたものと同様の、安全なデータ サプライチェーンを作成できる。他の内部データがセキュリティーで保護されているのと同様に、トレーニング データのアクセス制御を確立することが重要だ。

この記事を共有:

最新のニュース
マイクロソフト、ワシントンのAI改革提案を募集

マイクロソフト、ワシントンのAI改革提案を募集

25/1/23 4:30

マイクロソフトは創立50周年を記念して、ワシントン州を拠点とする組織に対し、州内の重要な問題に対処するために人工知能を活用する提案の提出を呼びかけている。

ベルテルスマン、OpenAIの技術をグローバルブランドに統合

ベルテルスマン、OpenAIの技術をグローバルブランドに統合

25/1/23 4:30

著名なグローバルメディア、サービス、教育企業であるベルテルスマンは、世界中のさまざまなブランドに OpenAI のテクノロジーを大幅に統合することを発表しました。

マイクロソフトとコールドプレイが AI を活用したインタラクティブ映画体験を開始

マイクロソフトとコールドプレイが AI を活用したインタラクティブ映画体験を開始

25/1/23 4:30

Coldplay は、ファンに AI を活用したインタラクティブな体験を提供するために Microsoft と提携し、ファンがバンドのニューアルバム「MOON MUSiC」をパーソナライズされた方法で楽しめるようにしました。

NVIDIA、AI を活用した不正検出ツールを発表

NVIDIA、AI を活用した不正検出ツールを発表

25/1/23 4:30

Hiya の調査では、2023 年には毎週 5 億 5000 万件もの詐欺電話が発生するという驚くべき数字が明らかになり、詐欺防止対策の強化が急務であることが浮き彫りになりました。

Copyright © 2024 Generatived - All right Reserved.

この記事を共有:

この記事を共有:

Generatived AI Logo

Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。

  • Facebook
  • X

フォローをお願いします

言語

最新のニュース
マイクロソフト、ワシントンのAI改革提案を募集

マイクロソフト、ワシントンのAI改革提案を募集

25/1/23 4:30

マイクロソフトは創立50周年を記念して、ワシントン州を拠点とする組織に対し、州内の重要な問題に対処するために人工知能を活用する提案の提出を呼びかけている。

ベルテルスマン、OpenAIの技術をグローバルブランドに統合

ベルテルスマン、OpenAIの技術をグローバルブランドに統合

25/1/23 4:30

著名なグローバルメディア、サービス、教育企業であるベルテルスマンは、世界中のさまざまなブランドに OpenAI のテクノロジーを大幅に統合することを発表しました。

マイクロソフトとコールドプレイが AI を活用したインタラクティブ映画体験を開始

マイクロソフトとコールドプレイが AI を活用したインタラクティブ映画体験を開始

25/1/23 4:30

Coldplay は、ファンに AI を活用したインタラクティブな体験を提供するために Microsoft と提携し、ファンがバンドのニューアルバム「MOON MUSiC」をパーソナライズされた方法で楽しめるようにしました。

NVIDIA、AI を活用した不正検出ツールを発表

NVIDIA、AI を活用した不正検出ツールを発表

25/1/23 4:30

Hiya の調査では、2023 年には毎週 5 億 5000 万件もの詐欺電話が発生するという驚くべき数字が明らかになり、詐欺防止対策の強化が急務であることが浮き彫りになりました。

bottom of page