組織は差別化を推進するために、AIアプリケーションを活用してイノベーションを急速に押し進めています。しかし、このような社内でのAIアプリの急増は、セキュリティ、安全性、ガバナンスの新たな課題を招いています。
このレポートでは、Forresterが、AIレッド チーミングにより従来の攻撃を用いたセキュリティ手法と新しいテスト手法を組み合わせて組織を次のように支援する仕組みを解説しています。
- インフラ、API、統合、AIワークフローを含む、すべてのAIアプリケーション スタックを評価します。
- 人間主導のテストから、継続的で自動化されたエージェント型レッド チーミングに移行します。
- バイアス、有害性、安全性の欠陥、意図しない動作など、AI特有のリスクを評価します。
- ユース ケース、導入状況、規制上の圧力に基づいて、AIレッド チーミングを個別に調整します。
- AIガードレールとシステム プロンプトの強化により、セキュリティ上の脆弱性を修復します。
このレポートでは、SPLX (現在はZscalerの一部)などのプロバイダーが活用している新たな手法についても取り上げ、プロンプトのみのテストにとどまらず、より詳細かつ体系的なAIリスクを明らかにする取り組みを紹介しています。
