詳細な調査結果
2024年 AIセキュリティ現状レポート
クラウドにおけるAIリスクの実態：数値とインサイトを公開
数十億件のクラウドアセットをスキャン、AIセキュリティに関する数々のインサイトを解明
「2024年 AIセキュリティ現状レポート」は、AWS、Azure、Google Cloud、Oracle Cloud、Alibaba Cloudにまたがる実際の運用環境におけるAIセキュリティリスクを明らかにしています。
「Orcaの『2024年 AIセキュリティ現状レポート』は、OWASP Machine Learning Security Top 10のリスクが実際の運用環境にどれほど蔓延しているかについて、貴重なインサイトを提供しています。これらのリスクの発生状況を深く理解することで、開発者や実務担当者は悪意ある攻撃者からAIモデルをより強固に保護できます。AIやMLのセキュリティに関心を持つすべての人にとって、極めて価値の高い調査結果です」
Shain Singh（OWASP ML Security Top 10 プロジェクト共同リード）
調査結果 #1: 加速するAI開発
AIの導入率は高く、大半の組織がこの技術を活用してカスタムソリューションを開発しています。これには多額の投資と戦略的なコミットメントが求められます。
56%
の組織が自社カスタムアプリケーションの開発にAIを活用
調査結果 #2: セキュリティの懸念材料となるクラウドプロバイダーのデフォルト設定
多くのデフォルト設定は、重要なセキュリティ対策よりもAI開発のスピードを優先しており、防ぎ得たはずのリスクを生み出しています。以下はその代表的な3つの例です。
27%
のAzure OpenAIを利用する組織が、アカウントにプライベートエンドポイントを設定していない
45%
のAmazon SageMakerバケットが、デフォルトのバケット命名規則を使用している
98%
のGoogle Vertex AIを利用する組織が、自己管理型の暗号化キーによる保管時暗号化を有効にしていない
調査結果 #3: AIにも存在する脆弱性のリスク
大半の組織が、少なくとも1件のCVEを含むAIパッケージをデプロイしています。その多くは低度から中度のリスクですが、CVEが1件存在するだけでも深刻度の高い攻撃パスにつながる可能性があります。
62%
の組織が、少なくとも1件のCVEを含むAIパッケージをデプロイしている
「さまざまな点で、AIは10年以上前のクラウドコンピューティングの黎明期を彷彿とさせる段階にあります。幸いなことに、私たちは新たなAI技術やモデルを保護するための準備をより整えられています。この目標の達成には認識向上と教育が極めて重要であり、それが今回このレポートを発行した理由です」
Gil Geron
Orca Security CEO兼共同創業者
レポート全文を入手する
2024年1月〜8月に収集されたデータを活用した「2024年 AIセキュリティ現状レポート」では、デプロイ済みAIモデルのセキュリティを分析し、クラウドサービスにおける重大なAIリスクを明らかにしています。
以下を含む、AIセキュリティの現状と将来に関する重要なインサイトを獲得できます。
- AIサービス、パッケージ、モデルの採用状況
- AIアプリケーションにおける脆弱性
- 露出したAIモデル
- 安全でないアクセス
- 設定ミス
- 暗号化
- AIセキュリティにおける課題
- 主要な推奨事項