安全なAI

AIセキュリティは、AIモデルの使用に関連するセキュリティリスクやコンプライアンスの問題に対処する、クラウドセキュリティの新興分野です。これには、組織がビジネスにおいてAIモデルやLLMを安全に活用できるように設計された戦略、ソリューション、プラクティスが含まれます。 

他のクラウド資産と同様に、AIモデルやLLMには、可視性の制限、偶発的なパブリックアクセス、シャドーデータ、暗号化されていないデータ、保護されていないキーなど、固有のセキュリティリスクが伴います。

メリットがある一方で、AIには組織が考慮し対処すべき重大なセキュリティリスクも存在します。主なものは以下の通りです。

• 可視性の欠如：セキュリティチームは、現在どのAIモデルが使用されているかを常に把握しているわけではなく、シャドーAIを発見することもできません。 
• データの露出：パブリックアクセスの誤設定、露出したキー、暗号化されていない機密データは、データ漏洩の原因となります。
• データポイズニング：悪意のある攻撃者がデータを改ざんし、有害なコンテンツを混入させる可能性があります。
• リポジトリにおけるキーの露出：これらのキーにより、悪意のある攻撃者がAPIリクエストを実行したり、AIモデルを改ざんしたり、データを持ち出したりすることが可能になります。

Orcaクラウドセキュリティプラットフォームは、トレーニングや微調整から本番環境へのデプロイ、推論に至るまで、AIモデルをエンドツーエンドで保護します。

• AIおよびMLのインベントリとBOM: 管理・未管理を問わず、環境にデプロイされているすべてのAIモデルの完全なビューを取得します。
• 包括的なAI-SPMカバレッジ: ネットワークセキュリティ、データ保護、アクセス制御、IAMを含め、AIモデルが安全に構成されていることを保証します。
• 機密データの検出: AIモデルやトレーニングデータに機密情報が含まれている場合にアラートを通知し、適切な対策を講じることができます。
• サードパーティアクセスの検出: OpenAIやHugging FaceなどのAIサービスへのキーやトークンが、コードリポジトリ内で安全でない状態で露出していることを検出します。

OrcaクラウドセキュリティプラットフォームはDSPMソリューションの主要機能を提供します。クラウドセキュリティに対する当社の包括的なアプローチにより、データセキュリティは単一のプラットフォームにネイティブに組み込まれており、追加の統合は不要です。

さらに、データセキュリティのみに焦点を当てるDSPMツールとは対照的に、Orcaは包括的な視点で、データのインテリジェンスを他のクラウドリスクと組み合わせます。これには、脆弱性、マルウェア、誤設定、ラテラルムーブメントのリスク、アイデンティティとアクセスのリスク、APIリスクなどが含まれます。この包括的な洞察により、Orcaは直接的なリスクだけでなく、間接的なリスクがいかに機密データの露出につながるかを浮き彫りにします。

OrcaのSideScanning™テクノロジーは、エージェントを必要とせずにワークロードのruntimeブロックストレージからデータを収集し、パフォーマンスへの影響なしに完全なデータリスク分析を実行します。これにより、セキュリティチームはクラウド環境全体におけるデータストレージの包括的な可視性を確保し、不適切な場所に保管された機密データストアやシャドウデータも把握できます。

近年、AIの活用は劇的に増加しました。全組織の半数以上が、すでに業務の中でAIを利用しています。AIの急速な普及と、AIサービスやパッケージ利用に伴うセキュリティリスクにより、組織のセキュリティインシデントのリスクは高まっています。以下の数値はこのリスクを浮き彫りにしています：

• OpenAIを利用している組織の94%において、制限なしでパブリックにアクセス可能なアカウントが少なくとも1つ存在しています。
• Amazon SageMakerノートブックを使用している組織の97%で、少なくとも1つがインターネットに直接接続されています。