Gestion de la posture de sécurité de l'IA (AI-SPM)

L'AI Security Posture Management est un domaine émergent de la sécurité cloud qui consiste à traiter les risques de sécurité et les problèmes de conformité associés à l'utilisation des modèles d'IA. Il s'agit d'un ensemble de stratégies, de solutions et de pratiques conçues pour permettre aux organisations d'exploiter en toute sécurité les modèles d'IA et les LLM dans leurs activités. 

Comme les autres actifs cloud, les modèles d'IA et les LLM présentent des risques de sécurité inhérents, notamment une visibilité limitée, un accès public accidentel, le shadow data, des données non chiffrées, des clés non sécurisées, et plus encore.

Ces dernières années, l'usage de l'IA a augmenté de manière spectaculaire. Plus de la moitié des organisations l'utilisent déjà dans le cadre de leurs activités. L'adoption massive de l'IA, associée aux risques de sécurité liés aux services et packages d'IA, expose les organisations à un risque accru d'incidents. Les chiffres ci-dessous illustrent ce risque :

• 94 % des organisations utilisant OpenAI possèdent au moins un compte accessible publiquement sans restriction. 
• 97 % des organisations utilisant les notebooks Amazon Sagemaker en possèdent au moins un avec un accès direct à Internet.

Malgré ses avantages, l'IA présente des risques de sécurité importants que les organisations doivent prendre en compte et traiter, notamment :

• Manque de visibilité : les équipes de sécurité ne savent pas toujours quels modèles d'IA sont utilisés et ne sont pas en mesure de découvrir le shadow AI. 
• Exposition des données : des paramètres d'accès public mal configurés, des clés exposées et des données sensibles non chiffrées peuvent provoquer des fuites de données.
• Empoisonnement des données : des acteurs malveillants peuvent potentiellement altérer les données et insérer du contenu malveillant.
• Exposition de clés dans les dépôts : ces clés permettent à des acteurs malveillants d'effectuer des requêtes API, d'altérer le modèle d'IA et d'exfiltrer des données.

L'AI Security Posture Management implique plusieurs activités importantes pour couvrir les risques liés à l'IA de bout en bout, notamment :

• Scan et inventaire du cloud : L'ensemble du patrimoine cloud est scanné pour générer un inventaire complet de tous les modèles d'IA déployés dans l'environnement (ou les environnements) cloud. 
• Gestion de la posture de sécurité : La configuration sécurisée des modèles d'IA est garantie, incluant la sécurité réseau, la protection des données, les contrôles d'accès et l'IAM. 
• Détection de données sensibles : Les informations sensibles dans les modèles d'IA ou les données d'entraînement sont identifiées et des alertes sont générées afin que des mesures appropriées puissent être prises. 
• Détection des accès tiers : les équipes sont alertées lorsque des clés et jetons sensibles pour les services d'IA sont exposés dans les dépôts de code.

La plateforme Orca Cloud Security sécurise vos modèles d'IA de bout en bout — de l'entraînement et du fine-tuning au déploiement en production et à l'inférence.

• Inventaire et BOM IA/ML : Obtenez une vue complète de tous les modèles d'IA déployés dans votre environnement – qu'ils soient gérés ou non. 
• Gestion de la posture de sécurité : assurez-vous que les modèles d'IA sont configurés de manière sécurisée, y compris la sécurité réseau, la protection des données, les contrôles d'accès et l'IAM.
• Détection des données sensibles : Soyez alerté si des modèles d'IA ou des données d'entraînement contiennent des informations sensibles afin de prendre les mesures appropriées.
• Détection des accès tiers : Détectez quand des clés et des jetons d'accès aux services d'IA — tels qu'OpenAI ou Hugging Face — sont exposés de manière non sécurisée dans les dépôts de code.