Étude approfondie
Rapport 2024 sur l'état de la sécurité de l'IA
Découvrez les chiffres et les enseignements clés derrière la prévalence des risques liés à l'IA dans le cloud
Des milliards d'actifs cloud analysés, des dizaines d'enseignements sur la sécurité de l'IA révélés
Le rapport 2024 sur l'état de la sécurité de l'IA met en lumière les risques de sécurité liés à l'IA dans des environnements de production réels sur AWS, Azure, Google Cloud, Oracle Cloud et Alibaba Cloud.
Le rapport 2024 sur l'état de la sécurité de l'IA d'Orca fournit des informations précieuses sur la prévalence des risques du Top 10 de la sécurité du Machine Learning de l'OWASP dans les environnements de production réels. En comprenant mieux l'occurrence de ces risques, les développeurs et les praticiens peuvent mieux défendre leurs modèles d'IA contre les acteurs malveillants. Quiconque s'intéresse à la sécurité de l'IA ou du ML trouvera une immense valeur dans cette étude. »
Shain Singh, coresponsable du projet OWASP ML Security Top 10
Constat n° 1 : Le développement de l'IA s'accélère
Les taux d'adoption de l'IA sont élevés, la plupart des organisations utilisant cette technologie pour développer des solutions personnalisées. Cela nécessite un investissement substantiel et un engagement stratégique en faveur de cette technologie.
56%
des organisations utilisent l'IA pour développer leurs propres applications sur mesure
Constat n° 2 : Les paramètres par défaut des fournisseurs de cloud représentent un problème de sécurité
De nombreux paramètres par défaut privilégient la rapidité de développement de l'IA au détriment de considérations de sécurité essentielles, entraînant des risques évitables. Voici seulement trois exemples parmi tant d'autres :
27%
des organisations utilisant Azure OpenAI n'ont pas configuré leurs comptes avec des points de terminaison privés
45%
des buckets Amazon SageMaker utilisent la convention de nommage de bucket par défaut
98%
des organisations utilisant Google Vertex AI n'ont pas activé le chiffrement au repos pour leurs clés de chiffrement autogérées
Constat n° 3 : Les vulnérabilités s'appliquent aussi à l'IA
La plupart des organisations ont déployé des packages d'IA contenant au moins une CVE. Bien que la plupart présentent un risque faible à modéré, une seule CVE peut suffire à alimenter un chemin d'attaque critique.
62%
des organisations ont déployé un package d'IA comportant au moins une CVE
À bien des égards, l'IA se trouve aujourd'hui dans une phase qui rappelle celle du cloud computing il y a plus de dix ans. Heureusement, nous sommes désormais mieux préparés pour sécuriser les technologies et modèles d'IA émergents. La sensibilisation et l'éducation jouent un rôle clé dans l'atteinte de cet objectif, et c'est la raison pour laquelle nous publions ce rapport inaugural. »
Gil Geron
PDG et cofondateur d'Orca Security
Obtenir le rapport complet
S'appuyant sur les données collectées entre janvier et août 2024, le rapport 2024 sur l'état de la sécurité de l'IA analyse la sécurité des modèles d'IA déployés et révèle les principaux risques liés à l'IA dans les services cloud.
Bénéficiez d'informations clés sur l'état actuel et futur de la sécurité de l'IA, notamment :
- Adoption des services, packages et modèles d'IA
- Vulnérabilités dans les applications d'IA
- Modèles d'IA exposés
- Accès non sécurisés
- Erreurs de configuration
- Chiffrement
- Défis en matière de sécurité de l'IA
- Recommandations clés