Pesquisa aprofundada
Relatório State of AI Security 2024
Revelando os números e insights por trás da prevalência de riscos de IA na nuvem
Bilhões de ativos de nuvem verificados, dezenas de insights sobre segurança de IA revelados
O relatório 2024 State of the AI Security revela riscos de segurança de IA em ambientes de produção reais na AWS, Azure, Google Cloud, Oracle Cloud e Alibaba Cloud.
O Relatório State of AI Security 2024 da Orca fornece insights valiosos sobre a prevalência dos riscos do OWASP Machine Learning Security Top 10 em ambientes de produção reais. Ao entender melhor a ocorrência desses riscos, desenvolvedores e profissionais podem defender melhor seus modelos de IA contra agentes mal-intencionados. Qualquer pessoa preocupada com a segurança de IA ou ML encontrará um enorme valor neste estudo.”
Shain Singh, colíder de projeto do OWASP ML Security Top 10
Descoberta nº 1: O desenvolvimento de IA está acelerando
As taxas de adoção de IA são altas, com a maioria das organizações usando a tecnologia para desenvolver soluções personalizadas. Isso exige um investimento substancial e um compromisso estratégico com a tecnologia.
56%
das organizações estão usando IA para desenvolver seus próprios aplicativos personalizados
Descoberta nº 2: As configurações padrão dos provedores de nuvem são uma preocupação de segurança
Muitas configurações padrão priorizam a velocidade do desenvolvimento de IA em detrimento de considerações cruciais de segurança, gerando riscos evitáveis. Veja a seguir apenas três de muitos exemplos:
27%
das organizações que usam o Azure OpenAI não configuraram suas contas com endpoints privados
45%
dos buckets do Amazon SageMaker estão usando a convenção padrão de nomenclatura de buckets
98%
das organizações que usam o Google Vertex AI não habilitaram a criptografia em repouso para suas chaves de criptografia autogerenciadas
Descoberta nº 3: As vulnerabilidades também afetam a IA
A maioria das organizações implantou pacotes de IA que contêm pelo menos uma CVE. Embora a maioria apresente risco baixo a moderado, até mesmo uma única CVE pode viabilizar um caminho de ataque de alta gravidade.
62%
das organizações implantaram um pacote de IA com pelo menos uma CVE
De muitas formas, a IA está agora em um estágio que lembra a computação em nuvem há mais de uma década. Felizmente, hoje estamos mais preparados para proteger tecnologias e modelos de IA emergentes. A conscientização e a educação desempenham um papel fundamental para atingir esse objetivo, e é por isso que estamos lançando este relatório inaugural.”
Gil Geron
CEO e Cofundador da Orca Security
Acesse o relatório completo
Com base em dados coletados entre janeiro e agosto de 2024, o relatório 2024 State of AI Security analisa a segurança dos modelos de IA implantados e revela os principais riscos de IA em serviços em nuvem.
Obtenha insights importantes sobre o estado atual e futuro da segurança de IA, incluindo:
- Adoção de serviços, pacotes e modelos de IA
- Vulnerabilidades em aplicações de IA
- Modelos de IA expostos
- Acesso inseguro
- Erros de configuração
- Criptografia
- Desafios na segurança de IA
- Principais recomendações