AI Security Posture Management (AI-SPM)

AI Security Posture Management é um campo emergente da segurança em nuvem que envolve a abordagem de riscos de segurança e problemas de conformidade associados ao uso de modelos de IA. Ele envolve uma coleção de estratégias, soluções e práticas projetadas para permitir que as organizações aproveitem com segurança modelos de IA e LLMs em seus negócios. 

Assim como outros ativos na nuvem, modelos de IA e LLMs apresentam riscos de segurança inerentes, incluindo visibilidade limitada, acesso público acidental, shadow data, dados não criptografados, chaves não seguras e muito mais.

Nos últimos anos, o uso de IA aumentou drasticamente. Mais da metade de todas as organizações já a utiliza em seus negócios. A adoção generalizada da IA, somada aos riscos de segurança no uso de serviços e pacotes de IA, coloca as organizações em um risco elevado de incidentes de segurança. Os números abaixo ajudam a ilustrar esse risco:

• 94% das organizações que utilizam OpenAI têm pelo menos uma conta acessível publicamente sem restrições. 
• 97% das organizações que utilizam notebooks do Amazon Sagemaker têm pelo menos um com acesso direto à internet.

Apesar de suas vantagens, a IA apresenta riscos de segurança significativos que as organizações devem considerar e abordar, incluindo:

• Falta de visibilidade: As equipes de segurança nem sempre sabem quais modelos de IA estão em uso no momento e não conseguem descobrir a shadow IA. 
• Exposição de dados: Configurações de acesso público incorretas, chaves expostas e dados sensíveis não criptografados podem causar vazamento de dados.
• Envenenamento de dados: Agentes mal-intencionados podem adulterar dados e inserir conteúdo malicioso.
• Exposição de chaves em repositórios: Essas chaves permitem que agentes mal-intencionados façam solicitações de API, adulterem o modelo de IA e exfiltrem dados.

O AI Security Posture Management envolve várias atividades importantes para cobrir riscos de IA de ponta a ponta, incluindo:

• Escaneamento e inventário de nuvem: Todo o ambiente de nuvem é escaneado para gerar um inventário completo de todos os modelos de IA implantados nos ambientes de nuvem. 
• Gestão de postura de segurança: A configuração segura de modelos de IA é garantida, incluindo segurança de rede, proteção de dados, controles de acesso e IAM. 
• Detecção de dados sensíveis: Informações sensíveis em modelos de IA ou dados de treinamento são identificadas e alertas são gerados para que as medidas apropriadas sejam tomadas. 
• Detecção de acesso de terceiros: As equipes são alertadas quando chaves e tokens sensíveis para serviços de IA são expostos em repositórios de código.

A Orca Cloud Security Platform protege seus modelos de IA de ponta a ponta — do treinamento e fine-tuning à implantação em produção e inferência.

• Inventário de IA e ML e BOM: Obtenha uma visão completa de todos os modelos de IA implantados em seu ambiente – tanto gerenciados quanto não gerenciados. 
• Gerenciamento de postura de segurança:  Garanta que os modelos de IA sejam configurados com segurança, incluindo segurança de rede, proteção de dados, controles de acesso e IAM.
• Detecção de dados sensíveis: Receba alertas se algum modelo de IA ou dados de treinamento contiverem informações sensíveis para que você possa tomar a ação apropriada.
• Detecção de acesso de terceiros: Detecte quando chaves e tokens para serviços de IA — como OpenAI, Hugging Face — estão expostos de forma insegura em repositórios de código.