A IA operante, provedora da plataforma de defesa da IA de tempo de execução, está apresentando o Woodpecker, um mecanismo de equipe vermelho automatizado e de código aberto, que tornará os testes avançados de segurança acessíveis às organizações.
Segundo a empresa, Woodpecker é Projetado para ajudar as organizações a detectar e abordar proativamente as vulnerabilidades de segurança em sistemas de IA, ambientes de Kubernetes e APIs.
O Woodpecker já simula mais de 50% das 10 principais ameaças do OWASP entre as APIs, Kubernetes e LLMs, excedendo o escopo da simulação de ameaças dos principais produtos comerciais de equipes vermelhas.
O Woodpecker permite que as equipes de segurança, desenvolvedores e profissionais do DevOps identifiquem proativamente as vulnerabilidades e construam aplicativos mais resilientes, sem o custo e a complexidade das soluções tradicionais.
“As vulnerabilidades de segurança não discriminam com base no tamanho ou nos recursos de uma organização, acreditamos que a Red Teaming não deve ser um privilégio para alguns, deve ser uma prática fundamental para todos”, disse Vrajesh Bhavsar, CEO e co-fundador da IA operante. “Com o Woodpecker, estamos nivelando o campo de jogo, fornecendo recursos de equipes vermelhas em uma solução de código aberto que qualquer organização pode implantar. Os testes de segurança nessa profundidade devem ser um direito universal, não um privilégio reservado para aqueles com os maiores orçamentos de segurança”.
Ameaças como injeção imediata, envenenamento por dados e vazamento de modelo continuam a aumentar, mas apenas 24% dos projetos de IA generativos estão atualmente garantidos, de acordo com o Relatório da IBM. O Woodpecker é criado para abordar essas ameaças modernas direcionadas a aplicativos de IA, APIs em nuvem e ambientes de Kubernetes e foi projetado para imitar como os atacantes reais operam em várias camadas de infraestrutura.
O Woodpecker fornece recursos automatizados de equipes vermelhas em três domínios críticos:
- Segurança de Kubernetes: Identifica as equívocas, escalações de privilégios e padrões de implantação vulneráveis nos ambientes de orquestração de contêineres.
- Segurança da API: Simule vários cenários de ataque para descobrir vulnerabilidades em pontos de extremidade da API, mecanismos de autenticação e processos de manuseio de dados.
- Segurança da AI: Testes modelos de aprendizado de máquina e sistemas de IA para injeção imediata, envenenamento por dados e outros vetores de ataque específicos da IA emergentes.
Woodpecker do operante está agora disponível como um projeto de código aberto em https://github.com/operantai/woodPecker.
Como parte do lançamento, o operante também sediará hackathons e programas de engajamento de desenvolvedores nos EUA e na Índia.
Para mais informações sobre esta notícia, visite www.operant.ai.
Luis es un experto en Inteligência Empresarial, Redes de Computadores, Gestão de Dados e Desenvolvimento de Software. Con amplia experiencia en tecnología, su objetivo es compartir conocimientos prácticos para ayudar a los lectores a entender y aprovechar estas áreas digitales clave.
