OWASP publica un informe de seguridad de IA para capacitar a los profesionales de la seguridad con nuevas herramientas

OWASP ha publicado el informe "State of Agentic AI Security and Governance v2.01″, una guía técnica dirigida a equipos de seguridad que buscan proteger agentes de IA autónomos que se están implementando rápidamente en entornos de producción. El informe, que forma parte de la Iniciativa de Seguridad Agentic AI del Proyecto de Seguridad GenAI de OWASP, presenta la seguridad de la IA como una realidad operativa y no como una preocupación teórica, respaldándose en incidentes reales, CVE y un creciente ecosistema de código abierto basado en marcos de agentes y agentes de programación.

A nivel estratégico, OWASP sostiene que la seguridad de la IA y la seguridad de los sistemas basados en IA ya no pueden tratarse como disciplinas separadas cuando estos sistemas adquieren autonomía y acceso a herramientas. El informe destaca la necesidad de fortalecer la gobernanza, el monitoreo y la respuesta ante incidentes en ambos ámbitos, en lugar de gestionarlos mediante taxonomías de riesgo independientes y procesos de escalamiento desconectados. Además, presenta una taxonomía detallada para los sistemas de agentes, clasificándolos según su función operativa, como empresarial, programación, atención al cliente, uso personal e infraestructura/operaciones. También los clasifica según su patrón de implementación y composición, incluyendo marcos de orquestación, plataformas de bajo código, sistemas de agente único, sistemas multiagente, cadenas distribuidas y arquitecturas de generación de agentes.

Los datos comprometidos o envenenados por proveedores pueden propagarse a través de contextos compartidos entre agentes de IA, creando riesgos entre inquilinos dentro de la cadena de suministro (Fuente: OWASP). La autonomía se considera una dimensión transversal: los agentes supervisados, semiautónomos y completamente autónomos presentan niveles de riesgo significativamente diferentes, especialmente cuando se combinan con memoria persistente y amplios permisos sobre herramientas. La publicación "OWASP publica un informe de seguridad de IA para dotar a los profesionales de seguridad de nuevas herramientas" apareció por primera vez en Cyber Security News.

Consultar publicación original ↗