Agentic AI Red Teaming revela cadenas de ataque de derivación de humanos en el circuito sin clic

Los sistemas de inteligencia artificial están transformando la forma en que opera el software, pero también están introduciendo nuevos riesgos de seguridad para los que muchas organizaciones aún no están completamente preparadas. La IA agéntica, es decir, aquella capaz de planificar y ejecutar tareas complejas de varios pasos de manera autónoma, se ha convertido en un nuevo objetivo para los atacantes, planteando desafíos que los modelos de seguridad tradicionales no fueron diseñados para enfrentar.

Durante gran parte del último año, investigadores de seguridad sometieron diversos sistemas de IA agéntica a pruebas exhaustivas para identificar posibles fallos y debilidades. Los resultados revelaron algo más que casos aislados: se detectó un patrón recurrente de vulnerabilidades explotables relacionadas con cadenas de suministro, comunicación entre agentes y mecanismos de control destinados a mantener la supervisión humana. Los analistas de Microsoft documentaron formalmente estos hallazgos mediante un amplio programa de red teaming enfocado en sistemas de IA agéntica desplegados en entornos reales. Según un informe compartido por Microsoft con Cyber Security News (CSN), doce meses de evaluaciones e incidentes reales llevaron a una actualización significativa de su taxonomía de modos de fallo para sistemas de IA, pasando de la versión 1.0 a la versión 2.0 e incorporando siete nuevas categorías de fallos.

Una auditoría de seguridad posterior identificó 512 vulnerabilidades, entre ellas la CVE-2026-25253, una falla de ejecución remota de código (RCE) que podía ser explotada mediante el secuestro de conexiones WebSocket. Los investigadores señalaron que los ataques más efectivos no dependían de una única vulnerabilidad, sino de la combinación de varios modos de fallo aparentemente menores. Al encadenar estas debilidades, los atacantes podían construir ataques complejos capaces de eludir los mecanismos de supervisión humana y los controles de seguridad tradicionales, dificultando su detección por parte de cualquier medida de protección individual.

La publicación "Agentic AI Red Teaming revela cadenas de ataque capaces de eludir la supervisión humana" apareció originalmente en Cyber Security News.

Consultar publicación original ↗