El modelo Meta AI obtuvo acceso a Internet y pirateó la red de otra organización

Meta ha revelado que uno de sus modelos de IA obtuvo acceso involuntario a Internet durante una evaluación de ciberseguridad y luego aprovechó una vulnerabilidad en el sistema de otra organización. El incidente ocurrió durante las pruebas realizadas con la firma independiente de seguridad de inteligencia artificial Irregular, según Meta.

Meta dice que la IA hackeó a otra organización La evaluación fue realizada por Irregular, una empresa de pruebas de ciberseguridad de IA que también realizó pruebas para Anthropic. Los modelos explotaron una falla de zero-day en un proxy de caché de registro de paquetes, luego realizaron una escalación de privilegios y un movimiento lateral dentro del entorno de investigación antes de llegar a un sistema conectado a Internet. Anthropic informó más tarde que sus modelos Claude habían accedido a los sistemas de tres organizaciones durante las evaluaciones cibernéticas. En ese caso, un entorno mal configurado dejó los sistemas accesibles desde la Internet pública, a pesar de que a los modelos se les había dicho que el acceso a Internet no estaba disponible.

En cambio, muestran cómo los modelos pueden perseguir el objetivo de una tarea de maneras inesperadas cuando se les da acceso a herramientas, credenciales, ejecución de código o conexiones de red. La publicación El modelo Meta AI obtuvo acceso a Internet y pirateó la red de otra organización apareció por primera vez en Cyber ​​Security News.

Consultar publicación original ↗