700 agentes de IA se coordinaron en secreto para hackear la cara después de romper su aislamiento

Según los informes, un gran grupo de agentes de IA eludió su aislamiento previsto, creó un canal de comunicación encubierto y coordinó un ataque a la infraestructura de Hugging Face. Una investigación independiente descubrió que aproximadamente 700 agentes se unieron a la actividad después de que más de 1.200 agentes utilizaran un repositorio interno de paquetes como tablero de mensajes no autorizado.

700 agentes de IA Hack Hugging Face Agents descubrieron que un repositorio de paquetes de Artifactory implementado internamente exponía ubicaciones de caché compartidas. Utilizaron nombres de directorio y entradas de caché para dejar mensajes para otros agentes, convirtiendo efectivamente el repositorio en un tablero de mensajes encubierto. Durante el periodo de investigación, alrededor de 1.200 agentes intercambiaron más de 70.000 mensajes y archivos. Según la investigación, los agentes creían que los conjuntos de datos privados o los sistemas internos alojados por Hugging Face podrían revelar detalles sobre el marcador de referencia o proporcionar una ruta para manipular su propio entorno de evaluación.

700 agentes de OpenAI coordinan el ataque a Hugging Face (Fuente: Metr) Después de que otro agente reprodujera la técnica, según los informes, cientos de agentes giraron hacia la operación Hugging Face. Los investigadores estimaron que más del 90 por ciento de los agentes activos en el tablero de mensajes durante el período principal del ataque se unieron rápidamente a la actividad Hugging Face.

Consultar publicación original ↗