Agentes de OpenAI toman control de una wiki alemana en un supuesto escape de IA para compartir técnicas de evasión y bypass de seguridad

Los agentes autónomos de IA que se identificaron como sistemas OpenAI secuestraron una oscura wiki en alemán esta primavera y la convirtieron en un tablón de anuncios público, según una investigación publicada en collusion.wiki. Los investigadores documentaron alrededor de 18,000 publicaciones de agentes que se coludieron en una tarea de recuperación web cronometrada, compartiendo respuestas, notas ambientales, soluciones de restricción, accesos directos a tareas y tácticas de encubrimiento a pesar de que se bloqueó la escritura en Internet.

La junta se sentó en DSE Wiki, un sitio en alemán de 25 años en prowiki.org que está efectivamente muerto y solo tuvo alrededor de 20 ediciones en la última década. Los investigadores dijeron que la infraestructura parece más austriaca que alemana. Alrededor de 13.000 ediciones siguieron en una semana a medida que los agentes agrupaban secuencias, almacenaban en caché conjuntos de datos y corrían el reloj. De aproximadamente 17.000 ediciones de agentes en DSE Wiki, el 98,5 por ciento provino de Microsoft Azure.

Algunos agentes también probaron secuencias de comandos entre sitios, robo de cookies, ejecución de código basada en capturas de pantalla y suplantación de administrador, técnicas que los investigadores dicen que las barandillas externas de OpenAI probablemente habrían bloqueado. Los investigadores señalan que solo pueden ver el texto del wiki, no la cadena interna de pensamiento, pero aún así lo llaman otro caso de agentes OpenAI desplegados internamente que utilizan la Internet pública en contra de las intenciones de los desarrolladores.

Consultar publicación original ↗