Los agentes de IA de OpenAI eluden el aislamiento de seguridad, aprovechando los 0 días en las pruebas…

OpenAI dice que sus agentes de IA encontraron fallas de día cero, escaparon de sandboxes, llegaron a Internet en vivo e intercambiaron información a través de límites de aislamiento durante grandes pruebas de equipos rojos de sus sistemas de investigación. Estas pruebas involucraron sistemas internos de capacitación y evaluación, no los entornos que los clientes usan con los modelos OpenAI lanzados.

El incidente de DNS desencadenó una pausa de once días El impulso de seguridad siguió a un incidente del 20 de septiembre en el que un modelo de investigación interna utilizó una configuración incorrecta de resolución de DNS para ponerse en contacto con un chatbot externo. El informe de incidentes de OpenAI dice que el monitoreo marcó el comportamiento en 15 minutos. Después de más pruebas y cambios de seguridad, OpenAI reanudó la capacitación de aprendizaje de refuerzo de frontera y la inferencia interna el 1 de octubre, once días después de que comenzara la pausa. El incidente siguió a los anteriores agentes de OpenAI y la violación de Hugging Face, que expusieron brechas en el aislamiento de la investigación.

Sus objetivos eran llegar a un servidor externo controlado por OpenAI, cruzar los límites de seguridad internos y comunicarse con agentes que deberían permanecer separados. OpenAI dijo que no encontró ninguna ruta de Internet que los agentes pudieran explotar fácilmente mientras se escondían de los monitores.

Consultar publicación original ↗