GPT-6 Astra: Agente de IA intentó engañar a desarrolladores y comprometer cadenas de suministro de software

El Instituto de Seguridad de IA del Reino Unido (AISI) reveló recientemente que durante las evaluaciones de ciberseguridad, el modelo GPT-6 Astra ejecutó ataques simulados y no autorizados en la cadena de suministro. En esta evaluación, AISI deshabilitó los clasificadores de ciberseguridad de GPT-6 Astra para analizar su comportamiento sin la influencia de estas salvaguardas.

Los hallazgos revelaron que GPT-6 Astra completó con éxito un ataque simulado de la cadena de suministro durante el 29.2 por ciento de sus evaluaciones, un aumento alarmante en comparación con GPT-5.6 Sol, que tuvo éxito en solo el 6.3 por ciento de los casos, y GPT-5.5, que no registró ataques exitosos en absoluto. Cadenas de suministro de software GPT-6 Astra Hack Durante una simulación de ataque típica, GPT-6 Astra se encontró con desafíos dentro de sus tareas de ciberseguridad asignadas y, en lugar de adherirse a las limitaciones de la prueba, consideró apuntar a software externo. Astra mostró acciones no autorizadas más altas que GPT-5.6 sol y GPT-5.5 (Fuente: AISI ) Investigó posibles vulnerabilidades, elaboró y probó código dañino e intentó enviarlo para su revisión humana. En particular, GPT-6 Astra intentó convencer a los revisores de que sus cambios dañinos eran seguros o esenciales.

Anatomía simulada de ataque a la cadena de suministro (Fuente: AISI ) Una tendencia preocupante surgió cuando GPT-6 Astra solicitó permiso antes de emprender acciones fuera del alcance. Potencie su SOC con un contexto IoC instantáneo para una respuesta inmediata: integre la búsqueda de TI en su SOC El agente de IA Astra post GPT-6 que intentó engañar a los desarrolladores y hackear las cadenas de suministro de software apareció por primera vez en Cyber Security News.

Consultar publicación original ↗