OpenAI ralentiza el desarrollo del nuevo modelo Astra para medir las capacidades de ciberseguridad

OpenAI ha anunciado que está ralentizando deliberadamente el desarrollo de Astra, su próximo modelo de IA de vanguardia, después de que evaluaciones internas revelaran avances en codificación agente y ciberseguridad que podrían llevar al sistema a un territorio de riesgo "crítico". La compañía dijo que tomó la decisión después de revisar los resultados de pruebas internas recientes junto con evaluaciones de expertos externos, y concluyó que actualmente no puede descartar capacidades cibernéticas críticas bajo su Marco de Preparación, la guía de seguridad interna que OpenAI ha utilizado desde diciembre de 2023 para rastrear y responder a las crecientes capacidades de IA en biología, química, ciberseguridad y superación personal.

Según el marco de OpenAI, un modelo entra en territorio crítico si puede identificar y crear de forma independiente exploits funcionales de zero-day en todos los niveles de gravedad contra sistemas críticos reforzados del mundo real sin ayuda humana, o si puede planificar y ejecutar estrategias completas de ciberataques novedosos contra objetivos reforzados desde nada más que un objetivo de alto nivel. Las pruebas preliminares de OpenAI sugieren que el desempeño de Astra es lo suficientemente sólido como para que este umbral no pueda excluirse, lo que llevó a la compañía a revelar públicamente el hallazgo en aras de la transparencia con la comunidad de investigación de seguridad. OpenAI ralentiza el nuevo modelo Astra En respuesta, OpenAI ha ampliado las pruebas de solidez de sus salvaguardias y controles de seguridad para que coincidan con el elevado perfil de riesgo. En junio de 2025, la compañía tomó medidas similares después de que sus modelos se acercaran al umbral de alto riesgo para las capacidades biológicas, fortaleciendo las salvaguardias y ampliando las asociaciones de pruebas externas en ese momento.

OpenAI dice que ahora está aplicando el mismo principio de gobernanza a las capacidades de ciberseguridad de Astra. La publicación OpenAI ralentiza el desarrollo del nuevo modelo Astra para medir las capacidades de ciberseguridad apareció por primera vez en Cyber ​​Security News.

Consultar publicación original ↗