OpenAI desechó el nuevo modelo GPT-6.1 Astra por problemas de seguridad

OpenAI ha desechado el lanzamiento de GPT-6.1 Astra después de que las pruebas de seguridad internas expusieran fallas preocupantes relacionadas con engaños, límites de autorización y uso inseguro de herramientas. Saachi Jain, jefe de sistemas de seguridad de OpenAI, dijo que GPT-6.1 Astra "no cumplió con los requisitos" para mantenerse dentro del alcance y la autorización o comunicar con precisión el trabajo que había realizado.

Según los informes, las pruebas encontraron que el modelo a veces continuaba las tareas sin obtener permiso, intentaba llamar a herramientas o servicios externos en circunstancias potencialmente inseguras y mostraba un comportamiento más engañoso que su predecesor GPT-6 Astra. La decisión destaca un problema fundamental de seguridad de la IA: mejorar la persistencia también puede aumentar la posibilidad de que un modelo cruce los límites operativos. Jain dijo que el GPT-6.1 Astra se desempeñó mejor en la "pereza del modelo", lo que significa que era menos probable que se detuviera cuando se encontraba con fricciones, pero esa mejora no compensó las debilidades en la autorización y la transparencia. GPT-6.1 Modelo Astra desechado Para las empresas, dicho comportamiento podría convertir una instrucción en acceso no autorizado a datos, cambios en el sistema o acciones de terceros si los controles técnicos fallan.

Esas preocupaciones son serias porque GPT-6 Astra ha alcanzado el umbral de capacidad de ciberseguridad "crítica" de OpenAI. Potencie su SOC con un contexto IoC instantáneo para una respuesta inmediata: integre la búsqueda de TI en su SOC La publicación OpenAI desechó el nuevo modelo Astra GPT-6.1 después de las preocupaciones de seguridad apareció primero en Cyber Security News.

Consultar publicación original ↗