Fallos de seguridad encontrados en todos los scripts generados por ChatGPT, Copilot y Gemini

Un nuevo estudio académico de Beacom College of Computer & Cyber ​​Sciences ha revelado que cada script de automatización generado por los principales modelos de IA ChatGPT, Microsoft Copilot y Google Gemini contenía vulnerabilidades de seguridad explotables. A medida que las empresas dependen cada vez más de las herramientas de IA para acelerar los flujos de trabajo de desarrollo, estos hallazgos resaltan los graves riesgos asociados con la implementación de código generado por IA no revisado directamente en entornos de producción.

Para evaluar la calidad de seguridad del código generado por IA sin sesgos en las indicaciones, los investigadores emitieron indicaciones estandarizadas idénticas en ChatGPT, Microsoft Copilot y Google Gemini. Fallos de seguridad encontrados en cada script generado La investigación demuestra que los fallos de seguridad son sistémicos y no específicos de una marca. Los recuentos de vulnerabilidades se mantuvieron notablemente consistentes en todas las plataformas: los scripts de ChatGPT contenían 13 vulnerabilidades, los de Copilot contenían 14 y los de Gemini tenían 12, con una variación estadísticamente insignificante. Matriz de superposición de vulnerabilidades en ChatGPT, Copilot y Gemini (Fuente de la imagen:arxiv.org/) Vulnerabilidades principales observadas en todas las plataformas: falsificación de solicitudes del lado del servidor (SSRF): parámetros de URL no validados en cada script de raspador web, lo que permite a atacantes potenciales sondear las redes internas.

Defectos de inyección: inyección de plantillas y encabezados de correo electrónico en cada script de automatización de correo electrónico, lo que permite la manipulación de mensajes o el phishing. La publicación Fallos de seguridad encontrados en cada secuencia de comandos generada por ChatGPT, Copilot y Gemini apareció por primera vez en Cyber ​​Security News.

Consultar publicación original ↗