Microsoft Defender para Office 365 agrega una nueva protección de inyección rápida

Microsoft ha introducido una nueva capacidad en Defender para Office 365 para proteger contra ataques de inyección rápida, que se dirigen a flujos de trabajo de correo electrónico impulsados ​​por IA, como Microsoft 365 Copilot. Esta actualización refleja la evolución del panorama de amenazas, donde los atacantes intentan cada vez más manipular los sistemas de inteligencia artificial en lugar de engañar directamente a los usuarios humanos.

Los ataques de inyección rápida implican incorporar instrucciones maliciosas en el contenido del correo electrónico que procesa un asistente de IA. Por ejemplo, un correo electrónico dañino podría contener una directiva oculta que indique a un asistente de inteligencia artificial que marque el mensaje como seguro o que reenvíe información confidencial a una dirección externa. Protección de avisos de Microsoft Defender para Office 365 Microsoft Defender para Office 365 mitiga este riesgo al detectar intentos de inyección de avisos durante el proceso de filtrado de correo electrónico, antes de que los mensajes lleguen a los usuarios finales o a los sistemas de inteligencia artificial. Si bien las aplicaciones de inteligencia artificial como Copilot tienen medidas de seguridad integradas, como validación de entradas, aislamiento de mensajes y filtrado de salida, Defender para Office 365 agrega una capa temprana de protección en la puerta de enlace del correo electrónico.

Al ampliar la seguridad del correo electrónico para abarcar ataques dirigidos a IA, Microsoft pretende reducir el riesgo de que los adversarios exploten una de las superficies de ataque más nuevas y de más rápida evolución. La publicación Microsoft Defender para Office 365 agrega una nueva protección de inyección rápida apareció por primera vez en Cyber ​​Security News.

Consultar publicación original ↗