Bots de atención al cliente con IA pueden ser engañados para robar códigos de seguridad y hacerse pasar por víctimas

A los bots de servicio al cliente impulsados por IA se les está dando más responsabilidad dentro de las empresas, incluido el acceso a los perfiles de los clientes, los datos de facturación, las bandejas de entrada de soporte, los cambios de cuenta y las herramientas de reembolso. En cambio, pueden manipular los datos y mensajes que recibe un agente de IA, lo que hace que revele información confidencial o realice acciones como cliente legítimo.

Muchos bots de soporte permiten a los usuarios enviar por correo electrónico una copia de una conversación. Un atacante podría inyectar texto malicioso en una sesión de chat y usar la función de transcripción para crear un correo electrónico de phishing que parece provenir de una dirección de soporte de confianza. Las fallas de falsificación de correos electrónicos pueden empeorar el problema. Sin embargo, los sistemas de entrega y autenticación de correo electrónico pueden validar un campo de remitente diferente.

A continuación, podrían activar un correo electrónico legítimo de restablecimiento de contraseña desde otro servicio, como una plataforma de redes sociales, a la bandeja de entrada de soporte de la empresa. Los bots de servicio al cliente de post AI pueden ser engañados para robar códigos de seguridad y actuar como víctimas aparecieron por primera vez en Cyber Security News.

Consultar publicación original ↗