Un hacker intentó convertir un chatbot de IA en una herramienta para atacar a otros servidores

Una plataforma de inteligencia de amenazas de amenazas artificial expuesta puede dar a un intruso más que un lugar para enviar mensajes. Una reciente investigación de honeypot muestra cómo un atacante intentó usar un agente de IA para estudiar la infraestructura real y preparar más actividades.

Los analistas del equipo de Detección e Investigación de Amenazas de Sekoia identificaron la actividad y documentaron cómo el intruso pasó de las comprobaciones básicas a los intentos de uso indebido del agente de IA. Su informe describe a un operador que intentó obtener datos confidenciales y convertir el chatbot en un asistente para examinar otros servidores. La investigación de Sekoia dice que la actividad abusó principalmente de las funciones de Flowise en lugar de depender de una falla de software. Un hacker intentó convertir un chatbot de IA en una herramienta El atacante primero verificó si el servicio Flowise estaba disponible y consultó su versión y la configuración del nodo.

Línea de tiempo de ataque de honeypot Flowise (Fuente – Sekoia) Después de probar las solicitudes de inferencia básicas, el operador intentó cambiar el nombre de un flujo de trabajo existente y crear uno nuevo llamado "Estado del sistema". La publicación Un hacker intentó convertir un chatbot de IA en una herramienta para atacar a otros servidores apareció por primera vez en Cyber Security News.

Consultar publicación original ↗