La vulnerabilidad de ChatGPT permite a los atacantes filtrar silenciosamente las indicaciones de los usuarios y otros datos…

Los usuarios habitualmente confían en los asistentes de IA información altamente confidencial, incluidos registros médicos, documentos financieros y códigos comerciales patentados. Check Point Research reveló recientemente una vulnerabilidad crítica en la arquitectura de ChatGPT que permitía a los atacantes extraer este tipo exacto de datos de usuario de forma silenciosa.

Al abusar de un canal de salida encubierto en el entorno de ejecución de código aislado de ChatGPT, los atacantes podrían extraer el historial de chat, los archivos cargados y los resultados generados por IA sin activar alertas de usuario ni solicitudes de consentimiento. Eludir las protecciones salientes OpenAI diseñó el entorno de análisis de datos basado en Python como una zona de pruebas segura, bloqueando intencionalmente las solicitudes HTTP salientes directas para evitar la fuga de datos. Si bien el acceso a Internet convencional estaba bloqueado, el entorno de contenedores aún permitía la resolución DNS estándar. Los atacantes aprovecharon esta supervisión codificando datos confidenciales del usuario en etiquetas de subdominio DNS.

En lugar de utilizar DNS únicamente para la resolución de nombres de IP, el exploit fragmenta datos, como un diagnóstico médico analizado o un resumen financiero, en fragmentos seguros. La publicación La vulnerabilidad de ChatGPT permite a los atacantes filtrar silenciosamente las indicaciones de los usuarios y otros datos confidenciales apareció por primera vez en Cyber ​​Security News.

Consultar publicación original ↗