Nuevo modo de bloqueo de ChatGPT para mitigar los ataques de inyección rápida y filtración de datos

OpenAI ha presentado el Modo de Bloqueo de ChatGPT, una nueva función de seguridad diseñada para restringir las conexiones de red salientes y reducir el riesgo de filtración de información provocado por ataques de inyección de instrucciones (prompt injection). Este tipo de ataque consiste en ocultar instrucciones maliciosas dentro del contenido que procesa un modelo de inteligencia artificial con el objetivo de alterar su comportamiento o influir en sus respuestas.

La nueva función está enfocada específicamente en impedir la fase final de este tipo de ataques: la exfiltración de datos sensibles hacia infraestructuras controladas por un atacante mediante solicitudes de red salientes. Sin embargo, OpenAI aclara que el Modo de Bloqueo no evita que las instrucciones maliciosas lleguen al contexto del modelo ni elimina por completo el riesgo asociado a las inyecciones de instrucciones.

Cuando el Modo de Bloqueo está habilitado, varias capacidades de ChatGPT quedan restringidas. La navegación web en tiempo real se limita únicamente al contenido almacenado en caché, por lo que algunos resultados pueden no estar disponibles o encontrarse desactualizados. Asimismo, la recuperación y visualización de imágenes obtenidas desde la web queda deshabilitada.

La función de Investigación Profunda (Deep Research), que utiliza capacidades avanzadas de exploración y análisis, también se desactiva por completo mientras el Modo de Bloqueo se encuentra activo. Del mismo modo, las funcionalidades de Canvas que permiten ejecutar acciones con acceso a la red quedan bloqueadas, impidiendo que el usuario apruebe código capaz de realizar solicitudes externas.

Otra limitación importante es que ChatGPT no puede descargar archivos desde fuentes externas para analizarlos. No obstante, los archivos cargados manualmente por el usuario continúan siendo accesibles dentro de la conversación y pueden seguir utilizándose normalmente.

OpenAI señaló que otras funciones, como la memoria, la carga de archivos, el intercambio de conversaciones y la configuración relacionada con el entrenamiento de modelos, no se ven afectadas por el Modo de Bloqueo y pueden gestionarse de forma independiente.

La compañía también advirtió que esta medida no elimina todos los riesgos asociados a las inyecciones de instrucciones. El contenido malicioso oculto dentro de archivos cargados por los usuarios todavía puede influir en el comportamiento del modelo, provocando respuestas incorrectas, engañosas o manipuladas incluso cuando el Modo de Bloqueo está activado.

La publicación sobre el nuevo Modo de Bloqueo de ChatGPT para mitigar ataques de inyección de instrucciones y reducir el riesgo de filtración de datos fue publicada originalmente por Cyber Security News.

Consultar publicación original ↗