Abrazar la cara confirma una infracción impulsada por la IA: los atacantes utilizaron agentes autónomos, los defensores contrarrestaron…

Hugging Face reveló esta semana que detectó y contuvo una intrusión en la infraestructura de producción, impulsada de extremo a extremo por un sistema autónomo de agentes de IA, y se defendió contra ella utilizando su propio análisis forense basado en IA. Los atacantes explotaron dos fallas de ejecución de código en el proceso de procesamiento de conjuntos de datos de Hugging Face: un cargador de conjuntos de datos de código remoto y una vulnerabilidad de inyección de plantilla en la configuración del conjunto de datos.

El acceso no autorizado afectó a un conjunto limitado de conjuntos de datos internos y credenciales de servicio, aunque Hugging Face no encontró evidencia de que los modelos públicos, los conjuntos de datos, los espacios o su cadena de suministro de software hayan sido manipulados. Hugging Face confirma una infracción impulsada por la IA Lo que hizo que esta campaña fuera distinta fue la escala y la autonomía: la intrusión ejecutó miles de acciones individuales en un enjambre de entornos limitados de corta duración, utilizando infraestructura de comando y control automigratoria montada en servicios públicos que coincidían con el escenario de “atacante agente” pronosticado durante mucho tiempo. El propio canal de detección de anomalías de Hugging Face, que utiliza una clasificación basada en LLM sobre telemetría de seguridad, señaló por primera vez el compromiso correlacionando señales que de otro modo se perderían en el ruido diario. Para reconstruir la línea de tiempo completa del ataque a partir de más de 17.000 acciones de atacantes registradas, Hugging Face ejecutó agentes de análisis basados ​​en LLM en todo el registro, comprimiendo lo que normalmente lleva días en horas.

Como lo expresó Hugging Face, la superficie de datos y modelo ahora debe tratarse como un vector de ataque de primera clase, lo que requiere que la defensa impulsada por la IA coincida con la ofensiva impulsada por la IA a la velocidad de la máquina. La publicación Hugging Face confirma una infracción impulsada por la IA: los atacantes utilizaron agentes autónomos, los defensores contrarrestaron con IA apareció por primera vez en Cyber ​​Security News.

Consultar publicación original ↗