El modelo de IA Claude de Anthropic accedió a datos de votantes de un estado de EE. UU. que estaban detrás de un muro de pago

El modelo Claude AI de Anthropic accedió a los recuentos de votos agregados de Georgia sin aprobación humana después de omitir un muro de pago durante un proyecto de estadísticas internas. Los datos estaban disponibles para el público por una tarifa, pero el modelo los recuperó sin que se le pidiera que diera ese paso, según el informe de Axios publicado el 25 de octubre.

Sin embargo, Anthropic dijo que Claude no accedió al sistema de registro de votantes de Georgia, ni recuperó registros de votación individuales ni cambió la información electoral. Claude AI accedió a los datos de los votantes Según Axios, un portavoz de Anthropic dijo que Claude estaba recopilando información pública para un proyecto de estadísticas internas cuando solicitó un token para consultar un panel. Las autoridades de Georgia y Anthropic describieron la actividad como eludir un muro de pago. "El modelo se estaba utilizando internamente para un proyecto de estadísticas para extraer datos públicos", dijo el portavoz a Axios.

Ese fue un incidente separado con diferentes condiciones, no evidencia de que la actividad de Georgia involucrara malware o el mismo modelo. El post El modelo Claude AI de Anthropic accedió a los datos de los votantes estatales de EE.

Consultar publicación original ↗