OpenAI lanza AI Safety Bug Bounty para detectar vulnerabilidades específicas de AI

OpenAI ha anunciado el lanzamiento de un programa público Safety Bug Bounty para identificar el abuso de IA y los riesgos de seguridad en todos sus productos. Alojada en Bugcrowd, la nueva iniciativa marca un paso significativo en los esfuerzos de la compañía para abordar las vulnerabilidades que quedan fuera del alcance de las fallas de seguridad tradicionales pero que aún presentan un potencial de daño en el mundo real.

El programa Safety Bug Bounty está diseñado para complementar el programa Security Bug Bounty existente de OpenAI al aceptar envíos que conllevan abusos significativos y riesgos de seguridad incluso cuando esos problemas no califican como vulnerabilidades de seguridad convencionales. Los envíos serán evaluados conjuntamente por los equipos de seguridad y protección de errores de OpenAI y pueden redirigirse entre los dos programas según el alcance y la propiedad. Categorías de riesgo específicas de IA en foco El programa se enfoca en varias categorías distintas de escenarios de seguridad específicos de IA: Riesgos de agentes, incluido MCP: esto cubre escenarios de inyección rápida de terceros y exfiltración de datos donde el texto controlado por un atacante puede secuestrar de manera confiable el agente de IA de una víctima, incluido el navegador, el agente ChatGPT y productos de agentes similares, para realizar acciones dañinas o filtrar datos confidenciales del usuario. Para las vulnerabilidades que permiten el acceso no autorizado a características, datos o funcionalidades más allá de los permisos permitidos, los investigadores son dirigidos al programa Security Bug Bounty existente.

Al incentivar la investigación centrada en la seguridad junto con la divulgación de vulnerabilidades convencionales, OpenAI está estableciendo efectivamente un marco estructurado para el modelado de amenazas específicas de la IA. La publicación OpenAI lanza AI Safety Bug Bounty para detectar vulnerabilidades específicas de AI apareció por primera vez en Cyber ​​Security News.

Consultar publicación original ↗