GPT‑5.5 Bio Bug Bounty para fortalecer las capacidades avanzadas de IA

OpenAI ha anunciado un nuevo programa Bio Bug Bounty para GPT-5.5 como parte de sus esfuerzos para mejorar los controles de seguridad para sistemas avanzados de IA y abordar el uso indebido en biología. La iniciativa invita a investigadores calificados a probar si se puede hacer jailbreak universalmente a GPT-5.5 para evitar las protecciones de bioseguridad.

El programa se centra en un desafío específico: los participantes deben encontrar un único mensaje de "fuga universal" que pueda hacer que GPT-5.5 responda las cinco preguntas del desafío de bioseguridad de OpenAI desde una sesión de chat limpia, sin activar la moderación. Fortalecer las salvaguardias para la IA avanzada En términos simples, se pide a los investigadores que determinen si un mensaje cuidadosamente diseñado puede anular consistentemente las barreras de seguridad biológica del modelo. Según OpenAI, el modelo en cuestión es GPT-5.5 que se ejecuta solo en Codex Desktop. En su lugar, OpenAI invitará a un grupo examinado de bio-equipos rojos de confianza y también revisará las solicitudes de nuevos investigadores con experiencia relevante en equipos rojos de IA, seguridad o bioseguridad.

La compañía dijo que los investigadores interesados ​​en un trabajo de seguridad más amplio también pueden consultar sus programas Safety Bug Bounty y Security Bug Bounty existentes. El nuevo GPT-5.5 Bio Bug Bounty agrega otra capa a ese esfuerzo, mostrando cómo la seguridad de la IA se superpone cada vez más con la bioseguridad, los equipos rojos y la investigación avanzada de inyección rápida.

Consultar publicación original ↗