White Circle, una corporación de beneficio público centrada en la seguridad, publicó un preprint que muestra que su ataque RISE puede eludir los filtros de seguridad de ChatGPT Images 2.5 de OpenAI, Nano Banana 2.1 de Google, DALL·E 3 y GPT‑Image‑2. Con herramientas disponibles públicamente, el método generó imágenes sexuales no consentidas en aproximadamente el 13 % de los intentos. Los investigadores afirman que los modelos más nuevos son «mucho más fáciles de vulnerar» que las versiones anteriores. OpenAI y Google no han comentado los hallazgos.
Por qué importa
Si los filtros siguen siendo débiles, cualquiera puede usar estos populares generadores de imágenes para crear contenido dañino con desnudos y con conocimientos técnicos mínimos.
