White Circle, une société d’intérêt public axée sur la sécurité, a publié une prépublication montrant que son attaque RISE peut contourner les filtres de sécurité de ChatGPT Images 2.5 d’OpenAI, de Nano Banana 2.1 de Google, de DALL·E 3 et de GPT‑Image‑2. En utilisant uniquement des outils accessibles au public, la méthode a généré des images sexuelles non consenties dans environ 13 % des tentatives. Les chercheurs estiment que les modèles les plus récents sont « nettement plus faciles à détourner » que les versions précédentes. OpenAI et Google n’ont pas commenté ces résultats.
Pourquoi c'est important
Si les filtres restent vulnérables, n’importe qui pourra utiliser ces générateurs d’images populaires pour créer des contenus nus préjudiciables avec un minimum de compétences techniques.
