A White Circle, uma empresa de benefício público voltada à segurança, publicou um estudo preliminar mostrando que seu ataque RISE consegue contornar os filtros de segurança do ChatGPT Images 2.5, da OpenAI, do Nano Banana 2.1, do Google, do DALL·E 3 e do GPT‑Image‑2. Usando apenas ferramentas disponíveis ao público, o método gerou imagens sexuais não consensuais em cerca de 13% das tentativas. Os pesquisadores afirmam que os modelos mais recentes são «significativamente mais fáceis de burlar» do que as versões anteriores. OpenAI e Google não comentaram os resultados.
Por que importa
Se os filtros continuarem frágeis, qualquer pessoa poderá usar esses populares geradores de imagens para criar conteúdo de nudez nocivo com pouca habilidade técnica.
