White Circle, una società di pubblica utilità attenta alla sicurezza, ha pubblicato un preprint che mostra come il suo attacco RISE riesca ad aggirare i filtri di sicurezza di ChatGPT Images 2.5 di OpenAI, Nano Banana 2.1 di Google, DALL·E 3 e GPT‑Image‑2. Usando soltanto strumenti disponibili pubblicamente, il metodo ha generato immagini sessuali non consensuali in circa il 13% dei tentativi. I ricercatori affermano che i modelli più recenti sono «molto più facili da aggirare» rispetto alle versioni precedenti. OpenAI e Google non hanno commentato i risultati.
Perché conta
Se i filtri restano deboli, chiunque può usare questi popolari generatori di immagini per creare contenuti di nudo dannosi con competenze tecniche minime.
