White Circle, een op veiligheid gerichte organisatie van algemeen nut, publiceerde een preprint waaruit blijkt dat de RISE-aanval de veiligheidsfilters van ChatGPT Images 2.5 van OpenAI, Nano Banana 2.1 van Google, DALL·E 3 en GPT‑Image‑2 kan omzeilen. Met alleen openbaar beschikbare tools genereerde de methode in ongeveer 13% van de pogingen seksuele beelden zonder toestemming. Volgens de onderzoekers zijn de nieuwere modellen „aanzienlijk makkelijker te kraken” dan eerdere versies. OpenAI en Google hebben niet gereageerd op de bevindingen.
Waarom het ertoe doet
Als de filters zwak blijven, kan iedereen met deze populaire beeldgeneratoren en minimale technische kennis schadelijke naaktbeelden maken.
