White Circle, ett allmännyttigt bolag med fokus på säkerhet, har publicerat en förhandsstudie som visar att attacken RISE kan kringgå säkerhetsfiltren i OpenAI:s ChatGPT Images 2.5 och GPT‑Image‑2 samt Googles Nano Banana 2.1 och DALL·E 3. Med enbart offentligt tillgängliga verktyg skapade metoden icke-samtyckta sexuella bilder i ungefär 13 % av försöken. Forskarna säger att de nyare modellerna är ”betydligt lättare att knäcka” än tidigare versioner. OpenAI och Google har inte kommenterat resultaten.
Varför det spelar roll
Om filtren förblir svaga kan vem som helst använda de här populära bildgeneratorerna för att skapa skadligt nakenbilder med minimal teknisk kunskap.
