Güvenliğe odaklanan kamu yararına çalışan White Circle, RISE saldırısının OpenAI’ın ChatGPT Images 2.5, Google’ın Nano Banana 2.1, DALL·E 3 ve GPT‑Image‑2 modellerinin güvenlik filtrelerini aşabildiğini gösteren bir ön baskı yayımladı. Yöntem, yalnızca herkese açık araçları kullanarak denemelerin yaklaşık %13’ünde rıza dışı cinsel görüntüler üretti. Araştırmacılar, yeni modellerin önceki sürümlere kıyasla “önemli ölçüde daha kolay kandırılabildiğini” söylüyor. OpenAI ve Google bulgular hakkında yorum yapmadı.
Neden önemli
Filtreler zayıf kalırsa herkes, çok az teknik bilgiyle bu popüler görüntü oluşturucuları kullanarak zararlı çıplak içerikler üretebilir.
