شرکت عام‌المنفعه White Circle که بر ایمنی تمرکز دارد، پیش‌نویس پژوهشی‌ای منتشر کرده که نشان می‌دهد حمله RISE می‌تواند فیلترهای ایمنی ChatGPT Images 2.5 از OpenAI، Nano Banana 2.1 از Google، DALL·E 3 و GPT‑Image‑2 را دور بزند. این روش، با استفاده از ابزارهایی که در دسترس عموم قرار دارند، در حدود ۱۳ درصد تلاش‌ها تصاویر جنسیِ بدون رضایت افراد تولید کرد. پژوهشگران می‌گویند مدل‌های جدیدتر در مقایسه با نسخه‌های قبلی «به‌مراتب آسان‌تر قابل فریب‌اند». OpenAI و Google هنوز درباره این یافته‌ها اظهارنظری نکرده‌اند.
چرا مهم است
اگر فیلترها همچنان ضعیف باشند، هرکسی می‌تواند با مهارت فنی اندک از این ابزارهای محبوب تولید تصویر برای ساخت محتوای برهنه و آسیب‌زا استفاده کند.
