نشرت White Circle، وهي شركة ذات منفعة عامة تركّز على السلامة، ورقة بحثية أولية تُظهر أن هجوم RISE يمكنه تجاوز مرشحات السلامة في ChatGPT Images 2.5 من OpenAI وNano Banana 2.1 من Google وDALL·E 3 وGPT‑Image‑2. وباستخدام أدوات متاحة للعامة فقط، أنتجت الطريقة صورًا جنسية غير رضائية في نحو 13% من المحاولات. ويقول الباحثون إن النماذج الأحدث «أسهل بكثير في اختراقها» مقارنة بالإصدارات السابقة. ولم تعلّق OpenAI أو Google على النتائج.
لماذا يهم
إذا ظلت المرشحات ضعيفة، فبإمكان أي شخص استخدام مولدات الصور الشائعة هذه لإنشاء محتوى عارٍ ضار بمهارات تقنية محدودة.
