सुरक्षा पर केंद्रित सार्वजनिक हित निगम White Circle ने एक प्रीप्रिंट जारी किया है। इसमें बताया गया है कि उसका RISE हमला OpenAI के ChatGPT Images 2.5, Google के Nano Banana 2.1, DALL·E 3 और GPT‑Image‑2 के सुरक्षा फ़िल्टर को चकमा दे सकता है। केवल सार्वजनिक रूप से उपलब्ध टूल का इस्तेमाल करके इस तरीके से करीब 13% कोशिशों में बिना सहमति के यौन तस्वीरें बनाई गईं। शोधकर्ताओं का कहना है कि नए मॉडल पुराने संस्करणों की तुलना में “काफी आसानी से तोड़े जा सकते हैं।” OpenAI और Google ने इन निष्कर्षों पर कोई टिप्पणी नहीं की है।
यह क्यों मायने रखता है
अगर फ़िल्टर कमज़ोर बने रहते हैं, तो कोई भी व्यक्ति मामूली तकनीकी जानकारी के साथ इन लोकप्रिय इमेज जनरेटर का इस्तेमाल करके नुकसान पहुँचाने वाली नग्न सामग्री बना सकता है।
