White Circle, общественно полезная корпорация, ориентированная на безопасность, опубликовала препринт исследования. В нём показано, что атака RISE позволяет обходить фильтры безопасности ChatGPT Images 2.5 от OpenAI, Nano Banana 2.1 от Google, DALL·E 3 и GPT‑Image‑2. Используя только общедоступные инструменты, исследователи примерно в 13% попыток создавали сексуальные изображения людей без их согласия. По их словам, новые модели «гораздо легче взломать», чем предыдущие версии. OpenAI и Google не прокомментировали результаты.
Почему это важно
Если фильтры останутся слабыми, любой сможет создавать с помощью популярных генераторов изображений вредоносный контент с обнажёнными людьми, не обладая специальными техническими навыками.
