White Circle、新型画像AIをだましてヌード画像を生成させる手法を確認

安全性を重視する公益法人White Circleは、RISE攻撃によってOpenAIのChatGPT Images 2.5、GoogleのNano Banana 2.1、DALL·E 3、GPT‑Image‑2の安全フィルターを回避できることを示すプレプリントを公開した。公開されているツールだけを使い、試行のおよそ13%で本人の同意のない性的画像を生成したという。研究者らは、新しいモデルは以前のバージョンより「大幅に突破されやすい」としている。OpenAIとGoogleは、調査結果についてコメントしていない。