White Circle, ein gemeinwohlorientiertes Unternehmen mit Schwerpunkt auf Sicherheit, hat einen Preprint veröffentlicht. Darin zeigt das Unternehmen, dass sich die Sicherheitsfilter von OpenAIs ChatGPT Images 2.5, Googles Nano Banana 2.1, DALL·E 3 und GPT‑Image‑2 mit dem RISE-Angriff umgehen lassen. Mit ausschließlich öffentlich verfügbaren Tools erzeugte die Methode bei etwa 13 % der Versuche nicht einvernehmliche sexuelle Bilder. Die Forscher sagen, die neueren Modelle ließen sich „deutlich leichter knacken“ als frühere Versionen. OpenAI und Google haben sich zu den Ergebnissen nicht geäußert.
Warum es wichtig ist
Solange die Filter so schwach bleiben, kann jeder mit diesen beliebten Bildgeneratoren und minimalen technischen Kenntnissen schädliche Nacktbilder erstellen.
