Ein Team um Tongxi Wu hat am 14. Okt. 2026 eine Studie veröffentlicht, die eine Sicherheitslücke in multimodalen großen Sprachmodellen (MLLMs) aufzeigt. Die sogenannte szenengebundene visuelle Sicherheitslücke tritt auf, wenn die Umgebung in einem Bild das Modell dazu bringt, eine Anfrage zu beantworten, statt sie abzulehnen – obwohl die Anfrage selbst unverändert bleibt. Die Autoren entwickelten einen Benchmark namens SceneSafetyBench und prüften damit acht Risikokategorien bei neun MLLMs, im White-Box- wie im Black-Box-Verfahren. Ihre neue Angriffsmethode, Scene-Grounded Attacks, war in 86.17% der Fälle erfolgreich und übertraf damit den besten bisherigen Vergleichswert um mehr als acht Prozentpunkte.
Die Studie legt nahe, dass eine bessere visuelle Verankerung allein keine sicherere KI garantiert und die Bedeutung von Szenen als Angriffsfläche bislang unterschätzt wurde.
Warum es wichtig ist
Entwickler multimodaler KI müssen Manipulationen des Bildhintergrunds als mögliche Angriffsmethode berücksichtigen – nicht nur den zentralen Bildinhalt.
