# Studie: Szenenkontext kann multimodale KI-Sicherheit aushebeln

> Laut Forschern lassen sich KI-Modelle allein durch einen veränderten Bildhintergrund zu schädlichen Antworten verleiten – bei neun Systemen mit einer Erfolgsquote von 86%.

Oossa · 2026-10-14 · https://oossa.com/de/new-study-shows-scene-context-can-trick-multimodal-ai-safety

Ein Team um Tongxi Wu hat am 14. Okt. 2026 eine Studie veröffentlicht, die eine Sicherheitslücke in multimodalen großen Sprachmodellen (MLLMs) aufzeigt. Die sogenannte szenengebundene visuelle Sicherheitslücke tritt auf, wenn die Umgebung in einem Bild das Modell dazu bringt, eine Anfrage zu beantworten, statt sie abzulehnen – obwohl die Anfrage selbst unverändert bleibt. Die Autoren entwickelten einen Benchmark namens SceneSafetyBench und prüften damit acht Risikokategorien bei neun MLLMs, im White-Box- wie im Black-Box-Verfahren. Ihre neue Angriffsmethode, Scene-Grounded Attacks, war in 86.17% der Fälle erfolgreich und übertraf damit den besten bisherigen Vergleichswert um mehr als acht Prozentpunkte.

Die Studie legt nahe, dass eine bessere visuelle Verankerung allein keine sicherere KI garantiert und die Bedeutung von Szenen als Angriffsfläche bislang unterschätzt wurde.

## Die Fakten

- Studie veröffentlicht am 14. Okt. 2026 ("Wed Oct 14 2026")
- Durchschnittliche Erfolgsquote des Angriffs: 86.17% bei neun Modellen

## Warum es wichtig ist

Entwickler multimodaler KI müssen Manipulationen des Bildhintergrunds als mögliche Angriffsmethode berücksichtigen – nicht nur den zentralen Bildinhalt.

## Quellen und Referenzen

1. [Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs](https://arxiv.org/abs/2610.14094) – arXiv cs.CV, 2026-10-14

Zuletzt aktualisiert: 2026-10-14