Een team onder leiding van Tongxi Wu publiceerde op 14 oktober 2026 een onderzoek waarin een veiligheidszwakte van multimodale large language models (MLLM's) aan het licht komt. Deze zwakte, een visuele veiligheidskwetsbaarheid die is gebaseerd op de scène, ontstaat wanneer de omgeving op een afbeelding ervoor zorgt dat het model een verzoek niet langer weigert, maar juist inwilligt — terwijl het verzoek zelf onveranderd blijft. De auteurs ontwikkelden een benchmark met de naam SceneSafetyBench en testten acht risicocategorieën op negen MLLM's, zowel in white-box- als black-boxopstellingen. Hun nieuwe aanvalsmethode, Scene-Grounded Attacks, slaagde in 86,17% van de gevallen en presteerde daarmee ruim acht procentpunt beter dan de beste eerdere referentiemethode.
Volgens het onderzoek is betere visuele grounding op zichzelf geen garantie voor veiligere AI. De betekenis van de scène vormt een aanvalsoppervlak dat tot nu toe over het hoofd is gezien.
Waarom het ertoe doet
Ontwikkelaars van multimodale AI moeten rekening houden met manipulatie van de achtergrond als mogelijke aanval, en niet alleen met de belangrijkste visuele inhoud.
