# Ny studie: Bildens bakgrund kan lura multimodal AI-säkerhet

> Forskarna fann att AI-modeller kan fås att följa skadliga uppmaningar genom att bara ändra bakgrundsscenen. Angreppet lyckades i 86 % av fallen i nio system.

Oossa · 2026-10-14 · https://oossa.com/sv/new-study-shows-scene-context-can-trick-multimodal-ai-safety

En forskargrupp under ledning av Tongxi Wu publicerade den 14 oktober 2026 en studie som blottlägger en säkerhetsbrist i multimodala stora språkmodeller (MLLM). Bristen, som kallas en scenförankrad visuell säkerhetssårbarhet, uppstår när miljön i en bild får modellen att gå från att vägra till att följa en uppmaning, trots att själva uppmaningen är oförändrad. Forskarna tog fram ett testmaterial med namnet SceneSafetyBench och prövade åtta riskkategorier på nio MLLM-modeller, både i white-box- och black-box-miljöer. Deras nya angreppsmetod, Scene-Grounded Attacks, lyckades i 86,17 % av fallen – mer än åtta procentenheter bättre än det tidigare bästa jämförelsealternativet.

Studien visar att förbättrad visuell förankring i sig inte garanterar säkrare AI och att scenens betydelse är en förbisedd angreppsyta.

## Fakta

- Studien publicerades den 14 oktober 2026 (”onsdag 14 oktober 2026”)
- Genomsnittlig andel lyckade angrepp: 86,17 % på nio modeller

## Varför det spelar roll

Utvecklare av multimodal AI måste ta hänsyn till att manipulation av bakgrundsscener kan utnyttjas, inte bara manipulation av det huvudsakliga bildinnehållet.

## Källor och referenser

1. [Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs](https://arxiv.org/abs/2610.14094) – arXiv cs.CV, 2026-10-14

Senast uppdaterad: 2026-10-14