En forskargrupp under ledning av Tongxi Wu publicerade den 14 oktober 2026 en studie som blottlägger en säkerhetsbrist i multimodala stora språkmodeller (MLLM). Bristen, som kallas en scenförankrad visuell säkerhetssårbarhet, uppstår när miljön i en bild får modellen att gå från att vägra till att följa en uppmaning, trots att själva uppmaningen är oförändrad. Forskarna tog fram ett testmaterial med namnet SceneSafetyBench och prövade åtta riskkategorier på nio MLLM-modeller, både i white-box- och black-box-miljöer. Deras nya angreppsmetod, Scene-Grounded Attacks, lyckades i 86,17 % av fallen – mer än åtta procentenheter bättre än det tidigare bästa jämförelsealternativet.
Studien visar att förbättrad visuell förankring i sig inte garanterar säkrare AI och att scenens betydelse är en förbisedd angreppsyta.
Varför det spelar roll
Utvecklare av multimodal AI måste ta hänsyn till att manipulation av bakgrundsscener kan utnyttjas, inte bara manipulation av det huvudsakliga bildinnehållet.
