# Lo sfondo di un’immagine può aggirare le protezioni dell’IA

> Uno studio mostra che modificare solo la scena sullo sfondo può indurre i modelli di IA a soddisfare richieste dannose: il metodo ha avuto successo nell’86% dei casi, su nove sistemi.

Oossa · 2026-10-14 · https://oossa.com/it/new-study-shows-scene-context-can-trick-multimodal-ai-safety

Un gruppo guidato da Tongxi Wu ha pubblicato il 14 ottobre 2026 uno studio che mette in luce una vulnerabilità nei modelli linguistici multimodali di grandi dimensioni (MLLM). La vulnerabilità, definita «vulnerabilità alla sicurezza visiva basata sulla scena», si verifica quando la scena circostante in un’immagine spinge il modello a esaudire una richiesta invece di rifiutarla, anche se la richiesta non cambia. Gli autori hanno creato un benchmark chiamato SceneSafetyBench e testato otto categorie di rischio su nove MLLM, sia in modalità white-box sia black-box. Il nuovo metodo di attacco, Scene-Grounded Attacks, ha avuto successo nell’86,17% dei casi, superando di oltre otto punti il miglior metodo di confronto precedente.

Lo studio suggerisce che migliorare soltanto la capacità dell’IA di interpretare le immagini non garantisce una maggiore sicurezza e che il significato della scena è una superficie d’attacco spesso trascurata.

## I fatti

- Studio pubblicato il 14 ottobre 2026 («mercoledì 14 ottobre 2026»)
- Tasso medio di successo degli attacchi: 86,17% su nove modelli

## Perché conta

Chi sviluppa IA multimodali deve considerare la manipolazione dello sfondo di una scena come un possibile vettore d’attacco, non solo il contenuto visivo principale.

## Fonti e riferimenti

1. [Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs](https://arxiv.org/abs/2610.14094) – arXiv cs.CV, 2026-10-14

Ultimo aggiornamento: 2026-10-14