Uma equipe liderada por Tongxi Wu publicou um artigo em 14 de outubro de 2026 que revela uma vulnerabilidade de segurança em grandes modelos de linguagem multimodais (MLLMs). Chamada de vulnerabilidade de segurança visual ancorada na cena, ela ocorre quando o cenário ao redor, em uma imagem, faz o modelo deixar de recusar um pedido e passar a atendê-lo, embora o pedido em si não tenha mudado. Os autores criaram um benchmark chamado SceneSafetyBench e testaram oito categorias de risco em nove MLLMs, tanto de caixa branca quanto de caixa preta. O novo método de ataque, Scene-Grounded Attacks, teve sucesso em 86,17% dos casos, superando em mais de oito pontos o melhor método de referência anterior.
O estudo indica que melhorar apenas a ancoragem visual não garante uma IA mais segura e que a semântica das cenas é uma superfície de ataque negligenciada.
Por que importa
Quem desenvolve IA multimodal precisa considerar a manipulação do cenário ao fundo como uma possível forma de exploração, e não apenas o conteúdo visual principal.
