Un equipo dirigido por Tongxi Wu publicó el 14 de octubre de 2026 un estudio que revela una vulnerabilidad de seguridad en los modelos multimodales de lenguaje de gran tamaño (MLLM). Esta vulnerabilidad, denominada «vulnerabilidad de seguridad visual anclada en la escena», se produce cuando el entorno que aparece en una imagen hace que el modelo pase de rechazar una solicitud a cumplirla, aunque la solicitud no haya cambiado. Los autores crearon un banco de pruebas llamado SceneSafetyBench y evaluaron ocho categorías de riesgo en nueve MLLM, tanto de caja blanca como de caja negra. Su nuevo método de ataque, Scene-Grounded Attacks, tuvo éxito el 86,17% de las veces, más de ocho puntos por encima del mejor método de referencia anterior.
El estudio indica que mejorar únicamente el anclaje visual no garantiza una IA más segura y que la semántica de las escenas es una superficie de ataque que se ha pasado por alto.
Por qué importa
Quienes desarrollan IA multimodal deben tener en cuenta la manipulación del fondo de una escena como una posible vía de ataque, no solo el contenido visual principal.
