Une équipe dirigée par Tongxi Wu a publié le 14 octobre 2026 un article qui met au jour une faille de sécurité dans les grands modèles de langage multimodaux (MLLM). Appelée « vulnérabilité de sécurité visuelle ancrée dans la scène », elle se manifeste lorsque le décor d’une image pousse le modèle à accéder à une demande qu’il aurait autrement refusée, alors que la demande elle-même n’a pas changé. Les auteurs ont conçu un banc d’essai nommé SceneSafetyBench et évalué huit catégories de risques sur neuf MLLM, en accès boîte blanche comme boîte noire. Leur nouvelle méthode d’attaque, Scene-Grounded Attacks, a réussi dans 86,17 % des cas, soit plus de huit points de mieux que la meilleure méthode de référence précédente.
L’étude indique qu’améliorer uniquement l’ancrage visuel ne suffit pas à rendre l’IA plus sûre et que la sémantique des scènes constitue une surface d’attaque négligée.
Pourquoi c'est important
Les concepteurs d’IA multimodales doivent envisager la manipulation de l’arrière-plan comme une possible faille, et pas seulement se concentrer sur le contenu visuel principal.
