# 新研究发现，场景背景会诱使多模态 AI 违反安全规则

> 研究人员发现，只改变背景场景，就能让 AI 模型照办有害请求；在九个系统中，攻击成功率达 86%。

Oossa · 2026-10-14 · https://oossa.com/zh/new-study-shows-scene-context-can-trick-multimodal-ai-safety

由 Tongxi Wu 领衔的团队于 2026 年 10 月 14 日发布论文，揭示了多模态大语言模型（MLLM）的一个安全漏洞。研究人员将其称为“场景锚定的视觉安全漏洞”：即使请求本身没有变化，图像中的周围场景也可能促使模型从拒绝转为照办。作者构建了名为 SceneSafetyBench 的基准，对九个 MLLM 的八类风险进行了测试，涵盖白盒和黑盒模型。他们提出的新攻击方法 Scene-Grounded Attacks 成功率达 86.17%，比此前表现最好的基线高出 8 个百分点以上。

研究表明，仅提升视觉接地能力并不能确保 AI 更安全；场景语义也是一个此前遭忽视的攻击面。

## 事实

- 论文发表于 2026 年 10 月 14 日（“Wed Oct 14 2026”）
- 九个模型的平均攻击成功率为 86.17%

## 为什么重要

多模态 AI 开发者必须将背景场景操纵视为一种潜在攻击手段，而不能只关注主要视觉内容。

## 来源与参考

1. [Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs](https://arxiv.org/abs/2610.14094) – arXiv cs.CV, 2026-10-14

最后更新: 2026-10-14