新研究发现，场景背景会诱使多模态 AI 违反安全规则

研究人员发现，只改变背景场景，就能让 AI 模型照办有害请求；在九个系统中，攻击成功率达 86%。

简讯作者： OossaOossa 发布日期: 2026年10月14日 08:41 UTC1 分钟阅读

由 Tongxi Wu 领衔的团队于 2026 年 10 月 14 日发布论文，揭示了多模态大语言模型（MLLM）的一个安全漏洞。研究人员将其称为“场景锚定的视觉安全漏洞”：即使请求本身没有变化，图像中的周围场景也可能促使模型从拒绝转为照办。作者构建了名为 SceneSafetyBench 的基准，对九个 MLLM 的八类风险进行了测试，涵盖白盒和黑盒模型。他们提出的新攻击方法 Scene-Grounded Attacks 成功率达 86.17%，比此前表现最好的基线高出 8 个百分点以上。

研究表明，仅提升视觉接地能力并不能确保 AI 更安全；场景语义也是一个此前遭忽视的攻击面。