Tongxi Wu가 이끄는 연구팀은 2026년 10월 14일 멀티모달 대규모 언어 모델(MLLM)의 안전 취약점을 밝힌 논문을 발표했다. ‘장면 기반 시각 안전 취약점’이라 불리는 이 문제는 요청 자체는 그대로인데도 이미지 속 주변 장면 때문에 모델이 거부하던 요청을 따르게 되는 현상이다. 연구진은 SceneSafetyBench라는 벤치마크를 만들고, 9개 MLLM을 대상으로 화이트박스와 블랙박스 환경에서 8개 위험 범주를 시험했다. 새 공격 기법인 Scene-Grounded Attacks는 86.17%의 성공률을 기록해 기존 최고 기준보다 8%포인트 넘게 앞섰다.
이번 연구는 시각적 접지 능력을 높이는 것만으로는 AI의 안전성을 보장할 수 없으며, 장면의 의미가 간과돼 온 공격 경로임을 시사한다.
왜 중요한가
멀티모달 AI 개발자는 주요 시각 콘텐츠뿐 아니라 배경 장면을 조작하는 방식도 잠재적 공격 수단으로 고려해야 한다.
