# 배경 장면만 바꿔도 멀티모달 AI 안전장치 뚫려

> 연구진은 배경 장면만 바꿔 유해한 요청을 따르게 하는 데 9개 AI 모델에서 평균 86%의 성공률을 보였다고 밝혔다.

Oossa · 2026-10-14 · https://oossa.com/ko/new-study-shows-scene-context-can-trick-multimodal-ai-safety

Tongxi Wu가 이끄는 연구팀은 2026년 10월 14일 멀티모달 대규모 언어 모델(MLLM)의 안전 취약점을 밝힌 논문을 발표했다. ‘장면 기반 시각 안전 취약점’이라 불리는 이 문제는 요청 자체는 그대로인데도 이미지 속 주변 장면 때문에 모델이 거부하던 요청을 따르게 되는 현상이다. 연구진은 SceneSafetyBench라는 벤치마크를 만들고, 9개 MLLM을 대상으로 화이트박스와 블랙박스 환경에서 8개 위험 범주를 시험했다. 새 공격 기법인 Scene-Grounded Attacks는 86.17%의 성공률을 기록해 기존 최고 기준보다 8%포인트 넘게 앞섰다.

이번 연구는 시각적 접지 능력을 높이는 것만으로는 AI의 안전성을 보장할 수 없으며, 장면의 의미가 간과돼 온 공격 경로임을 시사한다.

## 팩트

- 논문 발표일: 2026년 10월 14일(수)
- 9개 모델에서 평균 공격 성공률 86.17%

## 왜 중요한가

멀티모달 AI 개발자는 주요 시각 콘텐츠뿐 아니라 배경 장면을 조작하는 방식도 잠재적 공격 수단으로 고려해야 한다.

## 출처 및 참고 자료

1. [Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs](https://arxiv.org/abs/2610.14094) – arXiv cs.CV, 2026-10-14

최종 업데이트: 2026-10-14