# Исследование: фон может обмануть системы безопасности мультимодального ИИ

> Исследователи выяснили, что смена одного лишь фона позволяет моделям выполнять вредоносные запросы. Успешность атаки на девяти системах составила 86%.

Oossa · 2026-10-14 · https://oossa.com/ru/new-study-shows-scene-context-can-trick-multimodal-ai-safety

Команда под руководством Tongxi Wu опубликовала 14 октября 2026 года исследование, выявившее уязвимость в системах безопасности мультимодальных больших языковых моделей (MLLM). Она получила название «уязвимость визуальной безопасности, обусловленная сценой»: окружающая обстановка на изображении может заставить модель выполнить запрос, от которого она прежде отказывалась, хотя сам запрос не меняется. Авторы создали тест SceneSafetyBench и проверили восемь категорий рисков на девяти MLLM — с доступом к внутренним компонентам моделей и без него. Новый метод атаки Scene-Grounded Attacks срабатывал в 86.17% случаев, превысив результат лучшего из предыдущих методов более чем на восемь процентных пунктов.

Исследование показывает, что одного улучшения визуального понимания недостаточно для повышения безопасности ИИ, а смысловое содержание сцены представляет собой неучтённую поверхность для атак.

## Факты

- Исследование опубликовано 14 октября 2026 года («Wed Oct 14 2026»)
- Средняя успешность атаки на девяти моделях — 86.17%

## Почему это важно

Разработчикам мультимодального ИИ необходимо учитывать манипуляции фоном как потенциальный способ атаки, а не сосредоточиваться только на основном содержимом изображения.

## Источники и ссылки

1. [Scenes as an Attack Surface: Uncovering Scene-Grounded Safety Failures in MLLMs](https://arxiv.org/abs/2610.14094) – arXiv cs.CV, 2026-10-14

Обновлено: 2026-10-14