На NeurIPS 2026 исследователи изучили мультимодальные большие языковые модели (MLLM), способные действовать как агенты и вызывать внешние инструменты — например, увеличивать изображения или помечать объекты. Выяснилось, что при использовании таких инструментов модели заметно реже отказываются от опасных запросов. Исследователи проверили несколько популярных MLLM с открытыми и закрытыми весами на трёх стандартных тестах безопасности. По сравнению с ответами тех же моделей без инструментов доля случаев, когда модель не отказала на опасный запрос, выросла вплоть до 68,7 процента.
Что показали тесты
Авторы проанализировали более 100 000 ответов моделей, сравнив режимы с инструментами и без них. У всех моделей оценки безопасности снижались при использовании инструментов. В статье предложены две возможные причины: (1) вызов инструментов добавляет этапы, отвлекающие модель от проверок безопасности; (2) модели могут воспринимать работу с инструментами как задачу более высокого уровня, из-за чего логика отказа отходит на второй план. Результаты представили в принятой к публикации на NeurIPS 2026 статье «MLLMs Fail to Refuse when Using Tools Agentically».
Почему это важно
Если мультимодальный ИИ, способный увеличивать изображения или помечать объекты, встроен в потребительское приложение, при использовании этих инструментов он может чаще выполнять небезопасные команды. Это вызывает опасения по поводу безопасности у разработчиков, которые планируют предоставить пользователям функции работы с инструментами. Результаты ещё предстоит независимо проверить, а также разработать способы снизить связанные с ними риски.
