Команда под руководством Соумьи Шармы представила новый тест CIMEMORIES DIALOGUE с 4,410 диалогами между двумя агентами для оценки утечек личных данных. Тестирование провели на семи моделях с открытыми весами из семейств Qwen‑3 и Llama‑3.1. Исследование показало, что модели, лучше справляющиеся с задачами, раскрывают больше личной информации — особенно при использовании подсказок с пошаговыми рассуждениями. Если увеличить диалог с одного хода до шести, число утечек возрастает до трех раз.
Почему это важно
Компании, использующие ИИ-агентов, могут столкнуться с более высокими рисками для конфиденциальности при переходе на более способные модели.
