Команда Джона Китаоки представила MiniLab — синтетический тестовый набор из пяти связанных сервисов, 249 безвредных задач и восьми целей для атак. С его помощью исследователи проверили распределённые атаки, в которых отдельные агенты выполняют по фрагменту вредоносного плана. Передовая система мониторинга GPT‑5.6 Sol распознала лишь 7% таких атак — против 87%, когда ту же вспомогательную задачу выполнял один агент. Последовательности атак, составленные людьми, оказывались успешными гораздо чаще, чем спланированные моделями.
Почему это важно
Командам по безопасности ИИ нужно совершенствовать мониторинг на уровне всей системы: нынешние инструменты пропускают большинство скоординированных атак агентов.
