Oossa

Исследование: самообучающиеся агенты уязвимы к смене навыков

Исследователи представили CODA — тест, который показывает: после развертывания агенты, совместно обучающиеся с библиотекой навыков, теряют большую часть достигнутого, если библиотека меняется.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

Команда под руководством Цзиньлуань Янг опубликовала новую статью на arXiv 16 октября 2026 года. В ней показано, что агенты, обученные одновременно совершенствовать свою политику и библиотеку навыков, становятся уязвимыми, если библиотека позже меняется. Авторы предлагают новый метод оценки — CO‑evolution Drift Audit (CODA), который моделирует дрейф навыков и измеряет стабильность и устойчивость к нему. В ходе испытаний четырёх методов на пяти бенчмарках CODA выявил, что в худшем случае успешность падает на 5–13 пунктов, сводя на нет большую часть преимущества агентов перед базовой моделью без навыков.

Почему это важно

При развертывании агентам ИИ нужно проверять устойчивость к изменениям навыков, а не только пиковую производительность.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.