Исследователи из Princeton, Stanford, Института безопасности ИИ Великобритании и Brookings опубликовали работу «Новые тенденции в оценке ИИ-агентов». В ней рассматриваются 33 тенденции в методах оценки, исследовательской повестке и экосистеме оценки. Авторы отмечают, что проверка агентов теперь обходится в десятки тысяч долларов в виде облачных кредитов, а инструменты для анализа журналов действий агентов сами не проходили проверку. Они призывают привлекать к оценке специалистов из разных областей, создавать более качественные тесты и проводить независимые проверки с открытой методикой.
Почему это важно
Политики и спонсоры исследований могут использовать этот список рекомендаций, чтобы выделять ресурсы на независимое и прозрачное тестирование ИИ-агентов.
