Исследователи под руководством Ци Чжана представили PORA — метод для ИИ-агентов на базе больших языковых моделей, который учится определять, когда более долгие рассуждения улучшают результат. Во время обучения система дважды выполняет один и тот же шаг: сначала с коротким, затем с более длинным лимитом на рассуждения — и сравнивает итог. При работе агента управляющий модуль использует полученную оценку и учитывает оставшийся вычислительный бюджет, чтобы выбрать менее затратный вариант, не запуская оба. В тестах на заданиях, связанных с памятью, программированием, розничной торговлей и математикой, результат на одном из тестов памяти улучшился на 32,9%, а на математических заданиях число вызовов модели сократилось на 31%.
Почему это важно
Метод позволяет разработчикам создавать более эффективных ИИ-агентов, которые сохраняют качество работы и тратят меньше облачных вычислительных ресурсов. Это снижает расходы на сервисы, использующие многоэтапные рассуждения.
