В статье на arXiv представлена AgentMemRec — система, которая помогает ИИ-агентам выбирать, какие сохранённые воспоминания поместить в ограниченное контекстное окно. Каждый запрос пользователя она рассматривает как запрос на рекомендации, а каждое воспоминание — как отдельный элемент. Затем система ранжирует воспоминания и формирует набор наиболее подходящих, не обращаясь к LLM.
Авторы сообщают, что AgentMemRec показала на 10–31 процентный пункт более высокую точность, чем несколько систем памяти, при ответах на вопросы о нескольких сессиях в LongMemEval. По результатам она не уступила LLM-ранжировщику, который делает 64 вызова на запрос, при этом стоимость её работы была в 3,2 раза ниже. На тесте LoCoMo система также превзошла Mem0 и Zep, не используя вызовы LLM при сохранении воспоминаний. Это результаты, приведённые в статье; в предоставленных материалах независимая проверка не описана.
Почему это важно
Для команд, создающих ассистентов, которые запоминают информацию о пользователях между сессиями, этот метод может снизить затраты на выбор подходящих воспоминаний. Однако результаты тестов, приведённые авторами, не показывают, как система будет работать в реальных продуктах.
