arXiv에 게재된 논문은 AI 에이전트가 제한된 컨텍스트 창에 어떤 저장 메모리를 불러올지 선택하는 방법인 AgentMemRec을 제안한다. 사용자 요청을 추천 질의로, 메모리 하나하나를 추천 항목으로 간주한 뒤 순위 산정과 목록 구성 기법을 활용해 LLM을 호출하지 않고 메모리를 고른다.
저자들은 여러 세션에 걸친 질문을 평가하는 LongMemEval에서 AgentMemRec이 여러 메모리 시스템보다 10~31%포인트 높은 점수를 기록했다고 보고했다. 질의당 64회 호출하는 LLM 재순위화 모델과 대등한 성능을 내면서 서비스 비용은 3.2배 낮았으며, 메모리 저장 시 LLM을 호출하지 않고도 LoCoMo에서 Mem0과 Zep보다 높은 성능을 보였다. 이는 논문이 보고한 결과이며, 제공된 자료에는 독립적인 검증 내용이 나와 있지 않다.
왜 중요한가
여러 세션에 걸쳐 사용자를 기억하는 어시스턴트를 개발하는 팀이라면 관련 메모리를 고르는 비용을 줄이는 데 이 방법이 도움이 될 수 있다. 다만 보고된 벤치마크 결과만으로 실제 제품에서의 성능까지 입증된 것은 아니다.
