一篇发表于arXiv的论文提出了AgentMemRec,帮助AI代理从存储的记忆中挑选内容,放入容量有限的上下文窗口。该方法将每条用户请求视为推荐查询、将每条记忆视为一个项目,再通过排序和列表构建方法筛选记忆,无需调用LLM。
作者报告称,在LongMemEval的多轮会话问题上,AgentMemRec的表现比多个记忆系统高出10至31个百分点。它的表现与一个每次查询调用64次的LLM重排器持平,但服务成本低3.2倍;在LoCoMo上,它的表现也超过了Mem0和Zep,而且存储记忆时无需调用LLM。这些都是论文报告的结果;所提供的材料没有提到独立验证。
为什么重要
对于开发能跨会话记住用户信息的助手的团队,这种方法或许能降低筛选相关记忆的成本。不过,论文报告的基准测试结果并不能证明它在实际部署的产品中会有怎样的表现。