arXivの論文は、限られたコンテキストウィンドウに取り込む保存済みの記憶を、AIエージェントが選ぶ手法「AgentMemRec」を提案している。ユーザーのリクエストを推薦クエリ、記憶をアイテムとして扱い、ランキングや候補リスト作成の手法を使って、LLMを呼び出さずに記憶を選択する。
著者らによると、AgentMemRecはLongMemEvalの複数セッションにまたがる質問で、複数のメモリーシステムを10~31ポイント上回った。また、クエリごとに64回の呼び出しを行うLLMリランキング手法と同等の性能を、サービングコスト3.2分の1で実現した。さらに、記憶の保存時にLLMを呼び出さず、LoCoMoでもMem0とZepを上回ったという。これらは論文で報告された結果であり、提示された資料には第三者による検証の記載はない。
なぜ重要か
セッションをまたいでユーザーを記憶するアシスタントを開発するチームにとって、この手法は関連する記憶を選ぶコストの削減につながる可能性がある。ただし、報告されたベンチマーク結果だけでは、実際に提供されている製品での性能は分からない。