一篇最新 arXiv 论文介绍了 MEMENTO。这是一款经过训练、能够在处理超长文本时判断哪些信息值得保留的 AI 智能体。在书籍问答测试中，该系统将 Qwen3-8B 的准确率从 36.9% 提高到 67.8%，同时每次使用的上下文不超过 20,000 tokens。测试所用书籍最长达 2.5 million tokens。
这种方法试图解决 AI 系统面临的一个基本问题：它们无法始终将一段很长的对话或文档完整保留在工作上下文中。一种常见的解决办法叫作压缩，即用一段较短的笔记替换较早的内容。论文称，包括 GPT-5.5 和 GLM-5.3 在内的现成智能体往往记不好笔记，而单靠强化学习也很少能教会它们有效记笔记。
MEMENTO如何管理上下文
MEMENTO 基于 Qwen3-8B 构建。训练首先使用合成示例：先回顾已有内容，再生成笔记；随后，团队用这些示例对模型进行微调。团队还加入了强化学习——一种通过反馈改进模型的方法，其奖励机制综合考量答案是否正确、笔记质量，以及智能体的置信度与实际表现是否相符。
训练过程中，系统需要将历史内容压缩后放入一个新的上下文窗口。不过，论文称，在测试时，系统还采用了其他方法，例如将信息重新纳入上下文，以及在置信度较低时回看较早的内容。这些策略有助于智能体处理长篇书籍，而无需将整本书都载入当前上下文。
结果说明了什么
论文称，在四项书籍问答基准测试中，MEMENTO 的得分为 67.8%；在相同测试设置下，GPT-5.5 智能体为 13.1%，使用整本书作为上下文的对照方案则为 56.7%。面对论文所称规模约大 100 倍的 GLM-5.3 智能体，MEMENTO 的得分为 69.3%。论文还称，MEMENTO 的成本不到 GPT-5.5 智能体的五十分之一、GLM-5.3 智能体的九分之一；使用整本书作为上下文时，MEMENTO 的成绩仅比 GLM-5.3 低 6.4 个百分点，成本则只有后者的二十六分之一。
这些结果来自论文作者的报告，并不能证明 MEMENTO 在其他任务或文档上也会有同样表现。摘要没有列出基准测试名称、具体费用，也未说明该模型是否公开提供。论文的发现仅适用于书籍级问答，以及文中描述的测试设置。
为什么重要
对于开发需要回答长篇书籍问题的 AI 工具的人来说，MEMENTO 表明，通过训练模型学会做笔记，或许能减少模型一次需要保留的文本量。不过，目前报告的提升仅限于书籍问答测试；这种方法是否适用于其他长文档或日常用途，仍不清楚。
