В новой статье на arXiv представлена MEMENTO — ИИ-агент, обученный решать, какую информацию сохранять при работе с очень длинными текстами. В тестах с вопросами о книгах система повысила точность Qwen3-8B с 36.9% до 67.8%, используя за раз не более 20 000 токенов контекста. Объём книг в тестах достигал 2.5 миллиона токенов.
Этот подход решает одну из базовых проблем ИИ-систем: они не всегда могут удерживать весь длинный диалог или документ в рабочем контексте. Один из распространённых обходных путей — компактизация: ранее полученный материал заменяют краткой заметкой. Авторы статьи утверждают, что готовые агенты, в том числе GPT-5.5 и GLM-5.3, часто составляют неудачные заметки, а одного лишь обучения с подкреплением обычно недостаточно, чтобы научить их эффективно вести записи.
Как MEMENTO управляет контекстом
MEMENTO построена на базе Qwen3-8B. Сначала её обучали на синтетических примерах: заметки создавались с учётом уже известного результата, а затем на этих примерах проводилась дополнительная настройка модели. Команда также применила обучение с подкреплением — метод, при котором модель совершенствуется благодаря обратной связи. Вознаграждение зависело от правильности ответа, качества заметки и того, насколько уверенность агента соответствовала его результатам.
Систему обучили сжимать историю в новое контекстное окно. Однако, по словам авторов статьи, во время тестирования она также использовала такие приёмы, как возвращение ранее сохранённой информации в контекст и повторное обращение к предыдущим материалам при низкой уверенности. Эти стратегии позволяют агенту работать с длинными книгами, не загружая весь текст в активный контекст.
Что показывают результаты
В четырёх тестах на ответы по книгам MEMENTO набрала 67.8%. Для сравнения: агент на базе GPT-5.5 в тех же условиях получил 13.1%, а вариант с контекстом всей книги — 56.7%. Результат MEMENTO составил также 69.3% против агента на базе GLM-5.3, который, как утверждается, примерно в 100 раз больше. По данным статьи, MEMENTO обходилась менее чем в одну пятидесятую стоимости агента на базе GPT-5.5 и в одну девятую стоимости агента на базе GLM-5.3. До результата GLM-5.3 с контекстом всей книги ей не хватило 6.4 процентного пункта, при этом стоимость была в 26 раз ниже.
Это результаты, представленные авторами статьи, а не доказательство того, что MEMENTO покажет себя так же на других задачах или документах. В аннотации не названы тестовые наборы, не указана стоимость в деньгах и не уточняется, будет ли модель доступна широкой публике. Выводы относятся именно к ответам на вопросы по книгам и условиям тестирования, описанным в статье.
Почему это важно
Для разработчиков ИИ-инструментов, которым нужно отвечать на вопросы о длинных книгах, MEMENTO показывает, что обучение ведению заметок может уменьшить объём текста, который модели нужно удерживать одновременно. Результаты получены только на тестах с вопросами по книгам, поэтому пока неясно, поможет ли этот метод при работе с другими длинными документами или в повседневных задачах.
