Un nouvel article publié sur arXiv présente MEMENTO, un agent d’IA entraîné à décider quelles informations conserver lorsqu’il traite des textes très longs. Lors de tests portant sur des livres, le système a fait passer la précision de Qwen3-8B de 36.9% à 67.8%, sans utiliser plus de 20 000 tokens de contexte à la fois. Les livres testés comptaient jusqu’à 2.5 millions de tokens.
Cette approche s’attaque à un problème de fond pour les systèmes d’IA : ils ne peuvent pas toujours conserver une conversation ou un document entier dans leur contexte de travail. Une solution courante, appelée compaction, consiste à remplacer les éléments précédents par une note plus courte. Selon l’article, les agents disponibles sur étagère, notamment GPT-5.5 et GLM-5.3, produisent souvent de mauvaises notes, et l’apprentissage par renforcement seul leur apprend rarement à prendre des notes efficacement.
Comment MEMENTO gère son contexte
MEMENTO repose sur Qwen3-8B. Son entraînement a commencé par des exemples synthétiques où les notes étaient rédigées rétrospectivement, puis le modèle a été affiné à partir de ces exemples. L’équipe a ensuite ajouté l’apprentissage par renforcement, une méthode qui améliore un modèle grâce aux retours reçus, avec une récompense tenant compte de l’exactitude des réponses, de la qualité des notes et de la correspondance entre la confiance de l’agent et ses performances.
Le système a été entraîné à condenser son historique dans une nouvelle fenêtre de contexte. Lors des tests, toutefois, l’article indique qu’il a aussi employé des méthodes consistant à réintégrer des informations dans son contexte et à revenir sur des éléments antérieurs lorsque son niveau de confiance était faible. Ces stratégies aident l’agent à traiter de longs livres sans charger le texte entier dans son contexte actif.
Ce que montrent les résultats
Sur quatre bancs d’essai de questions-réponses sur des livres, MEMENTO a obtenu un score de 67.8%, contre 13.1% pour un agent GPT-5.5 dans les mêmes conditions de test et 56.7% pour une comparaison utilisant le contexte du livre entier, selon l’article. Il a également obtenu 69.3% face à un agent GLM-5.3 décrit comme étant environ 100 fois plus grand. L’article indique que MEMENTO a coûté moins d’un cinquantième du prix de l’agent GPT-5.5 et un neuvième de celui de l’agent GLM-5.3 ; avec le contexte du livre entier, il n’a accusé qu’un retard de 6.4 points de pourcentage sur GLM-5.3, pour un coût 26 fois inférieur.
Ces résultats sont ceux rapportés par les auteurs de l’article ; ils ne prouvent pas que MEMENTO obtiendra les mêmes performances sur d’autres tâches ou documents. Le résumé ne précise ni le nom des bancs d’essai, ni les coûts en dollars, ni les modalités d’accès public au modèle. Les conclusions se limitent aux questions portant sur des livres et aux conditions de test décrites dans l’article.
Pourquoi c'est important
Pour les personnes qui conçoivent des outils d’IA capables de répondre à des questions sur de longs livres, MEMENTO laisse penser qu’un apprentissage de la prise de notes peut réduire la quantité de texte qu’un modèle doit garder à la fois en mémoire. Les gains rapportés se limitent aux tests portant sur des livres ; on ne sait donc pas encore si cette méthode est utile pour d’autres documents longs ou dans des usages courants.
