Des chercheurs dirigés par Nabaraj Subedi ont étudié la génération augmentée par récupération (RAG) sur des corpus de documents de plus en plus vastes. Dans un système du Wyoming DOT, le passage de 54 à 1 128 documents a fait chuter la précision@10 de 63 % et réduit de 23 % le rappel du document contenant la réponse. L’article propose une technique de cadrage souple qui limite la récupération aux domaines pertinents, sans entraînement supplémentaire. Les auteurs recommandent d’appliquer d’abord ce cadrage souple, puis de lancer un unique appel de synthèse.
Pourquoi c'est important
Pour les développeurs de chatbots reposant sur le RAG, l’ajout de documents peut en réalité rendre les réponses moins précises si le domaine n’est pas cadré.
