Un equipo de investigadores dirigido por Nabaraj Subedi analizó la generación aumentada por recuperación (RAG) en conjuntos de documentos cada vez mayores. En un sistema del Departamento de Transporte de Wyoming, ampliar el corpus de 54 a 1,128 documentos redujo un 63% la precisión@10 y un 23% la recuperación del documento que contenía la respuesta. El artículo propone una técnica de delimitación flexible que restringe la recuperación a dominios pertinentes sin necesidad de entrenamiento adicional. Los autores recomiendan aplicar primero esta delimitación y, después, hacer una sola llamada de síntesis.
Por qué importa
Para quienes desarrollan chatbots basados en RAG, añadir más documentos puede reducir la precisión de las respuestas si no se delimita el dominio.
