Un gruppo di ricercatori guidato da Nabaraj Subedi ha analizzato la generazione aumentata dal recupero (RAG) su raccolte di documenti sempre più ampie. In un sistema del Wyoming DOT, l’espansione del corpus da 54 a 1,128 documenti ha ridotto del 63% la precision@10 e del 23% il richiamo del documento contenente la risposta. Il paper propone una tecnica di delimitazione morbida dell’ambito, che limita il recupero ai domini pertinenti senza richiedere ulteriore addestramento. Gli autori raccomandano di applicare prima questa tecnica e poi di ricorrere a una singola chiamata di sintesi.
Perché conta
Per chi sviluppa chatbot basati su RAG, aggiungere documenti può rendere le risposte meno accurate, a meno di delimitare l’ambito ai domini pertinenti.
