文書の増加でRAGの精度低下、研究で判明

Nabaraj Subedi氏らの研究チームは、文書数を増やした場合の検索拡張生成（RAG）を調べた。ワイオミング州運輸局（Wyoming DOT）のシステムでは、対象文書を54件から1,128件に増やすと、precision@10が63%低下し、回答の根拠となる文書の再現率も23%下がった。論文では、追加の学習をせずに検索対象を関連分野に絞る「ソフトスコープ」手法を提案している。著者らは、まずソフトスコープを適用し、その後に1回だけ統合処理を行うよう勧めている。