Исследователи под руководством Набараджа Субеди изучили, как работает генерация с поиском (RAG) при увеличении набора документов. В системе Министерства транспорта Вайоминга расширение корпуса с 54 до 1,128 документов снизило precision@10 на 63%, а полноту поиска документа с ответом — на 23%. В статье предложен метод мягкого ограничения области поиска: он позволяет искать только в релевантных разделах без дополнительного обучения. Авторы рекомендуют сначала применять мягкое ограничение области поиска, а затем выполнять один вызов для синтеза ответа.
Почему это важно
Разработчикам чат-ботов на основе RAG стоит учитывать, что добавление документов может снизить точность ответов, если не ограничить поиск релевантной областью.
