Oossa

Novo método de busca privada adiciona 0,38 s a pipelines de RAG

Pesquisadores mostram que um filtro baseado em hashing pode manter as consultas privadas, acrescentando apenas 6,5% de latência à geração aumentada por recuperação em larga escala.

NotaPor Publicado pelo Oossa: 1 min de leitura

Peichun Hua e coautores apresentaram uma técnica de busca densa privada que usa um hash binário aprendido para selecionar uma lista curta de candidatos. Em seguida, essa lista é reordenada com criptografia, mantendo ocultos tanto a consulta quanto os documentos finais. Em um conjunto de dados com 2,68 milhões de passagens, o método acrescenta apenas 0,38 segundo a uma execução de RAG com Qwen3-32B por uma conexão de 10 Gbps, igualando a qualidade da busca em todo o corpus com apenas 200-500 candidatos.

Por que importa

Empresas podem implementar buscas privadas em grandes repositórios de documentos sem uma desaceleração perceptível.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.