Oossa

Nuevo método de recuperación densa privada añade 0,38 s a RAG

Investigadores demuestran que un filtro basado en hashing protege la privacidad de las consultas y solo añade un 6,5 % de latencia a la generación aumentada por recuperación a gran escala.

BrevePor Publicado por Oossa: 1 min de lectura

Peichun Hua y sus coautores presentaron una técnica de recuperación densa privada que usa un hash binario aprendido para seleccionar una lista breve de candidatos. Luego, esa lista se vuelve a ordenar mediante cifrado, lo que oculta tanto la consulta como los documentos finales. En un conjunto de datos de 2,68 millones de pasajes, el método añade apenas 0,38 segundos a una ejecución de RAG con Qwen3-32B a través de un enlace de 10 Gbps, y ofrece una calidad equivalente a la búsqueda en todo el corpus con solo 200-500 candidatos.

Por qué importa

Las empresas pueden implementar búsquedas privadas en grandes repositorios de documentos sin una ralentización apreciable.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.