Oossa

Ny privat sökmetod tillför 0,38 s till RAG-flöden

Forskare visar att ett hashbaserat filter kan skydda sökfrågor med endast 6,5 % högre fördröjning vid storskalig retrieval-augmented generation.

NotisAv Publicerad av Oossa: 1 min läsning

Peichun Hua och medförfattare har presenterat en metod för privat dense retrieval som använder en inlärd binär hash för att välja ut en kort lista med kandidater. Listan rangordnas sedan på nytt med kryptering, så att både sökfrågan och de slutliga dokumenten förblir dolda. På en datamängd med 2,68 miljoner textpassager tillför metoden bara 0,38 sekunder till en RAG-körning med Qwen3-32B över en 10-Gbps-länk. Kvaliteten motsvarar sökning i hela korpusen, trots att bara 200–500 kandidater används.

Varför det spelar roll

Företag kan införa privat sökning i stora dokumentsamlingar utan någon märkbar försämring av svarstiden.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.