Oossa

Nieuwe methode voor privé zoeken voegt 0,38 s toe aan RAG

Onderzoekers laten zien dat een filter op basis van hashing zoekopdrachten privé kan houden, met slechts 6,5% extra vertraging bij grootschalige retrieval-augmented generation.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Peichun Hua en mede-auteurs presenteerden een techniek voor privé zoeken op basis van dense retrieval, die een geleerd binair hash gebruikt om een korte lijst met kandidaten samen te stellen. Die lijst wordt vervolgens met versleuteling opnieuw gerangschikt, zodat zowel de zoekopdracht als de uiteindelijke documenten verborgen blijven. Op een dataset met 2,68 miljoen passages voegt de methode bij een Qwen3-32B RAG-run via een verbinding van 10 Gbps slechts 0,38 seconden toe, terwijl de kwaliteit gelijk is aan die van zoeken in het volledige corpus en er maar 200-500 kandidaten nodig zijn.

Waarom het ertoe doet

Bedrijven kunnen privé zoeken in grote documentverzamelingen aanbieden zonder merkbare vertraging.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.