Oossa

Nuovo metodo per il retrieval privato: solo 0,38 s in più

I ricercatori mostrano che un filtro basato su hashing può mantenere private le query, aggiungendo appena il 6,5% di latenza al retrieval su larga scala per la generazione aumentata dal recupero.

BreveDi Pubblicato da Oossa: 1 min di lettura

Peichun Hua e i suoi coautori hanno presentato una tecnica di retrieval denso privato che usa un hash binario appreso per selezionare una breve lista di candidati. La shortlist viene poi riordinata con la crittografia, così da nascondere sia la query sia i documenti finali. Su un dataset di 2.68 milioni di passaggi, il metodo aggiunge appena 0.38 secondi a un’esecuzione RAG di Qwen3-32B su una connessione a 10-Gbps, mantenendo la qualità ottenuta sull’intero corpus con soli 200-500 candidati.

Perché conta

Le aziende possono implementare la ricerca privata su grandi archivi di documenti senza rallentamenti percepibili.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.