Oossa

새로운 비공개 고밀도 검색, RAG 지연 시간 0.38초 추가

연구진은 해싱 기반 필터로 대규모 검색 증강 생성(RAG)에서 질의 정보를 보호하면서 지연 시간은 6.5%만 늘릴 수 있다고 밝혔습니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

Peichun Hua와 공동 저자들은 학습된 이진 해시로 후보 문서 목록을 짧게 추리는 비공개 고밀도 검색 기법을 발표했습니다. 이후 암호화한 상태에서 후보 문서의 순위를 다시 매겨 질의와 최종 문서 모두를 숨깁니다. 268만 개 문단으로 구성된 데이터셋에서 이 기법은 10Gbps 연결을 통해 실행한 Qwen3-32B RAG 처리 시간을 0.38초만 늘렸으며, 후보를 200~500개만 사용하고도 전체 말뭉치 검색과 같은 품질을 달성했습니다.

왜 중요한가

기업은 눈에 띄는 속도 저하 없이 대규모 문서 저장소에서 비공개 검색을 제공할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.