저자 10명으로 구성된 연구팀은 2026년 10월 21일 arXiv에 pplx-embed-v2-late를 소개하는 기술 보고서를 게시했다. 이번 연구에서 새로 공개한 모델은 0.6 billion 파라미터 버전과 9 billion 파라미터 버전으로, 여러 언어의 텍스트와 이미지, 스캔 문서를 처리할 수 있다. 연구진은 여러 검색 과제에서 비슷한 크기의 다른 모든 시스템보다 뛰어난 성능을 보였으며, 소형 모델은 실시간 질의에 충분히 빠르다고 밝혔다.
두 모델의 연동 방식
두 모델은 18 billion 파라미터 규모의 더 큰 교사 모델을 이용한 ‘표현 증류(representation distillation)’ 방식으로 학습됐다. 대형 교사 모델이 두 새 모델에 검색에 쓰이는 숫자 벡터인 임베딩을 비슷하게 생성하도록 가르치면서도, 모델 크기는 훨씬 작게 만든다는 뜻이다. 임베딩이 같은 공간을 공유하기 때문에 사용자는 더 정확한 벡터를 만드는 9B 모델로 데이터 모음을 색인한 뒤, 응답이 빠른 경량 0.6B 모델로 검색할 수 있다.
다운로드 방법
저자들은 보고서의 ‘this https URL’ 항목에 다운로드 링크를 제공한다. 논문에는 가격이나 라이선스 정보가 없어, 연구용으로 무료 공개된 것으로 보인다.
왜 중요한가
검색 엔진이나 추천 도구를 만드는 개발자는 9B 모델로 색인 품질을 높게 유지하면서 0.6B 모델로 사용자 질의에 빠르게 응답할 수 있다. 이를 통해 다국어·이미지 중심 애플리케이션의 연산 비용을 줄일 수 있지만, 아직 독립적인 벤치마크 결과는 없다.
