연구진이 Pinterest의 ‘관련 핀’ 기능에 추천 핀을 찾는 데 쓰이는 PinGER 시스템을 소개했다. PinGER는 최근접 이웃 검색을 생성형 검색으로 대체한다. 기존 방식이 항목 표현 중 가까운 것을 찾았다면, 이 모델은 항목을 식별하는 토큰 시퀀스인 의미 ID를 생성한다.
논문은 기존 시스템의 절충점을 다룬다. 기존 시스템은 사용자의 활동 기록에 있는 항목 하나를 표현하는 데 여러 토큰을 쓴다. 입력을 한 번에 처리할 수 있는 양인 컨텍스트 창의 크기가 정해져 있다면, 항목마다 단일 임베딩을 쓰는 경우보다 모델이 담을 수 있는 항목 수가 줄어든다. PinGER의 저자들은 이 시스템이 생성 결과에는 의미 ID를 유지하면서 입력 기록은 더 간결하게 만든다고 설명한다.
PinGER는 기록을 어떻게 간결하게 유지할까?
PinGER는 의미 ID 토큰 사이에 항목을 간결하게 표현하는 밀집 토큰을 끼워 넣는다. 어텐션 마스크를 적용해 뒤에 오는 항목이 밀집 토큰에만 주의를 기울이도록 한다. 저자들은 이 방식으로 학습 시 모델이 모든 의미 ID 위치에서 정보를 학습하면서도, 추론 시에는 항목당 토큰 하나만 사용해 동일한 함수를 계산할 수 있다고 설명한다. 고정된 컨텍스트 창에 사용자 기록을 더 많이 담도록 하는 것이 핵심 변화다.
또한 Pinterest는 PinGER를 통해 검색 목표를 다르게 설정할 수 있다. 저자들은 목표 조건부 출력, 강화 학습, 생성되는 ID에서 접두부가 반복되는 것을 억제하는 페널티를 설명한다. 이 방식들은 각각 화면별 목표를 지원하고 후보군을 다양하게 만드는 데 쓰인다. 다만 논문 초록에는 사용자별 목표를 어떻게 설정하는지 나와 있지 않다.
관련 핀은 어떻게 달라졌나?
저자들은 PinGER가 Pinterest의 관련 핀 기능에 적용됐으며, 새 핀 저장은 3.60%, 전체 저장은 0.62% 늘었다고 보고했다. 또 해당 화면의 종단 간 지연 시간이 0.7% 줄었고, PinGER가 대체한 최근접 이웃 검색 비용은 없어졌다고 밝혔다. 이는 시스템 저자들이 보고한 결과이며, 초록에는 측정 기간이나 트래픽 수치가 제시되지 않았다.
PinGER의 서빙 구성은 가능한 출력을 폭넓게 탐색하는 와이드빔 생성에 맞춰 설계됐으며, 디코딩 과정에서 유효한 항목 식별자만 허용한다. 그런 다음 호스트 머신에 저장된 인덱스를 이용해 후보를 확인한다. 논문은 간결한 입력, 제어된 생성, 서빙 인프라를 결합한 이 방식이 실험실에서만 시험된 것이 아니라 실제 추천 제품에 적용된 시스템이라고 소개한다.
왜 중요한가
관련 핀을 둘러보는 이용자에게는 저장 수가 늘었다는 보고가 추천을 통해 더 많은 핀을 저장하게 될 가능성을 시사한다. 다만 측정된 지연 시간 변화는 크지 않다. 초록에는 결과를 측정한 기간이나 사용자별 차이가 나오지 않아 개인이 변화를 체감할지는 알 수 없다.
