Uma equipe de pesquisadores apresentou o PinGER, sistema que o Pinterest usa para selecionar recomendações no recurso Pins relacionados. O sistema substitui a busca por vizinhos mais próximos pela recuperação generativa: em vez de procurar uma correspondência próxima entre representações de itens, um modelo gera o ID semântico de um item, uma sequência de tokens usada para identificá-lo.
O artigo aborda uma limitação dos sistemas anteriores. Eles usam vários tokens para representar cada item no histórico de atividade de uma pessoa. Com uma janela de contexto fixa — a quantidade de informações que o modelo pode considerar de uma só vez —, isso significa que o modelo consegue incluir menos itens do que se cada um fosse representado por um único embedding. Os autores do PinGER dizem que o sistema mantém IDs semânticos nos resultados gerados, ao mesmo tempo que torna esses históricos de entrada mais compactos.
Como o PinGER mantém os históricos compactos?
O PinGER intercala tokens de ID semântico com tokens densos, que oferecem uma representação compacta de um item. Sua máscara de atenção permite que os itens posteriores usem apenas os tokens densos. Segundo os autores, isso permite que o modelo aprenda com cada posição de ID semântico durante o treinamento, mas use um token por item na inferência, mantendo a mesma função. Essa é a principal mudança que deve permitir incluir mais informações do histórico de um usuário em uma janela de contexto fixa.
O sistema também permite que o Pinterest direcione a recuperação para diferentes objetivos. Os autores descrevem resultados condicionados por objetivo, aprendizado por reforço e uma penalidade que desestimula prefixos repetidos nos IDs gerados. Em conjunto, esses recursos buscam atender a objetivos específicos de cada superfície e oferecer um conjunto de candidatos mais variado. O resumo do artigo não explica como esses objetivos são configurados para cada usuário.
O que mudou nos Pins relacionados?
Os autores afirmam que o PinGER está implantado nos Pins relacionados do Pinterest e aumentou em 3.60% os salvamentos de Pins recentes e em 0.62% o total de salvamentos. Também relatam uma redução de 0.7% na latência de ponta a ponta do recurso e dizem que o PinGER eliminou o custo da busca por vizinhos mais próximos que substituiu. Esses resultados foram relatados pelos autores do sistema; o resumo não informa o período de medição nem os números de tráfego.
A configuração de processamento do PinGER foi projetada para gerar listas amplas de candidatos — explorando muitas saídas possíveis — e restringe a decodificação a identificadores válidos de itens. Em seguida, resolve esses candidatos usando um índice armazenado na máquina host. O artigo apresenta essa combinação de entradas compactas, geração controlada e infraestrutura de processamento como parte de um sistema já em operação em um produto de recomendações, e não apenas como um teste de laboratório.
Por que importa
Para quem navega pelos Pins relacionados, o aumento relatado nos salvamentos sugere que as recomendações podem levar mais pessoas a salvar Pins, enquanto a mudança medida na latência é pequena. O resumo não informa por quanto tempo os resultados foram medidos nem como variam entre usuários; por isso, não é possível saber se uma pessoa notará a diferença.
