Une équipe de chercheurs a présenté PinGER, un système utilisé par Pinterest pour trouver des recommandations pour sa fonctionnalité Related Pins. Il remplace la recherche par plus proches voisins par une recherche générative : au lieu de chercher une correspondance proche parmi les représentations des éléments, un modèle génère l’ID sémantique d’un élément, une séquence de tokens qui sert à l’identifier.
L’article porte sur un compromis inhérent aux systèmes antérieurs. Ceux-ci utilisent plusieurs tokens pour représenter chaque élément de l’historique d’activité d’une personne. Avec une fenêtre de contexte fixe — la quantité d’informations que le modèle peut prendre en compte à la fois — cela signifie que le modèle peut intégrer moins d’éléments que si chacun était représenté par un seul embedding. Selon les auteurs, PinGER conserve les ID sémantiques pour les résultats générés tout en compactant davantage les historiques fournis en entrée.
Comment PinGER compacte-t-il les historiques ?
PinGER entrelace des tokens d’ID sémantique et des tokens denses, qui fournissent une représentation compacte d’un élément. Son masque d’attention permet aux éléments suivants de ne prêter attention qu’aux tokens denses. Selon les auteurs, le modèle peut ainsi apprendre à partir de chaque position d’ID sémantique lors de l’entraînement, mais n’utiliser qu’un token par élément au moment de l’inférence, tout en calculant la même fonction. Ce changement vise à permettre à une fenêtre de contexte fixe d’inclure davantage d’éléments de l’historique d’un utilisateur.
Le système permet également à Pinterest d’orienter la recherche vers différents objectifs. Les auteurs décrivent des sorties conditionnées par un objectif, l’apprentissage par renforcement et une pénalité qui décourage la répétition de préfixes dans les ID générés. Ensemble, ces mécanismes visent à répondre aux objectifs propres à chaque surface et à diversifier l’ensemble des éléments proposés. Le résumé de l’article n’explique pas comment ces objectifs sont définis pour chaque utilisateur.
Qu’est-ce qui a changé dans Related Pins ?
Les auteurs indiquent que PinGER est déployé dans Related Pins et qu’il a augmenté de 3.60% les enregistrements de Pins récents et de 0.62% les enregistrements au total. Ils font aussi état d’une baisse de 0.7% de la latence de bout en bout de la fonctionnalité et affirment que PinGER a supprimé le coût de la recherche par plus proches voisins qu’il a remplacée. Ces résultats sont rapportés par les auteurs du système ; le résumé ne précise ni la période de mesure ni les chiffres de trafic.
L’infrastructure de PinGER est conçue pour une génération à faisceau large, c’est-à-dire l’exploration de nombreuses sorties possibles, et limite le décodage aux identifiants d’éléments valides. Elle retrouve ensuite les éléments correspondant à ces candidats à l’aide d’un index stocké sur la machine hôte. L’article présente cette combinaison d’entrées compactes, de génération contrôlée et d’infrastructure de traitement comme un système déjà utilisé dans un produit de recommandation, et non comme un simple test en laboratoire.
Pourquoi c'est important
Pour les personnes qui parcourent Related Pins, la hausse des enregistrements rapportée suggère que les recommandations pourraient inciter davantage d’utilisateurs à enregistrer des Pins, tandis que la baisse mesurée de la latence est faible. Le résumé ne précise ni la durée de la période de mesure ni les variations entre utilisateurs ; il ne permet donc pas de savoir si une personne remarquera une différence.
