Un gruppo di ricercatori ha presentato PinGER, un sistema che Pinterest usa per selezionare i consigli della funzione Related Pins. Il sistema sostituisce la ricerca dei vicini più prossimi con il recupero generativo: invece di cercare una corrispondenza simile tra le rappresentazioni degli elementi, un modello genera l’ID semantico di un elemento, cioè una sequenza di token usata per identificarlo.
L’articolo si concentra su un compromesso dei sistemi precedenti, che usano diversi token per rappresentare ogni elemento nella cronologia delle attività di una persona. Con una finestra di contesto fissa — la quantità di input che il modello può considerare in una volta — il modello può quindi includere meno elementi rispetto a un sistema in cui ciascuno è rappresentato da un solo embedding. Gli autori di PinGER affermano che il sistema conserva gli ID semantici per i risultati generati, rendendo però più compatte le cronologie in input.
Come fa PinGER a mantenere compatte le cronologie?
PinGER alterna token degli ID semantici e token densi, che forniscono una rappresentazione compatta di un elemento. La maschera di attenzione fa sì che gli elementi successivi possano prestare attenzione solo ai token densi. Gli autori spiegano che in questo modo il modello può apprendere da ogni posizione occupata da un ID semantico durante l’addestramento, ma usare un solo token per elemento in fase di inferenza, calcolando la stessa funzione. È questo il cambiamento fondamentale, pensato per consentire a una finestra di contesto fissa di includere una porzione più ampia della cronologia dell’utente.
Il sistema consente inoltre a Pinterest di orientare il recupero verso obiettivi diversi. Gli autori descrivono output condizionati dagli obiettivi, apprendimento per rinforzo e una penalità che scoraggia la ripetizione dei prefissi negli ID generati. Nel loro insieme, queste tecniche dovrebbero favorire obiettivi specifici per ciascuna superficie e un insieme di candidati più vario. L’abstract dell’articolo non spiega come vengano configurati questi obiettivi per i singoli utenti.
Che cosa è cambiato in Related Pins?
Gli autori riferiscono che PinGER è già in uso in Related Pins di Pinterest e ha aumentato del 3.60% i salvataggi di Pin recenti e dello 0.62% i salvataggi complessivi. Segnalano inoltre una riduzione dello 0.7% della latenza end-to-end della funzione e affermano che PinGER ha eliminato il costo della ricerca dei vicini più prossimi che ha sostituito. Si tratta di risultati riportati dagli autori del sistema; l’abstract non indica il periodo di misurazione né i dati sul traffico.
L’infrastruttura di PinGER è progettata per la generazione con un’ampiezza di fascio elevata, che consiste nell’esplorare molti possibili output, e limita la decodifica a identificatori di elementi validi. I candidati vengono poi risolti usando un indice archiviato sulla macchina host. L’articolo presenta questa combinazione di input compatti, generazione controllata e infrastruttura di servizio come parte di un sistema già operativo in un prodotto di raccomandazione, non come un semplice test di laboratorio.
Perché conta
Per chi sfoglia Related Pins, l’aumento dei salvataggi riportato suggerisce che i consigli potrebbero portare a salvare più Pin, mentre la variazione misurata della latenza è contenuta. L’abstract non specifica per quanto tempo siano stati misurati i risultati né come varino tra gli utenti, quindi non permette di stabilire se una singola persona noterà una differenza.
