Un equipo de investigadores presentó PinGER, un sistema que Pinterest usa para encontrar recomendaciones para su función Pins relacionados. El sistema sustituye la búsqueda del vecino más cercano por una recuperación generativa: en lugar de buscar una coincidencia cercana entre las representaciones de los elementos, un modelo genera el ID semántico de un elemento, una secuencia de tokens que sirve para identificarlo.
El artículo se centra en una disyuntiva de los sistemas anteriores. Estos usan varios tokens para representar cada elemento del historial de actividad de una persona. Con una ventana de contexto fija —la cantidad de información de entrada que el modelo puede procesar de una vez—, eso significa que el modelo puede incluir menos elementos que si cada uno usara una sola incrustación. Los autores de PinGER dicen que el sistema conserva los ID semánticos para los resultados generados y, al mismo tiempo, compacta esos historiales de entrada.
¿Cómo mantiene PinGER compactos los historiales?
PinGER intercala tokens de ID semántico con tokens densos, que ofrecen una representación compacta de un elemento. Su máscara de atención permite que los elementos posteriores atiendan solo a los tokens densos. Los autores dicen que así el modelo puede aprender de cada posición de ID semántico durante el entrenamiento y, en la inferencia, procesar un token por elemento mientras realiza la misma función. Este es el cambio principal con el que se busca incluir más historial de un usuario en una ventana de contexto fija.
El sistema también permite que Pinterest oriente la recuperación hacia distintos objetivos. Los autores describen resultados condicionados por objetivos, aprendizaje por refuerzo y una penalización que desalienta la repetición de prefijos en los ID generados. En conjunto, estas medidas buscan responder a objetivos específicos de cada superficie y ofrecer un conjunto de candidatos más diverso. El resumen del artículo no explica cómo se configuran esos objetivos para cada usuario.
¿Qué cambió en Pins relacionados?
Los autores informan que PinGER está implementado en Pins relacionados de Pinterest y que aumentó un 3.60% los guardados de Pins nuevos y un 0.62% los guardados en general. También informan de una reducción del 0.7% en la latencia integral de la superficie y dicen que PinGER eliminó el costo de la búsqueda del vecino más cercano a la que reemplazó. Estos son resultados comunicados por los autores del sistema; el resumen no indica el período de medición ni las cifras de tráfico.
La configuración de servicio de PinGER está diseñada para una generación con un haz amplio, es decir, para explorar muchas salidas posibles, y restringe la decodificación a identificadores de elementos válidos. Después resuelve esos candidatos mediante un índice almacenado en la máquina anfitriona. El artículo presenta esta combinación de entradas compactas, generación controlada e infraestructura de servicio como parte de un sistema que ya funciona en un producto de recomendaciones, y no solo como una prueba de laboratorio.
Por qué importa
Para quienes exploran Pins relacionados, el aumento de guardados informado sugiere que las recomendaciones podrían llevar a guardar más Pins, mientras que el cambio medido en la latencia es pequeño. El resumen no indica durante cuánto tiempo se midieron los resultados ni cómo varían entre usuarios, así que no permite saber si una persona notará la diferencia.
