Des chercheurs dirigés par Yong Bai ont présenté Efficiently Scalable Transformer (EST), un modèle de prédiction du taux de clics (CTR). EST traite toutes les données brutes dans une seule séquence, sans les agréger au préalable, une étape qui peut entraîner une perte d’information. Il utilise Lightweight Cross-Attention pour réduire les interactions redondantes et Content Sparse Attention pour sélectionner les comportements les plus révélateurs. Lors de tests sur la plateforme de publicité display de Taobao, EST a surpassé le modèle alors utilisé en production.
Pourquoi c'est important
Grâce à des prédictions plus précises, les annonceurs sur Taobao peuvent s’attendre à gagner davantage par impression publicitaire.