Onderzoekers onder leiding van Yong Bai introduceerden de Efficiently Scalable Transformer (EST) voor het voorspellen van doorklikpercentages (CTR). EST verwerkt alle ruwe invoer in één reeks en voorkomt zo dat informatie vroegtijdig wordt samengevoegd en details verloren gaan. Het model gebruikt Lightweight Cross-Attention om overbodige interacties te verminderen en Content Sparse Attention om gedragingen met veel voorspellende waarde te selecteren. In tests op het displayadvertentieplatform van Taobao presteerde EST beter dan het bestaande productiemodel.
Waarom het ertoe doet
Adverteerders op Taobao kunnen rekenen op hogere inkomsten per advertentievertoning dankzij nauwkeurigere voorspellingen.
