Ein Forschungsteam unter der Leitung von Yong Bai hat den Efficiently Scalable Transformer (EST) für die Vorhersage der Klickrate (CTR) vorgestellt. EST verarbeitet alle Rohdaten in einer einzigen Sequenz und vermeidet so eine vorzeitige Aggregation, bei der Details verloren gehen können. Mit Lightweight Cross-Attention werden redundante Wechselwirkungen reduziert, während Content Sparse Attention Verhaltensmuster mit hoher Aussagekraft herausfiltert. In Tests auf Taobaos Display-Werbeplattform übertraf EST das bisherige Produktionsmodell.
Warum es wichtig ist
Werbetreibende auf Taobao können dank präziserer Prognosen mit höheren Einnahmen pro Werbeeinblendung rechnen.