Исследователи под руководством Yong Bai представили Efficiently Scalable Transformer (EST) — модель для прогнозирования кликабельности (CTR). EST обрабатывает все исходные данные в одной последовательности, не объединяя их заранее и не теряя деталей. Модель использует Lightweight Cross-Attention, чтобы сократить число избыточных взаимодействий, и Content Sparse Attention, чтобы отбирать наиболее значимые поведенческие сигналы. В испытаниях на платформе медийной рекламы Taobao EST превзошла действующую производственную модель.
Почему это важно
Рекламодатели на Taobao могут рассчитывать на больший доход от каждого показа рекламы благодаря более точным прогнозам.
