پژوهشگرانی به سرپرستی Yong Bai مدل Efficiently Scalable Transformer (EST) را برای پیش‌بینی نرخ کلیک (CTR) معرفی کردند. EST همه ورودی‌های خام را در یک توالی پردازش می‌کند و از تجمیع زودهنگام داده‌ها، که ممکن است باعث از دست رفتن جزئیات شود، پرهیز می‌کند. این مدل برای کاهش تعاملات تکراری، سازوکار Lightweight Cross-Attention و برای انتخاب رفتارهای پربار از نظر اطلاعاتی، سازوکار Content Sparse Attention را به کار می‌گیرد. در آزمایش‌ها روی پلتفرم تبلیغات نمایشی Taobao، عملکرد EST از مدل فعلیِ در حال استفاده بهتر بود.
چرا مهم است
تبلیغ‌دهندگان در Taobao می‌توانند به‌لطف پیش‌بینی‌های دقیق‌تر، انتظار درآمد بیشتری از هر نمایش آگهی داشته باشند.
