تیمی از پژوهشگران LinkedIn از جایگزینی فهرستهای تولیدشده YES/NO با امتیازدهی معنایی برای تعیین برچسبهای واجد شرایط بودن پروفایلها میگوید. سیستم بهجای تولید فهرستی از تصمیمها، با یک بار اجرای مدل به هر برچسبِ نامزد امتیاز میدهد و از تولید پاسخ کامل پرهیز میکند. طبق مقاله، با تغییر ترتیب نامزدها حداکثر 0.01% از تصمیمها تغییر کرد و این روش با حدود 4.7 برابر جفتداده آموزشی کمتر، به همان میزان روش تولید دستهبندیشده با برچسبهای مرجع مطابقت داشت.
روشی برای دستهبندی با نام Multiple-Item Scoring، توان عملیاتی را در پردازش آفلاین 1.24 برابر و در سرویسدهی مدل 1.9 برابر افزایش داد؛ آن هم با هدف تأخیر صدک 99 کمتر از یک ثانیه. مقاله میگوید سیستم آفلاین از API قابلاستفادهمجدد Ray Data بهره میبرد و سرویسدهی مدل با پشتیبانی SGLang انجام میشود.
چرا مهم است
برای تیمهایی که پروفایلهای LinkedIn را برچسبگذاری میکنند، این دستاوردهای گزارششده میتواند به پردازش نامزدهای بیشتر در همان بازه زمانی هدف برای سرویسدهی منجر شود؛ اما مقاله نمیگوید این روش در اختیار سازمانهای دیگر هم قرار گرفته است.