Un equipo de investigadores de LinkedIn describe cómo sustituyó las listas generadas de respuestas SÍ/NO por una puntuación semántica para asignar etiquetas de cualificación a perfiles. En lugar de generar una lista de decisiones, el sistema puntúa cada etiqueta candidata mediante una pasada del modelo que evita generar una respuesta completa. Según el artículo, el método modificó como máximo el 0,01 % de las decisiones al cambiar el orden de los candidatos y obtuvo una concordancia con las etiquetas de referencia igual a la de la generación empaquetada, usando unas 4,7 veces menos pares de entrenamiento.
Un método de procesamiento por lotes llamado Multiple-Item Scoring aumentó el rendimiento 1,24 veces en pruebas offline y 1,9 veces en el servicio del modelo, con un objetivo de latencia de percentil 99 inferior a un segundo. El artículo señala que el sistema offline usa una API reutilizable de Ray Data y que el servicio aprovecha la compatibilidad de SGLang.
Por qué importa
Para los equipos que etiquetan perfiles de LinkedIn, las mejoras comunicadas podrían permitir procesar más candidatos dentro del mismo objetivo de tiempo de servicio; el artículo no indica si otras organizaciones pueden usar este método.
