一组LinkedIn研究人员介绍了如何用语义评分取代生成YES/NO列表，为个人资料添加资格标签。系统不再生成一整列判断结果，而是通过一次模型处理为每个候选标签评分，无需生成完整答案。论文称，候选项顺序改变时，该方法最多只会改变0.01%的判定；在与参考标签的一致性方面，它与打包生成相当，所需训练样本对约为后者的1/4.7。
一种名为Multiple-Item Scoring的批处理方法，在离线环境中将吞吐量提升了1.24倍，在模型服务中提升了1.9倍，同时满足99百分位延迟不超过一秒的目标。论文称，离线系统使用可复用的Ray Data API，服务端则依托SGLang提供的支持。
为什么重要
对于负责为LinkedIn个人资料添加标签的团队，这些提升意味着在相同的服务时限内或许能处理更多候选项；论文没有说明其他机构能否使用这种方法。
