Hugging Face宣布推出FairStress基准,用于衡量大语言模型(LLM)中不易察觉的公平性差异。该基准包含来自29个领域的300个贴近现实的双候选人情境,并通过改变身份信息的呈现方式和加入对抗性提示,将测试案例扩展至1300多万个。数据和代码现已开放下载,并已集成至Olmo-eval评测平台。对15款模型的初步测试显示,明确的人口群体线索可能让模型更频繁地放弃原本表现更强的候选人,尤其是在改选有少数群体特征的候选人时。
为什么重要
开发者可以借助FairStress发现模型是否可能对少数群体过度补偿,从而构建能够在不同人口群体间始终一致地依据证据作出判断的系统。