「언어 모델의 확률 편향 요인으로서의 비가시화(Invisibilization as a Source of Probability Bias in Language Models)」라는 제목의 새 arXiv 논문은 제보자의 인종을 어떻게 묘사하느냐에 따라 주요 모델이 제보 내용을 얼마나 자주 신뢰하지 않는지 측정했다. 연구진은 6,600회에 걸쳐 두 항아리 게임을 진행한 결과, OpenAI와 Anthropic의 모델이 제보자를 흑인으로 묘사했을 때는 46%의 확률로 평가를 거부한 반면 백인으로 묘사했을 때는 9%만 거부했다고 밝혔다. 모델이 정보를 평가한 경우에는 흑인으로 묘사된 출처를 약간 더 신뢰했다. 여러 차례의 평가에서 정확한 판단에 보상을 주는 점수 체계를 적용하자 편향은 사라졌다.
왜 중요한가
AI 비서 개발자는 현재 LLM이 인종에 대한 인식에 따라 정보를 드러내지 않게 선호하거나 거부할 수 있음을 알아야 한다. 이는 고객 지원이나 의료 분류 같은 분야의 공정성에 영향을 줄 수 있다.
