「Invisibilization as a Source of Probability Bias in Language Models」と題したarXiv論文は、記者の人種についての説明によって、主要な言語モデルが報道をどの程度信頼しないと判断するかを測定した。6,600回のセッションで2つの壺を使うゲームを行った結果、OpenAIとAnthropicのモデルは、記者が黒人だと説明された場合、46％の割合で評価を拒否した。一方、白人だと説明された記者については9％だった。情報を評価した場合、黒人だと説明された情報源は、わずかながらより信頼されていた。複数回のラウンドを通じて正しい評価に報酬を与える採点方式を導入すると、この偏りは消えた。
なぜ重要か
AIアシスタントの開発者は、現在のLLMが人種についての認識に基づいて情報をひそかに優遇したり退けたりする可能性を把握する必要がある。顧客サポートや医療トリアージなどの用途で、公平性に影響しかねない。
