En ny arXiv-artikel med titeln ”Invisibilization as a Source of Probability Bias in Language Models” undersökte hur ofta ledande modeller vägrar lita på en rapport beroende på vilken ras reportern beskrivs tillhöra. Med ett spel med två urnor i 6 600 sessioner fann forskarna att modeller från OpenAI och Anthropic avstod från att bedöma en reporter som beskrevs som svart i 46 % av fallen, jämfört med 9 % för en reporter som beskrevs som vit. När modellerna väl bedömde informationen litade de något mer på källan som beskrevs som svart. Partiskheten försvinner när ett poängsystem belönar korrekta bedömningar under flera omgångar.
Varför det spelar roll
Utvecklare av AI-assistenter behöver känna till att dagens LLM:er i tysthet kan favorisera eller avvisa information utifrån uppfattningar om avsändarens ras. Det kan påverka rättvisan i tillämpningar som kundtjänst eller medicinsk triage.
