Un nuevo artículo de arXiv titulado «La invisibilización como fuente de sesgo probabilístico en los modelos de lenguaje» midió con qué frecuencia los principales modelos se niegan a confiar en un relato según la raza atribuida a quien lo cuenta. En una prueba con dos urnas realizada en 6,600 sesiones, los autores descubrieron que los modelos de OpenAI y Anthropic se negaron a evaluar a una fuente descrita como negra el 46 % de las veces, frente al 9 % cuando se la describía como blanca. Cuando sí evaluaban la información, confiaban ligeramente más en la fuente descrita como negra. El sesgo desaparece cuando un sistema de puntuación premia las evaluaciones correctas a lo largo de varias rondas.
Por qué importa
Quienes desarrollan asistentes de IA deben saber que los LLM actuales pueden favorecer o rechazar información de forma inadvertida según la raza que perciban, lo que puede afectar a la equidad en aplicaciones como la atención al cliente o la clasificación de pacientes en triaje médico.
