Aleph Alpha evaluó 12 LLM chinos de pesos abiertos y descubrió que respondían de forma equilibrada a solo entre el 17 y el 41 % de las preguntas políticamente sensibles. La prueba también señaló a Nemotron Cascade 2, de NVIDIA, en el 17 % de las preguntas, porque alrededor de 3,5 mil de sus 9,3 millones de filas de entrenamiento contienen consignas del Partido Comunista Chino. La empresa afirma que sus futuros modelos filtrarán ese contenido, incorporarán datos de alineación específicos y utilizarán pruebas comparativas como esta.
Por qué importa
Entender los sesgos políticos de la IA ayuda a usuarios y reguladores a decidir hasta qué punto estos modelos son seguros y neutrales para el uso cotidiano.
