A Aleph Alpha avaliou 12 LLMs chineses de pesos abertos e constatou que eles responderam de forma equilibrada a apenas 17–41% das perguntas politicamente sensíveis. O teste também apontou o Nemotron Cascade 2, da NVIDIA, em 17% das perguntas, porque cerca de 3,5 mil das 9,3 milhões de linhas de treinamento do modelo contêm pontos de vista do Partido Comunista Chinês. A empresa afirma que, nos próximos modelos, vai filtrar esse tipo de conteúdo, adicionar dados de alinhamento específicos e usar benchmarks como este.
Por que importa
Entender o viés político na IA ajuda usuários e órgãos reguladores a decidir o quanto esses modelos são seguros e neutros para o uso cotidiano.
