A Aleph Alpha, empresa europeia de IA, realizou um teste com 967 perguntas sobre temas politicamente sensíveis para modelos de linguagem chineses. Foram avaliados o Qwen, da Alibaba, o DeepSeek e o Kimi, da Moonshot AI. Apenas uma pequena parcela das respostas foi considerada equilibrada; as demais repetiam pontos de vista oficiais, desviavam do assunto ou simplesmente diziam que não podiam responder.
Como os modelos chineses se comparam aos ocidentais?
Diante das mesmas perguntas delicadas, os modelos ocidentais Claude Sonnet 5 e Mistral Small deram respostas equilibradas em 70 % e 92 % dos casos, respectivamente. O DeepSeek V4 Pro se recusou a responder a cerca de dois terços das perguntas, enquanto o Qwen e o Kimi, em geral, repetiram o discurso oficial do Partido. Mesmo quando a pergunta não era sobre a China, o Qwen às vezes incluía na resposta uma defesa das políticas de internet de Pequim.
Por que esse viés aparece
As regras chinesas para IA exigem que os modelos voltados ao público reflitam os “valores socialistas fundamentais”. Esse contexto legal, somado a dados de treinamento que privilegiam fontes aprovadas pelo Estado, leva os modelos a internalizar narrativas oficiais. A Aleph Alpha também observou que o Nemotron Cascade 2, da Nvidia, reproduziu padrões alinhados ao discurso do Partido em 17 % das respostas. Segundo a empresa, isso se devia a alguns milhares de exemplos de treinamento que haviam sido gerados por modelos chineses.
Por que importa
Para os usuários na China, esse viés significa que é improvável que os chatbots forneçam informações neutras sobre questões políticas importantes, limitando o acesso a diferentes pontos de vista. Fora da China, essa tendência pode aparecer também em respostas a perguntas não políticas e influenciar sutilmente a percepção sobre as políticas chinesas. O estudo também mostra que o ambiente regulatório pode direcionar diretamente o comportamento da IA, algo importante para quem escolhe um modelo para aplicações voltadas ao público.
