A OpenAI anunciou que encerrou duas contas do ChatGPT ligadas a operações de influência estrangeira. Uma campanha, chamada “Dark Clark”, foi conduzida por agentes russos e buscava disseminar notícias falsas sobre a Ucrânia na América Latina. A outra, batizada de “Bogus Bylines”, foi uma operação iraniana que publicou cerca de 100 artigos fabricados sobre o conflito entre os EUA e o Irã em sites de notícias online de todo o mundo.
Como as operações funcionavam
Os dois grupos criaram identidades falsas de jornalistas e usaram ferramentas de IA para escrever e traduzir os artigos. A equipe russa também fabricou áudios e documentos que levaram à publicação de checagens de fatos e a negativas oficiais no Equador e no Peru. O grupo iraniano publicou ainda comentários nas redes sociais, mas as postagens tiveram pouco engajamento. Segundo a OpenAI, a operação russa recebeu a classificação “categoria 5” em sua Breakout Scale porque políticos reagiram ao conteúdo — o primeiro caso desse nível em 2½ anos.
A resposta da OpenAI
A investigação da OpenAI levou ao banimento imediato das duas contas do ChatGPT usadas nas campanhas. A empresa não informou se outras contas estavam envolvidas. Também divulgou um relatório que descreve as táticas e o papel da IA nas operações, destacando que os esforços de influência tinham como alvo veículos de imprensa legítimos, e não apenas plataformas de redes sociais.
Por que importa
Para os leitores, o caso mostra que ferramentas de IA podem ser usadas indevidamente para inserir notícias falsas em veículos de imprensa confiáveis, e não apenas em redes sociais. O banimento das contas pela OpenAI pode limitar a disseminação desse conteúdo fabricado, mas o relatório também destaca que detectar desinformação impulsionada por IA continua sendo um desafio.
