O serviço de detecção de IA Pangram informou que 99% do texto de "Donde el agua trabaja", romance vencedor do principal prêmio literário do Peru, parece ter sido gerado por um modelo de IA. A afirmação provocou um acalorado debate no meio literário. A editora Almadía, com sede no México, diz ter examinado os rascunhos originais do autor, sua correspondência e outros documentos e continua convencida de que o livro é obra de David Silva Rojas. A posição da editora foi detalhada em um ensaio publicado pela The Point Magazine.
A análise da Pangram não se limitou ao romance. Segundo o jornal espanhol El País, a ferramenta também classificou como gerados por IA mais de 80% das transcrições de entrevistas do autor, um ensaio pessoal e até a publicação em que ele negou as acusações no Instagram. Críticos do detector dizem que taxas tão altas de falsos positivos podem prejudicar a reputação de escritores, sobretudo os de grupos minoritários. O próprio autor escreveu um ensaio acusando críticos latino-americanos de rejeitarem os resultados do detector como racistas e de favorecerem histórias clichês que modelos de linguagem conseguem imitar facilmente.
A resposta da editora
A Almadía afirma ter comparado o manuscrito com rascunhos anteriores, anotações e trocas de e-mails do autor. Após essa análise, a editora decidiu manter seu apoio ao prêmio e ao autor, afirmando que a ferramenta de detecção, por si só, não deve determinar decisões editoriais. A editora francesa Gallimard, que também usa a Pangram para avaliar originais recebidos, planeja começar a analisar manuscritos com a ferramenta no próximo ano — sinal de que algumas editoras ainda veem valor na tecnologia, apesar da controvérsia.
Preocupações mais amplas com detectores de IA
Nos Estados Unidos, a Authors Guild alertou que detectores de IA como a Pangram não devem ser a única base para decisões de contratação ou publicação. A entidade observa que, em seus próprios testes internos, a Pangram teve bom desempenho ao identificar corretamente textos escritos por humanos, mas ressalta o risco de depender demais de uma única ferramenta. O debate lembra episódios anteriores, como o poema de Thélyson Orélien, cujo uso de IA foi confirmado, e as disputas envolvendo o Caine Prize e o escritor Jamir Nazir, que manteve o prêmio após acusações semelhantes.
Por que importa
Para os leitores, a controvérsia mostra que uma pontuação alta em um detector de IA não invalida automaticamente o mérito literário de um livro. Para os escritores, destaca a necessidade de padrões claros antes que ferramentas de IA sejam usadas para avaliar a autenticidade, sobretudo no caso de autores de grupos sub-representados.