Um estudo publicado no arXiv relata que uma única página da web, posicionada estrategicamente, pode influenciar as respostas de sistemas de IA que fazem buscas na internet. Os pesquisadores testaram ChatGPT, Gemini e Sonar Pro com perguntas sobre temas com pouca informação confiável disponível na internet, variando o tom das perguntas e outros fatores controlados pelos atacantes.
Nas condições avaliadas, conteúdo controlado por um atacante apareceu nas respostas em 31% dos casos. Perguntas céticas reduziram ligeiramente o sucesso e aumentaram os alertas, mas o estudo não encontrou efeitos significativos do tom das perguntas nem da escolha do modelo. O artigo é uma versão ampliada, com publicação prevista no NDSS Symposium 2027.
Por que importa
Quem usa esses sistemas para buscar informações sobre temas com poucas fontes confiáveis pode encontrar material publicado estrategicamente, e o estudo constatou que formular perguntas de maneira cética oferece apenas proteção limitada.
