Un estudio publicado en arXiv informa que una sola página web colocada estratégicamente puede influir en las respuestas de sistemas de IA que buscan información en la web. Los investigadores probaron ChatGPT, Gemini y Sonar Pro con preguntas sobre temas con poca información confiable en línea y variaron el tono de las preguntas y otros factores controlados por los atacantes.
En el conjunto de condiciones evaluadas, las respuestas incluyeron contenido controlado por un atacante el 31% de las veces. Las preguntas escépticas redujeron ligeramente la tasa de éxito y aumentaron las advertencias, pero el estudio no encontró efectos importantes del tono de las preguntas ni del modelo elegido. El artículo es una versión ampliada que se presentará en el NDSS Symposium 2027.
Por qué importa
Quienes consulten estos sistemas sobre temas con pocas fuentes confiables podrían encontrarse con material publicado estratégicamente. Según el estudio, formular las preguntas con escepticismo solo ofrece una protección limitada.
