Une étude publiée sur arXiv indique qu’une seule page web placée stratégiquement peut influencer les réponses des systèmes d’IA qui effectuent des recherches en ligne. Les chercheurs ont testé ChatGPT, Gemini et Sonar Pro avec des questions portant sur des sujets pour lesquels les informations fiables étaient rares sur Internet, en faisant varier le ton des questions et d’autres facteurs contrôlés par l’attaquant.
Dans l’ensemble des conditions testées, des contenus contrôlés par un attaquant figuraient dans les réponses 31 % du temps. Les questions formulées avec scepticisme ont légèrement réduit le taux de réussite et entraîné davantage de mises en garde, mais l’étude n’a relevé aucun effet important du ton des questions ni du choix du modèle. L’article est une version étoffée d’un travail qui doit être présenté au symposium NDSS 2027.
Pourquoi c'est important
Les personnes qui consultent ces systèmes sur des sujets pour lesquels les sources fiables sont peu nombreuses peuvent tomber sur des informations publiées de façon stratégique. Selon l’étude, formuler les questions avec scepticisme n’offre qu’une protection limitée.
