Uit een studie op arXiv blijkt dat één strategisch geplaatste webpagina antwoorden van AI-systemen met webzoekfunctie kan beïnvloeden. De onderzoekers testten ChatGPT, Gemini en Sonar Pro met vragen over onderwerpen waarover online weinig betrouwbare informatie te vinden was. Daarbij varieerden ze de toon van de prompts en andere factoren die een aanvaller kan beïnvloeden.
In de geteste omstandigheden verscheen door een aanvaller beheerde content in 31% van de antwoorden. Kritische prompts verkleinden de kans op succes enigszins en leidden tot meer waarschuwingen, maar volgens de studie hadden de toon van de prompt en de keuze van het model geen grote invloed. Het artikel is een uitgebreide versie van een paper die naar verwachting verschijnt op het NDSS Symposium 2027.
Waarom het ertoe doet
Mensen die deze systemen raadplegen over onderwerpen met weinig betrouwbare bronnen, kunnen strategisch gepubliceerde informatie tegenkomen. Volgens de studie biedt een kritische formulering slechts beperkte bescherming.
