En studie som publicerats på arXiv visar att en enda strategiskt placerad webbsida kan påverka svaren från AI-system som söker på webben. Forskarna testade ChatGPT, Gemini och Sonar Pro med frågor om ämnen där det fanns ont om tillförlitlig information på nätet. De varierade frågornas ton och andra faktorer som en angripare kan styra.
I de testade förhållandena förekom innehåll som kontrollerades av en angripare i svaren 31 procent av gångerna. Skeptiskt formulerade frågor minskade framgången något och ledde till fler varningar, men studien fann inga stora effekter av frågornas ton eller valet av modell. Artikeln är en utökad version som ska presenteras vid NDSS Symposium 2027.
Varför det spelar roll
Den som använder sådana system för att söka information om ämnen med få tillförlitliga källor kan stöta på strategiskt publicerat innehåll. Studien visar samtidigt att skeptiskt formulerade frågor bara ger ett begränsat skydd.
