Uno studio pubblicato su arXiv riferisce che una singola pagina web posizionata strategicamente può influenzare le risposte dei sistemi di IA che effettuano ricerche sul web. I ricercatori hanno testato ChatGPT, Gemini e Sonar Pro con domande su argomenti per i quali online scarseggiavano informazioni affidabili, variando il tono delle domande e altri fattori sotto il controllo dell’attaccante.
Nelle condizioni esaminate, le risposte hanno incluso contenuti controllati da un attaccante nel 31% dei casi. Le domande formulate in modo scettico hanno ridotto leggermente il tasso di successo e aumentato gli avvertimenti, ma lo studio non ha rilevato effetti rilevanti dovuti al tono delle domande o alla scelta del modello. Il documento è una versione ampliata, la cui presentazione è prevista al NDSS Symposium 2027.
Perché conta
Chi usa questi sistemi per informarsi su argomenti con poche fonti affidabili può imbattersi in materiale pubblicato strategicamente; secondo lo studio, formulare le domande in modo scettico offre solo una protezione limitata.
