Eine auf arXiv veröffentlichte Studie zeigt, dass eine einzige strategisch platzierte Webseite die Antworten von KI-Systemen beeinflussen kann, die im Web suchen. Die Forschenden testeten ChatGPT, Gemini und Sonar Pro mit Fragen zu Themen, zu denen es nur wenige verlässliche Online-Informationen gab. Dabei variierten sie den Ton der Fragen und andere vom Angreifer kontrollierbare Faktoren.
Unter den untersuchten Bedingungen erschienen von Angreifern kontrollierte Inhalte in 31 % der Antworten. Skeptisch formulierte Fragen verringerten den Erfolg geringfügig und führten zu mehr Warnhinweisen. Große Auswirkungen des Fragetons oder der Wahl des Modells stellte die Studie jedoch nicht fest. Bei dem Paper handelt es sich um eine erweiterte Fassung, die beim NDSS Symposium 2027 vorgestellt werden soll.
Warum es wichtig ist
Wer diese Systeme zu Themen mit wenigen verlässlichen Quellen nutzt, kann auf strategisch veröffentlichte Inhalte stoßen. Der Studie zufolge bietet skeptische Formulierung nur begrenzten Schutz.
