ウェブ検索型LLM、情報空白を狙ったコンテンツを回答に反映

arXivに掲載された研究によると、戦略的に配置されたウェブページが1つあるだけで、ウェブ検索を行うAIシステムの回答に影響を与える可能性がある。研究者は、信頼できるオンライン情報が少ない話題についてChatGPT、Gemini、Sonar Proに質問し、質問の語調や攻撃者が制御できるその他の要素を変えて検証した。

テストした条件全体で、攻撃者が管理するコンテンツが回答に含まれた割合は31%だった。懐疑的な表現の質問では成功率がわずかに下がり、警告が増えたものの、質問の語調やモデルの選択による大きな影響は確認されなかった。この論文は拡張版で、NDSS Symposium 2027で発表される予定だ。