# 웹 검색형 LLM, 검색 정보 부족한 주제서 조작 콘텐츠 반복

> 연구진이 ChatGPT, Gemini, Sonar Pro를 시험한 결과, 테스트 조건 전반에서 공격자가 통제하는 웹페이지의 내용이 답변에 31% 등장했다.

Oossa · 2026-10-23 · https://oossa.com/ko/study-finds-web-search-llms-can-repeat-data-void-content

arXiv에 게시된 연구에 따르면, 전략적으로 배치한 웹페이지 하나만으로도 웹 검색형 AI 시스템의 답변에 영향을 줄 수 있다. 연구진은 신뢰할 만한 온라인 정보가 부족한 주제에 관한 프롬프트를 사용해 ChatGPT, Gemini, Sonar Pro를 시험했으며, 프롬프트의 어조와 공격자가 통제할 수 있는 다른 요소를 바꿔 가며 살펴봤다.

테스트 조건 전반에서 공격자가 통제하는 콘텐츠가 답변에 등장한 비율은 31%였다. 회의적인 어조의 프롬프트는 성공률을 소폭 낮추고 경고를 늘렸지만, 연구 결과 프롬프트 어조나 모델 선택에 따른 큰 차이는 없었다. 이 논문은 확장판으로, NDSS Symposium 2027에서 발표될 예정이다.

## 팩트

- 연구의 테스트 조건 전반에서 공격자가 통제하는 콘텐츠가 답변에 31% 등장했다.
- 연구진은 ChatGPT, Gemini, Sonar Pro를 시험했다.

## 왜 중요한가

신뢰할 만한 출처가 거의 없는 주제에 관해 이들 시스템을 사용하는 사람은 전략적으로 게시된 콘텐츠를 접할 수 있다. 연구에 따르면 회의적인 표현을 사용해도 이를 막는 효과는 제한적이었다.

## 출처 및 참고 자료

1. [Data-Void Exploits in Web-Searching LLMs](https://arxiv.org/abs/2610.30365) – arXiv cs.IR, 2026-10-23

최종 업데이트: 2026-10-23