# ProvenanceGuard, 다중 도구 LLM 에이전트 출처 검증 기능 추가

> Hugging Face의 새 ProvenanceGuard 계층은 에이전트의 각 주장이 인용한 정확한 출처로 뒷받침되는지 확인해 의료 등 여러 분야에서 잘못된 출처 표기를 찾아낸다.

Oossa · 2026-09-29 · https://oossa.com/ko/provenanceguard-adds-source-aware-verification-to-multi-tool-llm-agents

Hugging Face가 Model Context Protocol(MCP) 에이전트를 위한 생성 후 검증 도구 ProvenanceGuard를 출시했다. 이 도구는 도구 출력의 ID를 유지해 각 주장을 실제 출처와 대조하고, 사실을 잘못된 출처에 연결한 답변을 차단한다. 에이전트 기록 281건을 대상으로 한 의료 분야 테스트에서 사람 검토자들은 잘못된 주장 139건을 찾아냈다. ProvenanceGuard는 이 가운데 138건을 잡아냈으며, 출처를 86%의 정확도로 식별했다.

## 팩트

- 의료 분야 평가에서 출처가 잘못 표기된 주장 139건 중 138건을 차단했다
- 같은 테스트에서 출처 식별 정확도는 86%였다

## 왜 중요한가

각 주장이 올바른 출처에 근거하도록 하면 의료와 금융처럼 민감한 분야에서 오해를 부르는 정보가 퍼지는 일을 막는 데 도움이 된다.

## 출처 및 참고 자료

1. [Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents](https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source) – Hugging Face, 2026-09-29

최종 업데이트: 2026-09-29