# ProvenanceGuard为多工具LLM智能体增加来源核验

> Hugging Face推出新的ProvenanceGuard层，检查智能体的每项说法是否有其所引用的确切来源作为依据，从而识别医疗及其他领域中的来源误归问题。

Oossa · 2026-09-29 · https://oossa.com/zh/provenanceguard-adds-source-aware-verification-to-multi-tool-llm-agents

Hugging Face发布了ProvenanceGuard，这是一个面向模型上下文协议（MCP）智能体的生成后核验工具。它会保留工具输出的ID，将每项说法与其真实来源对应起来，并拦截把事实归给错误来源的回答。在一项针对281条智能体执行轨迹的医疗测试中，人工审查人员认定139项说法有误；ProvenanceGuard识别出了其中138项，并在86%的情况下正确找到了来源。

## 事实

- 在医疗评估中，139项来源误归说法中有138项被拦截
- 同一测试中的来源识别准确率为86%

## 为什么重要

确保每项说法都有正确来源作为依据，有助于防止医疗、金融等敏感领域出现误导性信息。

## 来源与参考

1. [Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents](https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source) – Hugging Face, 2026-09-29

最后更新: 2026-09-29