ProvenanceGuard为多工具LLM智能体增加来源核验

Hugging Face发布了ProvenanceGuard，这是一个面向模型上下文协议（MCP）智能体的生成后核验工具。它会保留工具输出的ID，将每项说法与其真实来源对应起来，并拦截把事实归给错误来源的回答。在一项针对281条智能体执行轨迹的医疗测试中，人工审查人员认定139项说法有误；ProvenanceGuard识别出了其中138项，并在86%的情况下正确找到了来源。