# ProvenanceGuard verifierar källor i LLM-agenter med flera verktyg

> Hugging Faces nya lager ProvenanceGuard kontrollerar att varje påstående från en agent stöds av exakt den källa som anges och fångar upp felaktiga källhänvisningar inom medicin och andra områden.

Oossa · 2026-09-29 · https://oossa.com/sv/provenanceguard-adds-source-aware-verification-to-multi-tool-llm-agents

Hugging Face har släppt ProvenanceGuard, en kontrollfunktion efter generering för Model Context Protocol-agenter (MCP). Den bevarar ID:n för verktygsresultat, kopplar varje påstående till dess faktiska källa och stoppar svar som tillskriver fakta fel källa. I ett medicinskt test med 281 agentspår bedömde mänskliga granskare att 139 påståenden var felaktiga. ProvenanceGuard fångade upp 138 av dem och identifierade rätt källa i 86 procent av fallen.

## Fakta

- 138 av 139 felaktigt källhänvisade påståenden stoppades i den medicinska utvärderingen
- Träffsäkerheten i källidentifieringen var 86 procent i samma test

## Varför det spelar roll

Att säkerställa att varje påstående stöds av rätt källa kan bidra till att förebygga vilseledande information inom känsliga områden som sjukvård och finans.

## Källor och referenser

1. [Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents](https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source) – Hugging Face, 2026-09-29

Senast uppdaterad: 2026-09-29