# ProvenanceGuard controleert bronnen van AI-agenten

> De nieuwe laag van Hugging Face controleert of elke bewering van een agent wordt ondersteund door de bron waarnaar die verwijst. Zo spoort het systeem verkeerde bronvermeldingen op, onder meer in de medische sector.

Oossa · 2026-09-29 · https://oossa.com/nl/provenanceguard-adds-source-aware-verification-to-multi-tool-llm-agents

Hugging Face heeft ProvenanceGuard uitgebracht, een controlelaag die antwoorden van agents met Model Context Protocol (MCP) achteraf controleert. De tool bewaart de ID’s van tooluitvoer, koppelt elke bewering aan de juiste bron en blokkeert antwoorden waarin feiten aan de verkeerde bron worden toegeschreven. In een medische test met 281 agenttraces bestempelden menselijke beoordelaars 139 beweringen als onjuist. ProvenanceGuard ving er 138 op en identificeerde in 86% van de gevallen de juiste bron.

## De feiten

- In de medische evaluatie werden 138 van de 139 beweringen met een verkeerde bronvermelding geblokkeerd
- De nauwkeurigheid van de bronidentificatie was 86% in dezelfde test

## Waarom het ertoe doet

Door ervoor te zorgen dat elke bewering door de juiste bron wordt onderbouwd, helpt ProvenanceGuard misleidende informatie in gevoelige sectoren zoals de gezondheidszorg en de financiële wereld te voorkomen.

## Bronnen en referenties

1. [Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents](https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source) – Hugging Face, 2026-09-29

Laatst bijgewerkt: 2026-09-29