# ProvenanceGuard vérifie les sources des agents IA multi-outils

> La nouvelle couche ProvenanceGuard de Hugging Face vérifie que chaque affirmation d’un agent s’appuie bien sur la source qu’il cite, afin de repérer les attributions erronées dans les domaines médical et autres.

Oossa · 2026-09-29 · https://oossa.com/fr/provenanceguard-adds-source-aware-verification-to-multi-tool-llm-agents

Hugging Face a lancé ProvenanceGuard, un outil de vérification après génération destiné aux agents utilisant le Model Context Protocol (MCP). Il conserve les identifiants des résultats des outils, associe chaque affirmation à sa véritable source et bloque les réponses qui attribuent des faits à la mauvaise source. Lors d’un test médical portant sur 281 traces d’agents, des évaluateurs humains ont signalé 139 affirmations erronées ; ProvenanceGuard en a détecté 138 et a identifié correctement la source dans 86 % des cas.

## Les faits

- 138 des 139 affirmations attribuées à tort ont été bloquées lors de l’évaluation médicale
- La précision de l’identification des sources était de 86 % lors du même test

## Pourquoi c'est important

Vérifier que chaque affirmation s’appuie sur la bonne source contribue à prévenir la diffusion d’informations trompeuses dans des domaines sensibles comme la santé et la finance.

## Sources et références

1. [Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents](https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source) – Hugging Face, 2026-09-29

Dernière mise à jour: 2026-09-29