Hugging Face a lancé ProvenanceGuard, un outil de vérification après génération destiné aux agents utilisant le Model Context Protocol (MCP). Il conserve les identifiants des résultats des outils, associe chaque affirmation à sa véritable source et bloque les réponses qui attribuent des faits à la mauvaise source. Lors d’un test médical portant sur 281 traces d’agents, des évaluateurs humains ont signalé 139 affirmations erronées ; ProvenanceGuard en a détecté 138 et a identifié correctement la source dans 86 % des cas.
Pourquoi c'est important
Vérifier que chaque affirmation s’appuie sur la bonne source contribue à prévenir la diffusion d’informations trompeuses dans des domaines sensibles comme la santé et la finance.
