# ProvenanceGuard verifica le fonti degli agenti LLM

> Il nuovo livello di Hugging Face controlla che ogni affermazione di un agente sia supportata dalla fonte esatta citata, individuando le attribuzioni errate in ambito medico e in altri settori.

Oossa · 2026-09-29 · https://oossa.com/it/provenanceguard-adds-source-aware-verification-to-multi-tool-llm-agents

Hugging Face ha rilasciato ProvenanceGuard, un verificatore post-generazione per gli agenti Model Context Protocol (MCP). Mantiene attivi gli ID dei risultati degli strumenti, collega ogni affermazione alla sua vera fonte e blocca le risposte che attribuiscono i fatti alla fonte sbagliata. In un test medico condotto su 281 tracce di agenti, i revisori umani hanno segnalato 139 affermazioni errate; ProvenanceGuard ne ha individuate 138 e ha identificato correttamente la fonte nell’86% dei casi.

## I fatti

- Nella valutazione medica sono state bloccate 138 delle 139 affermazioni attribuite alla fonte sbagliata
- Nel medesimo test, l’accuratezza nell’identificazione delle fonti è stata dell’86%

## Perché conta

Verificare che ogni affermazione sia supportata dalla fonte corretta aiuta a prevenire informazioni fuorvianti in settori delicati come la sanità e la finanza.

## Fonti e riferimenti

1. [Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents](https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source) – Hugging Face, 2026-09-29

Ultimo aggiornamento: 2026-09-29