Hugging Face ha rilasciato ProvenanceGuard, un verificatore post-generazione per gli agenti Model Context Protocol (MCP). Mantiene attivi gli ID dei risultati degli strumenti, collega ogni affermazione alla sua vera fonte e blocca le risposte che attribuiscono i fatti alla fonte sbagliata. In un test medico condotto su 281 tracce di agenti, i revisori umani hanno segnalato 139 affermazioni errate; ProvenanceGuard ne ha individuate 138 e ha identificato correttamente la fonte nell’86% dei casi.
Perché conta
Verificare che ogni affermazione sia supportata dalla fonte corretta aiuta a prevenire informazioni fuorvianti in settori delicati come la sanità e la finanza.
