Hugging Face presentó ProvenanceGuard, un verificador posterior a la generación para agentes del Model Context Protocol (MCP). La herramienta conserva los identificadores de las respuestas de otras herramientas, vincula cada afirmación con su fuente real y bloquea las respuestas que atribuyen datos a una fuente equivocada. En una prueba médica con 281 trazas de agentes, revisores humanos marcaron 139 afirmaciones como incorrectas; ProvenanceGuard detectó 138 y acertó al identificar la fuente el 86 % de las veces.
Por qué importa
Comprobar que cada afirmación esté respaldada por la fuente correcta ayuda a evitar información engañosa en ámbitos delicados como la sanidad y las finanzas.
