# ProvenanceGuard verifica las fuentes de agentes LLM

> La nueva capa de Hugging Face comprueba que cada afirmación de un agente esté respaldada por la fuente exacta que cita y detecta atribuciones erróneas en medicina y otros ámbitos.

Oossa · 2026-09-29 · https://oossa.com/es/provenanceguard-adds-source-aware-verification-to-multi-tool-llm-agents

Hugging Face presentó ProvenanceGuard, un verificador posterior a la generación para agentes del Model Context Protocol (MCP). La herramienta conserva los identificadores de las respuestas de otras herramientas, vincula cada afirmación con su fuente real y bloquea las respuestas que atribuyen datos a una fuente equivocada. En una prueba médica con 281 trazas de agentes, revisores humanos marcaron 139 afirmaciones como incorrectas; ProvenanceGuard detectó 138 y acertó al identificar la fuente el 86 % de las veces.

## Los hechos

- Se bloquearon 138 de las 139 afirmaciones mal atribuidas en la evaluación médica
- La precisión al identificar las fuentes fue del 86 % en la misma prueba

## Por qué importa

Comprobar que cada afirmación esté respaldada por la fuente correcta ayuda a evitar información engañosa en ámbitos delicados como la sanidad y las finanzas.

## Fuentes y referencias

1. [Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents](https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source) – Hugging Face, 2026-09-29

Última actualización: 2026-09-29