# ProvenanceGuard prüft Quellen in Multi-Tool-LLM-Agenten

> Die neue Ebene ProvenanceGuard von Hugging Face prüft, ob jede Aussage eines Agenten durch genau die angegebene Quelle belegt ist – und erkennt falsche Quellenzuordnungen in der Medizin und anderen Bereichen.

Oossa · 2026-09-29 · https://oossa.com/de/provenanceguard-adds-source-aware-verification-to-multi-tool-llm-agents

Hugging Face hat ProvenanceGuard veröffentlicht, einen Prüfer für Antworten von Agenten auf Basis des Model Context Protocol (MCP). Das Tool erhält die IDs der Ausgaben anderer Tools, ordnet jede Aussage ihrer tatsächlichen Quelle zu und blockiert Antworten, in denen Fakten der falschen Quelle zugeschrieben werden. In einem medizinischen Test mit 281 Agentenprotokollen stuften menschliche Prüfer 139 Aussagen als falsch ein. ProvenanceGuard erkannte 138 davon und identifizierte in 86 Prozent der Fälle die richtige Quelle.

## Die Fakten

- In der medizinischen Auswertung wurden 138 von 139 falsch zugeordneten Aussagen blockiert.
- Die Genauigkeit bei der Quellenidentifikation lag im selben Test bei 86 Prozent.

## Warum es wichtig ist

Wenn jede Aussage durch die richtige Quelle belegt ist, lassen sich irreführende Informationen in sensiblen Bereichen wie dem Gesundheitswesen und dem Finanzwesen verhindern.

## Quellen und Referenzen

1. [Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents](https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source) – Hugging Face, 2026-09-29

Zuletzt aktualisiert: 2026-09-29