Hugging Face hat ProvenanceGuard veröffentlicht, einen Prüfer für Antworten von Agenten auf Basis des Model Context Protocol (MCP). Das Tool erhält die IDs der Ausgaben anderer Tools, ordnet jede Aussage ihrer tatsächlichen Quelle zu und blockiert Antworten, in denen Fakten der falschen Quelle zugeschrieben werden. In einem medizinischen Test mit 281 Agentenprotokollen stuften menschliche Prüfer 139 Aussagen als falsch ein. ProvenanceGuard erkannte 138 davon und identifizierte in 86 Prozent der Fälle die richtige Quelle.
Warum es wichtig ist
Wenn jede Aussage durch die richtige Quelle belegt ist, lassen sich irreführende Informationen in sensiblen Bereichen wie dem Gesundheitswesen und dem Finanzwesen verhindern.
