Hugging Face har släppt ProvenanceGuard, en kontrollfunktion efter generering för Model Context Protocol-agenter (MCP). Den bevarar ID:n för verktygsresultat, kopplar varje påstående till dess faktiska källa och stoppar svar som tillskriver fakta fel källa. I ett medicinskt test med 281 agentspår bedömde mänskliga granskare att 139 påståenden var felaktiga. ProvenanceGuard fångade upp 138 av dem och identifierade rätt källa i 86 procent av fallen.
Varför det spelar roll
Att säkerställa att varje påstående stöds av rätt källa kan bidra till att förebygga vilseledande information inom känsliga områden som sjukvård och finans.
