Hugging Face heeft ProvenanceGuard uitgebracht, een controlelaag die antwoorden van agents met Model Context Protocol (MCP) achteraf controleert. De tool bewaart de ID’s van tooluitvoer, koppelt elke bewering aan de juiste bron en blokkeert antwoorden waarin feiten aan de verkeerde bron worden toegeschreven. In een medische test met 281 agenttraces bestempelden menselijke beoordelaars 139 beweringen als onjuist. ProvenanceGuard ving er 138 op en identificeerde in 86% van de gevallen de juiste bron.
Waarom het ertoe doet
Door ervoor te zorgen dat elke bewering door de juiste bron wordt onderbouwd, helpt ProvenanceGuard misleidende informatie in gevoelige sectoren zoals de gezondheidszorg en de financiële wereld te voorkomen.
