A Hugging Face lançou o ProvenanceGuard, um verificador pós-geração para agentes do Model Context Protocol (MCP). A ferramenta preserva os IDs das respostas geradas pelas ferramentas, associa cada afirmação à sua fonte correta e bloqueia respostas que atribuem fatos à fonte errada. Em um teste médico com 281 registros de agentes, revisores humanos apontaram 139 afirmações incorretas; o ProvenanceGuard detectou 138 delas e identificou corretamente a fonte em 86% dos casos.
Por que importa
Garantir que cada afirmação esteja respaldada pela fonte correta ajuda a evitar informações enganosas em áreas sensíveis, como saúde e finanças.
