# ProvenanceGuard проверяет источники утверждений ИИ-агентов

> Новый слой ProvenanceGuard от Hugging Face проверяет, подтверждается ли каждое утверждение агента именно тем источником, на который он ссылается, и выявляет ошибки в атрибуции в медицине и других областях.

Oossa · 2026-09-29 · https://oossa.com/ru/provenanceguard-adds-source-aware-verification-to-multi-tool-llm-agents

Hugging Face выпустила ProvenanceGuard — средство проверки ответов после генерации для агентов на базе Model Context Protocol (MCP). Оно сохраняет идентификаторы результатов работы инструментов, сопоставляет каждое утверждение с его истинным источником и блокирует ответы, в которых факты приписаны не тому источнику. В медицинском тестировании на 281 трассе работы агентов люди-рецензенты отметили 139 ошибочных атрибуций; ProvenanceGuard выявила 138 из них и правильно определила источник в 86% случаев.

## Факты

- В ходе медицинского тестирования система заблокировала 138 из 139 утверждений с ошибочной атрибуцией
- В том же тестировании точность определения источника составила 86%

## Почему это важно

Проверка того, что каждое утверждение подтверждается правильным источником, помогает предотвратить распространение вводящей в заблуждение информации в чувствительных областях, таких как здравоохранение и финансы.

## Источники и ссылки

1. [Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents](https://huggingface.co/blog/MultiverseComputingCAI/getting-the-source-right-not-just-the-fact-source) – Hugging Face, 2026-09-29

Обновлено: 2026-09-29